Các cơ quan quản lý đang đặt ra những mối quan ngại nghiêm trọng về các deepfake do AI tạo ra trên các nền tảng mạng xã hội lớn, đặc biệt liên quan đến Grok và các công cụ tạo nội dung tương tự. Mục tiêu là làm rõ cách các nền tảng xử lý việc tạo ra và phát tán phương tiện tổng hợp—một thách thức ngày càng tăng đối với việc kiểm duyệt nội dung. Các chuyên gia trong ngành cảnh báo rằng nếu không có các biện pháp bảo vệ nghiêm ngặt hơn, công nghệ deepfake có thể làm suy yếu niềm tin vào các không gian kỹ thuật số trong các hệ sinh thái fintech và Web3. Điều này báo hiệu sự giám sát chặt chẽ hơn trong việc tích hợp AI vào các nền tảng phi tập trung.