Ngày càng có nhiều lo ngại về nội dung nhạy cảm do AI tạo ra tràn lan trên các nền tảng xã hội. Vấn đề của các hệ thống tự động sản xuất nội dung không phù hợp đã thu hút sự chú ý nghiêm trọng từ các nhà hoạch định chính sách, những người cho rằng nội dung như vậy đặt ra thách thức lớn về mặt kiểm duyệt. Các công ty công nghệ đang phải đối mặt với áp lực ngày càng tăng để thực thi các biện pháp kiểm soát nghiêm ngặt hơn đối với phương tiện tổng hợp, đặc biệt khi các thuật toán làm tăng cường các sản phẩm chất lượng thấp hoặc có hại. Điều này đặt ra các câu hỏi quan trọng về trách nhiệm của nền tảng và liệu các biện pháp an toàn AI hiện tại có đủ để ngăn chặn việc lạm dụng quy mô lớn hay không.