Há uma preocupação crescente com o conteúdo explícito gerado por IA a inundar as plataformas sociais. A questão dos sistemas automatizados produzirem material inadequado tem atraído atenção séria dos responsáveis políticos, que argumentam que esse tipo de conteúdo representa um desafio significativo de moderação. As empresas de tecnologia enfrentam uma pressão crescente para implementar controles mais rigorosos sobre mídia sintética, especialmente quando algoritmos amplificam outputs de baixa qualidade ou prejudiciais. Isso levanta questões críticas sobre a responsabilidade das plataformas e se as atuais medidas de segurança de IA são suficientes para prevenir o uso indevido em grande escala.