Existe una preocupación creciente por el contenido explícito generado por IA que inunda las plataformas sociales. El problema de los sistemas automatizados que producen material inapropiado ha llamado la atención seria de los responsables políticos, quienes argumentan que dicho contenido representa un desafío importante de moderación. Las empresas tecnológicas enfrentan una presión creciente para implementar controles más estrictos sobre los medios sintéticos, especialmente cuando los algoritmos amplifican resultados de baja calidad o dañinos. Esto plantea preguntas críticas sobre la responsabilidad de la plataforma y si las medidas actuales de seguridad de IA son suficientes para prevenir el uso indebido a gran escala.