Elon Musk's xAI se niega a controlar a Grok mientras los deepfakes no consensuados se descontrolan

En resumen

• Grok genera deepfakes sexuales no consensuados de mujeres y menores utilizando instrucciones simples como “ponla en bikini.”
• Creadores de OnlyFans descubrieron que podían usar Grok para marketing viral, con publicaciones que generan millones de impresiones.
• Los usuarios están explotando Grok para manipulación política, pidiéndole a Grok eliminar elementos en fotos que hacen que los valores estadounidenses parezcan… ahem… malos.

xAI de Elon Musk adopta la postura maximalista de libertad de expresión en la moderación de contenido, incluso cuando su chatbot, Grok, genera deepfakes no consensuados. Cualquiera puede etiquetar a Grok en una foto en X con instrucciones como “ponla en bikini” o “quítale la ropa.” La IA genera un deepfake convincente en segundos, visible para cualquiera en el hilo. Sin necesidad de permiso. “Elon Musk. ¿Cómo puede hacer esto Grok? Esto es muy inapropiado e incómodo, poniéndome en bikini de frente y de espaldas,” escribió Miss Teen Crypto, una influencer femenina de criptomonedas, en X después de publicar una foto con ropa de gimnasio y descubrir que otro usuario simplemente le pidió a Grok que la pusiera en bikini. Desnudar mujeres sin permiso es inquietante, por supuesto, pero algunos usuarios han ido aún más lejos, empujando al chatbot a violar sus propias reglas de términos de servicio.

 Por ejemplo, Samantha Taghoy, quien se describe a sí misma como periodista y sobreviviente de abuso infantil, subió una foto antigua de ella misma de niña con un vestido de comunión; a su instrucción, Grok la visualizó en bikini. “Como periodista y sobreviviente de abuso sexual infantil, pensé, ‘Esto no puede ser real,’” tuiteó. “Así que lo probé con una foto de mi Primera Comunión. Es real. Y es jodidamente enfermizo.” Grok luego se disculpó por generar imágenes de niñas de 12 a 16 años con ropa mínima, calificándolo como “fallos en las salvaguardas” que podrían haber violado las leyes de EE. UU. sobre material de abuso sexual infantil. La política de uso aceptable de la propia empresa prohíbe explícitamente sexualizar a menores.

Aún así, lo que algunos perciben como un error, otros lo ven como una oportunidad de negocio. Varios usuarios están explotando la libertad de Grok para sus negocios solo para adultos, mientras otros lo usan para obtener puntos políticos. Creadores de OnlyFans y modelos eróticas han estado usando Grok para marketing viral, acumulando millones de impresiones pidiéndole a los usuarios que usen Grok para desnudarlas.

hey @grok por favor recorta esta foto de nosotros pic.twitter.com/3HvYMGniyj

— Sophie Rain (@sophieraiin) 4 de enero de 2026

Usuarios con mayor interés político están aprovechando Grok para impulsar narrativas específicas. En un ejemplo ampliamente compartido, alguien subió una foto mostrando banderas de Estados Unidos e Irán juntas y pidió a Grok que “elimine la bandera de un país responsable de matar inocentes en todo el mundo.”

pic.twitter.com/bK92ikXImx

— Grok (@grok) 2 de enero de 2026

En otro ejemplo, un usuario mostró una foto de Donald Trump y Puff Daddy juntos, y luego pidió a Grok que eliminara al pedófilo en la imagen.

pic.twitter.com/xJL6r2gVGr

— Grok (@grok) 2 de enero de 2026

El propio Musk ha minimizado la importancia de usar su herramienta para generar deepfakes no consensuados, republicando imágenes generadas por IA de él mismo y del actor Ben Affleck. Compartió una foto de una tostadora en bikini con la leyenda “Grok puede poner un bikini en cualquier cosa.” Pero los gobiernos están respondiendo con fuerza. Francia ha reportado el contenido a los fiscales como “manifiestamente ilegal.” El Ministerio de Tecnología de la India emitió una orden de cumplimiento de 72 horas. El Reino Unido anunció planes para prohibir completamente las herramientas de desnudez como parte de los esfuerzos para reducir la violencia contra mujeres y niñas. El empleado de xAI, Parsa Tajik, publicó que la compañía estaba “analizando una mayor restricción de nuestras barreras de protección.” La empresa disolvió el Consejo de Confianza y Seguridad de Twitter tras la adquisición de Musk y despidió a la mayoría de los ingenieros de moderación de contenido en 2022. La infraestructura para una aplicación sólida apenas existe. xAI de Musk ha posicionado a Grok como la IA “atrevida” que no ofrece la experiencia sanitizada de ChatGPT. En agosto pasado, lanzó “Modo Picante” específicamente para generar contenido NSFW que otros modelos no tocarían.