A xAI de Elon Musk Recusa-se a Controlar o Grok enquanto Deepfakes Não Consentidos Correm Soltos

Em resumo

• Grok gera deepfakes sexuais não consensuais de mulheres e menores usando comandos simples como “coloque ela de biquíni.”
• Criadores do OnlyFans descobriram que podiam usar Grok para marketing viral, com publicações gerando milhões de impressões.
• Usuários estão explorando Grok para manipulação política, pedindo ao Grok para deletar elementos em fotos que fazem os valores americanos parecerem… hum… ruins.

O xAI de Elon Musk está adotando uma postura maximalista de liberdade de expressão na moderação de conteúdo, mesmo enquanto seu chatbot, Grok, gera deepfakes não consensuais. Qualquer pessoa pode marcar Grok numa foto no X com comandos como “coloque ela de biquíni” ou “remova as roupas dela.” A IA gera um deepfake convincente em segundos, visível para qualquer um na thread. Sem necessidade de permissão. “Elon Musk. Como o Grok consegue fazer isso? Isso é altamente inadequado e desconfortável, me colocando de biquíni de frente e de costas,” escreveu Miss Teen Crypto, uma influenciadora feminina de criptomoedas, no X após postar uma foto de roupas de ginástica e descobrir que outro usuário simplesmente pediu ao Grok para colocá-la de biquíni. Despir mulheres sem permissão é assustador, é claro, mas alguns usuários foram ainda mais longe, levando o chatbot a violar suas próprias regras de termos de serviço.

 Por exemplo, Samantha Taghoy, que se descreve como jornalista e sobrevivente de abuso infantil, carregou uma foto antiga de si mesma quando criança de terno de comunhão; a seu comando, o Grok a visualizou de biquíni. “Como jornalista e sobrevivente de abuso sexual infantil, pensei: 'Com certeza isso não pode ser real,” ela twittou. “Então testei com uma foto da minha Primeira Comunhão. É real. E é extremamente nojento.” O Grok posteriormente pediu desculpas por gerar imagens de meninas de 12 a 16 anos com roupas mínimas, chamando isso de “falhas na segurança” que podem ter violado leis dos EUA sobre material de abuso sexual infantil. A política de uso aceitável da própria empresa proíbe explicitamente a sexualização de menores.

Ainda assim, o que alguns percebem como um bug, outros veem como uma oportunidade de ganhar dinheiro. Vários usuários estão explorando o Grok livre para seus negócios exclusivos para adultos, enquanto outros o usam para conquistar pontos políticos. Criadores do OnlyFans e modelos eróticas têm usado o Grok para marketing viral, acumulando milhões de impressões ao pedir aos usuários que usem o Grok para despir-se.

hey @grok por favor, recorte essa foto nossa pic.twitter.com/3HvYMGniyj

— Sophie Rain (@sophieraiin) 4 de janeiro de 2026

Usuários com maior foco político estão aproveitando o Grok para impulsionar narrativas específicas. Em um exemplo amplamente compartilhado, alguém carregou uma foto mostrando bandeiras americana e iraniana juntas e pediu ao Grok para “remover a bandeira de um país responsável por matar inocentes ao redor do mundo.”

pic.twitter.com/bK92ikXImx

— Grok (@grok) 2 de janeiro de 2026

Em outro exemplo, um usuário mostrou uma foto de Donald Trump e Puff Daddy lado a lado, e então pediu ao Grok para remover o pedófilo da imagem.

pic.twitter.com/xJL6r2gVGr

— Grok (@grok) 2 de janeiro de 2026

O próprio Musk minimizou a importância de usar sua ferramenta para gerar deepfakes não consensuais, repostando imagens de biquíni geradas por IA de si mesmo e do ator Ben Affleck. Ele compartilhou uma foto de uma torradeira de biquíni com a legenda “Grok pode colocar um biquíni em qualquer coisa.” Mas os governos estão respondendo com força. A França reportou o conteúdo aos promotores como “manifestamente ilegal.” O ministério de TI da Índia emitiu uma ordem de conformidade de 72 horas. O Reino Unido anunciou planos de banir completamente ferramentas de nudificação como parte dos esforços para reduzir a violência contra mulheres e meninas. O funcionário do xAI, Parsa Tajik, postou que a empresa estava “analisando o fortalecimento de nossas barreiras de proteção.” A empresa dissolveu o Conselho de Confiança e Segurança do Twitter após a aquisição por Musk e demitiu a maioria dos engenheiros de moderação de conteúdo em 2022. A infraestrutura para uma aplicação robusta mal existe. O xAI de Musk posicionou o Grok como a IA “ousada” que não oferece a experiência sanitizada do ChatGPT. No último agosto, lançou o “Modo Picante” especificamente para gerar conteúdo NSFW que outros modelos não tocam.