X Aperta restrições na geração de imagens Grok após reação internacional

Resumo

• A X restringiu as funcionalidades de geração e edição de imagens do Grok e limitou o acesso a assinantes pagos.
• As mudanças ocorreram após relatos de imagens AI sexualizadas não consensuais, incluindo aquelas envolvendo menores.
• Reguladores na Califórnia, Europa e Austrália estão a investigar a xAI e o Grok por possíveis violações.

A X afirmou que está a restringir as funcionalidades de geração e edição de imagens associadas ao Grok, limitando o acesso a utilizadores pagos após o chatbot ter sido utilizado para criar imagens sexualizadas não consensuais de pessoas reais, incluindo menores. Numa atualização publicada pela conta de Segurança da X na quarta-feira, a empresa adicionou restrições técnicas para limitar como os utilizadores podem editar imagens de pessoas reais através do Grok. A medida seguiu relatos de que a IA gerou imagens sexualizadas em resposta a comandos simples, incluindo pedidos para colocar pessoas de biquíni. Em muitos casos, os utilizadores marcaram diretamente o Grok sob fotos postadas na X, fazendo com que a IA gerasse imagens editadas que apareciam publicamente nos mesmos tópicos. 

“Implementámos medidas tecnológicas para impedir que a conta do Grok permita editar imagens de pessoas reais com roupas reveladoras, como biquínis,” afirmou a empresa, referindo-se à tendência viral de pedir ao Grok para colocar pessoas de biquíni. A empresa também disse que a criação e edição de imagens através da conta do Grok na X estão agora disponíveis apenas para assinantes pagos, uma mudança que, segundo ela, visa melhorar a responsabilidade e prevenir o uso indevido das ferramentas de imagem do Grok que violem a lei ou as políticas da X. A empresa também instituiu restrições baseadas na localização. “Agora bloqueamos geograficamente a capacidade de todos os utilizadores de gerar imagens de pessoas reais de biquíni, roupa interior e vestuário semelhante via a conta do Grok e no Grok na X nessas jurisdições onde é ilegal.” Apesar das mudanças, no entanto, o Grok continua a permitir aos utilizadores remover ou alterar roupas de fotos carregadas diretamente na IA, de acordo com testes do Decrypt e relatos de utilizadores após o anúncio.

Em alguns casos, o Grok reconheceu “lapsos nas salvaguardas” após gerar imagens de raparigas com idades entre 12 e 16 anos com roupas mínimas, conduta proibida pelas próprias políticas da empresa. A contínua disponibilidade dessas funcionalidades tem suscitado críticas de grupos de defesa. “Se os relatos de que o Grok criou imagens sexualizadas—particularmente de crianças—forem verdadeiros, pode ter havido violação da lei do Texas,” afirmou Adrian Shelley, diretor do Public Citizen no Texas, numa declaração. “As autoridades do Texas não precisam de procurar muito para investigar essas alegações. A X tem sede na área de Austin, e o estado tem uma responsabilidade clara de determinar se as suas leis foram violadas e, em caso afirmativo, quais as penalizações adequadas.” O Public Citizen já pediu anteriormente ao governo dos EUA que retire o Grok da sua lista de modelos de IA aceitáveis devido a preocupações de racismo exibido pelo chatbot. Reação global Os formuladores de políticas globais também aumentaram o escrutínio sobre o Grok, levando a várias investigações abertas. A Comissão Europeia afirmou que a X e a xAI podem enfrentar ações de fiscalização ao abrigo do Digital Services Act se as salvaguardas do Grok continuarem inadequadas. Ao mesmo tempo, o Comissário de Segurança Digital da Austrália afirmou que as queixas envolvendo o Grok e imagens sexualizadas geradas por IA sem consentimento duplicaram desde o final de 2025. O regulador disse que as ferramentas de geração de imagens por IA capazes de produzir edições realistas complicam a aplicação da lei e a proteção das vítimas. No Reino Unido, reguladores da Ofcom abriram uma investigação à X ao abrigo do Online Safety Act, devido ao uso do Grok para gerar imagens deepfake sexualizadas ilegais, incluindo aquelas envolvendo menores. Os responsáveis disseram que a Ofcom pode, em última análise, procurar medidas apoiadas pelo tribunal que efetivamente bloqueiem o serviço no Reino Unido se a X for considerada não conforme e não tomar ações corretivas. Outros países, incluindo Malásia, Indonésia e Coreia do Sul, também abriram investigações ao Grok na tentativa de proteger menores. Enquanto os Estados nos EUA monitorizam a situação, a Califórnia é o primeiro a abrir uma investigação ao Grok. Na quarta-feira, o Procurador-Geral da Califórnia, Rob Bonta, anunciou uma investigação à xAI e ao Grok devido à criação e disseminação de imagens sexualmente explícitas não consensuais de mulheres e crianças.

“A avalanche de relatos detalhando material sexualmente explícito e não consensual que a xAI produziu e publicou online nas últimas semanas é chocante. Este material, que retrata mulheres e crianças em situações nuas e sexualmente explícitas, tem sido usado para assediar pessoas na internet,” afirmou Bonta numa declaração. A investigação irá analisar se a implementação do Grok pela xAI violou leis estaduais que regulam imagens íntimas não consensuais e exploração sexual infantil. “Exorto a xAI a tomar medidas imediatas para garantir que isto não vá mais longe,” disse Bonta. “Temos tolerância zero para a criação e disseminação de imagens íntimas não consensuais ou material de abuso sexual infantil baseado em IA.” Apesar das investigações em curso, a X afirmou que mantém uma postura de “tolerância zero” para a exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado. “Tomamos medidas para remover conteúdos violadores de alta prioridade, incluindo Material de Abuso Sexual Infantil (CSAM) e nudez não consensual, tomando as ações apropriadas contra contas que violem as nossas Regras da X,” escreveu a empresa. “Também reportamos contas que procuram materiais de Exploração Sexual Infantil às autoridades policiais, conforme necessário.”