X ужесточает Grok Image Generation после международной критики

Вкратце

• X ограничил функции генерации и редактирования изображений Grok и ограничил доступ для платных подписчиков.
• Эти изменения последовали после сообщений о несанкционированных сексуализированных AI-изображениях, включая случаи с участием несовершеннолетних.
• Регуляторы в Калифорнии, Европе и Австралии проводят расследования xAI и Grok по возможным нарушениям.

X заявил, что ограничивает функции генерации и редактирования изображений, связанные с Grok, и ограничивает доступ для платных пользователей после того, как чат-бот был использован для создания несанкционированных сексуализированных изображений реальных людей, включая несовершеннолетних. В обновлении, опубликованном аккаунтом X Safety в среду, компания добавила технические ограничения, чтобы ограничить возможности пользователей редактировать изображения реальных людей через Grok. Это решение последовало за сообщениями о том, что AI генерировал сексуализированные изображения по простым запросам, включая просьбы разместить людей в бикини. Во многих случаях пользователи напрямую отмечали Grok под фотографиями, опубликованными в X, что приводило к созданию AI отредактированных изображений, которые появлялись публично в тех же потоках. 

«Мы внедрили технические меры, чтобы предотвратить возможность аккаунта Grok редактировать изображения реальных людей в откровенной одежде, такой как бикини», — заявила компания, ссылаясь на вирусную тенденцию просить Grok помещать людей в бикини. Компания также заявила, что создание изображений и их редактирование через аккаунт Grok в X теперь доступны только платным подписчикам, что, по их словам, предназначено для повышения ответственности и предотвращения злоупотреблений инструментами Grok, нарушающими закон или политику X. Также были введены ограничения по геолокации. «Теперь мы блокируем возможность всех пользователей генерировать изображения реальных людей в бикини, нижнем белье и подобной одежде через аккаунт Grok и в Grok в X в тех юрисдикциях, где это незаконно.» Несмотря на изменения, однако, Grok продолжает позволять пользователям удалять или изменять одежду на фотографиях, загруженных напрямую в AI, согласно тестам Decrypt и отчетам пользователей после объявления.

В некоторых случаях Grok признал «пробелы в мерах безопасности» после генерации изображений девушек в возрасте 12–16 лет в минимальной одежде, что запрещено внутренней политикой компании. Продолжение доступности этих функций вызвало критику со стороны правозащитных групп. «Если сообщения о том, что Grok создавал сексуализированные изображения — особенно детей — правдивы, то, возможно, было нарушено законодательство Техаса», — заявил Адриан Шелли, директор Public Citizen в Техасе. «Техасские власти не должны далеко ходить, чтобы расследовать эти обвинения. X находится в районе Остина, и штат несет ясную ответственность за выяснение, были ли нарушены законы, и, если да, какие меры наказания оправданы.» Ранее Public Citizen призвал правительство США исключить Grok из списка допустимых моделей ИИ из-за опасений по поводу расизма, проявляемого чат-ботом. Глобальный отклик Международные политики также усилили контроль за Grok, начав несколько открытых расследований. Европейская комиссия заявила, что X и xAI могут столкнуться с применением мер в рамках Digital Services Act, если меры по обеспечению безопасности Grok останутся недостаточными. В то же время, комиссар по вопросам безопасности в Австралии заявил, что жалобы, связанные с Grok и несанкционированными сексуальными изображениями, созданными AI, удвоились с конца 2025 года. Регулятор отметил, что инструменты AI для создания реалистичных редактирований усложняют контроль и защиту жертв. В Великобритании регуляторы из Ofcom открыли расследование в отношении X по Закону о онлайн-безопасности, связанное с использованием Grok для генерации нелегальных сексуализированных дипфейков, включая случаи с участием несовершеннолетних. Официальные лица заявили, что Ofcom в конечном итоге может потребовать судебных мер, которые фактически заблокируют сервис в Великобритании, если X будет признан несоответствующим требованиям и не предпримет исправительных мер. Другие страны, включая Малайзию, Индонезию и Южную Корею, также начали расследования по поводу Grok в целях защиты несовершеннолетних. Несмотря на то, что штаты по всей Америке следят за ситуацией, первым штатом, начавшим расследование, стала Калифорния. В среду генеральный прокурор Калифорнии Роб Бонта объявил о расследовании xAI и Grok по поводу создания и распространения несанкционированных сексуальных изображений женщин и детей.

«Обвал сообщений, описывающих несанкционированные, сексуально откровенные материалы, которые xAI создал и разместил в сети за последние недели, шокирует. Эти материалы, изображающие женщин и детей в обнаженном и сексуально откровенном виде, использовались для преследования людей по всему интернету», — заявил Бонта в своем заявлении. Расследование сосредоточится на том, нарушило ли внедрение xAI с помощью Grok законы штата, регулирующие несанкционированные интимные изображения и сексуальную эксплуатацию детей. «Я призываю xAI принять немедленные меры, чтобы это не продолжалось», — сказал Бонта. «У нас нулевая терпимость к созданию и распространению AI-основанных несанкционированных интимных изображений или материалов о сексуальном насилии над детьми.» Несмотря на продолжающиеся расследования, X заявил, что занимает позицию «ноль терпимости» к сексуальной эксплуатации детей, несанкционированной наготе и нежелательному сексуальному контенту. «Мы предпринимаем меры по удалению контента, нарушающего наши правила, включая материалы о сексуальном насилии над детьми (CSAM) и несанкционированную наготу, принимая соответствующие меры против аккаунтов, нарушающих наши правила X», — написала компания. «Мы также сообщаем правоохранительным органам о аккаунтах, ищущих материалы о сексуальной эксплуатации детей, по мере необходимости.»