Австралийский регулятор отмечает Grok в росте жалоб на злоупотребление изображениями ИИ

Вкратце

• Комиссар по вопросам безопасности в Интернете Австралии отметил рост жалоб на чат-бот Grok Элона Маска, создающий не по согласию сексуальные изображения, с удвоением числа сообщений с конца 2025 года.
• Некоторые жалобы связаны с потенциальным материалом сексуальной эксплуатации детей, другие — с изображениями, использованными для злоупотреблений взрослыми.
• Эти опасения возникают на фоне международных расследований относительно слабого контроля контента Grok, при этом ЕС объявил “Spicy Mode” чат-бота незаконным.

Австралийский независимый регулятор по вопросам безопасности в Интернете в четверг выпустил предупреждение о росте использования Grok для генерации сексуализированных изображений без согласия, сообщив, что за последние месяцы количество жалоб на этого ИИ-чат-бота удвоилось. Комиссар по вопросам безопасности в Интернете Австралии Джули Инман Грант заявила, что некоторые сообщения связаны с потенциальным материалом сексуальной эксплуатации детей, а другие — с изображениями, использованными для злоупотреблений взрослыми. “Я глубоко обеспокоена растущим использованием генеративного ИИ для сексуализации или эксплуатации людей, особенно когда речь идет о детях”, — написала Грант в LinkedIn в четверг. 

Эти комментарии прозвучали на фоне растущей международной критики Grok, чат-бота, созданного миллиардером Элоном Маском и его стартапом xAI, который можно напрямую активировать на X для изменения фотографий пользователей. Грант предупредила, что способность ИИ генерировать “гиперреалистичный контент” облегчает злоумышленникам создание синтетического злоупотребления и усложняет работу регуляторов, правоохранительных органов и групп по защите детей. В отличие от конкурентов, таких как ChatGPT, Musk’s xAI позиционирует Grok как “острую” альтернативу, которая создает контент, от которого другие модели ИИ отказываются. В августе прошлого года был запущен “Spicy Mode” специально для создания откровенного контента. Грант предупредила, что обязательные отраслевые стандарты Австралии требуют от онлайн-сервисов внедрять меры защиты против материалов сексуальной эксплуатации детей, созданных как ИИ, так и без него.

В прошлом году eSafety приняла меры против широко используемых сервисов “nudify”, заставив их выйти с рынка Австралии, добавила она. “Мы вступили в эпоху, когда компании должны обеспечить наличие соответствующих мер и ограничений на всех этапах жизненного цикла продукта генеративного ИИ”, — сказала Грант, отметив, что eSafety “расследует и примет соответствующие меры”, используя весь спектр своих регуляторных инструментов. Рост фейков В сентябре Грант добилась первой в Австралии штрафной санкции за deepfake, когда федеральный суд оштрафовал жителя Голд-Коста Энтони Ротондо на 212 000 австралийских долларов (A$343 500) за публикацию deepfake-порнографии известных австралийских женщин. Комиссар по вопросам безопасности в Интернете подала в суд на Ротондо в 2023 году после того, как он проигнорировал уведомления о удалении, заявив, что они “ничего для него не значат”, поскольку он не является резидентом Австралии, а затем отправил изображения по электронной почте на 50 адресов, включая офис Грант и СМИ, согласно сообщению ABC News. Австралийские законодатели требуют усиления защиты от не по согласию deepfake за рамками существующих законов. Независимый сенатор Дэвид Покоок представил в ноябре законопроект “Об онлайн-безопасности и других поправках к законодательству (My Face, My Rights)”, который предусматривает штрафы до 102 000 австралийских долларов (A$165 000) для лиц, распространяющих не по согласию deepfake, и штрафы до 510 000 австралийских долларов (A$825 000) для компаний за несоблюдение требований по удалению. “Мы живем в мире, где все больше людей могут создать deepfake и использовать его по своему усмотрению”, — заявил Покоок в пресс-релизе, раскритиковав правительство за “сон на посту” в вопросах защиты ИИ.