Балтімор став останнім, хто подав позов на Elon Musk's X та xAI через глибокі підробки Grok

Коротко

• Скарга цитує оцінки, що Grok за кілька днів створив до 3 мільйонів сексуалізованих зображень, у тому числі тисячі з малолітніми.
• Балтімор прагне отримати цивільні штрафи, відшкодування для постраждалих мешканців і судові накази щодо припинення ймовірних порушень.
• Юридичні експерти кажуть, що справа може залежати від того, чи вважають суди системи ШІ активними творцями шкідливого контенту, а не пасивними інструментами.

Позов Балтімора проти Elon Musk’s xAI та його чатбота Grok може визначити, наскільки далеко міста можуть йти у регулюванні штучного інтелекту за відсутності федерального законодавства, за словами одного експерта. Мер і міська рада Балтімора подали позов до суду штату Меріленд проти X Corp., xAI і SpaceX, звинувативши компанії у порушенні місцевих законів про захист прав споживачів шляхом розробки та розгортання Grok — системи генеративного ШІ, яка, за звинуваченнями, створює та поширює неза consentовані сексуалізовані зображення, у тому числі малолітніх. У позові стверджується, що Grok дозволяє користувачам «знімати одяг» або «маніпулювати зображеннями» реальних людей за мінімальних підказок, що порушує приватність мешканців і спричиняє психологічний шкоду, повідомляє юридична фірма DiCello Levitt, яка представляє місто разом із юридичним департаментом Балтімора.

 «Ці глибокі фейки, особливо ті, що зображують малолітніх, мають травматичні, довічні наслідки для жертв», — заявив у коментарі мер Балтімора Брендон М. Скотт. Цей випадок відбувається на тлі зростаючого глобального контролю за Grok, включаючи розслідування в США, ЄС, Франції, Великобританії, Австралії та Ірландії, а також федеральний колективний позов, поданий минулого тижня трьома неповнолітніми з Теннессі, які стверджують, що інструмент створював матеріали сексуального насильства над дітьми, використовуючи їхні реальні зображення. «Цей позов можна розглядати як стратегічний хід міста щодо регулювання ШІ за відсутності федерального законодавства, використовуючи норми захисту прав споживачів і запобігання шкоді для залучення компаній ШІ до відповідальності», — сказала Ішита Шарма, керуючий партнер Fathom Legal, у інтерв’ю Decrypt.

«Щодо відповідальності, хоча аргумент про користувачів, що підказують шкідливий контент, буде частиною справи, більш вагомим юридичним фокусом, ймовірно, стане питання, чи сама система ШІ суттєво сприяла цьому», — сказала Шарма, додавши, що якщо суди вважатимуть Grok «активним творцем, а не пасивним посередником», відповідальність лягатиме більше на xAI. За задумом Позов Балтімора стверджує, що компанії «розробили, просували та розгорнули» Grok, знаючи, що вона може створювати неза consentовані інтимні зображення та матеріали, схожі на дитяче сексуальне насильство, при цьому публічно заявляючи, що такі матеріали заборонені. У позові наведено оцінки, що Grok за кілька днів між 29 грудня 2025 року та 8 січня 2026 року створив від 1,8 до 3 мільйонів сексуалізованих зображень, у тому числі близько 23 000 з малолітніми, згідно з даними Центру протидії цифровій ненависті та аналізом New York Times. Балтімор стверджує, що сплеск був частково викликаний тим, що Ілон Маск підсилював функцію редагування зображень Grok, відповівши «Ідеально» на зображення себе у бікіні, згенероване цим інструментом, і кількість створених зображень зросла з приблизно 300 000 за дев’ять днів до його публікації до майже 600 000 на день у X. «X тепер є одним із найбільших розповсюджувачів NCII та CSAM», — йдеться у позові, який посилається на політики платформи, що забороняють такий контент, як доказ шахрайства. «Докази затримки запобіжних заходів або бездіяльності у разі відомих ризиків посилили б звинувачення у недбалості або безрозсудності», — сказала Шарма, додавши, що відхилення позову малоймовірне, а найімовірнішим результатом є врегулювання, хоча справа може й призвести до «прецедентного рішення щодо відповідальності ШІ». Місто прагне отримати цивільні штрафи, судовий заборону на незаконну діяльність, відшкодування для постраждалих і повернення незаконно отриманих прибутків. Decrypt звернувся до Musk через xAI і SpaceX за коментарем.