X посилює Grok Image Generation після міжнародної критики

Коротко

• X обмежив функції генерації та редагування зображень Grok і обмежив доступ для платних підписників.
• Зміни були внесені після повідомлень про неузгоджені сексуалізовані AI-зображення, зокрема ті, що стосуються неповнолітніх.
• Регулятори в Каліфорнії, Європі та Австралії розслідують xAI і Grok щодо потенційних порушень.

X заявив, що обмежує функції генерації та редагування зображень, пов’язані з Grok, і обмежує доступ для платних користувачів після того, як чатбот був використаний для створення неузгоджених сексуалізованих зображень реальних людей, у тому числі неповнолітніх. У оновленні, опублікованому акаунтом безпеки X у середу, компанія додала технічні обмеження, щоб обмежити можливості користувачів редагувати зображення реальних людей через Grok. Це рішення було прийнято після повідомлень про те, що AI генерував сексуалізовані зображення у відповідь на прості запити, зокрема прохання помістити людей у бікіні. У багатьох випадках користувачі тегували Grok безпосередньо під фотографіями, опублікованими у X, що спричиняло створення AI відредагованих зображень, які публічно з’являлися у тих самих потоках. 

“Ми впровадили технологічні заходи, щоб запобігти можливості акаунту Grok редагувати зображення реальних людей у відкритому одязі, наприклад, у бікіні,” — заявила компанія, посилаючись на вірусний тренд просити Grok помістити людей у бікіні. Компанія також повідомила, що створення та редагування зображень через акаунт Grok у X тепер доступні лише платним підписникам, що, за її словами, має покращити відповідальність і запобігти зловживанням інструментами для створення зображень, які порушують закон або політику X. Також компанія запровадила обмеження за місцезнаходженням. “Ми тепер геоблокуємо можливість усім користувачам генерувати зображення реальних людей у бікіні, нижній білизні та подібному одязі через акаунт Grok і у Grok у X у тих юрисдикціях, де це заборонено законом.” Незважаючи на зміни, проте, Grok продовжує дозволяти користувачам видаляти або змінювати одяг на фотографіях, завантажених безпосередньо в AI, згідно з тестуваннями Decrypt і звітами користувачів після оголошення.

У деяких випадках Grok визнав “збої у заходах безпеки” після створення зображень дівчат віком від 12 до 16 років у мінімальному одязі, що заборонено політикою компанії. Тому, що ці можливості залишаються доступними, вони привернули увагу правозахисних груп. “Якщо повідомлення про те, що Grok створював сексуалізовані зображення — особливо дітей — є правдою, можливо, було порушено закони Техасу,” — заявив Адріан Шеллі, директор Public Citizen у Техасі, у заяві. “Техаські органи влади не мають далеко йти, щоб розслідувати ці звинувачення. X має штаб-квартиру в районі Остін, і штат має чітку відповідальність визначити, чи були порушені закони, і, якщо так, які покарання є виправданими.” Public Citizen раніше закликав уряд США вилучити Grok зі списку прийнятних моделей AI через побоювання щодо расизму, проявленого чатботом. Глобальна реакція Глобальні політики також посилили контроль над Grok, що призвело до кількох відкритих розслідувань. Європейська комісія заявила, що X і xAI можуть бути піддані застосуванню санкцій відповідно до Закону про цифрові послуги, якщо заходи безпеки щодо Grok залишаться недостатніми. У той же час, комісар з безпеки в Австралії повідомив, що скарги, пов’язані з Grok і неузгодженими сексуалізованими AI-зображеннями, подвоїлися з кінця 2025 року. Регулятор зазначив, що інструменти для створення AI-зображень, здатні створювати реалістичні редагування, ускладнюють застосування законів і захист жертв. У Великобританії регулятори з Ofcom відкрили розслідування щодо X відповідно до Закону про онлайн-безпеку через використання Grok для створення нелегальних сексуалізованих дипфейків, зокрема тих, що стосуються неповнолітніх. Офіційні особи заявили, що Ofcom у кінцевому підсумку може звернутися до суду з заходами, які фактично заблокують сервіс у Великобританії, якщо X буде визнано невідповідним і не вживе заходів. Інші країни, зокрема Малайзія, Індонезія і Південна Корея, також відкрили розслідування щодо Grok з метою захисту неповнолітніх. Поки штати Америки слідкують за ситуацією, Каліфорнія стала першою, хто відкрив розслідування щодо Grok. У середу генеральний прокурор Каліфорнії Роб Бонта оголосив про розслідування xAI і Grok через створення та поширення неузгоджених сексуально відкритих зображень жінок і дітей.

“Лавина повідомлень, що детально описують неузгоджений, сексуально відкритий матеріал, який створює і публікує xAI у мережі за останні тижні, є шокуючою. Цей матеріал, що зображує жінок і дітей у голому та сексуально відкритому стані, використовувався для залякування людей у мережі,” — сказав Бонта у заяві. Розслідування має з’ясувати, чи порушило розгортання xAI Grok закони штату щодо неузгоджених інтимних зображень і сексуальної експлуатації дітей. “Я закликаю xAI вжити негайних заходів, щоб це не продовжувалося,” — сказав Бонта. “Ми не терпимо створення і поширення неузгоджених інтимних зображень або матеріалів сексуального насильства над дітьми за допомогою AI.” Незважаючи на тривалі розслідування, X заявила, що дотримується політики “нульової толерантності” щодо сексуальної експлуатації дітей, неузгодженої оголеності та небажаного сексуального контенту. “Ми вживаємо заходів для видалення високоприоритетного порушувального контенту, включаючи Матеріали сексуального насильства над дітьми (CSAM) та неузгоджену оголеність, застосовуючи відповідні заходи щодо акаунтів, що порушують наші правила X,” — написала компанія. “Ми також повідомляємо правоохоронним органам про акаунти, що шукають матеріали сексуальної експлуатації дітей, за необхідності.”