Народ потребує поганого капіталіста, AI створив чутки про доставку їжі

Написано: Кері, Deep潮 TechFlow

Минулого тижня сталася досить магічна історія.

Два великі американські служби доставки, керівники яких — один із них має статки 27 мільярдів доларів, інший керує найбільшим у світі сервісом таксі — у ніч з п’ятниці на суботу не спали і писали у мережі короткі есе, щоб довести свою невинність.

Причиною стала анонімна публікація на Reddit.

Автор посту назвав себе бекенд-інженером великої служби доставки, був напідпитку і вийшов у бібліотеку через WiFi, щоб викласти інформацію.

Зміст був приблизно таким:

Компанія аналізує ситуацію водіїв таксі і ставить їм «відчайдушний бал», чим більше грошей їм потрібно, тим гірше їм дають замовлення; так званий пріоритет у доставці їжі — фальшивий, звичайні замовлення затримуються; всі «винагороди для водіїв» — це порожні обіцянки, гроші йдуть на лобіювання у Конгресі проти профспілок…

Наприкінці посту все виглядало дуже переконливо: я напідпитку, я злий, тому вирішив викласти цю інформацію.

Це цілком створювало образ «великої компанії, яка за допомогою алгоритмів експлуатує водіїв» — роль «свідомого донощика».

Через три дні після публікації пост зібрав 87 000 лайків і потрапив на головну Reddit. Також хтось зробив скріншот і виклав у X, отримавши 36 мільйонів переглядів.

Варто зазначити, що на ринку доставки їжі в США є кілька великих гравців, і хоча у пості не названо компанії, всі здогадуються, хто це міг бути.

Генеральний директор DoorDash Тоні Сюй одразу відреагував у Твіттері, сказавши, що це не їхня робота, і хто б не намагався так зробити, його звільнять. COO Uber також виступив із заявою: «Не вірте всьому, що бачите в інтернеті».

Навіть на офіційному сайті DoorDash з’явилася п’ятипунктова заява, у якій вони спростовують кожен пункт викладеного. Ці дві компанії, разом вартістю понад 800 мільярдів доларів, змушені були терміново проводити PR-кампанію через анонімний пост.

Але потім з’ясувалося, що цей пост — штучний інтелект.

Розкрив його журналіст із закордонного медіа Platformer Кейсі Ньютона.

Він зв’язався з автором викриття, і той одразу надіслав 18-сторінковий «внутрішній технічний документ» із назвою «AllocNet-T: High-Dimensional Temporal Supply State Modeling».

Переклад — «Моделювання високовимірного часово-динамічного стану пропозиції». Кожна сторінка із водяним знаком «таємно» і підписана від імені «відділу динаміки ринку, поведінкової економіки Uber».

Зміст — це пояснення моделі, яка ставила «відчайдушний бал» водіям у Reddit. Там є схеми архітектури, математичні формули, діаграми потоків даних…

(фейшний скріншот наукової статті, з перших поглядів — дуже схоже на справжню)

Ньютон сказав, що ця документація спершу його обманула. Хто витрачає час на підробку 18-сторінкового технічного документа, щоб залучити журналіста?

Але тепер ситуація змінилася.

Цей 18-сторінковий документ можна згенерувати за кілька хвилин за допомогою AI.

Крім того, викривач надіслав журналісту зім’яну фотографію свого робочого посвідчення Uber із закодованим ім’ям, щоб показати, що він справді працює там.

З цікавості Ньютона він завантажив цю фотографію у Google Gemini для перевірки, і результат показав, що це AI-згенероване зображення.

Виявити це вдалося тому, що Google у своїх AI-генерованих матеріалах заклав невидимий водяний знак — SynthID, який не видно людським оком, але може бути виявлений машиною.

Ще більш дивно — на посвідченні був логотип «Uber Eats».

Представник Uber підтвердив: у них немає посвідчень із логотипом Uber Eats, усі працівники мають лише логотип Uber.

Очевидно, цей фальшивий «свідок» навіть не зрозумів, кого він намагається «злити». Коли журналіст попросив надати профілі у LinkedIn або інших соцмережах для подальшої перевірки,

викривач просто видалив акаунт і зник.

Насправді, ми не про AI, який може підробляти, — це вже давно не новина.

Нас більше цікавить: чому мільйони людей готові повірити у анонімний викриття-пост?

У 2020 році DoorDash програли суд за те, що використовували чайові для зменшення базової зарплати водіїв і заплатили 16,75 мільйонів доларів. Uber створив інструмент Greyball, щоб уникати регулювання. Це — реальні історії.

Легко знайти підсвідоме підтвердження: платформи — погані, і це безперечно.

Тому, коли хтось каже «алгоритми платформ експлуатують водіїв», перша реакція — не «це правда», а «так і є».

Фейкові новини поширюються, бо вони схожі на те, у що вже вірять люди.

AI зменшує цю «подібність» до майже нуля.

Ще один нюанс цієї історії — це спосіб виявлення шахрайства через водяні знаки Google. Google створює AI, і сама ж створює інструменти для його виявлення.

Але SynthID може перевіряти лише контент, створений Google. Цього разу її вдалося спіймати, бо підробник використав Gemini. Якби він застосував іншу модель, можливо, пощастило б менше.

Отже, ця справа — не стільки технічна перемога, скільки:

помилка низького рівня з боку шахрая.

Раніше Reuters провели дослідження, і 59% людей бояться не розрізнити правду і фейк у мережі.

Після того, як сотні тисяч людей побачили заперечення керівників служб доставки, скільки з них справді вірять у PR-обман і брехню? Хоча цей фейковий пост уже видалено, у коментарях ще залишаються критики платформ.

Брехня вже облетіла півсвіту, а правда ще зав’язує шнурки.

Подумайте, якби цей пост був не про Uber, а про Meituan або Ele.me?

Що таке «відчайдушний бал», «алгоритмічне експлуатування водіїв», «жодної винагороди» — перша реакція при цих звинуваченнях — емоційне співчуття чи підтримка?

Ви пам’ятаєте статтю «Доставка, застрягла у системі»?

Тому справа не в тому, чи може AI підробляти. Справа в тому, що коли брехня виглядає так, ніби вона вже давно у вашій голові, важливою стає не правда.

Той, хто видалив акаунт і зник, — навіщо? Не зрозуміло.

Він просто знайшов емоційний вихід і підпалив його AI-паливом.

І вогонь розгорівся. А чи горить справжнє дерево, чи підробка — хто це знає?

У казках Піноккіо казав, що його ніс стає довшим, коли він бреше.

AI не має носа.