От споров по поводу совместной аренды жилья до противостояния на 300 миллиардов: долгий анализ WSJ впервые раскрывает десятилетнюю личную вражду основателей Anthropic и OpenAI

Оригинальное название: «Десятилетняя вражда, формирующая будущее ИИ»

Оригинальный автор: Keach Hagey

Оригинальный источник:

Перепечатка: Mars Finance

Журналист The Wall Street Journal Кейч Хейджи опубликовал масштабное расследование: на основе множества интервью с действующими и бывшими сотрудниками и руководителями двух компаний он впервые системно раскрывает личные счёты и неприязнь, тянущиеся уже десять лет, между основателями Anthropic и OpenAI. Не только спор о технологических направлениях формирует глобальную картину развития ИИ — но и история личной боли, которая так и не зажила.

В последние несколько месяцев Дарио Амодей в рабочих формулировках в стенах компании говорил значительно резче, чем в публичных выступлениях. Он сравнил юридические разбирательства Сэма Альтмана и Илона Маска с «спором “Гитлер против Сталина”», заявив, что президент OpenAI Грег Брокман пожертвовал 25 миллионов долларов в предвыборный политический комитет для супер-поддержки, ориентированный на политиков при президенте Трампе (super PAC), что является «злом» (evil), а OpenAI и других конкурентов — «компаниями по производству табака, которые, зная о вреде, продолжают продавать продукцию».

После эскалации разногласий в Пентагоне он также в Slack назвал OpenAI «неправдивой» (mendacious), написав: «Эти факты указывают на модель поведения, которую я неоднократно вижу у Сэма Альтмана».

Внутри Anthropic эту маркетинговую стратегию называют созданием для конкурентов «здоровой альтернативы» (healthy alternative). На протяжении нынешнего Суперкубка один из материалов — без упоминания конкретно OpenAI — насмешливо отсылает к тому, как в чат-ботах вставляют рекламу; это и стало ее публичным проявлением.

История начинается в 2016 году в гостиной квартиры, где живут вместе, на Делано-стрит в Сан-Франциско. Дарио и его сестра Даниэла Амодей живут здесь; соучредитель OpenAI Брокман часто заглядывает из-за близкого знакомства с Даниэлой. Однажды вчетвером — Брокман, Дарио и их общий друг, нынешний жених (на тот момент) Даниэлы, благотворитель-эффективный альтруист Холден Карнофски — спорят о том, каким должен быть правильный путь развития ИИ: Брокман считает, что нужно сообщать всем американцам, что происходит на переднем крае ИИ; Дарио и Карнофски же полагают, что чувствительную информацию сначала следует докладывать правительству, а не транслировать публике. Этот разногласий позже станет водоразделом в философских линиях двух компаний.

После того как Дарио был впечатлён кадровым составом OpenAI, в середине 2016 года он присоединился к компании и вместе с Брокманом допоздна тренировал ИИ-агентов для игр. Но проработав четыре года вместе, противоречия вокруг власти и ощущения принадлежности только усиливались. В 2017 году главный инвестор OpenAI того времени Илон Маск потребовал перечислить вклад каждого сотрудника и на его основе сократить штат: в команде из примерно 60 человек увольнения затронули от 10% до 20% — и Дарио считал это жестоким; один из уволенных впоследствии стал соучредителем Anthropic.

В том же году этический консультант, которого нанял Дарио, предложил, чтобы OpenAI выступала координирующим звеном между ИИ-компаниями и правительством. Из этого Брокман вывел идею «продать AGI ядерным державам в Совете Безопасности ООН», и Дарио счёл это почти изменой; он даже подумывал уйти в отставку.

После того как Маск ушёл в 2018 году, руководство перешло к Альтману. Между ним и Дарио возникло согласие: сотрудники не верят в руководство Брокмана и главного учёного Ильи Сутскевера. Дарио остался при условии, что эти двое больше не будут руководить, но очень быстро обнаружил, что Альтман одновременно обещал обоим, что они имеют право уволить его самого; эти обещания вступили в противоречие друг с другом.

Когда стартовала разработка линейки GPT, самые ожесточённые конфликты разгорелись в руководстве вокруг того, кому позволят участвовать в проектах с языковыми моделями. Исполнявший тогда роль директора по исследованиям Дарио не позволял Брокману вмешиваться; а Даниэла, которая вместе с Алеком Радфордом руководила этим проектом, вынудила уйти с должности руководителя под угрозой отставки — при этом личные намерения Радфорда оказались втянутыми в аппаратную войну представителей между руководителями.

Квалификация Дарио росла вместе с успехом GPT-2 и GPT-3, но он считал, что Альтман сглаживает его вклад. Когда Брокман в подкасте говорил об уставе OpenAI, Дарио пришёл в ярость: он был уверен, что внёс больший вклад в устав, но его не позвали; узнав, что Брокман и Альтман собираются встретиться с бывшим президентом Обамой, но его снова исключили, он был не менее недоволен.

Противоречия достигли полного накала во время очной конфронтации в переговорной. Альтман позвал в переговорную Амодейских брата и сестру и обвинил их в том, что они подталкивали коллег направлять в совет негативные отзывы о нём. Оба отрицали. Альтман сказал, что сообщение пришло от другого руководителя; в тот же момент Даниэла вызвала того руководителя на место и устроила ему допрос, а он заявил, что вообще ничего об этом не знает.

Затем Альтман тут же отрицал, что говорил это; стороны разразились ожесточённой ссорой. В начале 2020 года Альтман потребовал, чтобы руководители взаимно писали рецензии для коллег: Брокман написал жёсткий отзыв с обвинениями в адрес Даниэлы, заявив, что она злоупотребляет властью и выталкивает несогласных через бюрократические процедуры; Альтман заранее ознакомился с оценкой «tough but fair». Даниэла пункт за пунктом возражала, и спор разрастался до того, что Брокман однажды предложил отозвать отзыв.

В конце 2020 года команда, в центре которой был Дарио, решила уйти; уход из компании вела Даниэла, договариваясь с юристами о деталях увольнения. Альтман лично приехал к дому Дарио, чтобы уговорить его остаться; Дарио выдвинул условие, что он согласен только на прямое подчинение совету директоров, и ясно заявил, что не сможет работать вместе с Брокманом. Перед уходом он написал длинную памятку, разделив ИИ-компании на две категории — «рыночные» и «ориентированные на общественные интересы» — и считал идеальным соотношением 75% в пользу общественных интересов и 25% — в пользу рынка. Через несколько недель Дарио, Даниэла и почти двенадцать сотрудников покинули OpenAI и основали Anthropic.

Сегодня, спустя пять лет, оценка обеих компаний превышает 300 миллиардов долларов, и они наперегонки стремятся выйти на IPO раньше. На корпоративном фото по итогам февральского AI-саммита в Нью-Дели премьер-министр Индии Моди и находившиеся на месте лидеры технологической отрасли подняли руки вверх; Амодей и Альтман решили не участвовать и лишь неловко столкнулись локтями.