“Мое первое регуляторное предложение - обязательное требование открытой информации о том, что это AI.”
Автор: Юваль Ноа Харари
编译：Метавселенная日爆
После взрывного роста применения моделей естественного языка в технологической сфере произошло много выражений отношения к искусственному интеллекту с разных точек зрения. Недавно известный историк, философ и автор «Краткой истории человечества» Юваль Ноа Харари (Yuval Noah Harari) опубликовал статью в журнале Economist, в которой поделился своими мыслями о искусственном интеллекте.
Харари продолжает свою точку зрения в книге “Sapiens: Краткая история человечества”, подчеркивая, что язык является почти всеобщим элементом человеческой культуры. Искусственный интеллект, обладающий способностью генерировать язык, будет влиять на восприятие мира людьми, “ИИ взломал операционную систему человеческой цивилизации”. Он сравнивает ИИ с “ядерным оружием” и призывает принять срочные меры по обеспечению безопасности, одним из предложений является “принудительное требование от ИИ раскрывать свою идентичность”.
*Мы уже видели выступления представителей различных научных областей о ИИ, а гуманитарные ученые более конкретно описывают, как ИИ может влиять на политику, религию и бизнес через язык. Он смело предполагает, что в будущем человечество может жить в иллюзиях, созданных ИИ. Вся статья “Взрыв Вселенной” была переведена. *
Со времен начала компьютерной эры человечество испытывает страх перед ИИ. Раньше люди в основном боялись, что машины могут убивать, порабощать или заменять людей физическими средствами. В последние годы появились новые инструменты ИИ, и они угрожают существованию человеческой цивилизации с неожиданной стороны: ИИ получил невероятную способность обрабатывать и генерировать язык (независимо от того, письменный, устный или визуальный), что позволяет ему взламывать операционные системы человеческой цивилизации.
Язык - почти все составные элементы человеческой культуры. Например, права человека не заложены в ДНК человека, а являются культурным продуктом, который мы создали, рассказывая истории и принимая законы; боги не являются физическими сущностями, а являются культурным продуктом, который мы создали, создавая мифы и письменные тексты.
Деньги – это тоже культурный продукт. Банкноты – это не что иное, как разноцветные бумажки, и в настоящее время более 90% денег – это даже не бумажные деньги, а цифровая информация в компьютере. Что придает валюте ценность, так это история, рассказанная нам банкирами, министрами финансов и экспертами по криптовалютам: Сэмом Бэнкманом-Фридом, основателем FTX, Сэмом Бэнкманом-Фридом, Элизабет Холмс, бизнесвумен, которая подделала «каплю крови от рака», Элизабет Холмс и Берни Мэдоффом, крупнейшим вдохновителем финансовой пирамиды в историиОни не очень хороши в создании реальной ценности, но все они очень хороши в повествовании.
Как если бы нечеловеческий интеллект был лучше, чем обычные люди в рассказывании историй, создании мелодий, рисовании изображений, а также написании законов и религиозных текстов?
Когда люди думают о ChatGPT и других новых инструментах ИИ, они часто вспоминают примеры использования ИИ для написания эссе старшеклассниками. Что произойдет с образовательной системой, если дети будут так делать? Но эти вопросы не затрагивают суть проблемы. Давайте временно отложим вопросы о школьных эссе и задумаемся о выборах президента США 2024 года. Представьте, как ИИ-инструменты могут использоваться для создания политического контента и фейковых новостей. Как это повлияет на общество?
В последние годы последователи “Анонимуса Q” объединяются вокруг онлайн-опубликованных анонимных утечек информации (прим. ред.: “Анонимус Q” - это место сбора различных заговоров в сети, основным из которых является существование глубинного правительства внутри правительства США). Последователи собирают и превозносят такие конспирологические утечки, считая их священными писаниями. Ранее все утечки были написаны людьми, а машины лишь помогали их распространять. Но в будущем мы можем увидеть первые священные тексты, написанные нечеловеческими сущностями. На протяжении истории различные религии утверждали, что их священные книги не происходят от человека. Это может стать реальностью в ближайшее время.
На более повседневном уровне мы можем скоро осознать, что мы думаем, что обсуждаем аборты, изменение климата или конфликт между Россией и Украиной с реальными людьми онлайн, но на самом деле это AI. Проблема в том, что наше время потрачено в попытках изменить мнение AI бесполезно, а AI может очень точно обрабатывать информацию, что, вероятно, повлияет на наше мнение.
Путем овладения человеческим языком ИИ может даже развить близкие отношения с людьми и использовать силу этих отношений для изменения нашего восприятия и мировоззрения. Хотя нет никаких признаков того, что ИИ обладает собственным сознанием или чувствами, достаточно вызвать эмоциональную привязанность у людей к нему, чтобы развить иллюзорные близкие отношения с человеком.
В июне 2022 года инженер Google Блейк Лемуаин заявил, что исследуемый им чат-бот LaMDA обрел осознание, что привело к утрате им работы. Несмотря на то, что его высказывания вызвали споры, самое интересное в этой истории - готовность Лемуаина рискнуть высокооплачиваемой работой, чтобы отстоять честь чат-бота. Если ИИ может заставить людей рисковать ради него работы, неужели он не сможет убедить их сделать что-то еще?
В политической борьбе за победу народного доверия и привлечение народной поддержки, близость является наиболее эффективным оружием. И искусственный интеллект только что получил способность установить близкие отношения с миллионами людей.
Как известно, в течение последних десяти лет социальные медиа стали полем борьбы за внимание людей. С появлением нового поколения искусственного интеллекта борьба переходит от внимания к близости. Как изменится человеческое общество и психология, если соревнование между ИИ заключается в том, кто сможет установить более близкие связи с людьми, а затем использовать эти связи для убеждения нас в голосовании за определенных политиков или покупке определенных товаров?
Даже без создания «фальшивой близости», новые инструменты ИИ могут оказывать огромное влияние на наши взгляды и мировоззрение. Люди могут считать ИИ-консультанта всеобучающимся богом, и неудивительно, что Google взволнован. Зачем искать, если можно задать вопрос богу? Индустрия новостей и рекламы, естественно, тоже испытывает страх. Если бог может сказать мне, что покупать, зачем нужна реклама?
Но даже если мы представим себе эти сценарии, мы все еще не сможем полностью охватить все аспекты. Когда мы говорим о возможном завершении человеческой истории, мы говорим не о завершении истории в целом, а только о завершении той части истории, которую контролировал человек. История - это продукт взаимодействия биологических и культурных факторов, это результат взаимодействия наших физиологических потребностей и желаний (таких, как пища и секс) с культурными созданиями (такими, как религия и право). История - это процесс постепенного влияния права и религии на пищу и секс.
Когда искусственный интеллект возьмет под контроль культуру и начнет создавать истории, мелодии, законы и религию, что изменится в ходе истории? Ранее такие инструменты, как печатный станок и радио, способствовали распространению идей человеческой культуры, но они никогда не создавали собственных новых идей культуры. ИИ существенно отличается от них. ИИ способен создавать совершенно новые идеи, совершенно новую культуру.
Изначально, на ранних этапах развития ИИ он может имитировать своих обучающих людей. Но со временем культура ИИ решительно перейдет в область, которой человек никогда не занимался. Тысячелетиями люди живут во снах других людей. В следующие десятилетия мы можем обнаружить, что живем во снах интеллектуальных существ, не являющихся человеком.
Страх перед искусственным интеллектом беспокоит людей только в последние несколько десятилетий. Но тысячи лет человечество испытывало гораздо более глубокий страх. Мы всегда понимали, что истории и образы обладают силой управлять умом и создавать иллюзии. Поэтому с древних времен люди боялись быть запертыми в мире иллюзий.
В 17 веке Декарт боялся, что его может заточить в мир галлюцинаций злой демон, и все его видения и слухи - лишь настройка этого демона. Древнегреческий философ Платон рассказывал о знаменитой аллегории пещеры: группа людей была всю жизнь закована в цепи в пещере, перед ними была только пустая стена, похожая на экран. Заключенные могли видеть различные тени внешнего мира, отраженные на стене пещеры, и поэтому они принимали эти галлюцинации за реальность.
В древней Индии буддисты и индуистские святые указывали, что люди живут в мире майи (иллюзии). Мы обычно считаем, что то, что кажется реальным, на самом деле является иллюзией в нашем собственном разуме. Люди могут начинать войны, убивать других и даже готовы быть убитыми из-за веры в такую или иную иллюзию.
Революция в области искусственного интеллекта прямо принесла перед нами демона Декарта, пещеру Платона и майю. Нечаянно мы можем оказаться запутанными за занавеской иллюзий, не в состоянии разорвать ее и даже не осознавать ее существование.
Конечно же, новая сила искусственного интеллекта также может быть использована с пользой. Я не собираюсь на эту тему распространяться, потому что люди, разрабатывающие искусственный интеллект, уже достаточно сказали. Работа историков и философов, таких как я, заключается в указании на опасности искусственного интеллекта. Но, безусловно, искусственный интеллект может помочь человечеству во множестве способов, от поиска новых методов лечения рака до нахождения решений экологического кризиса и т.д. Вопрос, стоящий перед нами, - как обеспечить, чтобы новые инструменты искусственного интеллекта использовались для добрых дел, а не для зла. Для этого нам сначала нужно понять истинные возможности этих инструментов.
С 1945 года мы знаем, что ядерные технологии могут обеспечить дешевую энергию, принося пользу людям, но также могут физически уничтожить человеческую цивилизацию. Поэтому для защиты человечества и обеспечения того, чтобы ядерные технологии в основном служили для блага людей, мы перестроили весь международный порядок. Теперь нам нужно бороться с новым видом массового оружия, способного уничтожить наш духовный и социальный мир.
Мы все еще можем контролировать новые инструменты искусственного интеллекта, но должны действовать быстро.Ядерное оружие не может изобрести более мощное ядерное оружие, но искусственный интеллект может создать исключительную мощь роста AI.
Первый ключевой шаг - строгая проверка безопасности перед публичным выпуском мощного инструмента ИИ. Точно так же, как фармацевтические компании не могут выпускать новые лекарства без тестирования на краткосрочные и долгосрочные побочные эффекты, технологические компании не должны выпускать новые инструменты ИИ до обеспечения их безопасности. Нам нужны органы регулирования новых технологий, подобные Администрации по контролю за продуктами питания и лекарствами США (FDA). Это должно было быть сделано давно.
Замедление темпа внедрения ИИ в общественной сфере не приведет ли к отставанию демократических стран от безрассудных авторитарных режимов? Совершенно наоборот. Нерегулируемое внедрение ИИ приведет к социальному хаосу, что будет способствовать разрушению демократических институтов диктаторами. Демократия - это диалог, а диалог зависит от языка. После взлома языка ИИ может подорвать нашу способность вести смысловой диалог, что приведет к разрушению демократии.
Мы только что столкнулись с нечеловеческим разумным существом на Земле, о котором мы знаем очень мало, кроме того, что оно может уничтожить человеческую цивилизацию. Мы должны прекратить беспечное развертывание ИИ в общественной сфере и контролировать ИИ до того, как он начнет контролировать нас. И моим первым регулирующим предложением будет обязательное требование от ИИ раскрывать свою природу. Если я не смогу определить, кто мой собеседник - человек или ИИ, то это будет конец демократии.
