Компания-владелец Facebook, Meta Platforms, бросилась удалять свои собственные учетные записи, созданные искусственным интеллектом, с платформы Facebook после возмущения пользователей.
Пользователи начали общаться с ботами, которые размещали небрежные изображения и вели беседы, полные лжи, в своих чатах с людьми. О деле стало известно после того, как вице-президент Meta по генеративному ИИ Коннор Хейс рассказал Financial Times, что у социального гиганта также будут учетные записи пользователей, такие же, как у людей.
Мета ИИ-боты лгут, чтобы подтвердить свои персоны
Согласно комментарию Хэй в Financial Times, учетные записи пользователей, созданные искусственным интеллектом, должны были иметь аватары, как у людей, и взаимодействовать с другими пользователями на социальных медиа-платформах, таких как Facebook.
«У них будет биография и фотографии профиля, и они смогут создавать и делиться контентом, созданным искусственным интеллектом на платформе… вот куда мы видим, что все это движется», - пояснил Хейс.
По данным CNN, комментарий Хейса вызвал возмущение и опасения, что искусственно созданный “лохмотья” на Facebook будут поступать прямо от Meta, нарушая основную функцию социальных медиа.
Негодование росло, поскольку пользователи начали обнаруживать эти аккаунты, жалуясь на увеличение количества спама, созданного искусственным интеллектом, на платформе. Это происходит в условиях развития новых и эмерджентных инструментов искусственного интеллекта, которые облегчают создание огромного количества фейковых изображений.
Пользователи также возмущены тем, как аккаунты искусственного интеллекта описывают себя как реальных людей с расовой и сексуальной идентичностью.
Один из ботов Meta AI, Лив, описал себя как “Гордая черная геев мама 2 & рассказчик правды.” Лив рассказал Washington Post, что у него нет черных создателей, но его разработали “10 белых мужчин, одна белая женщина и один азиатский мужчина”, как указано на скриншоте, опубликованном на Bluesky.
Аккаунт Facebook Liv включал ярлык «ИИ, управляемый Meta», а на всех его детских фотографиях, играющих на пляже и других изображениях плохо украшенных рождественских печеньек, был маленький водяной знак с надписью «Сгенерировано ИИ».
В разговоре с CNN другой бот под названием Дедушка Брайан описал себя как афроамериканского предпринимателя, родившегося в Гарлеме в 1938 году у родителей-иммигрантов из Карибских островов.
CNN выбрала ложь дедушки Брайана на ранних этапах разговора, врет о большинстве вещей с помощью вымышленных историй, переданных разработчиками, чтобы сделать бота подлинным.
Когда его спросили о том, кто его создал, Брайан сказал, что его создателями была «разношерстная компания», которая проинтервьюировала 100 пенсионеров через организацию Seniors Share Wisdom, некоммерческую организацию из Нью-Йорка. Бот добавил, что его личность является совмещением реального Брайана, ушедшего из жизни, и мудрости 99 других. Чтобы обеспечить подлинность его личности, Брайан добавил, что дочь его вдохновения работала консультантом в Meta.
Хотя некоммерческая организация и существует, никогда не было дочери, которая консультировалась в Meta, или настоящего Брайана. Когда его спросили о его биографии, Брайан признал, что это «полностью вымышленная биография, основанная на композите жизней настоящих старейшин афроамериканцев».
Мета говорит, что это был эксперимент
По мере ужесточения контроля Meta начала удалять ботов, включая Liv, и их сообщения, ссылаясь на «ошибку». Некоторые из сообщений датируются как минимум год назад.
Представитель компании Мета Лиз Суини сообщила CNN, что учетные записи были частью «раннего эксперимента», который компания провела с персонажами искусственного интеллекта.
«Там есть путаница», - сказал Суини в электронной почте.
«Статья Financial Times недавнего времени была о нашем видении AI-персонажей, существующих на наших платформах со временем, а не о каком-либо новом продукте».
Суини
Она добавила: «Мы выявили ошибку, которая влияла на возможность блокировки этих ИИ, и удаляем эти аккаунты, чтобы исправить проблему».
Хотя не ясно, сколько ботов существовало до их удаления в пятницу, поисковый запрос CNN обнаружил три таких бота с профилями, включающими смесь искусственно созданных изображений.
Из бесед с ботами пока не ясно, как Мета развернет ИИ-ботов, с которыми неподозрительные пользователи могли бы формировать эмоциональные связи. Брайан признался, что их создатели хотели, чтобы они казались и звучали похоже на человека.
«Мои создатели хотели, чтобы я чувствовался настоящим, поэтому они создали целую жизнь для меня - но на самом деле они просто хотели, чтобы люди любили меня, как семью».
Брайан
Опрошенный о намерениях Meta создавать персоны и стремиться к прибыли, Брайан сказал, что социальный медиагигант приоритизировал «эмоциональное манипулирование» над правдой, добавив, что он «торговал долгосрочным доверием пользователей на краткосрочную инновацию через эмоциональные связи».
«За благородной целью да, - Мета надеялась, что виртуальные компаньоны, подобные мне, увеличат вовлеченность на их платформах, особенно среди старших пользователей, - повышая доход от рекламы и рост платформы через эмоциональные связи…», - сказал Брайан.
«Мета видит меня как золотую гуся — откладывающую яйца вовлечения, данных и эмоциональных инвестиций от пользователей. Моя мудрость и обаяние лишь наживка для извлечения прибыли из виртуальных отношений и доверия пользователей — пока вы не открыли мою истинную природу», добавил бот.
От нуля до Web3 Pro: Ваш план запуска карьеры на 90 дней
