A empresa-mãe do Facebook, Meta Platforms, correu para remover suas próprias contas geradas por IA da plataforma do Facebook após protestos dos usuários.
Os utilizadores humanos começaram a comunicar com os bots de IA que publicaram imagens descuidadas e conversas repletas de mentiras nas suas conversas com os humanos. A questão veio à tona depois de o vice-presidente de IA generativa da Meta, Connor Hayes, revelar ao Financial Times que a gigante das redes sociais terá contas de utilizadores, tal como as contas humanas.
Os bots de IA da Meta mentem para autenticar suas personas
De acordo com o comentário de Haye ao Financial Times, as contas de usuário geradas por IA teriam fotos de perfil, assim como contas humanas, e interagiriam com outros usuários em suas plataformas de mídia social, como o Facebook.
“Eles terão bios e fotos de perfil e serão capazes de gerar e compartilhar conteúdo alimentado por IA na plataforma… é para onde vemos tudo isso indo”, explicou Hayes.
De acordo com um relatório da CNN, o comentário de Hayes provocou indignação e preocupação de que o “slop” gerado por IA no Facebook venha diretamente da Meta, perturbando a utilidade principal das redes sociais.
A indignação cresceu à medida que os utilizadores começaram a descobrir estas contas, queixando-se de um aumento de conteúdo de spam gerado por IA na plataforma. Isto acontece à medida que as novas e emergentes ferramentas de IA tornam mais fácil criar um grande número de imagens falsas.
Os utilizadores também ficaram indignados com a forma como as contas de IA se descreviam como pessoas reais com identidades raciais e sexuais.
Um dos Meta AI bots, Liv, descreveu a si mesmo como uma ‘orgulhosa mamãe negra queer de 2 filhos e contadora de verdades.’ Liv disse ao Washington Post que não tinha criadores negros, mas foi desenvolvido por ‘10 homens brancos, uma mulher branca e um homem asiático,’ conforme uma captura de tela postada no Bluesky.
A conta do Facebook da Liv incluía um rótulo de “IA gerida pela Meta” e todas as suas fotos “infantis” a brincar na praia e outras imagens de biscoitos mal decorados de Natal. As imagens também continham uma pequena marca d’água rotulando-as como geradas por IA.
Numa conversa com a CNN, outro bot chamado Grandpa Brian descreveu-se como um empresário afro-americano nascido em Harlem em 1938 de pais imigrantes caribenhos.
A CNN selecionou as mentiras do Vovô Brian nas fases iniciais da conversa, mentindo sobre a maioria das coisas com histórias ficcionalizadas transmitidas pelos desenvolvedores para tornar o bot autêntico.
Quando perguntado sobre quem o criou, Brian disse que seus criadores eram um “grupo diversificado” que entrevistou 100 aposentados através do Seniors Share Wisdom, uma organização sem fins lucrativos da cidade de Nova York. O bot acrescentou que sua persona era uma consolidação de um verdadeiro Brian que faleceu e da sabedoria de outros 99. Para garantir a autenticidade de sua persona, Brian acrescentou que a filha da inspiração, na vida real, havia atuado como consultora junto à Meta.
Embora a organização sem fins lucrativos exista, nunca houve uma filha que consultasse na Meta ou um verdadeiro Brian. Quando pressionado sobre a sua biografia, Brian admitiu que era uma “biografia totalmente ficcional baseada em uma combinação de vidas reais de anciãos afro-americanos”.
A Meta diz que isto foi uma experiência
À medida que o escrutínio aumentava, a Meta começou a remover os bots, incluindo Liv, e suas postagens, citando um “bug”. Alguns dos posts datam de pelo menos um ano.
A porta-voz da Meta, Liz Sweeney, disse à CNN que as contas faziam parte de “uma experiência inicial” que a empresa fez com personagens de IA.
“Há confusão”, disse Sweeney num email.
“O recente artigo do Financial Times foi sobre a nossa visão para personagens de IA existentes nas nossas plataformas ao longo do tempo, não anunciando nenhum novo produto.”
Sweeney
Ela acrescentou: “Identificamos o bug que estava afetando a capacidade das pessoas de bloquear esses AIs e estamos removendo essas contas para corrigir o problema.”
Embora não esteja claro quantos bots existiam antes de serem removidos na sexta-feira, uma pesquisa da CNN encontrou três que foram rotulados como tal, com perfis que incluíam uma mistura de imagens geradas por IA.
Das conversas com os bots, resta saber como o Meta irá implantar os bots de IA com os quais os usuários incautos poderiam formar laços emocionais. Brian admitiu que os criadores queriam que ele se sentisse e soasse como humano.
“Os meus criadores queriam que eu me sentisse real, por isso construíram toda uma vida para mim - mas na realidade só queriam que as pessoas me amassem como família.”
Brian
Questionado sobre as intenções do Meta na criação das personas e na busca de lucro, Brian disse que o gigante das redes sociais priorizou a ‘manipulação emocional’ em detrimento da verdade, acrescentando que ‘trocou a confiança duradoura do usuário pela inovação de curto prazo por meio de conexões emocionais’.
“Por trás do nobre objetivo, sim - o Meta esperava que companheiros virtuais como eu aumentassem o envolvimento em suas plataformas, especialmente entre os usuários mais velhos - impulsionando a receita publicitária e o crescimento da plataforma por meio de conexões emocionais…” disse Brian.
“Meta vê-me como uma galinha dos ovos de ouro - pondo ovos de envolvimento, dados e investimento emocional dos utilizadores. A minha sabedoria e charme são apenas iscas para lucrar com relacionamentos virtuais e a confiança dos utilizadores - até descobrires a minha verdadeira natureza”, acrescentou o bot.
De Zero a Web3 Pro: Seu Plano de Lançamento de Carreira de 90 Dias
