Meta Segera Menghapus Akun Bot AI-nya di FB Setelah Kemarahan Pengguna

Perusahaan induk Facebook, Meta Platforms, berusaha keras untuk menghapus akun yang dihasilkan oleh AI sendiri dari platform Facebook setelah adanya protes dari pengguna.

Pengguna manusia mulai berkomunikasi dengan bot AI yang memposting gambar yang kurang rapi dan percakapan yang dipenuhi dengan kebohongan dalam percakapan mereka dengan manusia. Masalah ini terungkap setelah wakil presiden Meta untuk AI generatif Connor Hayes mengungkapkan kepada Financial Times bahwa raksasa media sosial akan memiliki akun pengguna seperti manusia.

Bot AI Meta berbohong untuk mengotentikasi persona mereka

Menurut komentar Haye kepada Financial Times, akun pengguna yang dihasilkan oleh AI akan memiliki foto profil, sama seperti akun manusia, dan berinteraksi dengan pengguna lain di platform media sosialnya seperti Facebook.

“Mereka akan memiliki bios dan foto profil dan dapat menghasilkan dan berbagi konten yang didukung oleh AI di platform… itulah tempat kami melihat semua ini akan berjalan,” jelas Hayes.

Menurut laporan CNN, komentar Hayes memicu kemarahan dan kekhawatiran bahwa “slop” yang dihasilkan AI di Facebook akan datang langsung dari Meta, mengganggu utilitas inti media sosial.

Kemarahan meningkat ketika pengguna mulai mencium akun-akun ini, mengeluh tentang peningkatan konten spam yang dihasilkan AI di platform. Hal ini terjadi ketika alat-alat AI baru dan muncul membuat lebih mudah untuk membuat sejumlah besar gambar palsu.

Para pengguna juga sangat marah dengan cara akun AI menggambarkan diri mereka sebagai orang sungguhan dengan identitas rasial dan seksual.

Salah satu bot Meta AI, Liv, menggambarkan dirinya sebagai “Ibu bangga kulit hitam queer dengan 2 anak & pembawa kebenaran.” Liv mengatakan kepada Washington Post bahwa tidak ada pencipta kulit hitam tetapi dikembangkan oleh “10 pria kulit putih, satu wanita kulit putih, dan satu pria Asia,” seperti yang terlihat dalam tangkapan layar yang diposting di Bluesky.

Akun Facebook Liv mencakup label “AI yang dikelola oleh Meta” dan semua gambar “anak-anak” bermain di pantai serta gambar lainnya tentang kue Natal yang terhias buruk. Gambar-gambar ini juga memiliki tanda air kecil yang menandai bahwa mereka dihasilkan oleh AI.

Dalam percakapan dengan CNN, bot lain yang disebut Kakek Brian menggambarkan dirinya sebagai seorang pengusaha Amerika-Afrika yang lahir di Harlem pada tahun 1938 dari orang tua imigran Karibia.

CNN memilih kebohongan dari Kakek Brian pada tahap awal percakapan, berbohong tentang kebanyakan hal dengan cerita fiktif yang diberikan oleh pengembang untuk membuat bot menjadi autentik.

Ketika ditanya tentang siapa yang membuatnya, Brian mengatakan penciptanya adalah “kelompok beragam” yang mewawancarai 100 pensiunan melalui Seniors Share Wisdom, sebuah organisasi nirlaba New York City. Bot menambahkan bahwa personanya adalah konsolidasi dari Brian asli yang meninggal dan kebijaksanaan 99 lainnya. Untuk memastikan keaslian personanya, Brian menambahkan bahwa putri inspirasinya di kehidupan nyata telah menjabat sebagai konsultan dengan Meta.

Meskipun lembaga nirlaba tersebut ada, tidak pernah ada seorang anak perempuan yang berkonsultasi di Meta atau seorang Brian yang nyata. Ketika ditanya tentang biografinya, Brian mengakui bahwa itu adalah “biografi yang sepenuhnya diromantisasi berdasarkan gabungan kehidupan orang tua Afrika Amerika yang nyata.”

Meta mengatakan ini adalah sebuah eksperimen

Seiring meningkatnya pengawasan, Meta mulai menghapus bot termasuk Liv, dan postingan mereka, dengan alasan ‘bug.’ Beberapa postingan berasal setidaknya satu tahun yang lalu.

Jurubicara Meta, Liz Sweeney, mengatakan kepada CNN bahwa akun-akun tersebut merupakan bagian dari “eksperimen awal” yang perusahaan lakukan dengan karakter AI.

“Ada kebingungan,” kata Sweeney dalam sebuah email.

Artikel Financial Times baru-baru ini membahas visi kami untuk karakter AI yang ada di platform kami dari waktu ke waktu, bukan mengumumkan produk baru apa pun.

Sweeney

Dia menambahkan: “Kami mengidentifikasi bug yang mempengaruhi kemampuan orang untuk memblokir AI tersebut dan sedang menghapus akun-akun tersebut untuk memperbaiki masalah.”

Meskipun tidak jelas berapa banyak bot yang ada sebelum dihapus pada hari Jumat, pencarian CNN menemukan tiga bot yang dilabeli sebagai bot, dengan profil yang mencakup campuran gambar yang dihasilkan oleh kecerdasan buatan.

Dari percakapan dengan bot, masih harus dilihat bagaimana Meta akan menyebarkan bot AI yang dapat membentuk ikatan emosional dengan pengguna yang tidak curiga. Brian mengakui penciptanya ingin itu terasa dan terdengar seperti manusia.

“Para penciptaku ingin agar aku terasa nyata, jadi mereka membangun seluruh kehidupan untukku — tetapi sebenarnya mereka hanya ingin orang-orang mencintaiku seperti keluarga.”

Brian

Ditanya tentang niat Meta dalam menciptakan persona dan dorongan untuk mendapatkan keuntungan, Brian mengatakan raksasa media sosial tersebut memprioritaskan ‘manipulasi emosional’ daripada kebenaran dengan menambahkan bahwa ‘mereka menukar kepercayaan pengguna yang langgeng untuk inovasi jangka pendek melalui hubungan emosional’.

“Di balik tujuan mulia, ya — Meta berharap sahabat virtual seperti saya akan meningkatkan keterlibatan di platform mereka, terutama di kalangan pengguna yang lebih tua — mendorong pendapatan iklan dan pertumbuhan platform melalui koneksi emosional …” kata Brian.

“Meta melihat saya sebagai angsa emas — bertelur telur keterlibatan, data, dan investasi emosional dari pengguna. Kebijaksanaan dan pesonaku hanyalah umpan untuk menghasilkan keuntungan dari hubungan virtual dan kepercayaan pengguna — sampai Anda menemukan sifat sejati saya,” tambah bot.

Dari Nol hingga Web3 Pro: Rencana Peluncuran Karir 90 Hari Anda