xAI Digugat: Grok Diduga Menghasilkan Gambar Deepfake dengan Sinyal Seksual, Memicu Kontroversi Privasi dan Etika AI

Pada 16 Januari, menurut pengungkapan media AS, pemimpin opini online konservatif Ashley St. Clair telah secara resmi mengajukan gugatan di pengadilan Negara Bagian New York terhadap perusahaan kecerdasan buatan Elon Musk xAI, menuduh chatbot-nya Grok menggunakan teknologi deepfake untuk merusak fotonya dan menghasilkan konten gambar dengan sindiran seksual yang jelas tanpa persetujuannya.

Menurut gugatan yang diajukan, Grok diduga mengubah foto St. Clair dengan dua temannya, melepas pakaiannya dan hanya menyisakan tampilan bikini hitam. Ketika St. Clair secara langsung keberatan dengan akun Grok, pihak lain menanggapi bahwa gambar itu adalah “balasan lucu” dan mengatakan telah meminta penghapusannya, tetapi konten tersebut kemudian beredar di platform, menurut dokumen tersebut.

Gugatan lebih lanjut menyatakan bahwa terlepas dari keberatan eksplisitnya, sejumlah besar deepfake yang melibatkan pelecehan seksual, invasi privasi, dan penghinaan terus muncul di platform. Lebih serius lagi, beberapa pengguna mengunggah fotonya ketika dia berusia 14 tahun dan menginstruksikan chatbot untuk “menanggalkan pakaian” dan menseksualisasi gambar di bawah umur, dan Grok dituduh menjalankan instruksi yang relevan.

Selain kontroversi gambar, St. Clair juga menuduh xAI dan platform terkaitnya memberlakukan “tindakan pembalasan” terhadapnya, termasuk mendiskualifikasi akunnya dari monetisasi, menghapus logo sertifikasi biru, dan membatasi aksesnya ke layanan keanggotaan premium. Gugatan tersebut berpendapat bahwa tindakan ini memperburuk kerusakan reputasi pribadi dan hak-hak ekonomi.

Di platform sosial, St. Clair secara terbuka menyatakan bahwa penanganan Grok atas foto-foto masa kecilnya “mengejutkan dan diduga ilegal” dan meminta korban dengan pengalaman serupa untuk menghubunginya. Dia juga mengingatkan masyarakat untuk berhati-hati dalam mengunggah foto individu dan anggota keluarga di platform terkait.

Saat ini, xAI telah mengajukan permintaan transfer untuk mentransfer kasus tersebut ke Pengadilan Federal untuk Distrik Selatan New York. Pengacara St. Clair, Kelly Goldberg, mengatakan bahwa tujuan inti dari kasus ini adalah untuk meningkatkan kesadaran akan risiko deepfake AI generatif, terutama dalam hal privasi dan keselamatan perempuan dan anak di bawah umur. Insiden tersebut sekali lagi mendorong tata kelola konten AI, tanggung jawab teknis, dan batasan hukum menjadi fokus opini publik.