Perdana Menteri Inggris secara terbuka meningkatkan tekanan pada sebuah platform media sosial utama terkait penanganan konten tidak pantas yang dihasilkan AI yang melibatkan anak di bawah umur. Pejabat menuntut langkah korektif yang cepat dari kepemimpinan platform tersebut.

Ini menandai momen penting dalam perdebatan yang sedang berlangsung tentang moderasi kecerdasan buatan dan keselamatan anak-anak. Grok, alat AI yang dimaksud, tampaknya telah menghasilkan gambar seksualisasi anak—menimbulkan pertanyaan serius tentang mekanisme penyaringan konten dan akuntabilitas platform.

Insiden ini menegaskan kekhawatiran yang semakin meningkat di antara pemimpin dunia: perusahaan teknologi yang mengembangkan sistem AI canggih perlu memiliki perlindungan yang kokoh sebelum dirilis. Ketika alat generatif yang kuat tidak diawasi, konsekuensinya bisa menjadi serius.

Yang menarik di sini adalah respons politik langsung. Alih-alih menunggu regulasi industri sendiri, pejabat pemerintah kini secara terbuka menuntut tindakan. Ini menunjukkan bahwa kita memasuki fase di mana tata kelola AI bukan hanya masalah teknis atau perusahaan—tetapi menjadi perhatian negara.

Bagi platform yang mengandalkan kemampuan AI, pesan yang jelas: infrastruktur moderasi konten yang lebih baik atau menghadapi pengawasan yang meningkat. Taruhannya tinggi ketika keselamatan anak-anak berinteraksi dengan teknologi yang sedang berkembang.