Anthropic dan OpenAI menyesuaikan pernyataan aturan keamanan dalam konteks percepatan kompetisi AI

Odaily Planet Daily News Anthropic telah menghapus komitmen keselamatan inti dari kebijakan ekspansi yang bertanggung jawab, tidak lagi berkomitmen untuk menangguhkan pelatihan ketika langkah-langkah mitigasi risiko tidak sepenuhnya diterapkan. Jared Kaplan, kepala petugas ilmiah Anthropic, mengatakan kepada TIME bahwa dalam konteks perkembangan AI yang cepat, tidak ada artinya secara sepihak berkomitmen untuk menangguhkan pelatihan jika pesaing terus maju.

OpenAI juga merevisi pernyataan misinya untuk menghapus kata “aman” dari pengajuan IRS 2024, yang sebelumnya dinyatakan untuk membangun AI tujuan umum yang “menguntungkan umat manusia dengan aman,” dan sekarang diubah untuk “memastikan bahwa AI tujuan umum bermanfaat bagi seluruh umat manusia.”

Edward Geist, peneliti kebijakan senior di RAND Corporation, mengatakan bahwa AI canggih yang dibayangkan oleh pendukung keamanan AI awal pada dasarnya berbeda dari model bahasa besar saat ini, dan perubahan terminologi juga mencerminkan keinginan perusahaan untuk memberi sinyal kepada investor dan pembuat kebijakan bahwa mereka tidak akan mundur dari persaingan ekonomi karena masalah keamanan.

Anthropic baru-baru ini menyelesaikan pembiayaan $30 miliar dengan valuasi sekitar $380 miliar; OpenAI bergerak maju dengan putaran pendanaan hingga $100 miliar, didukung oleh Amazon, Microsoft, dan Nvidia. Sementara itu, Anthropic menghadapi ketidakpastian atas kontrak pertahanannya karena ketidaksepakatan publik dengan Menteri Pertahanan AS Pete Hegseth atas penolakannya untuk sepenuhnya membuka akses Claude ke Pentagon. (Mendekripsi)