Paus Leo XIV menerbitkan ensiklik pertamanya pada 25 Mei, sebuah dokumen 245 paragraf yang seluruhnya didedikasikan untuk kecerdasan buatan dan menuntut pengawasan yang lebih ketat terhadap Big Tech serta mengklasifikasikan data sebagai sumber daya bersama manusia. Dokumen itu, Magnifica Humanitas ("Magnificent Humanity"), dirilis di Aula Sinode Vatikan. Paus Leo menandatanganinya pada 15 Mei, bertepatan dengan peringatan ke-135 Rerum Novarum—ensiklik tahun 1891 oleh Paus Leo XIII tentang hak-hak pekerja yang menjadi fondasi ajaran sosial Katolik modern. Paus Leo secara konsisten membingkai AI sebagai tantangan moral utama kepausannya, dengan membandingkan gejolak sosial yang akan datang dengan Revolusi Industri.
Teknologi Tidak Pernah Netral
Dalam ensiklik tersebut, dinyatakan bahwa "teknologi tidak pernah netral" karena teknologi menyerap nilai, titik buta, dan insentif ekonomi dari siapa pun yang membangunnya. Setiap algoritma mencerminkan prioritas orang-orang yang merancang, mendanai, dan menerapkannya. Dokumen itu membahas AI dalam peperangan, dehumanisasi, teknokrasi, kolonialisme data, keamanan anak online, pengangguran massal, disinformasi, senjata otonom, dan transhumanisme. Argumen inti yang mengikat topik-topik itu adalah bahwa membangun sistem yang berpura-pura netral tidak menghilangkan bias—hanya menyembunyikannya.
Data sebagai Kebaikan Bersama
Ajaran sosial Katolik sejak lama memegang bahwa sumber daya alam bumi dimaksudkan untuk seluruh umat manusia, bukan untuk pemilik pribadi. Ensiklik ini memperluas prinsip itu secara langsung ke ekonomi digital. Algoritma, platform, dan data harus dikelola sebagai kebaikan bersama, bukan dikunci di balik tembok komersial oleh segelintir perusahaan. "Data adalah produk dari banyak kontributor dan tidak seharusnya diperlakukan sebagai sesuatu yang dijual habis atau dipercayakan kepada segelintir pihak," tulis sang paus.
Subsidiaritas dan Tata Kelola yang Terdistribusi
Ensiklik tersebut menerapkan subsidiaritas—prinsip bahwa keputusan harus dibuat pada tingkat lokal yang paling mungkin—secara khusus pada platform teknologi. Alih-alih menyerukan regulasi dari atas ke bawah saja, dokumen ini mendorong algoritma yang transparan, audit komunitas yang independen, serta kekuatan hukum nyata bagi masyarakat untuk menantang sistem otomatis yang memengaruhi skor kredit, lamaran kerja, atau penilaian risiko kriminal mereka. Tanpa pengawasan terdistribusi itu, ensiklik berargumen, tata kelola AI berubah menjadi bentuk otoritarianisme digital yang membungkam populasi yang diklaim untuk dilayaninya.
Melawan Transhumanisme
Ensiklik itu menargetkan transhumanisme—gagasan bahwa keterbatasan dan kerentanan manusia adalah cacat yang harus direkayasa agar hilang. Paus membalas bahwa kefanaan bukanlah bug; kefanaan itulah yang membuat empati, penilaian moral, dan kepedulian sejati terhadap orang lain menjadi mungkin. Sistem yang dibangun untuk mengoptimalkannya agar tersingkir tidak menghasilkan manusia yang lebih baik. Sistem itu menghasilkan sesuatu yang menilai dan mengecualikan pihak rentan dengan lebih efisien.
Paus berhati-hati agar tidak melakukan antropomorfisasi terhadap teknologi. Sistem AI "tidak memiliki tubuh, tidak merasakan sukacita atau sakit," demikian bunyi ensiklik. Sistem AI tidak memiliki pengalaman hidup yang menghasilkan pemahaman sejati. Mereka dapat mensimulasikan empati dan menghasilkan bahasa yang meyakinkan, tetapi mereka tidak memahami apa yang mereka keluarkan. Ketika sebuah algoritma membuat keputusan perekrutan, menetapkan syarat kredit, atau menetapkan skor risiko di ruang sidang, objektivitas yang tampak justru menutupi pilihan yang telah dimasukkan oleh perancangnya. Ensiklik itu secara khusus memperingatkan agar tidak mendelegasikan keputusan sensitif kepada sistem otomatis yang "tidak tahu kasih sayang, belas kasihan, pengampunan" dan agar tidak menganggap hasilnya netral hanya karena sebuah mesin yang menghasilkannya.
Co-Founder Anthropic Bicara dalam Peluncuran di Vatikan
Christopher Olah—co-founder Anthropic dan kepala tim riset interpretabilitasnya—berbicara di presentasi Aula Sinode bersama dua kardinal Vatikan dan sepasang teolog. Olah menyatakan secara terbuka bahwa setiap lab AI besar "beroperasi di dalam seperangkat insentif dan batasan yang kadang dapat bertentangan dengan melakukan hal yang benar," serta bahwa pengawasan dari luar—dari pemerintah, institusi keagamaan, dan masyarakat sipil—bukan pilihan. Ia menyoroti pergeseran pekerjaan yang didorong AI sebagai risiko jangka dekat yang, jika terwujud dalam skala besar, akan menciptakan "imperatif moral dengan skala historis."
Paus sebelumnya telah menulis versi argumen yang lebih sulit. "AI yang lebih bermoral saja tidak cukup," bunyi ensiklik tersebut, jika moralitas di baliknya ditetapkan secara eksklusif oleh siapa pun yang mengendalikan data dan komputasi. Leo menyampaikan kasus yang sama secara langsung kepada eksekutif Silicon Valley di Vatikan pada November 2025.
Komisi AI Vatikan Ditetapkan
Vatikan menyetujui komisi AI internal baru pada 16 Mei dengan mengambil dari tujuh departemen untuk mengoordinasikan pekerjaan tata kelola AI di seluruh Tahta Suci ke depan.
