Paus Leo Sentil Raksasa Teknologi: AI Jangan Sampai Menguasai Manusia
JAKARTA - Paus Leo memperingatkan perkembangan kecerdasan buatan atau AI tidak boleh dibiarkan berjalan hanya mengikuti ambisi kekuasaan, bisnis, dan perlombaan teknologi. Ia meminta AI tunduk pada aturan etika yang ketat, terutama ketika mulai masuk ke dunia kerja, data, hingga perang.
Dikutip dari The Guardian, Selasa, 26 Mei, peringatan itu disampaikan Paus Leo dalam ensiklik pertamanya tentang perlindungan umat manusia, Magnifica Humanitas atau Kemanusiaan yang Agung.
Ensiklik adalah dokumen penting berisi ajaran Paus untuk umat Katolik. Biasanya, dokumen ini menunjukkan arah besar kepemimpinan seorang Paus dalam melihat persoalan dunia.
Dalam dokumen itu, Paus Leo mengecam “budaya kekuasaan” yang ikut mendorong pesatnya perkembangan AI. Ia menilai teknologi tersebut harus dikendalikan agar tidak merendahkan martabat manusia.
“Pengembangan dan penggunaan AI dalam perang harus tunduk pada batasan etis yang paling ketat,” tulis Paus Leo.
Baca juga:
Ia juga menyerukan “pelucutan” AI. Maksudnya bukan menolak teknologi, melainkan membebaskan AI dari cara berpikir yang menjadikannya alat persaingan bersenjata.
“Melucuti bukan berarti menolak teknologi, tetapi mencegah teknologi menguasai manusia,” tulisnya.
Paus Leo menyoroti penggunaan AI dalam perang. Menurutnya, sebagian sistem senjata otonom kini nyaris berada di luar jangkauan manusia untuk dikendalikan. Ia memperingatkan AI bisa ikut membuat perang tampak makin normal sebagai alat politik internasional.
Paus juga menyinggung kekuasaan besar perusahaan teknologi. Ia menyebut kendali atas sistem digital, infrastruktur, dan data kini tidak hanya berada di tangan negara, tetapi juga pada aktor ekonomi dan teknologi besar.
Jika kekuasaan itu terkonsentrasi di tangan segelintir pihak, kata Paus, risiko ketimpangan, manipulasi, ketergantungan baru, dan pengucilan sosial bisa membesar.
Pernyataan itu dibaca sebagai pesan kuat untuk Silicon Valley, pusat industri teknologi Amerika Serikat. Dalam acara di Vatikan, hadir pula Christopher Olah, salah satu pendiri Anthropic, perusahaan AI asal AS.
Olah mengatakan pengembangan AI tidak bisa diserahkan hanya kepada perusahaan teknologi. Menurutnya, pemimpin agama, pemerintah, dan masyarakat sipil juga perlu ikut mengawasi.
Ia mengingatkan ada “kemungkinan nyata” AI menggantikan tenaga kerja manusia dalam skala sangat besar. Jika itu terjadi, membantu pekerja yang tergeser akan menjadi kewajiban moral besar.
Selain AI, Paus Leo juga meminta maaf atas lambannya Gereja Katolik mengecam perbudakan. Ia menyebut perbudakan sebagai “luka dalam ingatan Kristen”.
“Atas nama Gereja, saya dengan tulus memohon pengampunan,” tulis Paus Leo.
The Guardian mencatat, sejumlah Paus sebelumnya pernah meminta maaf atas keterlibatan umat Kristen dalam perdagangan budak transatlantik. Namun, Paus Leo disebut melangkah lebih jauh karena menyinggung peran para Paus sendiri dalam memberi kewenangan kepada penguasa Eropa untuk menaklukkan dan memperbudak “orang-orang kafir”.
Vatikan dalam beberapa tahun terakhir aktif membahas AI dengan perusahaan teknologi besar, termasuk Microsoft dan Google. Paus Leo mengatakan Gereja Katolik ingin berdialog dengan para pengembang AI agar teknologi itu dipakai secara benar.
Christopher White, penulis buku Pope Leo XIV: Inside the Conclave and the Dawn of a New Papacy, menilai Paus Leo ingin menempatkan Gereja dalam percakapan serius dengan raksasa teknologi.
Menurut White, Paus tidak mengklaim Gereja punya semua jawaban soal regulasi AI. Namun, ia menegaskan pengembangan AI tidak boleh dibiarkan seperti wilayah liar tanpa pengawasan.
Christine Allen, CEO lembaga bantuan Katolik Cafod, mengatakan pesan Paus menegaskan martabat manusia. Menurut dia, manusia bukan sekadar alat produksi, melainkan makhluk hidup dengan kompas moral.
Paus Leo menegaskan AI harus tetap berada di bawah kendali manusia, terbuka untuk diawasi, dan tidak dipakai untuk memperbesar ketimpangan, manipulasi, atau penderitaan.