Ringkasan:
-
Ensiklik pertama Paus Leo XIV, Magnifica Humanitas, menekankan pengaturan AI dan mengutamakan martabat manusia daripada keuntungan.
-
Leo menandatangani surat tersebut pada tanggal 15 Mei, membahas dampak AI terhadap tenaga kerja, pendidikan, keluarga, demokrasi, dan peperangan.
-
Ensiklik ini menyerukan kerangka hukum, pengawasan, dan kebenaran dalam menghadapi potensi manipulasi dan totalitarianisme AI.
Paus Leo XIV meluncurkan ensiklik pertamanya pada hari Senin, sebuah dokumen berisi sekitar 42.000 kata yang diberi judul Kemanusiaan yang Luar Biasaatau “Kemanusiaan yang Luar Biasa,” menyerukan peraturan yang ketat mengenai kecerdasan buatan dan mendesak pengembang, anggota parlemen, dan pendidik untuk memprioritaskan martabat manusia daripada keuntungan.
Paus menandatangani surat tersebut pada tanggal 15 Mei di Vatikan, memilih peringatan 135 tahun Paus Fransiskus Hal-hal baruensiklik Paus Leo XIII tahun 1891 tentang buruh yang ditulis selama Revolusi Industri. Paus Amerika pertama ini memposisikan AI sebagai pertanyaan yang menentukan mengenai ketenagakerjaan dan martabat di abad ini.
“Tidaklah cukup hanya menggunakan etika secara abstrak; diperlukan kerangka hukum yang kuat, pengawasan independen, pengguna yang terinformasi, dan sistem politik yang tidak melepaskan tanggung jawabnya,” tulis Leo.
Ensiklik ini membahas peran AI dalam bidang pekerjaan, pendidikan, kehidupan keluarga, demokrasi, dan peperangan. Leo memperingatkan bahwa disinformasi telah “menemukan kekuatan yang kuat” melalui kemampuan AI untuk memanipulasi konten, gambar, dan video, dan bahwa “ketidakpedulian terhadap kebenaran, perlahan tapi pasti, mengarah pada penurunan totalitarianisme.”
Mengenai ketenagakerjaan, Paus Fransiskus menulis bahwa tempat kerja harus diatur oleh “perlindungan terhadap kesempatan kerja dan peran individu yang tidak tergantikan,” dan memperingatkan bahwa “mengejar keuntungan yang lebih besar tidak dapat membenarkan pilihan yang secara sistematis mengorbankan pekerjaan.”
Leo mendedikasikan bab terakhir untuk AI dalam peperangan, menyerukan pembatasan etika dan pembangunan perdamaian proaktif untuk memperlambat apa yang ia gambarkan sebagai perlombaan senjata teknologi. Paus menyebut doktrin perang yang adil “sekarang sudah ketinggalan zaman,” sambil menegaskan hak sempit untuk membela diri.
Presentasi tersebut menarik perhatian dari Silicon Valley. Salah satu pendiri Anthropic, Chris Olah, menghadiri peresmian tersebut di Vatikan, bersama para teolog dan pendeta. Keputusan Vatikan untuk memasukkan Anthropic mencerminkan upayanya selama satu dekade untuk melibatkan Silicon Valley mengenai kerugian manusia akibat AI, bahkan ketika teks Leo mengkritik konsentrasi kekuasaan dan data di tangan sejumlah kecil perusahaan swasta.
“Saya yakin bahwa ini akan menjadi dokumen yang menentukan bagi zaman kita, sebuah dokumen yang mendalam dan bersifat nubuatan,” kata Paolo Carozza, seorang profesor hukum Notre Dame dan ketua dewan pengawas Meta.
Leo membuka ensiklik tersebut dengan mengatakan bahwa umat manusia menghadapi pilihan penting, “membangun Menara Babel baru atau membangun kota tempat Tuhan dan umat manusia berdiam bersama.”
