Paus Leo XIV memperingatkan risiko AI dan kekuatan teknologi yang tidak dibatasi dalam dokumen besar kepausan pertamanya yang dirilis pada hari Senin. Kemanusiaan yang Luar Biasa adalah manifesto Paus tentang “melindungi pribadi manusia di era kecerdasan buatan,” yang membahas bahaya peperangan yang didukung AI, dampak AI terhadap tenaga kerja, dan perlunya kerangka hukum dan etika baru untuk mengatur teknologi.
Dalam ensiklik kepausannya – semacam surat terbuka dari Gereja Katolik – Paus Leo menekankan pergolakan ekonomi dan sosial yang diakibatkan oleh adopsi AI yang cepat, dengan tidak memadainya perlindungan bagi individu yang mengancam martabat manusia. Ia membandingkan era AI saat ini dengan Menara Babel, dan mengatakan bahwa masyarakat harus “menghindari ‘sindrom Babel,’” yang ia definisikan sebagai “penyembahan berhala demi keuntungan yang mengorbankan pihak yang lemah, keseragaman yang menetralkan perbedaan, dan anggapan bahwa satu bahasa – bahkan bahasa digital – dapat menerjemahkan segalanya, termasuk misteri manusia, ke dalam data dan kinerja.”
Surat Paus Leo menyentuh bidang-bidang utama kehidupan modern di mana AI telah tertanam secara mendalam: kehilangan pekerjaan dan tenaga kerja secara umum, peperangan yang didukung AI, dan anak-anak yang terpapar pada alat dan konten AI, dan topik-topik lainnya. Yang terpenting, ensiklik ini menyerukan agar martabat manusia menjadi bagian utama dalam pengambilan keputusan dan pemerintahan. Surat tersebut merupakan seruan untuk “kearifan moral dan sosial yang menjaga keutamaan pribadi manusia, untuk memastikan bahwa kecerdasan manusia, dengan hati nurani dan kebebasannya, yang memandu inovasi teknis dan secara bertanggung jawab menentukan penggunaan dan batasannya,” tulis Leo.
Surat tersebut, yang berisi lebih dari 42.000 kata, berisi seruan untuk “kehati-hatian, evaluasi yang ketat dan bahkan, kadang-kadang, lebih lambat dalam mengadopsi AI” sebagai “praktik kepedulian yang bertanggung jawab terhadap keluarga manusia.” Di antara beberapa usulan tersebut:
- Kriteria sosial untuk memperkenalkan otomatisasi dan AI, serta program perlindungan dan pelatihan ulang bagi pekerja
- Manusia, bukan sistem teknologi yang tidak jelas, harus membuat keputusan tentang kapan harus menggunakan kekuatan mematikan
- Bantuan bagi guru dan siswa untuk terlibat dengan teknologi baru dengan cara yang bertanggung jawab, kritis, dan kreatif
- Transparansi dan akuntabilitas ketika algoritma digunakan untuk membuat keputusan seputar perekrutan atau akses terhadap layanan dan peluang
- Mengembangkan teknologi AI yang lebih ramah lingkungan
Dampak AI terhadap umat manusia telah menjadi isu yang menentukan bagi Paus Leo: He memilih nama kepausannya mengacu pada revolusi industri, di mana pendahulunya, Paus Leo XIII, menerbitkan ensikliknya sendiri tentang melindungi pekerja di tengah kemajuan teknologi. Paus Leo juga telah terlibat dengan industri AI – salah satu pendiri Anthropic Christopher Olah hadir ketika Paus mempresentasikan ensikliknya pada hari Senin. Politik dilaporkan bahwa perwakilan dari Amazon, Meta, dan Google telah bertemu dengan pejabat Vatikan sebelum penerbitan ensiklik hari Senin itu ketika industri teknologi mencoba mempengaruhi posisi gereja. (Ada juga subset mencoba untuk “AGI-pil” paus; Kemanusiaan yang Luar Biasa tidak secara eksplisit menyebutkan kecerdasan umum buatan.)
Ensiklik ini bukanlah penolakan menyeluruh terhadap AI. Sebaliknya, Paus Leo menyerukan “pelucutan” teknologi – baik dalam arti militer maupun ekonomi dan sosial. AI tidak boleh digunakan dalam perlombaan untuk mengumpulkan kekuasaan atau memonopoli masyarakat, katanya.
“Melucuti senjata berarti mendiskreditkan asumsi bahwa kekuasaan teknis secara otomatis memberikan hak untuk memerintah. Melucuti senjata tidak berarti menolak teknologi, namun mencegahnya mendominasi umat manusia.”
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
