Paus Leo XIV telah mengeluarkan panduan keagamaan resmi pertamanya kepada miliaran umat Katolik. Dan itu semua tentang AI.
Itu datang dalam bentuk 42.300 kata ensiklik kepausan berjudul “Kemanusiaan yang Luar Biasa” (“Kemanusiaan yang Luar Biasa”). Ensiklik sebenarnya bukanlah hukum kepausan, tetapi bertindak sebagai panduan resmi mengenai masalah sosial dan moral bagi anggota Gereja Katolik. Yang ini, yang pertama sejak Leo terpilih, hadir dengan lebih megah dan lebih meriah dari biasanya, dengan pemimpinnya sendiri yang menghadiri presentasinya bersama pendiri Anthropic, Chris Olah.
Favorit Penggemar Mashable 101: Pilih pencipta favorit Anda Hari ini!
Paus sebelumnya telah berbicara tentang regulasi AI, dan mengimbau para pemimpin industri untuk mempertimbangkannya dengan lebih hati-hati implikasi etis AI dalam pekerjaan mereka. Mei lalu, saat menjelaskan alasannya memilih nama Leo, Paus AI yang dikutip secara khusus sebagai salah satu alasan utamanya.
“Ada beberapa alasan yang berbeda mengenai hal ini, namun terutama karena Paus Leo XIII dalam Ensiklik bersejarahnya Hal-hal baru menjawab pertanyaan sosial dalam konteks revolusi industri besar pertama. Di zaman kita sekarang, Gereja menawarkan kepada semua orang perbendaharaan ajaran sosialnya sebagai respons terhadap revolusi industri lainnya dan terhadap perkembangan di bidang kecerdasan buatan yang menimbulkan tantangan baru bagi pembelaan martabat manusia, keadilan, dan tenaga kerja.”
Ensiklik ini melangkah lebih jauh dengan menyelami dampak AI terhadap lapangan kerja, pendidikan, dan keselamatan anak dalam sebuah pesan kepada para pemimpin di seluruh dunia.
“Kita memerlukan suara moral yang tidak bisa dibengkokkan oleh insentif,” kata Olah. “Hari ini hanyalah permulaan – awal dari kolaborasi panjang antara kita yang membangun ini dan mereka yang bisa melihat apa yang kita, dari dalam, tidak bisa lihat.”
Berikut adalah kesimpulan utama dari Tahta Suci:
Kecepatan Cahaya yang Dapat Dihancurkan
AI adalah ancaman bagi pekerja
Gereja Katolik juga khawatir bahwa AI akan mengambil alih pekerjaan. Mengikat “Magnifica Humanitas” dengan ensiklik terkait ketenagakerjaan lainnya sepanjang sejarah Gereja, Paus Leo menyebut otomatisasi pekerjaan sebagai ancaman bagi para pekerja, dengan alasan penurunan keterampilan yang meluas dan pengawasan ketenagakerjaan yang lebih besar dengan adanya sistem AI.
“Saat ini, konvergensi otomatisasi, robotik, dan AI dengan cepat mengubah struktur kerja. Dikatakan bahwa hal ini akan membawa kemajuan besar bagi semua orang. Namun kenyataannya, ‘cara baru’ dalam bekerja belum tentu lebih baik.”
Jangan percaya hype AI
Pemimpin tersebut memperingatkan bahwa hype AI saat ini mirip dengan Menara Babel modern, membandingkan pencarian teknologi canggih dengan kisah alkitabiah tentang sekelompok manusia yang mencoba mencapai surga. Dia meminta para pemimpin untuk mengendalikan ambisi mereka dan mengedepankan rasa kemanusiaan.
Ia juga bergabung dengan semakin banyak pendukung dan regulator keselamatan anak yang ingin mengatasi waktu menatap layar dan dampaknya terhadap anak-anak: “Literatur psikologis dan psikiatrik telah mendokumentasikan dengan semakin mendesaknya bagaimana paparan dini dan tanpa pengawasan terhadap perangkat digital dan media sosial dapat berdampak negatif pada tidur, rentang perhatian, pengendalian emosi dan hubungan, terutama pada tahap kehidupan yang paling rentan, yang terkadang memiliki konsekuensi yang tragis.”
Selain itu, Leo menyebut peran AI dalam memperburuk misinformasi dan merendahkan pemikiran kritis, terutama di sekolah, dengan mengatakan bahwa teknologi memiliki kekuatan yang tidak manusiawi di dalam kelas.
Teknologi Besar telah menciptakan “bentuk perbudakan baru”
Sekaligus mengeluarkan kecaman formal pertama terhadap perdagangan budak transatlantik, Paus Leo menyebut proses manufaktur teknologi yang eksploitatif dan pelatihan AI global sebagai “bentuk perbudakan baru.”
“Di beberapa wilayah di dunia, anak-anak dan remaja bekerja dalam kondisi berbahaya, menghancurkan bahan-bahan dari mana unsur tanah jarang diekstraksi… Tubuh orang-orang ini penuh bekas luka, cedera, dan kelelahan sehingga proses komputasi dapat berlanjut tanpa gangguan,” katanya. “Kenyataan ini sangat menantang kesadaran moral di zaman kita.”
Paus juga menghubungkan kebangkitan kecerdasan buatan dengan peperangan global yang sedang berlangsung, menyerukan insentif swasta dan peringatan agar tidak mempercayakan sistem AI dengan “keputusan yang mematikan.” Dia menyerukan penerapan “batasan etis yang paling ketat” pada senjata yang dikembangkan menggunakan AI.
“Sebuah godaan halus mungkin muncul, yaitu pemikiran bahwa masalahnya terlalu besar dan kita terlalu kecil, dan oleh karena itu pilihan-pilihan kita tidak dapat membuat perbedaan,” tulis Paus. “Tentu saja, tidak semua orang mempunyai kekuatan yang sama untuk membuat perbedaan. Namun, tidak ada seorang pun yang tidak bertanggung jawab. Kita semua mempunyai area tindakan masing-masing.”
Ingin mempelajari lebih lanjut cara memaksimalkan teknologi Anda? Mendaftarlah ke Mashable Buletin Cerita Teratas dan Penawaran Hari ini.
