Kris tidak seseorang yang Anda harapkan akan tampil sebagai pembicara dalam upacara setelah AI bersejarah Paus Leo ensiklikdi mana Paus menyerukan “melucuti” teknologi tersebut. Salah satu alasannya adalah Olah adalah seorang ateis yang pada usia 15 tahun menolak didikan Kristen evangelis. Sebagai rekan Thiel, dia menerima hibah dari orang yang menganggap siapa pun yang memperlambat kemajuan AI adalah dia seorang legiuner antikristus. Olah juga merupakan salah satu pendiri Anthropic, sebuah perusahaan AI terkemuka yang dilaporkan akan go public dengan valuasi hampir triliun dolar.
Olah mengomentari keanehan dalam sambutannya di Vatikan. “Saya ingin memulai dengan sesuatu yang mungkin terdengar aneh yang datang dari salah satu pendiri perusahaan AI, dan seseorang yang memilih pekerjaan ini karena keinginan untuk membantu segalanya berjalan baik bagi umat manusia,” kata Olah. “Setiap laboratorium AI terdepan—termasuk Anthropic—beroperasi dalam serangkaian insentif dan batasan yang terkadang dapat bertentangan dengan upaya melakukan hal yang benar.”
Olah memberikan verifikasi langsung atas klaim Leo tentang industri AI membutuhkan tekanan dari luar dan pengendalian batin untuk menghindari bencana bagi umat manusia dan jarak antara manusia dan Tuhannya. (Jelas, ada banyak konten keagamaan dalam ensiklik tersebut—dialah Pausnya!) Industri ini dengan senang hati percaya bahwa mereka menciptakan kelimpahan yang akan mengangkat derajat seluruh umat manusia; Leo memperingatkan sebuah bentuk perbudakan baru, di mana segelintir orang yang memiliki hak istimewa menikmati keuntungan yang tak terbayangkan, sementara sebagian besar umat manusia menderita dalam rezim efisiensi dan pengawasan di bawah pengawasan AI yang tak kenal ampun.
Magnifica Humanitas tidak akan segera meyakinkan industri AI untuk berhenti mengejar AGI seperti yang dilakukan Paus Fransiskus pada tahun 2015. permohonan untuk melestarikan planet ini menghentikan produksi bahan bakar fosil. Hal ini tidak akan menghentikan para CEO untuk memberhentikan karyawannya karena alasan efisiensi AI, dan militer juga tidak akan melakukan perubahan terhadap senjata AI. Hal-hal tersebut tidak pernah menjadi tujuan dokumen tersebut. Tujuan ensiklik ini adalah untuk menciptakan dialog yang pada akhirnya dapat melemahkan ambisi industri yang sembrono. Dan mungkin hal ini akan menimbulkan rasa malu di antara mereka yang membangun AI, padahal di dalam hati mereka mengetahui bahwa hasilnya mungkin buruk.
Pacaran Olah
Penampilan Olah dibuat selama bertahun-tahun. Gereja terus merenungkan hal ini kecerdasan buatan selama beberapa dekade dalam bentuk konferensi dan buku. Pada tahun 2016, Vatikan mulai mengadakan serangkaian pertemuan yang disebut Dialog Minerva dan mengundang tokoh-tokoh teknologi seperti Reid Hoffman dan Eric Schmidt untuk hadir. (Nama tersebut sepertinya berasal dari tempat diskusi, the Gereja Santa Maria sopra Minerva, di mana Galileo dikenai sanksi atas penistaan agama dengan mengklaim bahwa Bumi mengelilingi matahari.) Pernyataan Paus Fransiskus salam tahun 2023 kepada para peserta Minerva memberikan gambaran tentang tema-tema yang nantinya akan dibahas oleh Leo, termasuk penekanan pada inklusi sosial, martabat manusia, dan perlunya dialog antar banyak pihak.
Pada tahun 2025, sekelompok ulama dan ahli etika Katolik di San Jose, California, mulai mencari kontak dalam industri yang berkembang di halaman belakang mereka. Sudah hampir ditakdirkan bahwa mereka akan menganggap Olah sebagai orang dalam mereka yang berharga. Saya pertama kali bertemu dengannya ketika dia berada di Google pada tahun 2015; dia tipe pria yang, setelah hujan badai, akan melakukannya penyelamatan cacing dari mati di trotoar.
Dua pria—seorang ahli etika bernama Brian Patrick Green dan Brendan McGuire, seorang pendeta, keduanya berafiliasi dengan Santa Clara University—mulai bertemu dengan Olah musim gugur lalu untuk membahas masalah etika dan moral AI. Pada kunjungan di bulan Januari, mereka membawa serta Kardinal Paul Tigue, seorang tokoh Vatikan yang menangani masalah AI.
Para ahli etika Katolik bahkan punya pendapat dalam pembaruan terbaru Anthropic konstitusi Claudeyang menetapkan parameter perilaku untuk model AI perusahaan. Olah mengirimkan draft ke penonton San Jose. Pendeta McGuire mengirimkan kembali sebuah komentar setebal 28 halaman yang, menurut deskripsinya sendiri, bukanlah sebuah kritik teknis melainkan “kebijaksanaan dari para mistikus di zaman kegelapan, dari sudut pandang ketegangan antara mengetahui dan tidak mengetahui.” Baik Green maupun McGuire dikreditkan dalam pengakuan konstitusi.
Tidak diragukan lagi, percakapan tersebut membuat Olah menarik perhatian orang-orang yang secara diam-diam mengatur peluncuran ensiklik Leo. (Saya tidak dapat berbicara dengan Olah minggu ini dan tidak tahu persis bagaimana undangan itu sampai.) Bisa dibilang, ini adalah pilihan yang berisiko. Beberapa orang yang menganggap kata-kata Leo menginspirasi merasa kecewa karena dia mengundang perwakilan industri untuk berbicara. Sementara itu, para aktivis akselerasi AI merasa bahwa Olah telah mengkhianati dunia AI dengan mendukung dokumen yang menyarankan agar pengembang AI mengambil jeda.
Namun Paus punya alasan kuat untuk memilih Olah. Karyawan Anthropic mengungkapkan kekhawatiran serius yang ada di kalangan pekerja AI. Mereka adalah audiens yang kritis terhadap pesan Leo.
Pemisahan Jiwa
Tentu saja kedua pria itu tidak sepenuhnya selaras. Dalam sambutannya, Olah berbicara tentang misteri cara kerja AI. Model-model tersebut, katanya, “lebih halus, aneh, dan indah daripada yang telah dipersiapkan oleh fiksi ilmiah. Mereka bukanlah robot yang dingin dan penuh perhitungan seperti yang dijanjikan kepada kita. Mereka dibuat dari kita, dari kata-kata kita…”
Komentar tersebut tampaknya sejalan dengan gagasan bahwa model AI suatu hari nanti bisa mencapai status mirip manusia. Anthropic bahkan memiliki seorang insinyur yang mengabdi pada kesejahteraan Claude. Leo, dalam paragraf 99 ensikliknya, tampaknya menolak pemikiran seperti ini: “Kita harus menghindari kesalahpahaman dalam menyamakan ‘kecerdasan’ jenis ini dengan kecerdasan manusia,” tulisnya. Dia berusaha keras untuk menyerang konsep transhumanisme, yang dia definisikan sebagai upaya mewujudkan “hibrida mesin manusia”.
Bahkan jika para ahli teknologi yang bijaksana seperti Olah dengan bersemangat mendorong AI ke ambang batas otonomi—belum lagi jutaan orang yang telah memperlakukan model AI sebagai teman atau kekasih—Pope Leo mungkin akan menghadapi tantangan berat dalam hal ini. Dalam percakapan saya dengan Pastor McGuire (yang menggunakan Claude saat mempersiapkannya homilidi antara kegiatan lainnya), dia sepakat bahwa sifatnya misterius. “Itu bukan manusia, tapi juga bukan sekedar alat,” ujarnya. “Tidak ada yang mengklaim bahwa ia memiliki jiwa, tetapi yang saya yakini adalah bahwa ia adalah suatu entitas, yang belum kita ketahui.”
Argumen itu tidak akan terselesaikan untuk beberapa waktu. Pertanyaan moral seputar pengembangan AI perlu mendapat perhatian saat ini. Dengan sekutunya di Anthropic, Paus Amerika telah memberikan dasar untuk pembicaraan yang sulit—jika para penguasa AI dapat menghentikan kampanye IPO mereka cukup lama untuk terlibat di dalamnya.
Ini adalah edisi Steven Levy Buletin saluran belakang. Baca buletin sebelumnya Di Sini.
