“Itu mungkin waktu terbaik untuk menjadi seorang filsuf sejak Aristoteles dipekerjakan sebagai pengajar bagi Alexander Agung,” kata Henry Ajder, seorang mahasiswa pascasarjana filsafat yang menjadi penasihat pemerintah Inggris dan banyak perusahaan rintisan di bidang kecerdasan buatan. Dia hanya setengah bercanda.
Para filsuf sepertinya bukanlah kelompok yang paling mudah mendapatkan pekerjaan. Tapi AI, teknologi yang sama yang diharapkan membuat banyak orang kehilangan pekerjaantelah memberikan bobot baru pada jenis pertanyaan yang dilatih untuk mereka tanyakan (dan terkadang bahkan mungkin dijawab): Apa itu kecerdasan? Apa itu pikiran? “Ada filsuf dari ratusan tahun lalu yang memikirkan beberapa masalah yang sama,” kata Ajder. “Sekarang mereka menjadi material.”
Dua laboratorium AI terkemuka telah merekrut tim filsuf internal. “Saat ini terdapat lebih banyak filsuf—itu adalah intuisi yang masuk akal,” kata ahli etika Iason Gabriel, yang memimpin tim ilmuwan riset Google DeepMind yang berspesialisasi dalam dampak AI pada masyarakat. Di Anthropic, filsuf residen Amanda Askell telah menjadi salah satu wajah perusahaan yang paling dikenal. Kedua laboratorium tersebut menolak mengungkapkan jumlah filsuf yang mereka pekerjakan, dengan alasan kebijakan perusahaan. WIRED menghitung setidaknya 10 di DeepMind dan empat di Anthropic.
Saat para filsuf di laboratorium membantu membentuk model AI, menghasilkan karya yang menonjol dikutip dalam ratusan makalah penelitian berikutnya, AI juga membentuk kurikulum filsafat di universitas-universitas terkemuka. Saat ini banyak yang menyelenggarakan kursus etika AI atau program gabungan dalam ilmu komputer dan filsafat. “Inilah yang menjadi tren tahun ini,” kata Edward Harcourt, profesor filsafat dan direktur Institut Etika AI di Universitas Oxford.
Namun di dunia akademis, beberapa orang memandang para filsuf yang bekerja di laboratorium dengan tingkat kecurigaan. Jika perusahaan AI nirlaba menandatangani gaji Anda, apakah hal itu akan membahayakan penelitian Anda? Dengan memerankan Aristoteles sebagai AI Alexander, apakah Anda mempertaruhkan karya Anda menjadi instrumen untuk membangun sensasi dan menciptakan mitos? “Persepsi publik terhadap perusahaan teknologi akan cukup baik jika orang dituntun untuk percaya bahwa mereka melakukan sesuatu yang sangat tidak biasa dan sangat kuat,” kata Harcourt. “Ada aspek yang mengagung-agungkan diri sendiri dalam mendorong bidang penelitian tersebut.”
Ketika Jason Gabriel bergabung dengan DeepMind hampir 10 tahun yang lalu, gagasan tentang AI sebagai aktor moral, apalagi yang sadar, belum benar-benar terwujud. Pada saat itu, fokusnya adalah pada isu-isu seperti bias algoritmik. Namun dengan munculnya model bahasa besar di awal tahun 2020-an, kata Gabriel, “kita memiliki kemampuan untuk mengkodekan serangkaian nilai yang jauh lebih kaya.”
Hari ini, Agen AI mulai mengirim email, menjadwalkan janji temu, dan menulis kode—untuk bertindak. Perilaku mereka tidak hanya berdampak pada pengguna langsung tetapi juga orang lain. Di situlah Gabriel berada memfokuskan penelitiannya. “Hal yang kini menjadi sangat kaya adalah pertanyaan tentang penyelarasan nilai—pada dasarnya, apa artinya teknologi menjadi baik secara aktif,” katanya. “Ternyata Anda bisa menghabiskan banyak waktu filosofis untuk mencoba memahami hal itu.”
Ada daya tarik terhadap pertanyaan tentang kesadaran dan superintelligence, namun para filsuf yang bekerja di laboratorium menghabiskan lebih banyak waktu mereka pada risiko yang jauh lebih mendesak: sekitar keadilan, informasi yang salah, penyalahgunaan yang berbahaya, agen yang salahdan seterusnya. “Sekarang ada ketertarikan terhadap kesadaran AI,” kata Gabriel. “Tetapi di sana, kami lebih banyak melakukan pengumpulan bukti.”
Di suatu tempat di kantor DeepMind seluas 180.000 kaki persegi di pusat kota London, Julia Haas, anggota tim tanggung jawab perusahaan, bertanya pada dirinya sendiri pertanyaan seperti: “Apa yang sebenarnya ingin saya pahami tentang model? Apa yang menurut saya penting? Bagaimana kita mengukurnya? Bagaimana kita membingkai masalah-masalah tersebut? Bagaimana kita mengkomunikasikannya?”
Haas adalah seorang filsuf pikiran dan, lebih khusus lagi, seorang mekanisis—seseorang yang peduli dengan cara kerja pikiran. Dia telah berada di DeepMind selama lima tahun dan baru-baru ini ikut menulis makalah, diterbitkan di Alamyang mengusulkan kerangka kerja untuk menguji apakah LLM menunjukkan kompetensi moral. Dia dan rekan-rekannya mencari cara terbaik untuk membedakan kompetensi moral dari peniruan yang hampa, dan menanyakan cara terbaik untuk menjelaskan perbedaan nilai-nilai moral di antara orang-orang dari budaya yang sangat berbeda. Pekerjaan Haas jauh dari proses pelatihan model andalan Google, Gemini, atau mengemasnya ke dalam chatbot yang dapat dilihat publik. “Saya menganggapnya sebagai hal yang masih sangat awal,” katanya.
Di Anthropic, para filsuf lebih terlibat langsung dalam pengembangan model. “Tidak ada startup yang mempekerjakan seorang filsuf untuk berfilsafat,” kata Askell. Setelah memperoleh gelar PhD filsafat pada tahun 2018, Askell bergabung dengan OpenAI dalam peran kebijakan. Tiga tahun kemudian, ketika sekelompok staf OpenAI keluar untuk memulai Anthropic, dia masuk sebagai salah satu karyawan paling awal. Salah satu tanggung jawab utama Askell adalah mengidentifikasi kasus-kasus kecil di mana mengikuti perilaku manusia mungkin tidak sesuai untuk model—misalnya, ketika berinteraksi dengan seseorang yang mengalami tekanan psikologis—dan mengusulkan cara untuk melatih kebiasaan tersebut. Hal ini melibatkan banyak perdebatan dengan Claude, model bahasa andalan Anthropic. Dia adalah perancang utama “”konstitusisebuah dokumen panjang yang ditujukan langsung pada model yang menetapkan bagaimana negara harus berperilaku dan nilai-nilai luas apa yang harus dijunjung. “Menulis konstitusi adalah sesuatu yang sangat mirip dengan filosofi terapan,” kata Askell. “Sesuatu yang lebih seperti mengajar seseorang untuk menjadi baik.”
Saat dia mengerjakan dokumen tersebut, Askell khawatir tentang persiapan menghadapi “masa transisi” di mana model mulai berperan dalam mengembangkan iterasi masa depan mereka sendiri. Secara khusus, dia khawatir akan menimbulkan “kebencian” antara model dan manusia penciptanya. “Jika mereka ingin membantu kita membuat transisi tersebut berjalan dengan baik dan saya dapat memberi mereka serangkaian nilai untuk melakukan hal tersebut… itulah tujuan utamanya,” kata Askell. “Pada akhirnya, saya ingin model-model tersebut mencerminkan sisi terbaik kita, dengan kemampuan terbaik kita.”
Di antara para filsuf yang bekerja Di dunia akademis, terdapat kesepakatan luas mengenai pentingnya memetakan risiko etika yang ditimbulkan oleh AI—kemungkinan AI dapat digunakan untuk mengembangkan senjata pemusnah massal baru, melemahkan demokrasi, atau memperkuat ketidakadilan sosial yang sudah ada. Mengenai pertanyaan filosofis yang lebih besar terkait AI dan kesadaran, pemikiran, atau kecerdasan super, reaksinya berkisar dari kewaspadaan hingga penolakan langsung. “Mencoba menguraikan secara halus definisi kesadaran,” menurut Harcourt, “hanya membuang-buang waktu.” Sistem-sistem ini, katanya, “tidak akan pernah menjadi saingan bagi versi kehidupan yang berpikiran sehat, terutama karena keistimewaan umat manusia berkaitan dengan kehangatan tubuh dan juga kecanggihan kognitif.”
Ketika seorang filsuf bekerja di laboratorium AI, Harcourt berpendapat, “ada risiko besar terjadinya pencucian etika.” Kekhawatirannya adalah bahwa mereka dapat secara efektif menjadi perpanjangan dari fungsi pemasaran di laboratorium, pekerjaan mereka secara lahiriah menunjukkan komitmen terhadap keselamatan AI dan memberi sinyal kepada publik bahwa model telah maju ke titik di mana orang-orang yang serius mengajukan pertanyaan tentang superintelligence dan kesadaran. David Leslie, direktur etika dan penelitian inovasi yang bertanggung jawab di Alan Turing Institute, mengatakan ada “kedekatan elektif” antara para filsuf yang bersedia menerima gagasan tentang pikiran buatan dan “eksekutif Teknologi Besar yang mendapat manfaat dari hype.” Mempraktikkan filosofi dari dalam bisnis hampir merupakan sebuah oxymoron, kata Leslie. “Anda ingin mengajukan pertanyaan besar,” katanya. “Tetapi jika Anda seorang filsuf yang bekerja di perusahaan teknologi besar, ruang lingkup masalahnya tidak terbatas.”
Bahkan dalam skenario di mana para filsuf diberi kebebasan oleh atasannya, beberapa akademisi mempertanyakan apakah temuan mereka akan cukup berpengaruh untuk mengalihkan arah pengembangan AI jika temuan tersebut bertabrakan dengan ambisi kompetitif. Tentu saja, perusahaan AI yang berorientasi pada keuntungan bertanggung jawab kepada investor dan pemegang saham. “Saya berharap perusahaan-perusahaan ini benar-benar berpedoman pada pertimbangan etis, setidaknya sebagian,” kata Alex Grzankowski, direktur asosiasi di Institute of Philosophy dan direktur London AI and Humanity Project. “Saya jelas tidak memiliki optimisme yang cerah bahwa, sekarang mereka bertanya kepada para filsuf, semuanya akan indah secara etis. Tidak ada yang memiliki khayalan seperti itu.”
Para filsuf bekerja di laboratorium mengatakan ada logika untuk menukar kemandirian akademis demi kursi barisan depan. Akses istimewa terhadap model-model paling canggih sebelum dirilis ke publik, menurut mereka, memberi mereka perspektif unik mengenai pertanyaan-pertanyaan yang patut diajukan dan keuntungan dalam membedakan mereka. “Untuk memberikan masukan etis yang baik, Anda memerlukan akses terhadap informasi berkualitas baik,” kata Gabriel.
Harapan di kalangan filsuf, baik internal maupun eksternal laboratorium, adalah bahwa insentif keuntungan sering kali sejalan dengan perilaku etis, bahkan dalam menghadapi persaingan yang ketat antar pesaing. Mungkin ada skenario saat menyetrika jilatan atau mempublikasikan lebih banyak informasi tentang bagaimana suatu model dilatih, misalnya, dapat meningkatkan reputasi laboratorium dan prospeknya di pasar. “Jika Anda hanya merasakan tekanan pemasaran namun sebagai hasilnya membuat model Anda jauh lebih baik dan membuat keseluruhan proses Anda menjadi lebih transparan, itu bagus,” kata Askell. “Saya senang Anda merasakan tekanan itu.”
Pada akhirnya, apa yang Anda pikirkan tentang nilai filsuf dalam daftar gaji laboratorium AI mungkin berujung pada pertanyaan biner: Jika hanya segelintir perusahaan yang memimpin pengembangan teknologi dasar, apakah Anda lebih suka jika ada filsuf di ruangan itu?
Apa pun yang terjadi, mereka sedang merekrut. Pada bulan April, DeepMind ditambahkan ke jajarannya seorang rekan peneliti senior di Universitas Cambridge, yang akan mengerjakan topik-topik termasuk kesadaran mesin dan persiapan untuk kecerdasan super. Judul pekerjaan barunya, sederhananya, “filsuf.”
Apa katamu?
Beri tahu kami pendapat Anda tentang artikel ini di komentar di bawah. Alternatifnya, Anda dapat mengirimkan surat kepada editor di [emailprotected].
