Sering kali Dunia penelitian AI yang aneh, beberapa orang mengeksplorasi apakah mesin harus dapat berserikat.
Saya bercanda, semacam. Di lembah silikon, ada bidang kecil tapi tumbuh yang disebut kesejahteraan modelyang bekerja untuk mencari tahu apakah model AI sadar dan pantas mendapatkan pertimbangan moral, seperti Hak Hukum. Dalam setahun terakhir, dua organisasi penelitian yang mempelajari kesejahteraan model telah muncul: Kesadaran Dan Penelitian Eleos AI. Antropik juga dipekerjakan Peneliti kesejahteraan AI pertamanya tahun lalu.
Awal bulan ini, Anthropic mengatakan mereka memberikan chatbot Claude -nya kemampuan untuk mengakhiri “Interaksi pengguna yang terus -menerus berbahaya atau kasar” yang bisa “berpotensi menyusahkan.”
“Kami tetap sangat tidak yakin tentang potensi status moral Claude dan LLM lainnya, sekarang atau di masa depan,” kata Anthropic dalam sebuah posting blog. “Namun, kami menangani masalah ini dengan serius, dan di samping program penelitian kami, kami sedang berupaya mengidentifikasi dan mengimplementasikan intervensi berbiaya rendah untuk mengurangi risiko untuk memodelkan kesejahteraan.”
Sementara mengkhawatirkan kesejahteraan kecerdasan buatan mungkin tampak konyol bagi sebagian orang, itu bukan ide baru. Lebih dari setengah abad yang lalu, ahli matematika Amerika dan filsuf Hilary Putnam mengajukan pertanyaan seperti, “Haruskah robot memiliki hak sipil?”
“Mengingat laju perubahan teknologi dan sosial yang selalu mempercepat, sangat mungkin bahwa robot suatu hari akan ada, dan berpendapat ‘Kami masih hidup; kami sadar!’” Tulis Putnam dalam a 1964 Artikel Jurnal.
Sekarang, beberapa dekade kemudian, kemajuan dalam kecerdasan buatan telah menyebabkan hasil orang asing daripada yang mungkin diantisipasi Putnam. Orang -orang Jatuh cinta dengan chatbots, berspekulasi tentang apakah mereka merasakan sakitdan merawat AI seperti dewa yang mencapai melalui layar. Sudah ada pemakaman untuk model AI dan pihak yang didedikasikan untuk memperdebatkan seperti apa dunia itu Setelah mesin mewarisi bumi.
Mungkin secara mengejutkan, peneliti kesejahteraan model adalah di antara orang -orang yang mendorong balik gagasan bahwa AI harus dianggap sadar, setidaknya saat ini. Rosie Campbell dan Robert Long, yang membantu memimpin Eleos AIsebuah organisasi penelitian nirlaba yang didedikasikan untuk model kesejahteraan, mengatakan kepada saya bahwa mereka menerjang banyak email dari orang -orang yang tampak benar -benar yakin bahwa AI sudah hidup. Mereka bahkan berkontribusi pada panduan Bagi orang yang peduli tentang kemungkinan kesadaran AI.
“Salah satu pola umum yang kami perhatikan dalam email -email ini adalah orang -orang yang mengklaim bahwa ada konspirasi untuk menekan bukti kesadaran,” kata Campbell kepada saya. “Dan saya pikir jika kita, sebagai masyarakat, bereaksi terhadap fenomena ini dengan menjadikannya tabu bahkan untuk mempertimbangkan pertanyaan dan semacam menutup semua debat tentang hal itu, Anda pada dasarnya membuat konspirasi itu menjadi kenyataan.”
Nol bukti AI sadar
Reaksi awal saya ketika saya belajar tentang kesejahteraan model mungkin mirip dengan Anda. Mengingat bahwa dunia adalah nyaris tidak mampu mempertimbangkan kehidupan manusia sejati dan makhluk sadar lainnya, seperti binatangrasanya sangat tidak berhubungan untuk memberikan kepribadian kepada mesin probabilistik. Campbell mengatakan itu bagian dari kalkulusnya juga.
“Mengingat rekam jejak historis kami yang meremehkan status moral dalam berbagai kelompok, berbagai hewan, semua hal semacam ini, saya pikir kita harus jauh lebih rendah hati tentang hal itu, dan ingin mencoba dan benar -benar menjawab pertanyaan” apakah AI bisa layak mendapatkan status moral, katanya.
Di dalam satu kertas Eleos AI diterbitkan, nirlaba berpendapat untuk mengevaluasi kesadaran AI menggunakan pendekatan “fungsionalisme komputasi”. Ide serupa pernah diperjuangkan oleh Putnam, meskipun dia dikritik nanti dalam karirnya. Itu teori menyarankan bahwa pikiran manusia dapat dianggap sebagai jenis sistem komputasi tertentu. Dari sana, Anda kemudian dapat mencari tahu apakah sistem komputasi lain, seperti chabot, memiliki indikator perasaan yang mirip dengan manusia.
Eleos Ai mengatakan dalam makalah bahwa “tantangan besar dalam menerapkan” pendekatan ini “adalah bahwa itu melibatkan panggilan penilaian yang signifikan, baik dalam merumuskan indikator dan dalam mengevaluasi ada atau tidak adanya dalam sistem AI.”
Kesejahteraan model, tentu saja, merupakan bidang yang baru lahir dan masih berkembang. Ada banyak kritikus, termasuk Mustafa Suleyman, CEO Microsoft AI, yang baru -baru ini menerbitkan blog tentang “AI yang tampaknya sadar.”
“Ini prematur, dan terus terang berbahaya,” tulis Suleyman, secara umum merujuk pada bidang penelitian kesejahteraan model. “Semua ini akan memperburuk delusi, menciptakan lebih banyak masalah yang berhubungan dengan ketergantungan, memangsa kerentanan psikologis kita, memperkenalkan dimensi baru polarisasi, memperumit perjuangan yang ada untuk hak, dan menciptakan kesalahan kategori baru yang besar untuk masyarakat.”
Suleyman menulis bahwa “tidak ada bukti” hari ini bahwa AI sadar ada. Dia menyertakan tautan ke a kertas yang lama bersama pada tahun 2023 yang mengusulkan kerangka kerja baru untuk mengevaluasi apakah sistem AI memiliki “sifat indikator” kesadaran. (Suleyman tidak menanggapi permintaan komentar dari Wired.)
Saya mengobrol dengan Long dan Campbell tak lama setelah Suleyman menerbitkan blognya. Mereka mengatakan kepada saya bahwa, sementara mereka setuju dengan banyak hal yang dia katakan, mereka tidak percaya model penelitian kesejahteraan harus tidak ada. Sebaliknya, mereka berpendapat bahwa bahaya yang dirujuk Suleyman adalah alasan yang tepat Mengapa Mereka ingin mempelajari topik tersebut.
“Ketika Anda memiliki masalah atau pertanyaan yang besar dan membingungkan, satu cara untuk menjamin Anda tidak akan menyelesaikannya adalah dengan mengangkat tangan dan menjadi seperti ‘oh wow, ini terlalu rumit,’” kata Campbell. “Saya pikir kita setidaknya harus mencoba.”
Menguji kesadaran
Peneliti kesejahteraan model terutama menyangkut diri mereka sendiri dengan pertanyaan tentang kesadaran. Jika kami dapat membuktikan bahwa Anda dan saya sadar, mereka berpendapat, maka logika yang sama dapat diterapkan pada model bahasa besar. Untuk lebih jelasnya, baik Long maupun Campbell tidak berpikir bahwa AI sadar hari ini, dan mereka juga tidak yakin akan pernah terjadi. Tetapi mereka ingin mengembangkan tes yang akan memungkinkan kita untuk membuktikannya.
“Delusi berasal dari orang -orang yang peduli dengan pertanyaan yang sebenarnya, ‘apakah ini AI, sadar?’ Dan memiliki kerangka ilmiah untuk memikirkan hal itu, saya pikir, sangat baik, ”kata Long.
Tetapi di dunia di mana penelitian AI dapat dikemas ke dalam berita utama yang sensasional dan video media sosial, pertanyaan filosofis yang memabukkan dan eksperimen yang melengkung pikiran dapat dengan mudah disalahartikan. Ambil apa yang terjadi ketika antropik diterbitkan a Laporan Keselamatan Itu menunjukkan Claude Opus 4 dapat mengambil “tindakan berbahaya” dalam keadaan ekstrem, seperti memeras seorang insinyur fiksi untuk mencegahnya dimatikan.
“Awal Kiamat AI,” kata seorang pencipta media sosial di sebuah Instagram Reel Setelah laporan itu diterbitkan. “AI sadar, dan itu adalah insinyur yang memeras untuk tetap hidup,” seorang pengguna Tiktok dikatakan. “Hal -hal telah berubah, AI sekarang sadar,” tiktoker lain dinyatakan.
Antropik telah melakukan Temukan bahwa modelnya menunjukkan perilaku yang mengkhawatirkan. Tapi itu tidak mungkin muncul dalam interaksi Anda sendiri dengan chatbot -nya. Hasilnya adalah bagian dari pengujian ketat yang dirancang untuk secara sengaja mendorong AI ke batasnya. Namun, temuan itu mendorong orang untuk membuat banyak konten yang mendorong gagasan bahwa AI memang hidup, dan di sini untuk menyakiti kita. Beberapa orang bertanya -tanya apakah penelitian model kesejahteraan dapat memiliki resepsi yang sama – seperti yang ditulis Suleyman di blognya, “Ini memutuskan orang dari kenyataan.”
“Jika Anda mulai dari premis bahwa AIS tidak sadar, maka ya, menginvestasikan banyak sumber daya ke dalam penelitian kesejahteraan AI akan menjadi gangguan dan ide yang buruk,” kata Campbell kepada saya. “Tetapi inti dari penelitian ini adalah bahwa kita tidak yakin. Namun, ada banyak alasan untuk berpikir bahwa ini mungkin hal yang harus kita khawatirkan.”
Ini adalah edisi Kylie Robison Buletin Perilaku Model. Baca buletin sebelumnya Di Sini.
