Pemerintah Singapura dirilis Cetak biru hari ini untuk kolaborasi global di kecerdasan buatan Keselamatan Setelah pertemuan para peneliti AI dari AS, Cina, dan Eropa. Dokumen tersebut menjabarkan visi bersama untuk bekerja pada keselamatan AI melalui kerja sama internasional daripada persaingan.
“Singapura adalah salah satu dari sedikit negara di planet ini yang rukun dengan Timur dan Barat,” kata Max Tegmark, seorang ilmuwan di MIT yang membantu mengadakan pertemuan tokoh -tokoh AI bulan lalu. “Mereka tahu bahwa mereka tidak akan membangun [artificial general intelligence] diri mereka sendiri – mereka akan melakukannya untuk mereka – jadi sangat penting untuk memiliki negara -negara yang akan membangunnya berbicara satu sama lain. “
Negara -negara yang paling mungkin membangun AGI, tentu saja, AS dan Cina – namun negara -negara itu tampaknya lebih berniat mengalahkan satu sama lain daripada bekerja bersama. Pada bulan Januari, setelah startup Cina Deepseek merilis model mutakhirPresiden Trump menyebutnya “panggilan bangun untuk industri kami” dan mengatakan AS harus “berfokus pada laser untuk bersaing untuk menang.”
Konsensus Singapura tentang Prioritas Penelitian Keselamatan AI Global menyerukan kepada para peneliti untuk berkolaborasi dalam tiga bidang utama: mempelajari risiko yang ditimbulkan oleh model AI Frontier, mengeksplorasi cara -cara yang lebih aman untuk membangun model -model tersebut, dan mengembangkan metode untuk mengendalikan perilaku sistem AI yang paling canggih.
Konsensus dikembangkan pada pertemuan yang diadakan pada 26 April bersama Konferensi Internasional tentang Representasi Pembelajaran (ICLR), acara AI utama yang diadakan di Singapura tahun ini.
Para peneliti dari Openai, Anthropic, Google DeepMind, XAI, dan Meta semuanya menghadiri acara AI Safety, seperti halnya akademisi dari institusi termasuk MIT, Stanford, Tsinghua, dan Akademi Ilmu Pengetahuan Cina. Para ahli dari AI Safety Institutes di AS, Inggris, Prancis, Kanada, Cina, Jepang dan Korea juga berpartisipasi.
“Di era fragmentasi geopolitik, sintesis komprehensif penelitian mutakhir tentang keselamatan AI adalah tanda yang menjanjikan bahwa komunitas global ini datang bersama dengan komitmen bersama untuk membentuk masa depan AI yang lebih aman,” Xue Lan, dekan Universitas Tsinghua, mengatakan dalam sebuah pernyataan.
Pengembangan model AI yang semakin mampu, beberapa di antaranya memiliki kemampuan mengejutkan, telah menyebabkan para peneliti khawatir tentang berbagai risiko. Sementara beberapa fokus pada bahaya jangka pendek termasuk masalah yang disebabkan oleh Sistem AI yang bias atau potensi untuk Penjahat untuk memanfaatkan teknologisejumlah besar percaya bahwa AI dapat menimbulkan ancaman eksistensial terhadap kemanusiaan karena mulai mengakali manusia di lebih banyak domain. Para peneliti ini, kadang -kadang disebut sebagai “AI Doomers,” kekhawatiran bahwa model dapat menipu dan memanipulasi manusia untuk mengejar tujuan mereka sendiri.
Potensi AI juga memicu pembicaraan tentang perlombaan senjata antara AS, Cina, dan negara -negara kuat lainnya. Teknologi ini dipandang dalam lingkaran kebijakan yang penting bagi kemakmuran ekonomi dan dominasi militer, dan banyak pemerintah telah berusaha untuk mengintai penglihatan dan peraturan mereka sendiri yang mengatur bagaimana hal itu harus dikembangkan.
Debut Deepseek pada bulan Januari memperparah kekhawatiran bahwa China mungkin akan mengejar atau bahkan melampaui AS, meskipun ada upaya untuk mengekang akses China ke perangkat keras AI dengan kontrol ekspor. Sekarang, administrasi Trump sedang mempertimbangkan langkah-langkah tambahan yang bertujuan membatasi kemampuan Cina untuk membangun AI mutakhir.
Pemerintahan Trump juga berusaha meremehkan risiko AI yang mendukung pendekatan yang lebih agresif untuk membangun teknologi di AS. Pada pertemuan AI besar di Paris pada tahun 2025, Wakil Presiden JD Vance dikatakan Bahwa pemerintah AS menginginkan lebih sedikit pembatasan di sekitar pengembangan dan penyebaran AI, dan menggambarkan pendekatan sebelumnya sebagai “terlalu menghindari risiko.”
Tegmark, ilmuwan MIT, mengatakan beberapa peneliti AI ingin “mengubah gelombang sedikit setelah Paris” dengan memfokuskan kembali perhatian kembali pada risiko potensial yang ditimbulkan oleh AI yang semakin kuat.
Pada pertemuan di Singapura, Tegmark mempresentasikan makalah teknis yang menantang beberapa asumsi tentang bagaimana AI dapat dibangun dengan aman. Beberapa peneliti sebelumnya menyarankan itu mungkin mungkin Untuk mengontrol model AI yang kuat menggunakan yang lebih lemah. Makalah Tegmark menunjukkan bahwa dinamis ini tidak berfungsi dalam beberapa skenario sederhanaartinya mungkin gagal mencegah model AI menjadi serba salah.
“Kami mencoba yang terbaik untuk menempatkan angka pada ini, dan secara teknis itu tidak berfungsi pada level yang Anda inginkan,” kata Tegmark. “Dan, Anda tahu, taruhannya cukup tinggi.”
