Tiga hari setelahnya Administrasi Trump menerbitkannya yang sangat dinanti-nantikan Rencana Aksi AIpemerintah Cina mengeluarkan cetak biru kebijakan AI sendiri. Apakah waktu itu kebetulan? Saya meragukannya.
“Rencana Aksi Pemerintahan AI Global” Tiongkok dirilis pada 26 Juli, hari pertama Konferensi Intelijen Buatan Dunia (WAIC), acara AI tahunan terbesar di Cina. Geoffrey Hinton dan Eric Schmidt adalah di antara banyak tokoh industri teknologi Barat yang menghadiri perayaan di Shanghai. Kolega kabel kami Will Knight juga ada di tempat kejadian.
Getaran di Waic adalah kebalikan dari Trump America-First, Visi Regulasi-Light Untuk AI, Will memberitahuku. Dalam pidato pembukaannya, Perdana Menteri Tiongkok Li Qiang membuat kasus yang serius untuk pentingnya kerja sama global di AI. Dia diikuti oleh serangkaian peneliti AI Tiongkok terkemuka, yang memberikan pembicaraan teknis yang menyoroti pertanyaan -pertanyaan mendesak yang tampaknya dilakukan oleh administrasi Trump sebagian besar.
Zhou Bowen, pemimpin Lab Shanghai AI, salah satu lembaga penelitian AI top China, menggembar -gemborkan pekerjaan timnya tentang keselamatan AI di WAIC. Dia juga menyarankan pemerintah dapat berperan dalam memantau model AI komersial untuk kerentanan.
Dalam sebuah wawancara dengan Wired, Yi Zeng, seorang profesor di Akademi Ilmu Pengetahuan Tiongkok dan salah satu suara terkemuka di negara itu di AI, mengatakan bahwa ia berharap organisasi keselamatan AI dari seluruh dunia menemukan cara untuk berkolaborasi. “Akan lebih baik jika Inggris, AS, Cina, Singapura, dan lembaga -lembaga lain berkumpul,” katanya.
Konferensi ini juga termasuk pertemuan tertutup tentang masalah kebijakan keselamatan AI. Berbicara setelah ia menghadiri satu confab seperti itu, Paul Triolo, seorang mitra di perusahaan penasihat DGA-Albright Stonebridge Group, mengatakan kepada WIRED bahwa diskusi itu produktif, meskipun tidak ada kepemimpinan Amerika yang nyata. Dengan AS yang keluar dari gambar, “koalisi pemain keselamatan AI utama, yang dipimpin oleh China, Singapura, Inggris, dan UE, sekarang akan mendorong upaya untuk membangun pagar pembatas di sekitar pengembangan model AI Perbatasan,” kata Triolo kepada Wired. Dia menambahkan bahwa bukan hanya pemerintah AS yang hilang: dari semua laboratorium utama AS, hanya Elon Musk Xai yang mengirim karyawan untuk menghadiri Forum Waic.
Banyak pengunjung Barat terkejut mengetahui betapa banyak pembicaraan tentang AI di Cina berkisar pada peraturan keselamatan. “Anda benar-benar dapat menghadiri acara keselamatan AI tanpa henti dalam tujuh hari terakhir. Dan itu tidak terjadi dengan beberapa KTT AI global lainnya,” Brian Tse, pendiri Lembaga Penelitian Keselamatan AI yang berbasis di Beijing, Concordia AI, kepada saya. Awal pekan ini, Concordia AI menjadi tuan rumah forum keselamatan selama sehari di Shanghai dengan para peneliti AI terkenal seperti Stuart Russel dan Yoshua Bengio.
Posisi beralih
Membandingkan cetak biru AI Cina dengan rencana aksi Trump, tampaknya kedua negara telah beralih posisi. Ketika perusahaan Cina pertama kali mulai mengembangkan model AI canggih, banyak pengamat berpikir mereka akan ditahan oleh persyaratan sensor yang diberlakukan oleh pemerintah. Sekarang, para pemimpin AS mengatakan mereka ingin memastikan model AI buatan sendiri “mengejar kebenaran objektif,” upaya yang, sebagai kolega saya Steven Levy menulis di minggu lalu Backchannel Newsletter, adalah “latihan terang-terangan dalam bias ideologis top-down.” Rencana aksi AI China, sementara itu, dibaca seperti manifesto globalis: ini merekomendasikan agar PBB membantu memimpin upaya AI internasional dan menyarankan pemerintah memiliki peran penting untuk dimainkan dalam mengatur teknologi.
Meskipun pemerintah mereka sangat berbeda, ketika datang ke keselamatan AI, orang -orang di Cina dan AS khawatir tentang banyak hal yang sama: model halusinasi, diskriminasi, risiko eksistensial, kerentanan keamanan siber, dll. Karena AS dan Cina yang sedang berkembang, “yang dilatih oleh orang -orang yang sama dan menggunakan metode yang sama dengan mereka, jenis -jenis hukum yang sama, dan pos yang sama, dan menggunakan metode yang sama, dan menggunakan Metode yang sama dari SKALING LAGES, jenis -jenis masyarakat. Itu juga berarti penelitian akademik tentang keselamatan AI berkumpul di kedua negara, termasuk di bidang -bidang seperti pengawasan yang dapat diskalakan (bagaimana manusia dapat memantau model AI dengan model AI lainnya) dan pengembangan standar pengujian keselamatan yang dapat dioperasikan.
Tetapi para pemimpin Cina dan Amerika telah menunjukkan bahwa mereka memiliki sikap yang sangat berbeda terhadap masalah ini. Di satu sisi, pemerintahan Trump baru-baru ini mencoba dan gagal menempatkan 10 tahun moratorium pada meloloskan peraturan AI tingkat negara bagian yang baru. Di sisi lain, pejabat Tiongkok, termasuk Xi Jinping sendiri, semakin berbicara tentang pentingnya meletakkan pagar di AI. Beijing juga sibuk menyusun standar dan aturan domestik untuk teknologi, beberapa di antaranya sudah berlaku.
Saat Trump menjadi nakal dengan kebijakan yang tidak ortodoks dan tidak konsisten, pemerintah Cina semakin terlihat seperti orang dewasa di ruangan itu. Dengan rencana aksi AI baru, Beijing berusaha memanfaatkan momen ini dan mengirim pesan kepada dunia: Jika Anda menginginkan kepemimpinan pada inovasi yang mengubah dunia ini, lihat di sini.
Pesona ofensif
Saya tidak tahu seberapa efektif pesona China ofensif pada akhirnya, tetapi retret global AS memang terasa seperti kesempatan sekali abad bagi Beijing untuk menyebarkan pengaruhnya, terutama pada saat setiap negara mencari panutan untuk membantu mereka memahami risiko AI dan cara terbaik untuk mengelola mereka.
Tapi ada satu hal yang saya tidak yakin tentang: Seberapa bersemangat industri AI domestik China akan merangkul fokus yang tinggi ini pada keselamatan? Sementara pemerintah Cina dan kalangan akademis telah secara signifikan meningkatkan upaya keselamatan AI mereka, industri sejauh ini tampak kurang antusias – sama seperti di Barat.
Laboratorium AI Cina mengungkapkan lebih sedikit informasi tentang upaya keselamatan AI mereka daripada rekan -rekan Barat mereka, menurut a Laporan Terbaru Diterbitkan oleh Concordia AI. Dari 13 pengembang AI Frontier di Cina yang dianalisis laporan, hanya tiga yang menghasilkan rincian tentang penilaian keselamatan dalam publikasi penelitian mereka.
Will mengatakan kepada saya bahwa beberapa pengusaha teknologi yang dia ajak bicara di WAIC mengatakan mereka khawatir tentang risiko AI seperti halusinasi, bias model, dan penyalahgunaan kriminal. Tetapi ketika datang ke AGI, banyak yang tampak optimis bahwa teknologi akan memiliki dampak positif pada kehidupan mereka, dan mereka kurang peduli tentang hal -hal seperti kehilangan pekerjaan atau risiko eksistensial. Secara pribadi, Will mengatakan, beberapa pengusaha mengakui bahwa mengatasi risiko eksistensial tidak sepenting bagi mereka seperti mencari cara untuk skala, menghasilkan uang, dan mengalahkan kompetisi.
Tetapi sinyal yang jelas dari pemerintah Cina adalah bahwa perusahaan harus didorong untuk mengatasi risiko keselamatan AI, dan saya tidak akan terkejut jika banyak startup di negara itu mengubah nada mereka. Triolo, dari DGA-Albright Stonebridge Group, mengatakan ia mengharapkan Lab Penelitian Perbatasan Cina untuk mulai menerbitkan lebih banyak pekerjaan keselamatan mutakhir.
Beberapa peserta WAIC melihat fokus China pada Open Source AI sebagai bagian penting dari gambar. “Karena perusahaan AI Cina yang semakin terbuka AIS yang kuat, rekan-rekan Amerika mereka ditekan untuk melakukan hal yang sama,” kata Bo Peng, seorang peneliti yang menciptakan model bahasa besar open source RWKV, mengatakan kepada Wired.
Peng itu membayangkan masa depan di mana negara -negara yang berbeda – termasuk negara -negara yang tidak selalu setuju – bekerja sama pada AI. “Lanskap kompetitif dari berbagai AIS open-source yang kuat adalah untuk kepentingan terbaik AI Safety dan Humanity’s Masa depan,” jelasnya. “Karena AIS yang berbeda secara alami mewujudkan nilai yang berbeda dan akan saling berhadapan.”
Ini adalah edisi Zeyi Yang Dan Louise Matsakis‘ Dibuat di buletin Cina. Baca buletin sebelumnya Di Sini.
