Baru saja berakhir a seminggu yang lalu, saya menghadiri sebuah jurusan kecerdasan buatan konferensi di Zhongguancun, distrik teknologi tinggi yang ramai di Beijing.
Itu dikemas dengan sesi menarik yang menyentuh segala hal mulai dari pengembangan diri secara rekursif—gagasan bahwa model dapat mengubah kode mereka sendiri dan berkembang tanpa batas—hingga robot humanoid. Dan ini menampilkan beberapa legenda komputasi, termasuk Whitfield Diffie, salah satu penemu kriptografi kunci publik, dan Andrew Barto, yang memenangkan Turing Award bersama Rich Sutton atas karya perintisnya dalam pembelajaran penguatan.
Namun saya membawa satu kesimpulan utama: AS dan Tiongkok harus mengesampingkan persaingan sengit mereka dalam bidang AI.
Keamanan siber dan risiko sistemis Frontier AI terlalu serius untuk diabaikan, dan model agen yang semakin mumpuni akan segera menimbulkan kekacauan kecuali negara-negara adidaya AI di dunia dapat bekerja sama. “AI adalah teknologi global dengan manfaat global, kerugian global, dan kecenderungan yang konsisten terhadap kemampuan baru yang pada akhirnya akan berkembang biak,” Stephen Casperseorang ilmuwan komputer di MIT yang berbicara di konferensi melalui video, memberi tahu saya setelahnya.
Hingga saat ini, AS memandang kemajuan AI Tiongkok sebagai ancaman ekonomi dan keamanan nasional. Washington telah memberlakukan pembatasan ketat terhadap chip dan peralatan pembuatan chip untuk menghambat pengembangan AI yang kuat di negara tersebut. Yang terbaru adalah pemerintah Amerika dipesan Antropis untuk mencegah warga negara asing mengakses model paling kuatnya, Mythos dan Fable 5, berakhir masalah keamanan nasional. Sebagai tanggapan, Anthropic mencabut akses untuk semua orang. Salah satu perusahaan yang menjadi perhatian khusus, yang diungkapkan WIRED sebelumnya, adalah a Raksasa telekomunikasi Korea Selatan yang diduga memiliki hubungan dengan Tiongkok.
Namun konferensi tersebut, yang diselenggarakan oleh Akademi Kecerdasan Buatan Beijing, memperkuat gagasan bahwa AS dan Tiongkok akan rugi jika AI dikembangkan terlalu cepat dan sembarangan. Ketika AI menjadi lebih kuat, lebih agen, dan lebih terkait dengan kehidupan sehari-hari, risiko bahwa AI dapat digunakan untuk melakukan serangan siber atau gagal dalam bentuk bencana akan semakin besar. Karena dua kekuatan AI yang dominan di dunia bertanggung jawab atas model-model paling canggih, kerja sama di antara mereka tampaknya akan menjadi hal yang sangat penting.
Casper menunjuk ke riset menunjukkan bahwa manfaat kolaborasi internasional dalam mengatasi bahaya AI lebih besar daripada risiko keamanan nasional yang timbul dari kerja sama. Dia menyamakan situasi saat ini dengan bagaimana AS dan Uni Soviet dipaksa untuk bekerja sama dalam mengatasi bahaya nuklir, bahkan ketika mereka berusaha untuk saling menimbun persediaan.
“Satu hal yang disetujui oleh hampir semua orang di AI saat ini adalah bahwa AI tidak memerlukan momen Chernobyl,” kata Casper.
Sesi satu hari menyoroti universalitas tantangan dunia maya yang ditimbulkan oleh AI yang lebih canggih. Ini termasuk jenis kerentanan baru di dalamnya Kode yang dihasilkan AIcara baru untuk menyerang sistem yang dimungkinkan oleh penggunaan alat agen, dan metode otomatis untuk melaksanakannya rekayasa sosial serangan.
Setelah sesi lainnya, saya berbicara dengan Lin Yun, seorang profesor di Universitas Shanghai Jia Tong yang melakukan pekerjaan luar biasa tentang AI dan keamanan komputer. Yun mengatakan kepada saya bahwa dia memperkirakan peretas akan mendapatkan keuntungan dalam waktu dekat, namun tindakan penanggulangan baru, termasuk penggunaan AI yang baru, akan mengembalikan keseimbangan ke arah pertahanan seiring berjalannya waktu.
Yun mengatakan meskipun kerja sama internasional dipersulit oleh persaingan, hal itu harus tetap menjadi prioritas. “Jika negara-negara berbeda memahami risiko dengan cara yang sama, akan lebih mudah untuk mengembangkan prinsip-prinsip keselamatan dan standar teknis bersama,” katanya kepada saya. “Kuncinya adalah menemukan area di mana berbagi dapat mengurangi risiko sistemik tanpa mengungkap rincian operasional yang sensitif.”
Mungkin pertanyaan paling mendesak bagi kedua negara adalah bagaimana menyeimbangkan keterbukaan dan risiko. Model berbobot terbuka menjadi sangat penting untuk penelitian dan inovasi, dengan model Tiongkok yang terbukti populer di AS. Namun seiring dengan kemajuan model ini, akan semakin sulit untuk memastikan bahwa model tersebut tidak membantu peretas mengidentifikasi kerentanan keamanan dan tidak dapat digunakan sebagai senjata siber.
Selama beberapa tahun terakhir, perusahaan-perusahaan Tiongkok telah memimpin dalam menawarkan model AI open-weight yang berkemampuan tinggi, seperti Kimi dari Moonshot, Qwen dari Alibaba, dan GLM dari Z.ai. AS telah di-boot ulang dorongan AI berbobot terbuka dengan model serupa Nemotron milik Nvidia. Namun kita mendekati titik perubahan di mana model terbuka yang kurang bertenaga bisa berbahaya jika pagar pembatasnya dicabut. Model terbaru dari Z.ai Tiongkok, GLM 5.2, mencakup kemampuan agen perbatasan dan pengkodean, menurut analisis ahli. Model AI open-weight generasi berikutnya mungkin memiliki kemampuan yang sama seperti Fable atau Mythos. Faktanya, baru minggu ini, 360 Security Technologies, sebuah perusahaan keamanan siber terkemuka di Tiongkok, dikatakan mereka telah mengembangkan model AI dengan kemampuan peretasan yang setara dengan Mythos.
Yun mengatakan industri perlu merancang cara-cara baru untuk menjamin bahwa model terbuka adalah yang terkini, bebas dari pintu belakang dan kerentanan, dan telah memenuhi standar keselamatan.
Salah satu kemungkinan tanda yang akan datang? Sebuah sumber di salah satu perusahaan AI terkemuka di Tiongkok, yang meminta untuk tidak disebutkan namanya karena mereka tidak berwenang untuk berbicara kepada pers, memberi tahu saya bahwa masalah keamanan adalah salah satu alasan mengapa beberapa model canggih di Tiongkok tidak lagi dirilis sebagai sumber terbuka.
Ini adalah edisi Will Knight Buletin Lab AI. Baca buletin sebelumnya Di Sini.
