Selama setengah a Pada abad ini, negara-negara kekuatan nuklir bergantung pada serangkaian perjanjian yang rumit dan rumit yang secara perlahan dan terus menerus mengurangi jumlah nuklir senjata nuklir di planet ini. Perjanjian-perjanjian tersebut sekarang sudah tidak berlaku lagi, dan tampaknya perjanjian-perjanjian tersebut tidak akan berlaku kembali dalam waktu dekat. Sebagai tindakan sementara, para peneliti dan ilmuwan menyarankan jalan ke depan yang berani dan aneh: menggunakan sistem satelit dan satelit kecerdasan buatan untuk memantau nuklir dunia.
“Untuk lebih jelasnya, ini adalah rencana B,” Matt Korda, direktur asosiasi di Federasi Ilmuwan Amerika, mengatakan kepada WIRED. Korda telah menulis laporan di FAS yang menguraikan kemungkinan masa depan pengendalian senjata di dunia di mana semua perjanjian lama sudah tidak ada lagi. Di dalam Inspeksi Tanpa InspekturKorda dan rekan penulisnya Igor Morić menjelaskan cara baru untuk memantau senjata nuklir dunia yang mereka sebut “cara teknis kooperatif.” Singkatnya, satelit dan teknologi penginderaan jarak jauh lainnya akan melakukan pekerjaan yang pernah dilakukan oleh para ilmuwan dan inspektur di lapangan.
Korda mengatakan AI dapat membantu proses ini. “Sesuatu yang menjadi keunggulan kecerdasan buatan adalah pengenalan pola,” katanya. “Jika Anda memiliki kumpulan data yang cukup besar dan terkurasi dengan baik, secara teori, Anda dapat melatih model yang mampu mengidentifikasi perubahan kecil di lokasi tertentu namun juga berpotensi mengidentifikasi sistem senjata individual.”
New START, sebuah perjanjian era Obama yang membatasi jumlah senjata nuklir yang dikerahkan Amerika Serikat dan Rusia, telah berakhir minggu lalu, pada tanggal 5 Februari. (Jangan khawatir, negara-negara tersebut dilaporkan masih berencana untuk mempertahankan status quo—untuk saat ini.) Kedua negara menghabiskan miliaran dolar untuk membangun jenis senjata nuklir yang baru dan berbeda. Tiongkok sedang membangun silo rudal balistik antarbenua baru. Sebagai Amerika menarik diri dari panggung duniajaminan nuklirnya tidak terlalu berarti, dan negara-negara seperti Korea Selatan mengincar bom tersebut. Kepercayaan antar negara berada pada titik terendah sepanjang masa.
Dalam kondisi seperti ini, upaya Korda dan Morić adalah menggunakan infrastruktur yang ada untuk bernegosiasi dan menegakkan perjanjian baru. Tidak ada negara yang menginginkan “pemeriksa lapangan berkeliaran di wilayah mereka,” kata Korda. Jadi, jika tidak, negara-negara nuklir dapat menggunakan satelit dan sensor jarak jauh lainnya untuk memantau senjata nuklir dunia dari jarak jauh. Sistem AI dan pembelajaran mesin kemudian akan mengambil data tersebut, mengurutkannya, dan menyerahkannya untuk ditinjau oleh manusia.
Ini adalah proposal yang tidak sempurna, tapi lebih baik daripada proposal literal Tidak ada apa-apa yang dimiliki dunia saat ini.
Selama beberapa dekade, Amerika dan Rusia telah berupaya mengurangi jumlah senjata nuklir di dunia. Pada tahun 1985 terdapat lebih dari 60.000 nuklir. Jumlah itu turun menjadi lebih dari 12.000. Menghilangkan sekitar 50.000 senjata nuklir membutuhkan kerja keras selama puluhan tahun dari para politisi, diplomat, dan ilmuwan. Kematian New START mewakili sanggahan atas kerja keras selama puluhan tahun. Inspeksi di lokasi ini menumbuhkan kepercayaan antara Rusia dan AS dan meletakkan dasar bagi pengurangan ketegangan selama Perang Dingin. Era tersebut kini telah berakhir, digantikan oleh era kepahitan dan perlombaan senjata nuklir yang kembali terjadi.
“Gagasan yang kami miliki dalam makalah ini adalah, bagaimana jika ada semacam jalan tengah antara tidak adanya pengendalian senjata dan hanya memata-matai, dan pengendalian senjata dengan inspeksi di tempat yang mengganggu yang mungkin tidak lagi layak secara politik?” kata Korda. “Apa yang dapat kita lakukan dari jarak jauh jika negara-negara tersebut bekerja sama satu sama lain untuk memfasilitasi rezim verifikasi jarak jauh?”
Usulan Korda dan Morić adalah menggunakan jaringan satelit yang ada untuk memantau silo rudal balistik antarbenua (ICBM), peluncur roket bergerak, dan lokasi produksi lubang plutonium. Salah satu kendala terbesarnya adalah implementasi yang baik dari rezim perjanjian yang ditegakkan dari jarak jauh memerlukan tingkat kerja sama tertentu. Negara-negara nuklir masih harus setuju untuk berpartisipasi.
“Mereka dapat mengirimkan pesan yang mengatakan, ‘Hei, untuk keperluan verifikasi perjanjian pengendalian senjata ini, kami ingin Anda membuka silo hatch X pada hari ini, pada waktu tertentu, karena pada saat itulah satelit kami akan terbang di atasnya,’” kata Korda. “Hal ini memungkinkan Anda untuk melakukan verifikasi timbal balik dengan menggunakan teknologi yang sudah ada saat ini. Tidak diperlukan siapa pun di lokasi, dan Anda tidak perlu melakukan liputan gaya mata-mata secara terus-menerus, di mana Anda hanya berharap untuk melihat sekilas berbagai hal. Sebaliknya, Anda bekerja sama untuk melakukan verifikasi bersama.”
Sistem AI, yang diverifikasi oleh manusia, dapat mengawasi semuanya. Tentu saja ada banyak permasalahan dalam hal ini. Salah satunya adalah sistem AI yang kompeten memerlukan kumpulan data yang besar agar dapat menjalankan tugas yang terlatih dengan baik, dan data pelatihan senjata nuklir tidak banyak. “Anda harus membuat kumpulan data khusus untuk setiap negara,” kata Korda. “Begini cara Rusia membangun silo ICBM. Begini cara Amerika Serikat membangun silo ICBM, semacam itu. Namun bahkan di dalam satu negara pun, terdapat perbedaan.”
Sara Al-Sayed dari Persatuan Ilmuwan Peduli telah membuat satu kumpulan data sebagai bagian dari studi yang akan datang tentang penggunaan sistem AI untuk verifikasi pengendalian senjata. Fokus studinya adalah rudal, namun menurutnya masih banyak lagi data yang perlu dilacak oleh pemantau nuklir bertenaga AI. “Anda dapat memikirkan segala hal seperti rudal, peluncur, pembom, kapal selam, lokasi produksi, pengujian, penyimpanan, pemeliharaan, dan pembongkaran, termasuk untuk setiap dan semua objek yang ada di lokasi tersebut,” katanya kepada WIRED. “Jadi, Anda benar-benar perlu berpikir pada tingkat yang terperinci dari semua objek.”
Lalu ada pertanyaan tentang apa sebenarnya yang akan dilakukan oleh sistem AI ini. “Apa tugasnya?” kata Al-Sayed. “Apakah Anda ingin mendeteksi ada atau tidaknya suatu objek? Mengklasifikasikan apa yang Anda lihat? Atau Anda ingin mengidentifikasi dan melacak perubahan dari waktu ke waktu?”
Dalam dunia hipotetis di mana AI dan penginderaan jarak jauh menggantikan inspeksi di tempat, pihak-pihak yang menyetujui rezim perjanjian baru harus menyepakati cara kerja AI dan apa yang mereka lacak. Hal ini berarti adanya putaran baru perundingan dan perjanjian baru di saat negara-negara bahkan tidak menghormati perjanjian lama mereka.
Al-Sayed mengatakan bahwa jika kita sampai pada titik di mana negara-negara sedang merundingkan hal-hal spesifik mengenai pengendalian senjata AI, maka dunia sudah berada dalam masalah. “Mengapa Anda ingin mengandalkan sistem verifikasi berbasis AI?” katanya. “Jika Anda percaya bahwa otomatisasi itu perlu, maka Anda berada dalam paradigma ini di mana Anda merasa perlu menangkap setiap contoh kecurangan yang dilakukan oleh musuh atau mitra perjanjian pengendalian senjata. Bagaimana bisa dua pihak atau lebih bisa bersatu untuk bahkan menyetujui negosiasi perjanjian atau perjanjian pengendalian senjata jika ada asumsi bahwa setiap tindakan dapat menimbulkan kecurigaan?”
Penelitian Al-Sayed terhadap AI dan pengendalian senjata juga menunjukkan kepadanya bahwa sistem ini lebih kompleks daripada yang Anda yakini. “Ada sifat stochasticity yang melekat pada teknik ini, mulai dari proses kurasi data yang akan Anda gunakan untuk melatih model Anda, lalu pelabelan, lalu model itu sendiri, dan performa acak dari model tersebut serta kurangnya penjelasannya, dan kemudian keacakan yang muncul,” ujarnya
“Bagaimana kita bisa membuat mesin itu dapat dipercaya?” dia bertanya.
Saat ini, kami tidak bisa. Sistem AI gagal setiap hari. Mereka dikirimkan dengan kelemahan keamanan yang sangat besar, dan orang yang mendesainnya sering kali tidak dapat menjelaskan cara kerjanya. Teknologi ini akan sulit untuk mempertahankan rezim pengendalian senjata nuklir yang baru.
Namun semua rezim perjanjian tidak sempurna, dan saat ini tidak ada negara yang mengizinkan kekuatan asing mengunjungi fasilitas nuklirnya. Bagi Korda, Morić, dan pihak lain di FAS, yang terpenting adalah triase—menggunakan satelit dan sistem AI yang tidak sempurna untuk mengawasi senjata nuklir dunia bisa menjadi jembatan kecil menuju dunia yang lebih baik.
“Pengganti New START tidak akan menempatkan kita pada jalur perlucutan senjata,” kata Korda. “Hal ini hanya akan membantu kita mencegah terjadinya spiral tambahan berupa ratusan senjata nuklir tambahan yang dikerahkan.”
