Akhir minggu lalu, Antropik mengambil yang baru Claude Fabel 5 dan Mitos 5 Model AI offline mengikuti arahan kontrol ekspor pemerintah Amerika Serikat yang melarang “warga negara asing” menggunakan layanan tersebut. Perusahaan telah masuk pembicaraan dengan Gedung Putih sejak hari Jumat tetapi belum mendapatkan kesepakatan yang memungkinkan pihaknya mengembalikan penawaran.
Sejak Mythos memulai debutnya pada bulan AprilAnthropic telah mengklaim—dan memperingatkan—bahwa model tersebut memiliki kemampuan yang canggih tidak hanya untuk menemukan kerentanan perangkat lunak untuk membantu para pembela HAM menambalnya, namun juga mencari cara untuk mengeksploitasinya yang dapat digunakan oleh pelaku kejahatan. Anthropic sendiri mencatat pedang bermata dua ini dalam peluncuran Mythos 5 dan Claude Fable 5. “Sebagian besar penggunaan model AI tingkat lanjut bersifat penggunaan ganda: pertanyaan yang sama yang bermanfaat di tangan para profesional keamanan siber dan peneliti biologi bisa berbahaya jika tersedia bagi pelaku kejahatan,” perusahaan tersebut tulis dalam postingan blog minggu lalu.
Dengan mengingat hal ini, perusahaan awalnya merilis versi yang disebut Mythos Preview ke konsorsium terpilih sebagai bagian dari kelompok kerja yang dikenal sebagai Project Glasswing. Mythos 5 juga dirilis secara pribadi ke grup ini minggu lalu, sementara Claude Fable 5, yang merupakan model kelas Mythos, dirilis ke masyarakat umum dengan hambatan khusus pada kemampuannya untuk memberikan tanggapan terhadap pertanyaan tentang biologi dan keamanan siber.
Kemudian, pada akhir pekan lalu, pemerintahan Trump dipindahkan untuk membatasi kedua model karena mereka yakin bahwa pagar pembatas Fable 5 dapat dinonaktifkan untuk memungkinkan akses penuh ke kemampuan Mythos 5, yang diduga menjadikannya risiko keamanan nasional.
Namun, para ahli mengatakan bahwa bentrokan institusional ini hanya menunda atau menutupi kenyataan pahit: Anthropic mungkin menjadi ujung tombak saat ini, namun kemampuan AI secara umum dan model dari banyak perusahaan dan pengembang open-weight hampir pasti akan memiliki kemampuan serupa dengan Mythos 5 dalam waktu dekat—jika mereka belum melakukannya.
“Sangatlah keliru untuk berpikir bahwa tidak ada pesaing Anthropic yang akan mengembangkan kemampuan serupa dengan Mythos atau bahkan mereka belum melakukannya,” kata Tarah Wheeler, kepala petugas keamanan di perusahaan konsultan khusus keamanan siber TPO Group. “Ada perusahaan-perusahaan lain yang mengikuti Anthropic yang mungkin juga memiliki kemampuan tersebut, dan menyimpannya sebagai cadangan karena mereka melihat bagaimana Anthropic diperlakukan dalam lingkungan peraturan saat ini.”
Anthropic sendiri telah menekankan hal ini sejak peluncuran Mythos Preview. “Pesan sebenarnya adalah bahwa ini bukan tentang model atau Antropis,” Logan Graham, ketua tim merah terdepan perusahaan tersebut, mengatakan kepada WIRED ketika Mythos Preview diluncurkan pada bulan April. “Sekarang kita perlu bersiap menghadapi dunia di mana kemampuan ini tersedia secara luas dalam 6, 12, 24 bulan.”
OpenAI, misalnya, juga melakukan rilis pribadi a model yang berfokus pada keamanan siber pada pertengahan April dan mengumumkan perluasan strategi keamanan siber.
Para peneliti mencatat bahwa bahkan sebelum model generasi berikutnya ini, penawaran AI yang ada dapat digunakan untuk perburuan kerentanan tingkat lanjut dan pengembangan eksploitasi dengan memanfaatkan teknologi yang lebih baik. Sekelompok besar pemimpin keamanan siber menekankan hal ini kepada pemerintah dalam sebuah surat terbuka pada hari Minggu, dengan alasan bahwa arahan kontrol ekspor Gedung Putih salah arah.
“Ini bukan hanya satu model; ini adalah tren umum teknologi,” kata Bruce Schneier, peneliti di Universitas Harvard dan Universitas Toronto yang telah meneliti menganalisis situasinya. “Model sumber terbuka yang lebih kecil, lebih murah, terkadang berdiri sendiri atau digabungkan satu sama lain, dapat menandingi performa Mythos/Fable dengan dorongan yang lebih canggih. Dan kita dapat mengharapkan model lain untuk menyamai kreativitas dan keuletan Mythos/Fable dalam beberapa bulan—sedikit lebih lama untuk model sumber terbuka.”
Hal yang perlu menjadi fokus Gedung Putih dan pemerintah di seluruh dunia, menurut para ahli, adalah mengembangkan rencana yang lebih luas dan transparan secara demokratis mengenai bagaimana mereka akan menghadapi kemajuan kemampuan AI dalam keamanan siber dan bidang sensitif lainnya yang pasti terjadi.
“Pertanyaan kebijakannya bukanlah apakah suatu teknologi mempunyai risiko,” kata Chris Wysopal, salah satu pendiri perusahaan keamanan cloud Veracode. “Pertanyaannya adalah apakah pembatasan tertentu dapat mengurangi risiko tersebut secara signifikan atau justru memperlambat orang-orang yang berupaya membuat sistem lebih aman.”
