Antropik bilang begitu menonaktifkan dua model AI yang diluncurkan awal pekan ini, Claude Fabel 5 dan Mitos 5untuk mematuhi arahan kontrol ekspor yang diterima Jumat sore dari pemerintah AS dengan alasan masalah keamanan nasional.
Insiden yang belum pernah terjadi sebelumnya ini menandai titik konflik terbaru antara keduanya Antropik dan pemerintahan Trump. Meskipun perusahaan mengatakan perintah tersebut memintanya untuk menangguhkan akses ke “warga negara asing mana pun, baik di dalam atau di luar Amerika Serikat, termasuk karyawan Anthropic berkewarganegaraan asing,” perusahaan tersebut telah menghapus akses bagi semua pelanggannya untuk memastikan kepatuhan.
Awal tahun ini, Departemen Pertahanan Trump menyebut Antropis sebagai “risiko rantai pasokan” setelah pembuat Claude berusaha menarik garis merah mengenai bagaimana militer AS dapat menggunakan teknologinya. Penunjukan tersebut secara efektif melarang lembaga pemerintah dan kontraktor menggunakan teknologi Anthropic. Anthropic merespons dengan mengajukan tuntutan hukum menentang pemerintahan Trump.
Pada hari Selasa, Anthropic dirilis ke publik Claude Fabel 5versi model AI Mythos milik perusahaan dengan perlindungan yang mencegahnya menjawab pertanyaan tentang keamanan siber, biologi, dan kimia. Sebelum dirilis ke publik, yang menurut Anthropic dilakukan bekerja sama dengan pemerintah AS, itu Model AI Pratinjau Mitos memiliki peluncuran terbatas pada bulan April. Tujuannya adalah untuk memberikan kesempatan kepada perusahaan dan organisasi untuk memanfaatkannya kemampuan keamanan siber yang kuat untuk meningkatkan pertahanan merekadan membendung kekhawatiran bahwa teknologi tersebut dapat dieksploitasi oleh pelaku kejahatan untuk mengembangkan alat peretasan yang ampuh.
Di sebuah postingan blog pada hari Jumat, Anthropic mengatakan mereka menerima surat dari pemerintah AS pada pukul 17:21 ET. “Surat itu tidak memberikan rincian spesifik mengenai masalah keamanan nasionalnya,” tulis Anthropic.
“Pemahaman kami adalah bahwa pemerintah yakin mereka telah menyadari adanya metode untuk melewati, atau ‘jailbreaking’ Fable 5,” perusahaan itu menambahkan. “Kami meninjau demonstrasi teknik khusus ini yang digunakan untuk mengidentifikasi sejumlah kecil kerentanan kecil yang diketahui sebelumnya. Semua kerentanan ini tampak relatif sederhana, dan kami telah menemukan bahwa model lain yang tersedia untuk umum juga dapat menemukannya tanpa memerlukan jalan pintas.”
Dalam postingan blognya, perusahaan berpendapat bahwa mereka telah menerapkan perlindungan yang kuat untuk mengurangi kemungkinan penyalahgunaan Claude Fable 5. Anthropic juga mengklaim bahwa jailbreak yang ditemukan pemerintah AS untuk Claude Fable 5 sangatlah sempit, dan tidak akan membuat penyerang menjadi lebih berbahaya dibandingkan dengan model AI lainnya.
“Sampai saat ini, pemerintah hanya memberi kami bukti verbal tentang potensi jailbreak yang sempit dan non-universal, yang pada dasarnya meminta model untuk membaca basis kode tertentu dan memperbaiki kelemahan perangkat lunak apa pun,” kata perusahaan itu dalam postingan blognya. “Pemahaman kami adalah bahwa satu potensi jailbreak telah dibagikan kepada pemerintah.”
Juru bicara Gedung Putih dan Departemen Perdagangan AS tidak segera menanggapi permintaan komentar WIRED.
CEO Anthropic Dario Amodei mengatakan dalam esai kebijakan awal pekan ini bahwa dia dan perusahaannya mendukung proses pemerintah yang adil, terstruktur, dan transparan yang akan menghalangi pelepasan model AI yang tidak aman. Dalam postingan blog perusahaan pada hari Jumat, Anthropic berpendapat bahwa “tindakan ini tidak mematuhi prinsip-prinsip tersebut.”
