Anthropic terkena aturan ekspor yang tidak dipahami siapa pun

Anthropic telah menghabiskan sebagian besar minggu ini berjuang untuk mengembalikan model AI terbarunya setelah pemerintahan Trump tiba-tiba dipesan perusahaan memotong akses untuk semua warga negara asing, termasuk pengguna di AS dan karyawannya sendiri, memaksa Anthropic memblokir akses ke Fable 5 dan Mythos 5 untuk semua orang.

“Sepengetahuan saya, ini adalah pertama kalinya kontrol ekspor AS digunakan untuk mengontrol akses ke model AI dengan cara ini.”

Pemerintahan Trump belum menjelaskan secara terbuka dasar hukum perintah tersebut, namun dalam pernyataan di situsnya, Anthropic dikatakan pemerintah mengutip “otoritas keamanan nasional” untuk membenarkan “petunjuk pengendalian ekspor” pada model tersebut. (Anthropic juga mengklaim bahwa kekhawatiran pemerintah tentang “pembobolan penjara” berpotensi digunakan oleh kelompok yang terkait dengan Tiongkok mengakses modelnya tidak mengizinkan pengguna untuk menghindari semua perlindungan perusahaan.)

Namun mengapa pemerintah menggunakan aturan pengendalian ekspor untuk mengatasi hal ini? Para ahli mengatakan kejadian ini tampaknya belum pernah terjadi sebelumnya, sehingga memperlihatkan tahap yang tidak pasti dan tidak stabil dalam tata kelola AI. Dan apa sebenarnya yang seharusnya diekspor oleh Anthropic? (Perusahaan tidak menanggapi Tepipermintaan komentar.)

Pengendalian ekspor secara tradisional diterapkan pada barang-barang yang dapat dikirim melintasi perbatasan: senjata, perangkat keras, peralatan, dan hal-hal semacam itu. Seiring berjalannya waktu, kerangka kerja ini telah diperluas hingga mencakup barang-barang yang kurang berwujud, seperti perangkat lunak, kode sumber, data teknis, dan bahkan File senjata cetak 3D. Ini masih merupakan hal-hal terpisah yang dapat disalin, diunduh, dipublikasikan, atau diserahkan dan diambil, tidak hanya digunakan melalui layanan jarak jauh seperti chatbot. Dalam konteks AI, Presiden Joe Biden terharu untuk mengontrol bobot model AI – data inti yang membuat model berfungsi yang dapat disalin dan dijalankan di tempat lain – dengan cara ini; ide ini adalah dengan cepat ditinggalkan oleh pemerintahan Trump pada masa jabatan kedua.

Tatanan Antropis tidak cocok dengan kerangka ini. Tidak ada transfer yang jelas terjadi: Mythos dan Fable tetap dihosting di server Anthropic, dan pengguna tidak menerima kode sumber, bobot model, atau salinan model itu sendiri, melainkan mendapatkan tanggapan chatbot atas pertanyaan mereka. Ekspor dapat berupa informasi spesifik yang dihasilkan oleh model, namun tidak jelas mengapa hal tersebut memerlukan penonaktifan akses ke seluruh sistem, bukan hanya membatasi sebagian saja. Hal ini juga bisa berupa akses itu sendiri — meskipun akses jarak jauh ke layanan cloud merupakan sebuah kesenjangan yang diketahui dalam rezim kontrol ekspor saat ini, sebuah kesenjangan yang sudah coba diatasi oleh Kongres. menutup melalui undang-undang yang sekarang diajukan melalui Senat.

Hanna Dohmen, analis riset senior di Pusat Keamanan dan Teknologi Berkembang Universitas Georgetown, mengatakan Tepi Ini adalah “pertanyaan terbuka” mengenai apakah peraturan tersebut melanggar aturan yang ada tanpa melihat bahasa yang tepat di baliknya. “Bagaimanapun, peraturan ini cukup penting karena, sepengetahuan saya, ini adalah pertama kalinya kontrol ekspor AS digunakan untuk mengontrol akses ke model AI dengan cara ini.”

“Mengatakan bahwa ini adalah bidang pembuatan aturan pengendalian ekspor yang belum terselesaikan adalah sebuah pernyataan yang meremehkan,” kata Andrew Reddie, seorang profesor di Sekolah Kebijakan Publik Goldman UC Berkeley. Dia mengatakan bahwa peraturan pengendalian ekspor dan peraturan lain seperti peraturan senjata memberikan pemerintah “keleluasaan luas” untuk membatasi akses terhadap barang-barang tertentu. Namun “keraguan pemerintah berturut-turut mengenai tanggung jawab pengembang model” telah mempersulit perusahaan untuk memahami apa yang diharapkan dari mereka, katanya.

Hal ini membuat industri berada dalam kesulitan. Jika Anthropic ditargetkan karena Mythos dan Fable memiliki kemampuan unik, urutan tersebut menimbulkan pertanyaan yang jelas bagi model generasi berikutnya dari OpenAI, Google, Meta, xAI, dan lab perbatasan lainnya. Jika hal-hal tersebut menjadi sasaran karena masalah perlindungan tertentu, pemerintah perlu menguraikan perlindungan apa yang dianggap cukup. Dan jika Anthropic dipilih karena itu hubungan yang tegang dengan pemerintahan Trumpperintah tersebut menjadi semakin sulit untuk dipahami.

Apa pun yang terjadi, para ahli mengatakan ini bukanlah cara yang berkelanjutan untuk mengelola AI, terutama jika AS ingin mempertahankan keunggulannya secara global. Itu Insiden ini telah menambah bahan bakar perdebatan bahwa pemerintah dan perusahaan di luar AS harus berhati-hati dalam mengandalkan perusahaan-perusahaan Amerika untuk mengakses sistem-sistem penting yang strategis.

Reddie memiliki kekhawatiran serupa. “Dalam beberapa hal, saya pikir kejadian ini memperjelas ketidakberlanjutan rezim pemerintahan yang ada,” katanya. Hal ini terutama berlaku jika pemerintah lebih khawatir mengenai apakah pengguna dapat melakukan jailbreak pada model dan mengabaikan perlindungan mereka. “Jika membuat model yang tidak mungkin di-jailbreak menjadi standar de facto di Amerika Serikat, maka Amerika tidak akan memiliki model AI.”

Semua hal ini mengarah pada masalah yang sama: Pemerintahan Trump menginginkan AI bersifat dua arah. Sudah berulang kali berkata mereka ingin mengambil pendekatan lepas tangan dan memperjuangkan teknologi Amerika, namun memaksa perusahaan domestik untuk secara tidak sengaja mencabut model-model terdepan mereka melalui perintah yang masih belum dijelaskan secara publik. Jika Washington ingin mengendalikan siapa yang dapat mengakses sistem AI yang kuat, mereka perlu menjelaskan caranya, dan memberikan peluang nyata bagi perusahaan untuk mematuhinya sebelum diluncurkan. Intervensi ad hoc yang tampaknya dilakukan secara tiba-tiba tidak akan berkelanjutan dalam jangka panjang – dan ini adalah cara yang baik untuk memastikan Amerika tertinggal dalam persaingan AI.