Keputusan pemerintahan Trump yang memberlakukan penyisiran kontrol ekspor pada Anthropic Hal ini menyusul upaya panik selama 24 jam yang dilakukan para pejabat senior untuk meyakinkan perusahaan tersebut agar secara sukarela menarik model kecerdasan buatan yang baru dirilis yang diyakini para pejabat menimbulkan risiko keamanan, menurut dua pejabat pemerintah dan seorang pejabat senior Gedung Putih, yang, seperti orang lain dalam cerita ini, tidak disebutkan namanya karena mereka tidak berwenang untuk membahas episode tersebut.
Langkah tersebut, yang diikuti beberapa panggilan tegang di antaranya CEO Antropis Dario Amodei dan para pejabat pemerintahan, termasuk Menteri Keuangan Scott Bessent dan Direktur Siber Gedung Putih Sean Cairncross, menggarisbawahi bagaimana Gedung Putih bergulat secara real-time dalam mengatur model AI yang bergerak cepat dan berpotensi berbahaya.
Rincian panggilan tersebut belum dilaporkan sebelumnya.
Pemberlakuan kontrol ekspor oleh pemerintah memaksa Anthropic menarik model AI barunya, Fable, hanya beberapa hari setelah dirilis ke publik. Anthropic telah memberikan jaminan bahwa AI tersebut aman, namun segera setelah dirilis, para pejabat tinggi pemerintahan semakin meragukan bahwa pagar pembatas AI seaman yang disarankan oleh perusahaan.
Pada hari Kamis, dua hari setelah model tersebut dirilis ke publik, CEO Amazon Andy Jassy menyampaikan kekhawatirannya kepada Gedung Putih tentang kemampuannya untuk melewati batasan model tersebut, menurut dua pejabat pemerintah dan pejabat senior Gedung Putih.
(Amazon, yang merupakan investor di Anthropic, menanggapi permintaan umpan balik dari pemerintah, kata seseorang yang mengetahui diskusi Amazon.)
Pada Jumat pagi, masalah ini telah mencapai tingkat tertinggi di Gedung Putih.
Yang Mulia, Cairncross, Kepala Staf Susie Wiles dan pejabat senior lainnya bertemu untuk membahas model tersebut dan tanggapan pemerintah, menurut pejabat pemerintah dan pejabat senior Gedung Putih. Bessent bergabung dari jarak jauh saat bepergian ke Houston untuk acara publik yang dijadwalkan sebelumnya, kata salah satu dari mereka.
Setelah pertemuan tersebut, pemerintah berusaha menghubungi Amodei tetapi diberitahu bahwa dia tidak bisa hadir karena dia sedang menghadiri retret kesehatan, kata salah satu pejabat pemerintah dan pejabat senior Gedung Putih.
Seorang juru bicara Anthropic menolak klaim bahwa dia mengikuti retret kesehatan, dengan mengatakan, “Ini sepenuhnya salah.”
Seseorang yang dekat dengan Anthropic mengatakan Amodei pertama kali diminta sekitar tengah hari dan berbicara melalui telepon dengan pejabat senior dalam waktu satu jam 15 menit. Ketika dia kehabisan uang, Anthropic menawarkan pemimpin senior lainnya untuk menggantikannya, kata orang itu.
Ketika pemerintah akhirnya menghubungi Amodei, dia berpartisipasi dalam tiga panggilan telepon dengan gabungan sekitar setengah lusin pejabat senior pemerintah, termasuk Cairncross, Bessent, dan Menteri Perdagangan Howard Lutnick, menurut pejabat senior Gedung Putih dan salah satu pejabat pemerintah.
Staf senior Gedung Putih dan pejabat administrasi lainnya, termasuk Wakil Menteri Perdagangan untuk Industri dan Keamanan Jeffrey Kessler, sekretaris staf Gedung Putih Will Scharf, wakil kepala staf Gedung Putih Richard Walters, dan asisten presiden bidang kebijakan Walker Barrett, juga berpartisipasi dalam beberapa panggilan tersebut, menurut pejabat senior Gedung Putih.
Selama panggilan telepon, Amodei mencoba menjernihkan apa yang dia anggap sebagai kesalahpahaman. Dia menolak kekhawatiran pemerintah, membela pagar pembatas, dan berpendapat bahwa jenis jalan pintas yang terjadi, yang dia yakini spesifik, tidak menimbulkan risiko yang sama dengan “pembobolan penjara” yang lebih luas yang memungkinkannya digunakan tanpa ada pagar pembatas yang dipasang oleh Anthropic.
Dalam sebuah posting blog setelah kontrol ekspor diberlakukan, Anthropic mengatakan bahwa “belum ada penguji yang dapat menemukan jailbreak universal – metode jailbreak yang dapat melewati perlindungan model secara luas, membuka blokir berbagai kemampuan dunia maya,” dan bahwa penghindaran total terhadap jailbreak apa pun kini tidak mungkin dilakukan oleh mereka atau perusahaan lain. Mereka membela sistem mereka, yang menurut mereka “sangat kuat sehingga banyak pengguna mengeluh bahwa sistem tersebut terlalu luas.”
Cairncross dan Bessent tidak terpengaruh oleh argumen Amodei. Seorang pejabat Gedung Putih mengatakan temuan Amazon telah melewati Badan Keamanan Nasional, dan mereka merasa memiliki “bukti”.
Mereka mendesak Anthropic untuk secara sukarela menghapus model tersebut dan berkoordinasi dengan pemerintah untuk mengatasi kerentanan tersebut, menurut pejabat senior Gedung Putih dan dua pejabat pemerintah. Amodei meminta lebih banyak waktu dan informasi, namun dia tidak membuat komitmen untuk menarik model tersebut, dan pada satu titik, Bessent memberi tahu Amodei secara langsung bahwa dia membuat “keputusan yang buruk”, menurut pejabat senior Gedung Putih.
Tak lama setelah seruan tersebut, pemerintahan Trump memberlakukan kontrol ekspor pada model Fable 5 dan Mythos 5, mengutip otoritas keamanan nasional dan melarang penggunaannya oleh warga negara asing, menurut Anthropic. Perusahaan tersebut mengatakan “efek bersih” dari perintah tersebut adalah “tiba-tiba menonaktifkan” model tersebut untuk semua pelanggan “untuk memastikan kepatuhan.”
“Pengendalian ekspor adalah upaya terakhir setelah meminta mereka berjam-jam untuk bekerja sama dengan kami,” kata pejabat senior Gedung Putih. “Ini bukanlah sesuatu yang ingin kami lakukan, namun tangan kami terikat.”
Setelah publikasi tersebut, salah satu orang yang dekat dengan Anthropic membantah bahwa perusahaan tersebut diberi pilihan untuk bekerja secara sukarela dengan pemerintah.
“Gedung Putih memberikan waktu 90 menit untuk menghapus model tersebut, tanpa rincian mengenai ancaman sebenarnya,” kata sumber tersebut. “Tidak pernah ada permohonan – atau permintaan – agar mereka bekerja bersama kami, yang ada hanya tenggat waktu 90 menit yang dinyatakan.”
Pejabat Gedung Putih – yang pernah mendengar Amodei menyamakan bahaya teknologi Anthropic dengan bom nuklir – dibuat bingung ketika CEO tersebut mengatakan bahwa dia tidak bersedia menghentikan sistem tersebut untuk mengatasi kerentanan keamanan yang diketahui, kata pejabat senior Gedung Putih. Anthropic telah mendefinisikan dirinya di kalangan industri sebagai pendukung vokal regulasi AI untuk melawan risiko keamanan global yang besar dan gangguan pekerjaan seiring dengan kemajuan AI yang pesat.
Tiga orang yang mengetahui pemikiran pemerintah mengatakan Amazon bukan satu-satunya perusahaan yang menyampaikan kekhawatirannya.
“Intinya adalah tidak adanya keseriusan yang diterapkan oleh Anthropic,” kata salah satu dari tiga orang tersebut. “Seandainya Anthropic menanggapinya dengan serius dan, alih-alih menganggapnya terisolasi, lalu berupaya memperbaiki atau menghentikan akses, hal ini tidak akan pernah terjadi.”
Orang kedua yang dekat dengan Anthropic membantah gagasan bahwa “jailbreak” adalah kerusakan sistem keamanan Fable 5 dan menunjuk pada kolaborasi perusahaan dengan pemerintah sebelum merilis Fable. Pemerintah tidak keberatan dengan pembebasan Fable dalam berbagai percakapan, kata orang tersebut.
Dalam postingan blognya setelah pemerintah memberlakukan kontrol ekspor, Anthropic mengatakan pihaknya mematuhi arahan pemerintah, namun menyebutnya tidak proporsional.
“Seperti yang telah kami nyatakan secara terbuka, kami yakin pemerintah harus memiliki kemampuan untuk memblokir pengerahan yang tidak aman, sebagai bagian dari proses hukum yang transparan, adil, jelas, dan didasarkan pada fakta teknis. Tindakan ini tidak mematuhi prinsip-prinsip tersebut,” kata Anthropic.
Seorang pejabat Gedung Putih, yang enggan disebutkan namanya, mengatakan bahwa inovasi tetap menjadi “tujuan nomor satu Gedung Putih, namun kita juga harus memprioritaskan keamanan.”
Amazon, dalam sebuah pernyataan, menolak untuk membagikan rincian diskusinya dengan pemerintah. “Bukan hal yang aneh bagi pemerintah untuk meminta nasihat kami mengenai potensi risiko keamanan,” kata juru bicara Amazon. “Ketika hal itu terjadi, kami tidak membagikan rincian diskusi ini.”
Anthropic mengumumkan pada awal April bahwa model terbarunya yang canggih, Mythos, hanya akan tersedia untuk sejumlah perusahaan teknologi dan cyber, yang dapat menggunakannya untuk menguji kerentanan dalam perangkat lunak mereka. Perusahaan perlu membatasi peluncurannya karena model tersebut sangat kuat sehingga dapat mendatangkan malapetaka di tangan yang salah.
Debut model tersebut mengawali serangkaian pertemuan antara Amodei dan pejabat senior Gedung Putih. Kedua belah pihak menggambarkan pertemuan itu sebagai pertemuan yang produktif. Hal ini berujung pada serangkaian perbincangan mengenai pengaturan model-model canggih yang berujung pada dikeluarkannya perintah eksekutif baru-baru ini, yang meminta perusahaan-perusahaan secara sukarela menyerahkan model-model canggih mereka kepada pemerintah sebelum menerapkannya secara luas.
Fable 5, yang diluncurkan ke publik minggu ini, digambarkan oleh Anthropic sebagai “model kelas Mythos” dengan perlindungan agar aman untuk penggunaan umum. Model ini telah ditinjau oleh pemerintah dan Institut Keamanan AI Inggris.
Namun begitu dugaan kelemahan keamanan terungkap, banyak pejabat pemerintah merasa model tersebut perlu ditarik.
Dalam sebuah postingan di X pada Sabtu pagi, David Sacks, mantan tsar AI Gedung Putih dan penentang keras regulasi, setuju dengan keputusan pemerintah untuk menerapkan kontrol ekspor untuk Anthropic.
Sacks mengatakan dia tidak percaya bahwa “pembobolan penjara” itu sederhana atau tidak serius, dan dia juga tidak percaya bahwa kontrol ekspor adalah upaya untuk melakukan kontrol atas industri secara lebih luas.
“Harapan Admin sekarang adalah Anthropic memperbaiki masalah keamanan, kendali ekspor dicabut, dan Fable kembali dirilis secara umum,” tulis Sacks. “Admin ingin semua ini terjadi sesegera mungkin. Sejujurnya kami bingung karena Anthropic tidak mau mematuhi permintaan keselamatan yang sebelumnya dikatakan sebagai prioritas tertingginya.”
Sacks dan pejabat lain di pemerintahan mengkritik Anthropic, menuduhnya memiliki bias politik sayap kiri dan menyebarkan rasa takut karena anjuran mereka untuk regulasi industri yang lebih kuat dan peringatan tentang gangguan lapangan kerja massal.
Menteri Pertahanan Pete Hegseth dan Pentagon meningkatkan ketidaksepakatan pemerintah dengan Anthropic ke tingkat yang belum pernah terjadi sebelumnya pada awal tahun ini, dan menetapkan perusahaan tersebut sebagai risiko rantai pasokan pada tanggal 3 Maret karena penolakan mereka untuk mengizinkan alat AI mereka digunakan untuk pengawasan domestik massal dan senjata otonom.
Pada hari Sabtu, Sacks mengatakan perselisihan masa lalu antara pemerintah dan Anthropic terpisah dari keputusan pengendalian ekspor.
“Admin menghargai kemampuan teknis Anthropic dan merasa bahwa masalah ini, meskipun serius, harus diselesaikan dengan mudah. Bola ada di tangan Anthropic,” tulis Sacks.
Cerita ini awalnya muncul di POLITICO dan merupakan milik Axel Springer Global Reporters Network, yang memanfaatkan sumber daya redaksi perusahaan untuk menerbitkan berita, investigasi, wawancara, opini, dan analisis yang ambisius. Hal ini memungkinkan jurnalis – termasuk dari POLITICO, Business Insider, WELT, BILD, Onet, dan Fakt – untuk berkolaborasi dalam berita besar untuk ratusan juta audiens internasional di seluruh platform.
Brendan Bordelon berkontribusi pada laporan ini.
