Menteri AS pertahanan Pete Hegseth mengarahkan Pentagon untuk menunjuk Anthropic sebagai “risiko rantai pasokan” pada hari Jumat, mengirimkan gelombang kejutan ke seluruh Silicon Valley dan membuat banyak perusahaan bingung untuk memahami apakah mereka dapat terus menggunakan salah satu solusi industri ini. paling populer model AI.
“Berlaku segera, tidak ada kontraktor, pemasok, atau mitra yang melakukan bisnis dengan militer Amerika Serikat yang boleh melakukan aktivitas komersial apa pun dengan Anthropic,” tulis Hegseth dalam postingan media sosial.
Penunjukan itu dilakukan setelah berminggu-minggu negosiasi yang menegangkan antara Pentagon dan Anthropic mengenai bagaimana militer AS dapat menggunakan model AI startup tersebut. Di sebuah postingan blog minggu ini, Anthropic berpendapat bahwa kontraknya dengan Pentagon tidak boleh mengizinkan teknologinya digunakan untuk pengawasan domestik massal terhadap orang Amerika atau senjata yang sepenuhnya otonom. Pentagon meminta Anthropic setuju untuk membiarkan militer AS menerapkan AI-nya untuk “semua penggunaan yang sah” tanpa pengecualian khusus.
Penunjukan risiko rantai pasokan memungkinkan Pentagon untuk membatasi atau mengecualikan vendor tertentu dari kontrak pertahanan jika mereka dianggap menimbulkan kerentanan keamanan, seperti risiko yang terkait dengan kepemilikan, kendali, atau pengaruh asing. Hal ini dimaksudkan untuk melindungi sistem dan data militer yang sensitif dari potensi kompromi.
Anthropic merespons dengan cara lain postingan blog pada Jumat malam, dengan mengatakan bahwa pihaknya akan “menantang penetapan risiko rantai pasokan apa pun di pengadilan,” dan bahwa penetapan tersebut akan “menjadi preseden berbahaya bagi perusahaan Amerika mana pun yang bernegosiasi dengan pemerintah.”
Anthropic menambahkan bahwa pihaknya belum menerima komunikasi langsung dari Departemen Pertahanan atau Gedung Putih mengenai negosiasi penggunaan model AI-nya.
“Sekretaris Hegseth menyiratkan bahwa penunjukan ini akan membatasi siapa pun yang melakukan bisnis dengan militer untuk melakukan bisnis dengan Anthropic. Sekretaris tidak memiliki kewenangan hukum untuk mendukung pernyataan ini,” tulis perusahaan itu.
Pentagon menolak berkomentar.
“Ini adalah hal yang paling mengejutkan, merusak, dan melampaui batas yang pernah saya lihat dilakukan oleh pemerintah Amerika Serikat,” kata Dean Ball, peneliti senior di Foundation for American Innovation dan mantan penasihat kebijakan senior AI di Gedung Putih. “Kami pada dasarnya baru saja memberikan sanksi kepada sebuah perusahaan Amerika. Jika Anda orang Amerika, Anda harus memikirkan apakah Anda harus tinggal di sini 10 tahun dari sekarang atau tidak.”
Orang-orang di seluruh Silicon Valley ikut serta di media sosial dan mengungkapkan keterkejutan dan kekecewaan serupa. “Orang-orang yang menjalankan pemerintahan ini impulsif dan pendendam. Saya yakin ini cukup untuk menjelaskan perilaku mereka,” Paul Graham, pendiri akselerator startup Y Combinator dikatakan.
Boaz Barak, seorang peneliti OpenAI, berkata dalam sebuah posting bahwa “menekan salah satu perusahaan AI terkemuka kita adalah tindakan yang benar mengenai tujuan bunuh diri terburuk yang dapat kita lakukan. Saya sangat berharap bahwa orang yang lebih berkepala dingin akan menang dan pengumuman ini dibatalkan.”
Sementara itu, CEO OpenAI Sam Altman mengumumkan pada Jumat malam bahwa perusahaan tersebut mencapai kesepakatan dengan Departemen Pertahanan untuk menerapkan model AI-nya di lingkungan rahasia, yang tampaknya dibuat-buat. “Dua prinsip keselamatan kami yang paling penting adalah larangan pengawasan massal di dalam negeri dan tanggung jawab manusia atas penggunaan kekuatan, termasuk sistem senjata otonom,” kata Altman. “DoW menyetujui prinsip-prinsip ini, mencerminkannya dalam undang-undang dan kebijakan, dan kami memasukkannya ke dalam perjanjian kami.”
Pelanggan yang Bingung
Dalam postingan blognya pada hari Jumat, Anthropic mengatakan penetapan risiko rantai pasokan, berdasarkan otoritas 10 USC 3252, hanya berlaku untuk kontrak Departemen Pertahanan secara langsung dengan pemasok, dan tidak mencakup bagaimana kontraktor menggunakan perangkat lunak Claude AI untuk melayani pelanggan lain.
Tiga ahli kontrak federal mengatakan saat ini tidak mungkin untuk menentukan pelanggan Anthropic mana, jika ada, yang harus memutuskan hubungan dengan perusahaan tersebut. Pengumuman Hegseth “tidak terperosok dalam undang-undang apa pun yang dapat kita pahami saat ini,” kata Alex Major, mitra di firma hukum McCarter & English, yang bekerja dengan perusahaan teknologi.
Amazon, Microsoft, Google, dan Nvidia—semua perusahaan yang menyediakan layanan kepada militer AS dan bekerja dengan Anthropic—tidak segera menanggapi permintaan komentar WIRED. Anduril dan Shield AI, dua perusahaan teknologi pertahanan terkemuka yang berfokus pada AI, keduanya menolak berkomentar.
Penetapan risiko rantai pasokan biasanya tidak segera berlaku, dan pemerintah AS diharuskan menyelesaikan penilaian risiko dan memberi tahu Kongres sebelum mitra militer harus memutuskan hubungan dengan perusahaan atau produknya, menurut Charlie Bullock, peneliti senior di Institute for Law and AI.
Namun situasi tersebut masih dapat membuat perusahaan teknologi lain enggan bekerja sama dengan Pentagon, menurut Greg Allen, penasihat senior di Wadhwani AI Center di Pusat Studi Strategis dan Internasional (CSIS). “Departemen Pertahanan baru saja mengirimkan pesan besar kepada setiap perusahaan bahwa jika Anda mencelupkan kaki Anda ke dalam perairan yang menyebabkan kontraksi pertahanan, kami akan mencengkeram pergelangan kaki Anda dan menarik Anda sepenuhnya, kapan pun kami mau,” katanya.
Beberapa pakar hukum mengatakan kepada WIRED bahwa Anthropic kemungkinan akan menuntut pemerintah. Hegseth sebelumnya menyarankan agar DOD dapat menyerang Anthropic dengan menerapkan Undang-Undang Produksi Pertahanan, yang akan memaksa perusahaan tersebut untuk menyediakan teknologinya ke Pentagon. Allen mengatakan flip-flopping ini melemahkan argumen Pentagon bahwa Anthropic benar-benar merupakan risiko rantai pasokan.
Namun, penyelesaian tuntutan hukum bisa memakan waktu berbulan-bulan atau bertahun-tahun, dan sementara itu bisnis Anthropic bisa menderita jika perusahaan terpaksa memutuskan hubungan.
Perselisihan ini menimbulkan pertanyaan kritis bagi sejumlah mitra militer terkemuka AS, seperti Nvidia, Amazon, Google, dan Palantir, yang bekerja sama dengan Anthropic.
Salah satu eksekutif teknologi, yang perangkat lunak perusahaannya digunakan oleh militer AS dan tidak mau disebutkan namanya karena sensitifnya situasi, mengatakan bahwa hingga arahan Departemen Pertahanan tidak hanya sekedar diposting di media sosial, perusahaan mereka masih dalam pola bertahan dan memiliki pengacara yang memeriksa masalah ini.
Sebagai perbandingan, eksekutif tersebut menunjuk pada Pasal 889 Undang-Undang Otorisasi Pertahanan Nasional, sebuah larangan pengadaan yang melarang lembaga federal membuat kontrak dengan perusahaan yang menggunakan peralatan telekomunikasi Tiongkok tertentu sebagai “komponen substansial atau esensial” dari sistem apa pun. Jika mandat baru ini serupa, hal ini bisa menjadi “hal yang sulit untuk diselesaikan,” kata eksekutif tersebut, karena meskipun sebuah perusahaan teknologi menggunakan Kode Claude Anthropic secara internal, kode tersebut mungkin tidak didefinisikan sebagai bagian “penting” dari produk yang pada akhirnya dijual kepada pemerintah.
