- Seorang pejabat tinggi Pentagon merinci bagaimana pembicaraan Departemen Pertahanan dengan Anthropic gagal.
- Pada hari Kamis, Pentagon mengatakan telah mengambil langkah yang belum pernah terjadi sebelumnya dengan memasukkan perusahaan AS ke dalam daftar hitam.
- Emil Michael, kepala penelitian dan pengembangan Pentagon, mengatakan betapa besarnya kekuatan yang dimiliki Anthropic sangat menakutkan.
Kepala Penelitian dan Pengembangan Pentagon mengatakan Departemen Pertahanan “takut” jika Anthropic menutup akses ke AI-nya pada saat kritis.
Saat tampil di “All-In Podcast” yang diposting pada hari Jumat, Wakil Menteri Pertahanan untuk Riset dan Teknik Emil Michael merinci dua momen penting yang berpuncak di Pentagon secara resmi menetapkan Antropik sebagai risiko rantai pasokansecara efektif memasukkan salah satu perusahaan AI terbesar di Amerika ke dalam daftar hitam.
Salah satunya, kata Michael, adalah ketika CEO Anthropic Dario Amodei menyarankan bahwa kebuntuan mengenai bagaimana Pentagon dapat menerapkan model startup AI dapat dijembatani dengan panggilan telepon, bahkan jika hal itu terjadi pada “momen yang menentukan.”
“Saya memberikan skenario ini, skenario Golden Dome, dan seterusnya,” kata Michael di “All-In Podcast,” menggambarkan inisiatif pertahanan rudal khas Presiden Donald Trump.
“Dan dia berkata, ‘Hubungi saja saya jika Anda memerlukan pengecualian lain.’ Dan saya berpikir, “Tetapi bagaimana jika balonnya naik pada saat itu dan itu seperti tindakan tegas yang harus kita ambil? Saya tidak akan memanggil Anda untuk melakukan sesuatu. Itu tidak rasional.”
Tidak sepenuhnya jelas apa yang akan ditolak oleh Anthropic dalam hipotetis yang diajukan Michael, meskipun implikasinya adalah bahwa beberapa sistem Golden Dome dapat memiliki mode otonom yang menembakkan senjata.
Dalam sistem pertahanan rudal AS saat ini, peran AI adalah memberikan kesadaran situasional dan rekomendasi secara cepat kepada operator manusia. AI dapat dengan cepat menilai apakah peluncuran yang terdeteksi menimbulkan ancaman dan merekomendasikan senjata untuk menghancurkannya. Keputusan apakah akan mendengarkan rekomendasi tersebut kemudian dibuat oleh komandan pertahanan udara.
Di bagian lain wawancara, Michael mengatakan bahwa bagian dari kebuntuan dengan Anthropic adalah bahwa ia “tidak dapat memprediksi dalam 20 tahun ke depan untuk apa kita akan menggunakan AI.”
Michael, yang sebelumnya merupakan eksekutif puncak di Uber, mengatakan kekhawatiran departemennya terhadap Anthropic mulai meningkat setelah AS melakukan tindakan serupa. serangan yang ditargetkan di Venezuela untuk menangkap Presiden Venezuela Nicolas Maduro. Serangan tersebut menimbulkan pertanyaan besar mengenai kedaulatan, dan anggota Kongres dari Partai Demokrat mempertanyakan keputusan untuk tidak meminta persetujuan pengerahan pasukan AS.
Setelah penggerebekan tersebut, Michael mengatakan bahwa seorang eksekutif Antropik yang tidak disebutkan namanya menelepon a Palantir eksekutif untuk menanyakan apakah model AI Anthropic telah digunakan untuk melaksanakannya. Pentagon mengakses model AI Anthropic melalui cloud pemerintah yang dioperasikan oleh Amazon Web Services dan kemudian dijalankan oleh Palantir, kata Michael. (Pada tanggal 27 Februari, Presiden Donald Trump memerintahkan lembaga-lembaga federal untuk berhenti menggunakan AI Anthropic, meskipun arahan tersebut disertai dengan periode penghentian penggunaan selama enam bulan.)
Michael mengatakan para pejabat Palantir sangat khawatir dengan pertanyaan Anthropic sehingga mereka memperingatkannya.
“Saya seperti, ‘Astaga, bagaimana jika perangkat lunak ini rusak, pagar pembatas dipasang, terjadi penolakan untuk pertarungan berikutnya seperti ini, dan kita membiarkan rakyat kita dalam bahaya,” kata Michael, menyinggung perang AS saat ini melawan Iran.
Ketika pembicaraan semakin memanas, Michael mengatakan dia merasa Anthropic mengubah diskusi tersebut “menjadi permainan PR”. menyampaikan kekhawatiran secara terbuka tentang bagaimana istilah yang dicari Pentagon tidak cukup menjelaskan potensi penyalahgunaan. Amodei telah mengkonfirmasi bahwa Anthropic sangat khawatir dengan risiko yang ditimbulkan oleh senjata otonom dan bagaimana model AI yang kuat dapat disalahgunakan untuk memata-matai warga Amerika.
Selama perdebatan yang memanas, Michael secara terbuka menyebut Amodei sebagai “pembohong” dengan “kompleks terhadap Tuhan”.
Pada hari Kamis, Pentagon mengatakan secara resmi memberi tahu Anthropic bahwa mereka menyatakan perusahaan dan produknya berisiko terhadap rantai pasokan, pertama kalinya dalam sejarah label tersebut diterapkan pada perusahaan AS.
Amodei menjawab bahwa startup AI miliknya melakukan “percakapan produktif” dengan Pentagon dalam beberapa hari terakhir, namun Michael kemudian mengatakan bahwa tidak ada diskusi yang sedang berlangsung.
Anthropic menyatakan pihaknya akan menantang penunjukan tersebut di pengadilan, terutama karena Menteri Pertahanan Pete Hegseth mengatakan pihaknya mencegah kontraktor pertahanan melakukan bisnis dengan Anthropic.
Ketika ditanya mengapa Pentagon bertindak sejauh ini, Michael mengatakan penunjukan tersebut tidak bersifat “menghukum”.
“Kalau model mereka punya bias kebijakan seperti ini, sebut saja berdasarkan konstitusi, budaya, masyarakatnya, dan sebagainya,” ujarnya. “Saya tidak ingin Lockheed Martin menggunakan model mereka untuk merancang senjata untuk saya.”
Awal pekan ini, juru bicara Lockheed mengatakan pihaknya akan mengikuti arahan Trump dan Pentagon mengenai apakah mereka akan terus menggunakan produk Anthropic. Michael juga memanggil Boeingmenjelaskan bagaimana produsen pesawat dapat menggunakan AI Anthropic untuk tugas-tugas non-pertahanan.
“Jadi, Boeing ingin menggunakan Anthropic untuk membuat jet komersial – lakukanlah,” katanya. “Boeing ingin menggunakannya untuk membuat jet tempur. Saya tidak bisa mendapatkannya karena saya tidak yakin dengan hasil yang akan dihasilkan, karena mereka terlalu terikat pada preferensi kebijakan mereka sendiri.”
Meskipun Michael mengkritik Anthropic, dia memuji xAI dan Elon Musk karena menyetujui persyaratan departemen tersebut, yang mengizinkannya menerapkan AI “untuk semua penggunaan yang sah”.
Michael juga memuji OpenAI dan CEO-nya, Sam Altmanuntuk bekerja sama dengan Pentagon agar segera membuat sistem AI lain yang mampu beroperasi di lingkungan rahasia, sehingga departemen tersebut dapat menghentikan penggunaan Anthropic.
Altman dan OpenAI telah menerima pukulan balik yang signifikan secara online karena setuju untuk bekerja dengan Pentagon. Altman secara terbuka mendesak departemen tersebut untuk tidak menyebut Anthropic sebagai risiko rantai pasokan.
“Yang patut disyukuri adalah saya meneleponnya dan berkata, ‘Saya memerlukan solusi jika masalah ini tidak berjalan mulus. Saya memerlukan berbagai solusi. Saya ingin Anda menjadi salah satunya,” kata Michael. “Dan dia berkata, ‘Baiklah, apa yang bisa saya lakukan untuk negara ini?’ Saya seperti, ‘Saya harus membuat Anda berlari secepat mungkin.”
Baca selanjutnya
