Bisakah perusahaan AI menetapkan batasan mengenai bagaimana dan di mana militer menggunakan model mereka? Anthropic sedang dalam negosiasi sengit dengan Pentagon setelah menolak untuk mematuhi persyaratan kontrak militer baru yang mengharuskannya melonggarkan batasan pada model AI-nya, memungkinkan “penggunaan apa pun yang sah,” bahkan pengawasan massal terhadap orang Amerika dan senjata mematikan yang sepenuhnya otonom.
CTO Pentagon Emil Michael mendorong Anthropic menjadi ditetapkan sebagai “risiko rantai pasokan” jika tidak patuh, label biasanya hanya diberikan pada ancaman keamanan nasional. Saingan Anthropic, OpenAI dan xAI, dilaporkan telah menyetujui persyaratan baru tersebut, namun bahkan setelah pertemuan Gedung Putih dengan Menteri Pertahanan Pete Hegseth, CEO Anthropic Dario Amodei masih tetap menyetujui persyaratan tersebut. masih menolak untuk melewati garis merah perusahaannya, dengan menyatakan bahwa “ancaman tidak mengubah posisi kami: dengan hati nurani kami tidak dapat menyetujui permintaan mereka.”
Ikuti terus di sini untuk mengetahui informasi terkini tentang bentrokan antara perusahaan AI dan Pentagon…
-
Bahkan Ilya Sutskever mempertimbangkan situasi Anthropic-Pentagon.
Salah satu pendiri OpenAI, yang keluar setelah pemecatan dan pengangkatan kembali CEO Sam Altman dan kemudian memulai startup AI miliknya sendiri bernama Safe Superintelligence, diposting pada X:
Sangatlah baik bahwa Anthropic tidak mundur, dan penting bagi OpenAI untuk mengambil sikap serupa.
Di masa depan, akan ada lebih banyak situasi yang menantang seperti ini, dan sangat penting bagi para pemimpin terkait untuk mengambil tindakan, agar para pesaing yang kuat dapat mengesampingkan perbedaan-perbedaan mereka. Senang melihat hal itu terjadi hari ini.
-
Kita tidak harus memiliki robot pembunuh tanpa pengawasan
Gambar: Cath Virginia / The Verge
Ini adalah hari ultimatum Pentagon untuk Anthropic: izinkan militer AS akses yang tidak dicentang terhadap teknologinya, termasuk untuk pengawasan massal dan senjata mematikan yang sepenuhnya otonom, atau berpotensi ditetapkan sebagai “risiko rantai pasokan” dan berpotensi kehilangan kontrak senilai ratusan miliar dolar. Di tengah meningkatnya pernyataan publik dan ancaman, pekerja teknologi di seluruh industri melihat kontrak pemerintah dan militer perusahaan mereka dan bertanya-tanya masa depan seperti apa yang ingin mereka bangun.
Meskipun Departemen Pertahanan telah menghabiskan waktu berminggu-minggu untuk bernegosiasi dengan Anthropic mengenai penghapusan batasannya, termasuk mengizinkan militer AS menggunakan target pembunuhan AI Anthropic tanpa pengawasan manusia, OpenAI dan xAI telah melakukannya. dilaporkan sudah menyetujui persyaratan tersebut, meskipun OpenAI menyetujuinya dilaporkan mencoba untuk mengadopsi garis merah yang sama dalam perjanjian seperti Anthropic. Situasi keseluruhan telah membuat karyawan di beberapa perusahaan yang memiliki kontrak pertahanan merasa dikhianati. “Saat saya bergabung dengan industri teknologi, saya pikir teknologi membuat hidup orang lebih mudah,” kata seorang karyawan Amazon Web Services Tepi“tapi sekarang sepertinya yang terpenting adalah mempermudah pengawasan, mendeportasi, dan membunuh orang.”
-
Anthropic menolak persyaratan baru Pentagon, berdiri teguh pada senjata otonom yang mematikan dan pengawasan massal
Gambar: Cath Virginia / The Verge, Getty Images
Kurang dari 24 jam sebelum batas waktu ultimatum yang dikeluarkan oleh Pentagon, Anthropic telah menolak tuntutan Departemen Pertahanan untuk akses tidak terbatas pada AI-nya.
Itu adalah puncak dari pertukaran dramatis pernyataan publik, postingan di media sosial, dan negosiasi di balik layar, yang disebabkan oleh keinginan Menteri Pertahanan Pete Hegseth untuk menegosiasikan ulang kontrak semua laboratorium AI dengan militer saat ini. Namun Anthropic, sejauh ini, menolak untuk mundur dari dua garis merah yang ada saat ini: tidak ada pengawasan massal terhadap orang Amerika, dan tidak ada senjata otonom yang mematikan (atau senjata dengan izin untuk membunuh sasaran tanpa pengawasan manusia sama sekali). OpenAI dan xAI punya dilaporkan sudah menyetujui persyaratan baru, sementara penolakan Anthropic menyebabkan CEO Dario Amodei dipanggil ke Gedung Putih minggu ini untuk pertemuan dengan Hegseth sendiri, di mana Sekretaris dilaporkan mengeluarkan ultimatum kepada CEO untuk mundur pada akhir hari kerja pada hari Jumat atau lainnya.
-
Pasukan Pentagon AI Pete Hegseth terdiri dari mantan eksekutif Uber dan miliarder ekuitas swasta
-
Di dalam negosiasi eksistensial Anthropic dengan Pentagon
Gambar: Cath Virginia / The Verge, Getty Images
Pertarungan Anthropic selama berminggu-minggu dengan Departemen Pertahanan terjadi melalui postingan media sosial, pernyataan peringatan publik, dan kutipan langsung dari pejabat Pentagon yang tidak disebutkan namanya ke media berita. Namun masa depan startup AI senilai $380 miliar ini hanya terdiri dari tiga kata: “penggunaan apa pun yang sah.” Persyaratan baru yang dimiliki OpenAI dan xAI dilaporkan sudah disetujui, akan memberikan kekuasaan penuh kepada militer AS untuk menggunakan layanan pengawasan massal dan senjata otonom yang mematikan, AI yang memiliki kekuatan penuh untuk melacak dan membunuh target tanpa melibatkan manusia dalam proses pengambilan keputusan.
Negosiasi menjadi buruk, dengan CTO Pentagon Emil Michael, mantan eksekutif puncak di perusahaan ridehailing Uber, mendorong ancaman pemerintah untuk menetapkan Anthropic sebagai “risiko rantai pasokan,” menurut dua orang yang akrab dengan negosiasi. Klasifikasi ini biasanya diperuntukkan bagi ancaman terhadap keamanan nasional, termasuk pengaruh asing yang jahat atau perang siber. CEO Antropis Dario Amodei akan melakukannya dilaporkan bertemu dengan Menteri Pete Hegseth pada hari Selasa di Pentagon, dan seorang pejabat Pertahanan yang tidak disebutkan namanya menggambarkannya sebagai “pertemuan yang tidak berguna.”
