Kita tidak harus memiliki robot pembunuh tanpa pengawasan

Ini adalah hari ultimatum Pentagon untuk Anthropic: izinkan militer AS akses yang tidak dicentang terhadap teknologinya, termasuk untuk pengawasan massal dan senjata mematikan yang sepenuhnya otonom, atau berpotensi ditetapkan sebagai “risiko rantai pasokan” dan berpotensi kehilangan kontrak senilai ratusan miliar dolar. Di tengah meningkatnya pernyataan publik dan ancaman, pekerja teknologi di seluruh industri melihat kontrak pemerintah dan militer perusahaan mereka dan bertanya-tanya masa depan seperti apa yang ingin mereka bangun.

Meskipun Departemen Pertahanan telah menghabiskan waktu berminggu-minggu untuk bernegosiasi dengan Anthropic mengenai penghapusan batasannya, termasuk mengizinkan militer AS menggunakan target pembunuhan AI Anthropic tanpa pengawasan manusia, OpenAI dan xAI telah melakukannya. dilaporkan sudah menyetujui persyaratan tersebut, meskipun OpenAI menyetujuinya dilaporkan mencoba untuk mengadopsi garis merah yang sama dalam perjanjian seperti Anthropic. Situasi keseluruhan telah membuat karyawan di beberapa perusahaan yang memiliki kontrak pertahanan merasa dikhianati. “Saat saya bergabung dengan industri teknologi, saya pikir teknologi membuat hidup orang lebih mudah,” kata seorang karyawan Amazon Web Services Tepi“tapi sekarang sepertinya yang terpenting adalah mempermudah pengawasan, mendeportasi, dan membunuh orang.”

Dalam percakapan dengan Tepikaryawan saat ini dan mantan karyawan OpenAI, xAI, Amazon, Microsoft, dan Google mengungkapkan perasaan serupa tentang perubahan lanskap moral di perusahaan mereka. Kelompok terorganisir yang mewakili 700.000 pekerja teknologi di Amazon, Google, Microsoft, dan banyak lagi telah melakukannya menandatangani surat menuntut perusahaan-perusahaan tersebut menolak tuntutan Pentagon. Namun banyak yang melihat kecilnya peluang bagi majikan mereka – baik mereka terlibat langsung dalam konflik ini atau tidak – untuk mempertanyakan atau melawan pemerintah.

“Dari sudut pandang mereka, mereka ingin terus menghasilkan uang dan tidak perlu membicarakannya,” kata seorang insinyur perangkat lunak dari Microsoft.

Sejauh ini, Anthropic masih bertahan. CEO Antropis Dario Amodei mengemukakan penyataan pada hari Kamis bahwa “ancaman Pentagon tidak mengubah posisi kami: kami tidak dapat dengan hati nurani menyetujui permintaan mereka.” Namun dia menyatakan bahwa dia sama sekali tidak menentang senjata otonom yang mematikan di masa depan, hanya saja teknologinya tidak cukup andal “saat ini.” Amodei bahkan menawarkan untuk bermitra dengan Departemen Pertahanan dalam “R&D untuk meningkatkan keandalan sistem ini, namun mereka belum menerima tawaran ini,” tulisnya dalam pernyataan.

Namun, dalam beberapa tahun terakhir, perusahaan teknologi besar telah melakukannya melonggarkan aturan mereka atau mengubah pernyataan misi mereka untuk memperluas ke kontrak pemerintah atau militer yang menguntungkan. Pada tahun 2024, OpenAI menghapus larangan kasus penggunaan “militer dan peperangan” dari persyaratan layanannya; setelah itu, mereka menandatangani kesepakatan dengan pembuat senjata otonom Anduril dan kemudian kontrak Departemen Pertahanan, dan baru minggu ini, Anthropic mengubah kebijakan penskalaan bertanggung jawab yang sering disebut-sebutmembatalkan janji keselamatannya yang sudah lama ada untuk memastikannya tetap kompetitif dalam perlombaan AI. Pemain teknologi besar seperti Amazon, Google, dan Microsoft juga telah mengizinkan badan pertahanan dan intelijen untuk menggunakan produk AI mereka, termasuk beberapa setuju untuk bekerja dengan ICE meskipun ada protes dari masyarakat dan karyawan.

Dalam beberapa tahun terakhir, penolakan pekerja teknologi terhadap kemitraan dan kesepakatan yang mereka anggap merugikan masyarakat luas terkadang membawa perubahan besar. Pada tahun 2018, misalnya, ribuan karyawan Google berhasil menekan perusahaan tersebut untuk mengakhiri “Proyek Maven” bermitra dengan Pentagon, dan para pekerja Microsoft memberikan kepemimpinan yang anti-ICE permohonan ditandatangani oleh sekitar 500 Karyawan Microsoft, meskipun Microsoft masih bekerja dengan agensi. Pada tahun 2020, setelah pembunuhan George Floyd, perusahaan teknologi membuat pernyataan publik dan komitmen keuangan yang mendukung gerakan Black Lives Matter. Namun dalam beberapa bulan terakhir, industri ini melihat kenyataan yang sangat berbeda: budaya ketakutan dan diam, terutama di tengah kerja sama dengan pemerintahan Trump dan ICE, pekerja teknologi. baru-baru ini diberitahu Tepi.

Perusahaan-perusahaan telah mengikuti jejak pengawasan jangka panjang dan kemitraan teknologi militer, yang kini menjadi lebih agresif. Itu termasuk Palantir yang didirikan oleh Peter Thiel, yang CEO-nya Alex Karp baru-baru ini menyatakan kepada pemegang saham bahwa “Palantir ada di sini untuk mengganggu dan menjadikan institusi yang bermitra dengan kami menjadi yang terbaik di dunia, dan, bila diperlukan, untuk menakut-nakuti musuh dan terkadang membunuh mereka. Dan kami harap Anda mendukung hal itu.” (Protect Democracy, sebuah organisasi nirlaba, baru-baru ini menerbitkan sebuah surat terbuka menyerukan pengawasan Kongres terhadap tuntutan Departemen Pertahanan untuk penggunaan AI yang tidak dibatasi. )

OpenAI, Google, Microsoft, xAI, dan Amazon tidak segera menanggapi permintaan komentar.

Seorang mantan karyawan xAI menceritakan Tepi“Semua orang sebenarnya sedang mengerjakan robot pembunuh pada saat ini,” seraya menambahkan bahwa ia yakin semua orang akan mengikuti jejak Palantir, Anduril, dan xAI, karena sentimen pemerintah adalah jika sebuah perusahaan tidak menyetujuinya, maka hal tersebut “bertentangan dengan keuntungan negara, dalam arti tertentu.” Dia mengatakan ada “dorongan besar untuk bekerja dengan militer, dan trennya adalah melakukan hal itu adalah hal yang keren… Anda adalah seorang patriot jika Anda melakukannya.”

Seorang karyawan Google menyebut situasi tersebut sebagai “tampilan dominasi dari Hegseth yang menjijikkan.” Dia menambahkan, “Berkali-kali AI memberikan kita pilihan tentang siapa yang kita inginkan dan masyarakat seperti apa serta masa depan yang kita inginkan. Dan mereka mendatangi kita dengan cepat dan, sungguh, para pemimpin yang paling tidak bijaksana dan paling tidak berprinsip dalam kekuasaan yang bisa kita bayangkan. Saya hanya bisa berterima kasih kepada Anthropic karena bersikeras pada jalan yang layak dan menggunakan pengaruh mereka – bahwa mereka sangat diperlukan – untuk memetakan arah menuju dunia yang manusiawi dan masa depan yang manusiawi.”

Kata karyawan AWS Tepi bahwa “batas-batas telah terkikis dalam hal pelanggan yang ingin didekati oleh perusahaan teknologi besar” dan bahwa “ada “penghapusan yang disengaja atas implikasi dari kesepakatan-kesepakatan baru yang menguntungkan.” Dia teringat baru-baru ini menerima email dari seorang eksekutif AWS yang menggembar-gemborkan kontrak senilai lebih dari $580 juta dengan Angkatan Udara AS, di antara kemitraan lainnya, sebagai tanda keberhasilan AI Amazon, tanpa mengakui cakupan atau kerugian yang lebih luas yang ditimbulkannya.

“Jika pemerintah sangat ingin mengejar teknologi seperti ini, mereka harus membangunnya sendiri, dan bertanggung jawab atas keputusan tersebut,” katanya.

Erosi ini mungkin juga meluas ke budaya internal – menormalisasi gagasan bahwa perusahaan harus selalu diawasi. Karyawan AWS tersebut mengatakan bahwa dia dan rekan-rekannya dilacak berdasarkan seberapa sering mereka menggunakan AI untuk pekerjaan mereka, seberapa sering mereka bekerja dari kantor, dan banyak lagi. “Saya dapat melihat diri saya dan rekan kerja saya semakin tidak peka terhadap pengawasan terhadap diri kita sendiri di tempat kerja, dan saya khawatir hal itu berarti kita terlalu patuh, patuh, dan menyerah terlebih dahulu,” katanya.

Seorang karyawan OpenAI mengatakan perasaan umum dalam industri AI selama beberapa minggu terakhir “telah membuka kembali pintu untuk diskusi lebih lanjut… mengenai nilai-nilai dan masa depan teknologi.” Karyawan tersebut mengatakan bahwa situasi Pentagon-Anthropic, berita utama ICE baru-baru ini, dan kemajuan pesat AI telah menjadi beberapa faktor utama yang membuka diskusi tersebut secara internal.

Meski begitu, orang-orang yang merupakan imigran atau berada dalam posisi yang lebih rentan lebih takut untuk berbicara, kata karyawan OpenAI.

Anthropic, kata mantan karyawan xAI, sepertinya berada dalam posisi di mana ia bisa berkata tidak dan tetap bertahan. Fokusnya pada bisnis AI di kalangan perusahaan dibandingkan konsumen dapat membuatnya lebih berkelanjutan bahkan tanpa kontrak pemerintah, sehingga menawarkan beberapa pengaruh. Seorang insinyur perangkat lunak di Microsoft berkata tentang Anthropic, secara umum, “Saya terkejut melihat mereka berpegang pada suatu prinsip. Saya tidak tahu berapa lama hal itu akan bertahan.”

“Apakah ini akan bertahan lama?” sepertinya menjadi pertanyaan di bibir semua orang. Pentagon sudah melakukannya dilaporkan meminta dua kontraktor pertahanan besar, Boeing dan Lockheed Martin, untuk memberikan informasi tentang ketergantungan mereka pada Anthropic’s Claude, karena perusahaan tersebut berpotensi menyebut Anthropic sebagai “risiko rantai pasokan,” sebuah klasifikasi yang biasanya diperuntukkan bagi ancaman terhadap keamanan nasional dan jarang, jika pernah, ditugaskan ke perusahaan AS. Itu juga dilaporkan mungkin mempertimbangkan untuk menerapkan Undang-Undang Produksi Pertahanan untuk mencoba memaksa Anthropic untuk memenuhi permintaannya.

Sama seperti perusahaan AI lainnya, jika Anthropic bangkrut, kata karyawan Microsoft, kecil kemungkinannya atau perusahaan lain menarik kembali robot pembunuh dan pengawasan. “Saat Anda sudah berada di posisi Departemen Pertahanan atau apa pun sebutannya sekarang… Saya pikir mungkin sulit bagi mereka untuk benar-benar mendapatkan pengawasan yang mereka klaim. Akan sangat menguntungkan jika mereka pada dasarnya mengizinkan diri mereka sendiri untuk melakukan hal yang menghasilkan banyak uang.”

Dalam kasus Microsoft sendiri, dia mengatakan dia tidak mengharapkan perusahaan untuk mematuhi prinsip etika apa pun. Perusahaan ini telah bekerja secara ekstensif dengan Angkatan Pertahanan Israel, termasuk untuk pengawasan massal terhadap warga Palestina dan pembangkang. meskipun ada protes dari karyawan. (Itu mengatakannya mengakhiri beberapa bagian kemitraan tahun lalu.)

Kata karyawan Microsoft lainnya Tepi bahwa meskipun “Microsoft memegang ‘komitmen’ AI yang Bertanggung Jawab… mereka saat ini mencoba untuk bermain di kedua sisi demi keuntungan daripada komitmen yang berarti terhadap AI yang Bertanggung Jawab.”

Namun ini bukanlah hal baru, kata salah satu karyawan startup AI. Di matanya, batasan-batasan sering kali “tidak jelas, terutama dalam AI,” mengenai hal-hal apa saja yang ingin diberikan oleh perusahaan pada teknologi mereka. “Banyak hal yang terjadi di bawah permukaan selama AI masih ada.”

Karyawan AWS ini menekankan bahwa “kita memerlukan solidaritas lintas teknologi dan visi AI yang koheren dan dipimpin oleh pekerja, lebih dari sebelumnya.”

“Perlindungan yang Anthropic coba pertahankan adalah tidak adanya pengawasan massal terhadap orang Amerika dan tidak ada senjata yang sepenuhnya otonom, yang berarti bahwa mereka ingin ada manusia yang mengetahui jika mesin tersebut akan membunuh seseorang,” tambahnya. “Bahkan jika teknologi ini sempurna – padahal sebenarnya tidak – saya pikir sebagian besar orang Amerika tidak ingin mesin yang membunuh orang tanpa pengawasan manusia berkeliaran di Amerika yang sudah menjadi negara pengawasan massal yang didukung AI.”