- Para pemimpin militer berpendapat AI memiliki peran penting dalam perang masa depan.
- Ada perubahan dalam kolaborasi industri dengan Departemen Pertahanan tentang AI dan Otonomi.
- AI dalam teknologi militer harus mematuhi kerangka kerja etis, kata Snowpoint Ventures ‘Doug Philippone.
Tidak ada yang menginginkan “robot pembunuh,” jadi memastikan sistem intelijen buatan tidak menjadi nakal adalah “biaya melakukan bisnis” dalam teknologi militer, pendiri sebuah perusahaan modal ventura mengatakan selama diskusi Rabu tentang teknologi AI di medan perang.
“Anda harus dapat membuat AI yang dapat bekerja dalam kerangka kerja etis, titik,” Doug Philippone, salah satu pendiri Snowpoint Ventures, sebuah perusahaan modal ventura yang menggabungkan bakat teknologi dengan masalah pertahanan, mengatakan selama KTT Basis Inovasi Keamanan Nasional Institut Reagan.
“Saya tidak berpikir ada orang, Anda tahu, mencoba memiliki robot pembunuh yang hanya berlarian sendiri,” katanya.
Philippone menjelaskan bahwa perusahaan yang bekerja di ruang teknologi militer yang layak melakukan investasi harus memiliki “pemikiran melalui masalah -masalah itu dan bekerja di lingkungan etis itu.” Dia mengatakan ini bukan keterbatasan pengembangan. Sebaliknya, mereka persyaratan.
Mesin otonom cenderung menyebabkan tingkat kekhawatiran tertentu, terutama ketika teknologi tersebut diterapkan pada DOD “rantai membunuh. “Sementara para pemimpin militer berpendapat bahwa sistem ini sangat penting untuk perang di masa depan, mereka juga menimbulkan kekhawatiran etis tentang apa arti otonomi mesin pada akhirnya.
Waktu berubah
Ruang teknologi pertahanan tampaknya mengalami perubahan besar dalam perspektif. Bulan lalu, Google Kursus terbalik Pada janji sebelumnya menentang pengembangan senjata AI, mendorong kritik dari beberapa karyawan. Langkah ini tampaknya mencerminkan kemauan yang lebih besar di antara lebih banyak perusahaan teknologi untuk bekerja dengan Departemen Pertahanan pada teknologi ini.
Di seluruh Silicon Valley, “Ada perubahan budaya besar-besaran dari ‘Tidak ada cara kita berpikir untuk membela Amerika’ untuk ‘mari kita hadir,’” kata Thomas Robinson, chief operating officer dari Domino Data Lab, sebuah perusahaan solusi AI yang berbasis di London.
Dia mengatakan pada acara hari Rabu bahwa “itu hanya perbedaan yang jelas antara beberapa tahun yang lalu.”
Telah ada peningkatan tajam di perusahaan teknologi pertahanan yang lebih kecil dan lebih gesit, seperti Di sensor, Membobol bidang -bidang seperti sistem dan otonomi yang tidak dikerjakan, memacu pandangan di antara beberapa pemimpin teknologi pertahanan bahwa pemerintahan Trump baru dapat menciptakan peluang kontrak DOD baru yang berpotensi bernilai ratusan juta, jika bukan miliaran, dolar.
Bagian dari pergeseran budaya itu telah memacu kekhawatiran “Pintu putar” pejabat militer yang menuju ke ranah teknologi modal ventura setelah pensiun, menciptakan kemungkinan konflik kepentingan.
Para pemimpin militer AS semakin memprioritaskan pengembangan kemampuan AI dalam beberapa tahun terakhir, dengan beberapa berpendapat bahwa pihak mana pun mendominasi ruang teknologi ini akan menjadi yang akan menjadi Pemenang dalam konflik di masa depan.
Tahun lalu, Sekretaris Angkatan Udara saat itu Frank Kendall mengatakan AS terkunci di a Perlombaan senjata teknologi dengan Cina. AI sangat penting, katanya, dan “Cina bergerak maju secara agresif.”
Angkatan Udara telah bereksperimen Pesawat pesawat tempur AI-Pilotedantara lain Alat yang mendukung AIseperti halnya elemen lain dari sekutu militer dan Amerika AS. “Kita akan berada di dunia di mana keputusan tidak akan dibuat dengan kecepatan manusia,” kata Kendall pada bulan Januari. “Mereka akan dibuat dengan kecepatan mesin.”
Bidang -bidang konflik bersenjata tertentu, termasuk perang cyber dan perang elektronik, cenderung didominasi oleh teknologi AI yang menilai peristiwa yang terjadi dengan kecepatan cepat yang tak terbayangkan dan dimensi kecil yang tak terbayangkan.
AI dengan pagar
Itu membuat AI investasi teratas. Selama diskusi hari Rabu, Perwakilan Kongres AS Ro Khanna of California menyatakan dukungan untuk proposal dari 2020 kandidat presiden Demokrat Michael Bloomberg, yang menyerukan menggeser 15% dari anggaran pentagon besar -besaran untuk teknologi canggih dan muncul.
Sebagai calon untuk Sekretaris Pertahanan, Pete Hegseth berkomitmen untuk memprioritaskan teknologi baru, menulis bahwa “anggaran Departemen Pertahanan harus fokus pada kematian dan inovasi.” Dia mengatakan bahwa “teknologi mengubah medan perang.”
Tetapi pertimbangan etis tetap menjadi kunci. Tahun lalu, pejabat senior Pentagon, misalnya, dibahas pagar pemberi pagar Untuk menenangkan kekhawatiran bahwa itu adalah “membangun robot pembunuh di ruang bawah tanah.”
Memahami dengan tepat bagaimana algoritma alat AI bekerja akan menjadi penting untuk implementasi medan perang etis, Philippone mencatat, dan dengan demikian akan memahami kualitas data yang diserap – jika tidak, itu “sampah masuk, sampah keluar.”
“Apakah itu ayam Tyson atau itu Departemen Angkatan Laut, Anda ingin dapat mengatakan ‘masalah ini penting,” jelasnya. “Apa data masuk?”
“Anda mengerti bagaimana itu mengalir melalui algoritma, dan kemudian Anda memahami output dengan cara yang dapat diaudit, sehingga Anda dapat memahami bagaimana kami sampai di sana,” katanya. “Dan kemudian Anda mengkodifikasi aturan itu.”
Philippone mengatakan opacity dari pengetahuan hak milik beberapa perusahaan AI adalah “BS” dan “pendekatan kotak hitam” terhadap teknologi. Dia mengatakan bahwa perusahaan harus bertujuan untuk pendekatan yang lebih transparan untuk kecerdasan buatan.
“Aku menyebutnya kotak kaca,” katanya. Memahami bagaimana pekerjaan batin suatu pekerjaan sistem dapat membantu menghindari peretasan, katanya, “Ini sangat penting dari perspektif etika dan benar -benar memahami proses keputusan Anda di organisasi Anda.”
“Jika kamu tidak bisa mengauditnya,” katanya, “itu membuatmu rentan.”
