Institut Nasional Standar dan Teknologi (NIST) telah mengeluarkan instruksi baru kepada para ilmuwan yang bermitra dengan Institut Keselamatan Intelijen Buatan AS (AISI) yang menghilangkan penyebutan “keselamatan AI,” “AI yang bertanggung jawab,” dan “keadilan AI” dalam keterampilan yang diharapkannya dan memperkenalkan permintaan untuk memrioritaskan “mengurangi humrisaniah.
Informasi tersebut datang sebagai bagian dari perjanjian penelitian dan pengembangan koperasi yang diperbarui untuk anggota konsorsium Institut Keselamatan AI, dikirim pada awal Maret. Sebelumnya, perjanjian itu mendorong para peneliti untuk menyumbangkan pekerjaan teknis yang dapat membantu mengidentifikasi dan memperbaiki perilaku model diskriminatif yang terkait dengan gender, ras, usia, atau ketidaksetaraan kekayaan. Bias seperti itu sangat penting karena mereka dapat secara langsung mempengaruhi pengguna akhir dan secara tidak proporsional membahayakan minoritas dan kelompok yang kurang beruntung secara ekonomi.
Perjanjian baru ini menghilangkan penyebutan alat pengembangan “untuk mengautentikasi konten dan melacak asal -usulnya” serta “pelabelan konten sintetis,” yang menandakan minat yang kurang dalam melacak informasi yang salah dan pemalsuan yang dalam. Ini juga menambah penekanan pada mengutamakan Amerika, meminta satu kelompok kerja untuk mengembangkan alat pengujian “untuk memperluas posisi AI global Amerika.”
“Administrasi Trump telah menghilangkan keselamatan, keadilan, informasi yang salah, dan tanggung jawab sebagai hal -hal yang dihargai untuk AI, yang menurut saya berbicara sendiri,” kata seorang peneliti di sebuah organisasi yang bekerja dengan AI Safety Institute, yang meminta untuk tidak dinamai karena takut akan pembalasan.
Peneliti percaya bahwa mengabaikan masalah ini dapat membahayakan pengguna reguler dengan memungkinkan algoritma yang melakukan diskriminasi berdasarkan pendapatan atau demografi lain yang tidak terkendali. “Kecuali jika Anda seorang miliarder teknologi, ini akan menyebabkan masa depan yang lebih buruk bagi Anda dan orang -orang yang Anda sayangi. Harapkan AI menjadi tidak adil, diskriminatif, tidak aman, dan dikerahkan secara tidak bertanggung jawab, ”klaim peneliti.
“Ini liar,” kata peneliti lain yang telah bekerja dengan AI Safety Institute di masa lalu. “Apa artinya bagi manusia untuk berkembang?”
Elon Muskyang saat ini memimpin upaya kontroversial Untuk memangkas pengeluaran pemerintah dan birokrasi atas nama Presiden Trump, telah mengkritik model AI yang dibangun oleh Openai dan Google. Februari lalu, ia memposting meme tentang X di mana Gemini dan Openai diberi label “rasis” dan “bangun.” Dia sering mengutip Sebuah insiden di mana salah satu model Google memperdebatkan apakah akan salah untuk salah mengutamakan seseorang bahkan jika itu akan mencegah apolocalypse nuklir – skenario yang sangat tidak mungkin. Di samping itu Tesla Dan SpaceXMusk menjalankan XAI, sebuah perusahaan AI yang bersaing langsung dengan Openai dan Google. Seorang peneliti yang menyarankan XAI baru -baru ini mengembangkan teknik baru untuk kemungkinan mengubah kecenderungan politik model bahasa besar, seperti dilaporkan dengan kabel.
Tubuh penelitian yang berkembang menunjukkan bahwa bias politik dalam model AI dapat berdampak pada keduanya kaum liberal dan konservatif. Misalnya, Studi tentang Algoritma Rekomendasi Twitter Diterbitkan pada tahun 2021 menunjukkan bahwa pengguna lebih cenderung ditampilkan perspektif yang condong ke kanan di platform.
Sejak Januari, Musk yang disebut Departemen Efisiensi Pemerintah (Doge) telah menyapu pemerintah AS, secara efektif menembakkan pegawai negeri sipil, berhenti sejenak, dan menciptakan lingkungan yang dianggap memusuhi mereka yang mungkin menentang tujuan administrasi Trump. Beberapa departemen pemerintah seperti Departemen Pendidikan telah mengarsipkan dan menghapus dokumen yang menyebutkan DEI. Doge juga menargetkan NIST, organisasi induk AISI, dalam beberapa minggu terakhir. Lusinan karyawan telah dipecat.
“Perubahan-perubahan itu sangat banyak datang langsung dari Gedung Putih,” kata Stella Biderman, direktur eksekutif Eleuther, sebuah nirlaba yang bekerja dengan AI Safety Institute. “Administrasi telah memperjelas prioritasnya [and] Tidak mengherankan bagi saya bahwa menulis ulang rencana itu diperlukan untuk terus ada. ”
Pada bulan Desember, Trump bernama David Sacks, rekan lama Musk, sebagai AI Gedung Putih dan Crypto Czar. Saat ini tidak jelas apakah dia atau siapa pun dari Gedung Putih terlibat dalam menetapkan agenda penelitian baru. Juga tidak pasti apakah kata -kata baru akan memiliki banyak dampak pada pekerjaan yang dilakukan sebagian besar peneliti.
AI Safety Institute dibuat oleh Perintah Eksekutif yang dikeluarkan oleh Administrasi Biden Pada Oktober 2023, pada saat kekhawatiran meningkat atas kemajuan cepat di AI.
Di bawah Biden, Institute ditugaskan untuk menangani berbagai masalah potensial dengan model AI yang paling kuat, seperti apakah mereka dapat digunakan untuk meluncurkan serangan cyber atau mengembangkan senjata kimia atau biologis. Bagian dari pengirimannya adalah untuk menentukan apakah model bisa menjadi menipu dan berbahaya saat mereka maju.
Perintah Eksekutif Diterbitkan oleh Administrasi Trump Januari ini mencabut perintah Biden tetapi menjaga AI Safety Institute tetap ada. “Untuk mempertahankan kepemimpinan ini, kita harus mengembangkan sistem AI yang bebas dari bias ideologis atau agenda sosial yang direkayasa,” kata perintah eksekutif.
Berbicara di KTT Aksi AI di Paris pada bulan Februari, Wakil Presiden JD Vance mengatakan bahwa pemerintah AS akan memprioritaskan daya saing Amerika dalam perlombaan untuk berkembang dan mendapat manfaat dari AI. “Masa Depan AI tidak akan dimenangkan dengan meremehkan tangan tentang keselamatan,” Vance memberi tahu para peserta dari seluruh dunia. Delegasi AS ke acara tersebut tidak termasuk Siapa pun dari AI Safety Institute.
Peneliti yang memperingatkan bahwa perubahan fokus dapat membuat AI lebih tidak adil dan tidak aman juga menuduh bahwa banyak peneliti AI telah menyatu dengan Partai Republik dan pendukung mereka dalam upaya untuk tetap memiliki kursi di meja ketika datang untuk membahas keselamatan AI. “Saya berharap mereka mulai menyadari bahwa orang-orang ini dan pendukung perusahaan mereka adalah macan tutul pemakan tatap muka yang hanya peduli dengan kekuasaan,” kata peneliti.
Gedung Putih tidak segera menanggapi permintaan komentar dari Wired.
