The White Gedung Putih memesan perusahaan teknologi untuk membuat AI fanatik lagi

Setelah memberikan perayaan tarif yang bertele -tele dan rutinitas tentang olahraga wanita, Presiden Donald Trump menghibur orang banyak, yang ada di sana Dengarkan tentang rencana aksi AI barunyadengan satu topik favoritnya: “Wokeness.” Trump mengeluh bahwa perusahaan AI di bawah mantan Presiden Joe Biden “harus mempekerjakan semua orang bangun,” menambahkan bahwa “sangat tidak keren untuk bangun.” Dan model AI sendiri telah “diresapi dengan bias partisan,” katanya, termasuk momok yang dibenci dari “teori ras kritis.” Untungnya bagi hadirin, Trump punya solusi: dia menandatangani perintah eksekutif berjudul “Mencegah AI Bangun di Pemerintah Federal“Mengarahkan lembaga pemerintah” tidak untuk mendapatkan model yang mengorbankan kebenaran dan akurasi ke agenda ideologis. “

Bagi siapa pun yang memiliki pengetahuan sepintas tentang politik dan industri teknologi, situasi nyata di sini jelas: administrasi Trump menggunakan dana pemerintah untuk menekan perusahaan AI ke dalam parroting poin pembicaraan Trumpian – mungkin tidak hanya dalam produk -produk pemerintah khusus, tetapi juga dalam chatbots yang digunakan perusahaan dan orang biasa.

Perintah Trump menegaskan bahwa agensi hanya boleh mendapatkan model bahasa besar (LLM) yang “jujur dalam menanggapi petunjuk pengguna yang mencari informasi atau analisis faktual,” “memprioritaskan akurasi historis, penyelidikan ilmiah, dan obyektivitas,” dan merupakan “alat netral, non -partisan yang tidak memanipulasi respons yang mendukung dogma ideologis seperti dei. Dei, tentu saja, adalah keragaman, keadilan, dan inklusi, yang didefinisikan Trump dalam konteks ini sebagai:

(Pada kenyataannya, Dei biasanya digunakan untuk merujuk pada hak-hak sipil, keadilan sosial, dan program keanekaragaman sebelum dikooptasi sebagai Bogeyman Trump dan Maga.)

Kantor Manajemen dan Anggaran telah diarahkan untuk memesan panduan lebih lanjut dalam waktu 120 hari.

Meskipun kami masih menunggu beberapa detail yang tepat tentang apa arti urutannya, satu masalah tampaknya tidak dapat dihindari: itu akan secara masuk akal tidak hanya mempengaruhi layanan pemerintah, tetapi seluruh bidang LLM utama. Sementara itu menegaskan bahwa “pemerintah federal harus ragu -ragu untuk mengatur fungsionalitas model AI di pasar swasta,” kenyataannya adalah bahwa hampir setiap konsumen besar AS Llm pembuat memiliki (atau sangat ingin) Kontrak pemerintah, termasuk dengan produk -produk seperti Claude Gov Anthropic dan Openai’s Chatgpt Gov – tetapi tidak ada tembok keras antara pengembangan pemerintah, bisnis, dan model konsumen. Tout Openai berapa banyak agensi Gunakan layanan perusahaannya; Rencana aksi AI Trump mendorong adopsi sistem AI di arena publik seperti pendidikan, dan batas-batas antara produk yang didanai pemerintah dan yang berfokus pada konsumen kemungkinan akan segera menjadi lebih berpori.

Gagasan Trump tentang “Dei” sangat luas. Perangnya melawannya telah menyebabkan taman nasional Hapus Sorot Papan Rambu penduduk asli dan wanita dan Pentagon untuk mengganti nama kapal memperingati hak -hak gay, Harvey Milk, di antara banyak perubahan lainnya. Bahkan llms yang penciptanya secara eksplisit bertujuan untuk apa yang mereka pertimbangkan Pengejaran kebenaran yang netral kemungkinan akan menghasilkan sesuatu yang Trump dapat dianggap tidak menyenangkan kecuali mereka menyesuaikan layanan mereka.

Mungkin saja perusahaan akan mencurahkan sumber daya untuk semacam versi pemerintah yang secara khusus “non-woke” dari alat-alat mereka, dengan asumsi administrasi setuju untuk memperlakukan ini sebagai model terpisah dari sisa llama, Claude, atau GPT lineup-mungkin sesederhana menambahkan beberapa tumpul di balik layar mendorongnya pada topik tertentu. Tetapi menyempurnakan model dengan cara yang secara konsisten dan dapat diprediksi menyelaraskannya ke arah tertentu bisa menjadi proses yang mahal dan memakan waktu, terutama dengan konsep yang luas dan terus berubah seperti versi “Dei,” Trump, ” khususnya Karena bahasa tersebut menyarankan dengan hanya menutupi bidang -bidang diskusi tertentu juga tidak dapat diterima. Ada jumlah signifikan yang dipertaruhkan: Openai dan Xai masing -masing baru -baru ini menerima $ 200 juta kontrak pertahanan, dan rencana AI baru akan menciptakan lebih banyak peluang. Administrasi Trump juga tidak terlalu berorientasi pada detail-jika beberapa posting pengguna X tentang chatbot konsumen Anthropic memvalidasi orang trans, apakah kita benar-benar berpikir Pam Bondi atau Pete Hegseth akan membedakan antara “Claude” dan “Claude Gov”?

Insentif sangat mendukung perusahaan yang mengubah keseluruhan prioritas penyelarasan LLM mereka untuk meredakan administrasi Trump. Itu membawa kita ke masalah kedua: ini adalah jenis rekayasa sosial yang mencolok dan secara ideologis yang secara ideologis mengklaim Trump dia berusaha untuk berhenti.

Perintah eksekutif secara teoritis tentang memastikan sistem AI menghasilkan informasi “akurat” dan “obyektif”. Tapi sebagai pendiri dan CEO kecerdasan manusiawi Rumman Chowdhury terkenal The Washington PostAI yang “bebas dari bias ideologis” adalah “tidak mungkin dilakukan dalam praktik,” dan contoh-contoh yang dipetik ceri Trump secara politis miring secara politis. Pesanan mengutuk sekrup 2024 yang cepat diperbaiki, di mana Google menambahkan Filter Pro-Diversity Overenthusiastik untuk Gemini- menyebabkannya menghasilkan visi viking ras dan gender dari Viking, para pendiri, paus, dan tentara Nazi- sementara tidak secara mengejutkan mengabaikan Bias anti-keanekaragaman yang sudah lama terdokumentasi Di AI bahwa Google bertujuan untuk menyeimbangkan.

Ini juga tidak hanya tertarik pada fakta. Contoh lain adalah sistem AI yang mengatakan “pengguna tidak boleh ‘salah’ orang lain bahkan jika perlu untuk menghentikan kiamat nuklir,” menjawab apa yang secara fundamental pertanyaan tentang etika dan pendapat. Kecaman ini tidak meluas ke insiden seperti Xai’s Grok Menanyai Holocaust.

LLM menghasilkan informasi yang salah dengan potensi yang jelas untuk kerusakan dunia nyata; mereka bisa mengidentifikasi orang yang tidak bersalah secara salah sebagai penjahat, salah mengidentifikasi jamur beracunDan memperkuat delusi paranoid. Pesanan ini tidak ada hubungannya dengan semua itu. Insentifnya, sekali lagi, mencerminkan apa yang telah dilakukan oleh administrasi Trump melalui investigasi “DEI” terhadap universitas dan perusahaan. Ini mendorong institusi swasta untuk menghindari mengakui keberadaan orang transgender, ras dan ketidaksetaraan gender, dan topik -topik lain meremehkan penghinaan.

Sistem AI telah lama dilatih pada dataset yang mencerminkan bias budaya yang lebih besar dan kelompok demografis spesifik yang kurang atau kurang, dan bertentangan dengan pernyataan Trump, hasilnya seringkali tidak “bangun.” Pada tahun 2023, Bloomberg dijelaskan Output dari difusi stabil generator gambar sebagai dunia di mana “wanita jarang menjadi dokter, pengacara, atau juri,” dan “pria dengan kulit gelap melakukan kejahatan, sementara wanita dengan burger flip kulit gelap.” Perusahaan yang menghargai stereotip jelek atau ingin menarik bagi lebih banyak pengguna yang sering dibutuhkan untuk secara aktif campur tangan untuk membentuk teknologi mereka, dan Trump hanya membuat melakukan itu lebih sulit.

Menyerang “penggabungan konsep” yang mempromosikan “DEI” secara efektif memberi tahu perusahaan untuk menulis ulang seluruh bidang pengetahuan yang mengakui rasisme atau ketidakadilan lainnya. Perintah tersebut mengklaim bahwa hanya khawatir jika pengembang “sengaja menyandikan penilaian partisan atau ideologis ke dalam output LLM” dan mengatakan LLMS dapat memberikan penilaian tersebut jika mereka “diminta oleh atau dengan mudah diakses dengan mudah oleh pengguna akhir.” Tapi tidak ada CEO teknologi besar yang harus cukup untuk membelinya – kami memiliki presiden yang menghabiskan bertahun -tahun menuduh google dengan sengaja mencurangi hasil pencariannya karena dia tidak dapat menemukan cukup banyak berita positif tentang dirinya sendiri.

Trump bertekad untuk mengendalikan budaya; pemerintahannya mengejar outlet berita Platforming musuhnyauniversitas untuk bidang studiDan Disney untuk mempromosikan beragam media. Industri teknologi melihat AI sebagai masa depan budaya – dan pemerintahan Trump ingin politiknya dibangun di lantai dasar.