Pada 2 November, 2022, saya menghadiri acara Google AI di New York City. Salah satu tema adalah AI yang bertanggung jawab. Ketika saya mendengarkan para eksekutif berbicara tentang bagaimana mereka menyelaraskan teknologi mereka dengan nilai-nilai kemanusiaan, saya menyadari bahwa kelenturan model AI adalah pedang bermata dua. Model dapat diubah untuk, katakanlah, meminimalkan bias, tetapi juga untuk menegakkan sudut pandang tertentu. Pemerintah dapat menuntut manipulasi untuk menyensor fakta yang tidak disukai dan mempromosikan propaganda. Saya membayangkan ini sebagai sesuatu yang mungkin digunakan oleh rezim otoriter seperti Cina. Di Amerika Serikat, tentu saja, Konstitusi akan mencegah pemerintah mengacaukan output model AI yang dibuat oleh perusahaan swasta.
Rabu ini, pemerintahan Trump merilis manifesto AI-nya, jauh rencana aksi untuk salah satu masalah paling vital yang dihadapi negara – dan bahkan kemanusiaan. Rencana tersebut umumnya berfokus pada Besting China dalam perlombaan untuk supremasi AI. Tapi salah satu bagiannya tampaknya lebih selaras dengan buku pedoman China. Atas nama kebenaran, pemerintah AS sekarang ingin model AI mematuhi definisi Donald Trump tentang kata itu.
Anda tidak akan menemukan niat itu dengan jelas dinyatakan dalam rencana 28 halaman. Sebaliknya dikatakan, “Adalah penting bahwa sistem ini dibangun dari bawah ke atas dengan kebebasan berbicara dan berekspresi dalam pikiran, dan bahwa kebijakan pemerintah AS tidak mengganggu tujuan itu. Kita harus memastikan bahwa kebebasan berbicara berkembang di era AI dan bahwa AI yang dibeli oleh pemerintah federal secara objektif mencerminkan kebenaran daripada agenda rekayasa sosial.”
Itu semua baik -baik saja sampai kalimat terakhir, yang menimbulkan pertanyaan – kebenaran menurut siapa? Dan apa sebenarnya “agenda rekayasa sosial”? Kami mendapatkan petunjuk tentang hal ini di paragraf berikutnya, yang menginstruksikan Departemen Perdagangan untuk melihat aturan AI era Biden dan “menghilangkan referensi untuk informasi yang salah, keragaman, keadilan, dan inklusi, dan perubahan iklim.” (Huruf besar aneh seperti yang tertulis dalam rencana yang diterbitkan.) Mengakui Perubahan Iklim Apakah Rekayasa Sosial? Adapun kebenaran, di lembar fakta Tentang rencana itu, Gedung Putih mengatakan, “LLMS akan menjadi jujur dan memprioritaskan akurasi historis, penyelidikan ilmiah, dan objektivitas.” Kedengarannya bagus, tapi ini berasal dari administrasi itu membatasi sejarah Amerika untuk “mengangkat” interpretasi, menyangkal perubahan iklim, dan menganggap klaim Donald Trump tentang menjadi presiden terbesar Amerika sebagai kebenaran obyektif. Sementara itu, hanya minggu ini, akun sosial kebenaran Trump memposting ulang video AI Obama di penjara.
Dalam pidato yang menggembar -gemborkan rencana di Washington pada hari Rabu, Trump menjelaskan logikanya Di belakang arahan: “Orang -orang Amerika tidak ingin membangunkan kegilaan Marxis dalam model AI,” katanya. Lalu dia menandatangani Perintah Eksekutif berjudul “Mencegah AI Bangun di Pemerintah Federal.” Sementara menentukan bahwa “pemerintah federal harus ragu -ragu untuk mengatur fungsionalitas model AI di pasar swasta,” ia menyatakan bahwa “dalam konteks pengadaan federal, ia memiliki kewajiban untuk tidak mendapatkan model yang mengorbankan kebenaran dan keakuratan terhadap agenda ideologis.” Karena semua perusahaan AI besar sedang meraih kontrak pemerintah, perintah tersebut tampaknya merupakan upaya backdoor untuk memastikan bahwa LLM secara umum menunjukkan kesetiaan terhadap interpretasi Sejarah, Identitas Seksual, dan Masalah Panas lainnya. Dalam hal ada keraguan tentang apa yang dianggap sebagai pelanggaran pemerintah, perintah tersebut menghabiskan beberapa paragraf yang menjelekkan AI yang mendukung keragaman, menyebut bias rasial, atau nilai -nilai kesetaraan gender. Peringatan Pogo-Perintah eksekutif Trump yang melarang bias ideologis top-down adalah latihan yang mencolok dalam bias ideologis top-down.
Marx Madness
Terserah perusahaan untuk menentukan cara menangani tuntutan ini. Saya berbicara minggu ini kepada seorang insinyur openai yang mengerjakan perilaku model yang memberi tahu saya bahwa perusahaan sudah berusaha untuk netralitas. Dalam arti teknis, kata mereka, memenuhi standar pemerintah seperti menjadi anti-woke seharusnya tidak menjadi rintangan besar. Tapi ini bukan sengketa teknis: ini konstitusional. Jika perusahaan seperti Anthropic, Openai, atau Google memutuskan untuk mencoba meminimalkan bias rasial dalam LLM mereka, atau membuat pilihan sadar untuk memastikan tanggapan model mencerminkan bahaya perubahan iklim, Amandemen Pertama mungkin melindungi keputusan tersebut sebagai menjalankan “kebebasan berbicara dan ekspresi” yang disebut -sebut dalam rencana aksi AI. Mandat pemerintah yang menolak kontrak pemerintah untuk perusahaan yang menggunakan hak itu adalah inti dari campur tangan.
Anda mungkin berpikir bahwa perusahaan yang membangun AI akan melawan, mengutip hak konstitusional mereka tentang masalah ini. Tetapi sejauh ini tidak ada perusahaan teknologi besar yang secara terbuka keberatan dengan rencana administrasi Trump. Google terkenal Dukungan Gedung Putih terhadap masalah hewan peliharaannya, seperti meningkatkan infrastruktur. Antropik menerbitkan posting blog yang positif Tentang rencana itu, meskipun keluhan tentang Gedung Putih yang tiba -tiba tampaknya ditinggalkan dari kontrol ekspor yang kuat awal bulan ini. Openai mengatakan sudah hampir mencapai objektivitas. Tidak ada yang menegaskan kebebasan berekspresi mereka sendiri.
Dalam aksi
Keengganan dapat dimengerti karena, secara keseluruhan, rencana aksi AI adalah bonanza untuk perusahaan AI. Saat Administrasi Biden pengawasan yang diamanatkan Teknologi besar, rencana Trump adalah lampu hijau besar untuk industri ini, yang dianggapnya sebagai mitra dalam perjuangan nasional untuk mengalahkan Cina. Ini memungkinkan kekuatan AI pada dasarnya meledakkan keberatan lingkungan saat membangun pusat data besar -besaran. Ini menjanjikan dukungan untuk penelitian AI yang akan mengalir ke sektor swasta. Bahkan ada ketentuan yang membatasi beberapa dana federal untuk negara -negara yang mencoba mengatur AI sendiri. Itu adalah hadiah hiburan untuk sebagian gagal dari tagihan anggaran baru -baru ini yang akan melarang peraturan negara selama satu dekade.
Namun, bagi kita semua, perintah “anti-woke” tidak begitu mudah ditepis. AI semakin menjadi media yang dengannya kami mendapatkan berita dan informasi kami. Prinsip pendiri Amerika Serikat adalah independensi saluran tersebut dari campur tangan pemerintah. Kami telah melihat bagaimana administrasi saat ini memiliki perusahaan induk yang kencang dari raksasa media seperti CBS ke dalam rupanya kompromi milik mereka prinsip jurnalistik untuk mendukung tujuan perusahaan. Memperluas agenda “anti-woke” ini ke model AI, tidak masuk akal untuk mengharapkan akomodasi serupa. Senator Edward Markey memiliki ditulis secara langsung Kepada CEO Alphabet, Anthropic, Openai, Microsoft, dan Meta mendesak mereka untuk melawan pesanan. “Rincian dan rencana implementasi untuk perintah eksekutif ini tetap tidak jelas,” ia menulis, “tetapi itu akan menciptakan insentif keuangan yang signifikan bagi perusahaan teknologi besar … untuk memastikan chatbot AI mereka tidak menghasilkan pidato yang akan mengganggu administrasi Trump.” Dalam sebuah pernyataan kepada saya, dia berkata, “Partai Republik ingin menggunakan kekuatan pemerintah untuk membuat chatgpt terdengar seperti Rubah & teman. “
Seperti yang mungkin Anda duga, pandangan ini tidak dibagikan oleh tim Gedung Putih yang mengerjakan rencana AI. Mereka percaya tujuan mereka benar netralitas, dan bahwa pembayar pajak tidak perlu membayar untuk model AI yang tidak mencerminkan kebenaran yang tidak memihak. Memang, rencana itu sendiri menunjuk ke Cina sebagai contoh dari apa yang terjadi ketika kebenaran dimanipulasi. Ini menginstruksikan pemerintah untuk memeriksa model perbatasan dari Republik Rakyat Tiongkok untuk menentukan “keselarasan dengan poin pembicaraan dan penyensoran partai komunis Tiongkok.” Kecuali jika tuan perusahaan AI mendapatkan tulang punggung, evaluasi di masa depan Amerika Model Frontier mungkin mengungkapkan penyelarasan lockstep dengan poin pembicaraan Gedung Putih dan sensor. Tetapi Anda mungkin tidak menemukannya dengan menanyakan model AI. Terlalu bangun.
Ini adalah edisi Steven Levy Newsletter Backchannel. Baca liputan sebelumnya dari Steven Levy Di Sini.
