Penulis ‘Empire of Ai’ di Openai’s Cult of Agi dan Mengapa Sam Altman mencoba mendiskreditkan bukunya

Kapan Openai dilepaskan Chatgpt Di dunia pada bulan November 2022, menyalakan sekering yang memicu era AI generatif.

Tapi Karen Hao, penulis buku baru, Kekaisaran AI: mimpi dan mimpi buruk di Openai Sam Altmansudah mencakup OpenAi selama bertahun -tahun. Buku ini keluar pada 20 Mei, dan mengungkapkan detail baru yang mengejutkan tentang budaya kerahasiaan perusahaan dan pengabdian agama pada janji Agi, atau Kecerdasan Umum Buatan.

Hao membuat profil perusahaan untuk Ulasan Teknologi MIT Dua tahun sebelum chatgpt diluncurkan, menempatkannya di peta sebagai perusahaan yang mengubah dunia. Sekarang, dia memberi pembaca pandangan orang dalam pada saat -saat penting dalam sejarah kecerdasan buatan, termasuk momen ketika papan openai dipaksa keluar CEO dan pendiri Sam Altman. (Dia kemudian dipulihkan kembali karena serangan balasan karyawan.)

Kekaisaran AI menghilangkan keraguan bahwa keyakinan Openai dalam mengantarkan di AGI untuk menguntungkan semua umat manusia memiliki nada mesianis. Salah satu dari banyak cerita dari buku Hao melibatkan Ilya Sutskever, pendiri dan mantan ilmuwan kepala, membakar patung retret tim. Bahan kayu itu “mewakili AGI yang baik dan selaras yang telah dibangun Openai, hanya untuk mengetahui bahwa itu benar -benar berbohong dan menipu. Tugas Openai, katanya, adalah menghancurkannya.” Sutskever nantinya akan melakukan ini lagi di retret perusahaan lain, tulis Hao.

Dan dalam wawancara dengan karyawan Openai tentang potensi AGI, Hao merinci “keajaiban bermata lebar” mereka ketika “berbicara tentang bagaimana hal itu akan membawa utopia. Seseorang berkata, ‘Kami akan mencapai AGI dan kemudian, permainan, seperti, dunia akan sempurna.’ Dan kemudian berbicara dengan orang lain, ketika mereka mengatakan kepada saya bahwa Agi dapat menghancurkan umat manusia, suara mereka bergetar dengan ketakutan itu. “

Tujuh tahun Hao menutupi AI telah memuncak Kekaisaran AIyang merinci kenaikan Openai untuk mendominasi, melemparkannya sebagai kerajaan modern. Buku Hao itu mengingatkan saya AnarkiAkun Kekaisaran Korporat OG, Perusahaan India Timur, bukan kebetulan. Hao membaca ulang William Dalrymple buku sambil menulis sendiri “untuk mengingatkan [herself] dari paralel dari sebuah perusahaan yang mengambil alih dunia. “

Ini kemungkinan bukan karakterisasi yang diinginkan Openai. Faktanya, Altman pergi keluar dari jalannya mendiskreditkan buku Hao tentang x. “Ada beberapa buku yang keluar tentang Openai dan saya. Kami hanya berpartisipasi dalam dua … tidak ada buku yang akan memperbaiki segalanya, terutama ketika beberapa orang begitu berniat untuk memutar -mutar hal -hal, tetapi kedua penulis ini berusaha.”

Tweet ini saat ini tidak tersedia. Mungkin dimuat atau telah dilepas.

Dua penulis yang dinamai Altman adalah Keach Hagey dan Ashlee Vance, dan mereka juga memiliki buku yang akan datang. Penulis yang tidak disebutkan namanya adalah Hao, tentu saja. Dia mengatakan Openai berjanji untuk bekerja sama dengannya selama berbulan -bulan, tetapi tidak pernah melakukannya.

Kami masuk ke dalam drama dalam wawancara di bawah ini, ditambah semangat keagamaan Openai untuk AGI, bahaya AI telah ditimbulkan di Global South, dan apa lagi yang akan dimasukkan Hao jika dia terus menulis buku itu.

Mashable: Saya sangat terpesona dengan kepercayaan agama atau iman ini bahwa AGI dapat dicapai, tetapi juga tanpa dapat mendefinisikannya. Anda menulis tentang Ilya [Sutskever] dilihat sebagai semacam nabi dan membakar patung. Dua kali. Saya ingin sekali mendengar lebih banyak pendapat tentang itu.

Karen Hao: Saya sangat senang Anda menggunakan kepercayaan agama untuk menggambarkan hal itu, karena saya tidak ingat apakah saya secara eksplisit menggunakan kata itu, tetapi saya benar -benar berusaha menyampaikannya melalui deskripsi. Ini adalah hal yang sejujurnya sangat mengejutkan bagi saya saat melaporkan buku itu. Ada begitu banyak retorika religius di sekitar AGI, Anda tahu, ‘Ai akan membunuh kita’ versus ‘Ai akan membawa kita ke utopia.’ Saya pikir itu hanya retorika.

Ketika saya pertama kali mulai melaporkan buku itu, narasi umum di antara orang -orang yang lebih skeptis adalah, ‘Oh, tentu saja mereka akan mengatakan bahwa AI dapat membunuh orang, atau AI akan membawa utopia, karena itu menciptakan citra AI ini menjadi sangat kuat, dan itu akan membantu mereka menjual lebih banyak produk.’

Yang terkejut adalah, tidak, bukan hanya itu. Mungkin ada beberapa orang yang hanya mengatakan ini sebagai retorika, tetapi ada juga orang yang benar -benar mempercayai hal -hal ini.

Saya berbicara dengan orang-orang dengan heran dengan mata terbelalak ketika mereka berbicara tentang bagaimana hal itu akan membawa utopia. Seseorang berkata, ‘Kita akan mencapai AGI dan kemudian, permainan, seperti, dunia akan sempurna.’ Dan kemudian berbicara dengan orang lain, ketika mereka mengatakan kepada saya bahwa Agi dapat menghancurkan umat manusia, suara mereka bergetar dengan ketakutan itu.

Jumlah kekuatan untuk mempengaruhi dunia sangat mendalam sehingga saya pikir mereka mulai membutuhkan agama; semacam sistem kepercayaan atau sistem nilai yang harus dipegang.

Saya benar-benar terkejut dengan tingkat keyakinan yang memakan semua orang bahwa banyak orang dalam ruang ini mulai dimiliki, dan saya pikir sebagian dari itu adalah karena mereka melakukan sesuatu yang secara historis belum pernah terjadi sebelumnya. Jumlah kekuatan untuk mempengaruhi dunia sangat mendalam sehingga saya pikir mereka mulai membutuhkan agama; semacam sistem kepercayaan atau sistem nilai yang harus dipegang. Karena Anda merasa tidak memadai sebaliknya, memiliki semua tanggung jawab itu.

Juga, komunitas ini sangat picik. Karena saya berbicara dengan beberapa orang selama beberapa tahun, saya perhatikan bahwa bahasa yang mereka gunakan dan bagaimana mereka berpikir tentang apa yang mereka lakukan secara fundamental berkembang. Saat Anda semakin tersedot ke dunia ini. Anda mulai menggunakan lebih banyak bahasa religius, dan semakin banyak perspektif ini benar -benar menghampiri Anda.

Itu seperti Bukit pasirDi mana [Lady Jessica] memberi tahu mitos bahwa dia membangun di sekitar Paul Atreides bahwa dia sengaja semacam konstruksi untuk membuatnya sedemikian rupa sehingga dia menjadi kuat, dan mereka memiliki gagasan bahwa ini adalah cara untuk mengendalikan orang. Untuk menciptakan agama, Anda menciptakan mitologi di sekitarnya. Tidak hanya orang-orang yang mendengarnya untuk pertama kalinya benar-benar percaya ini karena mereka tidak menyadari bahwa itu adalah konstruksi, tetapi juga Paul Atreides sendiri mulai mempercayainya lebih dan lebih, dan itu menjadi ramalan yang terpenuhi dengan sendirinya. Sejujurnya, ketika saya berbicara dengan orang -orang untuk buku itu, saya seperti, ini Bukit pasir.

Sesuatu yang saya tanya akhir -akhir ini adalah, Apa yang tidak saya lihat? Apa yang mereka lihat yang membuat mereka percaya ini begitu kuat?

Saya pikir apa yang terjadi di sini ada dua. Pertama, kita perlu mengingat bahwa ketika merancang sistem ini, perusahaan AI memprioritaskan masalah mereka sendiri. Mereka melakukan ini berdua secara implisit-dengan cara yang selalu dilakukan Silicon Valley, membuat aplikasi untuk masalah dunia pertama seperti binatu dan pengiriman makanan, karena itulah yang mereka ketahui-dan secara eksplisit.

Buku saya berbicara tentang bagaimana Altman telah lama mendorong Openai untuk fokus pada model AI yang dapat unggul pada generasi kode karena dia pikir mereka pada akhirnya akan membantu perusahaan mengakar keunggulan kompetitifnya. Akibatnya, model -model ini dirancang untuk melayani orang -orang yang mengembangkannya. Dan semakin jauh hidup Anda dari mereka di Lembah Silikon, semakin banyak teknologi ini mulai rusak untuk Anda.

Hal kedua yang terjadi adalah lebih banyak meta. Pembuatan kode telah menjadi kasus penggunaan utama di mana model AI lebih konsisten memberikan keuntungan produktivitas pekerja, baik untuk alasan yang disebutkan di atas dan karena kode sangat cocok dengan kekuatan model AI. Kode dapat dihitung.

Bagi orang yang tidak kode atau tidak ada di pandangan dunia Lembah Silikon, kami melihat lompatan dalam kemampuan generasi kode sebagai lompatan hanya dalam satu kasus penggunaan. Tetapi di dunia AI, ada pandangan dunia yang sangat mengakar bahwa segala sesuatu tentang dunia pada akhirnya, dengan data yang cukup, dapat dihitung. Jadi, bagi orang -orang yang ada dalam bingkai pikiran itu, lompatan dalam pembuatan kode mewakili sesuatu yang jauh lebih dari sekadar pembuatan kode. Suatu hari AI itu bisa menguasai segalanya.

Bagaimana keputusan Anda untuk membingkai Openai sebagai kerajaan modern yang membuahkan hasil?

Awalnya saya tidak berencana untuk memfokuskan buku itu pada Openai. Saya sebenarnya ingin memfokuskan buku ini pada gagasan ini bahwa industri AI telah menjadi kerajaan modern. Dan ini didasarkan pada pekerjaan yang saya lakukan di MIT Technology Review pada tahun 2020 dan 2021 tentang kolonialisme AI.

Untuk benar-benar memahami luasnya dan skala dari apa yang terjadi, Anda benar-benar harus mulai memikirkannya lebih sebagai fenomena seperti kekaisaran.

Itu sedang mengeksplorasi gagasan ini yang mulai banyak muncul di akademisi dan di antara lingkaran penelitian bahwa ada banyak pola berbeda yang mulai kita lihat di mana pengejaran teknologi AI yang sangat intensif sumber daya ini mengarah ke konsolidasi sumber daya, kekayaan, kekuasaan, dan pengetahuan. Dan di satu sisi, itu tidak lagi cukup untuk memanggil mereka perusahaan lagi.

Untuk benar-benar memahami luasnya dan skala dari apa yang terjadi, Anda benar-benar harus mulai memikirkannya lebih sebagai fenomena seperti kekaisaran. Pada saat itu, saya melakukan a serangkaian cerita Itu melihat komunitas di seluruh dunia, terutama di Global South, yang mengalami revolusi AI semacam ini, tetapi sebagai populasi rentan yang tidak dengan cara apa pun melihat manfaat teknologi, tetapi sedang dieksploitasi oleh penciptaan teknologi atau penyebarannya.

Dan saat itulah Chatgpt keluar … dan tiba -tiba kami mendaur ulang narasi lama ‘AI akan mengubah segalanya, dan itu luar biasa untuk semua orang.’ Jadi saya pikir, sekarang saatnya untuk memperkenalkan kembali segalanya tetapi dalam konteks baru ini.

Kemudian saya menyadari bahwa Openai sebenarnya adalah kendaraan untuk menceritakan kisah ini, karena mereka adalah perusahaan yang sepenuhnya mempercepat jumlah sumber daya yang sangat besar yang masuk ke teknologi ini dan sifat kerajaan-esque dari semuanya.

Keputusan Anda untuk menenun kisah -kisah moderator konten dan dampak lingkungan dari pusat data dari perspektif Global South sangat menarik. Apa di balik keputusan Anda untuk memasukkan itu?

Ketika saya mulai meliput AI semakin banyak, saya mengembangkan perasaan yang sangat kuat ini bahwa kisah AI dan masyarakat tidak dapat dipahami secara eksklusif dari pusat -pusat kekuasaannya. Ya, kami perlu melaporkan untuk memahami Lembah Silikon dan pandangan dunianya. Tetapi juga, jika kita hanya pernah tinggal dalam pandangan dunia itu, Anda tidak akan dapat sepenuhnya memahami sejauh mana AI kemudian mempengaruhi orang -orang nyata di dunia nyata.

Dunia tidak diwakili oleh Silicon Valley, dan mayoritas global atau Global South adalah kasus uji sejati untuk apakah suatu teknologi benar -benar menguntungkan kemanusiaan, karena teknologi biasanya tidak dibangun dengan mereka dalam pikiran.

Semua revolusi teknologi meninggalkan beberapa orang di belakang. Tetapi masalahnya adalah bahwa orang -orang yang tertinggal selalu sama, dan orang -orang yang mendapatkan selalu sama. Jadi, apakah kita benar -benar mendapatkan kemajuan dari teknologi jika kita semakin memperburuk ketidaksetaraan, secara global?

Itu sebabnya saya ingin menulis cerita yang ada di tempat -tempat yang jauh dan jauh dari Silicon Valley. Sebagian besar dunia hidup seperti itu tanpa akses ke sumber daya dasar, tanpa jaminan untuk dapat menaruh makanan sehat di atas meja untuk anak -anak mereka atau dari mana gaji berikutnya akan berasal. Dan kecuali kita exp Lore bagaimana AI benar -benar mempengaruhi orang -orang ini, kita tidak akan pernah benar -benar memahami apa artinya pada akhirnya bagi kita semua.

Bagian lain yang sangat menarik dari buku Anda adalah penutupan komunitas penelitian [as AI labs stopped openly sharing details about their models] Dan bagaimana itu sesuatu yang benar -benar kita anggap remeh sekarang. Mengapa itu begitu penting untuk dimasukkan dalam buku ini?

Saya benar -benar beruntung karena saya mulai meliput AI sebelum semua perusahaan mulai menutup diri dan mengaburkan detail teknis. Jadi bagi saya, itu adalah perubahan yang sangat dramatis untuk melihat perusahaan sangat terbuka dengan menerbitkan data mereka, menerbitkan bobot model mereka, menerbitkan analisis tentang bagaimana kinerja model mereka, auditor independen yang mendapatkan akses ke model, hal -hal seperti itu, dan sekarang keadaan di mana semua yang kita dapatkan hanyalah PR. Jadi itu bagian dari itu, hanya mengatakan, itu sebenarnya tidak seperti ini sebelumnya.

Dan itu adalah contoh lain mengapa kerajaan adalah cara untuk memikirkan hal ini, karena kekaisaran mengontrol produksi pengetahuan. Bagaimana mereka melanggengkan keberadaan mereka adalah dengan terus memijat fakta dan memijat sains untuk memungkinkan mereka terus bertahan.

Tetapi juga, jika tidak seperti ini sebelumnya, saya berharap itu akan memberi orang rasa harapan yang lebih besar, bahwa ini dapat berubah. Ini bukan keadaan yang tak terhindarkan. Dan kami benar -benar membutuhkan lebih banyak transparansi dalam bagaimana teknologi ini dikembangkan.

Tingkat opacity sangat mencolok, dan mengejutkan bahwa kita telah dibuang ke dalam rasa normalitas ini. Saya berharap ini sedikit panggilan bangun bahwa kita tidak boleh menerima ini.

Mereka adalah teknologi paling konsekuensial yang sedang dikembangkan saat ini, dan kami benar -benar tidak dapat mengatakan hal -hal dasar tentang mereka. Kita tidak bisa mengatakan berapa banyak energi yang mereka gunakan, berapa banyak karbon yang mereka hasilkan, kita bahkan tidak bisa mengatakan di mana pusat data yang sedang dibangun setengah waktu. Kami tidak dapat mengatakan berapa banyak diskriminasi dalam alat -alat ini, dan kami memberikannya kepada anak -anak di ruang kelas dan kantor dokter untuk mulai mendukung keputusan medis.

Tingkat opacity sangat mencolok, dan mengejutkan bahwa kita telah dibuang ke dalam rasa normalitas ini. Saya berharap ini sedikit panggilan bangun bahwa kita tidak boleh menerima ini.

Ketika Anda memposting tentang buku itu, saya tahu itu akan menjadi hal besar. Kemudian Sam Altman memposting tentang buku itu. Pernahkah Anda melihat peningkatan minat, dan apakah Sam Altman tahu tentang Efek streisand?

Jelas, dia orang yang sangat strategis dan taktis dan umumnya sangat sadar tentang bagaimana hal -hal yang dia lakukan akan mendarat dengan orang -orang, terutama dengan media. Jadi, jujur, reaksi pertama saya adalah … mengapa? Apakah ada semacam game catur 4D? Saya hanya tidak mengerti. Tapi, ya, kami memang melihat peningkatan minat dari banyak jurnalis seperti, ‘Oh, sekarang saya benar -benar perlu melihat apa yang ada di buku.’

Ketika saya memulai buku itu, Openai mengatakan bahwa mereka akan bekerja sama dengan buku itu, dan kami melakukan diskusi selama hampir enam bulan dari mereka yang berpartisipasi dalam buku ini. Dan kemudian pada tanda enam bulan, mereka tiba-tiba membalikkan posisi mereka. Saya benar -benar kecewa dengan itu, karena saya merasa seperti sekarang saya memiliki tugas yang lebih sulit untuk mencoba menceritakan kisah ini dan mencoba untuk secara akurat mencerminkan perspektif mereka tanpa benar -benar meminta mereka berpartisipasi dalam buku ini.

Tapi saya pikir itu akhirnya membuat buku itu jauh lebih kuat, karena saya akhirnya menjadi lebih agresif dalam pelaporan saya … jadi di belakang, saya pikir itu adalah berkah.

Menurut Anda mengapa Openai membalikkan keputusannya untuk berbicara dengan Anda, tetapi berbicara dengan penulis lain yang menulis buku tentang Openai? Apakah Anda punya teori?

Ketika saya mendekati mereka tentang buku itu, saya sangat terbuka dan berkata, ‘Anda tahu semua hal yang saya tulis. Saya akan datang dengan perspektif kritis, tetapi jelas saya ingin bersikap adil, dan saya ingin memberi Anda setiap kesempatan untuk menantang beberapa kritik yang mungkin saya bawa dari pelaporan saya. ‘ Awalnya, mereka terbuka untuk itu, yang merupakan penghargaan bagi mereka.

Saya pikir apa yang terjadi adalah terus menyeret keluar, dan saya mulai bertanya -tanya betapa tulusnya mereka atau apakah mereka menawarkan ini sebagai wortel untuk mencoba dan membentuk berapa banyak orang yang saya jangkau sendiri, karena saya ragu -ragu untuk menjangkau orang -orang di dalam perusahaan sementara saya masih bernegosiasi untuk wawancara dengan tim komunikasi. Tetapi pada titik tertentu, saya menyadari bahwa saya kehabisan waktu dan saya hanya perlu melalui rencana pelaporan saya, jadi saya baru saja mulai menjangkau orang -orang di dalam perusahaan.

Teori saya adalah bahwa itu membuat mereka frustrasi karena saya mengirim email kepada orang -orang secara langsung, dan karena ada peluang buku lain, mereka memutuskan bahwa mereka tidak perlu berpartisipasi dalam setiap buku. Mereka hanya bisa berpartisipasi dalam apa yang mereka inginkan. Jadi itu menjadi semacam keputusan yang dilakukan bahwa mereka tidak akan lagi berpartisipasi dalam saya, dan pergi bersama yang lain.

Buku ini berakhir pada awal Januari 2025, dan begitu banyak yang telah terjadi sejak saat itu. Jika Anda akan terus menulis buku ini, apa yang akan Anda fokuskan?

Pasti Proyek Stargate Dan Deepseek. Proyek Stargate hanyalah perpanjangan yang sempurna dari apa yang saya bicarakan dalam buku ini, yaitu tingkat modal dan sumber daya, dan sekarang tingkat infrastruktur daya dan infrastruktur air yang dipengaruhi oleh perusahaan -perusahaan ini bahkan sulit dipahami.

Sekali lagi, kita mencapai zaman baru Kekaisaran. Mereka secara harfiah menarik tanah dan menarik sumber daya. Proyek Stargate awalnya diumumkan sebagai pengeluaran $ 500 miliar selama empat tahun. Program Apollo adalah $ 380 miliar selama 13 tahun, jika Anda memperhitungkannya pada tahun 2025. Jika benar -benar melewati, itu akan menjadi jumlah modal terbesar yang dihabiskan dalam sejarah untuk membangun infrastruktur untuk teknologi yang pada akhirnya rekam jejak masih menengah.

Sekali lagi, kita mencapai zaman baru Kekaisaran. Mereka secara harfiah menarik tanah dan menarik sumber daya.

Kami belum benar -benar melihat banyak kemajuan ekonomi; itu tidak berbasis luas sama sekali. Faktanya, Anda dapat berargumen bahwa ketidakpastian saat ini bahwa semua orang merasa tentang ekonomi dan pekerjaan yang menghilang sebenarnya adalah kartu skor nyata dari apa yang telah dibawa oleh pencarian AGI.

Dan kemudian Deepseek … Pelajaran mendasar Deepseek adalah bahwa semua ini tidak perlu. Saya tahu bahwa ada banyak kontroversi di sekitar apakah mereka menyaring model Openai atau benar -benar menghabiskan jumlah yang mereka katakan. Tapi Openai bisa menyaring model mereka sendiri. Mengapa mereka tidak menyaring model mereka? Semua ini diperlukan. Mereka tidak perlu membangun $ 500 miliar infrastruktur. Mereka bisa menghabiskan lebih banyak waktu berinovasi dengan cara yang lebih efisien untuk mencapai tingkat kinerja yang sama dalam teknologi mereka. Tetapi mereka tidak melakukannya, karena mereka tidak memiliki tekanan untuk melakukannya dengan banyaknya sumber daya yang dapat mereka akses melalui kemampuan penggalangan dana Altman sekali dalam generasi.

Apa yang Anda harapkan dari pembaca dari buku ini?

Kisah Kekaisaran AI sangat terhubung dengan apa yang terjadi saat ini dengan administrasi Trump dan doge dan runtuhnya total norma -norma demokrasi di AS, karena inilah yang terjadi ketika Anda mengizinkan orang -orang tertentu untuk mengkonsolidasikan begitu banyak kekayaan, begitu banyak kekuatan, sehingga mereka pada dasarnya dapat memanipulasi demokrasi.

AI hanyalah kendaraan terbaru yang terjadi, dan demokrasi tidak dapat dihindari. Jika kita ingin melestarikan demokrasi kita, kita perlu berjuang seperti neraka untuk melindunginya dan mengakui bahwa cara Silicon Valley saat ini berbicara tentang mempersenjatai AI sebagai semacam narasi untuk masa depan sebenarnya adalah menyelubungi percepatan besar erosi demokrasi dan pembalikan demokrasi.

Kekaisaran AI akan diterbitkan oleh Penguin Random House pada hari Selasa, 20 Mei. Anda dapat membeli buku ini Penguin, Amazon, Bookshop.orgdan pengecer lainnya.

Catatan Editor: Percakapan ini telah diedit untuk kejelasan dan tata bahasa.

Pengungkapan: Ziff Davis, perusahaan induk Mashable, pada bulan April mengajukan gugatan terhadap Openai, menuduhnya melanggar hak cipta Ziff Davis dalam pelatihan dan mengoperasikan sistem AI -nya.