Kami sudah mengetahui pendirian CEO OpenAI, Sam Altman kecerdasan buatan dibandingkan dengan kisah kemanusiaan: Ini akan menjadi sesuatu yang transformatif, bersejarah, dan sangat bermanfaat. Dia konsisten dalam wawancara yang tak terhitung jumlahnya. Entah kenapa, minggu ini dia merasa perlu untuk menyaring opini-opini tersebut dalam postingan blog yang ringkas. “Era Intelijen”begitu dia menyebutnya, akan menjadi masa yang berkelimpahan. “Kita bisa berbagi kemakmuran sampai pada tingkat yang tidak terbayangkan saat ini; di masa depan, kehidupan setiap orang bisa lebih baik dibandingkan kehidupan siapa pun saat ini,” tulisnya. “Meskipun hal ini akan terjadi secara bertahap, keberhasilan yang luar biasa—memperbaiki iklim, membangun koloni luar angkasa, dan penemuan seluruh ilmu fisika—pada akhirnya akan menjadi hal biasa.”
Mungkin dia menerbitkan artikel ini untuk membantah alur pemikiran yang menganggap kemajuan nyata dari model bahasa besar sebagai suatu ilusi. Nuh-uh, katanya. Kami mendapatkan bonus AI yang besar ini karena “pembelajaran mendalam berhasil,” seperti yang dia katakan dalam sebuah wawancara di akhir minggu inimengejek mereka yang mengatakan bahwa program seperti GPT4o OpenAI hanyalah mesin bodoh yang mengirimkan token berikutnya dalam antrian. “Ketika teori tersebut mulai membuktikan teorema matematika yang belum terbukti, apakah kita masih ingin berdebat: ‘Oh, tapi itu hanya memprediksi kejadian berikutnya?’” katanya.
Tidak peduli apa pendapat Anda tentang Sam Altman, tidak dapat disangkal bahwa inilah kebenarannya: Kecerdasan umum buatan – AI yang menyamai dan kemudian melampaui kemampuan manusia – akan melenyapkan masalah yang mengganggu umat manusia dan mengantarkan zaman keemasan. Saya sarankan kita menjuluki konsep deus ex machina ini The Strawberry Shortcut, untuk menghormati nama kode atas terobosan terbaru OpenAI dalam penalaran buatan. Ibarat shortcake, premisnya terlihat menggugah selera namun kurang substansial dalam menyantapnya.
Altman dengan tepat mencatat bahwa kemajuan teknologi telah membawa kemewahan bagi masyarakat biasa—termasuk kemewahan yang tidak tersedia bagi para firaun dan penguasa. Charlemagne tidak pernah menikmati AC! Masyarakat kelas pekerja dan bahkan beberapa orang yang menerima bantuan publik memiliki mesin pencuci piring, TV dengan layar raksasa, iPhone, dan layanan pengiriman yang membawakan latte labu dan makanan hewan ke rumah mereka. Tapi Altman tidak mengakui keseluruhan cerita. Meskipun memiliki kekayaan yang sangat besar, tidak semua orang mampu hidup sejahtera, dan banyak di antara mereka yang menjadi tunawisma atau sangat miskin. Mengutip William Gibson, surga ada di sini, hanya saja distribusinya tidak merata. Itu bukan karena teknologi telah gagal—Kami memiliki. Saya menduga hal yang sama juga akan terjadi jika AGI hadir, terutama karena begitu banyak pekerjaan yang akan diotomatisasi.
Altman tidak terlalu spesifik tentang seperti apa kehidupan nanti ketika banyak pekerjaan kita saat ini beralih ke pekerjaan penyulut lampu abad ke-18. Kami memang mendapatkan petunjuk tentang visinya di a podcast minggu ini yang meminta tokoh-tokoh teknologi dan selebritas untuk membagikan playlist Spotify mereka. Saat menjelaskan mengapa dia memilih lagu “Underwater” oleh Rüfüs du Sol, Altman mengatakan itu adalah penghormatan kepada Burning Man, yang telah dia hadiri beberapa kali. Festival ini, katanya, “adalah bagian dari apa yang terlihat setelah AGI, di mana orang-orang hanya fokus melakukan hal-hal untuk satu sama lain, peduli satu sama lain, dan memberikan hadiah luar biasa untuk saling mendapatkan.”
Altman adalah penggemar berat pendapatan dasar universal, yang menurutnya akan meredam dampak hilangnya gaji. Kecerdasan buatan memang bisa menghasilkan kekayaan yang membuat rencana tersebut bisa dilaksanakan, namun hanya ada sedikit bukti bahwa orang-orang yang memiliki banyak kekayaan—atau bahkan mereka yang masih memiliki kehidupan sederhana—akan cenderung menganut konsep tersebut. Altman mungkin memiliki pengalaman yang luar biasa di Burning Man, tetapi beberapa orang Playa yang baik hati tampaknya tidak setuju dengan sebuah proposal, yang hanya memengaruhi orang-orang yang bernilai lebih dari $100 juta, untuk mengenakan pajak atas sebagian dari keuntungan modal mereka yang belum direalisasi. Ada premis yang meragukan bahwa orang-orang seperti itu—atau orang lain yang menjadi super kaya karena bekerja di perusahaan AI—akan merogoh kocek mereka untuk mendanai waktu senggang bagi banyak orang. Salah satu partai politik besar di AS tidak menyukai Medicaid, jadi orang hanya bisa membayangkan bagaimana para demagog populis akan memandang UBI.
Saya juga khawatir akan keuntungan besar yang akan datang ketika semua masalah besar kita terselesaikan. Mari kita akui bahwa AI sebenarnya bisa memecahkan teka-teki terbesar umat manusia. Kita manusia harus benar-benar menerapkan solusi tersebut, dan di situlah kita sering gagal. Kita tidak memerlukan model bahasa yang luas untuk memberi tahu kita bahwa perang adalah neraka dan kita tidak boleh saling membunuh. Namun perang terus terjadi.
Sangat menarik membayangkan AI dapat mengatasi penyakit. Namun jika model dari OpenAI, Google, atau Anthropic berhasil menemukan obat suntik untuk Covid besok, Anda pasti tahu apa yang akan terjadi. Sebagian besar masyarakat akan memperingatkan bahwa ada rencana jahat untuk memusnahkan semua orang. Kita juga sudah mengetahui cara memitigasi krisis iklim, namun kita mengonsumsi lebih banyak energi dibandingkan sebelumnya. Altman memimpikan triliunan dolar yang dicurahkan untuk pabrik fusi yang bersih. Bahkan jika AI memberikan cetak biru bagaimana mencapai hal tersebut, Exxon dan OPEC mungkin masih menemukan cara untuk menghentikannya.
Altman hanya perlu melihat perusahaannya sendiri untuk melihat bagaimana rencana yang disusun dengan baik bisa menjadi kacau. Minggu ini beberapa karyawan penting tiba-tiba meninggalkan perusahaannya. Dari 11 pendiri perusahaan, Altman kini menjadi satu dari dua yang tersisa. Salah satu pembelot adalah CUNTUK Mira Muratiyang pergi “untuk menciptakan waktu dan ruang untuk melakukan eksplorasi saya sendiri.” Murati melakukan pekerjaan penting: Jika Anda berbicara dengan orang-orang di Microsoft, mitra terpenting OpenAI, mereka akan menceritakan semua yang telah dia lakukan untuk mengoordinasikan kolaborasi tersebut. Juga pada minggu ini kami mengetahui bahwa OpenAI dilaporkan akan mengubah statusnya menjadi entitas nirlaba konvensional. Di satu sisi, hal ini masuk akal. OpenAI dimulai sebagai organisasi nirlaba, namun kemudian menetapkan sebagian dari perusahaan—sebenarnya hampir seluruhnya—sebagai perusahaan komersial, untuk mendapatkan pendanaan guna membangun dan menjalankan modelnya. Itu adalah sebuah kompromi yang canggungdan ketegangan itu kini akan mereda. Namun, ingatlah bahwa OpenAI secara khusus dimulai untuk melawan prospek bahwa perusahaan yang mencari keuntungan mungkin akan mengembangkan—dan mengendalikan—AGI. Pada tahun 2015, Altman dan salah satu pendirinya takut akan suatu situasi seperti yang terjadi pada perusahaan bahan bakar fosil, yang mengetahui hal yang benar untuk dilakukan namun tidak melakukannya karena mereka bertanggung jawab kepada pemegang saham, bukan kepada kita yang sekedar mencoba bernapas.
Saya bukan musuh AI, dan saya setuju dengan Altman bahwa mengabaikan perkembangan teknologi yang menakjubkan ini dengan menyebutnya sebagai tipuan adalah hal yang konyol. Seperti Altman, saya berharap hal ini akan meningkatkan banyak aspek kehidupan kita. Di situlah pandangan kami berbeda. Altman memperkirakan akan ada hambatan dalam perjalanannya, dan kebaikan dalam diri manusia akan menang. Namun kisah umat manusia, dan sebagian besar keindahannya, adalah perjuangan pihak baik melawan kekuatan besar yang menimbulkan kesengsaraan. Bagian buruknya adalah seberapa sering pihak baik kalah. Itu sebabnya sangat tidak sumbang untuk mengandalkan Strawberry Shortcut, seperti yang dilakukan Altman ketika dia menyatakan, “Masa depan akan sangat cerah sehingga tidak ada yang bisa melakukannya dengan adil dengan mencoba menulis tentangnya sekarang.” Altman harus membaca Voltaire, atau setidaknya bertanya pada GPT-4o apakah penulisnya hiper optimis Pangloss karakternya bijaksana. Inilah yang dia temukan: “Penolakannya untuk bersikap kritis terhadap dunia dan kepatuhannya yang membabi buta terhadap filosofinya menjadikannya sosok yang diejek alih-alih dihormati.”
Ilmuwan AI Danny Hillis pernah berkata bahwa tujuannya adalah merancang komputer yang bisa dibanggakannya. Jika kita benar-benar mengembangkan AGI dalam beberapa ribu hari, seperti prediksi Altman, apakah kita akan bangga? Kemungkinan besar, ia akan melihat berita hari ini dan melakukan hal yang setara dengan muntah. Masalah manusia yang tidak akan pernah bisa dipecahkan oleh AI adalah umat manusia itu sendiri, dengan segala kemuliaan dan rasa malunya. Kecuali AGI memutuskan bahwa era kecerdasan hanya akan dimulai ketika ia menyingkirkan kita.
Perjalanan Waktu
Saya tidak dapat menemukan pertama kali Danny Hillis menyebutkan merancang komputer yang akan membuatnya bangga. Tapi saya mengutip kutipan dalam pengantar saya ke a percakapan yang saya moderasi antara Hillis dan visioner komputer legendaris Alan Kay. (Sebenarnya saya hanya duduk santai dan membiarkan otak-otak besar itu berinteraksi.) Dialog tersebut muncul di WIRED 30 tahun yang lalu, dan mengingat apa yang kita ketahui sekarang tentang AI, dialog ini menarik dan bersifat profetik.
Hillis: Ketika saya pertama kali masuk ke Lab Kecerdasan Buatan MIT, itu adalah masa keemasan ketika program bahasa mulai berfungsi dan sepertinya jika Anda terus menuju ke arah yang sama maka Anda bisa merekayasa sesuatu yang dipikirkan. Namun kita mencapai sebuah tembok di mana segala sesuatunya menjadi semakin rapuh dan semakin sulit untuk diubah seiring dengan semakin kompleksnya hal tersebut, dan pada kenyataannya kita tidak pernah benar-benar melampaui titik tersebut. Keadaan pemahaman bahasa alami saat ini tidak jauh lebih maju dalam hal kinerja dibandingkan dulu. Sekarang, Anda dapat menyimpulkan bahwa kecerdasan buatan adalah tugas yang mustahil. Marvin [Minsky]yang masih membayangkan rekayasa AI, pasti sudah sampai pada kesimpulan bahwa otak adalah kludge yang sangat kompleks. Jadi Anda mungkin menyimpulkan bahwa kita tidak akan pernah bisa membangunnya. Namun Anda juga dapat menyimpulkan bahwa teknik yang kami gunakan untuk mendekati AI saja tidak cukup kuat.
Kay: Masalahnya adalah tidak ada orang yang tahu bagaimana melakukan hal sebaliknya. Namun bukan berarti Anda tidak boleh mencobanya.
Hillis: Jika kita ingin membuat mesin berpikir, kita harus menghadapi masalah kemampuan membangun sesuatu yang lebih kompleks daripada yang bisa kita pahami. Itu berarti kita harus membangun sesuatu dengan metode lain selain merekayasanya. Dan satu-satunya kandidat yang saya sadari adalah evolusi biologis.
Tanyakan padaku satu hal
Elijah bertanya, “Kita mendekati peringatan 18 tahun “Hal yang Sempurna,” buku Anda membahas tentang dampak budaya iPod. Mengingat keunggulan ponsel pintar saat ini, dan arah industri musik dengan layanan streaming, bagaimana Anda memandang buku tersebut saat ini—ketinggalan jaman atau bersifat ramalan?”
Terima kasih atas pertanyaannya, Elijah, terutama karena telah meneriakkan peringatan yang tidak terlalu penting itu. Mungkin saya harus menyebutkan bahwa ini adalah ulang tahun ke-40 buku saya Peretasdan tanggal 30 Sangat Hebatbagaimana Macintosh dan antarmukanya mengubah segalanya? Semua tersedia di toko buku online terdekat Anda! Buku iPod ini berbeda dari buku saya yang lain—ini adalah serangkaian esai panjang yang dapat berdiri sendiri, membahas subjek seperti musik pribadi (dengan sejarah mini Walkman Sony), bagaimana musik dan gadget kita terikat dengan identitas kita, apa kesejukan artinya, lahirnya podcasting, dan tentunya kisah penciptaan sebuah gadget yang menggetarkan dan memuaskan penggunanya hingga menjadi fenomena budaya.
Anda tidak akan terkejut mendengar bahwa meskipun iPod sebagai gadget tunggal sudah ketinggalan jaman, menurut saya buku ini memiliki harapan yang sama—tidak hanya tentang iPhone tetapi juga bagaimana kecintaan kita terhadap teknologi keren membentuk kita. Dalam hal ramalan, Hal yang Sempurna meliput banyak masalah “jukebox surgawi” dalam pengalaman streaming saat ini.
Salah satu masalah tersebut melibatkan pengalaman mengacak sejumlah besar lagu. Saya terkejut ketika saya mengacak ribuan lagu di iPod saya, lagu-lagu Steely Dan muncul jauh lebih banyak daripada representasi keseluruhannya dalam koleksi. Ketika saya pertama kali menulis tentang ini di Minggu Beritadan kemudian di dalam buku, banyak orang melaporkan pengalaman serupa. Bahkan ada sebuah studi akademis pada fenomena tersebut. Steve Jobs sendiri pernah menempatkan seorang insinyur di telepon untuk meyakinkan saya bahwa pengocokan iPod terjadi secara acak. Namun karena banyaknya masyarakat yang menderita cacingan, perusahaan akhirnya membuat pengaturan yang disebut Smart Shuffle yang memungkinkan pengguna untuk menjauhkan artis. “Daripada berdebat apakah hal tersebut terjadi secara acak atau tidak, kita dapat memberikan hasil yang mereka inginkan,” Jobs memberitahuku. Jurnalisme yang membuat perbedaan!
Anda dapat mengirimkan pertanyaan ke mail@wired.com. Menulis TANYAKAN LEVY di baris subjek.
Kronik Akhir Zaman
Halo, Badai Helenebadai versi bulan ini jarang kita lihat yang seperti itu.
Terakhir namun Tidak Kalah Penting
Investor Dana Pendiri dan salah satu pendiri Anduril Trae Stephens menjelaskan kepadaku mengapa Yesus mencintai VC – dan mengapa dia mungkin bertugas di pemerintahan Trump berikutnya.
Mark Zuckerberg, yang pakaian dan dandanannya menonjolkan a Spikoli getaran, memamerkan Meta kacamata VR yang luar biasa. Tidak, Anda belum bisa membelinya.
Itu perilaku online yang menyeramkan dari mantan ajudan Trump.
Daftar yang bagus untuk konferensi Wawancara Besar WIRED pada 3 Desember di San Francisco. Bisakah kamu hadir?
Jangan lewatkan kolom ini edisi khusus pelanggan di masa mendatang. Berlangganan WIRED (diskon 50% untuk pembaca Plaintext) Hari ini.
