Sekitar seminggu setelahnya Musk v. Altman dalam uji coba ini, kami telah mendengar pendapat dari beberapa orang paling berpengaruh di bidang teknologi — termasuk presiden OpenAI Greg Brockman, pemecah masalah Elon Musk Jared Birchall, dan Musk sendiri. Namun salah satu karakter paling menonjol masih berada di pinggiran: Demis Hassabis, CEO Google DeepMind.
Hassabis adalah arsitek laboratorium AI internal Google. Dia mendirikan DeepMind sebagai startup independen pada tahun 2010 dan menjualnya ke Google empat tahun kemudian, kabarnya seharga di antara $400-650 juta. Sejak itu, dia memimpin banyak terobosan penelitian AI terbesar di Google, seperti Lipat Alfa — dan dia menaiki tangga dari sana, sekarang memimpin Google Gemini, tim yang sebelumnya dikenal sebagai Google Brain, dan bahkan spin-off DeepMind yang bersifat nirlaba Laboratorium Isomorfik.
Sejak awal, OpenAI dirancang untuk melawan Google. Musk bersaksi bahwa dia terinspirasi untuk menemukannya melalui percakapan dengan Larry Page dari Google, di mana Page — dalam ceritanya — mengangkat bahu pada gagasan itu AI yang memusnahkan umat manusia. Tidak mengherankan jika lingkungan Musk dan Altman akan mewaspadai tim AI-nya. Namun dokumen dan kesaksian pengadilan mengungkapkan betapa Google dan Hassabis secara khusus menimbulkan ketakutan di hati mereka.
Dalam kesaksian Brockman minggu ini, dia mengatakan Musk berbicara tentang Hassabis “berkali-kali” sepanjang tahun-tahun awal OpenAI, menyebut Musk “sangat konsisten dan terpaku” pada pria tersebut. Saat dia menghadiri makan malam yang berfokus pada AI bersama Altman dan Musk, Brockman menambahkan, hal pertama yang dia ingat ditanyakan Musk adalah, “Apakah Demis Hassabis jahat?”
Musk “terfiksasi” pada Hassabis, kata Greg Brockman di mimbar
Makan malam bersama Demis sebelum pendirian OpenAI “sangat mengkhawatirkan,” tulis Musk dalam satu email kepada Brockman dan Ilya Sutskever, sesama pendiri OpenAI. “Saya merasa mereka sedang bermain Super Bowl dan kami bermain Puppy Bowl. Kecuali jika kami ingin menyerah, kami perlu meningkatkan permainan kami secara dramatis,” katanya pada tahun 2016.
Hassabis muncul pertama kali dalam dokumen pengadilan segera setelah OpenAI didirikan, saat Musk membicarakan sifat “terbuka” laboratorium baru tersebut di media. Pada bulan Januari 2016, Musk meneruskan Altman dan Sutskever, yang diambil dari Google, sebuah pesan Hassabis telah mengirimnya. Pimpinan Google tidak setuju dengan Musk dan para pendirinya “yang memuji manfaat AI open source.” Hassabis menulis bahwa hal ini “sebenarnya sangat berbahaya,” dan menambahkan, “Saya kira Anda menyadari bahwa ini bukanlah obat mujarab yang secara ajaib dapat memecahkan masalah AI?” Beberapa bulan kemudian, salah satu pendiri OpenAI (dan presiden perusahaan saat ini) Greg Brockman kata Musk bahwa “orang-orang yang mengambil kebijakan” di Google ingin berbicara dengannya, karena takut OpenAI akan “membangun narasi publik bahwa memiliki AI bersumber tertutup adalah tindakan yang salah.” Musk sangat tertarik pada siapa, khususnya, yang menelepon Brockman dari Google.
Itu adalah awal dari kompetisi selama bertahun-tahun, dan taruhannya akan meningkat dari sana.
Sekitar enam bulan kemudian, Musk mulai menyampaikan kekhawatirannya tentang mengalahkan Google DeepMind dalam perlombaan AI. Dia menulis kepada rekan-rekan Neuralink-nya, “Deepmind bergerak sangat cepat. Saya khawatir OpenAI tidak berada pada jalur yang tepat untuk mengejar ketertinggalannya. Jika dipikir-pikir, menjadikannya sebagai organisasi nirlaba mungkin merupakan langkah yang salah. Rasa urgensinya tidak terlalu tinggi.”
Pada bulan September 2017, Brockman dan Sutskever menulis hingga Musk mengungkapkan keprihatinannya atas kendalinya atas OpenAI, menggunakan Google sebagai contoh tentang apa yang tidak boleh dilakukan. “Anda khawatir Demis akan menciptakan kediktatoran AGI. Kami juga khawatir. Jadi, menciptakan struktur yang memungkinkan Anda menjadi diktator jika Anda menginginkannya adalah ide yang buruk.”
“Saya merasa mereka sedang bermain Super Bowl dan kami bermain Puppy Bowl.”
Pada awal tahun 2018, Musk tampaknya sudah sangat terbebani dengan pengaruh AI Google dan perlunya OpenAI untuk menyalip raksasa teknologi tersebut – dan kepanikan relatif telah menyebar ke pihak lain juga. Musk menulis pada bulan Januari pertukaran email bahwa OpenAl berada “di jalur kegagalan tertentu dibandingkan dengan Google. Jelas diperlukan tindakan segera dan dramatis atau semua orang kecuali Google akan dianggap tidak relevan.” Dia dan salah satu pendiri OpenAI Andrej Karpathy sangat prihatin sehingga mereka menyarankan untuk menggabungkan OpenAI ke Tesla agar memiliki sumber daya yang lebih baik.
“Tidak jelas apakah sebuah perusahaan bisa ‘mengejar’ skala Google” tanpa merger, Karpathy kemudian menulis: “Saya tidak melihat ada perusahaan lain yang berpotensi mencapai modal skala Google yang berkelanjutan dalam satu dekade.”
Shivon Zilis, anggota dewan OpenAI pada saat itu, menyarankan intervensi langsung. Zilis, yang kini berbagi empat anak dengan Musk, menulis permohonan pribadi yang memintanya untuk “memperlambat” Hassabis. “Ada kemungkinan yang sangat rendah untuk masa depan yang baik jika seseorang tidak memperlambat Demis. Memperlambatnya adalah satu-satunya tindakan baik yang tidak dapat dinegosiasikan yang dapat saya lihat,” tulis Zilis. “Saya pikir Anda tahu bahwa saya bukan orang yang jahat, tetapi dalam kasus ini rasanya tidak bertanggung jawab jika tidak menemukan cara untuk memperlambat atau mengubah jalannya.” Musk menjawab bahwa mereka dapat mendiskusikannya malam itu melalui telepon tetapi untuk pertama kalinya tampak sedih mengenai prospeknya dalam pertempuran melawan Hassabis, dan menulis, “Saya ragu saya dapat melakukannya dengan cara yang berarti.”
“Memperlambatnya adalah satu-satunya tindakan baik yang tidak dapat dinegosiasikan yang dapat saya lihat.”
Zilis melanjutkan permohonan pribadinya kepada Musk untuk menyalip Hassabis, menyampaikan rumor dari Altman dan lainnya. “Selain orang-orang yang diam-diam berkomunikasi di DM Twitter karena mereka tidak percaya Demis tidak memata-matai email dan gchat mereka, sebagian dari kelompok dalam juga bertemu di kedai kopi London tanpa ponsel untuk berdiskusi secara langsung jauh dari dia,” tulisnya.
Pada bulan November tahun itu, Musk menulis dalam sebuah email bahwa dia telah sepenuhnya “kehilangan kepercayaan” bahwa OpenAI dapat “berfungsi sebagai penyeimbang yang efektif” untuk mengalahkan Hassabis dan DeepMind, dan bahwa dia berencana untuk melakukannya melalui Tesla. “Kami memiliki arus kas miliaran dolar per tahun untuk membangun perangkat keras yang diharapkan setidaknya memiliki peluang kuda hitam untuk menjaga kejujuran Google,” tulisnya. “Penilaian probabilitas saya terhadap OpenAl yang relevan dengan DeepMind/Google tanpa perubahan dramatis dalam eksekusi dan sumber daya adalah 0%,” Musk menulis beberapa minggu kemudian. “Sayangnya, masa depan umat manusia ada di tangan Demis… Dan mereka melakukan lebih dari ini.”
Tiga bulan kemudian, pada bulan Maret 2019, penyebutan terakhir Hassabis dalam pameran uji coba sejauh ini berasal dari sebuah misteri. pesan dikirim oleh Altman ke Musk tanpa rincian lebih lanjut.
“Dapatkan beberapa kabar terbaru Demis untuk dibagikan,” tulis Altman. Musk setuju untuk membicarakannya melalui telepon.
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
