Yuval Noah Harari: ‘Bagaimana kita berbagi planet ini dengan pengawasan baru ini?’

Sejarawan Israel dan Buku Philosopher Yuval Noah Harari Sapiens Menjadi buku terlaris internasional dengan menghadirkan pandangan sejarah yang didorong oleh fiksi yang dibuat oleh umat manusia. Pekerjaannya nanti Tuhan homo Kemudian menggambarkan masa depan bagi umat manusia yang disebabkan oleh kemunculan Superintelligence. Buku terbarunya, Nexus: Sejarah Singkat Jaringan Informasi dari Zaman Batu ke AIadalah peringatan terhadap ancaman AI yang tak tertandingi.

Tren meningkatnya techno-fiskisme yang didorong oleh populisme dan kecerdasan buatan telah terlihat sejak pemilihan presiden AS pada bulan November. Perhubunganyang diterbitkan hanya beberapa bulan sebelumnya, adalah penjelasan tepat waktu tentang konsekuensi potensial AI demokrasi dan totalitarianisme. Dalam buku ini, Harari tidak hanya membunyikan alarm keganjilan– titik masa depan hipotetis di mana teknologi, khususnya AI, bergerak melampaui kontrol manusia dan kemajuan dengan sendirinya – tetapi juga pada keasingan AI.

Wawancara ini dilakukan oleh Michiaki Matsushima, Kepala Redaksi Jepang Wired, dan juga direkam untuk “Wawancara Besar” Serial YouTube Untuk Wired edisi Jepang, yang dijadwalkan akan dirilis pada April 2025. Wawancara telah diedit untuk kejelasan dan panjangnya.

WIRED: Di akhir tahun 90 -an, ketika internet mulai menyebar, ada wacana bahwa ini akan menghasilkan perdamaian dunia. Diperkirakan bahwa dengan lebih banyak informasi menjangkau lebih banyak orang, semua orang akan tahu kebenaran, saling pengertian akan dilahirkan, dan kemanusiaan akan menjadi lebih bijaksana. Wired, yang telah menjadi suara perubahan dan harapan di era digital, adalah bagian dari pemikiran itu pada saat itu. Di buku baru Anda, PerhubunganAnda menulis bahwa pandangan informasi seperti itu terlalu naif. Bisakah Anda menjelaskan ini?

Yuval Noah Harari: Informasi tidak sama dengan kebenaran. Sebagian besar informasi bukanlah representasi realitas yang akurat. Informasi peran utama yang dimainkan adalah menghubungkan banyak hal, untuk menghubungkan orang. Terkadang orang terhubung dengan kebenaran, tetapi seringkali lebih mudah menggunakan fiksi atau ilusi.

Hal yang sama berlaku untuk dunia alami. Sebagian besar informasi yang ada di alam tidak dimaksudkan untuk mengatakan yang sebenarnya. Kita diberitahu bahwa informasi dasar yang mendasari kehidupan adalah DNA, tetapi apakah DNA benar? Tidak. DNA menghubungkan banyak sel bersama untuk membuat tubuh, tetapi itu tidak memberi tahu kita kebenaran tentang apa pun. Demikian pula, Alkitab, salah satu teks terpenting dalam sejarah manusia, telah menghubungkan jutaan orang bersama, tetapi tidak harus dengan mengatakan yang sebenarnya kepada mereka.

Ketika informasi berada di pasar bebas yang lengkap, sebagian besar informasi menjadi fiksi, ilusi, atau kebohongan. Ini karena ada tiga kesulitan utama dengan kebenaran.

Pertama -tama, mengatakan yang sebenarnya mahal. Di sisi lain, menciptakan fiksi itu tidak mahal. Jika Anda ingin menulis akun yang jujur ​​tentang sejarah, ekonomi, fisika, dan lain-lain, Anda perlu menginvestasikan waktu, upaya, dan uang dalam mengumpulkan bukti dan memeriksa fakta. Namun, dengan fiksi, Anda dapat menulis apa pun yang Anda inginkan.

Kedua, kebenaran seringkali rumit, karena kenyataan itu sendiri kompleks. Fiksi, di sisi lain, bisa sesederhana yang Anda inginkan.

Dan akhirnya, kebenaran seringkali menyakitkan dan tidak menyenangkan. Fiksi, di sisi lain, dapat dibuat senyaman dan sebanding mungkin.

Dengan demikian, di pasar informasi yang sepenuhnya gratis, kebenaran akan kewalahan dan dikubur oleh volume fiksi dan ilusi semata -mata. Jika kita ingin mencapai kebenaran, kita harus melakukan upaya khusus untuk berulang kali mencoba mengungkap fakta. Inilah yang terjadi dengan penyebaran internet. Internet adalah informasi pasar yang sepenuhnya gratis. Oleh karena itu, harapan bahwa Internet akan menyebarkan fakta dan kebenaran, dan menyebarkan pemahaman dan konsensus di antara orang -orang, dengan cepat terbukti naif.

Dalam sebuah wawancara baru -baru ini dengan The New Yorker, Bill Gates mengatakan, “Saya selalu berpikir bahwa teknologi digital memberdayakan orang, tetapi jejaring sosial adalah sesuatu yang sama sekali berbeda. Kami lambat menyadari hal itu. Dan AI adalah sesuatu yang sama sekali berbeda juga.” Jika AI belum pernah terjadi sebelumnya, apa, jika ada, dapatkah kita belajar dari masa lalu?

Ada banyak hal yang bisa kita pelajari dari sejarah. Pertama, mengetahui sejarah membantu kita memahami hal -hal baru apa yang telah dibawa AI. Tanpa mengetahui sejarah, kita tidak dapat memahami kebaruan dari situasi saat ini dengan benar. Dan poin terpenting tentang AI adalah bahwa itu adalah agen, bukan hanya alat.

Beberapa orang sering menyamakan revolusi AI dengan revolusi cetak, penemuan kata -kata tertulis, atau munculnya media massa seperti radio dan televisi, tetapi ini adalah kesalahpahaman. Semua teknologi informasi sebelumnya hanyalah alat di tangan manusia. Bahkan ketika mesin cetak diciptakan, masih manusia yang menulis teks dan memutuskan buku mana yang akan dicetak. Pers pencetakan itu sendiri tidak dapat menulis apa pun, juga tidak dapat memilih buku mana yang akan dicetak.

AI, bagaimanapun, pada dasarnya berbeda: ini adalah agen; Itu dapat menulis buku sendiri dan memutuskan ide mana yang akan disebarluaskan. Bahkan dapat membuat ide -ide yang sepenuhnya baru sendiri, sesuatu yang belum pernah dilakukan sebelumnya dalam sejarah. Kami manusia tidak pernah menghadapi agen pengawas sebelumnya.

Tentu saja, ada aktor di masa lalu. Hewan adalah salah satu contoh. Namun, manusia lebih cerdas daripada hewan, terutama di bidang koneksi, di mana mereka sangat unggul. Faktanya, kekuatan terbesar Homo sapiens bukan kemampuan individualnya. Pada tingkat individu, saya tidak lebih kuat dari simpanse, gajah, atau singa. Jika sebuah kelompok kecil, katakanlah 10 manusia dan 10 simpanse, bertarung, simpanse mungkin akan menang.

Jadi mengapa manusia mendominasi planet ini? Itu karena manusia dapat membuat jaringan ribuan, jutaan, dan bahkan miliaran orang yang tidak mengenal satu sama lain secara pribadi tetapi dapat bekerja sama secara efektif dalam skala besar. Sepuluh simpanse dapat bekerja sama erat satu sama lain, tetapi 1.000 simpanse tidak bisa. Manusia, di sisi lain, dapat bekerja sama bukan dengan 1.000 orang, tetapi dengan satu juta atau bahkan seratus juta.

Alasan mengapa manusia dapat bekerja sama dalam skala besar adalah karena kita dapat membuat dan berbagi cerita. Semua kerja sama skala besar didasarkan pada cerita umum. Agama adalah contoh yang paling jelas, tetapi kisah finansial dan ekonomi juga merupakan contoh yang baik. Uang mungkin adalah kisah paling sukses dalam sejarah. Uang hanyalah sebuah cerita. Tagihan dan koin itu sendiri tidak memiliki nilai objektif, tetapi kami percaya pada cerita yang sama tentang uang yang menghubungkan kami dan memungkinkan kami untuk bekerja sama. Kemampuan ini telah memberi manusia keuntungan dibandingkan simpanse, kuda, dan gajah. Hewan -hewan ini tidak dapat menciptakan cerita seperti uang.

Tapi ai bisa. Untuk pertama kalinya dalam sejarah, kami berbagi planet ini dengan makhluk yang dapat membuat dan jaringan jaringan lebih baik daripada yang kami bisa. Pertanyaan terbesar yang dihadapi kemanusiaan saat ini adalah: Bagaimana kita berbagi planet dengan pengawasan baru ini?

Bagaimana seharusnya kita berpikir tentang era baru Superintelligence ini?

Saya pikir sikap dasar terhadap revolusi AI adalah untuk menghindari ekstrem. Di salah satu ujung spektrum adalah ketakutan bahwa AI akan datang dan menghancurkan kita semua, dan di ujung lain adalah optimisme bahwa AI akan meningkatkan perawatan kesehatan, meningkatkan pendidikan, dan menciptakan dunia yang lebih baik.

Yang kita butuhkan adalah jalan tengah. Pertama dan terutama, kita perlu memahami skala perubahan ini. Dibandingkan dengan revolusi AI yang kita hadapi sekarang, semua revolusi sebelumnya dalam sejarah akan pucat dibandingkan. Ini karena sepanjang sejarah, ketika manusia menemukan sesuatu, selalu mereka yang membuat keputusan tentang bagaimana menggunakannya untuk menciptakan masyarakat baru, sistem ekonomi baru, atau sistem politik baru.

Pertimbangkan, misalnya, revolusi industri abad ke -19. Pada saat itu, orang menemukan mesin uap, kereta api, dan kapal uap. Meskipun revolusi ini mengubah kapasitas produktif ekonomi, kemampuan militer, dan situasi geopolitik, dan membawa perubahan besar di seluruh dunia, pada akhirnya orang -orang yang memutuskan bagaimana menciptakan masyarakat industri.

Sebagai contoh konkret, pada tahun 1850 -an, AS Commodore Matthew C. Perry datang ke Jepang dengan kapal uap dan memaksa Jepang untuk menerima persyaratan perdagangan AS. Akibatnya, Jepang memutuskan: Mari kita industrial seperti AS. Pada saat itu, ada perdebatan besar di Jepang tentang apakah akan berbunyi industri atau tidak, tetapi perdebatan hanya di antara orang -orang. Mesin uap itu sendiri tidak membuat keputusan.

Namun, kali ini, dalam membangun masyarakat baru berdasarkan AI, manusia bukan satu -satunya keputusan yang membuat keputusan. AI sendiri mungkin memiliki kekuatan untuk menghasilkan ide -ide baru dan membuat keputusan.

Bagaimana jika AI memiliki uang sendiri, membuat keputusan sendiri tentang cara membelanjakannya, dan bahkan mulai menginvestasikannya di pasar saham? Dalam skenario itu, untuk memahami apa yang terjadi dalam sistem keuangan, kita perlu memahami tidak hanya apa yang dipikirkan manusia, tetapi juga apa yang dipikirkan AI. Selain itu, AI memiliki potensi untuk menghasilkan ide -ide yang sama sekali tidak dapat dipahami oleh kita.

Saya ingin mengklarifikasi apa yang Anda pikirkan tentang singularitas, karena saya sering melihat Anda berbicara sebagai “anti-singularitas.” Namun, dalam buku baru Anda, Anda menunjukkan bahwa AI lebih kreatif daripada manusia dan juga lebih unggul daripada manusia dalam hal kecerdasan emosional.

Saya sangat terkejut dengan pernyataan Anda bahwa akar dari semua revolusi ini adalah komputer itu sendiri, di mana internet dan AI hanya turunan. Wired baru saja diterbitkan a seri tentang komputer kuantumjadi untuk mengambil ini sebagai contoh: Jika kita diberi lompatan kuantum dalam kekuatan komputasi di masa depan, apakah Anda berpikir bahwa singularitas, penataan ulang tatanan dunia oleh pengawas, tidak bisa dihindari?

Itu tergantung pada bagaimana Anda mendefinisikan singularitas. Seperti yang saya pahami, singularitas adalah titik di mana kita tidak lagi mengerti apa yang terjadi di luar sana. Ini adalah titik di mana imajinasi dan pemahaman kita tidak dapat mengimbangi. Dan kita mungkin sangat dekat dengan titik itu.

Bahkan tanpa komputer kuantum atau kecerdasan umum buatan sepenuhnya-yaitu, AI yang bisa menyaingi kemampuan manusia– Tingkat AI yang ada saat ini mungkin cukup untuk menyebabkannya. Orang -orang sering memikirkan revolusi AI dalam hal satu AI raksasa yang datang dan menciptakan penemuan dan perubahan baru, tetapi kita lebih suka berpikir dalam hal jaringan. Apa yang akan terjadi jika jutaan atau puluhan juta AI tingkat lanjut berjejaring bersama untuk membawa perubahan besar dalam ekonomi, militer, budaya, dan politik? Jaringan akan menciptakan dunia yang sama sekali berbeda yang tidak akan pernah kita pahami. Bagi saya, singularitas adalah titik itulah – titik di mana kemampuan kita untuk memahami dunia, dan bahkan kehidupan kita sendiri, akan kewalahan.

Jika Anda bertanya kepada saya apakah saya untuk atau menentang singularitas, pertama dan terutama saya akan mengatakan bahwa saya hanya mencoba untuk mendapatkan pemahaman yang jelas tentang apa yang sedang terjadi sekarang. Orang sering ingin segera menilai hal -hal baik atau buruk, tetapi hal pertama yang harus dilakukan adalah melihat lebih dekat pada situasi. Melihat ke belakang selama 30 tahun terakhir, teknologi telah melakukan beberapa hal yang sangat baik dan beberapa hal yang sangat buruk. Ini bukan hal yang jelas “baik” atau “hanya buruk”. Ini mungkin akan sama di masa depan.

Namun, satu -satunya perbedaan yang jelas di masa depan adalah bahwa ketika kita tidak lagi memahami dunia, kita tidak akan lagi mengendalikan masa depan kita. Kami kemudian akan berada di posisi yang sama dengan hewan. Kita akan seperti kuda atau gajah yang tidak mengerti apa yang terjadi di dunia. Kuda dan gajah tidak dapat memahami bahwa sistem politik dan keuangan manusia mengendalikan nasib mereka. Hal yang sama bisa terjadi pada kita manusia.

Anda telah berkata, “Semua orang berbicara tentang era ‘pasca-kebenaran’, Tetapi apakah pernah ada era ‘kebenaran’ dalam sejarah? ” Bisakah Anda menjelaskan apa yang Anda maksud dengan ini?

Kami dulu memahami dunia sedikit lebih baik, karena manusia yang mengelola dunia, dan itu adalah jaringan manusia. Tentu saja, selalu sulit untuk memahami bagaimana seluruh jaringan bekerja, tetapi setidaknya sebagai manusia sendiri, saya bisa memahami raja, kaisar, dan imam besar. Mereka adalah manusia seperti saya. Ketika raja membuat keputusan, saya bisa memahaminya sampai batas tertentu, karena semua anggota jaringan informasi adalah manusia. Tetapi sekarang setelah AI menjadi anggota utama dari jaringan informasi, semakin sulit untuk memahami keputusan penting yang membentuk dunia kita.

Mungkin contoh yang paling penting adalah keuangan. Sepanjang sejarah, manusia telah menemukan mekanisme keuangan yang semakin canggih. Uang adalah salah satu contohnya, seperti halnya saham dan obligasi. Bunga adalah penemuan keuangan lainnya. Tapi apa tujuan menciptakan mekanisme keuangan ini? Ini tidak sama dengan menciptakan roda atau mobil, juga tidak sama dengan mengembangkan jenis nasi baru yang bisa dimakan.

Maka, tujuan menciptakan keuangan adalah untuk menciptakan kepercayaan dan hubungan antara orang -orang. Uang memungkinkan kerja sama antara Anda dan saya. Anda menanam nasi dan saya membayar Anda. Kemudian Anda memberi saya nasi dan saya bisa memakannya. Meskipun kami tidak mengenal satu sama lain secara pribadi, kami berdua mempercayai uang. Uang baik membangun kepercayaan di antara orang -orang.

Keuangan telah membangun jaringan kepercayaan dan kerja sama yang menghubungkan jutaan orang. Dan sampai sekarang, masih mungkin bagi manusia untuk memahami jaringan keuangan ini. Ini karena semua mekanisme keuangan perlu dimengerti secara manusiawi. Tidak masuk akal untuk menciptakan mekanisme keuangan yang tidak dapat dipahami manusia, karena itu tidak dapat menciptakan kepercayaan.

Tetapi AI dapat menemukan mekanisme keuangan yang sama sekali baru yang jauh lebih kompleks daripada bunga, obligasi, atau saham. Mereka akan sangat kompleks secara matematis dan tidak dapat dipahami oleh manusia. AI itu sendiri, di sisi lain, dapat memahaminya. Hasilnya akan menjadi jaringan keuangan di mana AIS saling percaya dan berkomunikasi satu sama lain, dan manusia tidak akan mengerti apa yang terjadi. Kami akan kehilangan kendali sistem keuangan pada saat ini, dan segala sesuatu yang tergantung padanya.

Jadi AI dapat membangun jaringan kepercayaan yang tidak dapat kita pahami. Hal -hal yang tidak dapat dipahami seperti itu dikenal sebagai “hyperobjects.” Misalnya, perubahan iklim global adalah sesuatu yang manusia tidak dapat sepenuhnya memahami mekanisme atau gambaran penuh, tetapi kita tahu itu akan memiliki dampak yang luar biasa dan karena itu kita harus menghadapi dan beradaptasi dengannya. AI adalah hyperobject lain yang harus dihadapi umat manusia di abad ini. Dalam buku Anda, Anda mengutip fleksibilitas manusia sebagai salah satu hal yang diperlukan untuk menghadapi tantangan besar. Tapi apa arti sebenarnya bagi kemanusiaan untuk menangani hyperobjects?

Idealnya, kami akan mempercayai AI untuk membantu kami menangani hyperobjects ini – realitas yang sangat kompleks sehingga mereka berada di luar pemahaman kami. Tapi mungkin pertanyaan terbesar dalam pengembangan AI adalah: Bagaimana kita membuat AI, yang bisa lebih cerdas daripada manusia, dapat dipercaya? Kami tidak memiliki jawaban untuk pertanyaan itu.

Saya percaya paradoks terbesar dalam revolusi AI adalah paradoks kepercayaan – yaitu, bahwa kita sekarang terburu -buru untuk mengembangkan AI superintelligent yang tidak sepenuhnya kita percayai. Kami memahami bahwa ada banyak risiko. Secara rasional, akan lebih bijaksana untuk memperlambat laju pembangunan, berinvestasi lebih banyak dengan aman, dan menciptakan mekanisme keselamatan terlebih dahulu untuk memastikan bahwa AI yang superinteligen tidak lepas dari kendali kita atau berperilaku dengan cara yang berbahaya bagi manusia.

Namun, yang sebaliknya sebenarnya terjadi hari ini. Kami berada di tengah -tengah balapan AI yang mempercepat. Berbagai perusahaan dan negara berlomba dengan kecepatan sangat tinggi untuk mengembangkan AIS yang lebih kuat. Sementara itu, sedikit investasi yang telah dilakukan untuk memastikan bahwa AI aman.

Tanyakan kepada pengusaha, pebisnis, dan pemimpin pemerintah yang memimpin revolusi AI ini, “Mengapa terburu -buru?” Dan hampir semua dari mereka menjawab: “Kami tahu itu berisiko, pasti. Kami tahu itu berbahaya. Kami memahami bahwa akan lebih bijaksana untuk pergi lebih lambat dan berinvestasi dalam keselamatan. Tetapi kami tidak dapat mempercayai pesaing manusia kami. Jika perusahaan lain dan negara -negara mempercepat pengembangan AI mereka yang lebih baik.

Tapi kemudian saya bertanya kepada mereka yang bertanggung jawab atas pertanyaan kedua AI: “Apakah Anda pikir kami dapat mempercayai Superintelligence yang Anda kembangkan?” Jawaban mereka adalah: “Ya.” Ini hampir gila. Orang yang bahkan tidak mempercayai manusia lain, entah bagaimana berpikir mereka dapat mempercayai AI alien ini.

Kami memiliki ribuan tahun pengalaman dengan manusia. Kami memahami psikologi dan politik manusia. Kami memahami keinginan manusia akan kekuasaan, tetapi kami juga memiliki beberapa pemahaman tentang bagaimana membatasi kekuatan itu dan membangun kepercayaan di antara manusia. Bahkan, selama beberapa ribu tahun terakhir, manusia telah mengembangkan cukup banyak kepercayaan. 100.000 tahun yang lalu, manusia tinggal dalam kelompok -kelompok kecil yang terdiri dari beberapa lusin orang dan tidak bisa mempercayai orang luar. Namun, hari ini, kami memiliki negara -negara besar, jaringan perdagangan yang meluas di seluruh dunia, dan ratusan juta, bahkan miliaran, orang yang saling mempercayai sampai batas tertentu.

Kita tahu bahwa AI adalah pelaku, bahwa itu membuat keputusan sendiri, menciptakan ide -ide baru, menetapkan tujuan baru, menciptakan trik dan kebohongan yang tidak dipahami manusia, dan dapat mengejar tujuan alien di luar pemahaman kita. Kami memiliki banyak alasan untuk curiga terhadap AI. Kami tidak memiliki pengalaman dengan AI, dan kami tidak tahu bagaimana mempercayainya.

Saya pikir itu adalah kesalahan besar bagi orang untuk berasumsi bahwa mereka dapat mempercayai AI ketika mereka tidak saling percaya. Cara teraman untuk mengembangkan Superintelligence adalah dengan pertama -tama memperkuat kepercayaan antara manusia, dan kemudian bekerja sama satu sama lain untuk mengembangkan pengawasan dengan cara yang aman. Tapi apa yang kita lakukan sekarang justru sebaliknya. Sebaliknya, semua upaya diarahkan untuk mengembangkan pengawasan.

Beberapa pembaca kabel dengan pola pikir libertarian mungkin lebih percaya pada pengawasan daripada pada manusia, karena manusia telah saling bertarung untuk sebagian besar sejarah kita. Anda mengatakan bahwa kami sekarang memiliki jaringan kepercayaan yang besar, seperti negara -negara dan perusahaan besar, tetapi seberapa sukses kami membangun jaringan seperti itu, dan apakah mereka akan terus gagal?

Itu tergantung pada standar harapan yang kita miliki. Jika kita melihat ke belakang dan membandingkan kemanusiaan hari ini dengan 100.000 tahun yang lalu, ketika kita adalah pemburu-pengumpul yang tinggal di ternak kecil dari beberapa lusin orang, kita telah membangun jaringan kepercayaan yang sangat besar. Kami memiliki sistem di mana ratusan juta orang bekerja sama satu sama lain setiap hari.

Libertarian sering menerima mekanisme ini begitu saja dan menolak untuk mempertimbangkan dari mana mereka berasal. Misalnya, Anda memiliki listrik dan air minum di rumah Anda. Saat Anda pergi ke kamar mandi dan menyiram air, limbah masuk ke sistem limbah yang besar. Sistem itu dibuat dan dikelola oleh negara. Tetapi dalam pola pikir libertarian, mudah untuk menerima begitu saja bahwa Anda hanya menggunakan toilet dan menyiram air dan tidak ada yang perlu mempertahankannya. Tapi tentu saja, seseorang perlu.

Benar -benar tidak ada yang namanya pasar bebas yang sempurna. Selain kompetisi, selalu perlu ada semacam sistem kepercayaan. Hal -hal tertentu dapat berhasil diciptakan oleh persaingan di pasar bebas, namun, ada beberapa layanan dan kebutuhan yang tidak dapat dipertahankan oleh persaingan pasar saja. Keadilan adalah salah satu contoh.

Bayangkan pasar bebas yang sempurna. Misalkan saya masuk ke dalam kontrak bisnis dengan Anda, dan saya melanggar kontrak itu. Jadi kami pergi ke pengadilan dan meminta hakim untuk membuat keputusan. Tetapi bagaimana jika saya menyuap hakim? Tiba -tiba Anda tidak bisa mempercayai pasar bebas. Anda tidak akan mentolerir hakim mengambil sisi orang yang membayar paling banyak. Jika keadilan akan diperdagangkan di pasar yang sepenuhnya bebas, keadilan itu sendiri akan runtuh dan orang tidak akan lagi saling percaya. Kepercayaan untuk menghormati kontrak dan janji akan hilang, dan tidak akan ada sistem untuk menegakkannya.

Oleh karena itu, kompetisi apa pun selalu membutuhkan beberapa struktur kepercayaan. Dalam buku saya, saya menggunakan contoh Piala Dunia Sepak Bola. Anda memiliki tim dari berbagai negara yang saling bersaing, tetapi agar kompetisi dapat terjadi, terlebih dahulu harus ada kesepakatan tentang serangkaian aturan yang sama. Jika Jepang memiliki aturannya sendiri dan Jerman memiliki aturan lain, tidak akan ada persaingan. Dengan kata lain, bahkan persaingan membutuhkan fondasi kepercayaan dan kesepakatan umum. Kalau tidak, pesanan itu sendiri akan runtuh.

Di dalam PerhubunganAnda mencatat bahwa media massa memungkinkan demokrasi massal – dengan kata lain, bahwa teknologi informasi dan pengembangan lembaga -lembaga demokratis berkorelasi. Jika demikian, selain kemungkinan negatif dari populisme dan totaliterisme, peluang apa untuk perubahan positif dalam demokrasi yang mungkin?

Di media sosial, misalnya, berita palsu, disinformasi, dan teori konspirasi sengaja menyebar untuk menghancurkan kepercayaan di antara orang -orang. Tetapi algoritma belum tentu penyebar berita palsu dan teori konspirasi. Banyak yang telah mencapai ini hanya karena mereka dirancang untuk melakukannya.

Tujuan algoritma Facebook, YouTube, dan Tiktok adalah untuk memaksimalkan keterlibatan pengguna. Cara termudah untuk melakukan ini, ditemukan setelah banyak coba -coba, adalah dengan menyebarkan informasi yang memicu kemarahan, kebencian, dan keinginan orang. Ini karena ketika orang marah, mereka lebih cenderung mengejar informasi dan menyebarkannya ke orang lain, menghasilkan peningkatan keterlibatan.

Tetapi bagaimana jika kami memberi algoritma tujuan yang berbeda? Misalnya, jika Anda memberikan tujuan seperti meningkatkan kepercayaan di antara orang -orang atau meningkatkan kebenaran, algoritma tersebut tidak akan pernah menyebarkan berita palsu. Sebaliknya, ini akan membantu membangun masyarakat yang lebih baik, masyarakat demokratis yang lebih baik.

Poin penting lainnya adalah bahwa demokrasi harus menjadi dialog antara manusia. Untuk melakukan dialog, Anda perlu tahu dan percaya bahwa Anda berurusan dengan manusia. Tetapi dengan media sosial dan internet, semakin sulit untuk mengetahui apakah informasi yang Anda baca benar -benar ditulis dan disebarluaskan oleh manusia atau hanya bot. Ini menghancurkan kepercayaan antara manusia dan membuat demokrasi sangat sulit.

Untuk mengatasi hal ini, kami dapat memiliki peraturan dan undang -undang yang melarang bot dan AI berpura -pura menjadi manusia. Saya tidak berpikir AI sendiri harus dilarang sama sekali; AI dan bot dipersilakan untuk berinteraksi dengan kami, tetapi hanya jika mereka menjelaskan bahwa mereka adalah AI dan bukan manusia. Ketika kita melihat informasi di Twitter, kita perlu tahu apakah itu disebarkan oleh manusia atau bot.

Beberapa orang mungkin berkata, “Bukankah itu pelanggaran kebebasan berekspresi?” Tetapi bot tidak memiliki kebebasan berekspresi. Sementara saya dengan tegas menentang sensor ekspresi manusia, ini tidak melindungi ekspresi bot.

Akankah kita menjadi lebih pintar atau mencapai kesimpulan yang lebih baik dengan membahas topik dengan kecerdasan buatan dalam waktu dekat? Akankah kita melihat jenis kreativitas yang bahkan tidak dapat dipahami manusia, seperti dalam kasus Alphago, yang juga Anda gambarkan dalam buku baru Anda, dalam diskusi kelas, misalnya?

Tentu saja itu bisa terjadi. Di satu sisi, AI bisa sangat kreatif dan menghasilkan ide -ide yang tidak akan pernah kita pikirkan. Tetapi pada saat yang sama, AI juga dapat memanipulasi kami dengan memberi kami banyak sampah dan informasi yang menyesatkan.

Poin kuncinya adalah bahwa kita manusia adalah pemangku kepentingan di masyarakat. Seperti yang saya sebutkan sebelumnya dengan contoh sistem pembuangan limbah, kami memiliki tubuh. Jika sistem limbah runtuh, kita menjadi sakit, menyebarkan penyakit seperti disentri dan kolera, dan dalam kasus terburuk, kita mati. Tapi itu sama sekali bukan ancaman bagi AI, yang tidak peduli jika sistem limbah runtuh, karena tidak akan sakit atau mati. Ketika warga manusia berdebat, misalnya, apakah akan mengalokasikan uang ke lembaga pemerintah untuk mengelola sistem pembuangan limbah, ada kepentingan yang jelas. Jadi, sementara AI dapat menghasilkan beberapa ide yang sangat baru dan imajinatif untuk sistem limbah, kita harus selalu ingat bahwa AI bukan manusia atau bahkan organik untuk memulai.

Mudah untuk melupakan bahwa kita memiliki tubuh, terutama WH En kami sedang mendiskusikan dunia maya. Apa yang membuat AI berbeda dari manusia bukan hanya imajinasi dan cara berpikirnya, yang alien, tetapi juga bahwa tubuhnya sendiri sama sekali berbeda dari kita. Pada akhirnya, AI juga merupakan makhluk fisik; Itu tidak ada dalam beberapa ruang mental murni, tetapi dalam jaringan komputer dan server.

Apa hal terpenting untuk dipertimbangkan ketika memikirkan masa depan?

Saya pikir ada dua masalah penting. Salah satunya adalah masalah kepercayaan, yang telah menjadi subjek banyak diskusi hingga saat ini. Kita sekarang berada dalam situasi di mana kepercayaan antara manusia dipertaruhkan. Ini adalah bahaya terbesar. Jika kita dapat memperkuat kepercayaan antara manusia, kita akan lebih mampu mengatasi revolusi AI.

Yang kedua adalah ancaman untuk sepenuhnya dimanipulasi atau salah arah oleh AI. Pada masa Internet awal, metafora utama untuk teknologi adalah web. World Wide Web dibayangkan sebagai jaringan seperti SpiderWeb yang menghubungkan orang satu sama lain.

Namun, hari ini, metafora utama adalah kepompong. Orang semakin hidup dalam kepompong informasi. Orang -orang dibombardir dengan begitu banyak informasi sehingga mereka buta terhadap kenyataan di sekitar mereka. Orang -orang terjebak dalam berbagai informasi kepok. Untuk pertama kalinya dalam sejarah, entitas bukan manusia, AI, mampu membuat kepompong informasi.

Sepanjang sejarah, orang telah hidup dalam kepompong budaya manusia. Puisi, legenda, mitos, teater, arsitektur, alat, masakan, ideologi, uang, dan semua produk budaya lain yang telah membentuk dunia kita semuanya berasal dari pikiran manusia. Namun, di masa depan, banyak dari produk budaya ini akan berasal dari kecerdasan bukan manusia. Puisi, video, ideologi, dan uang kami akan berasal dari kecerdasan bukan manusia. Kita mungkin terjebak di dunia alien seperti itu, tidak berhubungan dengan kenyataan. Ini adalah ketakutan bahwa manusia telah memegang jauh di dalam hati mereka selama ribuan tahun. Sekarang, lebih dari sebelumnya, ketakutan ini menjadi nyata dan berbahaya.

Sebagai contoh, agama Buddha berbicara tentang konsep māyā – hulu, halusinasi. Dengan munculnya AI, mungkin lebih sulit untuk melarikan diri dari dunia ilusi ini daripada sebelumnya. AI mampu membanjiri kita dengan ilusi baru, ilusi yang bahkan tidak berasal dari kecerdasan atau imajinasi manusia. Kami akan merasa sangat sulit bahkan untuk memahami ilusi.

Anda menyebutkan “mekanisme koreksi diri” sebagai fungsi penting dalam mempertahankan demokrasi. Saya pikir ini juga merupakan fungsi penting untuk keluar dari kepompong dan berhubungan dengan kenyataan. Di sisi lain, dalam buku Anda, Anda menulis bahwa kinerja umat manusia karena Revolusi Industri harus dinilai sebagai “C minus,” atau nyaris tidak dapat diterima. Jika itu masalahnya, maka pasti kita tidak bisa berharap banyak dari umat manusia dalam revolusi AI yang akan datang?

Ketika teknologi baru muncul, itu tidak selalu buruk dalam dirinya sendiri, tetapi orang belum tahu bagaimana menggunakannya secara menguntungkan. Alasan mengapa mereka tidak tahu adalah bahwa kami tidak memiliki model untuk itu.

Ketika Revolusi Industri terjadi pada abad ke -19, tidak ada yang memiliki model untuk membangun “masyarakat industri yang baik” atau cara menggunakan teknologi seperti mesin uap, kereta api, dan telegraf untuk kepentingan kemanusiaan. Oleh karena itu, orang bereksperimen dengan berbagai cara. Beberapa percobaan ini, seperti penciptaan imperialisme modern dan negara -negara totaliter, memiliki hasil yang menghancurkan.

Ini bukan untuk mengatakan bahwa AI itu sendiri buruk atau berbahaya. Masalah sebenarnya adalah bahwa kita tidak memiliki model historis untuk membangun masyarakat AI. Oleh karena itu, kita harus mengulangi eksperimen. Selain itu, AI sendiri sekarang akan membuat keputusan sendiri dan melakukan eksperimennya sendiri. Dan beberapa percobaan ini mungkin memiliki hasil yang mengerikan.

Itulah sebabnya kita membutuhkan mekanisme koreksi diri-mekanisme yang dapat mendeteksi dan memperbaiki kesalahan sebelum sesuatu yang fatal terjadi. Tapi ini bukan sesuatu yang dapat diuji di laboratorium sebelum memperkenalkan teknologi AI ke dunia. Tidak mungkin untuk mensimulasikan sejarah di laboratorium.

Misalnya, mari kita pertimbangkan kereta api yang diciptakan.

Di laboratorium, orang dapat melihat apakah mesin uap akan meledak karena kerusakan. Tetapi tidak ada yang bisa mensimulasikan perubahan yang akan mereka bawa ke situasi ekonomi dan politik ketika jaringan kereta api menyebar lebih dari puluhan ribu kilometer.

Hal yang sama berlaku untuk AI. Tidak peduli berapa kali kita bereksperimen dengan AI di laboratorium, tidak mungkin untuk memprediksi apa yang akan terjadi ketika jutaan pengawasan dikeluarkan pada dunia nyata dan mulai mengubah lanskap ekonomi, politik, dan sosial. Hampir pasti, akan ada kesalahan besar. Itu sebabnya kita harus melanjutkan dengan lebih hati -hati dan lebih lambat. Kita harus memberi waktu waktu untuk beradaptasi, waktu untuk menemukan, dan memperbaiki kesalahan kita.

Kisah ini awalnya muncul di Jepang kabel dan telah diterjemahkan dari bahasa Jepang.