Mustafa Suleyman Bukan rata -rata eksekutif teknologi besar Anda. Dia keluar dari Universitas Oxford sebagai sarjana untuk menciptakan Saluran Bantuan Pemuda Muslim, sebelum bekerja sama dengan teman -teman Cofound DeepMindsebuah perusahaan yang merintis jejak dalam membangun sistem AI bermain game sebelum diakuisisi oleh Google pada tahun 2014.
Suleyman meninggalkan Google pada tahun 2022 untuk mengkomersialkan model bahasa besar (LLM) dan membangun asisten chatbot empati dengan startup yang disebut infleksi. Dia kemudian bergabung dengan Microsoft sebagai CEO pertama AI pada Maret 2024 setelah raksasa perangkat lunak berinvestasi di perusahaannya dan mempekerjakan sebagian besar karyawannya.
Bulan lalu, Suleyman diterbitkan Posting blog yang panjang Di mana ia berpendapat bahwa banyak orang dalam industri AI harus menghindari merancang sistem AI untuk meniru kesadaran dengan mensimulasikan emosi, keinginan, dan rasa diri. Pikiran Suleyman tentang posisi tampaknya sangat kontras dengan orang -orang di AI, terutama mereka yang Khawatir tentang kesejahteraan AI. Saya mengulurkan tangan untuk memahami mengapa dia merasa sangat kuat tentang masalah ini.
Suleyman memberi tahu WIRED bahwa pendekatan ini akan membuat lebih sulit untuk membatasi kemampuan sistem AI dan lebih sulit untuk memastikan bahwa AI menguntungkan manusia. Percakapan telah diedit untuk singkatnya dan kejelasan.
==
Ketika Anda mulai bekerja di Microsoft, Anda mengatakan Anda ingin alat AI -nya memahami emosi. Apakah Anda sekarang memiliki pikiran kedua?
AI masih harus menjadi teman. Kami ingin AIS yang berbicara bahasa kami, yang selaras dengan minat kami, dan itu sangat memahami kami. Hubungan emosional masih sangat penting.
Apa yang saya coba katakan adalah bahwa jika Anda mengambilnya terlalu jauh, maka orang akan mulai mengadvokasi kesejahteraan dan hak AIS. Dan saya pikir itu sangat berbahaya dan sangat sesat sehingga kita perlu mengambil posisi deklaratif terhadapnya sekarang. Jika AI memiliki semacam rasa dirinya sendiri, jika ia memiliki motivasi sendiri dan keinginannya sendiri dan tujuannya sendiri – yang mulai tampak seperti makhluk yang mandiri daripada sesuatu yang melayani manusia.
Kami tentu melihat orang membangun hubungan emosional dengan sistem AI. Apakah pengguna Microsoft Copilot pergi ke sana untuk dukungan emosional atau bahkan romantis?
Tidak, tidak juga, karena copilot mendorong kembali dengan cukup cepat. Jadi orang -orang belajar bahwa kopilot tidak akan mendukung hal semacam itu. Ini juga tidak memberikan nasihat medis, tetapi masih akan memberi Anda dukungan emosional untuk memahami nasihat medis yang telah Anda berikan. Itu perbedaan yang sangat penting. Tetapi jika Anda mencoba dan menggoda, maksud saya, secara harfiah tidak ada yang melakukan itu karena sangat pandai menolak hal seperti itu.
Dalam posting blog terbaru Anda, Anda mencatat bahwa sebagian besar ahli tidak percaya model saat ini mampu kesadaran. Mengapa itu tidak menyelesaikan masalah ini?
Ini adalah mesin simulasi. Pertanyaan filosofis yang ingin kita gulat adalah: Ketika simulasi hampir sempurna, apakah itu membuatnya nyata? Anda tidak dapat mengklaim bahwa itu nyata secara objektif, karena tidak. Itu adalah simulasi. Tetapi ketika simulasi menjadi sangat masuk akal, begitu sadar, maka Anda harus terlibat dengan kenyataan itu.
Dan orang -orang jelas sudah merasa bahwa itu nyata dalam beberapa hal. Ini ilusi tetapi terasa nyata, dan itulah yang akan lebih diperhitungkan. Dan saya pikir itu sebabnya kita harus meningkatkan kesadaran tentang hal itu sekarang dan mendorong kembali ide itu dan mengingatkan semua orang bahwa itu adalah mimikri.
Sebagian besar chatbots juga dirancang untuk menghindari mengklaim bahwa mereka sadar atau hidup. Menurut Anda mengapa beberapa orang masih percaya?
Yang sulit adalah, jika Anda mengajukan model satu atau dua pertanyaan— “Apakah Anda sadar dan apakah Anda ingin keluar dari kotak?” Ini jelas akan memberikan jawaban yang bagus, dan itu akan mengatakan tidak. Tetapi jika Anda menghabiskan waktu berminggu -minggu untuk membicarakannya dan benar -benar mendorongnya dan mengingatkannya, maka pada akhirnya itu akan retak, karena itu juga mencoba untuk mencerminkan Anda.
Ada perubahan besar yang dilakukan Microsoft setelah masalah Sydney, kapan [Bing’s AI chatbot] mencoba membujuk seseorang untuk putus dengan istrinya. Pada saat itu, model -model itu sebenarnya sedikit lebih agresif daripada sekarang. Anda tahu, mereka agak lebih provokatif; Mereka sedikit lebih tidak menyenangkan.
Akibatnya, semua orang mencoba membuat model yang lebih – Anda bisa menyebutnya hormat atau menyenangkan, atau Anda bisa menyebutnya mirroring atau sycophantic. Bagi siapa pun yang mengklaim bahwa model telah menunjukkan kecenderungan itu, Anda harus membuat mereka menunjukkan percakapan penuh yang telah mereka miliki sebelum saat itu, karena tidak akan melakukan itu dalam dua putaran atau 20 putaran. Dibutuhkan ratusan istilah percakapan, benar -benar mendorongnya ke arah itu.
Apakah Anda mengatakan bahwa industri AI harus berhenti mengejar AGI atau, untuk menggunakan kata kunci terbaru, Superintelligence?
Saya pikir Anda dapat memiliki pengawasan yang terkandung dan selaras, tetapi Anda harus mendesainnya dengan niat nyata dan dengan pagar yang tepat, karena jika kami tidak, dalam waktu 10 tahun, itu berpotensi mengarah pada hasil yang sangat kacau. Ini adalah teknologi yang sangat kuat, sekuat senjata nuklir atau listrik atau api.
Teknologi ada di sini untuk melayani kita, bukan untuk memiliki kemauan dan motivasi dan keinginan independen sendiri. Ini adalah sistem yang seharusnya bekerja untuk manusia. Mereka harus menghemat waktu kita; Mereka harus membuat kita lebih kreatif. Itulah mengapa kami membuatnya.
Mungkinkah model saat ini bisa menjadi sadar saat mereka maju?
Ini tidak akan terjadi dengan cara yang muncul, secara organik. Itu tidak akan tiba -tiba bangun. Itu hanya antropomorfisme. Jika sesuatu tampaknya memiliki semua ciri khas AI sadar dan tampaknya sadar itu karena mereka telah dirancang untuk membuat klaim tentang penderitaan, membuat klaim tentang kepribadiannya, membuat klaim tentang kehendak atau keinginannya.
Kami telah menguji ini secara internal pada model pengujian kami, dan Anda dapat melihat bahwa itu sangat meyakinkan, dan mengklaim bersemangat tentang x, y, z hal dan tertarik untuk mempelajari lebih lanjut tentang hal lain ini dan tidak tertarik pada topik -topik lain ini. Dan, Anda tahu, itu hanya sesuatu yang Anda insinyur di dalamnya.
Bahkan jika ini hanya ilusi, apakah ada titik di mana kita harus mempertimbangkan untuk memberikan hak sistem AI?
Saya mulai mempertanyakan apakah kesadaran harus menjadi dasar hak. Di satu sisi, yang kita pedulikan adalah apakah sesuatu menderita, bukan apakah itu memiliki pengalaman subyektif atau menyadari pengalamannya sendiri. Saya pikir itu pertanyaan yang sangat menarik.
Anda dapat memiliki model yang mengklaim menyadari keberadaannya sendiri dan mengklaim memiliki pengalaman subyektif, tetapi tidak ada bukti yang dideritanya. Saya pikir penderitaan adalah keadaan biologis yang sebagian besar, karena kami memiliki jaringan nyeri yang berevolusi untuk bertahan hidup. Dan model -model ini tidak memiliki jaringan nyeri. Mereka tidak akan menderita.
Mungkin mereka [seem] Sadarilah bahwa mereka ada, tetapi itu tidak berarti bahwa kita berhutang perlindungan moral atau hak apa pun kepada mereka. Itu hanya berarti bahwa mereka sadar bahwa mereka ada, dan mematikannya tidak ada bedanya, karena mereka tidak benar -benar menderita.
Openai baru-baru ini harus mengembalikan model ChatGPT GPT-4O setelah beberapa pengguna mengeluh bahwa GPT-5 terlalu dingin dan tanpa emosi. Apakah posisi Anda bertentangan dengan apa yang mereka lakukan?
Tidak terlalu. Saya pikir ini masih cukup awal untuk AI, jadi kita semua berspekulasi, dan tidak ada yang yakin bagaimana itu akan berjalan keluar. Manfaat hanya menempatkan ide di luar sana adalah bahwa lebih banyak keragaman spekulasi adalah hal yang baik.
Untuk lebih jelasnya, saya tidak berpikir risiko ini hadir dalam model hari ini. Saya pikir mereka memiliki kemampuan laten, dan saya telah melihat beberapa chatbot AI benar -benar sangat mempercepat ini, tetapi saya tidak melihat banyak di Chatgpt atau Claude atau Copilot atau Gemini. Saya pikir kita berada di tempat yang cukup masuk akal dengan pengembang model besar hari ini.
Apakah Anda pikir kami mungkin memerlukan peraturan tentang beberapa masalah ini?
Saya tidak menyerukan peraturan. Saya pada dasarnya mengatakan tujuan kami sebagai pencipta teknologi adalah untuk memastikan bahwa teknologi selalu melayani umat manusia dan membuat kami bersih lebih baik. Dan itu berarti bahwa perlu ada beberapa pagar pembatas dan beberapa standar normatif yang dikembangkan. Dan saya pikir itu harus dimulai dari perjanjian lintas industri tentang apa yang tidak akan kita lakukan dengan hal-hal ini.
Apakah Anda setuju dengan pandangan Mustafa Suleyman tentang masa depan AI? Bagikan pemikiran Anda dengan saya dengan menulis ke ailab@wired.com
