- Mustafa Suleyman khawatir tentang AI yang menyesatkan orang untuk berpikir itu sadar.
- CEO Microsoft AI menyebut ini “AI yang tampaknya sadar” dan memperingatkan itu “tak terhindarkan dan tidak disukai.”
- Dalam esai pribadi, dia mengatakan harus ada pagar untuk memastikan orang tidak terputus dari kenyataan.
Mungkin tidak ada bukti bahwa AI sadar, tetapi Mustafa Suleyman prihatin bahwa itu mungkin menjadi cukup maju untuk meyakinkan beberapa orang bahwa itu.
Di sebuah esai pribadi Diterbitkan Selasa, CEO Microsoft AI menggambarkan fenomena ini sebagai “AI yang tampaknya sadar,” yang ia definisikan sebagai “semua ciri khas makhluk sadar lainnya dan dengan demikian tampaknya sadar.”
Kedatangannya bisa “berbahaya” bagi masyarakat, tulis Suleyman, karena itu dapat menyebabkan orang -orang membentuk keterikatan pada AI dan mengadvokasi hak AI.
“Ini melepaskan orang dari kenyataan, membeku ikatan dan struktur sosial yang rapuh, mendistorsi prioritas moral yang mendesak,” katanya.
Suleyman, yang sebelumnya mendalam DeepMind dan Inflection, jelas bahwa saat ini ada “nol bukti” bahwa AI sadar.
Dia mengatakan, bagaimanapun, bahwa dia “tumbuh semakin khawatir” tentang apa yang disebut AI Psikosisistilah yang semakin digunakan untuk menggambarkan ketika orang membentuk keyakinan delusi setelah berinteraksi dengan chatbots.
“Saya tidak berpikir ini akan terbatas pada mereka yang sudah berisiko mengalami masalah kesehatan mental,” tulis Suleyman. “Sederhananya, kekhawatiran utama saya adalah bahwa banyak orang akan mulai percaya pada ilusi AIS sebagai entitas sadar begitu kuat sehingga mereka akan segera mengadvokasi hak AI, model kesejahteraan dan bahkan kewarganegaraan AI.”
Sam Altman, CEO Openai, baru-baru ini mengatakan bahwa sebagian besar pengguna chatgpt dapat “menjaga garis yang jelas antara kenyataan dan fiksi atau permainan peran, tetapi sebagian kecil tidak bisa.” Sementara itu, David Sacks, Czar AI Gedung Putih, telah membandingkan psikosis AI dengan “Moral Panic” dari hari -hari awal media sosial.
Suleyman meramalkan bahwa AI yang tampaknya sadar, atau SCAI, bisa tiba dalam dua hingga tiga tahun, dan mengatakan itu “tidak bisa dihindari dan tidak disukai.”
Sistem seperti itu akan memiliki sifat -sifat seperti kepribadian empatik, kemampuan untuk mengingat lebih banyak interaksi dengan pengguna, dan otonomi yang lebih besar, di antara karakteristik lainnya.
Kebangkitan pengkodean getaran berarti bahwa siapa pun yang memiliki laptop, “beberapa kredit cloud,” dan permintaan bahasa alami yang tepat dapat membuatnya lebih mudah untuk mereproduksi SCAI, katanya.
Suleyman, yang pindah ke Microsoft pada tahun 2024 untuk menjadi ujung tombak pengembangan alat AI -nya Kopilotmeminta perusahaan untuk menahan diri dari menggambarkan AI mereka sebagai sadar ketika mereka mengejar pengawasan, yaitu ketika AI melampaui manusia di sebagian besar tugas intelektual.
“Sahabat AI adalah kategori yang sama sekali baru, dan kami sangat perlu mulai berbicara tentang pagar yang kami tempatkan untuk melindungi orang dan memastikan teknologi yang luar biasa ini dapat melakukan tugasnya memberikan nilai besar kepada dunia,” tambah Suleyman.
Baca selanjutnya
