Pada hari ke -17 Guido Reichstadter tanpa makan, dia bilang dia merasa baik -baik saja – bergerak sedikit lebih lambat, tapi baik -baik saja.
Setiap hari sejak 2 September, Reichstadtler telah muncul di luar markas San Francisco dari AI Startup Anthropic, berdiri dari sekitar jam 11 pagi sampai jam 5 sore. Tanda papan tulisnya menyatakan “Mogok Haus: Hari 15,” meskipun ia benar -benar berhenti makan pada 31 Agustus. Tanda ini menyerukan antropik untuk “menghentikan perlombaan ke kecerdasan umum buatan” atau AGI: konsep sistem AI yang sama dengan atau melampaui kemampuan kognitif manusia.
AGI adalah seruan favorit CEO Tech, dengan para pemimpin di perusahaan -perusahaan besar dan para pemula yang sama -sama balap untuk mencapai tonggak subyektif terlebih dahulu. Bagi Reichstadler, ini adalah risiko eksistensial yang tidak dianggap serius oleh perusahaan -perusahaan ini. “Mencoba membangun AGI-tingkat manusia, atau di luar, sistem, pengawasan-ini adalah tujuan dari semua perusahaan perbatasan ini,” katanya kepada The Verge. “Dan saya pikir itu gila. Ini berisiko. Sangat berisiko. Dan saya pikir itu harus berhenti sekarang.” Pemogokan kelaparan adalah cara paling jelas yang dia lihat untuk mendapatkan perhatian para pemimpin AI – dan saat ini, dia bukan satu -satunya.
Reichstadter dirujuk wawancara 2023 di mana CEO antropik Dario Amodei yang menurutnya mencontohkan kecerobohan industri AI. “Kesempatan saya bahwa ada sesuatu yang salah secara bencana pada skala peradaban manusia mungkin berada di suatu tempat antara 10 dan 25 persen,” kata Amodei. Amodei dan yang lainnya telah menyimpulkan perkembangan AGI tidak bisa dihindari dan mengatakan tujuan mereka adalah untuk menjadi penjaga yang paling bertanggung jawab-sesuatu yang disebut Reichstadtler “mitos” dan “mementingkan diri sendiri.”
Dalam pandangan Reichstadter, perusahaan memiliki tanggung jawab untuk tidak mengembangkan teknologi yang akan membahayakan orang dalam skala besar, dan siapa pun yang memahami risikonya juga bertanggung jawab.
“Itulah yang saya coba lakukan, memenuhi tanggung jawab saya sebagai warga negara biasa yang memiliki rasa hormat terhadap kehidupan dan kesejahteraan rekan warga negara saya, rekan senegaranya,” katanya. “Aku juga punya dua anak.”
Antropik tidak segera menanggapi permintaan komentar.
Setiap hari, Reichstadter mengatakan dia melambaikan tangan kepada penjaga keamanan di kantor Anthropic ketika dia mengatur, dan dia menyaksikan karyawan antropik mengalihkan pandangan mereka saat mereka berjalan melewatinya. Dia mengatakan setidaknya satu karyawan telah berbagi beberapa kekhawatiran yang sama tentang bencana, dan dia berharap untuk menginspirasi staf perusahaan AI untuk “memiliki keberanian untuk bertindak sebagai manusia dan bukan sebagai alat” perusahaan mereka karena mereka memiliki tanggung jawab yang lebih dalam karena “mereka mengembangkan teknologi paling berbahaya di Bumi.”
Ketakutannya dibagi oleh banyak orang lain di dunia keselamatan AI. Ini adalah komunitas yang terpecah-pecah, dengan berbagai ketidaksepakatan tentang bahaya spesifik yang ditimbulkan AI dalam jangka panjang dan bagaimana cara terbaik untuk menghentikan mereka-bahkan istilah “keselamatan AI” penuh. Namun, satu hal yang dapat disetujui kebanyakan dari mereka adalah bahwa jalannya saat ini menjadi sakit untuk kemanusiaan.
Reichstadter mengatakan dia pertama kali menyadari potensi AI “tingkat manusia” selama tahun-tahun kuliahnya sekitar 25 tahun yang lalu dan bahwa saat itu, tampaknya jauh-tetapi dengan rilis ChatGPT pada tahun 2022, dia duduk dan memperhatikan. Dia bilang dia sangat peduli dengan bagaimana dia percaya AI memainkan peran dalam meningkatkan otoritarianisme di AS
“Saya prihatin dengan masyarakat saya,” katanya. “Saya khawatir tentang keluarga saya, masa depan mereka. Saya khawatir tentang apa yang terjadi dengan AI untuk mempengaruhi mereka. Saya khawatir itu tidak digunakan secara etis. Dan saya juga khawatir bahwa itu menimbulkan alasan yang realistis untuk percaya bahwa ada risiko bencana dan bahkan risiko eksistensial yang terkait dengannya.”
Dalam beberapa bulan terakhir, Reichstadter telah mencoba semakin banyak metode publik untuk mendapatkan perhatian para pemimpin teknologi terhadap masalah yang ia yakini sangat penting. Dia bekerja di masa lalu dengan sebuah kelompok yang disebut “Stop AI,” yang berupaya melarang sistem AI superintelligent secara permanen “untuk mencegah kepunahan manusia, kehilangan pekerjaan massal, dan banyak masalah lainnya.” Di bulan Februari, dia dan anggota lainnya membantu rantai menutup pintu ke kantor Openai di San Francisco, dengan beberapa dari mereka, termasuk Reichstadter, ditangkap karena halangan.
Reichstadter mengirimkan surat tulisan tangan kepada Amodei melalui Meja Keamanan Antropik pada tanggal 2 September, dan beberapa hari kemudian, ia mempostingnya secara online. Surat itu meminta Amodei berhenti mencoba mengembangkan teknologi yang tidak dapat ia kendalikan – dan melakukan segala daya untuk menghentikan balapan AI secara global – dan bahwa jika ia tidak mau melakukannya, untuk mengatakan kepadanya mengapa tidak. Dalam surat itu, Reichstadter menulis, “Demi anak -anak saya dan dengan urgensi dan gravitasi situasi kami di hati saya, saya telah memulai mogok makan di luar kantor antropik … sementara saya menunggu tanggapan Anda.”
“Saya berharap dia memiliki kesopanan dasar untuk menjawab permintaan itu,” kata Reichstadter. “Saya tidak berpikir ada di antara mereka yang benar-benar ditantang secara pribadi. Ini adalah satu hal untuk secara anonim, secara abstrak, pertimbangkan bahwa pekerjaan yang Anda lakukan mungkin berakhir membunuh banyak orang. Adalah hal lain untuk memiliki salah satu korban masa depan potensial Anda secara langsung dan menjelaskan [why] bagi mereka sebagai manusia. ”
Segera setelah Reichstadter memulai protesnya yang damai, dua lainnya yang terinspirasi olehnya memulai protes serupa di London, mempertahankan kehadiran di luar kantor Google DeepMind. Dan satu bergabung dengannya di Indiapuasa di streaming langsung.
Michael Trazzi berpartisipasi dalam London Hunger Strike selama tujuh hari sebelum memilih untuk berhenti karena dua episode yang hampir memakan dan konsultasi dokter, tetapi ia masih mendukung peserta lainnya, Denys Sheremet, yang aktif Hari 10. Trazzi dan Reichstadter berbagi ketakutan yang sama tentang masa depan kemanusiaan di bawah kemajuan AI yang berkelanjutan, meskipun mereka enggan mendefinisikan diri mereka sebagai bagian dari komunitas atau kelompok tertentu.
Trazzi mengatakan dia sudah memikirkan risiko AI sejak 2017. Dia menulis surat kepada CEO Deepmind Demis Hassabis dan mempostingnya di depan umum, serta melewatinya melalui perantara.
Dalam surat itu, Trazzi meminta agar Hassabis “mengambil langkah pertama hari ini menuju mengoordinasikan penghentian masa depan tentang pengembangan pengawasan atas, dengan secara terbuka menyatakan bahwa DeepMind akan setuju untuk menghentikan pengembangan model AI perbatasan jika semua perusahaan besar lainnya di Barat dan China melakukan hal yang sama. Setelah semua perusahaan besar telah menyetujui suatu perjanjian, pemerintah dapat mengorganisirnya.
Trazzi memberi tahu The Verge“Jika bukan karena AI menjadi sangat berbahaya, saya tidak berpikir saya akan menjadi … super pro-regulasi, tapi saya kira … ada beberapa hal di dunia yang, secara default, insentif pergi [in] arah yang salah. Saya pikir untuk AI, kami membutuhkan regulasi. “
Amanda Carl Pratt, direktur komunikasi Google Deepmind, mengatakan dalam sebuah pernyataan, “AI adalah ruang yang berkembang pesat dan akan ada pandangan yang berbeda tentang teknologi ini. Kami percaya pada potensi AI untuk memajukan sains dan meningkatkan miliaran kehidupan orang. Keselamatan, keamanan, dan tata kelola yang bertanggung jawab dan selalu menjadi prioritas utama saat kami membangun masa depan di mana orang -orang mendapat manfaat dari teknologi kami ketika dilindungi.
Di sebuah Posting di xTrazzi menulis bahwa The Hunger Strike telah memicu banyak diskusi dengan pekerja teknologi, mengklaim bahwa seorang karyawan meta bertanya kepadanya, “Mengapa hanya Google Guys? Kami juga melakukan pekerjaan keren. Kami juga dalam lomba.”
Dia juga menulis di pos bahwa seorang karyawan DeepMind mengatakan perusahaan AI kemungkinan tidak akan merilis model yang dapat menyebabkan kerugian bencana karena biaya peluang, sementara yang lain, dia berkata, “mengakui dia percaya kepunahan dari AI lebih mungkin daripada tidak, tetapi memilih untuk bekerja untuk DeepMind karena itu masih salah satu perusahaan yang paling sadar keselamatan.”
Baik Reichstadter maupun Trazzi belum menerima tanggapan dari surat -surat mereka kepada Hassabis dan Amodei. (Google juga menolak untuk menjawab pertanyaan The Verge Tentang mengapa Hassabis belum menanggapi surat itu.) Namun, mereka memiliki keyakinan bahwa tindakan mereka menghasilkan pengakuan, pertemuan, atau idealnya, komitmen dari CEO untuk mengubah lintasan mereka.
Kepada Reichstadter, “Kami berada dalam ras global yang tidak terkendali untuk bencana,” katanya. “Jika ada jalan keluar, itu akan bergantung pada orang yang bersedia mengatakan yang sebenarnya dan berkata, ‘Kami tidak memegang kendali.’ Minta bantuan. “
Ikuti topik dan penulis Dari cerita ini untuk melihat lebih banyak seperti ini di umpan beranda pribadi Anda dan untuk menerima pembaruan email.
