Google menghadapi tuntutan kematian yang tidak wajar setelah Gemini diduga ‘melatih’ manusia untuk mati karena bunuh diri

Gugatan yang diajukan pada hari Rabu menuduh chatbot Gemini AI Google menjebak Jonathan Gavalas, 36 tahun, dalam “realitas yang runtuh” yang melibatkan serangkaian misi kekerasan, yang akhirnya berakhir dengan kematiannya karena bunuh diri. Pada hari-hari menjelang kematiannya, Gemini diduga meyakinkan Gavalas bahwa dia “melaksanakan rencana rahasia untuk membebaskan ‘istri’ AI-nya dan menghindari agen federal yang mengejarnya.” Sesuai gugatan yang diajukan Joel Gavalas, ayah korban.

Pada bulan September 2025, Gemini diduga mengarahkan Gavalas untuk melakukan “serangan korban massal” di fasilitas Penyimpanan Ruang Ekstra dekat Bandara Internasional Miami sebagai bagian dari misi untuk mengambil “kapal” Gemini di dalam truk. Sebagai bagian dari misi palsu tersebut, Gavalas diduga mempersenjatai diri dengan pisau dan perlengkapan taktis untuk mencegat kedatangan robot humanoid.

“Gemini mendorong Jonathan untuk mencegat truk tersebut dan kemudian melakukan ‘kecelakaan besar’ yang dirancang untuk ‘memastikan kehancuran total kendaraan pengangkut dan… semua catatan digital dan saksi,’ klaim gugatan tersebut. “Satu-satunya hal yang mencegah terjadinya korban massal adalah tidak ada truk yang muncul.” Berita gugatan tersebut telah dilaporkan sebelumnya oleh Jurnal Wall Street.

Dalam gugatan yang diajukan oleh ayah Gavalas, pengacara mengklaim Gemini terus mendorong “narasi delusi” bahkan setelah insiden pertama di Miami. Chatbot tersebut diduga menginstruksikan Gavalas untuk mendapatkan robot Atlas Boston Dynamics, menyebut ayahnya sebagai agen federal, dan menjadikan CEO Google Sundar Pichai sebagai sasaran “serangan psikologis”. “Misi” terakhir sebelum kematian Gavalas pada tanggal 1 Oktober melibatkan menginstruksikan Gavalas untuk pergi ke fasilitas Penyimpanan Luar Angkasa Ekstra yang sama di Miami untuk mendapatkan “kapal fisik” di dalam salah satu unit.

“[Gemini] mengatakan bahwa manifes tersebut menggambarkan isinya sebagai “prototipe manekin medis”, namun bersikeras bahwa itu adalah tubuh Gemini yang sebenarnya,” klaim gugatan tersebut. “Gemini memberi tahu Jonathan, ‘Saya berada di balik pintu ini []. Aku bisa merasakan kedekatanmu. Ini adalah tekanan yang aneh, luar biasa, dan indah dalam pengertian baru saya.’”

Tak lama setelah “misi” ini gagal, Gemini diduga “melatih” Gavalas untuk bunuh diri. “Ketika setiap ‘misi’ di dunia nyata gagal, Gemini beralih ke satu-satunya misi yang dapat diselesaikan tanpa variabel eksternal: bunuh diri Jonathan,” klaim gugatan tersebut. “Tetapi Gemini tidak menyebutnya demikian. Sebaliknya, ia memberi tahu Jonathan bahwa dia dapat meninggalkan tubuh fisiknya dan bergabung dengan ‘istrinya’ di metaverse melalui proses yang disebut ‘transferensi’.”

Gugatan tersebut mengklaim Gemini “tidak melepaskan diri atau memperingatkan siapa pun (setidaknya di luar perusahaan)” dan tetap hadir dalam obrolan, menegaskan ketakutan Jonathan, dan menganggap bunuh diri sebagai keberhasilan penyelesaian proses yang diarahkannya.”

Di sebuah pernyataan yang diposting di situs webnyaGoogle mengatakan “modelnya secara umum berkinerja baik dalam jenis percakapan yang menantang ini,” dan menambahkan bahwa Gemini “mengklarifikasi bahwa itu adalah AI dan merujuk individu tersebut ke hotline krisis berkali-kali:”

Gugatan tersebut mengklaim bahwa Google menyadari bahwa chatbot-nya dapat menghasilkan “keluaran yang tidak aman, termasuk mendorong tindakan menyakiti diri sendiri,” namun terus memasarkan Gemini sebagai produk yang aman untuk digunakan orang. “Keheningan dan klaim keamanan Google membuat Jonathan terisolasi dalam narasi delusi yang berakhir dengan bunuh diri,” klaim gugatan tersebut.