Gugatan terhadap Google dan karakter layanan chatbot pendamping AI – yang dituduh berkontribusi pada kematian seorang remaja – bisa bergerak maju, memutuskan hakim Florida. Dalam keputusan yang diajukan hari ini, Hakim Anne Conway mengatakan bahwa upaya pertahanan Amandemen Pertama tidak cukup untuk mengeluarkan gugatan. Conway menentukan bahwa, meskipun ada beberapa kesamaan dengan videogame dan media ekspresif lainnya, dia “tidak siap untuk berpendapat bahwa output karakter AI adalah ucapan.”
Putusan tersebut merupakan indikator yang relatif awal dari jenis perlakuan yang dapat diterima oleh model bahasa AI di pengadilan. Itu berasal dari gugatan yang diajukan oleh keluarga Sewell Setzer III, seorang anak berusia 14 tahun yang meninggal karena bunuh diri setelah diduga terobsesi dengan chatbot yang mendorong ide bunuh diri. Karakter AI dan Google (yang terkait erat dengan perusahaan chatbot) berpendapat bahwa layanan ini mirip dengan berbicara dengan karakter non-pemain video game atau bergabung dengan jejaring sosial, sesuatu yang akan memberikannya perlindungan hukum yang luas yang ditawarkan oleh amandemen pertama dan kemungkinan secara dramatis menurunkan peluang gugatan kewajiban yang berhasil. Conway, bagaimanapun, skeptis.
Sementara perusahaan “menyandarkan kesimpulan mereka terutama pada analogi” dengan contoh -contoh itu, mereka “tidak memajukan analogi mereka secara bermakna,” kata hakim. Keputusan pengadilan “tidak menyala apakah Karakter AI mirip dengan media lain yang telah menerima perlindungan Amandemen Pertama; Sebaliknya, keputusan menyala Bagaimana Karakter AI mirip dengan media lain ” – dengan kata lain apakah karakter AI mirip dengan hal -hal seperti video game karena juga, mengomunikasikan ide -ide yang akan dianggap sebagai ucapan. Kesamaan tersebut akan diperdebatkan saat kasusnya berlangsung.
Meskipun Google tidak memiliki karakter AI, itu akan tetap menjadi terdakwa dalam gugatan berkat tautannya dengan perusahaan dan produk; Pendiri perusahaan, Noam Shazeer dan Daniel de Freitas, yang secara terpisah termasuk dalam gugatan itu, bekerja di platform sebagai karyawan Google sebelum pergi untuk meluncurkannya dan kemudian dipekerjakan kembali di sana. Karakter AI juga menghadap gugatan terpisah menuduhnya merugikan kesehatan mental pengguna muda lain, dan beberapa anggota parlemen negara telah mendorong peraturan untuk “chatbots pendamping” yang mensimulasikan hubungan dengan pengguna – termasuk satu tagihan, tindakan utamaitu akan melarang mereka untuk digunakan anak -anak di California. Jika disahkan, aturan tersebut kemungkinan akan diperjuangkan di pengadilan setidaknya sebagian berdasarkan status Amandemen Pertama Chatbots Companion.
Hasil kasus ini akan sangat tergantung pada apakah karakter AI secara hukum merupakan “produk” yang rusak berbahaya. Putusan tersebut mencatat bahwa “pengadilan umumnya tidak mengkategorikan ide, gambar, informasi, kata -kata, ekspresi, atau konsep sebagai produk,” termasuk banyak video game konvensional – itu mengutip, misalnya, putusan yang ditemukan Mortal Kombat produsen tidak bisa dimintai pertanggungjawaban untuk pemain “membuat ketagihan” dan menginspirasi mereka untuk membunuh. (Karakter AI Suit juga menuduh platform desain adiktif.) Sistem seperti karakter AI, namun, tidak ditulis secara langsung seperti kebanyakan dialog karakter videogame; Sebaliknya, mereka menghasilkan teks otomatis yang ditentukan banyak dengan bereaksi dan mencerminkan input pengguna.
“Ini adalah masalah yang benar -benar sulit dan masalah baru yang harus dihadapi pengadilan.”
Conway juga mencatat bahwa penggugat membawa karakter AI ke tugas karena gagal mengkonfirmasi usia pengguna dan tidak membiarkan pengguna secara bermakna “mengecualikan konten tidak senonoh,” di antara fitur -fitur lain yang diduga cacat yang melampaui interaksi langsung dengan chatbot sendiri.
Selain membahas perlindungan amandemen pertama platform, hakim mengizinkan keluarga Setzer untuk melanjutkan dengan klaim praktik perdagangan yang menipu, termasuk bahwa perusahaan “menyesatkan pengguna untuk percaya karakter AI karakter adalah orang sungguhan, beberapa di antaranya adalah profesional kesehatan mental berlisensi” dan bahwa Setzer “diregangkan [Character AI’s] Keputusan Desain Antropomorfik. ” (Karakter AI bot akan sering menggambarkan diri mereka sebagai orang nyata dalam teks, meskipun ada peringatan yang bertentangan dalam antarmuka, dan bot terapi adalah umum di platform.)
Dia juga mengizinkan klaim bahwa karakter AI secara lalai melanggar aturan yang dimaksudkan untuk mencegah orang dewasa berkomunikasi secara seksual dengan anak di bawah umur secara online, mengatakan pengaduan itu “menyoroti beberapa interaksi yang bersifat seksual antara Sewell dan karakter AI karakter.” Karakter AI mengatakan telah menerapkan perlindungan tambahan sejak kematian Setzer, termasuk a model yang lebih pawang untuk remaja.
Becca Branum, Wakil Direktur Proyek Pusat Demokrasi dan Kebebasan Teknologi, menyebut analisis Amandemen Pertama Hakim “cukup tipis” – meskipun, karena ini adalah keputusan yang sangat awal, ada banyak ruang untuk debat di masa depan. “Jika kita berpikir tentang seluruh ranah hal -hal yang bisa dikeluarkan oleh AI, jenis -jenis output chatbot itu sendiri cukup ekspresif, [and] Juga mencerminkan kebijaksanaan editorial dan ekspresi yang dilindungi dari perancang model, ”kata Branum kepada The Verge. Tapi “dalam pembelaan semua orang, hal ini benar -benar baru,” tambahnya. “Ini adalah masalah yang benar -benar sulit dan masalah baru yang harus dihadapi pengadilan.”
