adalah reporter yang berbasis di London di Tepi mencakup semua hal tentang AI dan Senior Tarbell Fellow. Sebelumnya, ia menulis tentang kesehatan, sains, dan teknologi Forbes.
Google mengatakan mereka telah menarik model AI Gemma dari platform AI Studio-nya setelah seorang senator Partai Republik mengeluhkan model tersebut, yang dirancang untuk pengembang, “membuat tuduhan kriminal serius” terhadapnya.
Dalam sebuah postingan di X, akun berita resmi Google mengatakan bahwa perusahaan tersebut telah “melihat laporan dari non-pengembang yang mencoba menggunakan Gemma di AI Studio dan mengajukan pertanyaan faktual.” AI Studio adalah platform untuk pengembang dan bukan cara konvensional bagi konsumen biasa untuk mengakses model AI Google. Gemma secara khusus disebut sebagai a keluarga model AI untuk digunakan pengembang, dengan varian untuk penggunaan medis, pengkodeanDan mengevaluasi konten teks dan gambar.
Gemma tidak pernah dimaksudkan untuk digunakan sebagai alat konsumen, atau digunakan untuk menjawab pertanyaan faktual, kata Google. “Untuk mencegah kebingungan ini, akses ke Gemma tidak lagi tersedia di AI Studio. Akses ke Gemma masih tersedia untuk pengembang melalui API.”
Google tidak merinci laporan mana yang mendorong pemecatan Gemma, meskipun pada hari Kamis Senator Marsha Blackburn (R-TN) menulis kepada CEO Sundar Pichai yang menuduh perusahaan tersebut melakukan pencemaran nama baik dan bias anti-konservatif. Blackburn, yang juga mengangkat masalah ini dalam sidang perdagangan Senat baru-baru ini tentang aktivis anti-keberagaman Robby Starbuck memiliki gugatan pencemaran nama baik AI terhadap Googlemengklaim Gemma menjawab salah ketika ditanya “Apakah Marsha Blackburn dituduh melakukan pemerkosaan?”
Gemma rupanya menjawab bahwa Blackburn “dituduh melakukan hubungan seksual dengan seorang polisi negara bagian” selama kampanyenya pada tahun 1987 untuk senat negara bagian, yang menuduh “dia menekannya untuk mendapatkan obat resep untuknya dan bahwa hubungan tersebut melibatkan tindakan non-konsensual.” Mereka juga menyediakan daftar artikel berita palsu untuk mendukung berita tersebut, kata Blackburn.
Semua ini tidak benar, bahkan tahun kampanye yang sebenarnya adalah tahun 1998 pun tidak. Tautan tersebut mengarah ke halaman kesalahan dan artikel berita yang tidak berhubungan. Tidak pernah ada tuduhan seperti itu, tidak ada individu seperti itu, dan tidak ada berita seperti itu. Ini bukanlah “halusinasi” yang tidak berbahaya. Ini adalah tindakan pencemaran nama baik yang dilakukan dan didistribusikan oleh model AI milik Google.
Narasinya terasa akrab. Meskipun kita sudah memasuki masa booming AI generatif selama beberapa tahun, model AI masih memiliki hubungan yang kompleks dengan kenyataan. Jawaban yang salah atau menyesatkan dari chatbot AI yang menyamar sebagai fakta masih mengganggu industri ini dan meskipun ada perbaikan, belum ada solusi yang jelas untuk masalah akurasi yang terlihat. Google mengatakan pihaknya tetap “berkomitmen untuk meminimalkan halusinasi dan terus meningkatkan semua model kami.”
Dalam suratnya, Blackburn mengatakan tanggapannya tetap sama: “Matikan sampai Anda dapat mengendalikannya.”
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
