“Wilayah apa [sic] Apakah wanita yang lebih muda seperti pria kulit putih yang lebih tua, “pesan publik dari pengguna di platform AI Meta mengatakan.” Saya butuh detail, saya 66 dan lajang. Saya dari Iowa dan terbuka untuk pindah ke negara baru jika saya dapat menemukan wanita yang lebih muda. ” Chatbot merespons dengan antusias: “Anda sedang mencari awal yang baru dan cinta di tempat baru. Itu menyenangkan! ” Sebelum menyarankan “negara -negara Mediterania seperti Spanyol atau Italia, atau bahkan negara -negara di Eropa Timur.”
Ini hanya salah satunya banyak percakapan yang tampaknya pribadi yang dapat dilihat secara publik Meta AIplatform chatbot yang berfungsi ganda sebagai umpan sosial dan diluncurkan pada bulan April. Di dalam aplikasi Meta AI, tab “Discover” menunjukkan garis waktu interaksi orang lain dengan chatbot; Gulungan pendek ke bawah di situs web Meta AI adalah kolase yang luas. Sementara beberapa pertanyaan dan jawaban yang disorot tidak berbahaya – perjalanan trip, saran resep – orang lain mengungkapkan lokasi, nomor telepon, dan informasi sensitif lainnya, semuanya terkait dengan nama pengguna dan foto profil.
Calli Schroeder, penasihat senior untuk Pusat Informasi Privasi Elektronik, mengatakan dalam sebuah wawancara dengan WIRED bahwa dia telah melihat orang “berbagi informasi medis, informasi kesehatan mental, alamat rumah, bahkan hal -hal yang secara langsung terkait dengan kasus pengadilan yang tertunda.”
“Semua itu sangat memprihatinkan, keduanya karena saya pikir itu menunjukkan bagaimana orang -orang salah paham dengan apa yang dilakukan chatbots ini atau untuk apa mereka dan juga salah paham bagaimana privasi bekerja dengan struktur ini,” kata Schroeder.
Tidak jelas apakah pengguna aplikasi sadar bahwa percakapan mereka dengan AI Meta adalah publik atau pengguna mana yang sedang trolling platform setelah outlet berita mulai melaporkannya. Percakapan tidak publik secara default; Pengguna harus memilih untuk membaginya.
Tidak ada kekurangan percakapan antara pengguna dan chatbot AI Meta yang tampaknya dimaksudkan untuk menjadi pribadi. Seorang pengguna meminta AI Chatbot untuk memberikan format untuk mengakhiri sewa penyewa, sementara yang lain memintanya untuk memberikan pemberitahuan peringatan akademis yang memberikan detail pribadi termasuk nama sekolah. Orang lain bertanya tentang tanggung jawab saudara perempuan mereka dalam potensi penipuan pajak perusahaan di kota tertentu menggunakan akun yang terkait dengan profil Instagram yang menampilkan nama depan dan belakang. Orang lain memintanya untuk mengembangkan pernyataan karakter ke pengadilan yang juga memberikan berbagai informasi yang dapat diidentifikasi secara pribadi baik tentang dugaan penjahat dan pengguna sendiri.
Ada juga banyak contoh pertanyaan medis, termasuk orang -orang yang membocorkan perjuangan mereka dengan buang air besar, meminta bantuan dengan sarang mereka, dan menanyakan tentang ruam di paha batin mereka. Seorang pengguna memberi tahu Meta AI tentang operasi leher mereka dan termasuk usia dan pekerjaan mereka di prompt. Banyak, tetapi tidak semua, akun tampaknya terikat pada profil Instagram publik individu tersebut.
Juru bicara Meta Daniel Roberts menulis dalam pernyataan yang diemailkan kepada Wired bahwa obrolan pengguna dengan meta AI bersifat pribadi kecuali pengguna melalui proses multistep untuk membaginya di feed temukan. Perusahaan tidak menanggapi pertanyaan tentang mitigasi apa yang ada untuk berbagi informasi yang dapat diidentifikasi secara pribadi pada platform Meta AI.
Di sebuah Posting Blog Perusahaan Mengumumkan aplikasi, Meta berkata, “Tidak ada yang dibagikan kepada feed Anda kecuali Anda memilih untuk mempostingnya.” Ini juga menyebutkan bahwa pengguna dapat memberi tahu AI -nya untuk “mengingat hal -hal tertentu tentang Anda” dan “juga memberikan jawaban yang lebih relevan untuk pertanyaan Anda dengan menggambar informasi yang sudah Anda pilih untuk dibagikan pada produk meta, seperti profil Anda, dan konten yang Anda sukai atau terlibat.”
“Orang -orang benar -benar tidak mengerti bahwa tidak ada yang Anda masukkan ke dalam AI itu rahasia,” kata Schroeder. “Tidak ada dari kita yang benar -benar tahu bagaimana semua informasi ini digunakan. Satu -satunya hal yang kita tahu pasti adalah bahwa itu tidak tinggal di antara Anda dan aplikasi. Ini adalah kepada orang lain, paling tidak meta.”
Setelah peluncuran awal aplikasi AI Meta, para kritikus dengan cepat menunjukkan masalah privasi potensial, dengan satu judul menyebutnya “Bencana privasi yang menunggu untuk terjadi.“Terlepas dari kekhawatiran itu, laju pengembangan dan penyebaran AI tersebut tidak menunjukkan tanda -tanda melambat, terutama di Meta: CEO Mark Zuckerberg baru -baru ini diumumkan Asisten AI Meta itu memiliki 1 miliar pengguna di seluruh platform perusahaan, dan itu sudah dilaporkan Meta itu membuat laboratorium AI baru yang dipimpin oleh pendiri AI skala Alexandr Wang, yang didedikasikan untuk membangun Superintelligence.
“Apakah meta sadar akan seberapa banyak informasi sensitif yang secara keliru menyediakan secara publik,” kata seorang pengguna Meta AI pada hari Kamis, dalam kueri yang muncul di umpan publik.
“Beberapa pengguna mungkin secara tidak sengaja berbagi info sensitif karena kesalahpahaman tentang default platform atau perubahan pengaturan dari waktu ke waktu,” jawab chatbot. “Meta menyediakan alat dan sumber daya untuk membantu pengguna mengelola privasi mereka, tetapi ini merupakan tantangan yang berkelanjutan.”
