adalah reporter senior AI Verge. Reporter AI Beat selama lebih dari lima tahun, karyanya juga muncul di CNBC, MIT Technology Review, Wired UK, dan outlet lainnya.
Sebuah surat baru kepada Komisi Perdagangan Federal, dan Jaksa Agung AS untuk semua 50 negara bagian dan Distrik Columbia, menyerukan penyelidikan mendesak ke Grok Elon Musk-terutama alat “bayangkan” yang baru untuk gambar dan video yang dihasilkan AI.
Alat, dirilis oleh XAI awal bulan inimendorong pengguna untuk membuat konten NSFW melalui mode “pedas”, dan pertama kali The Verge mengujinyaalat ini membuat video deepfake topless Taylor Swift, bahkan tanpa diminta untuk melakukannya.
Surat hari ini dipelopori oleh Federasi Konsumen Amerika (CFA) dan ditandatangani oleh 14 organisasi perlindungan konsumen lainnya, termasuk proyek pengawasan teknologi, Pusat Keadilan Ekonomi, dan Pusat Informasi Privasi Elektronik (EPIC). Surat itu secara langsung referensi The VergePelaporan tentang Deepfakes selebriti yang dihasilkan Grok dan selanjutnya mengatakan bahwa meskipun platform saat ini tidak menawarkan mode “pedas” untuk foto sungguhan yang diunggah oleh pengguna-yang akan menjadi opsi yang lebih memprihatinkan untuk membalas dendam porno dan praktik yang melanggar lainnya dan masih menghasilkan video yang diselesaikan. pengguna. “
Surat itu selanjutnya menyatakan bahwa jika batasan mode “pedas” untuk foto yang diupload pengguna pernah dihapus, itu “akan melepaskan semburan dari Deepfake yang jelas-jelas tidak konsensual. Faktanya, platform dan kepala eksekutifnya memiliki pendekatan yang tidak ada yang di bawah ini. adalah tidak mungkin berlaku untuk grok. Organisasi meminta FTC dan lainnya untuk menyelidiki potensi pelanggaran XAI terhadap undang-undang pencitraan intim non-konsensual.
CFA dan organisasi-organisasi lain juga menandai kekhawatiran mereka bahwa satu-satunya hal yang menghalangi anak di bawah umur menggunakan mode “pedas” untuk menghasilkan citra seksual adalah satu pop-up yang meminta pengguna untuk memilih usia mereka atau apakah mereka berusia di atas 18 tahun. Organisasi juga mengatakan bahwa salah satu putaran untuk anak-anak yang telah dipilih oleh anak-anak.
Ikuti topik dan penulis Dari cerita ini untuk melihat lebih banyak seperti ini di umpan beranda pribadi Anda dan untuk menerima pembaruan email.
