adalah reporter kebijakan senior di The Verge, yang meliput persimpangan Silicon Valley dan Capitol Hill. Dia menghabiskan 5 tahun meliput kebijakan teknologi di CNBC, menulis tentang antimonopoli, privasi, dan reformasi moderasi konten.
Apple dan Google terseret ke dalam kegemparan sekitar chatbot AI X yang terus-menerus menelanjangi wanita dalam gambar tanpa persetujuan mereka minggu ini.
Di sebuah surat kepada CEO Apple Tim Cook dan CEO Google Sundar Pichai, Sens. Ron Wyden (D-OR), Ben Ray Lujan (D-NM), dan Ed Markey (D-MA) menulis bahwa “generasi X yang melakukan penggambaran wanita dan anak-anak yang berbahaya dan kemungkinan ilegal ini telah menunjukkan pengabaian sepenuhnya terhadap ketentuan distribusi toko Anda.” Pengguna X telah mengidentifikasi beberapa kasus di mana Grok menelanjangi atau melakukan seksual terhadap anak di bawah umur dalam gambar yang dibuat oleh AI.
Para senator menunjuk pada kebijakan toko aplikasi sendiri tentang alasan aplikasi tersebut harus dihapus. Persyaratan layanan Google menyatakan bahwa aplikasi dapat dihapus jika gagal melarang pengguna “membuat, mengunggah, atau mendistribusikan konten yang memfasilitasi eksploitasi atau pelecehan terhadap anak-anak” atau menggambarkan anak-anak “dengan cara yang dapat mengakibatkan eksploitasi seksual terhadap anak-anak.” Apple melarang aplikasi yang “menyinggung” atau “menyeramkan”. Apple dan Google tidak segera menanggapi permintaan komentar mengenai apakah X mematuhi kebijakan mereka dan apakah mereka berencana untuk menghapus aplikasi tersebut.
Gagal menghapus X dari toko aplikasi akan menunjukkan standar ganda, dan melemahkan argumen perusahaan atas kendali mereka atas toko aplikasi, tulis anggota parlemen. Kedua perusahaan menghapus ICEBlock dan Red Dot dari toko mereka mengikuti tekanan pemerintah. Aplikasi tersebut digunakan untuk melaporkan secara anonim penampakan agen Imigrasi dan Bea Cukai (ICE). “Tidak seperti pembuatan konten memuakkan oleh Grok, aplikasi ini tidak membuat atau menghosting konten berbahaya atau ilegal, namun, berdasarkan sepenuhnya pada klaim Pemerintah bahwa aplikasi tersebut menimbulkan risiko bagi petugas imigrasi, Anda menghapusnya dari toko Anda,” tulis para senator.
Mereka juga memperingatkan bahwa tidak adanya tindakan akan “merusak klaim Anda di depan umum dan di pengadilan bahwa toko aplikasi Anda menawarkan pengalaman pengguna yang lebih aman daripada membiarkan pengguna mengunduh aplikasi langsung ke ponsel mereka. Prinsip ini menjadi inti dari advokasi Anda terhadap reformasi legislatif untuk meningkatkan persaingan toko aplikasi dan pembelaan Anda terhadap klaim bahwa toko aplikasi Anda menyalahgunakan kekuatan pasar mereka melalui sistem pembayaran mereka.”
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
