Undang-undang Take It Down sedang menuju ke meja Presiden Donald Trump setelah DPR memilih 409-2 untuk mengesahkan RUU itu, yang akan mengharuskan perusahaan media sosial untuk mencatat konten yang ditandai sebagai gambar seksual nonkonsensual (termasuk AI-dihasilkan). Truf telah berjanji untuk menandatanganinya.
RUU ini adalah satu -satunya legislasi keselamatan online untuk berhasil melewati kedua kamar Dalam bertahun -tahun kehebohan atas Deepfake, keselamatan anak, dan masalah lainnya – tetapi itu adalah salah satu yang dikritik oleh para kritikus akan digunakan sebagai senjata melawan konten Administrasi atau sekutu tidak suka. Ini mengkriminalkan publikasi gambar intim nonkonsensual (NCII), baik yang dihasilkan oleh komputer maupun komputer, dan mengharuskan platform media sosial untuk memiliki sistem untuk menghapus gambar tersebut dalam waktu 48 jam setelah ditandai. Dalam pidatonya ke Kongres tahun ini, Trump menyindirnya begitu dia menandatanganinya“Saya akan menggunakan tagihan itu untuk diri saya sendiri juga, jika Anda tidak keberatan, karena tidak ada yang diperlakukan lebih buruk daripada yang saya lakukan secara online, bukan siapa -siapa.”
Proliferasi alat AI yang membuatnya lebih mudah dari sebelumnya untuk menghasilkan gambar yang tampak realistis memiliki kekhawatiran supercharged tentang konten yang dalam dan merusak menyebar melalui sekolah dan menciptakan vektor baru intimidasi dan penyalahgunaan. Tetapi sementara para kritikus mengatakan itu adalah masalah penting untuk ditangani, mereka khawatir bahwa pendekatan Take It Down Act dapat dieksploitasi untuk menimbulkan kerugian dengan cara lain.
Inisiatif Hak Sipil Cyber (CCRI), yang diciptakan untuk memerangi pelecehan seksual berbasis gambar, mengatakan bahwa mereka tidak dapat menghibur bagian tindakan Take It Down. “Sementara kami menyambut kriminalisasi federal NDII yang sudah lama [the nonconsensual distribution of intimate images]kami menyesal bahwa itu dikombinasikan dengan ketentuan pencopotan yang sangat rentan terhadap penyalahgunaan dan kemungkinan akan kontra-produktif bagi para korban, ”tulis kelompok itu. Ia khawatir bahwa RUU itu, yang memberdayakan Komisi Perdagangan Federal-yang Komisaris Minoritas Demokratnya Trump Demokrat ditembakkan dalam istirahat dengan preseden Mahkamah Agung selama puluhan tahun – akan ditegakkan secara selektif dengan cara yang pada akhirnya hanya menopang “platform yang tidak bermoral.”
“Platform yang merasa yakin bahwa mereka tidak mungkin ditargetkan oleh FTC (misalnya, platform yang selaras dengan administrasi saat ini) mungkin merasa berani mengabaikan laporan NDII,” tulis mereka. “Platform yang berusaha mengidentifikasi keluhan otentik mungkin menghadapi lautan laporan palsu yang dapat membanjiri upaya mereka dan membahayakan kemampuan mereka untuk beroperasi sama sekali.”
“Platform dapat merespons dengan meninggalkan enkripsi sepenuhnya”
Karena perputaran cepat untuk platform untuk menghapus konten yang ditandai sebagai citra intim nonkonsensual, Electronic Frontier Foundation (EFF) memperingatkan bahwa platform yang lebih kecil “Harus mematuhi dengan sangat cepat untuk menghindari risiko hukum sehingga mereka tidak akan dapat memverifikasi klaim.” Sebaliknya, mereka kemungkinan akan beralih ke filter cacat untuk menindak duplikat, mereka menulis. Kelompok ini juga memperingatkan bahwa layanan terenkripsi ujung ke ujung termasuk sistem pesan pribadi dan penyimpanan cloud tidak dibebaskan dari tagihan, menimbulkan risiko bagi teknologi privasi. Karena layanan terenkripsi tidak dapat memantau apa yang dikirimkan kepada pengguna mereka satu sama lain, EFF bertanya, “Bagaimana layanan tersebut dapat memenuhi permintaan pencopotan yang diamanatkan dalam RUU ini? Platform dapat merespons dengan meninggalkan enkripsi sepenuhnya untuk dapat memantau konten – mengubah percakapan pribadi ke dalam ruang survei,” termasuk yang penyalahgunaan penyalahgunaan secara umum.
Meski begitu, Take It Down Act dengan cepat mengumpulkan banyak dukungan. Ibu Negara Melania Trump telah menjadi juara terkemuka dari RUU itu, tetapi juga terlihat mendukung pendukung orang tua dan pemuda, serta beberapa di industri teknologi. Presiden urusan global Google Kent Walker disebut bagian itu “Langkah besar menuju melindungi individu dari citra eksplisit nonkonsensual,” dan Snap Demikian pula memuji suara. Internet Works, sebuah kelompok yang anggotanya termasuk perusahaan menengah seperti Discord, Etsy, Reddit, Roblox, dan lainnya, memuji pemungutan suara DPR, dengan Direktur Eksekutif Peter Chandler mengatakan RUU itu “akan memberdayakan para korban untuk menghapus materi NCII dari Internet dan mengakhiri siklus viktimisasi oleh mereka yang menerbitkan konten keji ini.”
Rep. Thomas Massie (R-KY), satu dari dua anggota (keduanya Republik) yang memberikan suara menentang RUU tersebut, menulis di x Bahwa dia tidak dapat mendukungnya karena “Saya merasa ini adalah lereng yang licin, matang untuk disalahgunakan, dengan konsekuensi yang tidak diinginkan.”
