Tindakan keras terhadap deepfakes yang berbahaya dan berantakan di Amerika telah tiba

Undang-undang yang mewajibkan jejaring sosial untuk segera menghapus video palsu seksual dan gambar non-konsensual lainnya kini telah berlaku sepenuhnya. Namun para ahli memperingatkan bahwa kebijakan tersebut tidak akan banyak membantu para korban – dan kemungkinan terburuknya dapat memfasilitasi sensor online.

Mei lalu, Presiden Donald Trump menandatangani Take It Down Act, sebuah undang-undang yang menangani gambar intim non-konsensual (NCII). Undang-undang segera mengkriminalisasi penyebaran NCII, baik dalam bentuk materi nyata atau yang dihasilkan AI, sesuatu banyak negara bagian setidaknya sebagian sudah melakukannya. Namun ketentuan penghapusannya lebih luas. Mulai berlaku setahun setelah undang-undang tersebut disahkan – pada tanggal 19 Mei 2026 – undang-undang ini mengharuskan platform online untuk menghapus NCII dalam waktu 48 jam atau akan dikenakan denda.

Ketua Komisi Perdagangan Federal Andrew Ferguson mengirim surat ke lebih dari selusin perusahaan teknologi sebelum tenggat waktu, daftar yang menurut FTC mencakup Amazon, Alphabet, Apple, Automattic, Bumble, Discord, Match Group, Meta, Microsoft, Pinterest, Reddit, SmugMug, Snapchat, TikTok, dan X. Ini menginstruksikan platform untuk menawarkan kepada pengguna proses permintaan penghapusan yang mudah dan menghapus konten yang menyinggung dalam waktu 48 jam, serta “salinan identik yang diketahui.” Badan tersebut, yang bertugas menegakkan hukum, mengingatkan perusahaan bahwa pelanggaran terhadap undang-undang tersebut dapat mengakibatkan hukuman perdata lebih dari $53.000 per pelanggaran.

Platform utama termasuk Meta, Microsoft, Google, TikTok, dan Snap mendukung RUU tersebutdan menyatakan keyakinan bahwa mereka dapat mematuhinya. Snap berkata dalam a postingan blog tahun lalu bahwa hal ini “selaras dan melengkapi upaya berkelanjutan kami.” kata Juru Bicara Monique Bellamy Tepi bahwa mereka terus “mengembangkan” sistem keselamatan, “termasuk berinvestasi pada alat dan teknologi untuk secara proaktif mendeteksi dan mengambil tindakan terhadap gambar telanjang dan gambar serupa yang tidak diinginkan.”

Kepala Meta Keamanan Wanita Cindy Southworth mengatakan perusahaannya “telah lama memerangi pelecehan gambar intim di platform kami,” termasuk dengan menghapusnya, membantu mengembangkan alat untuk menangkapnya, dan menggugat pengembang aplikasi AI “nudify”. yang melanggar peraturannya. Southworth menambahkan bahwa alat-alat perusahaan dilatih untuk tidak memenuhi permintaan nudifikasi. “Kami terus mendukung UU TAKE IT DOWN, sebuah langkah penting dalam mengatasi penyalahgunaan internet, dan kami telah mematuhinya selama beberapa bulan.” Juru bicara TikTok AS Mahsau Cullinane mengatakan perusahaannya tidak memiliki kebijakan toleransi terhadap NCII, dan menunjuk pada kemitraannya dengan NCMEC dan StopNCII.org; yang ditawarkan perusahaan saat ini sebuah formulir dan alat dalam aplikasi untuk pelaporan.

Bahkan X, yang memiliki sejarah panjang dengan citra AI yang bersifat seksual, telah mendukung undang-undang tersebut. Perusahaan terkenal mengizinkannya deepfake AI yang eksplisit secara seksual dari Taylor Swift menyebar pada tahun 2024, diikuti beberapa minggu kemudian oleh a pengguna video diyakini sebagai rapper Drake terlibat dalam tindakan seksual. Baru-baru ini, pengguna meminta chatbot AI terintegrasi, Grok, untuk menanggalkan pakaian pengguna, seringkali tanpa persetujuan mereka. Waktu New York analisa menemukannya hanya dalam sembilan hari, Grok dibagikan “setidaknya 1,8 juta gambar perempuan yang bersifat seksual,” meskipun beberapa perkiraan bahkan lebih tinggi.

Namun ketentuan penghapusan undang-undang tersebut telah menimbulkan kekhawatiran bagi para pendukung kebebasan berpendapat dan penentang penyalahgunaan online – termasuk orang-orang yang sebagian besar mendukung porsi kriminalisasi undang-undang tersebut. Bahkan ketika ditegakkan dengan itikad baik, undang-undang penghapusan konten dapat mendorong perusahaan untuk memoderasi konten yang tidak menyinggung secara berlebihan untuk mengurangi risiko. Di bawah pemerintahan Trump, Take It Down Act juga bisa melakukan hal yang sama menjadi senjata melawan musuh-musuh politik sambil memberikan izin kepada platform-platform yang mendukung Trump. Presiden menyindirnya Negara Persatuan 2025 bahwa “Saya akan menggunakan tagihan itu untuk diri saya sendiri,” karena “tidak ada orang yang diperlakukan lebih buruk daripada saya saat online.” CEO X saat itu, Linda Yaccarino menghadiri upacara penandatanganandi mana Trump – yang pemerintahannya saat itu mempekerjakan pemilik perusahaan tersebut, Elon Musk – memujinya karena “melakukan pekerjaannya dengan baik.”

Pernyataan Trump adalah “kebalikan dari kenyataan,” kata Mary Anne Franks, presiden Cyber ​​Civil Rights Initiative, yang mengadvokasi kebijakan untuk melawan pelecehan seksual berbasis gambar. Hal ini membuatnya skeptis bahwa undang-undang tersebut akan ditegakkan secara adil, seperti halnya komentar State of the Union Trump. “Itu adalah hal yang aneh untuk dikatakan, dan ini merupakan pengumuman langsung dari tingkat tertinggi bahwa undang-undang ini tidak akan digunakan secara prinsip, melainkan untuk menyelesaikan masalah pribadi,” katanya.

Franks “curiga” tentang mengapa platform teknologi besar, yang biasanya memprotes peraturan baru karena membebani kebebasan berpendapat, mendukung undang-undang ini. “Ketakutan saya mengenai hal ini, dan saya harap saya salah, adalah alasan mengapa perusahaan tidak marah mengenai hal ini adalah karena mereka tahu hal ini tidak akan pernah digunakan untuk melawan mereka,” katanya. Hal ini saja dapat membuat undang-undang tersebut hanya memberikan harapan palsu bagi para korban NCII.

Namun Franks juga khawatir undang-undang tersebut dapat diterapkan terhadap platform yang dianggap pemerintah sebagai duri bagi pemerintah, seperti Wikipedia. “Saya pikir hal terburuk yang bisa terjadi adalah, hal ini menjadi macan kertas terhadap perusahaan-perusahaan yang melakukan hal terburuk dan ternyata menjadi cara untuk menghukum dan benar-benar mengejar platform yang tidak populer dan menyensor ucapan,” kata Franks. Pidato tersebut dapat mencakup ekspresi LGBTQ+, khususnya sebagai perawatan yang menegaskan gender bagi remaja transgender sudah menjadi sasaran FTC. “Saya sangat khawatir hal ini akan digunakan sebagai dalih untuk menindak lebih jauh materi seksual eksplisit yang bersifat konsensual, atau khususnya materi pendidikan untuk anak-anak yang sedang mengeksplorasi identitas gender atau orientasi seksual mereka,” kata Franks. Bahkan jika pengadilan memutuskan bahwa hal tersebut tidak termasuk dalam cakupan undang-undang, pengadilan akan mengirimkan pesan yang jelas kepada platform tentang cara melakukan moderator.

Kelompok lain, termasuk Yayasan Perbatasan Elektronik (EFF)itu Institut CatoDan Pengetahuan Masyarakattelah memperingatkan bahwa ketentuan pemberitahuan dan penghapusan dapat menimbulkan konsekuensi yang signifikan terhadap ucapan, dan EFF menyebutnya sebagai resep untuk “penjangkauan dan penyensoran yang berlebihan.”

Sementara itu, hukum bahkan mungkin tidak menutupi apa yang tampak seperti pelanggaran persetujuan digital yang nyata-nyata. Beberapa gambaran seksual non-konsensual Grok, misalnya, mungkin tidak cukup eksplisit secara seksual. Tidak jelas apakah alat AI seperti Grok dianggap sebagai “pencipta” NCII yang pemiliknya dapat menanggung tanggung jawab pidana, dan jika gambar tersebut diproduksi secara pribadi, belum jelas apakah gambar tersebut juga tunduk pada ketentuan penghapusan.
Pada tahun pertama diberlakukannya, Departemen Kehakiman bilang itu bekas ketentuan pidana Take It Down Act dalam satu hukuman terhadap seorang pria Ohio yang membuat video deepfake AI yang eksplisit secara seksual untuk melecehkan korban. Dampak dari ketentuan penghapusan ini dapat langsung dirasakan – namun pertanyaannya adalah apakah hasil tersebut akan membuat internet lebih aman.