Kamu bangun pada Hari pemilihan dan buka kunci ponsel Anda untuk menonton video yang goyang dari gedung DPR negara bagian Anda. Dalam rekaman yang heboh itu, asap mengepul dari gedung DPR negara bagian. Dalam klip lain yang diunggah di sampingnya, suara tembakan terdengar di kejauhan. Anda berpikir: Mungkin lebih baik melewatkan tempat pemungutan suara hari ini. Baru kemudian Anda mengetahui bahwa video tersebut Kecerdasan buatan pemalsuan.
Seorang teman menelepon Anda, putus asa. Seorang kenalan anonim telah menempatkannya dalam serangkaian pornografi pemalsuan mendalamdan sekarang video-video itu tersebar dari satu situs ke situs lainnya. Polisi menyuruhnya menghubungi pengacara, tetapi surat-surat perintah penghentian tidak berhasil.
Anda adalah seorang aktor terkenal. Sebuah perusahaan teknologi besar ingin Anda menjadi pengisi suara asisten AI terbarunya. Anda menolaknya. Beberapa bulan kemudian, chatbot tersebut dirilis dan orang-orang berkata kedengarannya seperti kamuAnda tidak pernah menyetujui peniruan tersebut, dan sekarang orang lain memonetisasi suara Anda.
Ketika pemalsuan yang dilakukan oleh AI generatif membanjiri internet, tak lama lagi semua orang, bukan hanya Scarlett Johanssonbisa saja punya cerita seperti ini untuk diceritakan. Anggota parlemen di seluruh Amerika Serikat baru-baru ini telah mengesahkan hampir selusin undang-undang, dan memperkenalkan lusinan undang-undang lainnya, untuk mengatur tiruan AI dalam segala bentuknya. Namun, kampanye hukum itu kini mendapat kecaman dari sumber yang tidak diduga. Kelompok hak asasi manusia, yang dipimpin oleh nasional Serikat Kebebasan Sipil Amerika dan afiliasinya di tingkat negara bagian, tengah membangun posisi hukum yang berupaya mempersempit atau bahkan mengabaikan banyak aturan baru ini. Inti argumennya: Warga Amerika memiliki hak konstitusional untuk melakukan deepfake terhadap sesama warga negaranya.
“Setiap kali Anda melihat gelombang besar rancangan undang-undang yang berupaya mengatur teknologi baru di 50 badan legislatif negara bagian yang berbeda dan entah berapa banyak peraturan daerah, akan ada cukup banyak yang membuat batasan yang salah,” kata Brian Hauss, seorang pengacara senior di ACLU Speech, Privacy, and Technology Project, kepada saya. “Jadi saya yakin,” lanjutnya, “akan ada banyak gugatan atas rancangan undang-undang ini saat diterapkan.”
Litigasi semacam itu bisa jadi merupakan perhitungan yang tidak mengenakkan bagi gerakan yang sedang berkembang untuk mengatur AI—dan berujung pada masa depan yang tidak jelas di mana kita semua harus menerima begitu saja sejumlah tiruan buatan mesin.
Pertama, sisihkan gagasan bahwa AI itu sendiri memiliki hak. Tidak demikian. AI “adalah sebuah alat, seperti pemanggang roti atau benda mati lainnya,” kata Hauss kepada saya. “Namun ketika saya menggunakan AI untuk mengomunikasikan sesuatu ke dunia,” katanya, “SAYA memiliki hak Amandemen Pertama.”
Sebagai analogi, plakat warna-warni yang bertuliskan “Terima Kasih Tuhan untuk Prajurit yang Tewas” tidak memiliki hak istimewa hukum apa pun. Namun, ketika anggota Gereja Baptis Westboro membuat tanda seperti itu dan melambaikannya di dekat pemakaman seorang veteran, mereka berhak atas perlindungan konstitusional yang sama yang berlaku bagi semua orang. Betapapun tidak menyenangkannya tanda itu sendiri, hak-hak tersebut tidak dapat dicabut. (Pada tahun 2010, gereja diperintahkan untuk membayar $5 juta kepada ayah seorang Marinir yang pemakamannya diprotes. Keputusan itu kemudian dibatalkan, dan dalam kasus Mahkamah Agung berikutnya, ACLU mengajukan laporan hukum untuk mendukung posisi gereja. Pengadilan memutuskan mendukung gereja.)
Dan begitu sebuah pernyataan hukum muncul—entah itu plakat protes atau deepfake kejam yang Anda buat tentang tetangga Anda—Amandemen Pertama Yurisprudensi menetapkan batasan ketat mengenai kapan, dan mengapa, pemerintah dapat bertindak untuk menyembunyikannya dari pandangan orang lain. “Bayangkan sebuah dunia di mana pemerintah tidak membatasi siapa yang dapat berbicara tetapi membatasi siapa yang dapat mendengarkan,” kata Cody Venzke dari Departemen Advokasi Politik Nasional ACLU. “Kedua hak tersebut harus ada bersamaan.” Gagasan ini terkadang disebut sebagai “hak untuk mendengarkan.”
Berdasarkan kriteria ini, banyak undang-undang dan peraturan AI yang telah menerima dukungan bipartisan di seluruh negeri tidak memenuhi persyaratan konstitusional. Dan jumlahnya banyak.
Musim panas lalu, Komisi Pemilihan Umum Federal mulai mempertimbangkan apakah aturan yang ada tentang misrepresentasi yang menipu berlaku untuk “iklan kampanye Kecerdasan Buatan yang sengaja menipu.” ACLU, dalam surat kepada FEC, memperingatkan bahwa aturan tersebut harus dibatasi secara ketat pada deepfake yang pembuatnya memiliki niat yang jelas untuk menipu publik, bukan deepfake yang dapat menipu beberapa pemirsa. (FEC belum memberikan keputusan.)
Sementara itu, pada bulan Oktober 2023, Presiden Biden menandatangani perintah eksekutif yang luas tentang AIyang mencakup arahan kepada Departemen Perdagangan untuk mengembangkan standar untuk memberi tanda air pada keluaran AI. “Setiap orang berhak mengetahui kapan audio yang mereka dengar atau video yang mereka tonton dibuat atau diubah oleh AI,” kata Biden. ACLU dan kelompok kebebasan sipil lainnya sangat waspada terhadap gagasan pelabelan, karena mungkin tidak efektif—aktor jahat dapat menemukan solusi teknis—dan karena memaksa orang untuk menggunakan ucapan yang seharusnya tidak mereka ucapkan. Secara analogi, mewajibkan semua deep fake untuk diberi label akan seperti mewajibkan semua komedian untuk berteriak, “Ini parodi!” sebelum melontarkan tiruan seorang politisi.
Di tingkat negara bagian, bahkan ada lebih banyak aktivitas legislatif. Pada bulan Januari tahun ini saja, legislator negara bagian memperkenalkan 101 RUU terkait deepfake, menurut BSA, sebuah kelompok perdagangan perangkat lunak. Salah satu RUU tersebut, yang diperkenalkan di Georgia, akan menjadikan tindakan membuat atau membagikan deepfake dengan maksud memengaruhi pemilihan umum sebagai tindak pidana. Hal ini membuat para litigator dan advokat di afiliasi ACLU negara bagian menghadapi pilihan yang sulit.
“ACLU Georgia, secara historis, merupakan pendukung hak pemilih yang sangat besar,” kata Sarah Hunt-Blackwell, seorang advokat kebijakan Amandemen Pertama untuk organisasi tersebut, kepada saya. Beberapa hari sebelum RUU tersebut mencapai tahap pembahasan, para pemilih utama di New Hampshire telah menerima telepon yang berisi suara Joe Biden yang dipalsukan dan mendesak mereka untuk tidak pergi ke tempat pemungutan suara. Hal itu “sangat mengkhawatirkan,” kata Hunt-Blackwell.
Namun tim tersebut akhirnya memutuskan, setelah berkonsultasi dengan kantor ACLU nasional, bahwa menyensor dan mengkriminalisasi ujaran politik yang tidak benar akan menjadi ancaman yang lebih besar. Sementara organisasi tersebut mendukung aturan yang lebih sempit terhadap disinformasi tentang tanggal, tempat, dan waktu pemilihan umum, yang dianggap sebagai bentuk penekanan pemilih, ia berpendapat bahwa warga negara memiliki hak konstitusional untuk menggunakan AI untuk menyebarkan kebohongan, seperti halnya mereka berbohong di atas kertas atau dalam komentar dari podium pada rapat umum politik. “Politik selalu berisi kebohongan,” kata seorang staf senior ACLU kepada saya.
Pada tanggal 29 Januari, dalam kesaksian Di hadapan Komite Kehakiman Senat Georgia, Hunt-Blackwell mendesak para legislator untuk membatalkan hukuman pidana dalam RUU tersebut dan menambahkan pengecualian bagi organisasi media berita yang ingin menerbitkan ulang deepfake sebagai bagian dari pelaporan mereka. Sidang legislatif Georgia berakhir sebelum RUU tersebut dapat dilanjutkan.
Undang-undang federal tentang deepfake juga akan menghadapi perlawanan. Pada bulan Januari, anggota Kongres memperkenalkan Undang-Undang No AI FRAUD, yang akan memberikan hak milik atas rupa dan suara orang. Ini akan memungkinkan mereka yang digambarkan dalam semua jenis deepfake, serta ahli waris mereka, untuk menuntut mereka yang mengambil bagian dalam pembuatan atau penyebaran pemalsuan tersebut. Aturan tersebut dimaksudkan untuk melindungi orang dari deepfake pornografi dan peniruan artistik. Beberapa minggu kemudian, ACLU, Electronic Frontier Foundation, dan Center for Democracy and Technology mengajukan penolakan tertulis.
Bersama beberapa kelompok lain, mereka berpendapat bahwa undang-undang tersebut dapat digunakan untuk menekan lebih dari sekadar ujaran ilegal. Prospek menghadapi gugatan hukum, menurut surat itu, dapat membuat orang takut menggunakan teknologi untuk tindakan yang dilindungi undang-undang seperti satir, parodi, atau opini.
Dalam pernyataan kepada WIRED, sponsor RUU tersebut, Perwakilan María Elvira Salazar, mencatat bahwa “Undang-Undang Anti-Penipuan AI memuat pengakuan eksplisit atas perlindungan Amandemen Pertama untuk ucapan dan ekspresi demi kepentingan publik.” Perwakilan Yvette Clarke, yang telah mensponsori RUU paralel yang mengharuskan deepfake yang menggambarkan orang sungguhan diberi label, mengatakan kepada WIRED bahwa RUU tersebut telah diamandemen untuk menyertakan pengecualian untuk satir dan parodi.
Dalam wawancara dengan WIRED, para advokat kebijakan dan litigator di ACLU menyatakan bahwa mereka tidak menentang peraturan yang dirancang khusus untuk pornografi deepfake nonkonsensual. Namun, mereka menunjuk undang-undang antipelecehan yang ada sebagai kerangka kerja yang kokoh untuk mengatasi masalah tersebut. “Tentu saja mungkin ada masalah yang tidak dapat Anda atur dengan undang-undang yang ada,” kata Jenna Leventoff, penasihat kebijakan senior ACLU, kepada saya. “Namun, menurut saya, aturan umumnya adalah bahwa undang-undang yang ada sudah cukup untuk mengatasi banyak masalah ini.”
Namun, pandangan ini masih jauh dari konsensus di antara para ahli hukum. Seperti yang dikatakan Mary Anne Franks, seorang profesor hukum di Universitas George Washington dan pendukung utama aturan anti-deepfake yang ketat, kepada WIRED melalui email, “Kelemahan yang jelas dalam argumen ‘Kita sudah punya undang-undang untuk menangani hal ini’ adalah bahwa jika ini benar, kita tidak akan menyaksikan ledakan pelecehan ini tanpa peningkatan yang sesuai dalam pengajuan tuntutan pidana.” Secara umum, kata Franks, jaksa penuntut dalam kasus pelecehan harus menunjukkan tanpa keraguan yang wajar bahwa pelaku yang dituduh bermaksud untuk menyakiti korban tertentu—standar yang tinggi untuk dipenuhi ketika pelaku itu mungkin bahkan tidak mengenal korban.
Franks menambahkan: “Salah satu tema yang konsisten dari para korban yang mengalami pelecehan ini adalah bahwa tidak ada solusi hukum yang jelas bagi mereka—dan merekalah yang akan mengetahuinya.”
ACLU memiliki belum menggugat pemerintah mana pun atas regulasi AI generatif. Perwakilan organisasi tersebut tidak mau mengatakan apakah mereka sedang mempersiapkan kasus, tetapi kantor nasional dan beberapa afiliasi mengatakan bahwa mereka mengawasi dengan saksama alur legislatif. Leventoff meyakinkan saya, “Kami cenderung bertindak cepat saat sesuatu muncul.”
ACLU dan kelompok lain tidak menyangkal kengerian penyalahgunaan AI generatif, mulai dari misinformasi politik hingga deepfake pornografi hingga perampasan karya seniman. Inti dari campur tangan dalam kasus-kasus seperti itu bukanlah untuk mendukung konten yang menyinggung. Seperti yang dikatakan Hauss, “Kami memang mewakili sejumlah besar ujaran yang tidak kami setujui.” Sebaliknya, tujuannya adalah untuk mencegah apa yang dilihat kelompok-kelompok ini sebagai penyimpangan konstitusional yang berbahaya. “Jika Anda memiliki rezim hukum yang mengatakan pemerintah dapat menekan deepfake,” kata Hauss, “salah satu pertanyaan pertama yang ada di benak setiap orang adalah, bagaimana pejabat pemerintah yang otoriter menggunakan otoritas tersebut untuk menekan ucapan yang sebenarnya tentang orang tersebut?”
Tahun lalu, ACLU dan sejumlah kelompok hak sipil lainnya menandatangani surat dalam menentang RUU Senat bipartisan yang akan membuat platform media sosial bertanggung jawab untuk menghosting konten AI generatif, termasuk deepfake. Surat itu memperingatkan bahwa dengan melonggarkan peraturan yang melindungi perusahaan dari tanggung jawab atas konten yang mereka hosting, undang-undang tersebut akan menciptakan celah regulasi bagi negara bagian untuk menuntut perusahaan atas konten non-AI juga. Penulis surat itu mengutip RUU yang diperkenalkan tahun lalu di badan legislatif Texas yang akan menjadikannya kejahatan untuk menghosting “informasi tentang cara mendapatkan obat yang menginduksi aborsi” secara online. Jika kedua RUU ini, federal dan negara bagian, menjadi undang-undang, maka platform media sosial dapat dituntut karena menghosting konten terkait aborsi. Yang diperlukan hanyalah pengguna untuk memposting sesuatu dengan bantuan AI—tweet yang disusun dengan bantuan ChatGPT, gambar yang dibuat oleh DALL-E. Surat itu berpendapat bahwa bahkan alat “dasar dan umum” seperti pelengkapan otomatis dan koreksi otomatis mungkin sesuai dengan definisi RUU Senat tentang AI generatif.
Karena alasan yang sama, ACLU dan EFF telah lama bersikap skeptis terhadap perluasan apa yang disebut “hak publisitas,” yang telah diusulkan untuk melindungi seniman dari tiruan yang dihasilkan oleh AI. Kelompok-kelompok tersebut mengklaim bahwa hak-hak ini dapat digunakan oleh orang kaya dan berkuasa untuk menekan ujaran yang tidak mereka sukai. Di mana Sabtu Malam Langsung dilindungi secara hukum ketika salah satu pemerannya meniru Tom Cruise, siapa pun yang membuat deepfake Tom Cruise bisa , berdasarkan peraturan tersebut, akan rentan secara hukum. Hal itu akan menjadi preseden yang berbahaya, menurut kelompok kebebasan sipil. Pada bulan Maret, Tennessee memberlakukan undang-undang baru, Undang-Undang ELVIS, yang melarang penggunaan AI untuk meniru suara musisi. ACLU belum berkomentar secara terbuka tentang undang-undang tersebut, tetapi staf yang berbicara kepada WIRED menyatakan skeptisisme bahwa penggunaan konten kreatif untuk melatih sistem seperti ChatGPT atau Dall-E merupakan pelanggaran hak cipta.
ACLU memiliki sejarah panjang dalam memenangkan pidato bebas kasus. Tantangan mereka terhadap regulasi AI generatif dapat menghancurkan harapan akan dunia di mana AI yang merajalela dikendalikan oleh hukum saja. Beberapa pengacara hak sipil yang saya ajak bicara menyarankan bahwa pendidikan yang lebih kuat dan literasi media akan menjadi pertahanan yang lebih baik terhadap pemalsuan AI daripada pembuat undang-undang dan hakim. Tetapi apakah itu cukup?
Sebagai sebuah masyarakat, kita selalu harus menerima sejumlah ujaran yang tidak menyenangkan, tidak terlalu berguna, terkadang menyakitkan untuk menjamin perlindungan terhadap ujaran yang memajukan tujuan keterbukaan dan demokrasi. Namun, teknologi baru ujaran palsu begitu meluas, dan algoritme yang menampilkan konten di layar kita dioptimalkan dengan sangat ketat untuk hal-hal yang ekstrem dan merusak, sehingga beberapa orang mulai bertanya-tanya apakah memberikan perlindungan yang sama persis pada ujaran AI seperti pada ujaran manusia akan lebih banyak menimbulkan kerugian daripada manfaatnya. “Kita menderita masalah yang berbeda dari sebelumnya,” kata Mary Anne Franks, profesor hukum Universitas George Washington, kepada saya.
Meski demikian, ini masih awal. Ada kemungkinan bahwa kelompok advokasi dan regulator dapat menemukan cara untuk kembali ke kompromi yang tidak mudah tetapi pada akhirnya dapat dilaksanakan yang selalu menjadi ciri yurisprudensi kebebasan berbicara. Namun, yang terburuk, pertikaian yang membayangi dapat memaksa pilihan antara dua kenyataan yang tidak mengenakkan. Di bawah pembacaan absolutis Amandemen Pertama, kita mungkin dikutuk untuk berdiri diam di hadapan padanan algoritmik dari protes Gereja Baptis Westboro di pemakaman seorang prajurit setiap kali kita online. Di sisi lain, menggambar ulang prinsip-prinsip kebebasan berbicara—bahkan secara marjinal—dapat memberi pemerintah masa depan kekuatan yang sebelumnya tidak terpikirkan: untuk memutuskan ucapan mana yang benar atau berharga, dan mana yang tidak.
Beri tahu kami pendapat Anda tentang artikel ini. Kirimkan surat kepada editor di alamat email:wired.com.
