Mantan Presiden Donald Trump mengunggah apa yang tampak seperti serangkaian gambar hasil rekayasa AI selama akhir pekan untuk menggalang dukungan bagi pencalonannya sebagai presiden, termasuk dukungan palsu dari bintang pop Taylor Swift.
Postingan tersebut menunjukkan bagaimana Trump dapat menggunakan AI generatif dengan cara yang membingungkan upaya untuk mengawasi disinformasi pemilu yang diciptakan oleh AI, sebagian berkat preseden hukum yang sudah ada sejak lama. memperbolehkan kandidat berbohong dalam iklan politikMereka muncul setelah Trump secara keliru menuduh lawannya, Wakil Presiden Kamala Harris, penggunaan AI untuk membangkitkan massa yang berunjuk rasa.
Gambar-gambar yang diunggah Trump termasuk seseorang yang tampak menyerupai Harris dari belakang saat berbicara di hadapan khalayak di Chicago, tempat Konvensi Nasional Demokrat minggu ini, dengan palu dan arit komunis mendominasi latar belakang.
Postingan lainnya termasuk tangkapan layar dari postingan pengguna lain menggambarkan gambar “Swifties for Trump,” bersama dengan apa yang tampaknya paling jelas merupakan gambar Taylor Swift yang dibuat oleh AI dengan mengenakan kostum Paman Sam dan kata-kata, “Taylor ingin Anda memilih Donald Trump.” Di samping kompilasi tangkapan layar (hanya satu yang diberi label satir), Trump menulis, “Saya terima!”
Postingan Trump kemungkinan tidak akan dicakup oleh daftar undang-undang negara bagian yang melarang deepfake pemilu, kata Robert Weissman, wakil presiden Public Citizen. Sementara sekitar 20 negara bagian telah memberlakukan peraturan seputar penggunaan gambar palsu yang dihasilkan AI dalam pemilihan umum, mereka biasanya melarang penggambaran seseorang yang melakukan atau mengatakan sesuatu dengan cara yang meyakinkan. “Jadi bukan hanya deepfake yang dibuat dengan baik atau aplikasi AI generatif yang dibuat dengan baik, tetapi juga harus benar-benar masuk akal,” kata Weissman.
Sementara itu, dalam hal disinformasi pemilu, “tidak ada pembatasan federal terhadap penggunaan deepfake,” kata Weissman, mencatat pengecualian terhadap peraturan Komisi Komunikasi Federal larangan robocall yang menggunakan suara yang dihasilkan AIKelompok advokasi konsumen nirlaba telah mencoba untuk mendapatkan Komisi Pemilihan Umum Federal untuk membatasi kemampuan kandidat untuk salah menggambarkan lawan mereka dengan AI, tetapi aturannya kemungkinan tidak akan mencakup sesuatu yang jelas-jelas dibesar-besarkan seperti gambar Harris atau sesuatu yang tidak menggambarkan kandidat lawan, dalam kasus gambar Swift.
Namun, Weissman berpendapat, Swift mungkin memiliki klaim atas penggunaan kemiripannya untuk mengeluarkan dukungan palsu, mungkin di bawah Hak Publisitas Californiamelindungi penggunaan kemiripan seseorang. Universal Music Group, yang mewakili Swift, tidak segera menanggapi permintaan komentar tentang penggunaan fotonya dalam unggahan Trump. Tim kampanye Trump juga tidak segera menanggapi.
Pengadilan telah berulang kali menetapkan bahwa Amandemen Pertama harus sering melindungi kebohongan yang disengaja sekalipuntermasuk oleh kandidat politik. Jika Kongres meloloskan peraturan seputar deepfake AI, itu tidak akan menghentikan banyak penggunaan deepfake. Weissman mengatakan lawan yang dirugikan perlu menunjukkan kebohongan yang menyebabkan kerugian atau cedera pada pemilih, misalnya, untuk menjadikannya ilegal. “Saya tidak berpikir bahwa solusi legislatif kita akan sempurna, bahkan jika kita mendapatkan apa yang kita inginkan,” katanya.
Platform swasta tentu saja dapat mengambil tindakan terhadap konten AI generatif yang menyesatkan tanpa campur tangan pemerintah. kebijakan media sintetis dan dimanipulasi melarang postingan seperti itu “yang dapat menipu atau membingungkan orang dan menyebabkan kerugian.” Namun platform tersebut tampaknya secara selektif menegakkan aturan tersebut, bahkan pemilik, Elon Musk, tampaknya melanggarnya dengan memposting deepfake Harris yang tidak diberi label parodi dengan jelas. Tempat pilihan Trump lainnya, platform miliknya sendiri Truth Social, telah aturan minimal dalam pedoman komunitasnya.
“Sangat menguntungkan bagi Trump, yang berkeliling menyebut segala sesuatu palsu sebelum AI, dan ingin kita menyebut hal-hal yang benar sebagai palsu — seperti kelompok Harris — untuk menyebarkan sampah AI guna merusak gagasan tentang keaslian, dan bahkan realitas dalam beberapa hal,” kata Weissman. “Sangat sulit untuk memiliki masyarakat yang demokratis jika orang-orang tidak dapat mempercayai hal-hal yang mereka lihat dan dengar dengan mata kepala mereka sendiri.”
