Ini Langkah Mundurbuletin mingguan yang menguraikan satu cerita penting dari dunia teknologi. Untuk informasi lebih lanjut tentang masalah hukum AI, ikuti Adi Robertson. Langkah Mundur tiba di kotak masuk pelanggan kami pada pukul 8 pagi ET. Ikut serta Langkah Mundur Di Sini.
Bagaimana hal itu dimulai
Lagu itu berjudul Heart on My Sleeve, dan jika Anda belum tahu, Anda mungkin mengira Anda sedang mendengarkan Drake. Jika kamu telah melakukan Tahukah Anda, Anda sedang mendengar tanda awal dari pertarungan hukum dan budaya yang baru: pertarungan mengenai bagaimana layanan AI harus dapat menggunakan wajah dan suara masyarakat, dan bagaimana platform harus meresponsnya.
Pada tahun 2023, lagu Drake palsu yang dibuat oleh AI “Heart on My Sleeve” adalah hal baru; Meski begitu, permasalahan yang dihadirkannya sudah jelas. Lagu yang meniru artis besar membuat para musisi terguncang. Layanan streaming menghapusnya karena alasan teknis hukum hak cipta. Tapi penciptanya tidak membuat arahan menyalin apa pun — hanya tiruan yang sangat mirip. Jadi perhatian segera beralih ke bidang hukum persamaan yang terpisah. Ini adalah bidang yang dulunya identik dengan selebriti yang mengincar dukungan dan parodi yang tidak sah, dan seiring dengan menjamurnya deepfake audio dan video, hal ini terasa seperti salah satu dari sedikit alat yang tersedia untuk mengaturnya.
Berbeda dengan hak cipta, yang diatur oleh Digital Millennium Copyright Act dan berbagai perjanjian internasional, tidak ada undang-undang federal yang mengatur kemiripan. Ini adalah gabungan dari berbagai undang-undang negara bagian, tidak ada satupun yang awalnya dirancang dengan mempertimbangkan AI. Namun dalam beberapa tahun terakhir terdapat banyak upaya untuk mengubah hal tersebut. Pada tahun 2024, Gubernur Tennessee Bill Lee Dan Gubernur California Gavin Newsom – kedua negara bagian tersebut sangat bergantung pada industri medianya – menandatangani undang-undang yang memperluas perlindungan terhadap replika penghibur yang tidak sah.
Namun hukum diperkirakan bergerak lebih lambat dibandingkan teknologi. Bulan lalu OpenAI meluncurkan Sora, sebuah platform pembuatan video AI yang ditujukan khusus untuk menangkap dan membuat ulang kemiripan orang-orang nyata. Hal ini membuka pintu bagi aliran deepfake yang sering kali sangat realistis, termasuk orang-orang yang tidak menyetujui pembuatannya. OpenAI dan perusahaan lain meresponsnya dengan menerapkan kebijakan serupa yang mereka miliki — yang, jika tidak ada kebijakan lain, dapat berubah menjadi aturan baru di internet.
Bagaimana kabarnya
OpenAI punya menyangkal hal itu sembrono meluncurkan Sora, dengan CEO Sam Altman mengklaim bahwa itu “terlalu membatasi” dengan pagar pembatas. Namun layanan ini masih menimbulkan banyak keluhan. Ini diluncurkan dengan pembatasan minimal pada kemiripan tokoh sejarah, hanya untuk arah sebaliknya setelah pihak keluarga Martin Luther King Jr. mengeluhkan “penggambaran tidak sopan” terhadap pemimpin hak-hak sipil yang dibunuh memuntahkan rasisme atau melakukan kejahatan. Mereka menggembar-gemborkan pembatasan hati-hati terhadap penggunaan tanpa izin atas kemiripan orang hidup, namun pengguna menemukan cara untuk menyiasatinya dengan memasukkan selebriti seperti Bryan Cranston ke dalam video Sora dengan melakukan hal-hal seperti mengambil selfie dengan Michael Jackson, mengarah ke keluhan dari SAG-AFTRA yang mendorong OpenAI untuk memperkuat pagar pembatas dengan cara yang tidak ditentukan di sana juga.
Bahkan beberapa orang yang telah melakukan mengizinkan akting cemerlang Sora (istilahnya untuk video yang menggunakan kemiripan seseorang) tidak tenang dengan hasilnya, termasuk, bagi wanita, semua jenis keluaran fetish. Altman mengatakan dia tidak menyadari bahwa orang mungkin akan menyadarinya perasaan “di antara”. tentang kesamaan yang sah, seperti tidak ingin tampil sebagai cameo di depan umum “untuk mengatakan hal-hal yang menyinggung atau hal-hal yang mereka anggap sangat bermasalah.”
Sora telah mengatasi masalah dengan perubahan seperti perubahan pada kebijakan tokoh sejarah, tapi ini bukan satu-satunya layanan video AI, dan segalanya menjadi — secara umum — sangat aneh. Kecerobohan AI telah menjadi keharusan bagi pemerintahan Presiden Donald Trump dan beberapa politisi lainnya, termasuk penggambaran musuh-musuh politik tertentu yang kasar atau rasis: Trump menanggapi protes No Kings minggu lalu dengan sebuah video yang menunjukkan dia menjelek-jelekkan seseorang yang mirip dengan influencer liberal Harry Sissonsaat calon walikota New York City Andrew Cuomo memposting (dan dengan cepat menghapus) video “penjahat Zohran Mamdani” yang menunjukkan lawannya dari Partai Demokrat melahap segenggam beras. Sebagai Kat Tenbarge mencatatnya Berita Spitfire awal bulan ini, video AI juga menjadi amunisi dalam drama influencer.
Potensi ancaman tindakan hukum terhadap video yang tidak sah hampir selalu ada, seperti yang disukai para selebriti Scarlett Johansson telah menjadi pengacara berlebihan dalam menggunakan kemiripannya. Namun berbeda dengan tuduhan pelanggaran hak cipta AI yang selama ini muncul banyak tuntutan hukum tingkat tinggi Dan musyawarah yang hampir konstan di dalam badan pengatur, hanya sedikit insiden serupa yang mencapai tingkat tersebut – mungkin sebagian karena kondisi hukum yang masih berubah-ubah.
Apa yang terjadi selanjutnya
Ketika SAG-AFTRA berterima kasih kepada OpenAI karena telah mengubah batasan Sora, SAG-AFTRA menggunakan kesempatan tersebut untuk mempromosikan Nurture Originals, Foster Art, dan Keep Entertainment Safe (NO FAKES), upaya bertahun-tahun untuk menyusun perlindungan terhadap “replikasi digital yang tidak sah.” Itu TIDAK ADA UU PALSUyang juga mendapat dukungan dari YouTube, memperkenalkan hak nasional untuk mengontrol penggunaan “representasi elektronik yang sangat realistis dan dihasilkan komputer” dari suara atau kemiripan visual orang hidup atau mati. Hal ini mencakup tanggung jawab atas layanan online yang dengan sengaja mengizinkan replika digital yang tidak sah juga.
UU NO FAKES telah menuai kritik keras dari kelompok kebebasan berpendapat online. EFF menjulukinya mandat “infrastruktur sensor baru” yang memaksa platform untuk menyaring konten secara luas sehingga hampir pasti akan mengarah pada penghapusan yang tidak disengaja dan “veto heckler” online. RUU tersebut mencakup potongan parodi, sindiran, dan komentar yang seharusnya diizinkan bahkan tanpa izin, namun hal tersebut akan menjadi “penghiburan bagi mereka yang tidak mampu mengajukan pertanyaan tersebut,” organisasi tersebut memperingatkan.
Para penentang UU NO FAKES dapat merasa terhibur dengan betapa sedikitnya undang-undang yang berhasil disahkan oleh Kongres saat ini — kita saat ini sedang menjalani masa sulit. penutupan pemerintah federal terlama kedua dalam sejarahdan bahkan ada dorongan terpisah untuk memblokir peraturan AI negara bagian yang dapat membatalkan hukum kemiripan yang baru. Namun secara pragmatis, aturan kemiripan masih muncul. Awal pekan ini YouTube mengumumkan akan mengizinkan pembuat Program Mitra mencari unggahan yang tidak sah menggunakan kemiripannya dan meminta penghapusannya. Langkah ini memperluas kebijakan yang ada, antara lain, membiarkan mitra industri musik mencatatnya konten yang “meniru suara unik nyanyian atau rap artis”.
Dan selama ini, norma-norma sosial masih terus berkembang. Kita memasuki dunia di mana Anda dapat dengan mudah membuat video tentang hampir semua orang yang melakukan hampir semua hal — namun kapan sebaiknya Anda? Dalam banyak kasus, ekspektasi tersebut masih diperebutkan.
Omong-omong:
- Sebagian besar percakapan baru-baru ini adalah tentang video AI tentang orang-orang yang melakukan hal-hal aneh atau konyol, tetapi secara historis, penelitian menunjukkan hal tersebut sebagian besar deepfake adalah gambar-gambar porno perempuan, sering kali dibuat tanpa persetujuan. Selain Sora, ada percakapan berbeda tentang hal-hal seperti itu keluaran dari layanan nudify AIdan itu masalah hukum serupa dengan yang berkaitan dengan lainnya gambaran seksual nonkonsensual.
- Selain permasalahan dasar hukum mengenai kapan suatu video tidak boleh memiliki izin, ada juga pertanyaan seperti kapan suatu video dapat dianggap mencemarkan nama baik (jika cukup realistis) atau melecehkan (jika itu bagian dari pola penguntitan dan ancaman yang lebih besar), yang dapat membuat situasi individu menjadi lebih rumit.
- Platform sosial biasanya dilindungi dari tanggung jawab melalui Pasal 230, yang menyatakan bahwa mereka tidak dapat diperlakukan sebagai penerbit atau pembicara konten pihak ketiga. Karena semakin banyak layanan yang mengambil langkah aktif dalam membantu pengguna menghasilkan konten, seberapa jauh Bagian 230 akan melindungi gambar dan video yang dihasilkan sepertinya merupakan pertanyaan yang menarik.
- Meskipun ada ketakutan yang sudah lama ada bahwa AI akan membuat kita sulit membedakan khayalan dari kenyataan, seringkali kita masih bisa menggunakan konteks dan “memberi tahu” dengan mudah (mulai dari tik pengeditan tertentu hingga tanda air yang jelas) untuk mengetahui apakah suatu video dihasilkan oleh AI. Masalahnya adalah banyak orang tidak memperhatikannya dengan cermat atau tidak peduli apakah itu palsu.
Baca ini:
- milik Sarah Jeong peringatan tentang foto yang dimanipulasi secara mulus bahkan lebih relevan sekarang dibandingkan ketika dia menerbitkannya pada tahun 2024.
- Waktu New York memiliki tampilan yang komprehensif karena ketertarikan Trump terhadap konten yang dihasilkan AI.
- Analisis Max Read tentang Sora sebagai platform sosial dan apakah itu akan “berhasil.”
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
