YouTube berupaya meningkatkan tindakan pencegahannya terhadap deepfake AI, melalui proses deteksi baru yang dapat memberi tahu pembuat konten, dan/atau penerbitnya, setiap kali wajah atau suara mereka digunakan dalam klip lain.
Deepfake telah menjadi perhatian utama dalam era AI generatif yang sedang berkembang, dengan berbagai seniman Dan politisi sudah digambarkan oleh replikan yang dihasilkan komputer.
Dan kini, YouTube mengembangkan deteksinya di kedua sisi, guna menghindari kesalahan penyajian dan misinformasi dalam aplikasi.
Pertama-tama, YouTube mengembangkan “teknologi identifikasi nyanyian sintetis” baru yang akan memungkinkan kreator dan penerbit untuk secara otomatis mendeteksi dan mengelola konten yang dihasilkan AI di YouTube “yang mensimulasikan suara nyanyian mereka”.
Teknologi ini akan menggunakan pencocokan audio untuk menyoroti kemungkinan palsu dan salinan, yang akan memungkinkan seniman dan penerbit mengelola penggambaran palsu apa pun atas karya mereka dengan lebih baik.
Yang pasti akan disambut baik oleh para pelaku industri musik. Sebagian besar penerbit musik kini memiliki departemen penuh waktu yang didedikasikan untuk menelusuri web guna mengawasi pelanggaran hak cipta, dalam berbagai bentuk, dan kemajuan baru ini akan memberi mereka senjata lain dalam perjuangan ini.
YouTube juga mengembangkan alat baru yang mampu mendeteksi dan mengelola konten buatan AI yang menggambarkan wajah orang sungguhan.
Itu akan memberikan agen bakat dan selebriti alat deteksi yang sama dengan penerbit musik, yang memungkinkan mereka untuk menindak penggunaan klien mereka secara ilegal, sementara partai politik juga akan memperhatikan opsi baru ini.
Kedua kemampuan baru ini akan memperluas alat perlindungan hak cipta YouTube yang sudah ada, yang sudah banyak digunakan.
Sesuai dengan Youtube:
“Sejak tahun 2007, Content ID telah memberikan kontrol terperinci kepada pemegang hak atas seluruh katalog mereka di YouTube, dengan miliaran klaim yang diproses setiap tahun, sementara pada saat yang sama menghasilkan miliaran dalam pendapatan baru bagi seniman dan kreator melalui penggunaan kembali karya mereka. Kami berkomitmen untuk menghadirkan tingkat perlindungan dan pemberdayaan yang sama ke era AI.” “
Seperti yang diketahui para kreator YouTube, copystrike semakin membatasi dari waktu ke waktu, tetapi hal itu memberi pemegang hak lebih banyak kapasitas untuk mengelola kemiripan klien mereka, yang juga semakin mendekatkan YouTube dengan industri penerbitan.
Selain itu, YouTube juga ingin memberi kreator kontrol lebih besar atas bagaimana konten mereka dapat digunakan oleh pihak ketiga, termasuk pengembang AI, dengan izin penggunaan lanjutan. YouTube mengatakan bahwa saat ini mereka sedang mengerjakan proses baru ini, dan akan membagikan informasi lebih lanjut akhir tahun ini.
Ini adalah pembaruan yang bagus, yang juga kemungkinan akan menjadi norma industri, dengan semua platform akhirnya mengadopsi proses baru untuk mendeteksi penggambaran AI dari orang sungguhan di seluruh aplikasi mereka. Itu akan memfasilitasi kontrol yang lebih besar, dan membantu memberantas penyalahgunaan, dan idealnya, alat-alat ini akan mampu menghentikan penyebarannya sebelum menyesatkan pengguna.
