Metode terbaik yang kami miliki saat ini untuk mendeteksi dan memberi label deepfake online akan segera dilakukan stress test. India mengumumkan mandat pada hari Selasa yang mengharuskan platform media sosial untuk menghapus materi ilegal yang dihasilkan oleh AI dengan lebih cepat, dan memastikan bahwa semua konten sintetis diberi label dengan jelas. Perusahaan-perusahaan teknologi telah mengatakan selama bertahun-tahun bahwa mereka ingin mencapai hal ini sendiri, dan sekarang mereka hanya punya waktu beberapa hari sebelum mereka diwajibkan secara hukum untuk menerapkannya. Aturan tersebut mulai berlaku pada 20 Februari.
India memiliki 1 miliar pengguna internet yang cenderung berusia muda, menjadikannya salah satu pasar dengan pertumbuhan paling penting bagi platform sosial. Jadi, kewajiban apa pun yang ada di dalamnya dapat berdampak pada upaya moderasi deepfake di seluruh dunia – baik dengan meningkatkan deteksi hingga mencapai titik di mana hal tersebut dapat terjadi Sebenarnya berhasil, atau memaksa perusahaan teknologi untuk mengakui bahwa solusi baru diperlukan.
Berdasarkan perubahan Peraturan Teknologi Informasi di India, platform digital akan diwajibkan untuk menerapkan “langkah-langkah teknis yang masuk akal dan tepat” untuk mencegah penggunanya membuat atau membagikan konten audio dan visual ilegal yang dihasilkan secara sintetis, alias deepfake. Konten AI generatif apa pun yang tidak diblokir harus disematkan dengan “metadata permanen atau mekanisme asal teknis lain yang sesuai.” Kewajiban khusus juga diwajibkan bagi platform media sosial, seperti mewajibkan pengguna untuk mengungkapkan materi yang dibuat atau diedit oleh AI, menggunakan alat yang dapat memverifikasi pengungkapan tersebut, dan secara jelas memberi label pada konten AI dengan cara yang memungkinkan orang untuk segera mengidentifikasi bahwa konten tersebut sintetis, seperti menambahkan pengungkapan verbal pada audio AI.
Itu lebih mudah diucapkan daripada dilakukan, mengingat caranya sayangnya terbelakang Sistem deteksi dan pelabelan AI saat ini. C2PA (juga dikenal sebagai kredensial konten) adalah salah satu sistem terbaik yang kami miliki saat ini untuk keduanya, dan bekerja dengan melampirkan metadata terperinci pada gambar, video, dan audio pada saat pembuatan atau pengeditan, untuk menjelaskan cara pembuatan atau perubahannya tanpa terlihat.
Tapi ada satu hal: Meta, Google, Microsoft, dan banyak raksasa teknologi lainnya sudah menggunakan C2PA, dan itu jelas tidak berfungsi. Beberapa platform seperti Facebook, Instagram, YouTube, dan LinkedIn menambahkan label pada konten yang ditandai oleh sistem C2PA, namun label tersebut sulit dikenali, dan beberapa konten sintetis tidak dapat dikenali. sebaiknya membawa metadata itu lolos dari celah. Platform media sosial tidak boleh memberi label apa pun yang tidak menyertakan metadata asal, seperti materi yang dihasilkan oleh model AI sumber terbuka atau yang disebut “aplikasi nudifikasi” yang menolak untuk menerima standar C2PA sukarela.
India memiliki lebih dari 500 juta pengguna media sosial, menurut penelitian DataReportal yang dibagikan oleh Reuters. Jika dirinci, jumlahnya mencapai 500 juta pengguna YouTube, 481 juta pengguna Instagram, 403 juta pengguna Facebook, dan 213 juta pengguna Snapchat. Ini juga diperkirakan menjadi pasar terbesar ketiga bagi X.
Interoperabilitas adalah salah satu masalah terbesar C2PA, dan meskipun peraturan baru di India mungkin mendorong adopsi, metadata C2PA masih jauh dari permanen. Sangat mudah untuk menghapusnya sehingga beberapa platform online mungkin secara tidak sengaja menghapusnya saat file diunggah. Aturan baru memesan platform bukan untuk mengizinkan metadata atau label diubah, disembunyikan, atau dihapus, namun tidak ada banyak waktu untuk memikirkan cara mematuhinya. Platform media sosial seperti X yang belum menerapkan sistem pelabelan AI sama sekali kini hanya punya waktu sembilan hari untuk menerapkannya.
Meta, Google, dan X tidak menanggapi permintaan komentar kami. Adobe, kekuatan pendorong di balik standar C2PA, juga tidak merespons.
Yang menambah tekanan di India adalah mandat agar perusahaan media sosial menghapus materi yang melanggar hukum dalam waktu tiga jam setelah ditemukan atau dilaporkan, menggantikan tenggat waktu 36 jam yang ada. Hal ini juga berlaku untuk deepfake dan konten AI berbahaya lainnya.
Internet Freedom Foundation (IFF) memperingatkan bahwa perubahan yang diterapkan ini berisiko memaksa platform menjadi “sensor api cepat.” “Jadwal yang sangat singkat ini menghilangkan tinjauan manusia yang berarti, memaksa platform melakukan penghapusan berlebihan secara otomatis,” demikian kata IFF dalam sebuah pernyataan.
Mengingat amandemen tersebut menentukan mekanisme asal yang harus diterapkan sejauh “sejauh memungkinkan secara teknis”, para pejabat di balik perintah India mungkin menyadari bahwa teknologi deteksi dan pelabelan AI yang ada saat ini belum siap. Organisasi-organisasi yang mendukung C2PA telah lama bersumpah bahwa sistem ini akan berhasil jika cukup banyak orang yang menggunakannya, jadi ini adalah kesempatan untuk membuktikannya.
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
