Kami akan mencari tahu apakah sistem yang dirancang untuk membuat deepfake dan konten buatan AI mudah dikenali sebenarnya sudah siap untuk dimusnahkan. Kredensial Konten SynthID dan C2PA, dua teknologi berbeda untuk menandai file gambar, video, dan audio secara tidak terlihat dengan informasi tentang asal-usulnya, mendapatkan perluasan terbesar hingga saat ini, dan dengan itu, peluang untuk membalikkan keadaan melawan pemalsuan AI tanpa label yang menipu orang secara online.
Kemarin pada konferensi I/O, Google mengumumkan bahwa kemampuan untuk memverifikasi apakah gambar membawa penanda SynthID — sistem watermarking tak kasat mata yang diterapkan pada konten yang dihasilkan oleh model AI Google — adalah datang ke Chrome dan Penelusuran. Itu penting karena Chrome tentu saja mendominasi pangsa pasar global untuk browser web dan mesin pencari, sehingga alat verifikasi AI semakin banyak digunakan. Ini juga menyederhanakan proses pemeriksaan; jika saat ini Anda ingin memeriksa gambar untuk penanda SynthID, Anda diharapkan mengunggahnya ke aplikasi Gemini.
Tidak hanya itu, tetapi antarmuka verifikasi Google sekarang juga akan melakukannya Juga periksa apakah file ini berisi informasi C2PA — metadata asal yang disematkan ke dalam konten pada saat pembuatan untuk memberi tahu kami cara pembuatan atau manipulasinya dan apakah alat AI digunakan selama proses tersebut. Adopsi C2PA ini memungkinkan pengguna untuk memeriksa gambar mencurigakan dari satu antarmuka alih-alih beralih antara aplikasi Gemini dan portal verifikasi C2PA khusus karena file mungkin hanya memiliki satu jenis label atau tidak sama sekali.
Ini adalah upaya kolaboratif yang kami tunggu-tunggu. Meskipun kedua sistem bekerja secara berbeda, baik Google maupun Content Authenticity Initiative (yang hadir untuk mempromosikan standar C2PA) telah membuat klaim serupa tentang apa yang diperlukan agar keduanya dapat berfungsi: agar semua orang dapat ikut serta. Artinya, lebih banyak model AI yang perlu menyematkan data ini, dan platform online tempat pemalsuan AI paling sering dibagikan harus menampilkan informasi tersebut dengan jelas. Untuk yang terakhir, memiliki alat verifikasi yang terpasang di browser web dapat berfungsi sebagai solusi pada situs web yang tidak memeriksa atau menyajikan metadata AI kepada penggunanya.
OpenAI juga terlibat dalam perluasan ini, kemarin mengumumkan bahwa hal itu akan terjadi sekarang menyematkan SynthID menjadi gambar yang dihasilkan oleh ChatGPT, Codex, dan OpenAI API. Perusahaan sudah menyertakan metadata C2PA dalam konten yang dihasilkan, tapi saya menemukannya ini sering kali dihilangkan ketika diposting ke platform lain. OpenAI sendiri juga ingin mengurangi ekspektasi terhadap C2PA, meskipun menjadi anggota pengarah C2PA dan kini menegaskan kembali komitmennya terhadap standar tersebut. Inilah yang dikatakan OpenAI halaman bantuan C2PA-nyasebelum itu terjadi diperbarui untuk menyertakan SynthID Kemarin:
“Metadata seperti C2PA bukanlah obat mujarab untuk mengatasi masalah asal usulnya. Metadata dapat dengan mudah terhapus baik secara tidak sengaja maupun sengaja. Misalnya, sebagian besar platform media sosial saat ini menghapus metadata dari gambar yang diunggah, dan tindakan seperti mengambil tangkapan layar juga dapat menghapusnya. Oleh karena itu, gambar yang tidak memiliki metadata ini mungkin dihasilkan atau tidak dengan ChatGPT atau API kami.”
Untuk sesuatu yang dianggap sebagai teknologi keaslian konten terbaik, kedengarannya sangat lemah. Bahkan Google menggambarkan C2PA sebagai itu standar industri, dan itu sedang terjadi diajukan kepada pemerintah global sebagai solusi untuk memenuhi persyaratan transparansi dan pelabelan AI. Namun meski semakin meningkat diadopsi oleh penyedia AI, perangkat keras, dan perangkat lunaksaya jarang melihatnya berhasil digunakan untuk memverifikasi pemalsuan AI di alam liar. Jika dibandingkan dengan SynthID, SynthID tampaknya lebih kuat karena tidak dapat dengan mudah dihapuskan — mengingat betapa terbatasnya jangkauannya dibandingkan dengan C2PA, saya ingat beberapa contoh di mana pemeriksa fakta dan agensi media menyebutkan kegunaannya dalam membantah deepfake secara online.
Baik C2PA dan SynthID dapat bekerja sama untuk menciptakan jaring pengaman yang lebih luas. Industri ini bukanlah industri yang akan mendapatkan keuntungan dari perang standar verifikasi, namun Google memiliki peluang yang jelas di sini untuk membuktikan apakah sistemnya lebih dapat diandalkan dan mendapatkan perhatian dari C2PA. Untuk mencegah hal ini terjadi, C2PA perlu membuktikan bahwa C2PA benar-benar dapat digunakan untuk mengungkap asal mula konten yang kita lihat secara online.
Peluang seperti itu telah muncul: Google kemarin mengumumkan bahwa Meta akan mulai menggunakan metadata C2PA untuk menandai gambar di Instagram yang telah ditangkap oleh kamera. Meta belum menjawab pertanyaan kami tentang seperti apa tampilannya atau kamera apa yang akan didukung, meskipun saya berasumsi ini akan melibatkan label yang mengatakan sesuatu seperti “diambil di Pixel 10,” mirip dengan catatan “dikirim dari iPhone saya” yang diterapkan pada email. Hal ini secara efektif akan membantu pengguna Instagram untuk membedakan foto “asli” dari foto palsu AI yang meyakinkan, yang mencerminkan masa depan yang diprediksi oleh pimpinan Instagram Adam Mosseri mengenai perlunya menjauh “dari asumsi bahwa apa yang kita lihat adalah nyata secara default.”
Jika pelabelan berhasil, itu benar. Instagram telah memeriksa gambar untuk mengetahui informasi C2PA, dan upayanya untuk memberi label pada konten yang dihasilkan AI sebelumnya telah membuat platform tersebut terkena air panas setelahnya. menerapkan label AI pada gambar bahwa para fotografer bersikeras bahwa mereka mengambil foto mereka sendiri.
Saya juga tidak akan terburu-buru memuji Google atas kerja sama ini. Perusahaan ini mengajarkan pentingnya transparansi AI dan memerangi deepfake digital, sambil mengembangkan teknologi yang digunakan untuk menyesatkan orang. Perusahaan ini memposisikan dirinya sebagai pemasok sekaligus solusi. Saya dapat memaafkan jika SynthID membuat perbedaan nyata dalam perang melawan deepfake, namun saya tidak terlalu berharap mengingat skala masalahnya.
Kuat atau tidak, SynthID dan C2PA hanya dapat mendeteksi tanda air jika sudah ditambahkan terlebih dahulu, dan saya ragu banyak model sumber terbuka yang digunakan untuk menghasilkan konten deepfake yang benar-benar jahat akan mengadopsi sistem ini. Provenance tidak akan pernah menjadi solusi yang sempurna, namun kini Google dan C2PA memiliki peluang untuk membuktikan bahwa solusi tersebut tidak membuang-buang waktu.
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
