Microsoft Bing meningkatkan kemampuannya untuk menghentikan gambar deepfake eksplisit muncul di hasil Pencarian

Microsoft Bing sekarang memiliki lebih banyak kekuatan untuk menggosok Kecerdasan buatan-gambar yang dibuat secara rekayasa atau deepfake, suatu bentuk penyalahgunaan gambar intim tanpa persetujuan (NCII), agar tidak muncul di mesin pencari, saat perusahaan mengumumkan kemitraan nirlaba baru.

Kolaborasi dengan alat advokasi korban HentikanNCII, Microsoft melengkapi pelaporan pengguna dengan pendekatan yang lebih “berpusat pada korban” dengan menggabungkan proses deteksi yang lebih mendalamperusahaan menjelaskan. StopNCII, sebuah platform yang dijalankan oleh lembaga nirlaba Inggris Bahasa Inggris SWG dan Revenge Porn Helpline, menawarkan individu kemampuan untuk membuat dan menambahkan sidik jari digital (juga dikenal sebagai “hash”) ke gambar intim, yang kemudian dapat dilacak untuk menghapus gambar saat muncul di platform tertentu.

Berdasarkan uji coba yang dilakukan hingga bulan Agustus, sistem baru Microsoft memanfaatkan basis data StopNCII untuk segera menandai gambar-gambar intim dan mencegahnya muncul di hasil pencarian Bing. Microsoft mengatakan telah “mengambil tindakan” terhadap 268.000 gambar vulgar.

Hash StopNCII digunakan oleh situs sosial seperti Facebook, Instagram, TikTok, Threads, Snapchat, dan Reddit, serta platform seperti Bumble, OnlyFans, Aylo (pemilik beberapa situs pornografi populer, termasuk PornHub), dan bahkan Niantic, pengembang AR di balik Pokémon Go. Bing adalah mesin pencari pertama yang bergabung dengan koalisi mitra.

Google, yang juga berjuang melawan konten deepfake nonkonsensual, telah mengambil langkah serupa untuk mengatasi munculnya gambar deepfake di hasil Penelusuran, selain gambar asli nonkonsensual. Selama setahun terakhir, perusahaan tersebut telah merombak peringkat Pencariannya sistem untuk mengurangi konten sintetis eksplisit dalam hasilmengganti hasil yang muncul dengan “konten berkualitas tinggi dan non-eksplisit,” perusahaan menjelaskan, seperti artikel berita. Google mengumumkan bahwa mereka juga menyederhanakan proses pelaporan dan peninjauan untuk membantu mempercepat penghapusan konten tersebut — platform pencarian tersebut sudah memiliki sistem serupa untuk penghapusan gambar nyata yang tidak disetujuiatau pornografi deepfake.

Namun, Bing belum bergabung dengan StopNCII dan memanfaatkan teknologi hashing-nya. “Mesin pencari pasti menjadi gerbang untuk menemukan gambar, jadi langkah proaktif dari Bing ini mengutamakan kesejahteraan mereka yang terkena dampak langsung,” kata Sophie Mortimer, manajer Revenge Porn Helpline.

Microsoft memiliki proses pelaporan serupa untuk penyalahgunaan NCII berbasis gambar nyata, serta kebijakan perilaku ketat terhadap pemerasan intim, yang juga dikenal sebagai pemerasan seksualAwal tahun ini, Microsoft menyediakan teknologi PhotoDNA internalnya kepada StopNCII, alat “sidik jari” serupa yang telah digunakan untuk mendeteksi dan membantu menghapus materi pelecehan seksual anak.

Cara melaporkan gambar intim dengan StopNCII

Jika Anda yakin gambar Anda (eksplisit atau tidak eksplisit) berisiko disebarkan atau dimanipulasi oleh pelaku kejahatan, Anda dapat menambahkan sidik jari Anda sendiri ke StopNCII untuk deteksi di masa mendatang. Alat ini tidak mengharuskan Anda mengunggah atau menyimpan foto atau video pribadi ke situs. Sebaliknya, gambar disimpan di perangkat pribadi Anda.

1. Mengunjungi Stopncii.org.

2. Klik “Buat kasus Anda” di sudut kanan atas.

3. Navigasi melalui petunjuk yang dipersonalisasi, yang mengumpulkan informasi tentang konten gambar atau video.

4. Situs web tersebut kemudian akan meminta Anda untuk memilih foto atau video dari pustaka foto perangkat Anda. StopNCII kemudian memindai konten dan membuat hash untuk setiap gambar. Hash tersebut kemudian dikirim ke platform yang berpartisipasi. Tidak ada gambar atau video yang akan dibagikan.

5. Simpan nomor kasus Anda, yang memungkinkan Anda memeriksa apakah gambar atau video Anda terdeteksi secara daring.

Jika Anda pernah mengalami foto-foto intim yang dibagikan tanpa persetujuan Anda, hubungi hotline Cyber ​​Civil Rights Initiative yang tersedia 24/7 di nomor 844-878-2274 untuk mendapatkan dukungan gratis dan rahasia. Situs web CCRI juga memuat informasi bermanfaat serta daftar sumber daya internasional.