Microsoft hari ini mengumumkan telah bermitra dengan StopNCII untuk secara proaktif menghapus gambar dan video intim yang berbahaya dari Bing menggunakan hash digital yang dibuat orang dari media sensitif mereka.
StopNCII adalah proyek yang dioperasikan oleh Revenge Porn Helpline yang memungkinkan orang membuat hash digital dari foto dan video intim mereka tanpa mengunggah media dari ponsel mereka. StopNCII kemudian menambahkan hash ini ke basis data yang digunakan untuk menemukan gambar yang sama atau serupa secara daring, yang kemudian dihapus oleh mitra mereka, termasuk Facebook, TikTok, Reddit, Pornhub, Instagram, OnlyFans, dan Snapchat.
Pada bulan Maret, Microsoft berbagi teknologi PhotoDNA dengan StopNCII, yang memungkinkan pembuatan hash digital yang lebih baik tanpa gambar atau video seseorang meninggalkan perangkatnya.
“Seperti halnya teknologi hashing yang sudah digunakan StopNCII.org (PDQ), PhotoDNA adalah proses tambahan yang memungkinkan gambar-gambar berbahaya yang teridentifikasi untuk di-hash menjadi sidik jari digital, yang kemudian dapat dibagikan dengan platform industri untuk mengidentifikasi dan menghapus materi pelecehan gambar intim yang tidak konsensual,” jelasnya. Pengumuman bulan Maret.
Microsoft hari ini mengumumkan bahwa mereka telah menguji coba penggunaan basis data hash StopNCII untuk menghapus gambar-gambar intim dalam indeks pencarian Bing. Dengan menggunakan basis data ini, Microsoft mengatakan bahwa mereka telah mengambil tindakan terhadap 268.899 gambar hingga akhir Agustus.
Meningkatnya kecerdasan buatan juga menyebabkan semakin banyaknya generasi foto telanjang palsu dari foto-foto yang tidak intim yang dibagikan secara daring. Meskipun foto-foto ini palsu, foto-foto ini dapat sama-sama meresahkan bagi mereka yang dieksploitasi.
A Laporan tahun 2019 oleh DeepTracesekarang Sensity, menunjukkan bahwa 96% video deepfake di internet bersifat pornografi dan hampir semuanya menampilkan penggunaan gambar wanita tanpa persetujuan. Banyak dari gambar ini diunggah sebagai “pornografi balas dendam,” untuk pemerasan, atau untuk menghasilkan pendapatan oleh situs-situs yang tidak bermoral.
Sayangnya, gambar yang dihasilkan AI membuatnya lebih sulit untuk dicocokkan dengan hash PhotoDNA. Dalam kasus ini, mereka yang terdampak harus melaporkan gambar tersebut secara manual ke Microsoft, Google, dan perusahaan media daring lainnya.
Microsoft mengatakan bahwa orang yang terkena dampak dapat menggunakan Laporkan Kekhawatiran halaman untuk meminta agar gambar asli atau sintetis dikeluarkan dari indeks pencarian Bing.
Meskipun Google belum bergabung dengan inisiatif ini, mereka juga memberikan pedoman dan cara untuk menghapus gambar intim dari indeks mereka.
