Saat meta terus Dorong pembuatan konten melalui alat generasi AI sendiriini juga melihat lebih banyak gambar yang dihasilkan AI yang berbahaya, video dan alat yang menyaring ke aplikasinya, yang sekarang mengambil langkah-langkah hukum untuk dicap.
Hari ini, meta punya diumumkan bahwa itu mengejar penegakan hukum terhadap perusahaan yang disebut “Joy Timeline HK Limited, “yang mempromosikan aplikasi yang disebut” Crushai, “yang memungkinkan pengguna untuk membuat gambar telanjang atau eksplisit secara seksual dari individu tanpa persetujuan mereka.
Seperti yang dijelaskan oleh Meta:
“Di seluruh internet, kita melihat pertumbuhan yang disebut aplikasi ‘nudify’, yang menggunakan AI untuk membuat gambar telanjang non-konsensual palsu atau eksplisit seksual. Meta memiliki aturan lama terhadap citra intim non-konsensual, dan lebih dari setahun yang lalu memperbarui kebijakan ini Untuk membuatnya lebih jelas bahwa kami tidak mengizinkan promosi aplikasi nudify atau layanan serupa. Kami menghapus iklan, Halaman Facebook dan akun Instagram yang mempromosikan layanan ini ketika kita menyadarinya, memblokir tautan ke situs web yang menampung mereka sehingga mereka tidak dapat diakses dari platform meta, dan membatasi istilah pencarian seperti ‘nudify’, ‘menanggalkan’ dan ‘menghapus pakaian’ di Facebook dan Instagram sehingga mereka tidak menunjukkan hasil.“
Tetapi beberapa alat ini masih melewati sistem Meta, baik melalui posting pengguna atau promosi.
Jadi sekarang, Meta membidik para pengembang itu sendiri, dengan tindakan pertama ini terhadap aplikasi “nudify”.
“Kami telah mengajukan gugatan di Hong Kong, di mana Joy Timeline HK Limited didasarkan, untuk mencegah mereka mengiklankan aplikasi Crushai di platform meta. Ini mengikuti beberapa upaya oleh Joy Timeline HK Limited untuk menghindari proses peninjauan iklan Meta dan terus menempatkan iklan ini, setelah mereka berulang kali dihapus karena melanggar aturan kami. ”
Ini adalah area yang sulit untuk meta, karena sebagaimana dicatat, di satu sisi, mendorong orang untuk menggunakan aplikasi pembuatan visual AI sendiri pada setiap kesempatan, namun juga tidak ingin orang menggunakan alat seperti itu untuk tujuan yang kurang gurih.
Yang akan terjadi. Jika perluasan internet telah mengajarkan kita sesuatu, itu adalah bahwa elemen terburuk akan diperkuat oleh setiap inovasi, meskipun itu tidak pernah menjadi tujuan yang dimaksudkan, dan AI generatif terbukti tidak berbeda.
Memang, bulan lalu, para peneliti dari University of Florida dilaporkan Kenaikan yang signifikan Gambar eksplisit yang dihasilkan secara seksual yang dibuat tanpa persetujuan subjek.
Lebih buruk lagi, berdasarkan analisis UF terhadap 20 situs web “nudifikasi” AI, teknologi ini juga digunakan untuk membuat gambar anak di bawah umur, sementara wanita ditargetkan secara tidak proporsional dalam aplikasi ini.
Inilah sebabnya mengapa sekarang ada dorongan besar untuk mendukung Pusat Nasional untuk Kehilangan dan Dieksploitasi Anak (NCME) Take It Down Actyang bertujuan untuk memperkenalkan undang-undang resmi untuk melarang gambar non-konsensual, di antara langkah-langkah lain untuk memerangi penyalahgunaan AI.
Meta telah memberikan dukungan di balik dorongan ini, dengan upaya hukum terbaru ini menjadi langkah lain untuk mencegah, dan idealnya menghilangkan penggunaan alat tersebut.
Tapi mereka tidak akan pernah dimusnahkan sepenuhnya. Sekali lagi, sejarah internet memberi tahu kita bahwa orang akan selalu menemukan cara untuk menggunakan teknologi terbaru untuk tujuan yang dipertanyakan, dan kapasitas untuk menghasilkan gambar dewasa dengan AI akan tetap bermasalah.
Tetapi idealnya, ini setidaknya akan membantu mengurangi prevalensi konten tersebut, dan ketersediaan aplikasi nudify.
