OpenAI memiliki alat deteksi ChatGPT yang ‘99% efektif’. Jadi mengapa mereka tidak merilisnya?

Terima kasih kepada laporan dari Jurnal Wall StreetDidukung oleh Microsoft OpenAI telah mengakui memiliki alat yang dapat memberi tanda air pada teks yang dihasilkan ChatGPT. Menurut OpenAI, sistem tersebut telah siap selama lebih dari setahun; namun, ada perdebatan mengenai apakah akan merilisnya atau tidak.

Pengakuan ini datang dalam bentuk pembaruan terhadap Posting blog bulan Mei dari OpenAI berjudul “Memahami sumber dari apa yang kita lihat dan dengar secara online.” Menurut Jurnal Dunia laporan, sistem bekerja dengan mengubah cara ChatGPT menghasilkan kata-katanya. Dengan demikian, perubahan yang dilakukan oleh sistem akan meninggalkan pola atau tanda air yang dapat dideteksi oleh alat anti-kecurangan.

Dokumen internal yang diperoleh oleh Jurnal Dunia menunjukkan bahwa sistem tanda air 99,9 persen efektif “ketika cukup banyak teks baru yang dibuat oleh ChatGPT.”

Alat ini akan menjadi anugerah bagi para guru dan pendidik di seluruh negeri yang berjuang dengan siswa menggunakan ChatGPT untuk menyontek tugas dan esai. Dan meskipun pengujian internal alat tersebut telah menunjukkan seberapa efektifnya — hingga 99 persen efektif — OpenAI enggan merilisnya.

Alasan di balik hal ini, menurut pernyataan kepada Jurnal Dunia dari juru bicara perusahaan, OpenAI meyakini bahwa “alat tersebut dapat memengaruhi kelompok-kelompok seperti penutur bahasa Inggris non-asli secara tidak proporsional.” Namun, alasan utama lainnya bisa jadi adalah survei April 2023 yang mengungkapkan bahwa 30 persen ChatGPT mengatakan mereka akan berhenti menggunakan AI generatif jika tanda air diterapkan.

Perdebatan internal mengenai peluncuran alat ini telah berlangsung selama dua tahun di OpenAI, dengan salah satu sumber di perusahaan tersebut mengatakan Jurnal Dunia“Hanya masalah menekan tombol.”