Selama seminggu terakhir, gerakan karya penggemar baru telah dimulai, dengan tujuan untuk membasmi para penulis yang menggunakan AI generatif. Namun metode deteksi yang diterapkan masih dipertanyakan, dan penulis fanfic mana pun bisa terjebak dalam baku tembak.
Ketidaksukaan yang luas seputar penggunaan Claude, ChatGPT, dan alat AI lainnya telah lama ada suatu hal di dalam komunitas kreatiftermasuk dunia fanfiksi. Pembaca dan penulis telah membagikan tip untuk mengenali karya yang diduga dihasilkan oleh AI, dengan mengutip apa pun mulai dari tanda hubung hingga konsep yang luas dari prosa ungu. Namun pada tanggal 29 Juni, akun X anonim menelepon @heatedrivalryai menjanjikan solusi yang tampaknya lebih dapat diandalkan. Ini memposting skin — mirip dengan ekstensi — untuk repositori fanfic populer Archive of Our Own (AO3) yang konon akan mengidentifikasi artefak pengkodean yang ditinggalkan oleh bot Claude Anthropic.
“Ketika respons yang dihasilkan Claude ditempel langsung ke AO3 dari Claude, teks tersebut dibungkus dengan kode ‘font-claude-response-body’ yang disuntikkan Claude,” kata akun @heatedrivalryai. “Kehadirannya menunjukkan penggunaan Claude secara pasti.” Saat pengguna mengunjungi halaman (seperti karya fanfic) dengan kode ini, kulit akan mengubah seluruh latar belakang menjadi merah.
Beberapa posting tes telah dipublikasikan ke AO3 yang memungkinkan pengguna memeriksa apakah itu berfungsi. Layar langsung berubah menjadi merah ketika saya menguji sendiri kulitnya dengan contoh-contoh ini, dan saya menerbitkan cerita pendek yang dibuat oleh Claude untuk menjalankan eksperimen saya sendiri untuk berjaga-jaga. Layar merah muncul ketika saya langsung menempelkan dari chatbot ke editor dan menghilang jika saya menempelkan teks (termasuk cerita yang dihasilkan sama persis) yang tidak datang langsung dari Claude.
Postingan detektor Claude disertai dengan contoh fanfic di mana artefak tersebut terlihat, yang menurut pembuat anonim tersebut dimaksudkan untuk menunjukkan sistem berfungsi, bukan “menciptakan lingkungan ketidakpercayaan atau menuduh pengguna tertentu.” Namun komunitas fanfic dengan cepat melakukan mobilisasi untuk menyebut nama dan mempermalukan penulis yang karya terbitannya ditandai oleh alat tersebut, dan pembuatnya tentu saja tidak menganggap AI sebagai hal yang positif. “Fandom adalah ruang kolaboratif yang unik dan terhubung. Fandom berkembang berdasarkan elemen manusia dan percikan kreatif yang mendorong dan memberi makan darinya,” kata mereka. “Jika kita tanpa sadar membiarkan AI merusak ruang-ruang ini, apa yang tersisa?”
Anthropic tidak menanggapi permintaan saya untuk memverifikasi apakah detektor Claude buatan kipas berfungsi seperti yang dijelaskan. Namun, metodologi yang digunakan di sini memang terlihat masuk akal, dan pengujian kami sendiri mendukungnya. Tidak ada alasan yang jelas untuk kode Claude hadir dalam sebuah cerita jika bot tidak digunakan. Namun jelas ada risiko negatif palsu dan generalisasi berlebihan.
Pembungkusan kode hanya dipertahankan jika teks disalin langsung dari Claude ke editor AO3, sehingga tidak akan menangkap apa pun yang diedit di Google Docs atau Microsoft Word dan kemudian dipindahkan ke AO3 — dan sebagai seseorang yang mencari nafkah dengan menulis, saya dapat bersaksi betapa berisikonya menulis langsung ke CMS. Beberapa penulis yang telah ditandai telah memperbarui karya mereka untuk menghapus artefak tersebut, dan karya selanjutnya dapat dengan mudah menghindari alat tersebut.
Sebaliknya, tag tersebut tidak mengungkapkan seberapa banyak Claude digunakan dalam karya tertentu. Layar merah yang berkedip-kedip itu bisa berarti keseluruhan cerita sepenuhnya dihasilkan oleh AI, atau bahwa seorang penulis menempelkan beberapa kalimat tulisan manusia ke dalam Claude untuk pemeriksaan ejaan atau terjemahan, lalu memindahkannya kembali ke AO3.
Itu tidak menjadi masalah bagi beberapa anggota fandom yang melihatnya setiap penggunaan AI generatif sebagai pengkhianatan yang tidak dapat dimaafkan terhadap komunitas kreatif yang lebih luas. Banyak orang menyatakan keprihatinannya atas dampak lingkungan dari teknologi ini dan bagaimana teknologi ini dilatih dengan menghapus web terbuka, yang kemungkinan besar mencakup karya penggemar yang diunggah ke platform seperti AO3.
Penerapan alat khusus ini terbatas — AO3 bukan satu-satunya platform untuk menerbitkan karya penggemar, dan Claude hanyalah salah satu dari banyak model AI. Setidaknya klaim satu orang mereka telah menulis kode terpisah yang dapat mendeteksi penggunaan “Claude, Deepseek, dan beberapa ChatGPT”, namun mereka belum merilis solusi tersebut ke publik atau menjelaskan cara kerjanya. Saya bertanya kepada Google dan OpenAI apakah model mereka meninggalkan artefak yang dapat dilacak dalam pembuatan teks yang dapat dideteksi dengan cara serupa, namun mereka belum merespons.
Faktanya, akan sangat mengejutkan jika ada sistem yang dapat diandalkan secara universal. Saya sudah melaporkan masalah-masalah tersebut sekitarnya Deteksi AI selama beberapa tahun sekarang, dan sepengetahuan saya, di sana tidak saat ini merupakan solusi teknologi yang andal untuk membedakan teks yang dihasilkan dari teks yang diketik oleh tangan manusia. Sistem seperti Kredensial Konten C2PA dan SynthID Google membuat beberapa kemajuan dalam mengidentifikasi AI generatif dalam gambar, video, dan bahkan audio, tetapi sistem ini mengandalkan tanda air dan metadata yang tidak terlihat yang tidak terbawa oleh teks yang disalin dan ditempel.
Perusahaan AI memiliki insentif untuk setidaknya menyelesaikan masalah secara internal
Hal ini dapat berubah di masa depan, dan perusahaan AI memiliki insentif untuk setidaknya menyelesaikan masalah ini secara internal. Model-model awal dilatih berdasarkan teks yang diambil tanpa pandang bulu dari internet, dan karena tulisan manusia digantikan oleh tulisan sintetik, mereka dapat mengambil risiko “keruntuhan model” skenario yang akan menurunkan keakuratan keluaran.
Namun, untuk saat ini, sebagian besar komunitas fandom masih mengandalkan getaran. Sebagian besar fanfic tidak dinilai berdasarkan alat seperti kulit AO3, namun berdasarkan “cerita” yang dapat mencakup apa pun, mulai dari struktur kalimat spesifik — seperti kalimat terkenal “ini bukan X, ini Y” — hingga penggunaan metafora yang berbunga-bunga secara berlebihan. (Setidaknya tidak ada seorang pun di fandom, sejauh ini, yang melakukannya bangku menjadi laki-laki.) Tapi kita harus mengingatnya AI sering Menulis Seperti Itu karena dilatih tentang hal-hal yang ditulis oleh orang sungguhan. Ia mencoba meniru kita. Saya tidak cukup berani untuk membagikan bookmark AO3 milik saya, tetapi saya pasti pernah membaca beberapa fanfic yang terlalu muluk-muluk di masa-masa internet sebelum ChatGPT yang tidak akan lulus tes mengendus yang meragukan ini.
Solusi terbaik untuk membedakan karya AI di AO3 sudah tersedia: sistem penandaan situs yang kuat. A “Dibuat Menggunakan AI Generatif” tag ada, dan banyak penulis yang menyertakannya untuk mengungkap penggunaan alat seperti Claude. Namun hal ini membutuhkan transparansi yang jujur, dan tidak ada insentif bagi kejujuran mengingat reaksi buruknya. Perlu juga diingat bahwa fanfiction seharusnya menjadi hobi, bukan industri yang diatur.
Dengan upaya untuk mencegah AI mengalihkan perhatian dari kreativitas asli yang didorong oleh manusia, penulis yang tidak mematuhi kualitas tulisan yang dianggap dapat diterima dapat menjadi korban yang tidak bersalah dari perburuan penyihir yang sedang berlangsung. Setidaknya satu penulis telah terlibat dalam hal ini karena ada orang lain yang mereka percayai untuk mengedit fic mereka melakukannya menggunakan Claude. Jadi jika fanfic berikutnya yang Anda baca terasa seperti robot, ingatlah bahwa mungkin juga tidak Sebenarnya menjadi produk robot.
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
