Awal bulan ini, WIRED menerbitkan kutipan dari buku baru Steve Rosenbaum yang menarik, Masa Depan Kebenaranyang melihat caranya kecerdasan buatan membengkokkan perasaan orang terhadap kenyataan. Tak lama kemudian, The New York Times dilaporkan bahwa buku tersebut berisi lebih dari setengah lusin kutipan yang dibuat-buat atau disalahartikan. Dalam sebuah pernyataan, Rosenbaum, yang memiliki gelar master dalam bidang “kebenaran” dari Universitas New York, mengakui bahwa dia secara tidak sengaja memasukkan “segelintir” kutipan yang “diatribusikan secara tidak tepat atau sintetik”. Ironisnya, kebenaran sebuah buku tentang bagaimana AI memengaruhi kebenaran kini berada di bawah pengawasan ketat karena cara penulisnya menggunakan AI.
Setelah cerita Times tersebar, WIRED melihat kembali kutipan kami yang terdiri dari 1.450 kata. Tim pemeriksa fakta telah meninjaunya sebelum dipublikasikan, dan kami memastikan kembali bahwa kutipan dan faktanya akurat. Namun kebijakan editorial AI generatif WIRED melarang publikasi tulisan yang dibuat dan diedit oleh AI, dan email pembaca yang menyatakan bahwa kutipan tersebut “ditulis secara terang-terangan oleh AI” menimbulkan pertanyaan lebih lanjut tentang sejauh mana Rosenbaum telah menggunakan alat AI. Di dalam Masa Depan Kebenarandi bagian pengakuan, Rosenbaum menulis bahwa ChatGPT, Claude, NaturalReaders, ProWritingAid, dan Grammarly telah membantu “memperbaiki dan memoles presentasi [his] ide.” Apa sebenarnya maksudnya?
WIRED menjalankan kutipan tersebut melalui beberapa layanan deteksi AI, termasuk Pangram, GPTZero, dan ZeroGPT. Setiap layanan menyatakan bahwa layanan tersebut kemungkinan besar dihasilkan oleh AI, atau dihasilkan oleh AI dengan keyakinan tinggi. Namun alat pendeteksi AI bisa salah dan dapat menghasilkan pembacaan yang tidak akurat. Jadi kepala penelitian WIRED mengirim email langsung ke Rosenbaum untuk menanyakan apakah dan bagaimana dia menggunakan AI untuk menulis kutipan tersebut.
Dia membalas: “Seperti banyak penulis yang bekerja saat ini, saya menggunakan alat AI selama bagian dari penelitian dan proses pengembangan editorial untuk buku tersebut, termasuk penemuan sumber, curah pendapat, umpan balik struktural, dan penyempurnaan bahasa.” Namun, dia menekankan, “ide, pelaporan, argumen, dan penulis akhir adalah milik saya, dan kutipan WIRED tidak dihasilkan oleh AI dan kemudian diterbitkan begitu saja.” Dia mendesak editor WIRED untuk berhati-hati dalam mempercayai alat pendeteksi AI, mengingat bahwa hasil positif palsu dapat terjadi.
Pada titik ini, editor senior WIRED meminta saya untuk melihat episode tersebut, karena saya telah meliputnya AI kotor di dalamnya bermacam-macam formulir sejak tahun 2024. Langkah pertama saya adalah menjalankan seluruh teks buku melalui alat pendeteksi Pangram. (Meskipun semua alat pendeteksi AI memiliki keterbatasan, dan dapat menunjukkan hasil positif palsu, Pangram adalah standar emas saat ini.) Ternyata 53 persen dari buku tersebut dihasilkan oleh AI, dengan tambahan 9 persen yang terdaftar sebagai kemungkinan dibantu oleh AI.
Saya menelepon Rosenbaum dan menanyakan penjelasan lebih rinci tentang bagaimana dia menggunakan AI untuk menulis buku tersebut, dan apakah dia membantah hasil Pangram. (BenBella Books, yang cetakannya diterbitkan Masa Depan Kebenarantidak membalas permintaan komentar. Simon & Schuster, yang mendistribusikan buku-buku BenBella di Amerika Serikat, menolak berkomentar.)
Rosenbaum tidak akan mempertimbangkan keakuratan hasil Pangram. Sebenarnya, dia sama sekali tidak ingin membicarakannya. “Saya tidak berpartisipasi dalam percakapan itu,” katanya. “Ini seperti mengatakan, apakah kamu memukul istrimu? Itu adalah salah satu tuduhan yang tidak ada tanggapannya.”
Sebaliknya, dia menawarkan untuk menjelaskan secara luas proses editorialnya. Dia mengatakan bahwa pada awal proses penulisan, dia menggunakan alat AI sebagai mesin pencari, membantunya memunculkan informasi untuk bagian yang lebih banyak melakukan penelitian dalam buku ini. Untuk mendemonstrasikan bagaimana dia bisa melakukan hal ini, dia meminta ChatGPT untuk mendeskripsikan saya, lalu membacakan hasilnya dengan lantang. Pencarian AI kurang lebih akurat menggambarkan beberapa cerita saya sebelumnya, termasuk pekerjaan di “situs media zombie” yang dihasilkan AI.
Ketika saya memintanya untuk menjawab secara langsung apakah dia telah menggunakan AI untuk menulis atau mengedit salah satu bagian dalam buku tersebut, dia memberikan jawaban yang berbelit-belit. “Tidak, bukan begitu caramu menulis. Jawabannya adalah, kamu mengambil materi—jadi, misalnya, respons Kate yang baru saja aku terima, jika aku menulis tentangmu, apa yang akan aku lakukan? Apakah aku akan mengambilnya dan menempelkannya ke Google Docs lalu menuliskannya dan mengeditnya sedikit? Apakah aku akan menggunakan kata ‘situs media zombie’ dalam tanda kutip? Mungkin. Tapi aku tidak akan mengatakan, oh bagus, itu menjawab pertanyaan tulisanku untuk Kate, aku akan menempelkannya di dokumenku dan kirimkan ke penerbit saya.”
“Tetapi apakah Anda akan menyalin dan menempelkannya, lalu mengeditnya?” saya bertanya.
“Mungkin,” jawabnya.
“Apakah kamu melakukan itu di buku ini?”
“Saya tidak ingat. Anda sedang mencari senjata api, dan tidak ada.”
Rosenbaum mengatakan bahwa para penulis yang “bangun di pagi hari ingin mempunyai ide” kini “hidup dalam ketakutan, dan hal ini tidak sehat bagi demokrasi.” Sebelum saya sempat bertanya apa sebenarnya itu maksudnya, dia melanjutkan: “Saya berbicara dengan penulis lain pagi ini yang benar-benar akan menerbitkan bukunya ke penerbit dalam sebulan, dan dia sangat ketakutan.”
Saya bertanya apakah itu karena dia menggunakan AI dalam proses penulisan bukunya.
“Tentu saja. Kamu mengatakan ini dengan nada menuduh, seperti dia menggunakan alat curang.” Dia menyebutkan a laporan yang menempatkan adopsi AI di kalangan jurnalis sebesar 82 persen. Dia mengatakan bahwa kebijakan AI generatif WIRED bersifat membatasi dan berhipotesis bahwa penulis kami kemungkinan besar menggunakan AI secara rahasia.
Dia menggandakan komitmen pribadinya terhadap AI, dengan menyatakan bahwa dia masih menggunakannya setiap hari. “Jika satu-satunya cara bagi saya untuk tidak melakukan kesalahan lagi adalah dengan benar-benar berhenti menggunakan AI, itu tidak realistis. Jika jawabannya adalah berhenti menulis, itu bukan hal yang mustahil.”
Saya bertanya kepadanya apakah dia lebih memilih berhenti menulis daripada berhenti menggunakan AI dalam proses menulisnya. “Ya,” jawabnya.
Rosenbaum terombang-ambing antara mengakui bahwa penggunaan AI dapat menimbulkan masalah (“Saya tidak mengerti mengapa tugas saya sebagai penulis adalah bermain-main dengan perusahaan bernilai miliaran dolar yang memasukkan halusinasi ke dalam feed mereka sebagai praktik bisnis”) dan berulang kali menegaskan bahwa AI sangat diperlukan, dan menyebutnya sebagai mitra menulis terbaik yang pernah ia miliki.
Dia sekaligus membuktikan tesis bukunya—AI jelas menyebabkan perpecahan mengenai apa yang asli dan apa yang tidak—sambil melemahkan kredibilitasnya.
Ketika saya memberi tahu Rosenbaum bahwa cara dia menggunakan AI membuat saya meragukan keakuratan dan kualitas keseluruhan buku tersebut, dia kembali mengemukakan penelitian tentang penggunaan AI oleh jurnalis. “Jika 82 persen jurnalis menggunakan AI setiap hari, maka yang Anda maksudkan adalah Anda kini merasa cemas akan keakuratan dan keandalan semua hal yang ada di ekosistem media saat ini,” katanya.
Ya, ya. Saya telah meliput munculnya kotoran AI di internet selama bertahun-tahun. Dia meresap. Skeptisisme itu rasional. Namun penelitian yang dikutip Rosenbaum, dari perusahaan perangkat lunak hubungan masyarakat MuckRack, menghitung transkripsi AI dan mencari hal-hal di ChatGPT sebagai penggunaan AI, yang secara substansial berbeda dari memasukkan kalimat-kalimat yang dihasilkan AI secara diam-diam ke dalam draf.
Ketika saya bertanya kepada MuckRack untuk rincian lebih rinci tentang bagaimana jurnalis menggunakan AI, perusahaan tersebut mencatat bahwa hanya seperempat penulis yang disurvei telah menggunakan alat kecerdasan buatan untuk bantuan menulis. Mayoritas penulis tidak ada di sana. Setidaknya belum.
Garis terus-menerus digambar, dicoret, dan digambar ulang dengan penggunaan AI yang sesuai. Saya menggunakan alat AI untuk transkripsi; Saya juga menggunakan Claude untuk membuat permintaan Freedom of Information Act. Beberapa penulis yang menentang AI akan mengatakan bahwa kasus penggunaan tersebut salah. Rosenbaum adalah pengusaha media serial. Dia memahami betapa pentingnya video digital dan konten buatan pengguna di internet. Mungkin saja cara dia beroperasi suatu hari nanti bisa menjadi hal yang biasa.
Opini seputar kecerdasan buatan di media sudah cenderung semakin diterima. Awal tahun ini, WIRED berbicara dengan reporter teknologi yang secara terbuka menggunakan AI untuk menulis dan mengedit cerita. Jurnalis independen Alex Heath memberikan catatan pelaporannya dan dokumen lainnya kepada agen AI, yang kemudian membuat draf pertamanya. Beberapa outlet ada semuanya: Fortune misalnya memberi semangat secara aktif salah satu reporternya yang ikut menulis cerita dengan chatbots, dan Business Insider izin penulisnya menggunakan alat seperti ChatGPT pada draf cerita. Satu dekade dari sekarang, redaksi yang bersikeras bahwa penulislah manusia yang melakukan semua penulisan mungkin terlihat sama anehnya dengan mengirimkan majalah dalam bentuk cetak.
Untuk saat ini, masih ada beberapa resistensi. Tahun ini, penerbit Hachette membatalkan rencana rilisnya sebuah novel di Amerika Serikat setelah Pangram mengindikasikan bahwa sebagian besar karya tersebut dihasilkan oleh AI, bahkan setelah penulisnya menyangkal bahwa mereka menggunakan AI dalam tulisannya. The New York Times memutuskan hubungan dengan seorang pekerja lepas untuk menggunakan AI. Dan baru-baru ini, badai kritik terjadi setelah sebuah majalah sastra menerbitkan cerita pendek yang diyakini para kritikus tampaknya dihasilkan oleh AI.
WIRED juga telah melakukan proses revisi pedoman editorial seputar AI. Salah satu aspek yang akan tetap sama adalah karya yang dipublikasikan tidak dapat ditulis dengan AI. Mengingat ketidakpastian seputar proses Rosenberg, kutipan tersebut dicabut pada Jumat sore.
