ChatGPT menggunakan Grokipedia sebagai sumberdan ini bukan satu-satunya alat AI yang dapat melakukannya. Kutipan terhadap ensiklopedia buatan Elon Musk mulai muncul dalam jawaban dari Ikhtisar AI Google, Mode AI, dan Gemini juga. Data menunjukkan bahwa jumlah tersebut meningkat, meningkatkan kekhawatiran tentang keakuratan dan misinformasi yang dicari Musk untuk membentuk kembali realitas dalam citranya.
Sejak klon Wikipedia yang menyesatkan diluncurkan akhir Oktober laluGrokipedia secara teknis tetap menjadi sumber informasi kecil secara keseluruhan. Glen Allsopp, kepala strategi pemasaran dan penelitian di perusahaan SEO Ahrefs, mengatakan Tepi pengujian perusahaan menemukan Grokipedia direferensikan di lebih dari 263.000 tanggapan ChatGPT dari 13,6 juta permintaan, mengutip sekitar 95.000 halaman Grokipedia individual. Sebagai perbandingan, Allsopp mengatakan Wikipedia berbahasa Inggris muncul di 2,9 juta tanggapan. “Mereka masih jauh, tapi masih mengesankan mengingat betapa barunya mereka,” katanya.
“Mereka masih jauh, tapi masih mengesankan mengingat betapa barunya mereka.”
Berdasarkan kumpulan data yang melacak miliaran kutipan, platform pemasaran, peneliti mendalam Sartaj Rajpal, mengatakan Grokipedia menerima sekitar 0,01 hingga 0,02 persen dari semua kutipan ChatGPT per hari – jumlah yang kecil namun terus meningkat sejak pertengahan November.
Semrush, yang melacak bagaimana merek muncul dalam jawaban AI alat Google dengan Perangkat Visibilitas AI-nya, menemukan peningkatan serupa dalam visibilitas Grokipedia dalam jawaban AI mulai bulan Desember, namun mencatat bahwa ini masih merupakan sumber sekunder dibandingkan dengan platform referensi yang sudah mapan seperti Wikipedia.
Kutipan Grokipedia lebih banyak muncul di ChatGPT dibandingkan platform analis lainnya Tepi diajak bicara sedang melacak. Namun, Semrush menemukan lonjakan serupa pada produk AI Google – Gemini, Ikhtisar AI, dan Mode AI – pada bulan Desember. Allsopp dari Ahrefs mengatakan Grokipedia telah direferensikan dalam sekitar 8.600 jawaban Gemini, 567 jawaban Ikhtisar AI, 7.700 jawaban Copilot, dan 2 jawaban Perplexity, masing-masing dari sekitar 9,5 juta, 120 juta, 14 juta, dan 14 juta pertanyaan, dengan kemunculan di Gemini dan Perplexity turun secara signifikan dari pengujian serupa pada bulan sebelumnya. Tak satu pun dari perusahaan tersebut Tepi berbicara untuk melacak kutipan untuk Claude Anthropic beberapa bersifat anekdot laporan di media sosial menyarankan chatbot juga mengutip Grokipedia sebagai sumbernya.
Dalam banyak kasus, alat AI tampaknya mengutip Grokipedia untuk menjawab pertanyaan faktual yang khusus, tidak jelas, atau sangat spesifik, seperti Penjaga dilaporkan akhir minggu lalu. Analis setuju. Jim Yu, CEO perusahaan analitik BrightEdge, mengatakan Tepi bahwa ChatGPT dan Ikhtisar AI menggunakan Grokipedia untuk sebagian besar “kueri non-sensitif” seperti pencarian dan definisi ensiklopedis, meskipun perbedaan muncul dalam seberapa besar otoritas yang mereka miliki. Untuk Ikhtisar AI, Grokipedia cenderung tidak berdiri sendiri, kata Yu, dan “biasanya muncul bersama beberapa sumber lain” sebagai “referensi tambahan dan bukan sumber utama.” Namun, ketika ChatGPT menggunakan Grokipedia sebagai sumber, hal itu memberinya lebih banyak otoritas, kata Yu, “seringkali menampilkannya sebagai salah satu sumber pertama yang dikutip untuk sebuah kueri.”
Bahkan untuk penggunaan yang relatif biasa saja, para ahli memperingatkan penggunaan Grokipedia sebagai sumber berisiko menyebarkan disinformasi dan mempromosikan pokok pembicaraan yang partisan. Berbeda dengan Wikipedia yang diedit oleh manusia dalam proses transparan, Grokipedia diproduksi oleh chatbot Grok milik xAI. Grok mungkin paling terkenal karena itu kehancuran Nazi, menamakan dirinya MechaHitler, mengidolakan Muskdan, yang terbaru, melucuti orang secara digital secara onlinetermasuk anak di bawah umur. Saat diluncurkan, sebagian besar artikel Grokipedia adalah klon langsung dari Wikipedia, meskipun banyak lainnya mencerminkan pandangan rasis dan transfobia. Misalnya, artikel tentang Musk dengan mudahnya meremehkan kekayaan keluarganya dan elemen buruk masa lalu mereka (seperti pandangan neo-Nazi dan pro-Apartheid) dan entri untuk “pornografi gay” salah terhubung materi tentang memburuknya epidemi HIV/AIDS pada tahun 1980an. Artikel mengenai perbudakan di AS masih berisi bagian panjang mengenai “pembenaran ideologis,” termasuk “Pergeseran dari Kejahatan yang Diperlukan ke Kebaikan Positif.” Pengeditan adalah juga diawasi oleh Grok dan juga memiliki kelemahan yang sama. Grokipedia lebih rentan terhadap apa yang dikenal sebagai “LLM grooming”, atau keracunan data.
Dalam komentar untuk Tepijuru bicara OpenAI Shaokyi Amdo berkata: “Saat ChatGPT menelusuri web, tujuannya adalah untuk mengambil berbagai sumber dan sudut pandang yang tersedia untuk umum yang relevan dengan pertanyaan pengguna.” Amdo juga mengatakan bahwa pengguna dapat melihat sumbernya dan menilainya sendiri: “Kami menerapkan filter keamanan untuk mengurangi risiko munculnya tautan yang terkait dengan bahaya yang sangat parah, dan ChatGPT dengan jelas menunjukkan sumber mana yang memberikan tanggapan melalui kutipan, sehingga memungkinkan pengguna untuk mengeksplorasi dan menilai keandalan sumber secara langsung.”
“ChatGPT dengan jelas menunjukkan sumber mana yang memberikan tanggapan melalui kutipan, memungkinkan pengguna untuk mengeksplorasi dan menilai keandalan sumber secara langsung.”
Juru bicara Perplexity, Beejoli Shah, tidak mau berkomentar tentang risiko perawatan LLM atau mengutip materi yang dihasilkan AI seperti Grokipedia, namun mengatakan “keunggulan utama perusahaan dalam penelusuran adalah akurasi,” yang “tanpa henti menjadi fokusnya.” Anthropic menolak menjawab secara langsung. xAI tidak kembali Tepipermintaan komentar. Google menolak berkomentar.
Intinya adalah bahwa Grokipedia sama sekali tidak dapat diandalkan sebagai sumber, tidak peduli seberapa jarang dan meskipun Musk mengambil tindakan. putaran kemenangan yang tidak berdasar tentang dugaan kesuksesan besar ensiklopedia tersebut dalam hasil Google Penelusuran. Ini adalah sistem yang dihasilkan oleh AI, kurang pengawasan manusia, dan sering kali bergantung pada materi yang buram dan sulit diverifikasi seperti situs web pribadi dan postingan blog, dan dipertanyakan, berpotensi melingkar, sumber. Ada risiko nyata untuk memperkuat berbagai bias, kesalahan, atau masalah pembingkaian jika mengutip sesuatu seperti Grokipedia, kata Taha Yasseri, ketua teknologi dan masyarakat di Trinity College Dublin, seraya menambahkan bahwa “kefasihan dapat dengan mudah disalahartikan sebagai keandalan.”
“Grokipedia terasa seperti cosplay kredibilitas,” kata Leigh McKenzie, direktur visibilitas online di Semrush. “Ini mungkin berfungsi di dalam gelembungnya sendiri, tetapi gagasan bahwa Google atau OpenAI akan memperlakukan sesuatu seperti Grokipedia sebagai lapisan referensi default yang serius dalam skala besar adalah hal yang suram.”
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
