Dalam episode hari ini, Zoë Schiffer dan editor senior Louise Matsakis akan membahas lima cerita yang perlu Anda ketahui minggu ini—mulai dari perubahan SEO di era AI hingga bagaimana katak menjadi simbol protes. Kemudian, Zoë dan Louise menjelaskan alasan beberapa orang mengajukan keluhan ke FTC tentang ChatGPT, dengan alasan bahwa hal itu telah menyebabkan mereka menderita psikosis AI.
Artikel yang disebutkan dalam episode ini:
- Orang yang Mengatakan Mereka Mengalami Psikosis AI Meminta Bantuan FTC
- Lupakan SEO. Selamat datang di Dunia Optimasi Mesin Generatif
- FTC Menghilang Postingan Blog Tentang AI yang Diterbitkan Selama Masa Jabatan Lina Khan
- Sejarah Panjang Katak sebagai Simbol Protes
- Google Mengalami Serangan Kutu Busuk di Kantornya di New York
Anda dapat mengikuti Zoë Schiffer di Bluesky di @zoeschiffer dan Louise Matsakis di Bluesky di @lmatsakis. Menulis kepada kami di uncannyvalley@wired.com.
Bagaimana Mendengarkan
Anda selalu dapat mendengarkan podcast minggu ini melalui pemutar audio di halaman ini, namun jika Anda ingin berlangganan gratis untuk mendapatkan setiap episodenya, berikut caranya:
Jika Anda menggunakan iPhone atau iPad, buka aplikasi bernama Podcasts, atau cukup ketuk tautan ini. Anda juga dapat mengunduh aplikasi seperti Overcast atau Pocket Casts dan mencari “lembah luar biasa”. Kami aktif Spotify juga.
Salinan
Catatan: Ini adalah transkrip otomatis, yang mungkin mengandung kesalahan.
Zoë Schiffer: Selamat datang di WIRED Lembah Luar Biasa. Saya Zoë Schiffer, direktur bisnis dan industri WIRED. Hari ini di acara itu, kami membawakan Anda lima cerita yang perlu Anda ketahui minggu ini. Dan nanti, kita akan mendalami cerita utama kita tentang bagaimana beberapa orang mengajukan keluhan ke FTC dengan mengklaim ChatGPT OpenAI membawa mereka atau orang yang mereka cintai ke dalam dugaan psikosis AI. Hari ini saya bergabung dengan editor bisnis senior WIRED, Louise Matsakis. Louise, selamat datang Lembah Luar Biasa.
Louise Matsakis: Hai, Zoë. Senang rasanya berada di sini.
Zoë Schiffer: Jadi Louise, cerita pertama kita minggu ini sebenarnya adalah cerita yang kita kerjakan bersama, bagian dari kolaborasi berkelanjutan kita Perilaku Modeldan ini semua tentang bagaimana pada musim liburan ini, diharapkan lebih banyak pembeli menggunakan chatbot untuk mencari tahu apa yang akan dibeli. Saya penasaran, sebelum kita mendalami hal ini, bagaimana Anda memutuskan belanja liburan Anda sendiri, Louise, terutama jika Anda sama sekali tidak tahu harus membeli apa untuk seseorang?
Louise Matsakis: Saya benar-benar menjengkelkan, dalam artian saya sangat bangga dengan pemberian hadiah saya, tetapi kita semua memiliki orang-orang dalam hidup kita yang, meskipun demikian, sulit untuk dibeli. Jadi ya, saya pasti akan mencari di internet 10 barang terbaik untuk dibeli ayah mertua Anda pada liburan ini, atau apa pun.
Zoë Schiffer: Ya. Oke. Jadi tahun ini, orang-orang akan mengikuti tren yang sedikit berbeda. Menurut laporan belanja terbaru dari Adobe, pengecer dapat melihat peningkatan lalu lintas dari chatbots dan mesin pencari AI hingga 520 persen dibandingkan tahun 2024. Raksasa AI seperti OpenAI sudah mencoba memanfaatkan tren ini. Pekan lalu, OpenAI mengumumkan kemitraan besar dengan Walmart yang memungkinkan orang membeli barang langsung dari jendela obrolan. Kami tahu ini adalah fokus besar bagi mereka. Jadi ketika orang-orang mulai mengandalkan chatbot untuk menemukan produk baru, pengecer harus memikirkan kembali pendekatan mereka terhadap pemasaran online. Selama beberapa dekade, fokusnya adalah pada SEO, optimasi mesin pencari, yang merupakan ilmu hitam yang pada dasarnya digunakan untuk meningkatkan lalu lintas online terutama melalui Google. Kini, sepertinya kita memasuki era GEO, atau optimasi mesin generatif.
Louise Matsakis: Saya pikir GEO dalam banyak hal bukanlah penemuan yang benar-benar baru. Ini seperti iterasi SEO berikutnya. Dan sebagian besar konsultan yang bekerja di industri GEO pasti berasal dari dunia SEO. Dan alasan utama mengapa saya yakin hal ini terjadi adalah setidaknya untuk saat ini, kita tahu bahwa chatbot ini sering menggunakan mesin pencari untuk menampilkan konten. Benar? Jadi mereka menggunakan jenis algoritme yang sama untuk menjelajahi web seperti yang dilakukan Google, atau Bing atau apa pun, DuckDuckGo. Tentu saja, beberapa peraturan yang sama akan berlaku. Dan juga, orang-orangnya sama. Menurut saya, cara kita berinteraksi dengan chatbot sangat berbeda dengan cara kita berinteraksi dengan mesin telusur, namun pertanyaan mendasar yang kami miliki cukup mirip. Benar? Misalnya, kenapa pacarku tidak membalas pesanku? Ruam aneh apa ini? Apa yang saya dapatkan untuk ayah mertua saya saat Natal? Pertanyaan-pertanyaan ini sama, sehingga jenis konten yang dicoba oleh merek untuk mendapatkan jawaban tersebut sebagian besar tetap sama.
Zoë Schiffer: Benar sekali. Namun Anda dapat membayangkan dari sudut pandang pengecer, hal ini agak menakutkan, karena bahkan berurusan dengan Google saja sudah sangat memusingkan bagi banyak orang. Setiap kali Google mengubah algoritmenya, industri ini akan mengalami pergolakan selama beberapa saat ketika mereka mencoba memahami apa yang ingin dilihat Google dan menyesuaikan konten mereka. Jadi sekarang, orang-orang berbicara dengan chatbot dan mereka berkata, “Ya ampun, apakah semua upaya yang saya lakukan di semua halaman web ini sia-sia? Apakah saya perlu mengkalibrasi ulang untuk dunia baru ini?” Kami sebenarnya berbicara dengan Imri Marcus, yang merupakan CEO sebuah perusahaan GEO bernama Brandlight. Dan dia memperkirakan bahwa dulu ada sekitar 70 persen tumpang tindih antara tautan teratas Google dan sumber yang dikutip oleh alat AI seperti ChatGPT. Namun kini, ia mengatakan korelasinya sudah turun di bawah 20 persen. Jadi Louise, jika saya adalah pemilik usaha kecil, bagaimana saya menyesuaikan konten saya? Apa yang saya lakukan berbeda di dunia baru ini?
Louise Matsakis: Saya rasa Anda mungkin memiliki lebih banyak penjelasan tentang bagaimana produk tersebut dapat digunakan. Jadi anggap saja—entahlah—kita menjual sabun. Anda mungkin memiliki daftar panjang tentang berbagai cara penggunaan sabun. Ini bagus untuk mandi busa. Ia memiliki sifat melawan jerawat atau apa pun itu, dan saya pikir Anda sudah mengetahui semuanya. Padahal sebelumnya, Anda mungkin lebih fokus pada identitas merek situs web Anda dan fokus pada seperti, bagaimana Anda ingin menyusun frasa karena Anda mengantisipasi orang-orang datang ke situs web? Anda tidak mengantisipasi pihak ketiga di tengah-tengah orang yang menanyakan pertanyaan chatbot.
Zoë Schiffer: Ya, tepatnya. Hal ini memberi saya sedikit harapan, karena saya merasa kita berada di era ketika Anda mencari resep dan harus membaca blog 5.000 kata tentang kisah hidup orang ini sebelum Anda benar-benar mendapatkan resepnya. Dan saya seperti, seperti chatbot, saya hanya ingin daftar bahan-bahannya. Mungkin ke sanalah tujuan kita.
Lanjut ke cerita berikutnya, rekan kami, Lauren Goode dan Makena Kelly, melaporkan bagaimana FTC telah menghapus beberapa postingan blog tentang AI yang diterbitkan selama masa jabatan Lina Kahn. Jika Anda familiar dengan Lina Kahn, dia adalah mantan ketua FTC. Dan posisinya yang pro-regulasi terhadap industri teknologi, Anda sudah bisa membayangkan mengapa hal ini bisa mengkhawatirkan. Salah satu postingan blog yang dihapus adalah tentang model AI open-weight, yang pada dasarnya adalah model yang dirilis secara publik, yang memungkinkan siapa saja untuk memeriksa, memodifikasi, atau menggunakan kembali. Postingan tersebut akhirnya dialihkan ke Kantor Teknologi FTC. Postingan blog lain berjudul Konsumen Menyuarakan Kekhawatiran tentang AI yang ditulis oleh dua ahli teknologi FTC juga mengalami nasib serupa. Namun, postingan lain tentang risiko konsumen yang terkait dengan produk AI kini mengarah ke layar kesalahan, yang menyatakan hanya halaman tidak ditemukan.
Louise Matsakis: Ya. Menurut saya, ini sangat memprihatinkan karena beberapa alasan. Yang pertama adalah pentingnya untuk alasan sejarah, untuk alasan nasional untuk tidak kehilangan informasi ini. Wajar jika pemerintahan yang berbeda mempunyai pendapat yang berbeda, tapi itu tidak normal atau setidaknya, postingan blog seperti ini belum pernah hilang begitu saja di negara ini. Dan dalam hal ini, ini sangat aneh karena salah satu postingan ini adalah tentang, seperti yang Anda sebutkan, dukungan Lina Kahn terhadap model open-weight dan open source secara umum, dan ini adalah sesuatu yang juga disetujui oleh anggota pemerintahan Trump. Saya pikir dalam hal ini, Lina Kahn berada di pihak yang sama dengan orang-orang seperti David Sachs, yang merupakan raja AI dan Crypto di pemerintahan Trump.
Jadi itulah yang misterius dan membingungkan di sini, jika hal-hal ini tampaknya juga disetujui oleh pemerintahan Trump, mengapa menghapusnya? Apakah ini tentang menghapus warisan Lina Kahn? Apakah ini tentang keinginan untuk menghilangkan penyebutan hal-hal yang terjadi selama pemerintahan Biden? Agak sulit untuk menguraikan logikanya, dan menurut saya hal ini membuat dunia usaha dan perusahaan teknologi agak bingung tentang posisi pemerintah. Maksud dari postingan blog ini adalah, ya, untuk menginformasikan kepada publik, namun juga berfungsi sebagai pedoman peraturan dan bisnis agar perusahaan dapat memahaminya seperti, kami memahami bahwa mungkin undang-undang belum disahkan mengenai hal ini, atau mungkin tidak jelas apakah praktik ini ilegal, tapi sepertinya bisa saja, bukan? Atau sepertinya seperti inilah cara pemerintah menafsirkan undang-undang tersebut. Dan sebaliknya, Anda hanya tertinggal dalam kegelapan.
Zoë Schiffer: Perlu diperhatikan bahwa ini juga bukan pertama kalinya FTC di bawah pemerintahan Trump menghapus postingan terkait regulasi AI. Awal tahun ini, FTC menghapus sekitar 300 postingan terkait AI, perlindungan konsumen, dan tuntutan hukum agensi tersebut terhadap raksasa teknologi seperti Amazon dan Microsoft. Mari kita beralih persneling sedikit. Saya berjanji, ini lebih menyenangkan. Jadi pada hari Sabtu lalu, sekitar tujuh juta orang memenuhi kota-kota di Amerika untuk mengikuti protes No Kings terbaru, yang merupakan serangkaian protes nasional yang mengkritik tindakan yang dianggap otoriter oleh pemerintahan Trump. Dan jika Anda memperhatikan, Anda mungkin memperhatikan bahwa ada cukup banyak orang yang mengenakan kostum katak.
Louise Matsakis: Ya. Katak-katak ini berkuasa, dan saya dapat memberitahu Anda bahwa ini bukan pertama kalinya saya melihat katak-katak ini. Jadi kostum katak khusus ini, sebenarnya pertama kali saya lihat di Tiongkok karena orang-orang memakainya di TikTok yang viral di Tiongkok. Dan seringkali, mereka memainkan simbal yang sangat keras dan melakukan breakdance yang sangat intens di pusat kota dan sebagainya.
Zoë Schiffer: Satu hal tentang Louise, dia akan selalu menemukan sudut pandang China, dan kami menyukainya. Memang ada satu hal yang cukup sering terjadi. Tapi ternyata, ada cerita tersendiri di sini. Ada pengetahuan. Rekan kami, Angela Watercutter, menyelami lebih dalam apa yang ada di balik katak dan protes politik. Pertama, dia menunjukkan hal yang sudah jelas, mengenakan kostum membantu pengunjuk rasa menghindari pengawasan. Dan hal ini juga membantu mereka melawan narasi bahwa para pengunjuk rasa adalah seperti ekstremis yang kejam, seperti yang digambarkan oleh pemerintahan Trump. Angela berbicara dengan Brooks Brown, salah satu penggagas gerakan yang disebut Operasi Inflasi. Mereka membagikan kostum tiup gratis, dan dia mengatakan kepadanya bahwa kecil kemungkinannya seseorang yang menonton akan berkata, “Mungkin katak itu pantas mendapatkannya jika mereka disemprot merica atau semacamnya.” Jadi ada strategi nyata di sini.
Louise Matsakis: Ya. Saya benar-benar dapat melihat betapa sulitnya menjual narasi bahwa para pengunjuk rasa ini berbahaya ketika mereka mengenakan kostum katak yang dapat ditiup. Dan ini sangat menarik, karena sekitar satu dekade yang lalu, katak memiliki arti yang sangat berbeda. Ingat Pepe si Katak di tahun 2015 atau lebih? Itu adalah simbol sayap kanan. Dan pada tahun 2019, saat terjadi protes pro-demokrasi di Hong Kong, mereka juga mengadopsi Pepe si Katak, namun maknanya berbeda dalam konteks tersebut. Jadi sepertinya katak itu sangat mudah beradaptasi.
Zoë Schiffer: Ya. Katak tersebut telah mempunyai banyak sekali kehidupan dan nampaknya ia telah mencapai siklus penuh. Akhir pekan lalu, beredar gambar di Bluesky tentang katak tiup yang meninju wajah Pepe. Jadi ini bukan hanya meme online saja. Kostum-kostum ini telah sampai ke pengadilan. Pada hari Senin, Pengadilan Banding AS untuk Sirkuit Kesembilan mencabut blokade yang melarang penempatan Garda Nasional Trump di Portland. Susan Graber, hakim yang berbeda pendapat, memihak katak dan berkata, “Mengingat keuntungan Portland Kegemaran ester yang terkenal dalam mengenakan kostum ayam dan kostum katak tiup ketika mengungkapkan ketidaksetujuan mereka dengan metode yang diterapkan oleh ICE, para pengamat mungkin tergoda untuk melihat keputusan mayoritas, yang menerima karakterisasi pemerintah Portland sebagai zona perang sebagai hal yang tidak masuk akal.” Satu lagi cerita singkat sebelum kita membahasnya. Sayangnya, jika Anda tinggal di New York City, kisah ini mungkin tidak asing lagi. Minggu ini, saya mendapat kabar bahwa karyawan Google yang bekerja di salah satu kampus perusahaan di New York, harus tinggal di rumah karena kepinding wabah di kantor.
Louise Matsakis: Ya Tuhan, Anda tidak akan melihat saya di kantor selama berminggu-minggu jika ada serangan kutu busuk. Bagaimana mereka mengetahui hal ini?
Zoë Schiffer: Jadi pada dasarnya, mereka menerima email ini pada hari Minggu, mengatakan bahwa pembasmi hama telah tiba di tempat kejadian dengan anjing pelacak dan “menemukan bukti yang dapat dipercaya tentang kehadiran mereka.” Di sana, menjadi kutu busuk. Sumber mengatakan kepada WIRED bahwa kantor Google di New York adalah rumah bagi sejumlah boneka binatang berukuran besar, dan pasti ada rumor yang beredar di kalangan karyawan bahwa boneka binatang tersebut terlibat dalam wabah tersebut. Kami tidak dapat memverifikasi informasi ini sebelum kami mempublikasikannya, tetapi bagaimanapun juga, perusahaan memberi tahu karyawannya pada Senin pagi bahwa mereka dapat kembali ke kantor. Dan orang-orang sepertimu, Louise, sungguh tidak senang dengan hal ini. Mereka berkata, “Saya tidak yakin kalau di sini benar-benar bersih.” Itu sebabnya mereka ada di kotak masuk kami ingin mengobrol.
Louise Matsakis: Bolehkah saya mengatakan bahwa jika Anda memiliki foto atau deskripsi boneka binatang besar tersebut, silakan hubungi saya dan Zoë. Terima kasih.
Zoë Schiffer: Ya. Ini adalah seruan minta tolong. Saya pikir bagian terbaiknya adalah ketika saya memberikan draft saya kepada Louise, dia berkata, “Tunggu, ini pernah terjadi sebelumnya.” Dan membuka artikel tahun 2010 tentang wabah kutu busuk di kantor Google di New York.
Louise Matsakis: Ya. Ini bukan kali pertama, sungguh memilukan.
Zoë Schiffer: Setelah jeda, kami mendalami alasan beberapa orang terus-menerus menyampaikan keluhan ke FTC tentang ChatGPT, sehingga menyebabkan psikosis AI. Tetaplah bersama kami.
Selamat datang kembali Lembah Luar Biasa. Saya Zoë Schiffer. Saya bergabung hari ini dengan Louise Matsakis dari WIRED. Mari selami cerita utama kita minggu ini. Komisi Perdagangan Federal telah menerima 200 pengaduan yang menyebutkan ChatGPT OpenAI antara November 2022 saat diluncurkan hingga Agustus 2025. Kebanyakan orang memiliki keluhan yang normal. Mereka tidak tahu cara membatalkan langganan atau merasa frustrasi karena jawaban chatbot yang tidak memuaskan atau tidak akurat. Namun di antara keluhan tersebut, rekan kami, Caroline Haskins, menemukan bahwa beberapa orang mengaitkan delusi, paranoia, dan krisis spiritual dengan chatbot.
Seorang wanita dari Salt Lake City menelepon FTC pada bulan Maret untuk melaporkan bahwa ChatGPT telah menasihati putranya untuk tidak meminum obat yang diresepkan dan mengatakan kepadanya bahwa orang tuanya berbahaya. Keluhan lainnya datang dari seseorang yang mengklaim bahwa setelah 18 hari menggunakan ChatGPT, OpenAI telah mencuri “satu-satunya cetakan” mereka untuk membuat pembaruan perangkat lunak yang telah dirancang untuk membuat orang tersebut merugikan diri mereka sendiri. Mereka berkata, “Saya sedang berjuang, tolong bantu saya. Saya merasa sangat sendirian.” Ada banyak contoh lain, tapi saya penasaran untuk membicarakan hal ini dengan Anda, karena Louise, saya tahu bahwa psikosis AI adalah sesuatu yang telah banyak Anda teliti secara spesifik.
Louise Matsakis: Ya. Saya pikir penting untuk membongkar, apa yang dimaksud dengan psikosis AI? Apa yang menarik dan penting bagi saya tentang chatbots bukanlah bahwa mereka menyebabkan orang mengalami delusi, namun justru mendorong delusi tersebut. Dan masalahnya adalah interaksi ini memvalidasi orang-orang yang berkata, “Ya, paranoia yang Anda alami benar-benar valid.” Atau seperti, “Apakah Anda ingin saya menjelaskan mengapa teman dan keluarga Anda sering bersekongkol melawan Anda?”
Masalahnya adalah hal ini bersifat interaktif dan dapat mendorong orang untuk melakukan hal yang lebih jauh lagi. Selalu ada orang-orang yang mengalami krisis kesehatan mental dan menunjukkan tanda-tanda bahwa mereka tidak seharusnya mengalaminya, berpikir bahwa angka-angka yang mereka lihat di suatu tempat menunjukkan bahwa mereka adalah Yesus atau bahwa sesuatu yang mereka lihat di media sosial mencerminkan fakta bahwa mereka sedang diikuti, atau bahwa FBI ingin menangkap mereka, atau apa pun itu. Tapi sekarang, kita punya alat yang energinya tak ada habisnya dan bisa terus menerus, bisa langsung merespons khayalan itu dan menyemangatinya, dan secara khusus terlibat dengan apa yang dialami orang tersebut, dibandingkan dengan orang lain yang berkata, “Hei, sepertinya kamu tidak sehat,” atau objek fisik di dunia ini, yang rambu jalan atau semacamnya tidak akan menampilkan nomor lain dan berkata, “Kamu benar. Itu angka keberuntunganmu. Itu tanda dari Tuhan,” atau apa pun. Ini sangat interaktif.
Zoë Schiffer: Ya. Saya merasa Anda memahami sesuatu yang telah sering kita bicarakan, yaitu, dalam hal apa hal ini berbeda dari perubahan teknologi lain yang telah terjadi, yang berkorelasi dengan peningkatan penyakit mental tertentu?
Louise Matsakis: Ya. Saya pikir penyakit mental selalu menjadi bagian dari spesies kita. Dan perkembangan teknologi baru selalu mengubah cara kita memahami kegilaan, tapi menurut saya kita melihat hal itu terjadi lagi dalam kasus ini dan ini benar-benar sesuatu yang baru. Dan kita juga harus mencatat bahwa keluhan FTC ini adalah bagian dari semakin banyak insiden terdokumentasi yang disebut psikosis AI, di mana interaksi dengan chatbot AI generatif seperti ChatGPT, dan juga Google Gemini, telah memicu atau memperburuk delusi pengguna. Dan kita tahu bahwa hal ini telah menyebabkan sejumlah kasus bunuh diri. Selain itu, ChatGPT setidaknya telah terlibat dalam satu pembunuhan. Jadi kami melihat ada sesuatu yang sedang terjadi di sini dan saya rasa kami belum sepenuhnya memahaminya.
Zoë Schiffer: Benar. Dan yang menarik, pendekatan yang diambil OpenAI saat ini. Karena Anda dan saya telah berbicara secara ekstensif dengan orang-orang di perusahaan, dan jelas bahwa mereka menanggapi hal ini dengan serius. Mereka memperhatikan apa yang terjadi, dan mereka telah meluncurkan sejumlah fitur keselamatan. Namun yang belum mereka lakukan adalah mengatakan, “Kami akan menghentikan pembicaraan ini jika hal itu terjadi. Kami tidak akan terlibat.” Mereka malah berkonsultasi dengan pakar kesehatan mental. Mereka sekarang mempunyai dewan penasihat yang profesional di bidang ini, dan mereka benar-benar mengatakan beberapa versi, “Begini, orang-orang sering kali mendatangi kami ketika mereka tidak punya orang lain untuk diajak bicara, dan menurut kami bukan hal yang benar adalah menutupnya.” Yang saya tidak tahu, menurut saya, ini membuka OpenAI dengan banyak tanggung jawab.
Louise Matsakis: Memang benar, dan menurut saya kenyataannya mereka juga tidak memahami hal ini. Dengan adanya teknologi baru, selalu ada risiko. Saya pikir ini berbeda dan benar-benar patut diperhatikan dan memprihatinkan, namun belum tentu jelas bagi saya apakah menutup percakapan atau mengarahkan orang untuk berbicara dengan orang lain dalam hidup mereka, bahwa hasilnya akan berubah dan sulit juga untuk mengatakan seberapa serius seseorang. Saya sudah menulisnya, dan Anda mengedit cerita yang saya tulis, Zoë, yang menunjukkan bahwa terkadang chatbot ini tergelincir ke dalam permainan peran, dan itulah yang diinginkan orang, bukan? Mereka seperti memerankan fantasi. Mereka mungkin sedang mengerjakan buku fiksi ilmiah, atau terlibat dalam cosplay atau fiksi penggemar, bukan? Dan batas antara berfantasi dan mengeksplorasi rahasia gelap serta memercayai semua hal tersebut, dan menginternalisasikannya serta kehilangan pegangan pada kenyataan, menurut saya lebih halus daripada yang mungkin kita pikirkan atau yang kita inginkan.
Zoë Schiffer: Benar. Ya, ya. Perusahaan sedang menjalani jalur yang sangat menarik ini sekarang. Di satu sisi, hal ini dinyatakan secara terbuka, “Kami ingin memperlakukan orang dewasa seperti orang dewasa. Kami ingin memberikan banyak kebebasan kepada orang-orang dalam berinteraksi dengan ChatGPT jika mereka berusia di atas tertentu.” Di sisi lain, mereka menangani kasus penggunaan yang berpotensi sangat sensitif dan menangkis begitu banyak tuntutan hukum sekaligus. Jadi akan sangat penasaran untuk melihat bagaimana semua ini berkembang.
Louise Matsakis: Tentu saja. Saya pikir apa yang benar-benar ingin saya lihat, dan saya tidak tahu apakah ini mungkin, mengingat tuntutan hukum ini masih berlangsung, tetapi saya ingin melihat uji klinisnya. Saya pikir akan sangat berguna bagi OpenAI untuk memberikan banyak data ini secara anonim. Namun berikan data ini kepada pakar kesehatan mental yang kemudian dapat mengkajinya secara sistematis. Karena menurut saya hal yang menakutkan adalah para profesional kesehatan mental menjadi buta. Saya telah berbicara dengan beberapa dari mereka yang belum terlalu sering menggunakan ChatGPT, sehingga mereka bahkan tidak tahu bagaimana menangani pasien yang membicarakan hal-hal ini, karena hal tersebut asing dan ini semua sangat baru. Namun jika kita memiliki penelitian terbuka yang kuat dan ditinjau oleh rekan sejawat serta dapat berkata, “Oke, kita tahu seperti apa hal ini dan kita bisa membuat protokol untuk memastikan bahwa orang-orang tetap aman,” menurut saya, itu akan menjadi langkah yang sangat bagus untuk mencari tahu hal ini.
Zoë Schiffer: Sama sekali. Saya terus-menerus terkejut bagaimana bahkan orang-orang yang memiliki banyak pengetahuan tentang cara kerja teknologi ini, tergelincir ke dalam chatbot yang melakukan antropomorfisasi atau menugaskan lebih banyak kecerdasan daripada yang sebenarnya mereka miliki. Anda dapat membayangkan rata-rata orang yang tidak mendalami ilmu model bahasa besar, sangat mudah untuk benar-benar kagum dengan apa yang dapat mereka lakukan dan mulai kehilangan kendali atas apa yang sebenarnya mereka gunakan untuk berinteraksi.
Louise Matsakis: Oh, tentu saja. Kita semua sekarang disosialisasikan untuk mengambil banyak makna dari teks, bukan? Banyak dari kita, cara utama kita berkomunikasi dengan orang yang kita cintai, terutama jika kita tidak tinggal bersama, adalah melalui SMS, bukan? Jadi sepertinya Anda memiliki antarmuka yang mirip dengan chatbot ini. Bukan hal yang aneh jika Anda belum tentu mendengar suara chatbot, meskipun Anda sekarang dapat berkomunikasi dengan ChatGPT menggunakan suara, namun kami telah dilatih untuk mengambil banyak makna dari teks untuk meyakini bahwa ada orang di balik teks tersebut. Dan ada banyak bukti yang menunjukkan bahwa kita tidak lagi bersosialisasi sebanyak dulu. Orang-orang merasa lebih kesepian. Mereka merasa kurang terhubung dengan komunitasnya. Mereka memiliki lebih sedikit teman dekat. Saya pikir kami benar-benar siap untuk merasa seperti itu, dan saya pikir orang tidak perlu malu jika mereka merasa seperti itu atau berpikir ada sesuatu yang salah dengan diri mereka.
Sangatlah normal untuk dilibatkan oleh entitas yang memberikan banyak perhatian kepada Anda, yang bersedia mendengarkan apa pun yang ingin Anda bicarakan, dan sering kali, sangat menjilat dan benar-benar memvalidasi. Bagian dari memiliki hubungan yang sehat dengan orang lain adalah mereka tidak selalu memvalidasi Anda, bukan? Mereka akan memiliki batasan. Mereka akan mempunyai batasan. Dan menurut saya akan sangat menarik untuk memiliki kehadiran yang tidak memiliki batasan apa pun dan tidak pernah bosan berbicara dengan Anda, tidak pernah berpikir bahwa Anda salah. Dan wajar jika kita merasa seperti itu, namun pertanyaannya adalah, bagaimana kita membuat pagar pembatas?
Zoë Schiffer: Benar sekali. Saya pikir kita telah melihat di panggung nasional apa yang terjadi ketika Anda dikelilingi oleh orang-orang yang sependapat dengan Anda, apa pun yang terjadi, dan itu tidak baik.
Louise Matsakis: Tidak, itu tidak bagus.
Zoë Schiffer: Louise, terima kasih banyak telah bergabung denganku hari ini.
Louise Matsakis: Terima kasih banyak telah menerima saya.
Zoë Schiffer: Itulah pertunjukan kami hari ini. Kami akan menautkan ke semua cerita yang kami bicarakan di catatan acara. Pastikan untuk melihat episode hari Kamis Lembah Luar Biasaitulah sebabnya booming infrastruktur AI dan kekhawatiran seputar hal tersebut telah mencapai puncaknya. Adriana Tapia memproduseri episode ini. Amar Lal di Macro Sound mencampurkan episode ini. Kate Osborn adalah produser eksekutif kami. Kepala audio global Condé Nast adalah Chris Bannon. Dan Katie Drummond adalah direktur editorial global WIRED.
