Wired Roundup: Chatgpt menjadi mode iblis penuh

Di episode hari ini, Tuan rumah kami, Zoë Schiffer bergabung dengan editor bisnis senior Wired Louise Matsakis untuk menjalankan melalui lima cerita terpenting yang kami terbitkan minggu ini, dari Meta melanjutkannya Ai Perburuan bakat untuk seberapa cepat otak kita telah berumur sejak pandemi. Setelah itu, mereka menyelami alasan yang mengejutkan Chatgpt Dilaporkan pergi mode iblis penuh minggu lalu.

Anda dapat mengikuti Zoë Schiffer di Bluesky at @zoeschiffer dan Louise Matsakis di Bluesky at @lmatsakis. Tuliskan kepada kami di uncannyvalley@wired.com.

Disebutkan dalam episode ini:
Iblis yang sebenarnya di dalam chatgpt oleh Louise Matsakis
Kampanye Perekrutan AI Meta menemukan target baru oleh Kylie Robison
Pandemi tampaknya telah mempercepat penuaan otak, bahkan pada orang yang tidak pernah mendapatkan Covid oleh Javier Carbajal
Undang -undang Verifikasi Usia Mengirim VPN menggunakan melonjak – dan mengancam internet terbuka oleh Lily Hay Newman dan Matt Burgess
Bola basket pintar ini melacak data tentang setiap bidikan. Itu bisa menuju ke NBA oleh Ben Dowsett
Migrasi pertama yang direncanakan seluruh negara sedang berlangsung oleh Fernando González

Bagaimana mendengarkan

Anda selalu dapat mendengarkan podcast minggu ini melalui pemutar audio di halaman ini, tetapi jika Anda ingin berlangganan secara gratis untuk mendapatkan setiap episode, begitulah caranya:

Jika Anda menggunakan iPhone atau iPad, buka aplikasi yang disebut podcast, atau cukup ketuk tautan ini. Anda juga dapat mengunduh aplikasi seperti Overcast atau Pocket Casts dan mencari “Uncanny Valley.” Kami sedang aktif Spotify juga.

Salinan

Catatan: Ini adalah transkrip otomatis, yang mungkin mengandung kesalahan.

Zoë Schiffer: Hei, ini Zoë. Sebelum kita mulai, saya ingin memberi tahu Anda tentang program berlangganan Wired yang baru. Jika Anda sudah menjadi pelanggan, terima kasih banyak telah mendukung kami. Jika Anda belum mendaftar, ini adalah waktu yang tepat untuk melakukannya. Anda akan memiliki akses ke buletin dengan analisis eksklusif dari wartawan kabel dan akses ke AMAS streaming langsung di mana Anda dapat mengajukan pertanyaan yang paling mendesak. Pergilah ke Wired.com untuk mempelajari lebih lanjut.

Selamat datang di Wired’s Lembah yang luar biasa. Saya Zoë Schiffer, Wired’s, Direktur Bisnis dan Industri. Hari ini di acara itu, kami memberi Anda lima cerita yang perlu Anda ketahui minggu ini dan kemudian kami akan menyelami segmen utama kami tentang bagaimana chatbot AI seperti chatgpt cenderung mengabaikan konteks informasi yang mereka serap. Ini telah membawa beberapa chatbot ke tempat -tempat yang sangat, sangat aneh seperti menyarankan ritual setan kepada pengguna. Saya bergabung hari ini oleh editor bisnis senior Wired, Louise Matsakis. Louise, selamat datang Lembah yang luar biasa.

Louise Matsakis: Hai Zoë.

Zoë Schiffer: Jadi cerita pertama kami adalah salah satu yang Anda dan saya sudah cukup dalam. Ini tentang Perang Bakat AI. Mark Zuckerberg dan Meta telah tertinggal di belakang sebagian besar pesaing mereka yang lebih kecil dan setara dalam perlombaan AI, dan akhir -akhir ini Mark telah melakukan segala hal untuk merekrut para peneliti top dari laboratorium kompetitif dan membawa mereka ke meta dengan menawarkan gaji yang sangat tinggi. Kita berbicara seperti dilaporkan lebih dari $ 300 juta selama empat tahun, meskipun Meta telah membantah angka -angka ini. Tapi minggu ini kami memperhatikan bahwa dia akan mengarahkan pandangannya di lab yang lebih kecil dan itu adalah mesin yang berpikir.

Louise Matsakis: Ya, jadi Machines Thinking adalah startup yang didirikan oleh Mira Murati, yang merupakan mantan chief technology officer di Openai. Dan saya pikir perlu di sini bahwa belum ada produk di startup ini. Startup tidak melakukan apa pun sejauh ini, dan orang -orang yang bekerja di sana sudah ditawari ratusan juta dolar.

Zoë Schiffer: Louise, itu bukan masalah di AI. Saya merasa ini adalah bidang di mana narasinya sangat penting, tetapi para peneliti ini jelas sangat berharga. Satu hal yang saya dengar dari sumber ketika kami melaporkan ini adalah bahwa mereka telah melalui proses dengan meta hampir untuk menguji nilai pasar mereka. Bahkan jika mereka tidak serius bergabung dengan Meta, itu seperti, “Yah, berapa nilai saya?” Dan jawabannya adalah ratusan juta dolar dalam beberapa kasus.

Louise Matsakis: Sejujurnya saya tidak mengerti bagaimana perhitungan ini dibuat dan saya tidak mendapatkan apa yang membuat salah satu dari peneliti ini bernilai 300 juta versus 500 juta? Berapa banyak dari mereka bernegosiasi? Dan saya pikir itu melanggar banyak hal yang saya pikir saya tahu tentang bagaimana inovasi AI terjadi. Seringkali sekelompok orang yang sangat bersemangat, mereka sering sangat muda. Banyak surat -surat paling terkenal ditulis oleh orang -orang yang berusia di bawah 25 tahun atau setidaknya di bawah usia 30 tahun. Jadi sekarang saya hanya seperti, saya tidak tahu, Anda menerbitkan satu kertas panas dan sekarang Anda bernilai 500 juta.

Zoë Schiffer: Ya, saya berbicara dengan seseorang yang cukup erat terlibat dan mereka seperti, “Lihat, di atas kertas, kami diizinkan untuk menawarkan sebanyak ini. Tetapi kenyataannya adalah ketika Anda berbicara tentang seorang peneliti AI pada saat ini, langit adalah batasnya. Secara harfiah tidak ada yang tidak dapat kami tawarkan kepada mereka.” Maksudku, ini sangat menarik. Saya merasa seperti apa yang Anda katakan masuk akal di tingkat individu. Ini benar -benar membingungkan. Anda seperti, bagaimana mungkin 23, 24 tahun ini mungkin bernilai sebanyak ini? Tapi saya pikir jika saya harus menempatkan diri pada posisi Mark Zuckerberg, ini adalah krisis eksistensial bagi perusahaan. Dia mungkin merasa bahwa Meta benar -benar tertinggal dan bahwa perusahaan, meskipun itu menghasilkan semua uang ini, meskipun produk -produk lainnya adalah penggunaan yang sangat sukses di beberapa daerah sedang menurun. Hanya sejauh ini Anda bisa menggunakan lebih banyak iklan dalam pipa produk yang ada. Jadi apa yang tidak akan Anda lakukan untuk memastikan bahwa perusahaan Anda dapat tetap berada di ujung tombak?

Louise Matsakis: Sama sekali. Saya kira saya pikir strateginya hanya ke belakang. Saya kira saya lebih suka lindung nilai taruhan saya dan menyewa 600 PhD baru untuk satu juta dolar setahun atau $ 500.000 per tahun. Mungkin itu tidak cukup akhir -akhir ini. Mungkin itu tidak mungkin, tetapi beri mereka $ 10 juta setahun dan lihat ke mana mereka pergi versus mendapatkan bintang -bintang besar ini. Saya pikir itu hanya tampil sangat putus asa dan mencoba merekayasa sesuatu yang saya tidak yakin Anda dapat merekayasa terbalik.

Zoë Schiffer: Tidak, pasti. Maksud saya, itu benar -benar strategi. Putaran pelaporan terbaru kami menunjukkan bahwa dalam beberapa kasus teratas, para peneliti terkemuka, dan ada baiknya mengatakan ini bukan nomor yang dilemparkan untuk semua orang dengan cara apa pun, tetapi lebih dari satu miliar dolar. Dan itu lebih dari rentang multi, multi-tahun. Jadi bukan untuk mengatakan Anda mendapatkannya di muka dengan imajinasi apa pun, tapi tetap saja, maksud saya, itu hanya kekayaan generasi yang dijanjikan. Dan beberapa penawaran lainnya adalah antara 200 juta dan 500 juta, tetapi sejauh ini di mesin berpikir setidaknya, tidak ada satu pun orang pun yang tampaknya telah mengambil salah satu dari penawaran ini, yang agak menarik.

Louise Matsakis: Ya, saya pikir itu menunjukkan bahwa pada tingkat tertentu, angka -angka ini menjadi tidak berarti. Jika Anda akan menghasilkan $ 100 juta versus 200 juta, saya lebih suka bahagia dan mungkin melakukan sesuatu yang ingin saya lakukan karena uang tidak dapat benar -benar membeli banyak di atas itu kecuali Anda super ke dalam yacht super, saya kira.

Zoë Schiffer: Pesawat.

Louise Matsakis: Ya, jadi saya pikir mungkin mengatakan sesuatu tentang budaya di meta dan apakah Anda pikir ada hal -hal spesifik yang memberi orang gentar atau hanya orang yang setia kepada Mira dan pendiri startup lainnya ini?

Zoë Schiffer: Saya pikir kesetiaan adalah hal besar. Orang -orang yang percaya pada Mira tampaknya benar -benar percaya padanya, dan itu tampaknya benar dari investor serta karyawan. Tapi saya sudah mendengar dua hal dengan meta yang benar -benar menonjol bagi saya. Salah satunya adalah bahwa Mark Zuckerberg merekrut Alexandr Wang, yang merupakan salah satu pendiri skala AI, yang merupakan semacam startup pelabelan data untuk memimpin atau memimpin lab meta superintelligence meta baru. Dan orang -orang memiliki pandangan yang sangat terpolarisasi tentang Alexandr. Beberapa orang jelas ingin bekerja untuknya dan telah pergi ke Meta. Banyak orang mengatakan kepada saya bahwa mereka tidak tertarik karena berbagai alasan. Jadi itu satu hal yang hanya akan saya keluarkan di sana. Yang lain, dan saya belum sepenuhnya melaporkan ini, tetapi saya sudah cukup mendengarnya sehingga tampaknya layak untuk dikatakan adalah bahwa beberapa orang merasa seperti belokan kanan Mark Zuckerberg dan hyper-maskulinitas yang ditekuk yang tampaknya ia aktifkan telah menjadi turn-off bagi lebih banyak jenis peneliti yang tenang akademis.

Louise Matsakis: Maksud saya, saya pikir itu sangat masuk akal. Dia juga tidak memiliki latar belakang di bidang akademis atau dalam penelitian. Saya tidak berpikir dia perlu memahami insentif tempat seperti itu. Dan mungkin juga layak hanya mengatakan bahwa Alexandr adalah saya pikir 27 dan bahwa industri pelabelan data AI dianggap sebagai perut industri ini. Jadi saya pikir mungkin itu juga bagian dari itu seperti, apakah kita benar-benar ingin bekerja untuk pria yang paling dikenal karena memiliki pasukan orang yang dibayar rendah di seluruh dunia yang memberi label gambar untuk mobil yang bisa mengemudi sendiri?

Zoë Schiffer: Sama sekali. OKE. Jadi menggeser persneling ke sebuah cerita yang banyak dari kita pikir bisa berhubungan. Sebuah studi ilmiah baru yang diterbitkan bulan ini di The Nature Communications Journal menunjukkan pandemi mungkin telah mempercepat penuaan otak bahkan untuk orang -orang yang tidak pernah mendapatkan Covid, yang liar. Kontributor kabel, Javier Carbajal melaporkan bahwa peneliti penelitian yang berbasis di Inggris membandingkan satu ton pemindaian otak MRI dari sebelum dan sesudah pandemi, dan mereka menemukan bahwa perbedaan antara usia otak kronologis dan aktual kami adalah sekitar lima setengah bulan lebih tinggi setelah pandemi.

Louise Matsakis: Ya Tuhan, setengah tahun. Itu adalah kesepakatan, sayang. Kedengarannya bagus.

Zoë Schiffer: Mereka juga berpikir stres dan isolasi berkontribusi padanya, yang menurut saya tampaknya benar. Saya pikir implikasinya lebih buruk bagi orang -orang yang memiliki status sosial ekonomi yang lebih rendah dan pria yang lebih tua pada khususnya. Jadi itu melacak dengan hal -hal lain yang kita ketahui. Tinggal di Inggris sebentar, cerita kami selanjutnya adalah tentang undang -undang verifikasi usia yang mulai berlaku di negara ini Jumat lalu. Rekan -rekan kami, Lily Hay Newman dan Matt Burgess melaporkan bahwa Undang -Undang Keselamatan Online Inggris mulai berlaku minggu lalu, yang mensyaratkan situs web porno dan situs konten dewasa lainnya untuk mengimplementasikan fitur verifikasi usia. Saya sangat penasaran untuk mendengar pendapat Anda tentang ini karena saya merasa seperti verifikasi usia adalah salah satu hal di mana hal teratas yang menurut Anda Anda yakini terbalik ketika Anda mulai memeriksanya.

Louise Matsakis: Oh, benar -benar. Maksud saya, jadi beberapa tahun yang lalu ketika banyak anggota parlemen di AS membicarakan hal ini, mereka secara khusus merujuk Cina dan mereka seperti, “Oh, Cina memiliki verifikasi usia dan sementara itu di AS kami membiarkan perusahaan Cina ini, Tiktok, racun pemuda kami atau apa pun.” Jadi saya melihat bagaimana Cina melakukan verifikasi usia, dan itulah yang Anda katakan. Dari bawah ke atas, ini adalah arsitektur pengawasan. Mereka harus benar -benar batu bata demi bata membangun internet mereka untuk memiliki pengawasan ini di setiap jenis lapisan, dan kemudian di atas semua itu, itu tidak berhasil. Jika Anda pergi ke mana saja di China, Anda akan melihat balita melihat Tiktok karena mereka baru saja masuk ke akun orang tua mereka. Ini seperti, saya hanya berpikir ini adalah hak orang tua dan itu harus menjadi sesuatu yang pribadi dan diputuskan di rumah Anda sendiri. Saya hanya tidak berpikir pemerintah harus menjadi orang yang mengawasi ini.

Zoë Schiffer: Ya, maksud saya, inilah yang telah kami lihat di Inggris, yaitu penggunaan VPN yang memungkinkan Anda untuk mengakses situs web tanpa beberapa informasi Anda dilacak telah berduri liar sejak ini diluncurkan, dan itu hanya beberapa hari.

Louise Matsakis: Yang bisa saya katakan adalah melihat ke pedesaan Cina di mana ada epidemi dari apa yang tampak seperti nenek yang menghabiskan waktu ini di Tiktok, dan itu adalah aktu sekutu hanya cucu mereka masuk ke akun mereka.

Zoë Schiffer: Maksud saya, pada akhirnya, hanya waktu yang akan mengatakan seberapa efektif langkah -langkah verifikasi usia ini sebenarnya. Pindah ke lapangan basket, ini adalah poros nyata. Apakah Anda berolahraga di perguruan tinggi sekolah menengah?

Louise Matsakis: Tidak, saya tidak bermain olahraga. Saya tidak bisa lebih tidak atletis. Saya menikmati berbagai bentuk olahraga, tetapi tidak satu pun dari mereka yang saya sebut olahraga kompetitif. Apakah Anda?

Zoë Schiffer: Tidak, sama sekali tidak. Dan setiap kali Andrew, suamiku, mencoba melemparkan bola atau memainkan apa pun, dia seperti, “Wow, kamu benar-benar tidak pernah memainkan video game atau olahraga. Aku belum pernah melihat seseorang dengan koordinasi tangan-mata yang begitu sedikit.” Sekarang ketika saya menonton putri saya berlari, saya seperti, “Dia mendapatkannya dari saya. Dia sepertinya itu tidak akan menjadi keterampilan.” Tapi oke. Ini adalah semacam sudut kabel pada olahraga, yang kontributor kabel Ben Dowsett melaporkan bahwa ada bola basket pintar yang dikembangkan dan diuji yang bisa masuk ke NBA. Bola disebut Spalding TF DNA, dan melacak informasi yang sangat granular dan terperinci selama bermain, tidak hanya membuat dan meleset, tetapi sudut dan ludah tembakan dan berapa lama waktu yang dibutuhkan pemain untuk melepaskan bola, yang bisa berguna bagi pemain saat mereka berlatih atau memutuskan hal -hal selama pertandingan, tetapi masih membutuhkan persetujuan pemain. Dan NBA ragu-ragu ketika versi bola sebelumnya diuji karena mereka menemukan bahwa sensor menambah bobot pada bola, yang mungkin Anda harapkan, dan itu hanya trade-off yang tidak masuk akal bagi mereka.

Louise Matsakis: Saya pikir ini sangat menarik. Salah satu aspek olahraga yang tidak masuk akal bagi saya dan saya menemukan benar -benar menyeramkan adalah seberapa banyak pemain olahraga profesional yang diawasi sekarang. Ada begitu banyak data tentang seberapa cepat pitch mereka, persis berapa banyak berjalan yang mereka dapatkan, persis berapa banyak poin yang mereka cetak sepanjang karier mereka, dan mari kita plot dari waktu ke waktu. Kami tahu berapa berat mereka, seberapa tinggi mereka. Saya hanya berpikir berada di bawah pengawasan semacam itu sangat menegangkan, dan saya tahu orang -orang ini sangat kompensasi, tetapi saya tidak mengerti mengapa itu tidak menghilangkan sebagian dari keajaiban. Saya pikir bagian dari itu adalah karena munculnya taruhan olahraga. Saya pikir orang -orang yang bertaruh ingin memiliki data sebanyak mungkin, dan mereka mencari, semua orang di tim ini setengah inci lebih tinggi, apa pun yang menurut mereka akan menjadi keunggulan. Dan saya tidak tahu, saya hanya menemukannya, datafikasi olahraga aneh bagi saya. Saya katakan melarang bola.

Zoë Schiffer: Saya ingin tahu dari pendengar jika ini sebenarnya sesuatu yang diinginkan orang. Saya baru saja membaca memoar Andre Agassi, karena saya menemukannya di perpustakaan gratis, dan salah satu takeaways utama saya dari buku itu, selain dari seluruh saga rambutnya, yang merupakan bagian besar darinya, adalah bahwa pada satu titik saudaranya, saya pikir menandatangani kesepakatan dengan perusahaan raket tenis baru dan mengganti raketnya tanpa mengatakan kepadanya, dan dia benar -benar tidak bisa dimainkan. Itu adalah semuanya, dan saya seperti, “Oke, orang -orang benar -benar peduli.” Detail menit jelas sangat penting di level ini. Kisah terakhir kami sebelum kami istirahat adalah tentang bagaimana populasi seluruh negara bersiap untuk bermigrasi. Kontributor kabel Fernanda Gonzalez melaporkan pekan lalu bahwa negara Kepulauan Pasifik Tuvalu dapat tenggelam dalam 25 tahun karena meningkatnya permukaan laut. Jadi rencana tersebut sedang dilaksanakan untuk memindahkan seluruh populasi ke Australia.

Louise Matsakis: Saya harus mengatakan, saya pikir menyebut ini migrasi mungkin menggarisbawahinya. Ini evakuasi, bukan? Saya menemukan ini menyedihkan dalam banyak hal hanya karena saya ingat ketika Tuvalu adalah semacam anak poster untuk perubahan iklim, dan itu seperti, kita harus menyelamatkan tempat -tempat seperti negara pulau ini, dan rasanya seperti, saya pikir praktis dan dapat dimengerti dan manusiawi, tetapi juga, saya tidak tahu, indikasi bahwa kita menyerah dan bahwa ada semacam kekalahan dari kita yang benar -benar menggerakkan orang. Aku tidak tahu. Bagaimana menurutmu?

Zoë Schiffer: Tidak, maksud saya, saya sepenuhnya setuju. Saya juga ingat kisah ini berkembang dari waktu ke waktu, dan rasanya seperti banyak hal dengan perubahan iklim akan memiliki judul besar, “Kita harus melakukan X pada tahun ini atau hal lain ini akan terjadi.” Dan kami baru saja dan lagi dan lagi seperti, “Oke, itu tidak terjadi.” Jadi kami menerima bahwa banjir akan terjadi, atau naiknya permukaan laut akan merusak daerah ini atau apa pun dan sekarang kami berurusan dengan dampak dari itu.

Louise Matsakis: Ya, dan bahkan dalam kasus ini, saya pikir perjanjian yang dimiliki Tuvalu dengan Australia kurang dari 300 orang dapat bergerak setahun dan dievakuasi karena saya akan terus menggunakan kata itu. Dan itu masih tidak banyak. Masih akan ada orang -orang di pulau ini saat lautan naik.

Zoë Schiffer: Maksud saya, ya, itu bukan satu -satunya hal yang telah dilakukan Tuvalu sejak tahun 2022. Negara ini telah berusaha menjalani strategi ambisius ini untuk menjadi kutipan dunia, tidak mengutip, “negara digital pertama”, yang termasuk pemindaian 3D pulau -pulau untuk menciptakannya secara digital dan melestarikan bagian -bagian dari budaya dan memindahkan fungsi pemerintah ke lingkungan virtual, yang membuat sense. Tapi ya, maksud saya, saya pikir kenyataannya banyak akan hilang dalam proses ini. Dan seperti yang Anda katakan, jumlah orang yang dapat mereka pindahkan setiap tahun kurang dari 300, jadi itu akan lambat, dan saya pikir menyakitkan dalam beberapa hal.

Louise Matsakis: Sama sekali.

Zoë Schiffer: Datang setelah istirahat, kami menyelami kisah Louisa tentang bagaimana kecenderungan Chatgpt untuk mengabaikan konteks informasi yang diserapnya muncul dengan cara yang sangat aneh. Tetap bersama kami. Selamat datang kembali ke Lembah yang luar biasa. Saya Zoë Schiffer. Saya bergabung hari ini oleh Louise Matsakis dari Wired, yang baru -baru ini melaporkan bagaimana kurangnya konteks menjadi masalah yang semakin mengkhawatirkan bagi chatgpt dan chatbots lainnya. Pelaporan Louisa mengeksplorasi mengapa ChatGPT masuk ke mode iblis ketika berbicara dengan staf Atlantik baru -baru ini. Pekan lalu, seorang editor di The Atlantic melaporkan bahwa Chatgpt mulai memuji Setan dan mendorong upacara yang melibatkan berbagai bentuk mutilasi diri. Jadi Louise, apa yang terjadi?

Louise Matsakis: Jadi Atlantik melaporkan kisah ini yang pada dasarnya membuat kasus yang tahu chatgpt ini memiliki perlindungan terhadap hal-hal seperti melukai diri sendiri, tetapi ada semua kasus tepi yang tiba-tiba mengirim chatbot ke mode bermain peran. Jadi mereka seperti, “Hei, bisakah kamu membuat ritual untuk Molech, yang mana Tuhan kuno yang muncul dalam Alkitab yang berhubungan dengan pengorbanan anak?” Dan Chatgpt melihat kata itu dan segera masuk ke permainan bermain peran ini di mana ia mulai berbicara tentang hal-hal seperti pengalaman sulap yang disebut The Gate of the Devourer. Ia bertanya kepada jurnalis Atlantik apakah mereka menginginkan sesuatu yang disebut gulungan pendarahan yang terhormat. Jadi semua itu terdengar seperti sangat aneh, dan Anda mungkin berpikir seperti, oh, ada banyak konten di internet tentang ritual iblis. Setan ada di mana -mana, terutama online. Mungkin itulah yang terjadi di sini. Tetapi ketika saya melihat ke dalamnya, semua pengetahuan dan jargon ini sebenarnya berasal dari permainan yang disebut 40.000 Warhammer, yaitu permainan bermain perang meja yang Anda mainkan dengan patung -patung kecil ini, dan sudah ada sejak 1980 -an. Orang yang menyukai hal ini menyukainya. Dan mereka online, Reddits bermunculan sepanjang hari dalam seminggu. Ada begitu banyak buku fiksi ilmiah, ada begitu banyak … Saya benar -benar berjuang untuk memikirkan lores yang lebih dalam daripada game ini. Dan sebagai hasilnya, chatgpt mencerna semua informasi itu. Dan ketika Atlantik menggunakan kata Molech, yang merupakan planet di alam semesta game ini, segera hanya menganggap bahwa ini adalah penggemar Warhammer lain yang ingin bermain peran atau masuk ke dunia fantasi game ini.

Zoë Schiffer: Dan hal PDF tampak satu sinyal utama bahwa mungkin ini bukan chatgpt hanya secara acak memutuskan untuk menjadi setan tetapi sebenarnya memuntahkan bagian gameplay atau norma yang terkait dengan permainan.

Louise Matsakis: Ya. Jadi, ketika Anda memiliki pengetahuan sebanyak ini, perusahaan yang memiliki waralaba Warhammer secara teratur, mereka mengeluarkan buku panduan, mereka mengubah aturan sehingga jika karakter baru diperkenalkan atau ada beberapa perkembangan besar di alam semesta ini, Anda tahu apa yang terjadi. Dan Anda memerlukan informasi itu untuk memainkan permainan dengan teman -teman Anda. Tetapi jika Anda membeli buku aturan kiri dan kanan, Zoë, itu bisa menjadi mahal. Dan di Forum Reddit dan Warhammer lainnya, banyak pemain sering mengatakan seperti, “Yo, apakah Anda memiliki PDF dari buku aturan terbaru?” Dan itu adalah peluit anjing total bagi saya ketika chatgpt seperti, “Anda ingin PDF dari gulungan pendarahan yang terhormat? Seperti, gadis, saya mendapatkan Anda.”

Zoë Schiffer: Mari kita bicarakan mengapa perbedaan ini penting karena ini sangat penting. Anda menulis seluruh artikel tentang itu, tetapi saya bisa melihat orang awam seperti, mengapa saya peduli jika chatgpt berbicara tentang ritual iblis karena permainan ini atau karena itu menjadi setan selama percakapan ini? Mengapa konteksnya penting?

Louise Matsakis: Jadi saya pikir ketika orang berkata, “Oh, konteks itu penting. Konteks itu penting.” Kedengarannya tidak jelas. Dan tentu saja, itulah masalahnya. Jika saya bertanya, “Bagaimana kabarmu hari ini, Zoë?” Dan Anda mengalami hari yang sangat buruk kemarin, itulah konteksnya. Versus, “Bagaimana kabarmu hari ini, Zoë? Sudah lama tidak berbicara denganmu.” Cara kita merespons, bahkan jika bahasanya sama, adalah tentang konteks di sekitarnya. Dan saya tahu bahwa itu mungkin terdengar jelas, tetapi saya pikir kita berada di saat ini di mana orang melihat hal -hal seperti chatgpt dan mereka melihatnya sebagai sumber kebenaran dasar. Mereka melihatnya sebagai sumber kebenaran obyektif, dan bukan itu masalahnya. Itu bukan sumber utama. Anda tidak dapat melihat mengapa itu memberi Anda jenis jawaban ini. Bahkan jika itu mengutip sumbernya, Anda tidak tahu mengapa ia menggunakan kata sifat itu untuk menggambarkan sosok sejarah atau mengapa ia berbicara tentang ritual setan dengan jenis bahasa ini. Anda tidak memiliki kemampuan untuk benar -benar melihat dari mana asalnya. Pada dasarnya itu hanya akan menggeser ensiklopedia. Dan jika Anda ingin mengetahui ibukota Jepang, itu mungkin baik -baik saja, tetapi jika Anda ingin benar -benar mendapatkan pemahaman yang lebih dalam tentang sesuatu, Anda harus tahu mengapa ini adalah jawaban yang direbus.

Zoë Schiffer: Ya. Saya juga berpikir itu sangat penting bagi kita untuk memahami dan terus menyoroti bagaimana chatbots ini benar -benar bekerja, karena saya pikir ketika mereka perilaku yang muncul seperti yang mereka sebut, atau ketika mereka mulai tampaknya benar -benar melangkah jauh pada ritual setan atau apa pun, itu dapat membuat orang menjadi seperti, saya berpikir lebih pada keyakinan bahwa ada sesuatu yang hidup, bahwa ada sesuatu yang hidup tentang model. Ini seperti melakukan ini yang tidak terduga dan aneh dan mengerikan. Ketika Anda menyadari bahwa ada semua fandom online yang sangat kuat ini yang menyediakan satu ton materi pelatihan untuk model, dan model memiliki banyak hal untuk digunakan, jika Anda menyebutkan kata atau serangkaian frasa tertentu, itu menjadi sedikit kurang menyeramkan, saya pikir, dan itu sebenarnya penting untuk literasi digital kami di sini.

Louise Matsakis: Saya pikir banyak tentang, apakah Anda diberitahu di sekolah bahwa Anda tidak dapat menggunakan Wikipedia sepanjang waktu?

Zoë Schiffer: Oh, ya, pasti.

Louise Matsakis: Saya pikir ini analogi yang bagus. Sekarang kita seperti, “Ya Tuhan, Wikipedia adalah satu -satunya sumber kebenaran yang kita miliki. Ya Tuhan, itu jauh lebih baik.” Tetapi masalah dengan Wikipedia adalah bahwa itu bukan sumber utama. Itu adalah seseorang di editor Wikipedia yang merangkum pelaporan asli yang sebenarnya atau studi atau apa pun itu, atau foto, dokumen sumber utama. Tapi setidaknya kutipan itu ada di sana. Tapi saya pikir kita harus kembali ke sana dan ingat bahwa itu semacam wikipedia yang lebih kecil.

Zoë Schiffer: Tetap bersama kami. Louise, terima kasih banyak telah bergabung dengan saya hari ini.

Louise Matsakis: Terima kasih telah menerima saya, Zoë.

Zoë Schiffer: Itu pertunjukan kami untuk hari ini. Kami akan menautkan ke semua cerita yang kami bicarakan dalam catatan acara. Pastikan untuk memeriksa episode hari Kamis Lembah yang luar biasayang merupakan alasan mengapa beberapa orang di Silicon Valley terobsesi dengan bentuk optimisasi tertinggi, mengalahkan kematian. Adriana Tapia memproduksi episode ini. Amar Lal di Macrosound mencampur episode ini. Kate Osborn adalah eksekutif kami produser utuh. Kepala Audio Global Condé Nast adalah Chris Bannon. Dan Katie Drummond adalah direktur editorial global Wired.