Pada bulan Maret Tahun ini, Meredith Whittaker berada di meja dapurnya di Paris saat sinyal, Layanan pesan terenkripsi Dia berlari, tiba -tiba menjadi berita utama internasional. Seorang kolega mengirim obrolan kelompok mereka cerita yang memantul di seluruh dunia: “Pemerintahan Trump secara tidak sengaja mengirimi saya rencana perangnya.”
Tentu saja, Anda tahu sisanya: dalam karya itu, pemimpin redaksi Atlantik, Jeffrey Goldberg, merinci bagaimana ia ditambahkan ke obrolan sinyal tentang operasi militer mendatang di Yaman. Selama hari dan minggu berikutnya, insiden itu akan dikenal sebagai “Signalgate”—Dan menciptakan risiko yang sah bahwa dampak akan menyebabkan orang mempertanyakan keamanan sinyal, alih-alih mengarahkan jari-jari mereka di OP-SEC-Sec dari pejabat tingkat senior Trump.
Itu tidak pernah terjadi. Faktanya, angka pengguna Signal tumbuh dengan lompatan dan batas, baik di AS maupun di seluruh dunia. Pertumbuhan itulah, pikir Whittaker, akan datang pada saat “orang merasa dengan cara yang jauh lebih dalam, jauh lebih pribadi mengapa privasi mungkin penting.”
Pada episode minggu ini Wawancara besar, Saya berbicara dengan Whittaker, yang juga menduduki AI Now Institute, tentang setelah Signalgate, lintasan kecerdasan buatan, dan hubungan industri teknologi saat ini dengan politik.
Wawancara ini telah diedit untuk panjang dan kejelasan.
Katie Drummond: Meredith Whittaker, selamat datang Wawancara besar.
Meredith Whittaker: Senang bertemu denganmu, Katie.
Senang melihatmu juga. Persiapkan diri Anda, kami selalu memulai percakapan ini dengan sedikit pemanasan, jadi saya akan mengajukan beberapa pertanyaan yang sangat cepat. Siap?
Saya.
OKE. Gunung atau pantai?
Gunung.
Apa AI Buzzword apa pun yang paling berlebihan saat ini?
Agen.
Aku tahu kamu akan mengatakan itu. Apa aplikasi AI teraneh yang pernah Anda lihat?
Chatbot yang berpura -pura menjadi teman Anda.
Itu aneh.
Benar?
Lebih aneh setiap hari. Jika sinyal memiliki maskot, apakah itu?
Kami tidak akan pernah memberi tahu Anda.
Emoji apa yang terbaik merangkum filosofi Anda tentang privasi?
Emoji hantu.
Bagus. Lebih aman: Surat tulisan tangan atau teks terenkripsi?
Huruf tulisan tangan.
Pesanan Kopi: Sederhana atau Rumit?
Sederhana.
Dia mengatakan yang sebenarnya. Dia minum apa yang tampak seperti kopi yang sangat mendasar saat ini. Jika Anda tidak bekerja di bidang teknologi, apa yang akan Anda lakukan? Apa jalur karier alternatif Anda?
Seorang penyair.
Suka itu. Seseorang bertanya kepada saya sekali. Saya tidak ingin name-drop, tapi itu [New Yorker editor] David Remnick, dalam wawancara kerja, dan saya mengatakan terapis pijat. Dia seperti, “Ada apa denganmu?”
Dia seperti, dipekerjakan.
Astaga. Wow.
Saya bisa membuat lelucon itu. Saya tidak ada di industri Anda.
Tidak apa -apa. Saya tersipu. Oke, jadi mari kita bicara sedikit tentang Anda sehingga saya bisa berhenti membicarakan wawancara yang sangat canggung yang saya lakukan dengan David Remnick.
Menariknya, kita tidak tahu banyak tentang kehidupan awal Meredith, yang saya sadari sengaja. Anda telah berbicara tentang bagaimana Anda memutuskan untuk merahasiakan kehidupan pribadi Anda. Anda memutuskan bahwa pada usia yang sangat dini. Kalau saja lebih banyak orang yang berhati -hati. Ceritakan tentang keputusan itu.
Saya tidak berpikir itu adalah keputusan yang sadar. Itu bukan lentur. Ini tidak seperti saya bangun setelah membaca buku tentang cara menjalani hidup Anda dan saya memutuskan ini adalah siapa saya dan saya memelihara firewall ini. Sepertinya aneh dan menyeramkan. Teman -teman saya mengenal saya. Keluarga saya mengenal saya.
Ya.
Tetapi saya masih remaja ketika Myspace dan Friendster – jejaring sosial proto – datang. Saya datang di ruang obrolan dan, seperti, kelompok Usenet, dan itu tentang, seperti, Apakah ada kepribadian yang bisa Anda buat yang lucu atau aneh atau miring? Seberapa baik tepuk tangan Anda? Seberapa akurat informasi Anda? Bisakah Anda memanggang dengan pemanggang? Itu tidak ada hubungannya dengan paparan kehidupan pribadi Anda.
Saya pikir aneh bahwa itu telah menjadi bagian dari budaya normal, bahwa segala sesuatu tentang Anda dianggap sebagai permainan yang adil. Ini adalah pertanyaan tentang apa yang membuat Anda menjaga kehidupan pribadi dan hubungan Anda dengan diri sendiri? Dan saya seperti, apa yang membuat kami menganggap setiap aksi mikro dan hubungan dan konteks sosial dapat ditambang dan dapat ditelusuri dan bahkan dapat dimengerti.
OKE. Jawaban yang adil. Kami tahu apa yang kami ketahui tentang Anda.
Kami, siapa kami?
Produser saya dan saya sendiri. Kami tahu Anda pergi ke UC Berkeley.
Ya.
Anda mempelajari sastra retorika dan bahasa Inggris. Menurut Anda apa yang ingin Anda lakukan?
Saya pikir kuliah adalah keramaian yang jauh lebih mudah daripada bekerja ritel dan mengelola band dan menggesek uang bersama. Saya tidak datang dari tempat di mana Anda menetapkan rencana lima tahun sebagai anak berusia 12 tahun dan masuk ke sekolah. Itu bergegas. Sulit untuk bekerja ritel pada awalnya. [College] Hanyalah pekerjaan yang jauh lebih mudah, dan saya pandai sekolah. Saya selalu menjadi pembaca besar. Seperti itu tidak pernah sulit bagiku. Tapi itu bukan aspirasi karier. Saya suka membaca buku. Ini adalah yang paling menyenangkan yang bisa saya miliki.
Kemudian saya lulus, dan ada beberapa profesor yang ingin mendorong saya ke sekolah pascasarjana, dan saya seperti, “Itu bukan taruhan yang baik. Saya tidak ingin mengambil pinjaman apa pun.” Seperti saya memiliki kelesuan berbasis kelas semacam ini di sekitarnya yang berhutang, dan kemudian saya mulai mencari pekerjaan.
Saya memasang resume saya di monster, yang merupakan LinkedIn lama, untuk pemuda.
Oh ya.
Dan perekrut Google menjangkau.
Saya akan pergi ke sana. Kami tidak akan menghabiskan banyak waktu di Google, tetapi Anda bekerja di Google. Apakah itu kejutan budaya? Saya akan mengatakan, mengenal Anda sekarang, sulit untuk dibayangkan.
Itu aneh, tetapi lompatan dari tempat saya berasal ke peringkat terendah Google ketika saya mulai lebih jauh dari lompatan apa pun yang bisa saya buat dari posisi entry-level saya di Google ke mana saja. Itu hanya konteks yang sangat, sangat berbeda, jadi saya tidak tahu betapa abnormal tempat itu. Saya seperti, Saya kira seperti inilah pekerjaan bisnis.
Kami banyak duduk. Anda tidak memiliki kehidupan sosial. Anda bangun jam 6:00, Anda mengambil antar -jemput dari Berkeley ke Mountain View, dan kemudian Anda pulang sekitar jam 9:00. Tapi itu juga seperti lingkungan yang liar dan penuh sesak. Pada saat itu, ketika saya mulai pada tahun 2006, itu adalah konteks teknologi yang sangat berbeda. Ada sejumlah besar uang, tetapi Google tidak mengakar dirinya sebagai pemain dominan.
Benar, benar.
Ini adalah semacam platform yang mencoba memonetisasi perhatian dengan berbagai cara, dan ada keyakinan nyata pada inti dari budaya yang akhirnya formula menjadi miliarder etis – kami menemukan, kami membuka kuncinya kapitalisme yang baik dan ini dia. Dunia akan diubah. Dan saya seperti, whoa, ini menarik. Orang -orang yang bekerja di bidang teknologi bersama saya tidak masuk ke bidang itu sebagian besar karena itu adalah bidang uang. Mereka masuk ke dalamnya karena mereka seperti kutu buku kecil wol yang menyukai sirkuit.
Benar.
Ada sejumlah besar toleransi untuk orang aneh dan kutu buku dan orang -orang aneh yang aneh, yang saya cintai. Itu kru saya. Dengan cara itu, itu adalah lingkungan yang cukup menyenangkan karena jika Anda bekerja di Bell Labs, Anda dipekerjakan. Jika Anda mengerjakan beberapa protokol inti, Anda dipekerjakan. Jadi banyak orang yang sangat pintar yang benar -benar tertarik pada apa yang mereka lakukan adalah berkeliaran dengan uang dan waktu dan banyak izin untuk melakukan hal -hal.
Bagian yang beruntung tentang datang dari mana saya berasal adalah saya tidak menyadari cek itu tidak ditulis kepada saya. Jadi saya berjalan -jalan mencoba menguangkan mereka di mana -mana, kan? Saya seperti, “Yah, saya ingin melakukan itu.” Dan mereka seperti, “Yah, Anda tahu?
Salah satu hal menarik tentang waktu Anda di Google, bagi saya, adalah Anda menonton evolusi AI. Anda sebenarnya telah memperingatkan tentang implikasi AI selama bertahun -tahun. Bisakah Anda berbicara sedikit tentang tahun -tahun sebelumnya melihat evolusi AI dan melihat ke masa depan, dan melihat hal -hal yang sekarang kita alami? Maksud saya, apakah Anda merasa gila? Apakah Anda terlihat gila untuk membunyikan alarm -alarm itu sejak dini?
Ya. Maksudku, aku tidak pernah merasa gila. Yang paling saya pikirkan seperti, “Oh, saya tidak boleh jelas apakah ini tidak mendarat. Bagaimana saya mengatakan ini lebih jelas? Karena jelas jika orang mendengarnya, kita akan bertindak dengan benar?” Dan itu adalah versi diri saya yang lebih naif. Tapi Anda tahu, saya memulai 2006 di Google dan kemudian saya mendirikan upaya yang disebut M-LAB yang merupakan semacam pengukuran jaringan skala besar, pada dasarnya mengukur kinerja internet Anda. Seperti mengapa Comcast tidak berfungsi? Ini adalah upaya untuk membuat data yang dapat hidup di domain publik, yang dapat memungkinkan kita untuk memahami netralitas bersih, yang merupakan topik besar saat itu. Juga hanya untuk memiliki sumber informasi publik tentang bagaimana infrastruktur inti ini, jaringan telekomunikasi ini, berfungsi.
Dalam proses itu, saya benar -benar peka terhadap proses membuat data, bukan? Seperti jutaan pilihan editorial yang masuk Bagaimana kami merancang metodologi yang akan membuat data yang dapat kami katakan dengan nyaman adalah proxy untuk kenyataan yang sangat kompleks? Saya sudah didukung oleh data kontingen dan akhirnya editorial. Ini bukan refleksi datar dari fakta -fakta alam semesta kita. Ini adalah serangkaian pilihan yang dibuat orang yang mencerminkan posisi mereka, minat mereka, pekerjaan yang mereka miliki, bukan? Mengapa Google membayar saya untuk melakukan ini? Nah, ada minat pada kumpulan data ini yang ada, bukan?
Mereka membayar $ 40 juta per tahun hanya dalam bandwidth untuk membantu mempertahankan infrastruktur ini di seluruh dunia. Mengapa mereka membayarnya? Karena dataset itu melakukan sesuatu untuk mereka di dunia. Dan itu terjadi selama tahun 2000 -an hingga awal 2010 -an. Pembelajaran mesin ada di sekitar, pembelajaran mesin adalah salah satu dari sejumlah teknik statistik yang biasanya hidup antara iklan dan penelitian untuk membantu mengoptimalkan lelang iklan dan penempatan iklan, apa pun. Tapi itu bukan Ketuhanan, kan?
Ya, ya.
Itu seperti hal yang dilakukan beberapa orang. Kemudian pada awal hingga pertengahan 2010-an saya mulai melihat kursus pembelajaran mesin muncul. Itu menjadi hal yang akan beralih dari pembicaraan teknologi kecil di sekitar inovasi pembelajaran mesin ke tahap utama pertemuan mingguan semua perusahaan Google.
Ada pertemuan yang saya miliki pada waktu itu, saya mengelola anggaran yang cukup besar, tetapi menjalankan kelompok penelitian terbuka, yang berkolaborasi dengan banyak akademisi dan proyek open source seputar masalah besar yang membentang di luar Google. Itu sangat menyenangkan. Saya mendanai sejumlah proyek sehingga orang akan datang dan melempar saya.
Ada tim ini dari Harvard yang datang menginginkan saya untuk mendanai upaya untuk menciptakan semacam algoritma deteksi genosida berbasis mesin.
Wow. OKE.
Anda tahu, ini, saya tidak tahu, 2015. Sesuatu di sekitarnya. 2014. Dan saya seperti, “Tunggu, apa? Bagaimana Anda mendefinisikannya?”
Bagaimana kabarmu [argue] itu dengan data? Jika Anda melihat kembali petisi yang menyertai Tidak mengadopsi definisi genosida Lemkin Pasca Perang Dunia II, selalu ada kontestasi di sekitar siapa yang dapat mengklaim istilah itu dan siapa yang tidak bisa mengklaim istilah itu sejak awal.
Saya mengajukan pertanyaan ini dan saya tidak mendapat jawaban. Itu hanya semacam Matematika akan menyelesaikannya. Kami akan membangun model. Kami pikir kami bisa mendapatkan data … dan itu seperti, “Yah, data sensus di seluruh negara bahkan tidak dapat disuntikkan. Ini dikumpulkan dengan cara yang berbeda. Ini mewakili metodologi yang sama sekali berbeda. Bagaimana Anda melakukan ini?”
Tapi itu, bagi saya, apakah saat ini di mana saya berada, oke, apa yang sebenarnya kita lakukan di sini?
Ya.
Karena saya melihat semacam ini muncul di sekitar perusahaan. Mengklaim dapat memprediksi, mendeteksi, dan melakukan hal-hal yang saya tahu data yang akan mereka gunakan jauh lebih buruk daripada data M-LAB. Seperti saya tahu betapa obsesifnya kita tentang kekakuan metodologis untuk pengukuran yang ar E Level yang sangat rendah, bisa dibilang beberapa yang paling “objektif,” dalam kutipan, pengukuran yang dapat Anda lakukan, dan masih kabur dan kami terus -menerus harus membuat pilihan editorial.
Sekarang Anda mengatakan Anda dapat memodelkan ini dengan data sosial, dengan data sensus, dengan data yang sama sekali tidak ketat atau mudah diobservasi, untuk menyalahgunakan istilah itu? Itulah katalis bagi saya mulai tertarik pada bidang itu, membaca banyak dan menyadari bahwa apa yang terjadi adalah beberapa sulap dan memiliki beberapa risiko sosial yang cukup signifikan.
Jadi kemudian maju cepat ke tahun 2025. Saya tidak bisa melewati setengah jam dalam pekerjaan saya tanpa mendengar tentang kecerdasan buatan. Ini telah mengambil alih dunia – bukan dalam praktik, tetapi secara optik. Apa penilaian Anda tentang keadaan permainan?
Satu, AI: Ini bukan istilah teknis seni, dan itu sangat nyaman untuk pasar ini, bukan?
Itu adalah istilah diciptakan pada tahun 1956 oleh John McCarthyyang merupakan ilmuwan komputer kognitif, dan dia menginginkan uang hibah. Dia ingin menjadi ayah dari bidangnya sendiri, kan? Jadi istilah itu ditemukan, tetapi sebenarnya tidak mengacu pada paradigma jaringan saraf yang sekarang kita gunakan. Itu mengacu pada sistem simbolik semacam ini, yang pada saat itu bertentangan dengan pendekatan jaringan saraf.
Pendekatan Connectivist, yang mendahului istilah kecerdasan buatan selama lebih dari satu dekade. Jadi jaringan saraf, itu seperti ’43. Anda memiliki istilah “kecerdasan buatan” yang ditemukan di sekitar ’56. Itu tidak berlaku pada saat itu untuk jaringan saraf. Ini semacam selimut ini yang telah dilemparkan ke atas serangkaian pendekatan teknis yang berputar yang, pada saat ini, mengacu pada model skala yang sangat, sangat, sangat, sangat besar ini yang memerlukan sejumlah besar penghitungan, dan jumlah data yang sangat besar, dan tentu saja hal-hal yang benar-benar mengesankan seperti menipu saya untuk berpikir bahwa mereka mencintai saya atau apa pun.
Benar. Benar.
Selimut ini bisa dibilang dilemparkan ke paradigma lain, kan? Jika kita memutuskan bahwa AI semacam menggambarkan sesuatu yang lain. Itu masih jauh untuk mengatakan saya pikir ada ambang batas di mana logika metastasis momen AI saat ini – lebih besar, lebih besar, lebih besar, lebih besar, lebih besar, semua air, semua energi, semua data, semua komputasi – akan diberikan.
Anda memiliki ambang batas iklim. Anda memiliki ambang batas tentang berapa banyak pusat data yang dapat Anda bangun. Apakah itu berarti sebenarnya ada semacam goyah di pasar AI? Aku tidak tahu. Saya pikir salah satu alasan kami melihat pelukan seperti ini yang disebut agen AI adalah karena mereka benar-benar berusaha menemukan pasar konsumen ini cocok. Dalam arti tertentu hanya branding baru. Membungkus semua yang kami sebut “asisten” dalam istilah merek baru dan berharap kami dapat membuat pekerjaan itu. Tetapi ada titik di mana triliunan dolar yang sedang dituangkan ke dalam AI, Anda tahu, baik akan atau tidak akan menemukan bahwa aplikasi pembunuh dan mulai mencapai titik impas.
Kami belum mencapai titik itu. Jadi saya pikir ada ambang batas yang datang di mana pasar akan mengendalikan tali, dan saya tidak benar -benar tahu apa yang terjadi saat itu. Apakah kita hanya menggeser apa yang ada di bawah kap definisi?
Pindahkan tiang gawang?
Ya.
Sekarang saya ingin berbicara tentang sinyal, yang sepertinya hal yang relevan untuk dibahas dengan Anda.
Saya suka berbicara tentang sinyal.
Bagus. Saya akan mulai dengan membawa AI ke dalamnya, karena saya ingat kami minum kopi enam bulan yang lalu dan saya ingat Anda berbicara kepada saya tentang risiko momen ini di AI untuk sinyal, terutama dengan AI agen. Apa artinya semua ini untuk sinyal?
Jawaban pertama untuk itu adalah kita melihat pertumbuhan yang stabil. Saya pikir kita berada pada saat di mana taruhan di sekitar privasi dan data pribadi pulang ke rumah bagi orang-orang di tingkat pribadi, emosional, dan sistem gugup. Ini bukan kekhawatiran abstrak bahwa Anda harus menyelesaikan cucian dan kemudian Mungkin Anda bisa memikirkannya. Itu pelanggaran data, pelanggaran data, Topan garamretak geopolitik, apa pun yang Anda miliki.
Jadi saya akan mengatakan ini adalah momen yang baik untuk sinyal, dan kami sangat bangga bahwa kami ada di sana dan siap, dan siapa pun yang membutuhkan kami dapat mengunduhnya dan menggunakannya. Ini adalah infrastruktur yang ada dan siap untuk memenuhi momen. Di sisi lain, ada bahaya nyata untuk memberi sinyal di lingkungan ini. Khususnya, ada, saya akan mengatakan, undang -undang yang salah arah atau ganas yang terus diusulkan yang pada akhirnya akan membuat sinyal tidak mungkin memberikan jaminan privasi yang kuat yang merupakan seluruh hal kita. Merongrong enkripsi, memberikan akses kepada pemerintah, hal-hal yang sepenuhnya membatalkan titik enkripsi ujung ke ujung sinyal. Ada agen AI yang melakukan hal -hal untuk Anda secara mandiri, dan untuk melakukan yang membutuhkan akses ke semua data Anda, aplikasi Anda, dan lain -lain, dengan cara yang cukup belum pernah terjadi sebelumnya.
Masalah untuk sinyal adalah agen -agen ini semakin terintegrasi ke dalam sistem operasi – apakah itu iOS atau Android atau Windows – dengan cara yang, agar dapat bekerja, mereka memerlukan akses ke data Anda. Jadi, Anda memiliki sistem yang menawarkan, katakanlah, pesan restoran untuk teman -teman Anda dan beri tahu teman -teman Anda restoran itu dipesan dan kemudian Anda meletakkannya di semua kalender Anda, bukan?
Ya.
Untuk melakukan itu, mereka membutuhkan akses ke browser Anda, akses ke kalender Anda. Mereka dapat melihat semua hal lain yang terjadi di sana, dengan siapa Anda berbicara. Akses ke kartu kredit Anda untuk menurunkan uang muka untuk restoran. Akses ke Anda, katakanlah, sinyal untuk mengirim pesan kepada teman Anda, mengakses obrolan grup Anda, SMS teman Anda atas nama Anda.
Jadi pada akhirnya apa yang kita bicarakan adalah pintu belakang, dan kita sudah melihat ini dalam konteks whatsapp: ada a Laporan dari Lumiayang merupakan forum penelitian keamanan yang menunjukkan bahwa, Anda tahu, pesan WhatsApp dikirim ke Siri dan kembali sebagai bagian dari peluncuran Intelijen Apple terbaru. Bagi saya, itu adalah pembatalan janji enkripsi WhatsApp, ujung ke ujung.
Mengingat lingkungan itu, bagaimana sinyal memastikan bahwa apa yang terjadi dengan WhatsApp tidak terjadi dengan sinyal?
Sinyal melakukan apa pun yang kami bisa. Anda tahu, masa depan infiltrasi total dan pembatalan privasi melalui agen pada sistem operasi belum ada di sini, tetapi itulah yang didorong oleh perusahaan -perusahaan ini tanpa kemampuan bagi pengembang untuk memilih keluar.
Jadi kami telah berbicara dengan sangat kuat tentang ancaman eksistensial yang ini diberikan untuk memberi sinyal dan privasi lapisan aplikasi secara umum. Apa yang kami panggil adalah opt-out-level pengembang yang sangat jelas untuk mengatakan, “Jangan menyentuh kami jika Anda seorang agen.” Sinyal dipercayakan dengan beberapa komunikasi paling tinggi di dunia, seperti komunikasi kehidupan nyata atau mati-militer, pemerintah, setiap ruang dewan, pekerja hak asasi manusia, pembangkang.
Pada akhirnya, jika Anda memiliki komunikasi berisiko tinggi, Anda hampir pasti menggunakan sinyal. Itu termasuk banyak eksekutif di perusahaan -perusahaan ini. Itu termasuk banyak pemerintah yang bekerja dengan mereka. Jadi kami percaya ada jendela konvergensi yang menarik di sini di mana ini bukan pertaruhan yang harus kami buat.
Saya benci membaca tulisan Anda sendiri kembali kepada Anda, tetapi saya akan melakukannya. Pada tahun 2021, Anda menulis bersama sepotong di negara ini Di mana Anda memperingatkan panjang lebar tentang risiko teknologi besar yang dimanfaatkan oleh pasukan otoriter. Ada banyak baris yang menonjol bagi saya, tetapi saya akan membaca yang ini untuk Anda: “Tawar-menawar neoliberal sedang berjumbai, dan jika kita tidak bersaing untuk mengontrol algoritma, data, dan infrastruktur yang membentuk capital yang menyisakan pada masa depan kita. untuk akses. “
Saya membacanya awal minggu ini, dan dalam konteks apa yang terjadi di AS saat ini, sangat menggelikan untuk membaca itu empat tahun kemudian. Apa penilaian Anda terhadap keadaan industri teknologi yang sekarang berhadapan dengan administrasi? Apa yang menonjol bagimu? Apa yang membuat Anda khawatir?
Ini mendengar kembali ke komitmen lama saya untuk open source, untuk transparansi. Saya tidak berpikir itu harus menjadi ide. Saya pikir harus masuk akal bahwa infrastruktur inti bahwa ekonomi global, pemerintah, hubungan sosial kita, semakin bergantung pada harus terbuka untuk diteliti, harus memiliki beberapa bentuk pemerintahan yang demokratis. Mereka seharusnya tidak berada di tangan entitas yang terkonsentrasi, baik pemerintah atau perusahaan, dan saya pikir itu tetap benar.
Itulah salah satu alasan sinyal adalah open source yang sangat gigih. Kami tidak ingin Anda mengambil kata -kata saya untuk itu.
Ya.
Jadi saya pikir itu aneh bagi saya bahwa kita sekarang dalam situasi di mana kita menjadi mati rasa dengan apa yang seharusnya tidak mudah diterima, yaitu infrastruktur pemerintah, komunikasi kita, komunikasi intim kita, kehidupan kita dan hubungan sosial, diamati, diawasi. Dan penentuan tentang mereka dibuat oleh segelintir perusahaan yang membentuk akses kami ke sumber daya dan peluang. Inilah sebabnya saya telah berbicara tentang model bisnis pengawasan, yang telah bertahan lama, tetapi sedang supercharged oleh keinginan untuk data yang disiratkan AI dan produksi data yang juga dijalankan AI.
Salah satu bidang yang telah diliput oleh WIRE telah banyak tahun ini adalah Doge, dan bagaimana Doge dan agen-agen federal di AS menggunakan AI dan melacak dengan cepat implementasi teknologi AI ke dalam agen-agen federal. Dari mengidentifikasi pemotongan pengeluaran hingga berpotensi membantu mendeteksi imigran ilegal. Sekarang teknologi itu jauh lebih tertanam di lembaga federal, apa yang penting bagi orang untuk diperhatikan? Apa yang harus dipikirkan oleh rata -rata orang Amerika saat ini ketika datang ke data mereka?
Agak menakutkan. Sistem ini sering tidak dapat dipahami oleh desain. Mereka non-deterministik, jadi Anda tidak dapat benar-benar tahu mengapa output tertentu dihasilkan pada saat itu sehubungan dengan sesuatu. Mereka tidak beralasan di luar distribusi, yang merupakan cara kecil yang mewah untuk mengatakan jika tidak ada dalam data yang dilatih, mereka tidak akan dapat mendeteksinya.
Di luar itu, ada kekhawatiran epistemik bahwa kami mempercayai penentuan ini pada sistem yang akan memberikan jawaban yang sangat percaya diri dan masuk akal, bukan? Bahwa kita tidak dapat diteliti sebagai benar atau salah, tetapi mereka akan memiliki kekuatan dan otoritas klaim kebenaran akhir.
Sistem -sistem itu sedang dikembangkan oleh, sekali lagi, segelintir perusahaan di balik tabir kerahasiaan perdagangan, tidak dapat diketahui oleh publik, Anda tahu? Benar -benar tidak ada cara untuk mengetahuinya. Apakah itu sistem AI terlatih dengan ketat, semacam membuat tekad yang tidak dapat kita ceritakan, atau apakah seorang pria yang selalu ingin itu terjadi, yang sekarang dapat mengaitkan keinginan yang tepat dengan mesin pintar yang tidak diizinkan untuk kita tanyakan, dan tidak dapat meneliti?
Tepat. Yah, saya pikir Anda mungkin membuatnya terdengar lebih menakutkan dan Anda melakukannya. Jadi selamat.
Um, sama -sama.
Saya harus bertanya tentang cerita yang muncul awal tahun ini. Kepala Editor Atlantik, Jeffrey Goldberg, secara tidak sengaja dimasukkan dalam utas sinyal tentang operasi militer yang sangat sensitif bersama dengan banyak pejabat senior administrasi. Sendok yang luar biasa, tetapi pada akhirnya situasi yang mengerikan dan tragis. Orang -orang meninggal karena operasi militer itu, yang menurut saya adalah sesuatu yang tidak cukup kita bicarakan dalam konteks cerita itu. Ceritakan sedikit tentang bagaimana Anda semua bereaksi terhadap hal itu secara real time. Saya yakin Anda ingat di mana Anda berada. Itu adalah cerita semacam itu.
Saya berada di meja dapur saya di Paris, tempat saya memiliki tempat. Seseorang dalam obrolan grup mengirimkannya dan saya membukanya dan saya membacanya.
Jadi kalian tidak memiliki kepala-up?
Tidak, kami tidak mendapatkan kepala, tidak.
OKE.
Saya tentu tidak akan memperkirakan sinyal itu akan menjadi karakter utama. Sepertinya, apakah jalan mobil melaju menjadi karakter utama? Jadi saya membacanya, dan saya ingat membacanya, dan saya selalu memiliki banyak tab, jadi ada semacam quotidian seperti, “Oke, saya membaca artikel itu …” dan saya bangun untuk mendapatkan segelas air, dan kemudian saya seperti, “Tunggu, apa?” Saya duduk kembali dan membacanya lagi karena saya seperti, tidak ada jalan sialan.
Saya sedang menunggu jenis “gotcha!” Atau bagian di mana saya seperti, “Oh, oke. Itu adalah tes, itu adalah simulasi, itu adalah permainan perang.” Itu baru saja diambil. Itu seperti roda gila dan tiba -tiba pres Kotak masuk terisi. Kami didistribusikan di berbagai zona waktu, jadi saya memiliki orang -orang yang bangun di California, saya memiliki orang -orang di tempat lain, dan kami agak berkerumun dalam obrolan kelompok dan ruang perang kecil dan kami seperti, “Oke, yah, apa yang harus kami lakukan sekarang?” Dan tekad yang kami buat adalah seperti, “Lihat, kami tidak benar -benar bagian dari cerita ini. Kami adalah infrastruktur yang digunakan. Kami tidak dapat bertanggung jawab atas ibu jari beberapa pria, kan? Atau…
Intelek.
Ya. Jalur kami sempit dan dalam. Kami membangun platform komunikasi paling pribadi di dunia, dan itulah yang dapat kami ajak bicara, dan kami tidak tahu tentang sisanya. Kami tidak ingin menjadi bagian dari cerita, tetapi apa yang kami tidak mampu, dan apa yang benar -benar bergantung pada kami pada kami, adalah untuk beberapa kesalahpahaman tentang sinyal yang akan melukisnya sebagai entah bagaimana rentan atau entah bagaimana masalah di tengah ini. Kami tidak mampu untuk itu menangkap angin dengan cara yang akan membuat orang percaya bahwa sinyal tidak aman dan beralih ke alternatif yang kurang aman dan berpotensi dirugikan.
Sementara itu, kami melihat momen pertumbuhan terbesar yang pernah kami lihat di AS.
Anda memiliki lonjakan besar ini dalam unduhan, bukan?
Spike besar -besaran, seperti yang terbesar yang pernah kita lihat di AS, dan telah memulai momen pertumbuhan global. Syukurlah kami memiliki kapasitas server untuk menanganinya, dan kami mendapatkan publisitas yang – saya tidak berpikir saya pernah hidup melalui itu, seperti di organisasi mana pun yang telah saya ikuti.
Itu di bulan Maret. Di mana gelombang perhatian meninggalkan Anda sekarang karena debu telah sedikit mengendap?
Pertumbuhan kami terus meningkat. Bukan hanya AS. Kami telah melihat pertumbuhan global dalam semburan kecil. Kami telah melihat pertumbuhan di Eropa, pertumbuhan di Amerika Selatan, beberapa pertumbuhan di Asia Selatan. Jadi saya pikir ada semacam masalah. Signalgate membawanya ke perhatian publik. Jadi, lebih mudah jika saya berbicara dengan ayah saya atau, Anda tahu, teman -teman ayah saya untuk berkata, “Ya, gunakan sinyal.”
Ada pengakuan nama.
Saya tidak harus masuk ke pembukaan tiga menit tentang apa itu dan mengapa itu bagus. Ada pemahaman yang masuk akal, dan kami sangat senang tentang itu. Dan kemudian pemahaman akal sehat itu bertemu dengan momen di mana orang merasa dengan cara yang jauh lebih dalam, jauh lebih pribadi mengapa privasi mungkin penting.
Dan saya pikir sejumlah perusahaan besar menunjukkan diri mereka bersedia untuk hanya tunduk pada angin politik [is a factor]. Menyukai, Inilah makeover saya. Sekarang saya orang ini.
Maskulinitas, menyukainya.
Cinta berkeliaran di lantai judo dengan teman -teman saya.
Maaf, tolong jangan salahkan saya untuk salah satu dari mereka yang memiliki sedikit meyakinkan.
[[Tertawa]
Lima tahun yang lalu, mereka adalah satu hal, sekarang mereka adalah hal lain. Apa yang akan mereka lakukan dalam empat tahun lagi? Saya pikir demonstrasi belum banyak kepercayaan, terlepas dari di mana Anda berdiri secara politis.
Ya. Dalam empat tahun, jika mereka berselancar dengan Gavin Newsom…
Mereka akan seperti wakeboarding…
… Mereka masih mengendalikan data Anda. Berbicara tentang wakeboarding dan judo, dan ini adalah pertanyaan terakhir saya untuk Anda, tetapi ini sangat menarik bagi saya sebagai seorang wanita yang menjalankan kabel: Anda adalah seorang wanita di industri teknologi. Anda seorang kritikus terkemuka terhadap industri teknologi, yang tentu saja sebagian besar dijalankan oleh pria melakukan judo, dan lain -lain. Kami tahu persis pria seperti apa yang sedang kita bicarakan. Apa yang sulit tentang itu untuk Anda? Apa yang menjadi lebih mudah, jika ada? Apakah itu sulit bagi Anda?
Saya akan mengatakan apa yang tidak saya sukai dari itu kapan saja Anda memiliki pola pikir kecil clubby, Anda memiliki banyak omong kosong. Anda memiliki orang -orang seperti mengendus lem hype, dan agak percaya padanya. Mereka semua ingin disukai, mereka semua ingin dimasukkan.
Ya.
Mereka pada akhirnya sangat emosional. Anda tidak ingin dibiarkan keluar dari kru bro. Itu mengarah pada banyak keseriusan yang tidak jelas ini, semacam kekacauan. Ini serius, bukan? Jika Anda memberikan infrastruktur inti yang bergantung pada kehidupan orang, perlu ada martabat di balik itu. Kita perlu menerima bahwa kita harus menjadi empiris, kita perlu dibumikan, kita harus stabil, kita harus bermata jernih. Jenis hype ini, “harapan orang-orang-orang-orang-itu-begitu-kita-bisa-keluar-sebelum-sial-memukul-fan” hanyalah tampilan yang floppy dan tidak bermartabat, terus terang. Jadi itulah budaya yang sangat saya sukai. Itu tidak keren.
Kumpulkan, teman -teman. Itu tidak keren.
Saya ingin bermain game kecil untuk menyelesaikannya. Kami memainkan ini setiap saat. Ini disebut kontrol, alt, hapus. Saya ingin tahu sepotong teknologi apa yang ingin Anda kendalikan, bagian apa yang akan Anda ubah, jadi ubah atau ubah, dan apa yang akan Anda hapus. Apa yang akan Anda kalahkan dari bumi?
Hmm.
Aku tahu.
Baiklah. Kontrol. Yah, saya tidak ingin secara pribadi memegang kendali. Saya ingin, Anda tahu, katakanlah sistem operasi inti, infrastruktur inti atau perpustakaan inti yang harus dikendalikan dan dipagari. Katakanlah Stewarded, oleh sekelompok orang yang beralasan dengan baik yang bekerja dalam manfaat publik untuk memastikan itu sekuat dan aman dan sesuai dengan tujuan mungkin.
Ide yang indah. Mengubah?
Mengubah infrastruktur transportasi. Bergerak menjauh dari sistem berbasis mobil individu ke sesuatu yang, sekali lagi, lebih menyenangkan, lebih bisa diterapkan. Jadi ya, katakanlah infrastruktur transportasi.
Apa yang kita hapus?
Saya benar -benar berharap saya tidak perlu membawa smartphone ke mana -mana.
Oh, itu yang besar.
Ya. Itu tidak berarti saya tidak menggunakan hal -hal yang berjalan pada smartphone, tetapi cara hidup telah dibentuk di sekitar harus selalu tersedia, asumsi yang kita semua buat satu sama lain, bahwa jika teks tidak kembali dalam tiga detik, seseorang harus tersesat di pegunungan atau benar -benar marah pada Anda.
Benar. Apa pun yang dapat Anda lakukan untuk menghapus itu dan membuat hidup sedikit lebih luas, saya pikir akan indah.
Bagaimana mendengarkan
Anda selalu dapat mendengarkan podcast minggu ini melalui pemutar audio di halaman ini, tetapi jika Anda ingin berlangganan secara gratis untuk mendapatkan setiap episode, begitulah caranya:
Jika Anda menggunakan iPhone atau iPad, buka aplikasi yang disebut podcast, atau cukup ketuk tautan ini. Anda juga dapat mengunduh aplikasi seperti Overcast atau Pocket Casts dan mencari “Uncanny Valley.” Kami sedang aktif Spotify juga.
