Mark Zuckerberg Menolak Media

Ada suatu masa ketika Mark Zuckerberg tidak menganggap media arus utama sebagai musuh. Dia bahkan mengizinkan saya, seorang awak media yang selalu membawa kartu, masuk ke rumahnya. Pada bulan April 2018, saya berkelana ke sana untuk mendengarkan rencananya melakukan hal yang benar. Itu adalah bagian dari pengalaman saya selama bertahun-tahun di Facebook untuk menulis sebuah buku. Selama dua tahun terakhir, perusahaan Zuckerberg mendapat banyak kritik karena kegagalannya mengendalikan disinformasi dan ujaran kebencian. Kini sang pendiri muda punya rencana untuk mengatasi hal ini.

Bagian dari solusi, dia memberitahuku, lebih banyak moderasi konten. Dia akan mempekerjakan lebih banyak orang untuk memeriksa postingan, meskipun Facebook harus mengeluarkan banyak modal. Dia juga akan meningkatkan upaya penggunaan kecerdasan buatan untuk secara proaktif menghapus konten berbahaya. “Tidak lagi cukup memberikan alat kepada masyarakat untuk mengatakan apa yang mereka inginkan dan kemudian membiarkan komunitas kita menandai mereka dan mencoba merespons setelah kejadian tersebut terjadi,” katanya kepada saya saat kami duduk di ruang berjemurnya. “Kita perlu lebih banyak terlibat dan mengambil peran yang lebih aktif.” Ia mengaku lambat menyadari betapa berbahayanya konten beracun di Facebook, namun kini ia berkomitmen untuk memperbaiki masalah tersebut, meski mungkin memerlukan waktu bertahun-tahun. “Saya pikir kita melakukan hal yang benar,” katanya kepada saya, “Hanya saja kita harus melakukannya lebih cepat.”

Tujuh tahun kemudian, Zuckerberg tidak lagi menganggap sikap moderat adalah hal yang benar. Di dalam Reel lima menitia menggambarkan tindakannya untuk mendukung hal tersebut sebagai penyesalan atas sikap pemerintah yang terlalu berterus terang tentang Covid dan topik lainnya. Dia mengumumkan peralihan dari moderasi konten—tidak ada lagi penghapusan proaktif dan penurunan peringkat misinformasi dan ujaran kebencian—dan diakhirinya program pengecekan fakta yang bertujuan untuk menyangkal kebohongan yang beredar di platformnya. Pemeriksaan fakta oleh sumber terpercaya akan digantikan dengan “catatan komunitas”, sebuah pendekatan crowdsourcing di mana pengguna memberikan pandangan alternatif mengenai kebenaran postingan. Teknik itu adalah hal yang dia katakan kepada saya pada tahun 2018 “tidak cukup.” Meskipun ia mengakui bahwa perubahan yang ia lakukan sekarang akan memungkinkan terjadinya “lebih banyak hal buruk,” ia mengatakan bahwa pada tahun 2025, akan sangat bermanfaat jika lebih banyak “kebebasan berekspresi” dapat berkembang.

Pergeseran kebijakan ini adalah salah satu dari beberapa langkah yang menunjukkan bahwa, terlepas dari apakah Zuckerberg ingin melakukan hal ini selama ini atau tidak, Meta memposisikan dirinya selaras dengan pemerintahan Trump yang baru. Anda pernah mendengar litani, yang telah menjadi meme tersendiri. Meta mempromosikan pelobi utamanya, mantan anggota Partai Republik Joel Kaplan, menjadi kepala urusan global; dia segera muncul di Fox News (dan hanya Fox News) untuk memuji kebijakan baru tersebut. Zuckerberg juga mengumumkan bahwa Meta akan memindahkan karyawan yang menulis dan mengulas konten dari California ke Texas, untuk “membantu menghilangkan kekhawatiran bahwa karyawan yang bias terlalu menyensor konten.” Dia membubarkan program DEI Meta. (Di mana Sheryl Sandberg, yang sangat bangga dengan upaya keberagaman Meta. Sheryl? Sheryl?) Dan Meta mengubah beberapa persyaratan layanannya secara khusus untuk memungkinkan pengguna melakukannya merendahkan kelompok LGBTQ.

Sekarang sudah seminggu sejak perubahan haluan Meta—dan pengambilan pertamaku dalam pidato Zuckerberg—saya sangat dihantui oleh satu aspek: Ia sepertinya meremehkan praktik dasar jurnalisme klasik, dan menganggapnya tidak lebih baik daripada pengamatan yang tidak dilaporkan dari para podcaster, influencer, dan banyak orang di platformnya. Hal ini diisyaratkan dalam Reel-nya ketika ia berulang kali menggunakan istilah “media warisan” sebagai sebuah kekuatan yang, dalam pandangannya, mendorong penyensoran dan menghambat kebebasan berekspresi. Selama ini saya berpikir sebaliknya!

Petunjuk mengenai revisi versi kepercayaannya berasal dari peralihan dari pengecekan fakta ke catatan komunitas. Memang benar bahwa proses pengecekan fakta tidak berjalan dengan baik—sebagian karena Zuckerberg tidak membela para pemeriksa tersebut ketika para kritikus yang bermaksud buruk menuduh mereka melakukan bias. Masuk akal juga untuk mengharapkan catatan komunitas menjadi sinyal yang berguna bahwa sebuah postingan mungkin salah. Namun kekuatan sanggahan gagal ketika peserta percakapan menolak gagasan bahwa perbedaan pendapat dapat diselesaikan dengan bukti yang meyakinkan. Itulah perbedaan inti antara pengecekan fakta—yang dihilangkan Zuckerberg—dan catatan komunitas yang ia terapkan. Pandangan dunia pengecekan fakta mengasumsikan bahwa fakta-fakta definitif, yang diperoleh melalui penelitian, pembicaraan dengan orang lain, dan kadang-kadang bahkan dengan mempercayai mata Anda sendiri, dapat menjadi kesimpulan. Caranya adalah dengan mengakui otoritas yang telah mendapatkan kepercayaan publik dengan mengejar kebenaran. Catatan komunitas menyambut pandangan-pandangan alternatif—tetapi Anda bebas menentukan mana yang dapat dipercaya. Ada desas-desus bahwa penangkal ucapan buruk adalah lebih banyak ucapan. Namun jika fakta-fakta yang dapat diverifikasi tidak berhasil menyangkal flapdoodle yang sudah terbukti tidak terbukti, kita terjebak dalam pasir hisap babel yang ingin bunuh diri.

Itulah dunia yang secara sadar ingin diwujudkan oleh Donald Trump, panutan baru Zuckerberg. 60 Menit reporter Leslie Stahl pernah bertanya pada Trump kenapa dia menghina wartawan yang hanya menjalankan tugasnya. “Kamu tahu kenapa aku melakukannya?” dia menjawab. “Saya melakukannya untuk mendiskreditkan Anda semua dan merendahkan Anda semua sehingga ketika Anda menulis cerita negatif tentang saya, tidak ada yang akan mempercayai Anda.” Pada tahun 2021, Trump terungkap lebih lanjut niatnya untuk mengambil keuntungan dari serangan terhadap kebenaran. “Jika Anda cukup mengatakannya dan terus mengatakannya, mereka akan mulai mempercayai Anda,” katanya dalam rapat umum. Konsekuensinya adalah jika media sosial cukup mempromosikan kebohongan, orang-orang juga akan mempercayainya. Terutama jika otoritas yang sebelumnya diakui telah didiskreditkan dan direndahkan.

Mendiskreditkan itulah yang dilakukan Zuckerberg dan pembawa acaranya Joe Rogan selama a percakapan 3 jam di studio podcast Rogan di Austin, Texas. Ini adalah satu-satunya penampilan Zuckerberg untuk menjelaskan tindakannya, sebuah tanda lain bahwa dia tidak bersujud kepada media yang menurutnya tidak lagi dapat dipercaya atau patut diperhatikan. Zuckerberg dan Rogan menjelaskan secara panjang lebar tentang bagaimana podcaster dan influencer lebih populer daripada reporter arus utama, karena tidak ada lagi yang mempercayai lembaga-lembaga tersebut, dan merayakan statistik yang menunjukkan bahwa banyak orang mendapatkan berita dari media sosial akhir-akhir ini. (Meskipun itu masih jauh dari sumber dominan.)

Begini, saya penggemar podcast, terutama wawancara epik multi-jam seperti yang dilakukan Rogan. Tapi sebagai penggantian untuk berita yang dilaporkan? Itu sebuah bencana. Wartawan melakukan panggilan telepon yang tak terhitung jumlahnya, menggali tumpukan dokumen, dan melakukan perjalanan ke seluruh dunia untuk mencoba memahami dunia. Para podcaster memperoleh pengetahuan mereka dari laporan-laporan tersebut—dan mungkin juga dari para grifter yang bias, anekdot acak, dan visi paranoid. Selain itu, sebagai pewawancara, beberapa podcaster menghibur namun tidak teliti dalam mengajukan pertanyaan sulit. Tak heran jika Zuckerberg memilih Rogan sebagai satu-satunya tempat untuk mempertahankan keputusannya. Rogan tidak menentangnya apakah keputusannya merupakan sosokan bagi presiden yang akan datang—dia mengucapkan selamat dia.

Pada minggu yang sama setelah podcast Rogan dirilis, Peter Thiel—miliarder VC yang memimpin pendanaan awal Facebook—menerbitkan sebuah artikel di Financial Times yang sejalan dengan teori Zuckerberg/Rogan bahwa media menyelubungi segala sesuatunya dalam kegelapan dibandingkan sinar matahari. Thiel mengadopsi terminologi temannya untuk memasukkan media ke dalam konspirasi besar-besaran yang disebut Kompleks Penekanan Ide Terdistribusi yang membatasi diskusi publik. Dia terkekeh bahwa internet, yang mungkin berada di bawah pengaruh Trump, membantu “pembebasan kita dari penjara DISC.” (Entah bagaimana Financial Times, yang merupakan warisan media, lolos dari penjara ini untuk menerbitkan artikel Thiel.)

Contoh penindasan media yang dikemukakan Thiel adalah beberapa kasus di mana media arus utama – meskipun tidak semuanya – mungkin terlalu berhati-hati, seperti pembunuhan JFK atau, yang terbaru, Covid. Namun setiap hari, ribuan jurnalis yang masih memiliki pekerjaan mencari kebenaran dengan mengumpulkan fakta, apakah itu untuk menemukan lokasi pergerakan walikota di malam hari atau untuk menunjukkan bagaimana FBI bisa bertindak lebih cepat untuk menghentikan tindakan yang tidak diinginkan. pemukul terkenal yang menargetkan sekolah menengah. Tanpa fakta, kita tidak bisa menentukan apakah seorang calon anggota kabinet layak menduduki posisi tersebut, apakah pantas membantu sekutu, atau mengapa ia harus membantu sekutunya.memadamkan kebakaran di California Selatan sangat sulit. Tentu saja saya bias, tapi ini nampaknya cukup jelas. Praktik jurnalisme sudah terancam oleh kegagalan model bisnis tradisional pasca-internet. Apa yang tidak mereka duga adalah serangan politik yang sangat efektif terhadap fondasinya.

Dan sekarang orang yang menjalankan jejaring sosial terbesar di dunia—dan terus membual Rogan bahwa karena dia tidak bisa dipecat, dia akan melakukan apa pun yang dia inginkan—telah menyerahkan nasibnya pada orang-orang yang berusaha menghancurkan fakta-fakta yang sangat rentan. Ya, memang sulit mengendalikan disinformasi dalam skala besar. Namun Zuckerberg telah mengumpulkan lebih dari $200 miliar kekayaan pribadinya dengan membangun platform yang merupakan bagian dari masalah tersebut. Dia berutang pada kita sesuatu yang lebih baik daripada memaksa 3 miliar penggunanya menyaring fakta dari kebohongan, sambil mengibarkan bendera kotak-kotak kepada para pembohong.

Zuckerberg lebih tahu—bagaimanapun juga, dia mengizinkan saya mengumpulkan fakta tentang perusahaannya selama tiga tahun. Setelah itu, dia mengirimiku pesan ucapan selamat. Dia tidak setuju dengan semua kesimpulan saya dan mengatakan saya tidak melakukan semuanya dengan benar (tidak ada contoh), namun dia mencatat bahwa dia menghargai waktu dan upaya yang saya habiskan untuk menghasilkan akun yang berbeda. Anda tahu, apa yang dilakukan jurnalis. Di acara Rogan, Zuckerberg membicarakan banyak hal memulihkan maskulinitas terhadap budaya perusahaan. Mungkin dia harus bangkit dan memperjuangkan kebenaran.

Perjalanan Waktu

Di dalam wawancara kami tahun 2018, Zuckerberg bersemangat untuk membangun kekuatan moderasi konten di perusahaannya dan menggunakan AI untuk secara proaktif menghapus konten seperti ujaran kebencian dan misinformasi—kebijakan yang ia hentikan pada awal tahun ini. Pada saat itu, perusahaan tersebut menghadapi krisis karena menampung berita palsu selama pemilu 2016.

Sebelum kita mengakhirinya, saya bertanya kepadanya—apakah krisis ini membuat Facebook berbeda?

Jawabannya adalah tidak—misinya sama—tetapi, dalam satu hal, ya. “Menurut saya, perubahan terbesar adalah menjadi lebih proaktif, mencari dan mencegah pelecehan. Pembelajaran terbesarnya adalah kita perlu mengambil pandangan yang lebih luas mengenai tanggung jawab kita… Memberikan alat kepada orang-orang untuk mengatakan apa yang mereka inginkan dan tidak lagi cukup. lalu biarkan komunitas kita menandainya dan mencoba merespons setelah kejadian tersebut terjadi. Kita perlu mengambil peran yang lebih aktif untuk memastikan bahwa alat tersebut tidak disalahgunakan.”

Zuckerberg menyadari sulitnya mengubah sistemnya agar bisa secara proaktif menangkap konten berbahaya. “Saya pikir ini adalah transisi selama tiga tahun untuk benar-benar membangun tim, karena Anda tidak bisa hanya mempekerjakan tiga puluh ribu orang dalam semalam untuk melakukan sesuatu,” katanya. “Anda harus memastikan bahwa mereka bekerja dengan baik. dan mendatangkan kepemimpinan serta melatih mereka. Dan membangun alat AI—itu bukanlah sesuatu yang bisa Anda lakukan begitu saja… Kami tidak akan pernah selesai sepenuhnya. Namun menurut saya hal ini mewakili perubahan yang cukup besar dalam model bisnis dan model operasi perusahaan secara keseluruhan.“

Tanyakan padaku satu hal

Petros bertanya, “Apakah keruntuhan model AI serupa dengan perkawinan sedarah?”

Terima kasih atas pertanyaannya, Petros. Selalu sulit untuk mengantropomorfisasi fenomena digital dengan biologi sebenarnya. (Ini dari seorang pria yang menulis buku berjudul Kehidupan Buatan.) Tapi ketika Anda berbicara tentangt keruntuhan model AIyang Anda maksud memang sesuatu yang dalam arti luas dapat dipahami dengan merujuk pada kondisi manusia. Tapi izinkan saya mendukung bagi yang belum tahu. Kami telah melihat lonjakan model bahasa besar AI yang dimungkinkan oleh masuknya data secara besar-besaran untuk melatihnya—pada dasarnya sebanyak pengetahuan manusia yang dapat dimasukkan. Sedemikian rupa sehingga sepertinya kita memang seperti itu kehabisan konten buatan manusia untuk melatih model generasi terbaru.

Salah satu solusi potensial adalah model itu sendiri yang membuat konten—mereka dapat melakukan ini selamanya. Namun ada indikasi bahwa jika Anda sering melakukan hal ini, hal itu akan terjadi menurunkan outputnya. Orang-orang mengibaratkannya seperti ular yang memakan ekornya sendiri. Itu sebabnya dalam beberapa bulan terakhir Saya telah melihat kata itu ouroboros berkali-kali lebih banyak daripada yang saya miliki di seluruh kehidupan saya sebelumnya. Jadi dengan cara kasar yang sama ketika kita berbicara tentang jaringan saraf tiruan yang dianalogikan dengan jaringan di otak, Anda dapat mengatakan bahwa keruntuhan akibat penggunaan data sintetik yang berlebihan adalah seperti perkawinan sedarah.

Beberapa ilmuwan berpendapat ada jalan keluarnya. Namun saya senang bahwa batasan ini ada. Hal ini mengutamakan kualitas konten buatan manusia—dan memberi insentif kepada perusahaan AI untuk membayarnya.

Kirimkan pertanyaan Anda di komentar di bawah, atau kirim email ke mail@wired.com. Menulis TANYAKAN LEVY di baris subjek.