Di pengadilan New York pada tanggal 20 Mei, pengacara untuk nirlaba Everytown for Gun Safety berpendapat bahwa Meta, Amazon, Discord, Snap, 4chan, dan perusahaan media sosial lainnya semuanya bertanggung jawab untuk meradikalisasi penembak massal. Perusahaan membela diri dari klaim bahwa fitur desain masing -masing – termasuk algoritma rekomendasi – mempromosikan konten rasis kepada seorang pria yang membunuh 10 orang pada tahun 2022, kemudian memfasilitasi rencana mematikannya. Ini adalah tes yang sangat suram dari teori hukum yang populer: bahwa jejaring sosial adalah produk yang dapat ditemukan secara hukum rusak ketika ada yang salah. Apakah ini berhasil dapat mengandalkan bagaimana pengadilan menafsirkan Bagian 230, sebuah undang -undang internet yang mendasar.
Pada tahun 2022, Payton Gendron berkendara beberapa jam ke supermarket puncak di Buffalo, New York, di mana ia melepaskan tembakan pada pembeli, menewaskan 10 orang dan melukai tiga lainnya. Gendron mengklaim telah terinspirasi oleh serangan motivasi rasial sebelumnya. Dia menyegarkan serangan terhadap Twitch dan, dalam manifesto yang panjang dan buku harian pribadi yang dia simpan di perselisihan, mengatakan dia telah diradikalisasi sebagian oleh meme rasis dan sengaja menargetkan komunitas mayoritas-hitam.
Everytown for Gun Safety membawa banyak tuntutan hukum Selama penembakan pada tahun 2023, mengajukan klaim terhadap penjual senjata, orang tua Gendron, dan daftar panjang platform web. Tuduhan terhadap perusahaan yang berbeda bervariasi, tetapi semua menempatkan beberapa tanggung jawab untuk radikalisasi Gendron di jantung perselisihan. Platform mengandalkan Bagian 230 dari Undang -Undang Kesusilaan Komunikasi untuk membela diri terhadap argumen yang agak rumit. Di AS, Posting Konten supremasi kulit putih biasanya dilindungi oleh Amandemen Pertama. Tetapi tuntutan hukum ini berpendapat bahwa jika sebuah platform memberinya makan tanpa henti bagi pengguna dalam upaya untuk menjaga mereka tetap ketagihan, itu menjadi tanda produk yang rusak – dan, dengan ekstensi, melanggar undang -undang pertanggungjawaban produk jika itu mengarah pada bahaya.
Strategi itu mensyaratkan berargumen bahwa perusahaan membentuk konten pengguna dengan cara yang tidak boleh menerima perlindungan berdasarkan Bagian 230, yang mencegah layanan komputer interaktif dari bertanggung jawab atas apa yang diposting pengguna, dan bahwa layanan mereka adalah produk yang sesuai dengan undang -undang pertanggungjawaban. “Ini bukan gugatan terhadap penerbit,” John Elmore, seorang pengacara untuk penggugat, mengatakan kepada para hakim. “Penerbit memberi hak cipta materi mereka. Perusahaan yang memproduksi produk paten Bahan -bahan mereka, dan setiap orang terdakwa ini memiliki paten. ” Produk -produk yang dipatenkan ini, Elmore melanjutkan, “berbahaya dan tidak aman” dan karenanya “rusak” di bawah undang -undang pertanggungjawaban produk New York, yang memungkinkan konsumen mencari kompensasi untuk cedera.
Beberapa terdakwa teknologi – termasuk Discord dan 4Chan – tidak memiliki algoritma rekomendasi hak milik yang disesuaikan dengan pengguna individu, tetapi klaim terhadap mereka menuduh bahwa desain mereka masih bertujuan untuk mengaitkan pengguna dengan cara yang dapat mendorong kerusakan.
“Komunitas ini mengalami trauma oleh seorang supremasi kulit putih remaja yang didorong dengan kebencian – diradikalisasi oleh platform media sosial di internet,” kata Elmore. “Dia memperoleh kebenciannya pada orang-orang yang tidak pernah dia temui, orang-orang yang tidak pernah melakukan apa pun kepada keluarganya atau apa pun terhadapnya, berdasarkan pada video, tulisan, dan kelompok yang digerakkan oleh algoritma yang dia kaitkan dan diperkenalkan pada platform ini yang kami tuntut.”
Platform ini, Elmore melanjutkan, memiliki “produk yang dipatenkan” yang “memaksa” Gendron untuk melakukan penembakan massal.
Penembakan yang dipanen meme
Dalam manifestonya, Gendron menyebut dirinya “sosialis nasional eko-fasis” dan mengatakan dia telah terinspirasi oleh Penembakan massal sebelumnya di Christchurch, Selandia BaruDan El Paso, Texas. Seperti pendahulunya, Gendron menulis bahwa ia khawatir tentang “genosida putih” dan Pengganti yang bagus: Teori konspirasi yang menuduh bahwa ada plot global untuk menggantikan orang Amerika kulit putih dan Eropa dengan orang kulit berwarna, biasanya melalui imigrasi massal.
Gendron mengaku bersalah untuk tuduhan pembunuhan dan terorisme negara pada tahun 2022 dan saat ini menjalani hukuman penjara seumur hidup.
Menurut a laporan Oleh Kantor Kejaksaan Agung New York, yang dikutip oleh pengacara penggugat, Gendron “membumbui manifestonya dengan meme, lelucon, dan bahasa gaul yang umum di situs web ekstremis dan papan pesan,” sebuah pola yang ditemukan dalam beberapa penembakan massal lainnya. Gendron mendorong pembaca untuk mengikuti jejaknya, dan mendesak para ekstremis untuk menyebarkan pesan mereka secara online, menulis bahwa meme “telah melakukan lebih banyak untuk gerakan etno-nasionalis daripada manifesto mana pun.”
Mengutip manifesto Gendron, Elmore mengatakan kepada para hakim bahwa sebelum Gendron adalah “bahan supremasi kulit putih online yang dikenakan paksa,” Gendron tidak pernah memiliki masalah dengan atau permusuhan terhadap orang kulit hitam. “Dia didorong oleh ketenaran yang dibawa algoritma ke penembak massal lain yang disiarkan secara online, dan kemudian dia pergi ke lubang kelinci.”
Everytown for Gun Safety menuntut hampir selusin perusahaan – termasuk Meta, Reddit, Amazon, Google, YouTube, Discord, dan 4chan – atas dugaan peran mereka dalam penembakan pada tahun 2023. Tahun lalu, seorang hakim federal memungkinkan gugatan untuk melanjutkan.
Desain rasisme, kecanduan, dan “cacat”
Meme rasis Gendron melihat online tidak diragukan lagi merupakan bagian utama dari pengaduan, tetapi penggugat tidak berargumen bahwa itu ilegal untuk menunjukkan kepada seseorang rasis, supremasi kulit putih, atau konten kekerasan. Faktanya, keluhan September 2023 secara eksplisit mencatat bahwa penggugat tidak berusaha untuk memegang YouTube “bertanggung jawab sebagai penerbit atau pembicara konten yang diposting oleh pihak ketiga,” sebagian karena itu akan memberikan amunisi YouTube untuk mendapatkan gugatan yang ditolak di bagian 230 halaman. Sebaliknya, mereka menggugat YouTube sebagai “desainer dan pemasar dari produk media sosial … itu tidak cukup aman dan itu cukup berbahaya untuk penggunaan yang dimaksudkan.”
Argumen mereka adalah bahwa YouTube dan sifat adiktif algoritma situs web lainnya, ketika digabungkan dengan kesediaan mereka untuk menyelenggarakan konten supremasi kulit putih, membuat mereka tidak aman. “Desain yang lebih aman ada,” kata pengaduan, tetapi YouTube dan platform media sosial lainnya “telah gagal memodifikasi produk mereka untuk membuatnya kurang berbahaya karena mereka berusaha memaksimalkan keterlibatan dan keuntungan pengguna.”
Penggugat membuat keluhan serupa tentang platform lain. Twitch, yang tidak bergantung pada generasi algoritmik, dapat mengubah produknya sehingga videonya berada pada penundaan waktu, Amy Keller, seorang pengacara untuk penggugat, mengatakan kepada hakim. Fitur Upvoting dan Karma Reddit membuat “loop umpan balik” yang mendorong penggunaan. 4Chan tidak mengharuskan pengguna untuk mendaftarkan akun, memungkinkan mereka untuk memposting konten ekstremis secara anonim. “Ada jenis -jenis khusus desain yang rusak yang kita bicarakan dengan masing -masing terdakwa ini,” kata Keller, menambahkan bahwa platform yang memiliki sistem rekomendasi algoritmik “mungkin di bagian atas tumpukan ketika datang ke kewajiban.”
Selama persidangan, para hakim bertanya kepada pengacara penggugat apakah algoritma ini selalu berbahaya. “Saya suka video kucing, dan saya menonton video kucing; mereka terus mengirimi saya video kucing,” kata salah satu hakim. “Ada tujuan yang menguntungkan, bukan? Ada beberapa pemikiran bahwa tanpa algoritma, beberapa platform ini tidak dapat berhasil. Ada terlalu banyak informasi.”
Setelah menyetujui bahwa ia menyukai video kucing, Glenn Chappell, pengacara lain untuk penggugat, mengatakan masalah ini terletak pada algoritma “yang dirancang untuk menumbuhkan kecanduan dan kerugian yang dihasilkan dari jenis mekanisme kecanduan yang diketahui.” Dalam hal itu, Chappell berkata, “Bagian 230 tidak berlaku.” Masalahnya adalah “fakta bahwa algoritma itu sendiri membuat konten itu membuat ketagihan,” kata Keller.
Konten pihak ketiga dan produk “rusak”
Pengacara platform, sementara itu, berpendapat bahwa menyortir konten dengan cara tertentu tidak boleh melucuti perlindungan terhadap tanggung jawab atas konten yang diposting pengguna. Sementara keluhan mungkin berpendapat bahwa itu tidak mengatakan layanan web adalah penerbit atau pembicara, pertahanan platform itu membalas bahwa ini adalah Masih kasus tentang pidato di mana bagian 230 berlaku.
“Kasus demi kasus telah mengakui bahwa tidak ada pengecualian algoritma untuk penerapan Bagian 230,” Eric Shumsky, seorang pengacara untuk Meta, mengatakan kepada hakim. Mahkamah Agung mempertimbangkan apakah bagian 230 perlindungan yang diterapkan pada konten yang direkomendasikan secara algoritmik Gonzalez v. Googletetapi pada tahun 2023, itu menolak kasus ini tanpa mencapai kesimpulan atau mendefinisikan kembali perlindungan yang saat ini luas.
Shumsky berpendapat bahwa sifat algoritma yang dipersonalisasi mencegah mereka menjadi “produk” di bawah hukum. “Layanan bukan produk karena tidak standar,” kata Shumsky. Tidak seperti mobil atau mesin pemotong rumput, “layanan ini digunakan dan dialami secara berbeda oleh setiap pengguna,” karena platform “menyesuaikan pengalaman berdasarkan tindakan pengguna.” Dengan kata lain, algoritma mungkin telah mempengaruhi Gendron, tetapi keyakinan Gendron juga memengaruhi algoritma tersebut.
Bagian 230 adalah penghitung umum untuk mengklaim bahwa perusahaan media sosial harus bertanggung jawab atas bagaimana mereka menjalankan aplikasi dan situs web mereka, dan yang terkadang berhasil. Putusan pengadilan 2023 menemukan bahwa Instagram, misalnya, tidak bertanggung jawab Merancang layanannya dengan cara tertentu Itu memungkinkan pengguna untuk mengirimkan ucapan berbahaya. Tuduhan “tak terhindarkan kembali ke kesimpulan akhir bahwa Instagram, dengan beberapa cacat desain, memungkinkan pengguna untuk memposting konten yang dapat berbahaya bagi orang lain,” kata putusan itu.
Namun, tahun lalu, pengadilan banding federal memutuskan bahwa Tiktok harus menghadapi gugatan atas “tantangan pemadaman” viral yang diklaim beberapa orang tua menyebabkan kematian anak -anak mereka. Dalam hal ini, Anderson v. Tyktok, Pengadilan Banding Sirkuit Ketiga menetapkan bahwa Tiktok tidak dapat mengklaim kekebalan Bagian 230, karena algoritma -algoritmanya memberi pengguna tantangan viral. Pengadilan memutuskan bahwa konten yang direkomendasikan Tiktok kepada penggunanya bukan pidato pihak ketiga yang dihasilkan oleh pengguna lain; dia Pihak Pertama Pidato, karena pengguna melihatnya sebagai hasil dari algoritma milik Tiktok.
Putusan Sirkuit Ketiga sangat anomali, sedemikian rupa sehingga ahli bagian 230 Eric Goldman menyebutnya “gila.” Tapi ada dorongan bersama untuk membatasi perlindungan hukum. Yang diinginkan oleh legislator konservatif mencabut bagian 230dan semakin banyak pengadilan perlu memutuskan apakah pengguna jejaring sosial dijual sebagai tagihan barang yang berbahaya – bukan hanya saluran untuk pidato mereka.
