Beberapa jam setelah mantan presiden AS Donald Trump ditembak di Butler, Pennsylvania, game Fortnite baru muncul: Donald Trump vs PembunuhGame tersebut dengan cepat dihapus, tetapi beberapa game lain yang mengandung antisemitisme dan kekerasan politik tetap ada di platform game tersebut, menurut sebuah sumber. laporan baru dari Proyek Global Melawan Kebencian dan Ekstremisme (GPAHE) yang dibagikan secara eksklusif dengan WIRED.
Game yang diidentifikasi oleh GPAHE dibuat menggunakan Fortnite Creative “Pulau”, yang memungkinkan pengguna mendesain peta atau area permainan mereka sendiri. Salah satunya meniru kamp konsentrasi Jasenovac di tempat yang sekarang disebut Kroasia, tempat puluhan ribu orang Yahudi, Romani, dan Serbia dibunuh selama Perang Dunia II. Dalam permainan, pengguna dapat bermain sebagai anggota Ustaša, kelompok nasionalis Kroasia yang dipengaruhi oleh fasisme dan Nazisme. Peta ini diberi label sebagai konten “pendidikan”.
Ketika WIRED menyampaikan temuan GPAHE kepada Epic Games, yang merupakan pemilik Fortnite, Alan Cooper, juru bicara perusahaan tersebut, mengatakan bahwa game Jasenovac adalah satu dari dua game yang dihapus karena melanggar kebijakan platform tersebut. Cooper memberi tahu WIRED bahwa perusahaan tersebut telah “menindak” game ketiga yang disorot dalam penelitian organisasi tersebut.
Game lain yang disebut Trump dan Biden mengadu pemain satu sama lain dalam tim merah atau biru untuk mewakili dua partai politik AS. Tim pemenang ditentukan oleh siapa pun yang berhasil membunuh lebih banyak anggota dari pihak lain. Cooper mengatakan Epic meninjau permainan tersebut dan “menemukan bahwa mereka tidak melanggar karena para pemain tidak bermain sebagai Trump atau [President] Biden dan tidak ada penggambaran kekerasan di dunia nyata terhadap para kandidat.”
Permainan lain yang diidentifikasi oleh GPAHE, disebut departemen ZONEWARSmempromosikan sayap kanan Jerman Alternatif untuk Jerman (AfD) pesta dan termasuk lagu yang merujuk pada rasis Teori “Penggantian Hebat” yang menyatakan bahwa imigran menggantikan orang Eropa kulit putih. Penelitian GPAHE menemukan lebih dari selusin permainan dengan konten politik antisemit atau kekerasan.
Fortnite, yang diperkirakan memiliki 236 juta pengguna aktif bulananmemiliki kebijakan melarang pembuatan konten yang mendukung “kegiatan ilegal, termasuk promosi geng dunia nyata atau kekerasan geng, promosi organisasi teroris dunia nyata atau terorisme, pelecehan, perundungan, penyerangan, doxing, [and] swatting.” Peraturan ini juga melarang konten yang “meliputi simbol atau penggambaran kebencian atau konten yang mengagungkan atau memicu kekerasan.” Namun, tampaknya game yang mengandung kebencian dan kekerasan tetap ada di internet meskipun ada peraturan ini, dan berpotensi menjangkau jutaan pengguna di seluruh dunia.
Wendy Via, CEO dan presiden GPAHE, mengatakan bahwa, seperti di platform mana pun tempat pengguna dapat membuat konten mereka sendiri, “Anda akan melihat segalanya” di Fortnite. Kebijakan mungkin melarang konten yang merendahkan martabat, menyebarkan bahasa kebencian, atau melanggengkan stereotip negatif, tetapi Via mengatakan bahwa aturan ini cukup samar untuk memungkinkan konten yang bermasalah tetap ada. Dia juga menunjukkan bahwa Fortnite sama sekali tidak memiliki kebijakan terkait konten politik. “Mereka tidak memiliki kebijakan khusus, jadi mereka dapat memberi diri mereka ruang untuk membiarkan sesuatu tetap ada, atau menghapusnya, tergantung pada apa yang paling sesuai dengan tujuan mereka,” katanya.
Cooper mengatakan bahwa peraturan perusahaan untuk kreator melarang mendorong pengguna untuk bergabung, berpartisipasi dalam, atau menyumbang ke organisasi politik di dunia nyata. “Kami berupaya sebaik mungkin untuk menerapkan peraturan dan tidak membuat keputusan sewenang-wenang untuk memblokir konten yang diizinkan berdasarkan peraturan,” katanya. “Ketika kami melihat area yang menurut kami dapat diperbaiki, kami memperbarui peraturan yang dipublikasikan sebelum memberlakukannya.”
Sementara beberapa permainan, seperti yang menampilkan ujaran politik yang penuh kebencian, mungkin termasuk dalam area abu-abu kebijakan Epic, permainan lain tampaknya melanggar aturan perusahaan. Satu permainan yang diidentifikasi dalam penelitian GPAHE mengadu orang Mesir dalam Alkitab dengan orang Yahudi dan memungkinkan pengguna bermain sebagai orang Mesir, membunuh orang Yahudi. Permainan ini dibuat oleh pengembang yang sama yang mengunggah permainan yang memungkinkan pengguna untuk mensimulasikan menyerbu gedung DPR AS pada tanggal 6 Januari 2021. (Setelah GPAHE menandai permainan tersebut pada bulan Mei (Itu telah dihapus.)
“Berapa pun jumlah uang yang dihasilkan dari permainan ini, [Epic] tidak perlu,” kata Via. “Apa insentifnya untuk tetap mempertahankannya selain sekadar tidak ingin menghadapinya, tidak ingin membuat pernyataan politik apa pun?”
Industri game telah lama berjuang untuk menjauhkan kelompok dan konten yang menyebarkan kebencian dari platform mereka. Pada tahun 2022, Senator AS Maggie Hassan dari New Hampshire mengirim surat ke Gabe Newellpresiden perusahaan Valve, yang mengelola platform distribusi video game online Steam, setelah laporan menunjukkan bahwa konten neo-Nazi telah berkembang pesat di ruang komunitas layanan tersebut. Pada tahun 2021, Liga Anti-Pencemaran Nama Baik diperkirakan bahwa sekitar 2,3 juta gamer remaja berusia 13 hingga 17 tahun telah terpapar ideologi supremasi kulit putih atau ujaran kebencian melalui game.
Mariana Olaizola Rosenblat adalah penasihat kebijakan teknologi dan hukum di Stern Center for Business and Human Rights di Universitas New York dan rekan penulis laporan tentang ekstremisme dan permainan yang mensurvei masalah tersebut di beberapa perusahaan. Epic Games, katanya, menggunakan beberapa lapisan moderasi sebelum sebuah game diunggah ke platformnya. Game yang lolos “tinjauan keamanan”, yang mencakup sistem otomatis yang menandai setiap kemungkinan masalah, dan kemudian tinjauan manusia, diizinkan di platform tersebut. Namun Rosenblat mengatakan bahwa para ekstremis mungkin menemukan cara untuk mengatasinya. Misalnya, peta Jasenovac tidak memiliki foto pratinjau yang tersedia, yang menurut para peneliti mungkin menjadi alasan mengapa peta tersebut tidak terdeteksi.
Memoderasi kekerasan dalam gim bisa jadi sulit. “Dalam hal gim, hal itu sulit, karena Anda tidak berbicara tentang dunia nyata,” kata Rosenblat. Ada “garis kabur” antara fiksi dan kenyataan, dan “pemain selalu dapat berkata ‘Kami sedang membuat catatan sejarah tentang apa yang terjadi, dan ini adalah keyakinan kami tentang apa yang terjadi’ atau ‘Kami hanya bermain-main dengan kontrafaktual, dan kami tidak bermaksud demikian dalam kenyataan.’”
Namun Rosenblat mengatakan bahwa game lebih dari sekadar kontennya; game juga merupakan komunitas pemainnya. “Anda dapat memiliki game yang sangat keras dengan budaya yang sangat sehat,” katanya. “Game lain mungkin menarik orang yang benar-benar tertarik melakukan kekerasan itu dalam kehidupan nyata atau mencoba membenarkan” kekerasan dalam kehidupan nyata.
Bahayanya, Rosenblat menambahkan, adalah bahwa permainan dengan tema tertentu dapat menarik jenis pemain tertentu, yang mungkin menggunakan retorika yang penuh kebencian atau kekerasan. Meskipun tidak semua pengguna yang terpapar retorika seperti itu cenderung melakukannya di luar permainan, atau bahkan mengubah pandangan mereka, “banyak pemain adalah anak-anak, anak-anak yang sangat muda, anak-anak yang mudah terpengaruh,” katanya. “Seiring waktu, mereka mungkin menganggap narasi ini normal.”
Cooper mencatat bahwa Epic memberi tahu tim moderasinya untuk “berasumsi bahwa kreator bermaksud baik jika mereka tidak yakin tentang pelanggaran konten” dalam upaya untuk tidak melakukan penyensoran berlebihan. “Hal ini terkadang gagal karena kesalahan manusia atau kurangnya kesadaran akan beberapa masalah kontroversial,” kata Cooper, seraya menambahkan bahwa, selain sistem moderasinya, Epic mendorong “pengguna untuk melaporkan konten yang tidak pantas.”
Garrison Wells, seorang peneliti di UC Irvine yang mempelajari permainan digital dan ekstremisme, mengatakan bahwa para ekstremis cenderung tertarik pada permainan yang memungkinkan penggunanya membuat konten dan lingkungan mereka sendiri. Lingkungan ini kemudian menjadi tidak bersahabat bagi pemain yang mungkin tidak merasa nyaman dengan ujaran atau konten yang mengandung kebencian.
“Tren yang kami lihat adalah pemain yang lebih sering menjadi sasaran meninggalkan tempat-tempat ini,” kata Wells. “Jadi, mereka yang tidak terlalu ingin melapor atau tidak terlalu tersinggung atau tidak peduli dengan retorika semacam itu akan terus bermain.”
Hal ini dapat memperparah masalah, kata Wells, karena banyak permainan mengandalkan pelaporan pengguna untuk mengawasi platform mereka.
Namun Via mengatakan bahwa, meskipun memoderasi permainan mungkin sulit, jelas perusahaan dapat mencari tahu kapan mereka benar-benar menginginkannya. “Segera setelah [the Trump assassination game] sudah naik, mereka sudah turunkan,” kata Via. “Jadi mengapa mereka tidak bisa menurunkan barang-barang lainnya?”
