Menjelang Olimpiade upacara pembukaanParis adalah kota yang dibanjiri keamanan. Empat puluh ribu penghalang membagi ibu kota Prancis itu. Sekelompok polisi yang mengenakan rompi antipeluru berpatroli di jalan-jalan berbatu yang cantik. Sungai Seine tidak boleh dimasuki oleh siapa pun yang belum diperiksa dan diberi kode QR pribadi. Tentara berpakaian khaki, hadir sejak serangan teroris tahun 2015, berlama-lama di dekat toko roti tepi kanal, mengenakan baret dan mencengkram senjata besar di dada mereka.
Menteri Dalam Negeri Prancis Gérald Darmanin telah menghabiskan minggu lalu untuk membenarkan tindakan-tindakan ini sebagai kewaspadaan—bukan tindakan yang berlebihan. Prancis menghadapi “tantangan keamanan terbesar yang pernah dihadapi negara mana pun dalam masa damai,” katanya kepada wartawan pada hari Selasa. Dalam sebuah wawancara dengan surat kabar mingguan Le Journal du Dimanche, ia menjelaskan bahwa “individu yang berpotensi berbahaya“telah tertangkap melamar pekerjaan atau menjadi relawan di Olimpiade, termasuk 257 penganut Islam radikal, 181 anggota sayap kiri, dan 95 anggota sayap kanan. Kemarin, ia mengatakan kepada penyiar berita Prancis BFM bahwa warga negara Rusia telah ditangkap karena dicurigai merencanakan tindakan “destabilisasi” berskala besar selama Olimpiade.
Warga Paris masih menggerutu tentang penutupan jalan dan jalur sepeda yang tiba-tiba berakhir tanpa peringatan, sementara kelompok hak asasi manusia mencela “risiko yang tidak dapat diterima terhadap hak-hak fundamental.” Bagi Olimpiade, ini bukanlah hal baru. Keluhan tentang keamanan distopia hampir menjadi tradisi Olimpiade. Iterasi sebelumnya telah dicirikan sebagai London TerkunciBahasa Indonesia: Benteng Tokyodan “perlombaan senjata” di Rio. Kali ini, langkah-langkah keamanan yang paling tidak terlihat justru muncul sebagai beberapa yang paling kontroversial. Langkah-langkah keamanan di Paris telah ditingkatkan oleh jenis AI baru, karena kota tersebut memungkinkan algoritma kontroversial untuk merayapi rekaman CCTV stasiun transportasi untuk mencari ancaman. Sistem tersebut pertama kali diuji di Paris pada bulan Maret di dua konser Depeche Mode.
Bagi para kritikus dan pendukung, pengawasan algoritmik terhadap rekaman CCTV menawarkan gambaran sekilas tentang sistem keamanan masa depan, di mana terdapat terlalu banyak rekaman pengawasan untuk ditonton secara fisik oleh operator manusia. “Perangkat lunak ini merupakan perpanjangan dari kepolisian,” kata Noémie Levain, anggota kelompok aktivis La Quadrature du Net, yang menentang pengawasan AI. “Ini adalah mata polisi yang berlipat ganda.”
Di dekat pintu masuk stasiun metro Porte de Pantin, kamera pengawas dibaut ke langit-langit, terbungkus dalam kotak logam abu-abu yang mudah diabaikan. Sebuah tanda kecil disematkan ke dinding di atas tempat sampah, memberi tahu siapa pun yang ingin berhenti dan membaca bahwa mereka adalah bagian dari “eksperimen analisis pengawasan video.” Perusahaan yang mengelola metro Paris RATP “kemungkinan” akan menggunakan “analisis otomatis secara real time” dari gambar CCTV “yang dapat Anda lihat,” tanda itu menjelaskan kepada penumpang yang tidak menyadari apa yang terjadi. Eksperimen itu, katanya, berlangsung hingga Maret 2025.
Porte de Pantin berada di tepi taman La Villette, rumah bagi Taman Olimpiade Bangsa-bangsa, tempat para penggemar dapat makan atau minum di paviliun yang didedikasikan untuk 15 negara berbeda. Halte Metro juga merupakan salah satu dari 46 stasiun kereta api dan metro tempat algoritma CCTV akan digunakan selama Olimpiade, menurut pengumuman oleh Preférance du Paris, sebuah unit di bawah Kementerian Dalam Negeri. Perwakilan kota tidak menjawab pertanyaan WIRED tentang apakah ada rencana untuk menggunakan pengawasan AI di luar jaringan transportasi. Berdasarkan undang-undang Maret 2023 hukumalgoritma diizinkan untuk mencari rekaman CCTV secara real-time untuk delapan “peristiwa,” termasuk lonjakan massa, kelompok orang yang jumlahnya luar biasa besar, benda-benda yang ditinggalkan, senjata, atau orang yang jatuh ke tanah.
“Apa yang kami lakukan adalah mengubah kamera CCTV menjadi alat pemantauan yang canggih,” kata Matthias Houllier, salah satu pendiri Wintics, salah satu dari empat perusahaan Prancis yang memenangkan kontrak untuk menggunakan algoritma mereka di Olimpiade. “Dengan ribuan kamera, mustahil bagi petugas polisi [to react to every camera]”.”
Wintics memenangkan kontrak publik pertamanya di Paris pada tahun 2020, mengumpulkan data tentang jumlah pesepeda di berbagai bagian kota untuk membantu pejabat transportasi Paris saat mereka berencana membangun lebih banyak jalur sepeda. Dengan menghubungkan algoritmanya ke 200 kamera lalu lintas yang ada, sistem Wintics—yang masih beroperasi—dapat mengidentifikasi terlebih dahulu dan kemudian menghitung pesepeda di tengah jalan yang ramai. Ketika Prancis mengumumkan sedang mencari perusahaan yang dapat membangun algoritma untuk membantu meningkatkan keamanan di Olimpiade musim panas ini, Houllier menganggap ini sebagai evolusi alami. “Teknologinya sama,” katanya. “Teknologi ini menganalisis bentuk-bentuk anonim di ruang publik.”
Setelah melatih algoritmanya pada data sumber terbuka dan sintetis, sistem Wintics telah diadaptasi untuk, misalnya, menghitung jumlah orang di tengah kerumunan atau jumlah orang yang jatuh ke lantai—memberi tahu operator jika jumlahnya melampaui ambang batas tertentu.
“Itu saja. Tidak ada keputusan otomatis,” jelas Houllier. Timnya melatih pejabat Kementerian Dalam Negeri tentang cara menggunakan perangkat lunak perusahaan dan mereka memutuskan bagaimana mereka ingin menggunakannya, katanya. “Idenya adalah untuk menarik perhatian operator, sehingga mereka dapat memeriksa ulang dan memutuskan apa yang harus dilakukan.”
Houllier berpendapat bahwa algoritmanya adalah alternatif yang ramah privasi terhadap sistem pengenalan wajah kontroversial yang digunakan oleh acara olahraga global sebelumnya, seperti Olimpiade 2022. Piala Dunia Qatar“Di sini kami mencoba mencari cara lain,” katanya. Baginya, membiarkan algoritme menelusuri rekaman CCTV adalah cara untuk memastikan acara tersebut aman tanpa membahayakan kebebasan pribadi. “Kami tidak menganalisis data pribadi apa pun. Kami hanya melihat bentuk, tidak ada wajah, tidak ada pengenalan pelat nomor, tidak ada analisis perilaku.”
Namun, aktivis privasi menolak gagasan bahwa teknologi ini melindungi kebebasan pribadi orang. Di distrik ke-20, Noémie Levain baru saja menerima kiriman 6.000 poster yang rencananya akan didistribusikan oleh kelompok tersebut, yang dirancang untuk memperingatkan sesama warga Paris tentang “pengawasan algoritmik” yang mengambil alih kota mereka dan mendesak mereka untuk menolak “pengambilalihan ruang publik secara otoriter.” Dia menepis gagasan bahwa algoritme tidak memproses data pribadi. “Ketika Anda memiliki gambar orang, Anda harus menganalisis semua data pada gambar tersebut, yang merupakan data pribadi, yang merupakan data biometrik,” katanya. “Itu teknologi yang sama persis dengan pengenalan wajah. Itu prinsip yang sama persis.”
Levain khawatir sistem pengawasan AI akan tetap ada di Prancis lama setelah para atlet pergi. Baginya, algoritme ini memungkinkan polisi dan badan keamanan untuk memberlakukan pengawasan di wilayah kota yang lebih luas. “Teknologi ini akan mereproduksi stereotip polisi,” katanya. “Kita tahu bahwa mereka melakukan diskriminasi. Kita tahu bahwa mereka selalu pergi ke area yang sama. Mereka selalu pergi dan melecehkan orang yang sama. Dan teknologi ini, seperti halnya setiap teknologi pengawasan, akan membantu mereka melakukan itu.”
Saat para pengendara mengamuk di pusat kota karena penghalang keamanan yang menghalangi jalan, Levain adalah salah satu dari banyak warga Paris yang berencana untuk pindah ke selatan Prancis saat Olimpiade berlangsung. Namun, ia khawatir tentang kota yang akan menyambutnya saat ia kembali. “Olimpiade hanyalah alasan,” katanya. “Mereka—pemerintah, perusahaan, polisi—sudah memikirkan apa yang akan terjadi setelahnya.”
