Aplikasi pengenalan wajah Benteng SelulerSekarang digunakan oleh agen imigrasi Amerika Serikat di kota-kota besar di Amerika, tidak dirancang untuk dapat mengidentifikasi orang-orang di jalanan secara andal dan diterapkan tanpa pengawasan yang secara historis mengatur peluncuran teknologi yang berdampak pada masyarakat. pribadimenurut catatan yang ditinjau oleh WIRED.
Itu Departemen Keamanan Dalam Negeri meluncurkan Mobile Fortify pada musim semi tahun 2025 untuk “menentukan atau memverifikasi” identitas individu yang dihentikan atau ditahan oleh petugas DHS selama operasi federal, menurut catatan. DHS secara eksplisit menghubungkan peluncuran tersebut dengan perintah eksekutifditandatangani oleh Presiden Donald Trump pada hari pertamanya menjabat, yang menyerukan tindakan keras “total dan efisien” terhadap imigran tidak berdokumen melalui penggunaan pemindahan yang dipercepat, perluasan penahanan, dan tekanan pendanaan pada negara, serta taktik lainnya.
Meskipun DHS berulang kali menyebut Mobile Fortify sebagai alat untuk mengidentifikasi orang melalui pengenalan wajah, namun, aplikasi tersebut tidak benar-benar “memverifikasi” identitas orang yang dihentikan oleh agen imigrasi federal—sebuah batasan yang terkenal pada teknologi dan fungsi bagaimana Mobile Fortify dirancang dan digunakan.
“Setiap produsen teknologi ini, setiap departemen kepolisian yang mempunyai kebijakan memperjelas bahwa teknologi pengenalan wajah tidak mampu memberikan identifikasi positif, bahwa teknologi ini membuat kesalahan, dan hanya untuk menghasilkan petunjuk,” kata Nathan Wessler, wakil direktur Proyek Pidato, Privasi, dan Teknologi American Civil Liberties Union.
Catatan yang ditinjau oleh WIRED juga menunjukkan bahwa persetujuan tergesa-gesa DHS terhadap Fortify pada bulan Mei lalu dimungkinkan dengan menghapuskan tinjauan privasi terpusat dan secara diam-diam menghapus batasan pengenalan wajah di seluruh departemen—perubahan yang diawasi oleh mantan pengacara Heritage Foundation dan kontributor Proyek 2025, yang kini bertugas di peran senior privasi DHS.
DHS—yang menolak merinci metode dan alat yang digunakan agen, meskipun ada panggilan berulang kali dari agen tersebut pejabat pengawas Dan pengawas privasi nirlaba—telah menggunakan Mobile Fortify untuk memindai wajah tidak hanya “individu yang ditargetkan”, tetapi juga orang-orang di kemudian hari dikonfirmasi menjadi warga negara AS dan pihak lain yang mengamati atau memprotes aktivitas penegakan hukum.
Pelaporan telah mendokumentasikan agen federal yang memberi tahu warga bahwa mereka direkam dengan pengenalan wajah dan bahwa wajah mereka akan ditambahkan ke database tanpa persetujuan. Laporan lain menggambarkan agen yang merawat aksen, persepsi etnis, atau warna kulit sebagai dasar untuk meningkatkan pertemuan—kemudian menggunakan pemindaian wajah sebagai langkah berikutnya setelah pemberhentian sedang berlangsung. Secara keseluruhan, kasus-kasus tersebut menggambarkan pergeseran yang lebih luas dalam penegakan DHS menuju pertemuan tingkat rendah di jalan yang diikuti dengan pengambilan biometrik seperti pemindaian wajah, dengan transparansi yang terbatas seputar pengoperasian dan penggunaan alat tersebut.
Teknologi Fortify memobilisasi pengambilan gambar wajah ratusan mil dari perbatasan AS, sehingga memungkinkan DHS untuk menghasilkan sidik wajah non-konsensual dari orang-orang yang, “bisa dibayangkan,” kata Kantor Privasi DHS, adalah “warga negara AS atau penduduk tetap yang sah.” Terkait dengan situasi di sekitar penyebarannya ke agen-agen di Bea Cukai dan Perlindungan Perbatasan serta Imigrasi dan Penegakan Bea Cukai, fungsi Fortify terlihat terutama saat ini melalui pengajuan pengadilan dan kesaksian agen tersumpah.
Dalam gugatan federal bulan ini, pengacara Negara Bagian Illinois dan Kota Chicago mengatakan aplikasi tersebut telah digunakan “di lapangan lebih dari 100.000 kali” sejak diluncurkan.
Dalam kesaksian di Oregon tahun lalu, seorang agen mengatakan dua foto seorang wanita dalam tahanan diambil dengan aplikasi pengenalan wajahnya menghasilkan identitas yang berbeda. Wanita itu diborgol dan melihat ke bawah, kata agen tersebut, mendorong dia untuk mengubah posisinya secara fisik untuk mendapatkan gambar pertama. Gerakan itu, kesaksiannya, menyebabkan dia menjerit kesakitan. Aplikasi tersebut mengembalikan nama dan foto seorang wanita bernama Maria; pertandingan yang dinilai agen sebagai “mungkin”.
Agen memanggil nama, “Maria, Maria,” untuk mengukur reaksinya. Ketika dia gagal menjawab, mereka mengambil foto lagi. Agen tersebut bersaksi bahwa hasil kedua “mungkin,” namun menambahkan, “Saya tidak tahu.” Ketika ditanya apa yang mendukung kemungkinan penyebabnya, agen tersebut menyebutkan wanita tersebut berbicara dalam bahasa Spanyol, kehadirannya bersama orang lain yang tampaknya bukan warga negara, dan “kemungkinan kecocokan” melalui pengenalan wajah. Agen tersebut bersaksi bahwa aplikasi tersebut tidak menunjukkan seberapa yakin sistem tersebut dalam sebuah pertandingan. “Itu hanya sebuah gambaran, Yang Mulia. Anda harus melihat mata, hidung, mulut, dan bibir.”
Para agen menggambarkan operasi Oregon sebagai bagian dari “Operasi Membentengi Perbatasan” dan menyebut penegakan hukum di Pacific Northwest secara khusus sebagai “Operasi Blackrose.”
“Pengenalan wajah bisa saja salah, dan hal ini pernah salah di masa lalu,” kata Mario Trujillo, staf pengacara senior di lembaga nirlaba hak digital Electronic Frontier Foundation. “Di sini, perlindungan yang Anda harapkan—skor kepercayaan, ambang batas yang jelas, banyak foto kandidat—tampaknya tidak tercapai.”
Kemunculan banyak identitas bukanlah sebuah kesalahan melainkan sebuah fitur bagaimana Mobile Fortify beroperasi di lapangan: Terlepas dari bagaimana agen menggunakannya, sistem ini dibangun untuk menghasilkan kecocokan kandidat, bukan konfirmasi. Daripada menelusuri galeri biometrik yang luas secara mendalam, Fortify mengubah foto menjadi templat matematika dan hanya mengembalikan entri dengan skor cukup tinggi untuk dianggap sebagai kemungkinan kecocokan. Ambang batas tersebut dapat diatur secara manual atau disesuaikan secara dinamis sebagai respons terhadap persyaratan waktu respons dan beban sistem.
Saat gambar diambil di luar kondisi terkendali, bahkan perbedaan kecil—kemiringan kepala, pencahayaan, bayangan, pemotongan, fokus, atau ekspresi—dapat mengubah template dan merombak kumpulan kandidat. Respons yang lebih cepat juga memerlukan jumlah kandidat yang lebih kecil. Ini adalah trade-off yang signifikan dalam menuntut hasil yang real-time.
Ketika foto jalanan yang dibingkai dengan buruk menyebabkan subjek dikeluarkan dari sistem lebih awal, sudah pasti secara matematis bahwa kecocokan apa pun akan gagal.
Fungsi utama Mobile Fortify adalah untuk memperluas jumlah foto dan data biometrik yang dikumpulkan DHS, termasuk sidik jari, dengan mengalihkan koleksinya dari pelabuhan masuk ke pertemuan rutin ICE yang terjadi jauh dari perbatasan AS. Data disimpan dalam database yang dihubungkan oleh platform terpusat yang dikenal sebagai Sistem Penargetan Otomatis (ATS). CBP mengatakan data tersebut disimpan hingga 15 tahun tetapi mungkin bertahan lebih lama jika dibagikan kepada lembaga lain di luar kendali CBP.
Di antara sistem biometrik lainnya, ATS terhubung dengan Sistem Verifikasi Wisatawan (TVS), yang digunakan oleh CBP untuk perbandingan wajah di pelabuhan masuk, selama pemeriksaan sebelum kedatangan, dan dalam pemeriksaan lain yang terkait dengan penyeberangan perbatasan. Berdasarkan kebijakan CBP, foto dan data biometrik warga AS yang memilih tidak menerima identifikasi biometrik akan dihapus dari TVS dalam waktu kurang dari satu hari.
Catatan internal menunjukkan bahwa data yang dikumpulkan melalui Fortify juga dapat disimpan dalam Alur Kerja Penyitaan dan Pemahaman (SAW), yang digambarkan sebagai “galeri biometrik individu yang informasinya disimpan oleh CBP.” Berbeda dengan TVS, SAW digunakan untuk tujuan intelijen dan perolehan prospek. Sebuah “pukulan yang menghina” tidak menunjukkan status tidak berdokumen, tindakan kriminal, atau kemungkinan penyebab penangkapan. Warga negara AS tidak dikecualikan secara eksplisit, dan catatan disimpan hingga 15 tahun.
Agen ICE diinstruksikan untuk memotret subjek untuk pengenalan wajah sebelum mencoba mencocokkan sidik jari mereka, yang menurut catatan pengadilan dilakukan di kantor dan bukan di jalan, meskipun sidik jari merupakan biometrik yang lebih kuat untuk mengonfirmasi identitas. Urutannya mengutamakan kecepatan dan kemudahan pengumpulan daripada identifikasi positif. Ketika sidik jari diambil, sidik jari tersebut diteruskan melalui ATS ke database IDENT dan disimpan selama minimal 75 tahun.
Catatan juga menunjukkan adanya daftar pantauan menghina lainnya yang dikendalikan oleh CBP dan diberikan oleh Fortify, yang dikenal sebagai Fortify the Border Hotlist. Daftar tersebut hanya disebutkan dalam satu dokumen yang dirilis ke publik dan telah disebutkan pertama kali diungkapkan oleh 404 Media tahun lalu. Catatan tersebut tidak menjelaskan kriteria penempatan dalam daftar pantauan atau proses penghapusan atau banding apa pun. Tidak jelas apakah warga negara AS termasuk di dalamnya.
DHS tidak menanggapi pertanyaan tentang kriteria yang mengatur daftar pantauan, apakah warga negara AS ditambahkan, atau apakah ada proses ganti rugi bagi individu yang salah dimasukkan.
Sebuah surat yang dirilis Selasa oleh senator AS Ed Markey memperingatkan bahwa pejabat DHS telah menyarankan pembangunan database untuk mengkatalog orang-orang yang memprotes atau mengamati penegakan imigrasi. Laporan ini mengutip pernyataan publik dan arahan internal yang menginstruksikan agen untuk melakukan hal tersebut mengumpulkan gambar dan informasi pribadi pada pengunjuk rasa dan orang-orang yang berada di sekitar. Markey mengatakan dalam sebuah pernyataan pada hari Rabu bahwa DHS telah mengerahkan “persenjataan teknologi pengawasan” yang digunakan untuk memantau “baik warga negara maupun bukan warga negara,” dan menyebutnya sebagai “hal-hal yang merupakan mimpi buruk.”
“Ada serangkaian masalah yang terjadi pada aplikasi ini dan apa yang dilakukan ICE dan CBP,” kata Trujillo. “Pemindaian pengenalan wajah di bagian dalam sangat invasif. Anda mengukur wajah seseorang dan membandingkannya dengan jutaan foto di database. Ini memberikan kepastian ketika tidak ada kepastian di balik layar.”
Trujillo juga percaya bahwa “ada argumen yang jelas bahwa DHS dan komponen-komponennya melampaui wewenang mereka di sini.”
Fortify bergantung secara khusus pada algoritma pencocokan yang dikembangkan oleh NEC Corporation of America, anak perusahaan Amerika dari perusahaan multinasional Jepang yang berkantor pusat di Tokyo, sebagai yang pertama dilaporkan oleh WIRED bulan lalu.
Pengujian yang dilakukan oleh ilmuwan federal di National Institute of Standards and Technology, yang dilakukan bersama DHS dan CBP, menunjukkan akurasi pengenalan wajah menurun tajam ketika gambar diambil di luar pengaturan terkontrol, termasuk untuk model NEC dengan performa terbaik. Tes tersebut membedakan antara “foto berkualitas tinggi seperti visa” yang diambil di kantor imigrasi dan gambar “liar” yang diambil dalam kondisi dunia nyata, seperti jalur imigrasi atau di kios perjalanan terdaftar.
Di pelabuhan masuk, CBP mengandalkan foto visa yang dikontrol ketat: kamera tetap, subjek kooperatif, ekspresi netral, latar belakang polos, dan pencahayaan seragam. Gambar ditolak jika kepala subjek berada di luar rentang ukuran yang sempit. Bahkan sistem yang sangat akurat, kata NIST, kesulitan dengan pembingkaian atau kemiringan kepala yang buruk.
Foto jalanan yang diambil dengan ponsel tidak memiliki kontrol tersebut. Pencahayaan yang bervariasi, pergeseran sudut, dan keburaman gerakan kemungkinan besar biasa terjadi di lapangan, yang dipengaruhi oleh lingkungan dan kemantapan orang yang memegang telepon. Resolusi tinggi saja tidak dapat mengatasi kendala ini.
Tinjauan WIRED terhadap paten pengenalan wajah baru-baru ini yang diberikan kepada NEC menunjukkan bahwa teknologi perusahaan tersebut dirancang bukan untuk memverifikasi identitas secara meyakinkan, melainkan untuk beroperasi dalam skala besar dalam kondisi yang tidak sempurna. Paten tersebut menjelaskan sistem yang mengubah gambar wajah menjadi templat biometrik dan membandingkannya dengan catatan yang disimpan menggunakan skor kesamaan dan ambang batas yang dapat disesuaikan, dengan tujuan eksplisit untuk mempertahankan kapasitas ketika kualitas gambar bervariasi.
Paten tersebut juga mengakui adanya trade-off inti. NEC menjelaskan penyetelan ambang batas kecocokan dan perilaku sistem untuk menyeimbangkan kecepatan, skala, dan akurasi, dengan menyatakan bahwa menurunkan ambang batas dapat mengurangi penundaan dan kegagalan transaksi sekaligus meningkatkan risiko positif palsu, dan memperketat ambang batas tersebut dapat menimbulkan efek sebaliknya. Ambang batas dapat disesuaikan secara dinamis berdasarkan faktor operasional seperti beban sistem, frekuensi penggunaan, atau kecepatan kinerja.
Untuk mendukung penggunaan real-time, paten menjelaskan sistem yang dikonfigurasi untuk menghentikan pencarian setelah jangka waktu yang singkat dan tetap—dalam hitungan detik—jika tidak ditemukan kecocokan. Dalam kasus tersebut, sistem mungkin masih menampilkan pasangan kandidat dengan skor tertinggi untuk ditinjau oleh manusia, meskipun skor tersebut tidak cukup untuk pencocokan otomatis. Batasan tersebut mengurangi tuntutan komputasi dan memungkinkan respons yang cepat, namun juga membatasi seberapa besar database s dicari, menghasilkan hasil yang sugestif daripada pasti.
NEC tidak menanggapi pertanyaan tentang pemberian lisensi teknologi pengenalan wajah kepada lembaga imigrasi AS, termasuk pertanyaan tentang bagaimana sistemnya dirancang untuk bekerja dalam kondisi lapangan yang tidak terkendali, perlindungan atau batasan penggunaan apa yang diberikan kepada pelanggan pemerintah, dan apakah NEC mengevaluasi implikasi terhadap kebebasan sipil atau hak asasi manusia sebelum memberikan lisensi produknya.
Emily Peterson-Cassin, direktur kebijakan Demand Progress Education Fund, sebuah organisasi nirlaba pro-privasi, memperingatkan bahwa pengenalan wajah yang tidak terkendali mengancam kebebasan berekspresi dan kebebasan sipil. “Perlindungan privasi sangat penting untuk menghentikan penargetan yang salah oleh alat yang belum teruji seperti Mobile Fortify,” katanya, “dan merupakan perlindungan minimum yang diperlukan untuk mencegah teknologi ini menjadi penghambat kebebasan paling dasar kita.”
Di hari-hari dan beberapa minggu setelah dimulainya masa jabatan Trump yang kedua, para pejabat Departemen Keamanan Dalam Negeri mulai membongkar kebijakan dan pemeriksaan pengawasan yang membatasi penggunaan pengenalan wajah, termasuk kebijakan yang bertujuan untuk menegakkan perlindungan privasi yang diamanatkan oleh Kongres. Jika DHS saat ini memiliki kebijakan di seluruh perusahaan yang mengatur kapan, bagaimana, dan berdasarkan perlindungan apa pengenalan wajah dapat digunakan, kebijakan tersebut tidak bersifat publik.
Arsip online menunjukkan arahan terakhir, yang diterapkan pada tahun 2023, menghilang dari situs web agensi tiga minggu setelah pelantikan Trump. Di antara batasan-batasan lainnya, Petunjuk 026-11 menyatakan bahwa pengenalan wajah tidak boleh digunakan sebagai satu-satunya dasar bagi tindakan hukum atau penegakan sipil dan bahwa warga negara AS harus memiliki hak untuk memilih tidak ikut serta jika pengumpulan data tidak untuk tujuan penegakan hukum.
“DHS belum secara terbuka mengganti arahan pengenalan wajah sebelumnya, dan tampaknya DHS tidak memiliki kebijakan atau bahkan batasan mengenai penggunaan teknologi pengenalan wajah,” kata Jeramie Scott, penasihat senior di Pusat Informasi Privasi Elektronik nirlaba dan direktur program pengawasan pengawasannya.
Arahan tersebut juga melarang “pemantauan, pengawasan, atau pelacakan yang sistemik, tanpa pandang bulu, atau berskala luas.” Dikatakan bahwa pengenalan wajah tidak dapat digunakan untuk “memprofilkan, menargetkan, atau mendiskriminasi individu yang menjalankan hak konstitusional mereka.” Undang-undang tersebut melarang penggunaan alat yang mengklaim dapat menganalisis wajah orang untuk menyimpulkan sifat dan karakteristik pribadi (dengan pengecualian usia). Hal ini juga mengaitkan setiap penggunaan pengenalan wajah oleh ICE dan CBP dengan proses peninjauan dan otorisasi di tingkat kantor pusat, yang masing-masing akan dilakukan oleh kepala petugas privasi dan informasi DHS.
Fortify dipercepat kurang dari dua bulan setelah Petunjuk 026-11 menghilang, pada bulan Mei 2025. Petugas privasi CBP dan ICE sendiri menyimpulkan bahwa tidak ada penilaian privasi baru yang diwajibkan berdasarkan undang-undang federal—otoritas yang sebelumnya tidak mereka miliki. Catatan menunjukkan bahwa penentuan tersebut secara historis berada di tangan direktur senior kepatuhan privasi DHS, pejabat kantor pusat yang bertindak atas nama kepala petugas privasi departemen dan independen terhadap lembaga operasional.
Penafian dalam catatan yang pertama kali diungkapkan oleh 404 Media mendokumentasikan pertukaran tersebut. CBP menyatakan bahwa pihaknya “mengambil tanggung jawab atas peninjauan dan keputusan” tinjauan privasi pada tanggal 3 Maret 2025, mengutip panduan kebijakan internal yang dikeluarkan oleh kantor yang dipimpin oleh Roman Jankowski, yang ditunjuk sebagai kepala petugas privasi DHS pada hari pelantikan Trump.
Pedoman federal biasanya memerlukan penilaian privasi ketika sebuah lembaga menerapkan teknologi baru yang mengumpulkan informasi yang dapat diidentifikasi tentang publik atau secara signifikan mengubah cara, di mana, atau dari siapa data tersebut dikumpulkan. Mereka juga menandai “penggunaan baru dari sistem TI yang sudah ada” yang menimbulkan “risiko privasi baru,” termasuk perubahan yang akan membuka jalan baru bagi paparan data.
Sebelum bergabung dengan pemerintahan, Jankowski bekerja untuk Heritage Foundation dan Oversight Project-nya, di mana ia menjadi kontributor cetak biru Proyek 2025 grup tersebut untuk masa jabatan kedua Trump. Dokumen tersebut merekomendasikan penggabungan ICE dan CBP; melemahkan pengawasan terpusat departemen tersebut; dan mengalihkan fungsi hak-hak sipil dan peninjauan privasi dari DHS ke lembaga-lembaga yang menjadi tanggung jawab polisi.
“Pendekatan yang angkuh terhadap penggunaan pengenalan wajah ini memiliki konsekuensi nyata terhadap privasi, kebebasan sipil, dan hak-hak sipil kita yang diperburuk dengan diabaikannya sedikit pengawasan yang ada,” kata Scott. “Hasilnya, seperti yang kita lihat pada Mobile Fortify, adalah kegagalan dalam meneliti teknologi secara mendalam.”
Senator Markey dan rekan-rekannya minggu ini memperkenalkan undang-undang yang bertujuan untuk melarang ICE dan CBP menggunakan alat pengenalan wajah dan pengawasan biometrik tertentu, dengan mengatakan bahwa badan-badan tersebut telah membangun peralatan pengawasan menyeluruh yang digunakan jauh dari perbatasan untuk memindai orang tanpa persetujuan, akuntabilitas, atau batasan hukum yang jelas. Teks lengkap dari RUU tersebut, yang diberi judul pendek ICE Out of Our Faces Act, belum tersedia pada saat penulisan.
“Teknologi pengenalan wajah berada di tengah-tengah jaringan digital yang telah diciptakan di negara kita selama setahun terakhir,” kata Markey saat konferensi pers pada hari Rabu. “Ini berbahaya, otoriter, dan inkonstitusional.”
Pelaporan tambahan oleh Matt Giles.
