Meta diam-diam tertanam pengenalan wajah teknologi untuk itu kacamata pintar menjadi aplikasi yang diunduh ke jutaan ponsel, menurut analisis WIRED terhadap perangkat lunak perusahaan.
Kode yang ditambahkan secara diam-diam ke aplikasi AI Meta melalui beberapa pembaruan tahun ini menunjukkan bahwa fitur tersebut, yang secara internal disebut “NameTag,” mengidentifikasi orang yang ditangkap oleh kamera kacamata dan, bila diaktifkan, memperingatkan pemakainya ketika mengenali seseorang.
Penemuan NameTag di aplikasi Meta AI langsung menunjukkan bahwa Meta telah mulai mengirimkan kode pengenalan wajah ke ponsel pengguna sambil secara publik menggambarkannya sebagai sesuatu yang masih “dipikirkan” oleh perusahaan. Pada bulan April, Meta mengatakan jika ingin memanfaatkan pengenalan wajah, hal itu tidak akan diluncurkan tanpa terlebih dahulu mengambil “pendekatan yang sangat bijaksana”. Namun WIRED menemukan bahwa pada awal Januari, komponen inti sistem telah diintegrasikan ke dalam perangkat lunak yang didistribusikan ke jutaan orang.
Meskipun belum diaktifkan, NameTag berada di dalam aplikasi pendamping Meta AI yang telah diunduh lebih dari 50 juta kali dan diperlukan untuk menggunakan fitur-fitur utama kacamata pintarnya, termasuk model Ray-Ban dan Oakley. Jika diaktifkan, ini akan mengubah wajah yang ditangkap oleh kacamata Meta menjadi tanda tangan biometrik unik, yang umumnya dikenal sebagai sidik wajah, dan membandingkan setiap wajah dengan sidik wajah yang disimpan di ponsel pengguna—database yang saat ini dikonfigurasi untuk menerima pembaruan dari Meta. Wajah yang dikenali akan memicu notifikasi, sementara wajah lainnya dipotong, diindeks, dan disimpan ke folder bertanda “menunggu keputusan”.
NameTag akan menghidupkan kembali jenis teknologi yang menurut Meta telah dihentikan pada tahun 2021, ketika perusahaan tersebut mengumumkan akan menghapus lebih dari satu miliar cetakan wajah milik pengguna Facebook setelah bertahun-tahun kontroversi mengenai sistem penandaan fotonya. Meta akhirnya membayar $650 juta untuk menyelesaikan gugatan class action yang diajukan oleh pengguna Illinois dan, pada tahun 2024, menyetujui penyelesaian terpisah sebesar $1,4 miliar dengan Texas atas tuduhan bahwa mereka mengumpulkan data biometrik dari pengguna secara tidak sah.
Upaya baru ini dilakukan di tengah meningkatnya penolakan terhadap pengenalan wajah di tingkat konsumen, yang menurut para pendukung privasi akan memberikan siapa pun mulai dari penguntit hingga agen imigrasi akses mudah ke teknologi berbahaya. Dokumen Meta internal diterbitkan oleh Waktu New York pada bulan Februari menunjukkan bahwa perusahaan berencana untuk meluncurkan fitur tersebut selama “lingkungan politik yang dinamis,” ketika Meta yakin bahwa kritik terbesarnya akan disibukkan.
Tiga model AI yang mendukung NameTag telah diterapkan dari server Meta dan sekarang berada di ponsel pelanggannya, menurut analisis WIRED, yang direproduksi secara independen oleh para ahli dari luar. Satu model mendeteksi wajah, satu lagi memotongnya, dan model ketiga mengkodekannya menjadi data biometrik.
Hanya jejak antarmuka pengguna yang ada saat ini, yang mengisyaratkan bagaimana fitur tersebut pada akhirnya dapat bekerja. Versi bulan Mei dari aplikasi ini mengubah nama fitur tersebut untuk pengguna menjadi “Koneksi,” mengundang mereka untuk “mengingat orang-orang yang Anda temui.” Masih belum jelas wajah siapa saja yang akan dimasukkan dalam basis data pengenalan sistem, bagaimana profil tersebut dibuat, atau berapa banyak orang yang pada akhirnya dapat diidentifikasi melalui sistem tersebut.
WIRED berbagi temuannya dengan dua peneliti keamanan luar yang secara terpisah memeriksa aplikasi dan mereproduksi aspek-aspek utama dari analisis tersebut: Cooper Quintin, seorang peneliti keamanan dan ahli teknologi kepentingan publik senior di Threat Lab milik lembaga nirlaba Electronic Frontier Foundation, dan seorang peneliti keamanan dan privasi independen yang menggunakan nama samaran Buchodi dan telah menghabiskan lebih dari satu dekade merekayasa balik perangkat lunak konsumen dan teknologi pengawasan.
“Fitur ini belum diperkenalkan kepada konsumen namun tampaknya hampir siap untuk digunakan,” kata Quintin. “Meskipun ada miliaran alasan untuk tidak melakukannya, Meta tampaknya telah menciptakan kapasitas untuk mengubah pelanggan mereka menjadi mesin pengawasan terdistribusi.”
Buchodi menjalankan pengujian tambahan pada pipeline pengenalan. (Baca analisis teknis mereka Di Sini.) Untuk melihat apakah sistem pencocokan berhasil, Buchodi menambahkan satu cetakan wajah ke galeri aplikasi, yang diambil dari mendiang filsuf Prancis Michel Foucault. Setelah memicu NameTag dengan gambar Foucault, aplikasi menghasilkan pemberitahuan: “Orang dikenali.”
“Komponen utama fitur pengenalan wajah sudah ada di aplikasi pendamping Meta,” kata Buchodi. “Tidak banyak hal yang menghalangi fitur ini dan fitur yang berfungsi.”
Pada bulan April, lebih dari 70 kelompok advokasi—termasuk American Civil Liberties Union, Electronic Privacy Information Center, dan Fight for the Future—menuntut Meta memo NameTagmemperingatkan bahwa hal itu akan membiarkan penguntit dan pelaku kekerasan secara diam-diam mengidentifikasi orang asing di depan umum. “Pesaing kami menawarkan produk pengenalan wajah jenis ini, kami tidak,” kata juru bicara Meta dalam pernyataan kepada WIRED saat itu. “Jika kami merilis fitur seperti itu, kami akan mengambil pendekatan yang sangat bijaksana sebelum meluncurkan fitur apa pun.”
Pendukung privasi berpendapat bahwa dengan menanamkan pengenalan wajah ke dalam platform wearable pasar massal, Meta dapat menormalkan kemampuan yang sebelumnya ditarik kembali di tengah masalah privasi.
“Anda menetapkan norma dan standar dengan memasukkan teknologi ke dalam ekosistem,” kata Joseph Jerome, mantan pejabat kebijakan Meta Reality Labs yang mengerjakan tinjauan privasi untuk produk AR dan VR perusahaan, tentang peran Meta dalam industri teknologi perangkat wearable. “Saya tidak tahu bagaimana Meta dapat menerapkan teknologi seperti ini secara bertanggung jawab.”
“Terlepas dari laporan sensasional apa pun, faktanya sederhana: Kami telah mengatakan sebelumnya bahwa kami sedang mengeksplorasi fitur-fitur semacam ini, dan apa yang Anda lihat hanyalah bukti dari eksplorasi tersebut,” kata juru bicara Meta, Ryan Daniels. “Belum ada produk yang dikirim ke konsumen dan belum ada keputusan akhir yang dibuat mengenai apa yang harus dilakukan di sini, jika ada. Jika kami memutuskan untuk meluncurkan sesuatu, kami akan mengambil pendekatan yang bijaksana dan melakukannya dengan transparansi penuh. Satu keputusan yang dapat kami perjelas—kami tidak membangun database wajah terpusat.”
Tinjauan kode WIRED menunjukkan sistem NameTag saat ini dirancang untuk menarik sidik jari dari server Meta dan menyimpannya di perangkat pengguna.
Sistem Meta sebelumnya, yang diumumkan oleh Facebook pada tahun 2010, menganalisis foto dan menyarankan tag untuk orang-orang yang muncul di gambar pengguna. Sistem ini dengan cepat menjangkau lebih dari satu miliar pengguna dan menjadi salah satu sistem pengenalan wajah konsumen terbesar yang pernah diterapkan.
Teknologi ini segera menarik perhatian. Regulator Eropa dan pendukung privasi di AS mempertanyakan legalitasnya sejak tahun 2011, dan terdapat kekhawatiran mengenai apakah pengguna telah memberikan persetujuan yang berarti terhadap pembuatan data biometrik. Pada tahun 2019, Meta membayar $5 miliar kepada Komisi Perdagangan Federal dan Departemen Kehakiman untuk menyelesaikan kasus privasi yang lebih luas yang mencakup masalah pengenalan wajah.
Pada bulan November 2021, Meta mengumumkan akan menutup sistem dan menghapus templat wajah yang telah dibuatnya, dengan alasan meningkatnya kekhawatiran tentang peran pengenalan wajah dalam masyarakat. Namun keputusan tersebut tidak pernah dipahami secara internal sebagai kemunduran permanen, kata Jerome, yang bergabung dengan Reality Labs pada pertengahan tahun 2021. “Selalu ada ketegangan, kapan kita menghentikan pengenalan wajah?”
Pada tahun 2025, menurut dokumen internal yang ditinjau oleh The Times, Meta berencana memperkenalkan pengenalan wajah pada kacamata pintarnya kepada peserta konferensi tunanetra sebelum membuatnya tersedia untuk masyarakat umum. Itu tidak pernah terjadi. Namun teknologi ini menjawab kebutuhan nyata: Alat bantu yang ada telah memungkinkan pengguna tunanetra mengidentifikasi wajah yang telah mereka daftarkan secara pribadi, dan a Studi tahun 2018 tentang pengguna tunanetra oleh Cornell Tech dan peneliti Facebook menemukan bahwa setiap peserta menyebut mengenali orang sebagai tugas sehari-hari yang penting.
Meta tidak menanggapi pertanyaan tentang pengguna mana yang mungkin dapat diidentifikasi melalui NameTag; apakah ia bermaksud agar foto, sidik jari, atau data lain yang dihasilkan oleh sistem dikirimkan kembali ke servernya; atau apakah perusahaan mempunyai rencana untuk mengizinkan pengguna ikut serta, bukan tidak ikut serta. EssilorLuxottica, yang memproduksi kacamata pintar Ray-Ban dan Oakley dengan Meta, tidak menanggapi permintaan komentar.
Woodrow Hartzog, seorang profesor hukum privasi di Universitas Boston, mengatakan bahkan perlindungan opt-in—jika Meta akhirnya menawarkannya—akan menjadi tipis. Persetujuan, katanya, sering kali dapat dikaitkan dengan pekerjaan, tunjangan, atau akses terhadap suatu layanan. Membingkai privasi sebagai pilihan pribadi adalah hal yang menguntungkan bagi bisnis, karena tidak memberikan batasan yang berarti pada pengumpulan data, namun membiarkan perusahaan mengklaim bahwa penggunalah yang memegang kendali.
“Kami tahu bahwa semakin sering sistem ini diterapkan, semakin banyak orang yang menganggapnya sebagai hal yang tidak biasa,” kata Hartzog. “Dan semakin kita melihatnya sebagai hal yang tidak biasa dan rutin, semakin banyak orang cenderung mulai mengambil isyarat moral tentang apakah wajah Anda dipindai atau tidak. Itu hanya psikologi manusia.”
