pikir Autumn Gardiner memperbarui SIM-nya sangatlah mudah. Setelah menikah tahun lalu, dia pergi ke kantor Departemen Kendaraan Bermotor setempat di Connecticut untuk mengubah namanya di SIM-nya. Saat dia berada di sana, kenang Gardiner, para pejabat mengatakan dia perlu memperbarui fotonya. Saat itulah segalanya mulai salah.
Setiap kali staf mencoba mengambil fotonya, kata Gardiner, sistem akan menolaknya. “Semua orang menonton. Mereka mengambil lebih banyak foto,” kenangnya. Gardiner, yang bekerja sebagai manajer hibah untuk badan amal konservasi lingkungan, adalah salah satu dari sedikit orang di seluruh dunia yang tinggal bersama Freeman-Sheldon. sindroma. Kadang-kadang dikenal sebagai sindrom Wajah Bersiul, kondisi genetik ini dapat berdampak pada otot di sekitar wajah dan tengkorak hasil dalam mulut berukuran kecil.
Karena semakin banyak anggota staf di DMV yang dipanggil untuk membantu, tukang kebun mengatakan dia mulai percaya foto-foto yang ditolak itu disebabkan olehnya perbedaan wajah. Sistem kamera sepertinya tidak berfungsi untuknya, katanya. “Itu memalukan dan aneh. Mesin ini memberi tahu saya bahwa saya tidak memiliki wajah manusia,” kata Gardiner.
Gardiner tidak sendirian. Sekitar setengah lusin orang yang hidup dengan berbagai perbedaan wajah—mulai dari tanda lahir hingga kondisi kraniofasial—mengatakan kepada WIRED bahwa mereka semakin kesulitan untuk berpartisipasi dalam kehidupan modern karena perangkat lunak verifikasi identitas, yang sering kali didukung oleh pembelajaran mesin, dengan cepat menjadi hal yang lumrah.
Atas perkenan Rick Guidotti untuk Paparan Positif
Beberapa dari mereka yang hidup dengan perbedaan wajah mengatakan kepada WIRED bahwa mereka telah menjalani banyak operasi dan mengalami stigma sepanjang hidup mereka, yang kini digaungkan oleh teknologi yang memaksa mereka untuk berinteraksi. Mereka mengatakan mereka belum dapat mengakses layanan publik karena kegagalan layanan verifikasi wajah, sementara yang lain kesulitan mengakses layanan keuangan. Filter media sosial dan sistem membuka kunci wajah di ponsel sering kali tidak berfungsi, kata mereka.
“Komunitas perbedaan wajah selalu diabaikan,” kata Phyllida Swift, CEO Face Equality International (FEI), sebuah kelompok payung yang mewakili badan amal dan organisasi perbedaan wajah dan cacat lainnya. Ada lebih dari 100 juta orang di seluruh dunia yang hidup dengan cacat wajah, FEI perkiraan. Orang-orang dengan perbedaan wajah pernah mengalami masalah dengan gerbang paspor bandara, aplikasi foto, filter video media sosial, latar belakang kabur saat panggilan video, dan banyak lagi, menurut penelitian FEI. “Di banyak negara, pengenalan wajah semakin menjadi bagian dari kehidupan sehari-hari, namun teknologi ini mengecewakan komunitas kita,” Nikki Lilly, pelindung FEI, mengatakan pada sebuah konferensi pers. Persatuan negara-negara pertemuan pada bulan Maret.
Akses ditolak
Dari ponsel hingga kamar hotel, wajah Anda semakin berperan sebagai kunci digital. Selama dekade terakhir, pembelajaran mesin dan kemajuan AI yang pesat telah mendorong terciptanya serangkaian teknologi pengenalan wajah—yang berarti bahwa penampilan Anda dapat digunakan lebih dari sebelumnya. pengenal digital. Polisi telah banyak menerapkan sistem pengenalan wajah, dan hal ini sudah sering dilakukan ditemukan tidak akurat Dan bias melawan orang Asia dan kulit hitamsementara dunia pemeriksaan wajah yang lebih luas telah menyaksikan layanan pemerintah, sistem anti-penipuan, dan lembaga keuangan menggunakan AI untuk menyelesaikan pemeriksaan identitas. Baru-baru ini, media sosial dan situs porno telah mengadopsinya pemindaian wajah sebagai bagian dari verifikasi usia tindakan.
Pemeriksaan wajah “otentikasi” ini dapat dilakukan dalam berbagai bentuk. Selfie dapat secara otomatis dibandingkan dengan dokumen identitas yang ada; sementara tes keaktifan mengharuskan Anda mengambil video pendek untuk menunjukkan bahwa Anda asli—bukan penipu yang memegang foto cetakan ke kamera. Secara garis besar, sistem biometrik ini sering terjadi mengukur fitur wajah Anda—seperti jarak antara mata Anda, atau ukuran rahang Anda—untuk menciptakan “cetakan wajah.” Meskipun teknologi pengawasan semacam ini mungkin efektif bagi banyak orang, teknologi tersebut mungkin tidak dapat mendeteksi orang dengan perbedaan wajah. Misalnya, teknologi pembelajaran mesin yang mendasarinya mungkin tidak dilatih pada kumpulan data dengan berbagai wajah.
“Kasus Face Equality International—tentang orang-orang yang memiliki wajah berbeda—adalah sebuah petunjuk penting mengenai apa yang bisa menjadi salah jika sistem ini tidak berfungsi,” kata Greta Byrum, pendiri perusahaan konsultan teknologi. Perusahaan Momen Saat Iniyang berfokus pada dampak sosial dari sistem teknologi dan telah memberikan sejumlah pekerjaan gratis kepada FEI. “Kami melihat teknologi pengenalan wajah menjadi salah satu alat yang membuat segalanya terlihat seperti paku,” kata Byrum.
“Saya ingin orang-orang menyadari bahwa tidak semua orang terlihat sama, mulai dari warna kulit dasar, fitur wajah, hingga penampilan wajah standar,” kata Kristal Hodgesseorang pembicara dan penulis yang hidup dengan sindrom Sturge-Weber dan memiliki “noda port wine” ungu di sebagian wajahnya. “Simetri wajah seseorang mungkin tidak sama. Orang lain memiliki fitur wajah berbeda yang tidak selalu Anda lihat setiap hari, namun tetap ada.”
Atas perkenan Crystal Hodges
Hodges, yang tinggal di Arizona, mengatakan bahwa tahun lalu dia dan suaminya mencoba mendapatkan nilai kredit mereka dari agen pelaporan kredit besar ketika layanan verifikasi wajah tidak dapat bekerja untuknya. “Saya mencoba lima hingga delapan kali,” katanya. Menjelang musim dingin, kata Hodges, tanda lahir tersebut akan menjadi lebih gelap. “Kami mencoba ring light yang berbeda, kami mencoba pencahayaan yang lebih tenang, dan lampu tersebut tidak dapat diterima. Suami saya memiliki janggut, dan lampu tersebut menerima miliknya.” Hodges mengatakan dia baru-baru ini mencoba sistem yang sama lagi, dan meskipun kali ini berhasil, dia masih belum pernah mendapatkan nilai kreditnya.
“Jika Anda tidak menyertakan penyandang disabilitas atau orang dengan perbedaan wajah dalam perkembangan proses ini, tidak ada yang akan memikirkan masalah ini,” kata Kathleen Bogart, profesor psikologi di Oregon State University yang berspesialisasi dalam penelitian disabilitas dan hidup dengan perbedaan wajah. “AI telah memperburuk masalah ini, namun hal ini berakar pada kurangnya representasi dan prasangka yang sudah berlangsung lama terhadap orang-orang dengan perbedaan wajah yang terjadi jauh sebelum AI ada.”
Terlalu Sedikit, Terlambat
Ketika sistem verifikasi wajah gagal, seringkali sulit untuk mendapatkan bantuan sehingga menambah tekanan pada situasi yang membuat stres. Selama berbulan-bulan, warga Maryland, Noor Al-Khaled, berjuang untuk membuat akun online dengan Administrasi Jaminan Sosial. Al-Khaled, yang hidup dengan kondisi kraniofasial yang langka Makrostomia Ablepheronmengatakan memiliki akun online akan memungkinkannya mengakses catatan SSA dengan mudah dan dengan cepat mengirim dokumen ke agensi.
“Saya tidak mengemudi karena visi saya; saya harus bisa mengandalkan lokasi,” kata Al-Khaled. “Anda harus mengambil selfie, dan gambarnya harus cocok,” kata Al-Khaled. “Karena perbedaan wajah, saya tidak tahu apakah itu tidak mengenali ID atau selfie, tapi selalu dikatakan gambarnya tidak cocok.”
Tidak memiliki akses tersebut membuat hidup lebih sulit. “Secara emosional, hal ini membuat saya merasa dikucilkan dari masyarakat,” jelasnya. Al-Khaled mengatakan bahwa semua layanan harus menyediakan cara alternatif bagi masyarakat untuk mengakses sistem online. “Kurangnya pilihan pengganti lainnya menyebabkan terkadang orang terjebak dalam labirin sistem teknologi,” kata Byrum dari Present Moment Enterprises.
Atas izin sumber WIRED
Seorang juru bicara SSA mengatakan opsi alternatif untuk verifikasi wajah telah tersedia, dan pihaknya “berkomitmen” untuk membuat layanannya dapat diakses oleh semua orang. Badan tersebut, kata juru bicaranya, tidak menjalankan sistem pengenalan wajah itu sendiri tetapi menggunakan Login.gov dan ID.me untuk layanan verifikasi. Administrasi Layanan Umum, yang menjalankan Login.gov, tidak menanggapi permintaan komentar WIRED. “Aksesibilitas adalah inti prioritas untuk ID.me,” kata juru bicara ID.me, menambahkan bahwa pihaknya sebelumnya telah membantu orang-orang dengan perbedaan wajah dan menawarkan untuk membantu Al-Khaled secara langsung setelah WIRED menghubungi.
“Ada beberapa hal yang lebih tidak manusiawi daripada diberitahu oleh mesin bahwa Anda tidak nyata karena wajah Anda,” katanya Corey R.Taylorseorang aktor dan pembicara motivasi yang tinggal di New York yang hidup dengan anomali kraniofasial. Tahun lalu, kata Taylor, dia menggunakan aplikasi keuangan untuk mengakses sejumlah kecil uang; saat dia mencoba menyelesaikan proses pembayaran, dia menemukan bahwa sistem verifikasi wajah tidak dapat mencocokkan selfie-nya dengan gambar di tanda pengenalnya. Agar sistemnya berfungsi, dia harus pindah ke posisi yang berbeda. “Saya harus benar-benar mengangkat mata dan mengubah wajah saya,” kata Taylor. Ketika dia mengirim email ke perusahaan tersebut, dia mendapat tanggapan yang tampaknya biasa saja.
“Salah satu hal utama yang kami dukung adalah metode alternatif,” kata Hannah Saunders, kepala kebijakan dan pendidikan di FEI. “Mungkin ada perbaikan jangka panjang dalam hal perubahan teknologi, namun saat ini, kami sangat khawatir bahwa masyarakat dapat melamar pekerjaan, mereka dapat mengakses uang mereka, mereka dapat melewati pemeriksaan paspor dengan keluarga mereka, dan bahwa menegosiasikan sistem semacam itu tidaklah terlalu menegangkan.”
Swift, CEO FEI, mengatakan organisasinya telah “didekati” berkali-kali untuk bekerja sama dengan dunia usaha guna mengatasi beberapa masalah namun belum mampu menyelesaikan pengaturan formal apa pun. Swift mengatakan FEI ingin menerapkan “sistem dan perlindungan yang tepat” untuk melindungi anggotanya. Selain itu, Swift menambahkan, “kami merasa bahwa hal ini bukanlah prioritas utama [of tech companies]dan oleh karena itu kemajuannya tampaknya lambat.”
Namun permasalahan yang ada tidak hanya terbatas pada teknologi yang sedang berkembang. Banyak orang yang diajak bicara oleh WIRED menjelaskan bahwa mereka sering menghadapi intimidasi berbasis penampilan secara online, dan semakin luasnya pengaruh internet terhadap konten video pendek seperti TikTok dan Instagram Reels membuat mereka merasa terisolasi. “Internet, selama ini, adalah tempat yang aman bagi saya,” kata Al-Khaled. “Saya menemukan rumah dan hiburan saya secara online karena ini adalah satu-satunya tempat di mana saya dapat bertemu orang-orang dan benar-benar menjadi diri saya sendiri tanpa dipandangi atau dimelototi.” Hodges mengatakan orang-orang sebelumnya mengatakan kepadanya bahwa mereka terkejut dia bisa meninggalkan rumahnya. “Saya merasa hal itu sekarang ditransfer ke: ‘Saya tidak percaya Anda meninggalkan rumah, dan saya tidak percaya Anda online,’” katanya.
Atas perkenan Corey Taylor
Pada DMV di Connecticut tahun lalu, Gardiner mengatakan bahwa staf dapat mengganti sistem fotografi secara manual, meskipun dia menjelaskan perbedaan wajahnya kepada mereka dalam prosesnya. Dia menerima lisensi sementara penggantinya hari itu dan lisensi penuh kemudian melalui pos. “Saya telah berurusan dengan banyak masalah yang berhubungan dengan wajah saya, tetapi setelah saya pergi, saya hanya menangis,” kenang Gardiner. “Itu seperti pengingat bahwa ya, saya berbeda dan saya tidak cocok.”
Setelah pergi, Gardiner mengirim pesan kepada perwakilan negara bagian yang dia kenal dan menceritakan pengalamannya, menurut pesan yang dibagikan dengan WIRED. Pejabat tersebut menghubungi komisaris DMV setempat dan mendiskusikan masalah ini serta pelatihan staf, kata mereka.
“Meskipun kami mematuhi pedoman ketat untuk menjamin kepatuhan foto, karyawan kami menjalankan peran mereka dengan empati, memastikan mereka memahami dan memenuhi kebutuhan orang yang mereka layani,” kata juru bicara DMV CT. “Kami ingin warga kami memiliki interaksi profesional dengan DMV.” Juru bicara Idemia, yang menyediakan teknologi kepada DMV, mengatakan bahwa mereka secara teratur menawarkan pelatihan staf, dan algoritmanya telah mendapat peringkat tinggi dalam evaluasi eksternal.
Gardiner mengatakan meskipun pada akhirnya mendapat tanggapan positif, dia telah mendengar cerita tentang orang-orang dengan perbedaan wajah r mengatasi masalah di DMV di negara bagian lain. “Saya benar-benar ingin mencoba memberikan tekanan pada protokol yang lebih baik: Apa yang dilakukan manusia jika AI tidak berfungsi?” katanya. Namun dengan semakin meluasnya penggunaan sistem pengenalan wajah, permasalahan ini tampaknya tidak dapat diatasi. “Setelah pengalaman DMV itu, saya kemudian harus mengurus paspor saya,” kata Gardiner, “dan saya mengalami masalah yang sama dengan foto paspor saya.”
