Ringkasan:
-
Investigasi bersama mengungkap kacamata pintar Ray-Ban Meta mengirimkan rekaman ke Kenya, tempat para pekerja melihat konten yang intim dan sensitif.
-
Pekerja melihat momen-momen pribadi, tindakan eksplisit, dan data sensitif – sehingga menimbulkan kekhawatiran serius mengenai privasi dan pertanyaan hukum.
-
Pembelaan Meta adalah menyaring data dan pengungkapan, namun standar hukum Eropa mengenai persetujuan dan kontrol tidak terpenuhi.
Investigasi gabungan yang mengejutkan oleh surat kabar Swedia Svenska Dagbladet dan Göteborgs-Posten telah mengungkap skandal privasi teknologi wearable terbesar hingga saat ini. Saat pengguna mengaktifkan asisten AI pada kacamata pintar Ray-Ban Meta dengan mengucapkan “Hai Meta,” rekaman diarahkan ke Sama, sebuah perusahaan anotasi data di Nairobi, Kenya, tempat kontraktor manusia meninjau dan memberi label pada video tersebut untuk melatih sistem AI Meta.
Apa yang dilihat para pekerja ini sungguh mengkhawatirkan.
“Dalam beberapa video Anda dapat melihat seseorang pergi ke toilet, atau menanggalkan pakaian,” kata salah satu kontraktor Sama kepada wartawan Swedia. “Saya rasa mereka tidak mengetahuinya, karena jika mereka mengetahuinya, mereka tidak akan merekamnya.”
Para pekerja menggambarkan peninjauan rekaman kartu bank orang, tindakan seks eksplisit, pengguna menonton pornografi, dan satu kasus di mana seorang pemakai meletakkan kacamata di meja samping tempat tidur hanya untuk istrinya masuk dan membuka pakaian – sama sekali tidak menyadari bahwa dia sedang difilmkan dan bahwa gambarnya akan dimasukkan ke dalam kumpulan data di Kenya.
“Kami melihat segalanya – mulai dari ruang keluarga hingga tubuh telanjang,” kata salah satu anotator. “Meta memiliki konten seperti itu di databasenya.”
Meta mengatakan itu secara otomatis mengaburkan wajah dalam rekaman yang dikirim untuk diberi anotasi. Mantan karyawan Meta mengonfirmasi bahwa sistem tersebut ada, namun para pekerja dan mantan karyawan mengatakan kepada penyelidik bahwa sistem tersebut sering gagal. “Algoritmanya terkadang meleset,” kata seseorang. “Terutama dalam kondisi pencahayaan yang sulit, wajah dan tubuh tertentu menjadi terlihat.”
Para pekerja menambahkan bahwa telepon pribadi mereka dilarang berada di dalam kantor – hampir pasti untuk mencegah bocornya rekaman tersebut.
Persyaratan layanan Meta menyatakan bahwa perusahaan dapat menggunakan peninjau manusia untuk menilai interaksi AI. Klausul itu terkubur dalam-dalam dan hanya mengatur perjanjian pemakainya dengan Meta.
Jika seseorang yang memakai kacamata ini masuk ke rumah Anda, kamar tidur Anda, atau kantor dokter Anda, Anda tidak pernah menandatangani apa pun. Anda bukan pihak dalam kontrak. Anda adalah orang yang diberi anotasi.
Pembelaan Meta, menurut juru bicara yang dikutip di The Telegraph: data disaring, praktiknya diungkapkan dalam kebijakan privasi, dan konsisten dengan standar industri.
Bagi pengguna di Eropa, hal ini menimbulkan hambatan hukum. GDPR memerlukan izin dari subjek data — artinya setiap orang yang gambar atau informasi pribadinya diambil. Para pengamat tidak pernah menyetujuinya. Pengacara perlindungan data Kleanthi Sardeli dari organisasi nirlaba None Of Your Business menyebutnya “masalah transparansi yang jelas,” memperingatkan bahwa begitu rekaman memasuki jalur pelatihan Meta, pengguna kehilangan kendali praktis atas cara penggunaannya.
Petter Flink, pakar keamanan di otoritas privasi data Swedia, berterus terang: “Pengguna benar-benar tidak tahu apa yang terjadi di balik layar.”
Kenya tidak memiliki keputusan mengenai kecukupan Uni Eropa, yang berarti kerangka perlindungan datanya tidak dianggap setara dengan standar GDPR. Hal ini saja menimbulkan pertanyaan serius tentang legalitas transfer lintas batas bagi pengguna di Eropa.
7 Juta Unit dan Semakin Cepat
Meta hanya menjual 2 juta kacamata Ray-Ban AI jika digabungkan pada tahun 2023 dan 2024. Penjualan meningkat tiga kali lipat menjadi 7 juta pada tahun 2025 saja. Kacamata tersebut tampak seperti kacamata hitam biasa, dan itulah yang membuatnya berbeda dari Google Glass, yang telah mati sebagian karena pemakainya dapat diidentifikasi secara visual dan mendapat stigma sosial. Meta memecahkan masalah optik. Masalah privasi tidak pernah terselesaikan — malah disembunyikan.
Perusahaan juga dilaporkan telah bergerak untuk mengaktifkan fitur pengenalan wajah langsung pada perangkat yang sama, menurut dokumen internal yang dikutip dalam laporan sebelumnya.
Meta menolak permintaan wawancara dari surat kabar Swedia selama dua bulan, dan akhirnya menanggapinya dengan pernyataan yang merujuk pada persyaratan layanannya.
“Anda mengira jika mereka mengetahui sejauh mana pengumpulan data tersebut, tidak ada yang berani menggunakan kacamata tersebut,” kata seorang anotator asal Kenya kepada penyelidik.
Tujuh juta orang tetap memakainya.
