Aplikasi Komunikasi Terenkripsi End-to-End Whatsappyang digunakan oleh sekitar 3 miliar orang di seluruh dunia, akan meluncurkan kemampuan AI berbasis cloud dalam beberapa minggu mendatang yang dirancang untuk melestarikan jaminan keamanan dan privasi yang menentukan WhatsApp sambil menawarkan pengguna akses ke peringkasan pesan dan alat komposisi.
Meta telah menggabungkan fitur AI generatif di seluruh layanannya yang dibangun di atas model bahasa besar open source, Llama. Dan WhatsApp sudah menggabungkan lingkaran biru muda yang memberi pengguna akses ke asisten meta AI. Tetapi banyak pengguna menolak keras di penambahan inimengingat bahwa interaksi dengan asisten AI tidak terlindung dari meta seperti obrolan WhatsApp end-to-end. Fitur baru, yang dijuluki pemrosesan pribadi, dimaksudkan untuk mengatasi kekhawatiran ini dengan apa yang dikatakan perusahaan adalah platform yang dirancang dengan cermat dan dibangun dengan tujuan yang ditujukan untuk memproses data untuk tugas AI tanpa informasi yang dapat diakses oleh meta, whatsapp, atau pihak lain. Sementara ulasan awal oleh para peneliti dari integritas skema telah positif, beberapa mencatat bahwa langkah menuju fitur AI pada akhirnya dapat menempatkan WhatsApp di lereng yang licin.
“WhatsApp ditargetkan dan dilihat oleh banyak peneliti dan aktor ancaman yang berbeda. Itu berarti secara internal memiliki model ancaman yang dipahami dengan baik,” kata Direktur Teknik Keamanan Meta Chris Rohlf. “Ada juga serangkaian harapan privasi yang ada dari pengguna, jadi ini bukan hanya tentang mengelola perluasan model ancaman itu dan memastikan harapan untuk privasi dan keamanan dipenuhi-itu tentang pertimbangan yang cermat dari pengalaman pengguna dan membuat opt-in ini.”
Komunikasi terenkripsi ujung ke ujung hanya dapat diakses oleh pengirim dan penerima, atau orang-orang dalam obrolan grup. Penyedia layanan, dalam hal ini WhatsApp dan perusahaan induknya meta, dikotak oleh desain dan tidak dapat mengakses pesan atau panggilan pengguna. Pengaturan ini tidak kompatibel dengan platform AI generatif khas yang menjalankan model bahasa besar di server cloud dan memerlukan akses ke permintaan dan data pengguna untuk diproses. Tujuan dari pemrosesan pribadi adalah untuk membuat kerangka kerja alternatif yang melaluinya privasi dan jaminan keamanan komunikasi terenkripsi ujung ke ujung dapat ditegakkan sambil memasukkan AI.
Pengguna memilih untuk menggunakan fitur AI WhatsApp, dan mereka juga dapat mencegah orang yang mereka ajak mengobrol dengan menggunakan fitur AI dalam komunikasi bersama dengan menyalakan kontrol WhatsApp baru yang dikenal sebagai “privasi obrolan lanjutan.”
“Saat pengaturan menyala, Anda dapat memblokir orang lain dari mengekspor obrolan, menurunkan muat media ke ponsel mereka, dan menggunakan pesan untuk fitur AI,” WhatsApp menulis Dalam posting blog minggu lalu. Seperti pesan yang menghilang, siapa pun dalam obrolan dapat menghidupkan dan mematikan privasi canggih – yang direkam untuk dilihat semua orang – jadi peserta hanya perlu memperhatikan penyesuaian apa pun.
Pemrosesan pribadi dibangun dengan perangkat keras khusus yang mengisolasi data sensitif dalam “lingkungan eksekusi tepercaya,” sebuah wilayah prosesor yang tertutup dan terkunci. Sistem ini dibangun untuk memproses dan menyimpan data untuk jumlah minimum waktu yang mungkin dan dirancang untuk berhenti dan mengirim peringatan jika mendeteksi kerusakan atau penyesuaian. WhatsApp sudah mengundang audit pihak ketiga dari berbagai komponen sistem dan akan menjadikannya bagian dari program Bounty Bug Meta untuk mendorong komunitas keamanan untuk mengirimkan informasi tentang kelemahan dan kerentanan potensial. Meta juga mengatakan bahwa, pada akhirnya, ia berencana untuk membuat komponen open source pemrosesan pribadi, baik untuk verifikasi keamanan dan jaminan privasi yang diperluas dan memudahkan orang lain untuk membangun layanan serupa.
Tahun lalu, Apple memulai skema serupayang dikenal sebagai Private Cloud Compute, untuk platform AI Intelijen Apple. Dan pengguna dapat menyalakan layanan di aplikasi komunikasi terenkripsi, pesan,, pesan, untuk menghasilkan ringkasan pesan dan menyusun pesan “balasan pintar” pada keduanya iPhone Dan Mac.
Melihat komputasi cloud pribadi dan pemrosesan pribadi berdampingan seperti membandingkan, yah, apel dan jeruk. Cloud cloud private Apple mendukung semua Intelijen Apple di mana pun dapat diterapkan. Pemrosesan pribadi, di sisi lain, dibuat khusus untuk WhatsApp dan tidak mendukung fitur AI Meta lebih luas. Apple Intelligence juga dirancang untuk melakukan pemrosesan AI sebanyak mungkin di perangkat dan hanya mengirim permintaan ke infrastruktur komputasi cloud pribadi bila diperlukan. Karena pemrosesan “pada perangkat” atau “lokal” seperti itu membutuhkan perangkat keras yang kuat, Apple hanya merancang Apple Intelligence untuk berjalan sama sekali pada generasi perangkat keras seluler baru -baru ini. IPhone dan iPad lama tidak akan pernah mendukung Intelijen Apple.
Apple adalah produsen smartphone kelas atas dan perangkat keras lainnya, sementara Meta adalah perusahaan perangkat lunak, dan memiliki sekitar 3 miliar pengguna yang memiliki semua jenis smartphone, termasuk perangkat lama dan low-end. Rohlf dan Colin Clemmons, salah satu insinyur utama pemrosesan pribadi, mengatakan bahwa tidak layak untuk merancang fitur AI untuk WhatsApp yang dapat berjalan secara lokal pada spektrum perangkat yang disajikan WhatsApp. Sebaliknya, WhatsApp berfokus pada merancang pemrosesan pribadi agar tidak membantu mungkin kepada penyerang jika harus dilanggar.
“Desainnya adalah salah satu minimalisasi risiko,” kata Clemmons. “Kami ingin meminimalkan nilai kompromi sistem.”
Seluruh upaya menimbulkan pertanyaan yang lebih mendasar, tentang mengapa platform komunikasi yang aman seperti WhatsApp perlu menawarkan fitur AI sama sekali. Meta bersikeras, bahwa pengguna mengharapkan fitur pada titik ini dan akan pergi ke mana pun mereka harus mendapatkannya.
“Banyak orang ingin menggunakan alat AI untuk membantu mereka ketika mereka mengirim pesan,” WhatsApp Head akan mengatakan kepada Wired dalam email. “Kami pikir membangun cara pribadi untuk melakukan itu penting, karena orang tidak harus beralih ke platform yang kurang pribadi untuk memiliki fungsionalitas yang mereka butuhkan.”
“Setiap sistem terenkripsi ujung ke ujung yang menggunakan inferensi AI di luar perangkat akan lebih berisiko daripada sistem ujung ke ujung yang murni. Anda mengirim data ke komputer di pusat data, dan mesin itu melihat teks pribadi Anda,” kata Matt Green, seorang cryptographer Johns Hopkins yang mempratinjau beberapa jaminan privasi dari pemrosesan pribadi, tetapi belum mengaudit sistem yang lengkap. “Saya percaya WhatsApp ketika mereka mengatakan bahwa mereka telah merancang ini agar seaman mungkin, dan saya percaya mereka ketika mereka mengatakan bahwa mereka tidak dapat membaca teks Anda. Tetapi saya juga berpikir ada risiko di sini. Lebih banyak data pribadi akan keluar dari perangkat, dan mesin yang memproses data ini akan menjadi target bagi peretas dan musuh negara negara.”
WhatsApp mengatakan juga, bahwa di luar fitur AI dasar seperti ringkasan teks dan saran penulisan, pemrosesan pribadi diharapkan akan menciptakan fondasi untuk memperluas ke fitur AI yang lebih rumit dan terlibat di masa depan yang melibatkan pemrosesan, dan berpotensi menyimpan, lebih banyak data.
Seperti yang dikatakan Green, “Mengingat semua hal gila yang digunakan orang -orang yang aman untuk, setiap dan semua ini akan membuat komputer pemrosesan pribadi menjadi target yang sangat besar.”
