Meta diatur untuk berada di bawah pengawasan peraturan sekali lagi, setelah laporan bahwa itu berulang kali gagal mengatasi masalah keamanan dengan proyek AI dan VR -nya.
Pertama, pada AI, dan alat pertunangan AI yang berkembang. Dalam beberapa minggu terakhir, meta telah dituduh mengizinkan chatbot AI -nya terlibat dalam percakapan yang tidak pantas dengan anak di bawah umurdan memberikan informasi medis yang menyesatkan, karena berusaha memaksimalkan pengambilan alat chatbotnya.
Sebuah Investigasi oleh Reuters Dokumentasi meta internal terbuka yang pada dasarnya akan memungkinkan interaksi tersebut terjadi, tanpa intervensi. Meta telah mengkonfirmasi bahwa pedoman tersebut memang ada dalam dokumentasinya, tetapi sejak itu telah memperbarui aturan untuk mengatasi elemen -elemen ini.
Meskipun itu tidak cukup untuk setidaknya satu senator AS, yang menyerukan meta untuk melarang penggunaan chatbots ai oleh anak di bawah umur.
Seperti yang dilaporkan oleh NBC News:
“Senator Edward Markey mengatakan itu [Meta] Bisa menghindari reaksi jika saja itu mendengarkan peringatannya dua tahun lalu. Pada bulan September 2023, Markey menulis Surat untuk Zuckerberg Bahwa yang memungkinkan remaja menggunakan AI Chatbots akan ‘menambah’ masalah yang ada dengan media sosial dan menimbulkan terlalu banyak risiko. Dia mendesak perusahaan untuk menjeda rilis AI Chatbots sampai memiliki pemahaman tentang dampak pada anak di bawah umur. ”
Yang, tentu saja, menjadi kekhawatiran yang telah dibesarkan oleh banyak orang.
Kekhawatiran terbesar dengan pengembangan AI yang dipercepat, dan teknologi interaktif lainnya, adalah bahwa kita tidak sepenuhnya memahami apa dampak menggunakannya. Dan seperti yang telah kita lihat dengan media sosial, yang sekarang dicoba oleh banyak yurisdiksi Batasi untuk remaja yang lebih tuadampak seperti itu pada audiens yang lebih muda bisa menjadi signifikan, dan akan lebih baik untuk mengurangi bahaya itu sebelumnya, sebagai lawan dari mencoba mengatasinya retrospeksi.
Tetapi kemajuan umumnya menang dalam pertimbangan seperti itu, dan dengan perusahaan teknologi AS menunjukkan fakta bahwa Cina dan Rusia juga mengembangkan AI, otoritas AS tampaknya tidak mungkin menerapkan pembatasan signifikan pada pengembangan atau penggunaan AI saat ini.
Yang juga mengarah pada kekhawatiran lain yang diratakan pada meta.
Menurut laporan baru dari The Washington PostMeta telah berulang kali mengabaikan dan/atau berusaha untuk menekan laporan anak -anak yang diajukan secara seksual dalam lingkungan VR -nya, karena terus memperluas pengalaman sosial VR -nya.
Laporan tersebut menunjukkan bahwa meta terlibat dalam upaya bersama untuk mengubur insiden seperti itu, meskipun meta telah merespons dengan mencatat itu itu disetujui 180 studi berbeda Keselamatan dan kesejahteraan pemuda dalam pengalaman tingkat berikutnya.
Ini bukan pertama kalinya kekhawatiran telah muncul tentang dampak kesehatan mental VR, dengan lingkungan digital yang lebih mendalam yang cenderung memiliki dampak yang lebih signifikan pada persepsi pengguna daripada aplikasi sosial.
Bermacam-macam Pengguna Horizon VR telah melaporkan insiden kekerasan seksual, bahkan Pemerkosaan Virtualdalam lingkungan VR. Sebagai tanggapan, Meta telah menambahkan elemen keselamatan baru, seperti batas pribadi Untuk membatasi kontak yang tidak diinginkan, meskipun bahkan dengan alat pengaman tambahan, tidak mungkin bagi meta untuk melawan, atau memperhitungkan dampak penuh dari pada tahap ini.
Dan pada saat yang sama, Meta juga mengurangi batas akses usia dunia horizon 13 tahunKemudian 10 tahun lalu.
Itu sepertinya perhatian, bukan? Bahwa di antara meta dipaksa untuk menerapkan solusi keselamatan baru untuk melindungi pengguna, itu juga mengurangi hambatan usia untuk akses ke hal yang sama.
Tentu saja, meta mungkin melakukan studi keselamatan lebih lanjut, seperti yang dicatat, dan mereka dapat kembali dengan wawasan lebih lanjut yang akan membantu mengatasi masalah keamanan seperti ini, sebelum pengambilan yang lebih luas dari alat VR-nya. Tetapi ada perasaan bahwa Meta bersedia untuk maju dengan proyek -proyeknya dengan kemajuan sebagai cahaya penuntunnya, daripada keamanan. Yang, sekali lagi, adalah apa yang kami lihat dengan media sosial pada awalnya.
Meta telah berulang kali Diangkut sebelum Kongres Untuk menjawab pertanyaan tentang keamanan Instagram dan Facebook untuk pengguna remaja, dan apa yang diketahui, atau diketahui atau diketahui, tentang potensi bahaya di antara audiens yang lebih muda. Meta telah lama menolak hubungan langsung antara penggunaan media sosial dan kesehatan mental remaja, meskipun berbagai laporan pihak ketiga telah menemukan koneksi yang jelas di bagian depan ini, yang merupakan apa yang menyebabkan upaya terbaru untuk menghentikan remaja muda dari mengakses aplikasi sosial.
Tetapi melalui semua itu, Meta tetap tabah dalam pendekatannya, dan dalam menyediakan akses ke pengguna sebanyak mungkin.
Itulah yang paling menjadi perhatian paling banyak di sini, Meta bersedia mengabaikan bukti luar jika itu dapat menghalangi pertumbuhan bisnisnya sendiri.
Jadi Anda mengambil meta pada kata -katanya, dan percaya bahwa ia melakukan eksperimen keselamatan untuk memastikan proyeknya tidak memiliki dampak negatif pada remaja, atau Anda mendorong meta untuk menghadapi pertanyaan yang lebih sulit, berdasarkan studi eksternal dan bukti yang bertentangan.
Meta menyatakan bahwa itu melakukan pekerjaan, tetapi dengan begitu banyak di telepon, ada baiknya terus mengajukan pertanyaan -pertanyaan ini.
