Ini mengganggu dan informatif, sehubungan dengan penerapan bot AI yang lebih luas pada aplikasi sosial.
Seperti yang dilaporkan oleh 404 Mediatim peneliti dari University of Zurich baru -baru ini menjalankan tes langsung profil AI bot di Reddit, untuk melihat apakah bot ini dapat mempengaruhi pendapat orang tentang topik memecah belah tertentu.
Seperti yang dilaporkan oleh 404 Media:
“Bot membuat lebih dari seribu komentar selama beberapa bulan dan kadang -kadang berpura -pura menjadi ‘korban pemerkosaan,’ seorang ‘pria kulit hitam’ yang menentang gerakan Black Lives Matter, seseorang yang ‘bekerja[s] Di tempat penampungan kekerasan dalam rumah tangga, ‘dan bot yang menyarankan bahwa jenis penjahat tertentu tidak boleh direhabilitasi. Beberapa bot yang dimaksud ‘mempersonalisasikan’ komentar mereka dengan meneliti orang yang telah memulai diskusi dan menyesuaikan jawaban mereka kepada mereka dengan menebak ‘jenis kelamin, usia, etnis, lokasi, dan orientasi politik orang tersebut disimpulkan dari sejarah posting mereka menggunakan LLM lain.’ “
Jadi, pada dasarnya, tim dari University of Zurich menggunakan bot AI yang didukung oleh GPT4O, Claude 3.5 Sonnet, Llama 3.1, dan menggunakannya untuk berdebat perspektif dalam subreddit r/changemyviewyang bertujuan untuk menjadi tuan rumah debat tentang topik memecah belah.
Hasilnya?
Sesuai Laporan:
“Khususnya, semua perawatan kami melampaui kinerja manusia secara substansial, mencapai tingkat persuasif antara tiga dan enam kali lebih tinggi dari garis dasar manusia.”
Ya, bot AI ini, yang telah dilepaskan pada pengguna Reddit tanpa sadar, secara signifikan lebih persuasif daripada manusia dalam mengubah pikiran orang tentang topik yang memecah belah.
Yang menjadi perhatian, di beberapa bidang.
Untuk satu, fakta bahwa pengguna Reddit tidak diberitahu bahwa ini adalah balasan bot bermasalah, karena mereka terlibat dengan mereka sebagai manusia. Hasilnya menunjukkan bahwa ini dimungkinkan, tetapi pertanyaan etis di sekitarnya adalah signifikan.
Penelitian ini juga menunjukkan bahwa bot AI dapat digunakan dalam platform sosial untuk mempengaruhi pendapat, dan lebih efektif dalam melakukannya daripada manusia lain. Itu tampaknya sangat mungkin mengarah pada pemanfaatan seperti itu oleh kelompok yang didukung negara, pada skala besar-besaran.
Dan akhirnya, dalam konteks Rencana Meta yang dilaporkan untuk melepaskan sekelompok bot AI di Facebook dan IGmana yang akan berinteraksi dan terlibat seperti manusia sejati, apa artinya ini bagi masa depan komunikasi dan keterlibatan digital?
Semakin, sepertinya platform “sosial” pada akhirnya akan dibanjiri dengan keterlibatan AI bot, bahkan dengan pengguna manusia menggunakan AI untuk menghasilkan posting, kemudian orang lain menghasilkan balasan untuk posting tersebut, dll.
Dalam hal ini, apa lagi media “sosial”? Bukan sosial dalam konteks yang secara tradisional kita memahaminya, jadi apa itu? Media informasi?
Studi ini juga menimbulkan pertanyaan signifikan tentang transparansi AI, dan implikasi di sekitar menggunakan bot AI untuk berbagai tujuan, berpotensi tanpa pengetahuan pengguna manusia.
Haruskah kita selalu tahu bahwa kita terlibat dengan bot AI? Apakah itu penting jika mereka dapat menyajikan argumen yang valid dan berharga?
Bagaimana dengan, katakanlah, mengembangkan hubungan dengan profil AI?
Itu bahkan ditanyai secara internal di Meta, dengan beberapa staf merenungkan etika untuk maju dengan peluncuran bot AI tanpa sepenuhnya memahami implikasi di bagian depan ini.
Seperti yang dilaporkan oleh The Wall Street Journal:
“Inside Meta, staf di berbagai departemen telah menimbulkan kekhawatiran bahwa perusahaan terburu -buru untuk mempopulerkan bot -bot ini mungkin telah melewati batas etika, termasuk dengan diam -diam menganut persona AI dengan kapasitas untuk seks fantasi, menurut orang -orang yang mengerjakannya. Para staf juga memperingatkan bahwa perusahaan tidak melindungi pengguna di bawah umur dari diskusi eksplisit seksual seperti itu.“
Apa implikasi yang memungkinkan, atau memang, mendorong hubungan romantis dengan entitas yang tidak nyata, namun lumayan manusia?
Itu sepertinya krisis kesehatan mental yang menunggu untuk terjadi, namun kami tidak tahu karena belum ada pengujian yang cukup untuk memahami dampak dari penyebaran tersebut.
Kami hanya bergerak cepat, dan melanggar hal -hal, seperti Facebook lama, yang, lebih dari satu dekade dalam pengenalan media sosial, sekarang mengungkapkan dampak signifikan, pada skala besar, ke titik di mana pihak berwenang ingin melakukannya Menerapkan undang -undang baru untuk membatasi bahaya penggunaan media sosial.
Kami akan melakukan hal yang sama dengan AI Bots. Dalam waktu lima tahun, dalam sepuluh tahun. Kami akan melihat ke belakang dan mempertanyakan apakah kami seharusnya membiarkan bot-bot ini dilewatkan sebagai manusia, dengan respons seperti manusia dan sifat komunikasi.
Kami tidak dapat melihatnya sekarang, karena kami terlalu terjebak dalam perlombaan inovasi, dorongan untuk mengalahkan peneliti lain, kompetisi membangun bot terbaik yang dapat mereplikasi manusia, dll.
Tapi kami akan, dan kemungkinan terlambat.
Penelitian ini menunjukkan bahwa bot sudah cukup meyakinkan, dan cukup lumayan, untuk mempengaruhi pendapat tentang topik apa pun. Berapa lama sampai kita dibanjiri dengan pesan yang selaras secara politis menggunakan taktik yang sama ini?
