Apakah yang masa depan tombol sejenis di zaman kecerdasan buatan? Max Levchin—CODE PAYPAL COFOUNDER DAN AFRIMR – MENGATAKAN PERAN baru dan sangat berharga untuk menyukai data untuk melatih AI untuk sampai pada kesimpulan lebih sesuai dengan yang akan dibuat oleh pembuat keputusan manusia.
Ini adalah kebingungan yang terkenal dalam pembelajaran mesin bahwa komputer yang disajikan dengan fungsi hadiah yang jelas akan terlibat dalam pembelajaran penguatan tanpa henti untuk meningkatkan kinerja dan memaksimalkan hadiah itu-tetapi jalur optimasi ini sering mengarahkan sistem AI ke hasil yang sangat berbeda daripada yang akan dihasilkan dari manusia yang menjalankan penilaian manusia.
Untuk memperkenalkan kekuatan korektif, pengembang AI sering menggunakan apa yang disebut pembelajaran penguatan dari umpan balik manusia (RLHF). Pada dasarnya mereka menempatkan ibu jari manusia pada skala saat komputer tiba pada modelnya dengan melatihnya pada data yang mencerminkan preferensi aktual orang nyata. Tetapi dari mana berasal dari data preferensi manusia itu, dan berapa banyak yang diperlukan agar input menjadi valid? Sejauh ini, ini telah menjadi masalah dengan RLHF: ini adalah metode yang mahal jika memerlukan mempekerjakan pengawas manusia dan annotator untuk memasukkan umpan balik.
Dan ini adalah masalah yang menurut Levchin dapat diselesaikan dengan tombol sejenisnya. Dia melihat sumber daya akumulasi yang saat ini duduk FacebookTangan sebagai anugerah bagi pengembang mana pun yang ingin melatih agen cerdas tentang data preferensi manusia. Dan seberapa besar kesepakatan itu? “Saya berpendapat bahwa salah satu hal paling berharga yang dimiliki Facebook adalah bahwa gunung menyukai data,” kata Levchin kepada kami. Memang, pada titik belok dalam pengembangan kecerdasan buatan ini, memiliki akses ke “konten apa yang disukai oleh manusia, untuk digunakan untuk pelatihan model AI, mungkin merupakan salah satu hal yang paling berharga di internet.”
Sementara Levchin membayangkan AI belajar dari preferensi manusia melalui tombol suka, AI sudah mengubah cara preferensi ini dibentuk di tempat pertama. Faktanya, platform media sosial secara aktif menggunakan AI tidak hanya untuk menganalisis suka, tetapi untuk memprediksi mereka – secara kebetulan membuat tombol itu sendiri usang.
Ini adalah pengamatan yang mencolok bagi kami karena, ketika kami berbicara dengan kebanyakan orang, prediksi sebagian besar berasal dari sudut lain, tidak menggambarkan bagaimana tombol sejenis akan mempengaruhi kinerja AI tetapi bagaimana AI akan mengubah dunia tombol sejenisnya. Kami sudah mendengar, AI sedang diterapkan untuk meningkatkan algoritma media sosial. Di awal tahun 2024, misalnya, Facebook bereksperimen menggunakan AI Untuk mendesain ulang algoritma yang merekomendasikan gulungan video kepada pengguna. Bisakah itu menghasilkan bobot variabel yang lebih baik untuk memprediksi video mana yang paling ingin ditonton pengguna selanjutnya? Hasil dari tes awal ini menunjukkan bahwa itu bisa: menerapkan AI pada tugas terbayar dalam waktu tontonan yang lebih lama – metrik kinerja Facebook berharap untuk meningkatkan.
Saat kami bertanya YouTube Pendiri Steve Chen apa yang akan terjadi di masa depan untuk tombol sejenisnya, dia berkata, “Kadang -kadang saya bertanya -tanya apakah tombol sejenisnya akan diperlukan ketika AI cukup canggih untuk memberi tahu algoritma dengan akurasi 100 persen apa yang ingin Anda tonton dengan cara yang paling mudah untuk melakukan apa pun, tetapi pada saat ini, tetapi pada saat ini adalah tujuan yang lebih mudah untuk melakukan apa -apa. Tetapi, tetapi tujuan yang tersedia, tetapi tujuannya adalah ending.
Namun, ia menunjukkan bahwa salah satu alasan tombol sejenis mungkin selalu diperlukan adalah untuk menangani perubahan tajam atau sementara dalam melihat kebutuhan karena peristiwa atau situasi kehidupan. “Ada hari -hari ketika saya ingin menonton konten yang sedikit lebih relevan dengan, katakanlah, anak -anak saya,” katanya. Chen juga menjelaskan bahwa tombol sejenisnya mungkin memiliki umur panjang karena perannya dalam menarik pengiklan – kelompok kunci lainnya bersama para pemirsa dan pencipta – karena hal yang sama bertindak sebagai engsel paling sederhana untuk menghubungkan ketiga kelompok tersebut. Dengan satu keran, pemirsa secara bersamaan menyampaikan apresiasi dan umpan balik langsung ke penyedia konten dan bukti keterlibatan dan preferensi kepada pengiklan.
Dampak utama lainnya dari AI adalah penggunaannya yang meningkat untuk menghasilkan konten itu sendiri yang tunduk pada respons emosional orang. Sudah, semakin banyak konten – keduanya teks dan gambar – disukai oleh pengguna media sosial yang dihasilkan AI. Orang bertanya -tanya apakah tujuan asli dari tombol suka – untuk memotivasi lebih banyak pengguna untuk menghasilkan konten – bahkan akan tetap relevan. Apakah platform akan sama berhasil dengan persyaratan mereka sendiri jika pengguna manusia mereka berhenti membuat posting sama sekali?
Pertanyaan ini, tentu saja, menimbulkan masalah keaslian. Selama 2024 Pertunjukan babak pertama Super Bowlpenyanyi Alicia Keys mencetak catatan asam yang diperhatikan oleh setiap pendengar yang penuh perhatian yang disetel ke acara langsung. Namun ketika perekaman penampilannya diunggah ke YouTube tak lama setelah itu, flub itu telah dikoreksi dengan mulus, tanpa pemberitahuan bahwa video telah diubah. Ini adalah hal yang kecil (dan bagus untuk kunci untuk melakukan pertunjukan secara langsung), tetapi koreksi licik terangkat alis. Ironisnya, dia bernyanyi “Jika aku tidak mengerti” – dan para penggemarnya akhirnya mendapatkan sesuatu yang sedikit berbeda darinya.
Jika AI secara halus dapat memperbaiki konten hiburan, itu juga dapat dipersenjatai untuk tujuan yang lebih menipu. Teknologi yang sama yang dapat memperbaiki nada musik dapat dengan mudah mengkloning suara, yang mengarah pada konsekuensi yang jauh lebih serius.
Yang lebih mengerikan adalah tren bahwa Komisi Komunikasi Federal AS (FCC) dan yang setara di tempat lain baru -baru ini menindak: Penggunaan AI untuk “klonSuara seseorang dan secara efektif memasukkan kata -kata di mulut mereka. Sepertinya mereka berbicara, tetapi mungkin bukan mereka – itu bisa menjadi penipu yang mencoba menipu kakek orang itu untuk membayar tebusan atau mencoba melakukan transaksi keuangan atas nama mereka. Pada Januari 2024, setelah insiden Robocalls memalsukan suara Joe Biden, FCC mengeluarkan suara Robocalls Presiden Presiden Joe Biden, FCC mengeluarkan suara Presiden Presiden Joe BIDEN, FCC mengeluarkan insiden Robocalls Robocall Bimbingan yang jelas Bahwa peniruan seperti itu ilegal berdasarkan ketentuan Undang -Undang Perlindungan Konsumen Telepon, dan memperingatkan konsumen untuk berhati -hati.
“Kloning suara yang dihasilkan AI dan gambar sudah menabur kebingungan dengan menipu konsumen untuk berpikir penipuan dan penipuan adalah sah,” Kata ketua FCC Jessica Rosenworcel. “Tidak peduli apa selebriti atau politisi yang Anda sukai, atau apa hubungan Anda dengan kerabat Anda ketika mereka meminta bantuan, mungkin saja kita semua bisa menjadi target panggilan palsu ini.”
Pendek kepura-puraan penipuan seperti ini, masa depan media sosial yang dipenuhi AI mungkin dihuni oleh orang-orang nyata yang murni dihasilkan komputer. Renungan virtual semacam itu menyusup ke komunitas influencer online dan mendapatkan legiun penggemar di platform media sosial. “Aitana Lopez,” misalnya, secara teratur memposting sekilas kehidupannya yang patut ditiru sebagai musisi dan fashionista Spanyol yang cantik. Ketika kami terakhir kali memeriksa, akun Instagram-nya mencapai 310.000 pengikut, dan dia akan shilling untuk merek perawatan rambut dan pakaian, termasuk Victoria’s Secret, dengan biaya sekitar $ 1.000 per pos. Tetapi orang lain harus menghabiskan uangnya yang diperoleh dengan susah payah, karena Aitana tidak benar-benar membutuhkan pakaian atau makanan atau tempat tinggal. Dia adalah penciptaan agensi iklan yang diprogram – yang mulai menghubungkan merek dengan influencer manusia yang nyata tetapi menemukan bahwa manusia tidak selalu mudah dikelola.
Dengan influencer dan bot yang digerakkan AI yang saling terlibat dengan kecepatan yang belum pernah terjadi sebelumnya, jalinan keterlibatan online mungkin bergeser. Jika suka tidak lagi berasal dari orang sungguhan, dan konten tidak lagi dibuat oleh mereka, apa artinya itu bagi masa depan ekonomi yang sama?
Dalam skenario yang tidak hanya bergema tetapi melampaui premis Film 2013 DiaAnda sekarang juga dapat membeli langganan yang memungkinkan Anda mengobrol dengan konten hati Anda “Pacar” di layar. Carynai adalah klon AI dari influencer online kehidupan nyata, Caryn Marjorie, yang telah memperoleh lebih dari satu juta pengikut di Snapchat ketika dia memutuskan untuk bekerja sama dengan perusahaan AI dan mengembangkan chatbot. Mereka yang ingin terlibat dalam percakapan satu-ke-satu dengan Caryn virtual membayar satu dolar per menit, dan percakapan chatbot dihasilkan oleh Openai GPT-4 Perangkat lunak, sebagaimana dilatih pada arsip konten yang sebelumnya diterbitkan Marjorie di YouTube.
Kita dapat membayangkan sebuah skenario di mana sebagian besar suka tidak diberikan kepada konten yang diciptakan manusia-dan juga tidak diberikan oleh orang-orang yang sebenarnya. Kita dapat memiliki dunia digital yang dibanjiri oleh pencipta dan konsumen yang disintesis berinteraksi dengan kecepatan kilat satu sama lain. Tentunya jika ini terjadi, bahkan sebagian, akan ada masalah baru untuk diselesaikan, berkaitan dengan kebutuhan kita untuk mengetahui siapa sebenarnya siapa (atau apa), dan ketika posting yang tampaknya populer benar -benar layak untuk dicoba.
Apakah kita menginginkan masa depan di mana suka sejati kita (dan orang lain) lebih transparan dan tidak dapat diselesaikan? Atau apakah kita ingin mempertahankan (untuk diri kita sendiri tetapi juga untuk orang lain) kemampuan untuk berpindah? Tampaknya masuk akal bahwa kita akan melihat alat baru yang dikembangkan untuk memberikan lebih banyak transparansi dan jaminan apakah sejenisnya melekat pada orang sungguhan atau hanya bot yang realistis. Platform yang berbeda mungkin menerapkan alat tersebut untuk derajat yang berbeda.
Kutipan diadaptasi dari Seperti: Tombol yang mengubah dunia Oleh Martin Reeves dan Bob Goodson. Diterbitkan oleh Pengaturan dengan HBR Press. Hak Cipta © 2025 oleh Martin Reeves dan Bob Goodson.
