Audio ini dibuat secara otomatis. Harap beri tahu kami jika Anda punya masukan.
X bersumpah untuk itu menerapkan langkah-langkah baru untuk memerangi munculnya bot bertenaga kecerdasan buatan, menurut postingan tanggal 22 Februari dari Nikita Bier, kepala produk perusahaan.
Beberapa perubahan platform akan mencakup tag yang diterapkan pengguna untuk konten yang dihasilkan AI, deteksi anti-bot baru, dan tindakan penghapusan.
Pada saat yang sama, X juga mempromosikan penggunaan chatbot Grok AI miliknya untuk membantu pembuatan postingan. Hal ini menekankan betapa canggungnya platform media sosial yang kini berjalan, karena mereka berupaya membenarkan investasi mereka dalam proyek AI yang mahal, sekaligus mengurangi penggunaan alat yang sama secara berlebihan.
Bier telah memperingatkan tentang masalah ini selama beberapa waktu, dan mencatat pada bulan September lalu bahwa profil bot AI adalah “momok X,” sambil juga meningkatkan kekhawatiran tentang bahaya spam AIyang menurutnya akan membanjiri semua platform sosial dan aplikasi perpesanan.
Kemarin, Bier kembali menyoroti kekhawatiran ini, menjelaskan bahwa platform tersebut harus berkembang jika ingin tetap menjadi pertimbangan yang relevan.
Menurut Bier: “Orang-orang datang ke X untuk mengetahui kemanusiaan. Oleh karena itu, platform harus melakukan segala upaya untuk menolak apa pun yang salah mengartikan atau memalsukan denyut nadi tersebut. Tidak ada yang lebih meresahkan daripada mengharapkan Anda membaca kata-kata manusia, dan ternyata itu adalah mesin, atau akun yang beroperasi atas arahan entitas komersial atau pemerintah yang dirahasiakan.”
Bier mengatakan bahwa di era AI, produk, kebijakan, dan pendekatan X “perlu berkembang secara bermakna” untuk mengamankan pasar global.
Itu masuk akal. Saat ini, Pinterest sedang menghadapi tantangan yang signifikan menyingkirkan masuknya konten yang dihasilkan AI di platformnyayang mengancam akan melemahkan nilai aplikasi untuk penemuan produk nyata, sementara aplikasi lain juga menghadapi kebingungan pengguna seputar konten yang dihasilkan AI, sehingga menyebabkan kesalahpahaman dan salah tafsir dalam berbagai bentuk.
X sendiri telah berurusan dengan tersebut penyalahgunaan AI untuk menggambarkan orang-orang dalam konten yang menjurus ke arah seksualdan masalah tersebut kemungkinan besar akan mengakibatkan denda jutaan dolar bagi perusahaan. Namun, X juga berupaya mengintegrasikan chatbot Grok ke dalam setiap elemen aplikasi, dengan ikon “G” Grok tersedia di setiap tahap proses penggunaan.
Pengguna yang ingin membuat konten dapat mengetuk G di dalam pembuat postingan, dan Grok akan memberikan opsi tentang apa yang harus dikatakan. Jadi X sendiri secara langsung mendorong orang untuk menggunakan AI untuk memposting konten yang bukan manusia, dan tidak mewakili pemikiran manusia sebenarnya, sementara kepala produknya mengatakan bahwa ini adalah ancaman nyata terhadap platform, dan perlu diberantas.
Tentu saja, Bier berbicara lebih banyak tentang bot AI yang dibuat dalam skala besar dan digunakan untuk membanjiri aplikasi dengan komentar yang sepenuhnya otomatis. Namun pada dasarnya semuanya sama, sehingga membuat platform sosial terjebak antara mempromosikan alat AI generatif yang mahal dan memerangi penggunaan alat tersebut secara berlebihan.
Dan Bier benar, karena hal ini melemahkan nilai X dan setiap platform media sosial, karena aplikasi media sosial, pada dasarnya, dimaksudkan untuk memfasilitasi keterlibatan manusia dan berbagi antar manusia. Media sosial adalah media sosial yang menyiratkan, atau secara umum menyiratkan, komunikasi nyata antara orang-orang nyata, dan peluang bagi setiap pengguna untuk berbagi perspektif dan pengalaman mereka dengan dunia.
Bot AI tidak menambah hal ini, dan dapat dikatakan bahwa mereka mengurangi hal tersebut secara signifikan.
Namun, platform sosial juga ditempatkan secara optimal untuk membangun model AI generatif terbaik karena banyaknya data yang mereka miliki mengenai interaksi manusia dan cara orang berinteraksi satu sama lain. Informasi itulah yang digunakan sistem AI untuk menggerakkan interaksinya, yang kemudian dapat dianalisis untuk menafsirkan dan meniru interaksi manusia.
Maka masuk akal mengapa Meta dan X ingin mengikuti tren AI terkini, namun kenyataannya gelombang alat AI generatif saat ini tidak benar-benar sesuai dengan kasus penggunaan utama aplikasi mereka.
Sebagai opsi peningkatan periklanan, mereka cocok, menganalisis sejumlah besar data interaksi pengguna untuk menentukan audiens terbaik untuk suatu promosi. Sebagai alat pengoptimalan algoritme, mereka berfungsi. Namun sebagai alat untuk membantu keterlibatan manusia, terdapat risiko yang signifikan bahwa hal tersebut akan melemahkan tujuan inti, yaitu memberikan platform kepada setiap pengguna untuk berbagi perspektif unik mereka. Bisa dibilang, mereka merugikan dalam hal ini.
Jadi, sementara platform terus mengeluarkan pembaruan AI (catatan: Elon Musk mengatakan Grok 4.20 akan melakukannya akan dikirim minggu ini), mereka juga akan terus berjuang melawan hal yang sama, karena risiko kehilangan pengguna karena penggunaan AI yang berlebihan.
Namun AI sedang menjadi tren saat ini, dan dengan banyaknya uang yang diinvestasikan ke dalam proyek AI mereka, tidak jelas apa yang dapat mereka lakukan.
