Raksasa AI mempelajari apa yang sudah diketahui semua orang di internet modern

Inilah beberapa ironi AI yang menarik untuk Anda.

Selama bertahun-tahun, raksasa teknologi berpendapat bahwa jika informasi tersedia di internet, informasi tersebut dapat digunakan AI pengembangan model dan keluaran. Mereka menyebutnya penggunaan wajar. Pemilik konten telah mencoba mencegah hal ini, namun tidak berhasil.

Sekarang Antropis, OpenAIdan Google menemukan apa yang telah dipelajari oleh internet melalui pengalaman menyakitkan: begitu Anda mengunggah sesuatu secara online, orang akan menemukan cara untuk menggunakannya dengan cara yang tidak Anda sukai dan tidak dapat Anda hentikan.

Titik nyala terbaru adalah sesuatu yang disebut “distilasi,” menggunakan keluaran dari satu model AI untuk menyempurnakan model lainnya. Anthropic mengatakan para pesaing memanfaatkan keluaran model tersebut dalam skala besar, sehingga penelitian bernilai miliaran dolar menjadi jalan pintas bagi para pesaing. OpenAI dan Google telah membuat peringatan serupa baru-baru ini.

Ketakutannya terlihat jelas. Mengapa menghabiskan miliaran dolar untuk membangun model AI terbaik jika ada orang lain yang dapat menciptakan kembali sebagian besar kecerdasan ini dengan biaya yang lebih murah?

Itu adalah kekhawatiran bisnis yang sah. Tapi inilah bagian yang canggung.

Simetri

Dari ketinggian 30.000 kaki, penyulingan terlihat sangat mirip dengan yang dilakukan perusahaan AI lakukan ke seluruh internet. Mengikis konten web secara gratis dan tanpa izin. Ubah itu menjadi produk yang Anda jual. Berpendapat bahwa ini adalah penggunaan wajar. Semoga para pengacara memilah rinciannya nanti.

Anthropic mengatakan para pesaingnya mengambil informasi intelijen dari model-model unggulannya. Pemilik situs web selama tiga tahun terakhir mengatakan Anthropic mengekstraksi intelijen dari mereka. Kedua belah pihak berpendapat demikian bertentangan dengan persyaratan layanan mereka. Simetrinya sulit untuk diabaikan.

Meskipun mengklaim dirinya sebagai perusahaan AI paling etis, Anthropic sejauh ini merupakan perusahaan yang paling etis aktor terburuk di sini. Bot penghisap data merayapi halaman web ribuan kali untuk setiap rujukan yang dikirim perusahaan kembali ke web.

Bot di kedua sisi

Anthropic, OpenAI, dan khususnya Google, menganggap hal ini sebagai masalah keamanan siber kawanan bot “menyerang” model mereka untuk mengekstraksi intelijen. Namun, mereka telah melakukan hal yang sama pada banyak situs web, membombardir mereka dengan begitu banyak aktivitas perayapan bot sehingga pemilik situs melihatnya. biaya operasional meroket. Tidak hanya beberapa situs web yang kontennya digunakan tanpa izin, mereka juga membayar lebih untuk hak istimewa tersebut.

Peneliti AI mengatakan distilasi berbeda dengan web scraping. Namun industri AI bahkan tidak dapat memutuskan apakah distilasi diperbolehkan atau tidak, atau di mana batasannya.

Ada bentuk distilasi yang orisinal dan ramah, di mana laboratorium menggunakan keluaran dari model mereka sendiri untuk membuat model yang berbeda, seringkali lebih kecil. Lalu, ada apa yang Anthropic sebut sebagai “serangan distilasi”, di mana pesaing menggunakan keluaran AI orang lain untuk mengembangkan atau meningkatkan penawaran mereka sendiri.

Bahkan di sini, batasannya menjadi kabur, karena beberapa peneliti AI kini khawatir bahwa sikap agresif Anthropic akan merugikan semua jenis distilasi. Pakar AI sumber terbuka Nathan Lambert menyebutnya “kepanikan distilasi.”

Jadi, izinkan saya merangkumnya untuk Anda, dari sudut pandang raksasa AI: Mereka dapat mengekstraksi intelijen dari web secara gratis dan tanpa izin. Berbeda dengan distilasi yang tidak apa-apa. Oh, tapi tidak jika penyulingan melibatkan penggunaan konten mereka dengan cara yang tidak mereka sukai.

“Permainan kucing dan tikus”

Argumen yang menyimpang ini dihancurkan oleh realitas brutal internet modern. Anthropic telah menghabiskan waktu berbulan-bulan memperketat akses ke model-model unggulannya untuk menghentikan pesaing belajar terlalu banyak. Upaya-upaya tersebut berhasil menjadi bumerangatau mereka hanya memberikan solusi yang lebih rumit.

Begitu informasi beredar online, orang-orang pintar akan mencari cara untuk mengumpulkannya, mengolahnya, dan mengambil keuntungan darinya. Hal ini berlaku untuk blog, foto, kode perangkat lunak, video, dan ya, keluaran model raksasa AI yang berharga.

“Ini selalu seperti permainan kucing-dan-tikus,” Zilan Qian, peneliti di Oxford China Policy Lab, mengatakan kepada Business Insider. Selama keluaran model AI ada di dunia, “orang mungkin akan menemukan cara untuk mengaksesnya.”

Memang benar, menyaring model AI milik perusahaan lain mungkin merupakan penggunaan wajar. Argumen hukum ini dapat memihak dua arah.

Selamat datang di internet baru, Anthropic, OpenAI, dan Google. Biasakanlah.

Mendaftarlah untuk buletin Tech Memo BI Di Sini. Hubungi saya melalui email di abarr@businessinsider.com.