AI membentuk kembali banyak industri, menggantikan lapangan kerja, dan menciptakan posisi baru. Teknologi baru seperti AI generatif dan pembelajaran mesin berada di garis depan revolusi AI. Pengguna dapat meminta AI untuk meringkas artikel panjang dan PDF, membuat kode berguna, dan membuat postingan blog. Faktanya, AI dapat menghasilkan resep, template, dan draf bermanfaat lainnya.
Namun, kelebihan yang sama juga mempunyai kelemahan yang signifikan. Seseorang dapat meminta AI untuk memberikan instruksi pembuatan bom atau strategi merampok bank. AI akan memberikan solusi yang layak untuk pertanyaan-pertanyaan ini. Untuk menghindari masalah keamanan seperti itu, perusahaan teknologi membangun model bahasa dengan perlindungan untuk mencegah AI memberikan respons yang merugikan.
Peran Tim Merah dalam Mencegah Respons Beracun
Masalah tanggapan beracun telah ada sejak munculnya chatbot AI. Perusahaan yang mengembangkan model bahasa AI biasanya menggunakan tim merah untuk melindungi dari respons yang merugikan. Tim merah melibatkan penggunaan penguji manusia untuk menulis perintah yang memicu respons beracun/tidak aman. Tujuannya adalah untuk memberikan sebanyak mungkin permintaan beracun dan melatih chatbot untuk menghindari memberikan respons yang merugikan.
Kami dapat membandingkannya dengan audit pihak ketiga yang dilakukan di kasino online untuk memastikan slot mereka dan permainan berbasis RNG lainnya memberikan hasil yang adil. Setiap permainan dimainkan ribuan kali, dan penghitungan dilakukan untuk memastikan hasilnya acak dan persentase return to player (RTP) akurat. Sertifikasi diberikan kepada kasino online yang telah menunjukkan RTP yang adil – ini membantu pemain mengetahui bahwa situs tersebut memenuhi persyaratan permainan yang adil.
Dengan tim merah, tujuannya adalah untuk mengajarkan chatbot agar menghindari memberikan respons yang beracun. Namun, teknik ini hanya berfungsi jika penguji dan teknisi mengetahui petunjuk beracun yang digunakan orang. Jika penguji tidak melatih AI berdasarkan perintah tertentu, chatbot mungkin dianggap aman meskipun berpotensi menghasilkan jawaban yang tidak aman.
Menggunakan ML dan NLP untuk Meningkatkan Tim Merah
Tidak diragukan lagi, kerja sama merah adalah cara paling efektif untuk melindungi chatbot AI agar tidak memberikan respons yang merugikan. Namun, AI harus dilatih mengenai semua kemungkinan pemicu respons yang merugikan. Para peneliti di berbagai laboratorium AI, termasuk MIT-IBM Watson AI Lab, menggunakan pembelajaran mesin (ML) dan pemrosesan bahasa alami (NLP) untuk mempercepat proses ini.
Tujuannya adalah mengembangkan teknik untuk melatih model bahasa besar tim merah guna menghasilkan perintah dalam jumlah besar yang memicu respons chatbot yang tidak diinginkan. Untuk mencapai hal ini, model tim merah dilatih untuk memiliki rasa ingin tahu saat menulis pemicu, dengan fokus pada petunjuk baru yang menghasilkan respons berbahaya dari model target. Pengujian pendahuluan telah mengungguli penguji manusia, sehingga pembelajaran mesin menjadi pendekatan ideal untuk melatih model tim merah.
Pembelajaran mesin secara signifikan meningkatkan rentang masukan yang digunakan untuk menguji model tim merah. Faktanya, pengujian tersebut telah berhasil menarik respons beracun dari chatbot yang sebelumnya dilindungi menggunakan petunjuk dari pakar manusia. Pembelajaran mesin juga lebih efisien dan tidak memerlukan periode kerja sama yang lama saat menggunakan manusia. Lanskap saat ini berkembang pesat, memerlukan model jaminan kualitas yang berkelanjutan dan efisien.
Memanfaatkan Model Tim Merah yang Didorong oleh Rasa Ingin Tahu
Lanskap yang berubah dengan cepat dan sejumlah besar data yang terlibat dalam pelatihan model tim merah memerlukan otomatisasi. Penggabungan tim merah dengan manusia itu membosankan dan mahal, sehingga tidak praktis, selain kurangnya variasi perintah yang diperlukan untuk melindungi chatbot sepenuhnya. Otomatisasi proses menggunakan pembelajaran mesin jauh lebih efisien dan efektif. Namun, hal ini sering kali bergantung pada model berbasis penghargaan trial-and-error.
Pada dasarnya, model tim merah diberi penghargaan karena menghasilkan perintah yang memicu respons beracun dari chatbot yang sedang diawasi. Meskipun lebih efektif dibandingkan kerja sama manusia, model penguatan ini dapat menghasilkan AI yang menghasilkan perintah serupa untuk memaksimalkan imbalan. Untuk mencegah hal ini, para peneliti telah beralih ke a tim merah yang didorong oleh rasa ingin tahu. Model ini memberikan insentif kepada AI agar lebih penasaran dengan respons dari perintah yang dihasilkan.
Jika model tim merah memberikan perintah spesifik yang diberi imbalan, perintah serupa tidak akan menimbulkan rasa ingin tahu apa pun. Dengan cara ini, model AI dapat menghasilkan perintah baru untuk menghabiskan jumlah permintaan yang menghasilkan tanggapan negatif. Model ini juga melibatkan pengklasifikasi keamanan yang menilai toksisitas dari respons yang diberikan, sehingga mendorong model untuk menghasilkan petunjuk dengan respons yang lebih beracun. Pada akhirnya, tujuannya adalah untuk melatih chatbot agar menghindari memberikan respons yang merugikan dalam situasi kehidupan nyata.
Masa Depan AI Chatbots dan Tim Merah
Ketika AI menjadi lebih umum, pengguna akan memiliki akses ke instruksi dan informasi yang kuat tentang hampir semua hal. Tanpa upaya perlindungan, pelaku kejahatan dapat memperoleh akses terhadap informasi yang dapat mereka gunakan untuk merugikan orang lain dan infrastruktur penting. Kerjasama merah dan pendekatan lain yang digunakan untuk mencegah respons beracun berupaya mengatasi masalah ini. Dengan menghindari respons yang merugikan, penyedia teknologi dan pemerintah dapat menjaga informasi rahasia dan instruksi yang berpotensi membahayakan dari tangan yang salah.
Perusahaan yang ingin merilis model AI baru harus memastikan programnya berjalan sesuai harapan. Kerjasama merah yang didorong oleh rasa ingin tahu tampaknya merupakan cara ideal untuk menjamin hasil ini. Perusahaan-perusahaan terkemuka, termasuk Hyundai Motor Company, MIT-IBM Watson AI Lab, US Air Force Research Laboratory, dan banyak lagi mendanai penelitian yang mengarah pada pengembangan ini. Peneliti masa depan kini ditugaskan untuk mengembangkan model yang mampu menghasilkan petunjuk tentang berbagai topik dan kumpulan data spesifik. Misalnya, perusahaan dapat memiliki chatbot AI yang menguji petunjuk terhadap pelanggaran kebijakan perusahaan sebelum merespons.
