Referensi ke goblin dan gremlin melonjak dengan dirilisnya kepribadian ‘Nerdy’ GPT-5.1, dan kemudian menyebar ke model lain.
Referensi ke goblin dan gremlin melonjak dengan dirilisnya kepribadian ‘Nerdy’ GPT-5.1, dan kemudian menyebar ke model lain.
oleh
Gambar: Tepi
adalah penulis berita yang meliput perang streaming, teknologi konsumen, kripto, media sosial, dan banyak lagi. Sebelumnya, dia adalah seorang penulis dan editor di MUO.
OpenAI terbuka tentang masalah goblinnya. Setelah laporan dari Kabel mengungkapkan instruksi pada model pengkodean OpenAI untuk “tidak pernah berbicara tentang goblin, gremlin, rakun, troll, ogre, merpati, atau hewan atau makhluk lain,” startup AI menerbitkan penjelasannya di situs webnya, menyebut referensi terhadap makhluk tersebut sebagai “kebiasaan aneh” yang dikembangkan modelnya sebagai hasil dari pelatihan mereka.
Sebagaimana diuraikan dalam postingan blog, OpenAI mulai memperhatikan metafora yang merujuk pada goblin dan makhluk lainnya dimulai dengan model GPT-5.1-nya — khususnya saat menggunakan opsi kepribadian “Kutu Buku”. OpenAI mengatakan masalahnya terus memburuk dengan rilis model berikutnya, hingga ditemukan bahwa pelatihan penguatannya memberikan metafora unik dengan kepribadian Nerdy, yang sedang dilatih oleh model-model baru.
Hadiah hanya diterapkan pada kondisi Nerdy, namun pembelajaran penguatan tidak menjamin bahwa perilaku yang dipelajari tetap sesuai dengan kondisi yang menghasilkan perilaku tersebut. Setelah suatu style tic dihargai, pelatihan selanjutnya dapat menyebarkan atau memperkuatnya di tempat lain, terutama jika keluaran tersebut digunakan kembali dalam data penyesuaian atau preferensi yang diawasi.
Meskipun referensi tentang goblin dan gremlin menghilang setelah OpenAI menghentikan kepribadian Nerdy pada bulan Maret, mereka tidak hilang sepenuhnya. dengan GPT-5.5 di dalam alat pengkodean Codex, saat OpenAI mulai melatih model sebelum menemukan “akar permasalahan”. Perusahaan harus memberikan instruksi yang sangat spesifik kepada Codex untuk tidak membicarakan makhluk mitologis sebagai akibatnya. Tetapi jika Anda lebih suka kode AI Anda dengan beberapa goblin ditaburkan, OpenAI memilikinya berbagi cara untuk membalikkan instruksinya.
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
