Selama tidur, Otak manusia memilah -milah ingatan yang berbeda, mengkonsolidasikan yang penting sambil membuang yang tidak penting. Bagaimana jika AI bisa melakukan hal yang sama?
Biltsebuah perusahaan yang menawarkan penawaran berbelanja dan restoran lokal kepada penyewa, baru -baru ini mengerahkan beberapa juta agen dengan harapan melakukan hal itu.
Bilt menggunakan teknologi dari startup yang disebut Membaca Itu memungkinkan agen untuk belajar dari percakapan sebelumnya dan berbagi kenangan satu sama lain. Menggunakan proses yang disebut “SleepTime Compute,” agen memutuskan informasi apa yang akan disimpan dalam lemari besi memori jangka panjang dan apa yang mungkin diperlukan untuk penarikan yang lebih cepat.
“Kami dapat membuat satu pembaruan ke a [memory] memblokir dan memiliki perilaku ratusan ribu agen berubah, “kata Andrew Fitz, seorang insinyur AI di BILT.” Ini berguna dalam skenario apa pun di mana Anda menginginkan kontrol berbutir halus atas konteks agen, “tambahnya, merujuk pada teks yang diminta ke model pada waktu inferensi.
Model bahasa besar biasanya hanya dapat “mengingat” hal -hal jika informasi termasuk dalam jendela konteks. SAYAJika Anda ingin chatbot mengingat percakapan terbaru Anda, Anda perlu menempelkannya ke obrolan.
Sebagian besar sistem AI hanya dapat menangani sejumlah informasi di jendela konteks sebelum kemampuan mereka menggunakan data terpal dan mereka berhalusinasi atau menjadi bingung. Otak manusia, sebaliknya, dapat mengajukan informasi yang bermanfaat dan mengingatnya nanti.
“Otak Anda terus membaik, menambahkan lebih banyak informasi seperti spons,” kata Charles Packer, CEO Letta. “Dengan model bahasa, ini seperti kebalikannya. Anda menjalankan model bahasa ini dalam satu loop cukup lama dan konteksnya menjadi beracun; mereka tergelincir dan Anda hanya ingin mengatur ulang.”
Packer dan pendiri Sarah Wooders sebelumnya dikembangkan Memgptproyek open-source yang bertujuan untuk membantu LLM memutuskan informasi apa yang harus disimpan dalam memori jangka pendek vs jangka panjang. Dengan Letta, keduanya telah memperluas pendekatan mereka untuk membiarkan agen belajar di latar belakang.
Kolaborasi BILT dengan Letta adalah bagian dari dorongan yang lebih luas untuk memberi AI kemampuan untuk menyimpan dan mengingat informasi yang bermanfaat, yang dapat membuat chatbots lebih pintar dan agen lebih sedikit rawan kesalahan. Memori tetap terbelakang dalam AI modern, yang merusak kecerdasan dan keandalan alat AI, menurut para ahli yang saya ajak bicara.
Harrison Chase, pendiri dan CEO Langchain, perusahaan lain yang telah mengembangkan metode untuk meningkatkan memori dalam agen AI, mengatakan ia melihat memori sebagai bagian penting dari rekayasa konteks – di mana pengguna atau insinyur memutuskan informasi apa yang akan dimasukkan ke dalam jendela konteks. Langchain menawarkan kepada perusahaan beberapa jenis penyimpanan memori untuk agen, dari fakta jangka panjang tentang pengguna hingga kenangan pengalaman terbaru. “Memori, saya berpendapat, adalah bentuk konteks,” kata Chase. “Sebagian besar pekerjaan insinyur AI pada dasarnya mendapatkan model konteks yang tepat [information]. “
Alat AI konsumen secara bertahap menjadi kurang pelupa juga. Februari ini, Openai diumumkan bahwa chatgpt akan menyimpan informasi yang relevan untuk memberikan pengalaman yang lebih personal bagi pengguna – meskipun perusahaan tidak mengungkapkan cara kerjanya.
Letta dan Langchain membuat proses penarikan lebih transparan untuk insinyur membangun sistem AI.
“Saya pikir sangat penting tidak hanya agar model terbuka tetapi juga agar sistem memori terbuka,” kata Clem Delangue, CEO platform hosting AI yang memeluk wajah dan investor di Letta.
Menariknya, CEO Letta Packer mengisyaratkan bahwa mungkin juga penting bagi model AI untuk mempelajari apa yang harus dilupakan. “Jika seorang pengguna mengatakan, ‘bahwa satu proyek yang sedang kami kerjakan, bersihkan dari ingatan Anda’ maka agen tersebut harus dapat kembali dan secara surut menulis ulang setiap memori.”
Gagasan kenangan dan mimpi buatan membuat saya berpikir Do Androids Dream of Electric Sheep? Oleh Philip K. Dick, sebuah novel yang membingungkan yang menginspirasi film dystopian yang penuh gaya Blade Runner. Model bahasa besar belum mengesankan seperti Replika pemberontak dari cerita itu, tetapi ingatan mereka, tampaknya, bisa sama rapuhnya.
Ini adalah edisi Will Knight’s AI Lab Newsletter. Baca buletin sebelumnya Di Sini.
