Bir bakışta
- Günümüz AI ajanları uzun etkileşim geçmişlerini saklar, ancak bunları etkili bir şekilde yeniden kullanmakta zorlanır.
- Ham bellek geri alımı, ajanları uzun, düşük değerli bağlamlarla bunaltabilir.
- PlugMem, etkileşim geçmişini yapılandırılmış, yeniden kullanılabilir bilgiye dönüştürür.
- Tek bir, genel amaçlı bellek modülü, daha az bellek token kullanarak çeşitli ajan benchmark'ları arasında performansı artırır.
Bu, sezgisel olarak ters görünüyor: AI ajanlarına daha fazla bellek vermek, onları daha az etkili hale getirebilir. Etkileşim günlükleri biriktikçe, büyük hale gelir, alakasız içeriklerle dolup taşar ve kullanılmaları giderek zorlaşır.
Daha fazla bellek, ajanların mevcut görevle ilgili bilgileri bulmak için geçmiş etkileşimlerin daha büyük hacimlerini taraması gerektiği anlamına gelir. Yapı olmadan, bu kayıtlar yararlı deneyimleri alakasız detaylarla karıştırır, geri alımı daha yavaş ve daha az güvenilir hale getirir. Zorluk, daha fazla deneyim saklamak değil, ajanların o anda önemli olanı hızlı bir şekilde tanımlayabilmesi için bunları organize etmektir.
Son yayınladığımız “PlugMem: LLM Ajanları için Görev-Agnostik Eklenti Bellek Modülü,” başlıklı çalışmamızda, ham ajan etkileşimlerini yeniden kullanılabilir bilgiye dönüştüren bir tak-çalıştır bellek sistemi tanıtıyoruz. Belleği geri alınacak metin olarak ele almak yerine, PlugMem bu geçmişi, ajanın hareket ederken kararlarını desteklemek için tasarlanmış yapılandırılmış bilgiye dönüştürür.
Bilişsel bilim burada yararlı bir çerçeve sunar. Olayları hatırlamak, gerçekleri bilmek ve görevleri nasıl yerine getireceğini bilmek arasında ayrım yapar. Geçmiş olaylar bağlam sağlar, ancak etkili kararlar bu olaylardan çıkarılan gerçekler ve becerilere dayanır.
Bu ayrım, AI ajanları için bellek tasarımını nasıl yapacağımızı belirlemede bir değişimi motive etti. PlugMem, ajanın etkileşim geçmişini, diyaloglar, belgeler ve web oturumları gibi, görevler arasında yeniden kullanılabilecek yapılandırılmış, kompakt bilgi birimlerine dönüştürerek bu değişimi uygular.
PlugMem nasıl çalışır
PlugMem ile geleneksel AI bellek sistemleri arasındaki temel fark, neyin saklandığıdır. Geleneksel yaklaşımlar, metin parçalarını veya adlandırılmış varlıkları (insanlar, yerler ve kavramlar için referanslar) saklar. PlugMem, bellek için temel yapı taşları olarak gerçekleri ve yeniden kullanılabilir becerileri kullanır. Bu tasarım, gereksizliği azaltır, bilgi yoğunluğunu artırır ve geri alım hassasiyetini iyileştirir. Üç temel bileşen etrafında inşa edilmiştir:
Yapı. Ham etkileşimler standartlaştırılır ve önermeli bilgiye (gerçekler) ve preskriptif bilgiye (yeniden kullanılabilir beceriler) dönüştürülür. Bu bilgi birimleri, yeniden kullanım için tasarlanmış bir biçimde saklanmasını sağlayan yapılandırılmış bir bellek grafiğine organize edilir.
Geri Alım. Uzun metin pasajlarını geri almak yerine, PlugMem mevcut görevle uyumlu bilgi birimlerini geri alır. Y
