Temsilcinizin Aslında Ne Kadar Belleğe İhtiyacı Var?

Temel Bilgi: Dozaj Yeteneğe Bağlıdır Öğrenme modelin içinde değil, modelin etrafında gerçekleşir Spektrumdaki Sonuçlar Karşılaştırdığımız üç konfigürasyon Tek görünümde üç model En Ucuz Bellek Stratejisi Aynı zamanda En İyi Bellek Olabilir Sadece Biriktirilmiş Değil Kalibre Edilmelidir Sırada Ne Var Ek: Metrikleri Anlamak Önceki gönderimizde ALTK-Evolve'u ACE ile karşılaştırdık ve bir aracının kendi kendine damıtılmış yönergelerini nasıl ilettiğinizi gösterdik - birkaçı görev başına alınan ve enjekte edilen setin tamamı — hem doğruluğu hem de maliyeti artırır. Bu yazı kendisinden önce gelen soruya geri dönüyor: Ne kadar vermelisiniz? Bir temsilciyi fail hafızasıyla donatmak kulağa basit geliyor: geçmiş çalışmalarından dersler çıkarın, bunları tekrar bağlam içine koyun; daha fazla deneyim, daha iyi performans anlamına gelmelidir. Her zaman bu şekilde çalışmaz. Değerlendirmeyi 30B yoğun modelden sınıra özel sistemlere kadar sekiz modele ölçeklendirdiğimizde bir bulgu göze çarpıyordu: Ajan hafızası sizin açabileceğiniz bir özellik değildir.

Bu, modele göre kalibre ettiğiniz bir dozdur. ALTK-Evolve, bir aracının kendi geçmiş yörüngelerinden öğrenmesine olanak tanır: ağırlık güncellemesi veya insan açıklaması olmadan, yeniden kullanılabilir yönergeleri ayrıştırıp çıkarım zamanında bunları geri enjekte eder. Doğru doz, model katmanına göre farklılık gösterir: boşluk payına sahip güçlü modeller tüm kılavuz setini ister, daha zayıf modeller, kompakt çekirdek artı görev başına erişim ile en iyisini yapar ve doymuş modeller ölçülebilir bir kazanç göstermez. Düzenlenmiş erişim hem en doğru hem de en ucuz seçenek olabilir: gpt-oss-120b yalnızca +%5 jetonla +16,1 puanlık görev tamamlama elde etti - ve hızlı önbelleğe alma, tüm kılavuz setini bile üretimde uygun maliyetli hale getiriyor. Her model aynı miktarda bellekten faydalanmaz. Yetenek spektrumunu kapsayan sekiz modelde tekrar eden üç model gördük: Boşluk payına sahip güçlü modeller, nadir görülen uç durum dersleri de dahil olmak üzere her kılavuzun tamamını içeren kılavuz setini ister. Hepsini absorbe etme ve uygulama kapasitesine sahiptirler. DeepSeek-V3.2 (671B MoE), kendi kendine madencilik kılavuz seti verildiğinde görev tamamlamada yüzde +9,5 puan arttı. Daha küçük veya daha zayıf modeller, büyük bir kılavuz seti tarafından boğulur. Bunlar için, sıkı, yüksek güvenirliğe sahip bir temel ve görev başına alınan bir avuç görevle ilgili yönerge en iyi sonucu verir.