ACE'yi mi düşünüyorsun? Daha Az Tokenla Bunu Yapabiliriz

Neler üzerinde anlaşıyoruz Nerede farklılaşıyoruz Neden önemli Aynı dersler, farklı sunum Bağlantılı yapılar / referanslar Yöntem notları Referans tabloları ALTK-Evolve ve ACE'nin her ikisi de bir aracının kendi yörüngelerinden öğrenmesine olanak tanır. Aradaki fark, öğrendikleriyle ne yaptıklarıdır ve bu, jeton faturasını belirler. Bir LLM temsilcisine gerçekçi, çok adımlı bir görev verin (bir faturayı bölmek, bir şarkı bulmak, dokuz simüle edilmiş uygulama arasında bir siparişi uzlaştırmak) ve başarısız olduğunda bunun nedeni genellikle bilgi eksikliği değildir. Bir API'yi yanlış sayfalandırır, yanlış kişiyi çözer veya istenmediğinde bir değer döndürür. Model API'leri biliyor; içselleştirmediği şey bunların nasıl güvenilir bir şekilde kullanılacağıdır. Bu, temsilcinin kendi geçmişinden öğrenilebilir. Yeni iki sistem aynı tür aracı üzerinde tam olarak bunu yapıyor: ACE (Ajantik Bağlam Mühendisliği) ve ALTK-Evolve'umuz (burada tanıtıldı). Her ikisi de bir tür etkensel hafızadır; bir aracının geçmiş yörüngelerini yeniden kullanılabilir derslere dönüştürür ve bunları çıkarım zamanında geri besler; ağırlık güncellemesi yoktur, insan etiketleri yoktur. İşin zor kısmında bile anlaşıyorlar. Yollarını ayırdıkları yer teslimattır. Kelimeler üzerine bir not, çünkü iki sistem bazı şeyleri farklı adlandırır: Bir aracının öğrendiği ham şeye ders diyeceğiz. ACE, derslerini kapsamlı ve gelişen tek bir taktik kitap halinde düzenler; kendi kılavuzlarımızı tek tek geri alınabilen yönergeler halinde birleştiriyoruz.

Aynı dersler, iki konteyner. ACE, başarısızlık modlarını tam olarak adlandırıyor: kısalık yanlılığı - optimizasyonun kısa, genel talimatlara doğru çökmesi - ve bağlam çöküşü - her adımda ayrıntıları özetleyerek tüm bağlamını yeniden yazması istenen bir model. Cevabı, her maddede faydalı/zararlı bir sayaç bulunan zengin, ayrıntılı bir taktik kitabı tutmak ve modelin okuma sırasında alaka düzeyini damıtmasına izin vermektir. Aynı sonuca diğer yönden de ulaşıyoruz. Her farklı kılavuzda bir destek sayısı (bunun kaç bağımsız bölüm tarafından oluşturulduğu) bulunur ve mağazayı hiçbir zaman bir avuç kuralla özetlemeyiz. Keşfedilen beş farklı görevden oluşan bir ders, bir kez ortaya çıkan nesneden farklı bir nesnedir ve her ikisi de saklanmaya değerdir. Yani asıl soru şu: Bir temsilcinin zorlukla kazandığı dersleri düzenli bir özete sıkıştırmalı mısınız? — ACE ve ALTK-Evolve aynı cevabı veriyor: hayır. Bunları sayın, yıkmayın.