NVIDIA Vera Rubin, Eğitim Sonrası İş Yükleri için Dolar Başına Zekayı Maksimize Ediyor — Ajanslı Yapay Zeka için Anahtar Bir Ölçüt

Profesyonel bir sporcu düşünün. Elit oyuncuları ayıran şey, oyunlar arasında olup bitenlerdir: Sürekli iyileştirme, yeni rakiplere uyum sağlama ve son oyunda ortaya çıkanlara göre becerilerin keskinleştirilmesi. Ajan AI aynı şekilde çalışır. Artık bir modelden cevap istenmiyor. Ona bir hedef verilmiştir ve ortamlar değiştikçe, uç durumlar ortaya çıktıkça ve araçlar değiştikçe uyum sağlamaya devam etmelidir. Bir uyarıya yanıt veren üretken bir modelden farklı olarak, etmenli bir model planlamalı, farklı araçlar kullanmalı ve çalışmanın ortasında karşılaştığı sorunları çözmelidir. Bu nedenle, ham veriler üzerinde ilk eğitimin ardından modeli hassaslaştıran eğitim sonrası aşama, artık tek seferlik bir bitirme adımı değil. Süreklidir, çünkü etmenli modellerin vardiyalar halinde çalıştığı ortam hızlı bir şekilde değişmektedir. Bir temsilcinin kullandığı araçlar haftadan haftaya değişebilir. Edge kasaları üretimde hiçbir test setinin öngörmediği şekilde ortaya çıkıyor. Her dağıtım kendi kod tabanını, politikalarını ve ortamını beraberinde getirir. Yeni sorunlar ortaya çıktıkça eğitim sonrası çalışmalar üretimden geri dönüyor. Bilgi işlem ayak izi, herhangi bir çalıştırmanın daha büyük olması nedeniyle değil, çalıştırmaların hiç durmaması nedeniyle büyüyor. Agentic AI, eğitim sonrası için yeni bir bilgi işlem modeli sunuyor ve bu da onu ajan döneminin merkezi iş yükü ve dolar başına istihbaratın ana itici gücü haline getiriyor. Eğitim sonrası hedefi, sürekli öğrenme döngüsündeki her ileri ve geri geçişin getirisini en üst düzeye çıkararak dolar başına zekayı en üst düzeye çıkarmaktır. İleri geçiş - çıkarım - jeton başına maliyetle ölçülür.

Bu, token başına maliyetteki her iyileştirmenin doğrudan dolar başına zekaya aktığı anlamına gelir. Eğitim sonrası zekanın inşa edildiği yerdir. Ön eğitimde model bir sonraki jetonu tahmin etmeyi öğrenir, bu da ona akıcılık kazandırır ancak zeka sağlamaz. Eğitim sonrası, kod yazmayı, çok adımlı bir görevi planlamayı, bir arama aracı kullanmayı ve bir şeyler ters gittiğinde toparlanmayı öğrendiği yerdir. Çıkarım bundan sonra gelir: iş üzerinde çalışan model, jeton başına maliyete göre fiyatlandırılır. Ezberlenecek bir cevap anahtarı olmadığından, yalnızca bir ödül olduğundan, model takviyeli öğrenme (RL) teknikleriyle öğrenir. Bir görev verildiğinde, işte yaptığı işin aynısını bir deneme (ileri geçiş) olarak yazar. Deneme puanlanır ve ders, modelin ağırlıklarını (geriye doğru pas) günceller.