Bir 4B modeli etrafında tam bir ajans donanımı oluşturmak zordur
Özgün başlık: Building a full agentic harness around a 4B model is hard
Yaklaşık 3 ay önce, bir Yüksek Lisans çalıştıran iPhone uygulamalarının neden hiçbirinin tam bir donanım olarak tasarlanmadığını düşünüyorduk (çıkarım + aracı döngü + içerik yönetimi + araçlar + MCP sunucuları vb. gibi). Yeni Siri'nin bile tam olarak cihazda olmadığını (ve bu konuda AB'de mevcut olmadığını) fark ettiğimizde durum daha da ilginç hale geldi. Geçmişte özel bir koşum etrafında birkaç ajans ürünü geliştirdikten sonra bunun o kadar da zor olmaması gerektiğini düşündük. 4B modelinin ne kadar "aptal" olabileceğini hafife aldık, özellikle konu takım çağırma olduğunda. :D 8 farklı model denedik ve Qwen 3.5 4B'de karar kıldık ve bu modelin çalışması için bildiğimiz her hileyi kullandık. işe yarıyor! Herhangi bir zeka veya hız testinde kazanamayacak, ancak gerçekten yararlı işler yapabilir ve gerçekten cihaz üzerinde, özel, tam bir ajan donanımıdır. Bununla birlikte, tercihiniz buysa OpenRouter'ınızı veya OpenAI API anahtarlarınızı hala bağlayabilirsiniz. Lütfen gidip bir göz atın :) iPhone 15 pro veya üzeri bir sürüme ihtiyacınız var.