Writer, token maliyetlerini kontrol altına almak için yeni yapay zeka modelini ve yükseltilmiş donanım sistemini tanıtıyor

Yapay zeka endüstrisindeki kullanıcılar, dağıtımlarının ne kadar pahalı olabileceği konusunda daha bilinçli hale geliyor ve maliyetleri düşürme konusunda yeni bir aciliyet hissediyorlar. Ancak açık kaynaklı modeller önemli ölçüde daha düşük token başına maliyetler sunarken belirli bir iş için doğru modeli bulmak zor olabilir. Perşembe günü, pazarlamacılar için yapay zeka araçları ve aracıları sunan Writer, kullanıcıları için bu sorunu çözmeyi amaçlayan Palmyra X6 adlı yeni bir amiral gemisi modelini piyasaya sürdü. Za.ai'nin açık kaynak modeli GLM-5.2'nin eğitim sonrası bir varyasyonu olarak oluşturulan Writer, yeni sistemin dağıtıma hazır yetenekleri çok daha düşük bir fiyata sunması gerektiğini söylüyor. Şirket, yeni modelin, şirketin donanım altyapısında yapılan değişikliklerle birlikte müşterilerinin temel görev maliyetlerini yüzde 50'ye kadar azaltacağını tahmin ediyor. Şirket, yeni modelle birlikte standart ajan donanımında da önemli iyileştirmeler yayınladı. Her iki özellik de Perşembe gününden itibaren Writer müşterilerine sunulacak. "CEO May Habib, TechCrunch'a yaptığı açıklamada, şirketin bir sonraki kriteri kovalamaktan kesinlikle bıktığını düşünüyorum. Maliyetin sabitlenmesini istiyorlar ve görünen o ki kimse bunu sağlayamaz. Yeni yaklaşım, daha hızlı ve daha az jetonla yürütülen karmaşık, çok adımlı görevlere özellikle vurgu yapıyor. Ve Writer, emniyet kemeri optimizasyonunu bunu gerçekleştirmeye yönelik çok önemli bir kaldıraç olarak görüyor. Writer araştırmacılarının yakın tarihli bir makalesi, birden fazla farklı modelde koşum takımı verimliliğindeki küçük değişiklikleri test ederek bu yaklaşıma güven veriyor.

Araştırma, birçok durumda emniyet kemerindeki değişikliklerin maliyetleri azaltmada model seçiminden daha güvenilir bir yol olduğunu ve maliyetlerin testler boyunca ortalama %40 düştüğünü buldu. Araştırmacılar, emniyet kemerinin, bir kuruluşun çalıştırdığı her modelde (şimdiki ve gelecekte) verimliliği katlanan tek bileşen olduğunu yazdı. Writer müşterileri için deneyim hala modelden bağımsızdır: Palmyra X6, diğer Writer modellerinin veya Azure veya Amazon Bedrock aracılığıyla içe aktarılan dış modellerin yanında yer alacaktır.