OpenAI – 12 saatlik önbellek (API) kullanıma sunuldu ve iş/codex kullanıcıları için "sonsuza kadar önbellek" seçeneği

Ne oldu

OpenAI tarafından yapılan açıklamalara göre, geliştiricilere yönelik API hizmetinde 12 saatlik istem önbellekleme seçeneği kullanıma sunuldu. Bunun yanı sıra, oturum açmış olan iş ve Codex kullanıcıları için kalıcı bir önbellekleme sisteminin devreye alındığı bildirildi. Paylaşılan bilgilere göre bu yeni düzenleme sayesinde kullanıcılar, saatler sonra bile eski bir konuşmaya geri döndüklerinde veya kaldıkları yerden devam ettiklerinde önbellek eşleşmesi garantisi elde ediyor ve herhangi bir dezavantajla karşılaşmıyorlar.

Neden önemli

Bu güncelleme, özellikle gün boyunca bağlamı yeniden kullanan kalıcı ajanların ve geliştirici araçlarının verimliliğini artırmayı hedefliyor. Paylaşılan yönergelerin, araçların ve bağlamın daha uzun süre önbellekte tutulması, istekler arasında saatler olsa bile daha düşük olan önbelleğe alınmış girdi ücretinin ödenmesine olanak tanıyor. Bu durum, sürekli etkileşim gerektiren iş akışlarında maliyet ve performans açısından avantaj sağlayabiliyor.

Teknik detaylar

API üzerinden yapılan entegrasyonlarda 12 saatlik sürenin seçilebilmesi, gün boyu süren işlemlerde bağlamın korunmasını destekliyor. İş ve Codex kullanıcıları için ise önbelleğin süresiz olarak saklandığı ve bu sayede eski oturumlara dönüldüğünde önbellek verisinin doğrudan yakalandığı belirtiliyor.

Kimi etkiler, ne yapmalı

Geliştiriciler, API kullanıcıları, Codex platformunu kullananlar ve iş profiline sahip ChatGPT kullanıcıları bu gelişmelerden doğrudan etkilenmektedir. İlgili kullanıcılar, API ayarlarında 12 saatlik önbellek seçeneğini değerlendirebilir ve kalıcı önbellek avantajlarından faydalanmak için sistem güncellemelerini takip edebilirler.