Sohbet Tamamlamalarından Yanıtlara: OpenAI Neden Temel API'sini Yükseltiyor?

Geniş dil modelli bir uygulama geliştirdiyseniz büyük olasılıkla bu uç noktayla başlamışsınızdır: GPT-3.5 ve GPT-4 çağında bu uç nokta pratikte OpenAI API ile eş anlamlıydı. Geliştiriciler bir dizi mesajı iletecek ve model, bağlama göre bir sonraki yanıtı oluşturacaktır. Ancak uygulamalar "sohbet robotlarından" "araçları çalıştırabilen, görevleri yürütebilen ve çok modlu içeriği işleyebilen aracılara" dönüştükçe API'nin yapısı da değişmeye başladı. OpenAI daha birleşik bir yaklaşım getirdi: Bu, Sohbet Tamamlamaların geçerliliğini yitirdiği anlamına gelmez; bunun yerine aracıların daha karmaşık iş akışları için daha uygun bir soyutlama sağlar. Sohbet Tamamlamalarının temel veri yapısı mesajlardır. Her istek turunda müşterinin, modelin mevcut görevi anlaması için gereken bağlamı sunması gerekir. Model bir aracı çağırmaya karar verdikten sonra aşağıdakine benzer bir sonuç döndürecektir: Uygulama get_weather komutunu y��rüttükten sonra, bir sonraki istek önceki konuşmayı, model tarafından başlatılan araç çağrılarını ve bu araç yürütmelerinin sonuçlarını içermelidir: Bu yaklaşım sezgiseldir, köklüdür ve çoğu sohbet senaryosu için hâlâ uygundur. Bununla birlikte, belirgin bir mühendislik kusuru vardır: içerik yönetimi öncelikle müşteri tarafından gerçekleştirilir.

Konuşmalar uzadıkça ve araç çağrıları arttıkça, uygulamanın sürekli olarak geçmiş mesajları sürdürmesi ve yeniden oynatması gerekir. Responses API farklı bir yaklaşım benimser: model çıktısını yalnızca bir metin parçası olarak değil, aynı zamanda metin, akıl yürütme, araç çağrıları, resimler veya yapılandırılmış sonuçları içerebilecek bir "yanıt" olarak ele alır. Araç yürütmeyi tamamladıktan sonra, bir sonraki turda yalnızca yeni sonuçların gönderilmesi ve önceki yanıta referans verilmesi gerekir: OpenAI önceki bağlamı araç çağrısıyla ilişkilendirmek için önceki_response_id'yi kullanabilir.