Sıkıştırma

Uzun süreli etkileşimleri desteklemek amacıyla, sonraki dönüşler için gereken durumu korurken bağlam boyutunu azaltmak amacıyla sıkıştırmayı kullanabilirsiniz. Sıkıştırma, konuşmalar büyüdükçe kaliteyi, maliyeti ve gecikmeyi dengelemenize yardımcı olur. Bir Responses oluşturma isteğinde ( POST /responses veya client.responses.create ) sunucu tarafı sıkıştırmayı, context_management'ı Compact_threshold ile ayarlayarak etkinleştirebilirsiniz. Döndürülen sıkıştırma öğesi, daha az belirteç kullanarak bir sonraki çalıştırmaya önemli önceki durumu ve akıl yürütmeyi ileri taşır. Opaktır ve insanlar tarafından yorumlanabilir olması amaçlanmamıştır. Durum bilgisi olmayan giriş dizisi zincirleme için çıkış öğelerini her zamanki gibi ekleyin. Eğer önceki_response_id kullanıyorsanız, her turda yalnızca yeni kullanıcı mesajını iletin. Her iki durumda da sıkıştırma öğesi bir sonraki pencere için gereken bağlamı taşır. Gecikme ipucu: Çıkış öğelerini önceki giriş öğelerine ekledikten sonra, istekleri daha küçük tutmak ve uzun kuyruk gecikmesini azaltmak için en son sıkıştırma öğesinden önce gelen öğeleri bırakabilirsiniz. En son sıkıştırma öğesi, konuşmaya devam etmek için gerekli bağlamı taşır.

Önceki_response_id zincirlemesini kullanıyorsanız manuel olarak budamayın. Açık kontrol için, uzun süren iş akışlarında durum bilgisi olmayan sıkıştırmaya yönelik bağımsız kompakt uç noktasını kullanın. Tam bir bağlam penceresi (mesajlar, araçlar ve diğer öğeler) gönderirsiniz ve uç nokta, bir sonraki /responses çağrınıza iletebileceğiniz yeni bir sıkıştırılmış bağlam penceresi döndürür. Döndürülen sıkıştırılmış pencere, daha az belirteç kullanarak anahtar önceki durumu ve muhakemeyi ileri taşıyan şifrelenmiş bir sıkıştırma öğesi içerir. Opaktır ve insanlar tarafından yorumlanabilir olması amaçlanmamıştır. Not: Sıkıştırılmış pencere genellikle sıkıştırma öğesinden daha fazlasını içerir. Ayrıca önceki pencereden saklanan öğeleri de içerebilir. Çıktı yönetimi: /yanıtları/kompakt çıktıyı budamayın. Döndürülen pencere kurallı bir sonraki bağlam penceresidir, bu nedenle onu bir sonraki /responses çağrınıza olduğu gibi aktarın.