Decisions API ile daha duyarlı uygulamalar oluşturun
Özgün başlık: Build more responsive apps with the Decisions API
Uygulamalar ve aracılar iş akışı boyunca birçok küçük karar verirler: bir girdinin nasıl sınıflandırılacağı, bir isteğin nereye yönlendirileceği veya daha sonra hangi eylemin gerçekleştirileceği. Bireysel olarak basittirler. Geniş ölçekte, gecikme süreleri ve maliyetleri artar. Bugün, Decisions API'yi genel kullanıma sunuyoruz. GPT‑6 Luna ile oluşturulan Decisions API, Luna'nın zekasını sınırlı yanıtlara sahip sorulara odaklayarak uygulamaların ve aracıların, Responses API aracılığıyla GPT‑6 Luna'dan 10 kata kadar daha hızlı bir şekilde metin, görseller ve yapılandırılmış girişlerden neredeyse gerçek zamanlı kararlar almasına yardımcı olur.
Herkese açık beta sürümünden bu yana, yerel bir GPT‑Live entegrasyonu, yeniden kullanılan bağlam için hızlı önbelleğe alma ve ABD ve AB'de çıkarım yerleşimi ekledik. Geliştiriciler ayrıca yerel JSON girişlerini iletebilir, soru talimatlarına görseller ekleyebilir ve istek başına önceki sınırın iki katı olan 400'e kadar soru sorabilir.
Applications and agents make many small decisions throughout a workflow: how to classify an input, where to route a request, or which action to take next. Individually, they are simple. At scale, their latency and cost add up. Today, we’re making the Decisions API generally available. Built with GPT‑6 Luna, the Decisions API focuses Luna’s intelligence on questions with bounded answers, helping applications and agents make near real-time decisions from text, images, and structured inputs up to 10x faster than GPT‑6 Luna through the Responses API.
Since public beta, we’ve added a native GPT‑Live integration, prompt caching for reused context, and inference residency in the US and EU. Developers can also pass native JSON inputs, include images in question instructions, and ask up to 400 questions per request, twice the previous limit.
Las aplicaciones y los agentes toman muchas decisiones pequeñas a lo largo de un flujo de trabajo: cómo clasificar una entrada, dónde enrutar una solicitud o qué acción tomar a continuación. Individualmente, son simples. A escala, su latencia y costo se suman. Hoy, la API Decisions está disponible de forma generalizada. Creada con GPT‑6 Luna, Decisions API centra la inteligencia de Luna en preguntas con respuestas limitadas, lo que ayuda a las aplicaciones y a los agentes a tomar decisiones casi en tiempo real a partir de texto, imágenes y entradas estructuradas hasta 10 veces más rápido que GPT‑6 Luna a través de Responses API.
Desde la versión beta pública, agregamos una integración nativa de GPT-Live, almacenamiento en caché rápido para contexto reutilizado y residencia de inferencia en EE. UU. y la UE. Los desarrolladores también pueden pasar entradas JSON nativas, incluir imágenes en las instrucciones de las preguntas y hacer hasta 400 preguntas por solicitud, el doble del límite anterior.
Приложения и агенты принимают множество мелких решений в ходе рабочего процесса: как классифицировать входные данные, куда направить запрос или какое действие предпринять дальше. По отдельности они просты. В масштабе их задержка и стоимость складываются. Сегодня мы делаем API решений общедоступным. API решений, созданный на основе GPT‑6 Luna, фокусирует интеллект Luna на вопросах с ограниченными ответами, помогая приложениям и агентам принимать решения практически в реальном времени на основе текста, изображений и структурированных входных данных до 10 раз быстрее, чем GPT‑6 Luna, через API ответов.
Начиная с публичной бета-версии, мы добавили встроенную интеграцию GPT‑Live, оперативное кэширование для повторно используемого контекста и резидентность вывода в США и ЕС. Разработчики также могут передавать собственные входные данные JSON, включать изображения в инструкции по вопросам и задавать до 400 вопросов на запрос, что вдвое превышает предыдущий лимит.