Anthropic'in Mesaj Konuları, uzun konuşmalar için ilk jetona kadar geçen süreyi yüzde 35 sarıktı
Özgün başlık: Anthropic's Message Threads cut time to first token by 35 percent for long conversations
Anthropic Mesajlar API'sı için Mesaj Konularını yayınladı. Temsilciler her fırsatta görüşmenin tamamını yeniden göndermek yerine artık yalnızca değişenleri aktarıyor. 500.000 ile bir milyon token arasındaki taleplerde, ilk tokena ulaşma süresi yaklaşık yüzde 35 oranında düşüyor.
Anthropic'in Mesaj Dizileri makalesi, uzun konuşmalar için ilk token süresini yüzde 35 oranında kısalttı ve ilk olarak The Decoder'da göründü.
Anthropic released Message Threads for the Messages API. Instead of resending the entire conversation with every turn, agents now only transmit what's changed. For requests between 500,000 and one million tokens, time to first token drops by about 35 percent.
The article Anthropic's Message Threads cut time to first token by 35 percent for long conversations appeared first on The Decoder .
Anthropic lanzó hilos de mensajes para la API de mensajes. En lugar de reenviar toda la conversación en cada turno, los agentes ahora solo transmiten lo que ha cambiado. Para solicitudes entre 500.000 y un millón de tokens, el tiempo hasta el primer token se reduce aproximadamente un 35 por ciento.
El artículo Los hilos de mensajes de Anthropic reducen el tiempo hasta el primer token en un 35 por ciento para conversaciones largas que aparecieron por primera vez en The Decoder.
Anthropic выпустили Message Threads для Messages API. Вместо повторной отправки всего разговора при каждом повороте агенты теперь передают только то, что изменилось. Для запросов от 500 000 до одного миллиона токенов время получения первого токена сокращается примерно на 35 процентов.
Статья «Потоки сообщений» в статье Anthropic сокращает время получения первого токена на 35 процентов для длинных разговоров, впервые появившихся на The Decoder.