FlexInference LLM Yönlendirici
Özgün başlık: FlexInference LLM Router
Herkese merhaba, FlexInference'a Bedrock ve Vertex desteği eklendi. Artık 429 ve 5xx'te sağlayıcı geri dönüşü yapabiliyor. Ayrıca, SDK aracılığıyla ayarlayabileceğiniz yukarı akış yeniden denemeleri de vardır. Bu şekilde OpenAI, Anthropic, Google, Vertex ve Bedrock üzerinden ücretsiz yönlendirme yapabilirsiniz. Bundan sonra Foundry desteği üzerinde çalışılacaktır.
✳ Bu özet ve çevirisi Base of AGI tarafından otomatik derlendi. Kısa özet ve görsel kaynağa aittir — haberin tamamı ve tüm haklar kaynağındadır.
Haberin tamamını kaynağında oku ↗
Akış içinde yorumlarla aç