Deepseek, en hızlı ve en ucuz yapay zeka modeline güç veren çıkarım motorunu açık kaynaklı hale getiriyor
🔗 Ayrıca yazanlar: reddit.com
Özgün başlık: Deepseek open-sources the inference engine that powers its fastest and cheapest AI model
Deepseek, hızlı V4.1-Flash modelinin arkasındaki çıkarım çerçevesi olan DeepInfer'i açık kaynak olarak kullanıyor. vLLM tabanlı sistem, yapay zeka modellerini çalıştırırken bilgi işlem maliyetlerini ve enerji kullanımını azaltır. Bu sürüm, OpenAI ve Anthropic gibi Batılı sağlayıcılar üzerinde daha fazla fiyat baskısı yaratıyor.
Deepseek'in en hızlı ve en ucuz yapay zeka modelini destekleyen çıkarım motorunu açık kaynak olarak sunduğu makalesi ilk olarak The Decoder'da çıktı.
Deepseek is open-sourcing DeepInfer, the inference framework behind its fast V4.1-Flash model. The vLLM-based system cuts compute costs and energy use when running AI models. The release adds more pricing pressure on Western providers like OpenAI and Anthropic.
The article Deepseek open-sources the inference engine that powers its fastest and cheapest AI model appeared first on The Decoder .
Deepseek es DeepInfer de código abierto, el marco de inferencia detrás de su rápido modelo V4.1-Flash. El sistema basado en vLLM reduce los costos de computación y el uso de energía cuando se ejecutan modelos de IA. El comunicado añade más presión sobre los precios sobre proveedores occidentales como OpenAI y Anthropic.
El artículo Deepseek abre el motor de inferencia que impulsa su modelo de IA más rápido y económico apareció por primera vez en The Decoder.
Deepseek — это DeepInfer с открытым исходным кодом, платформа вывода, лежащая в основе быстрой модели V4.1-Flash. Система на основе vLLM сокращает вычислительные затраты и энергопотребление при запуске моделей искусственного интеллекта. Этот релиз усиливает ценовое давление на западных поставщиков, таких как OpenAI и Anthropic.
Статья Deepseek об открытии исходного кода механизма вывода, лежащего в основе самой быстрой и дешевой модели искусственного интеллекта, впервые появилась на сайте The Decoder.