Hugging Face Çıkarım Sağlayıcıları 🔥 üzerine temel alın

Makalelere Geri Dön Nasıl çalışır Web sitesi kullanıcı arayüzünde İstemci SDK'larından Faturalandırma Geri Bildirimi ve sonraki adımlar Baseten'in artık Hugging Face Hub'da desteklenen bir Çıkarım Sağlayıcısı olduğunu paylaşmaktan heyecan duyuyoruz! Baseten, büyüyen ekosistemimize katılarak sunucusuz çıkarımın kapsamını ve yeteneklerini doğrudan Hub'ın model sayfalarında geliştiriyor. Çıkarım Sağlayıcıları aynı zamanda istemci SDK'larımıza (hem JS hem de Python için) sorunsuz bir şekilde entegre olduğundan, tercih ettiğiniz sağlayıcılarla çok çeşitli modelleri kullanmayı son derece kolaylaştırır. Baseten, sunucusuz yapay zeka, eğitim ve daha fazlasını kapsayan bir yapay zeka altyapı platformudur. Birçok öncü modelden oluşan bir katalogla Baseten, geliştiricilerin çok çeşitli AI yeteneklerini minimum kurulumla uygulamalarına entegre etmelerini kolaylaştırır. Baseten, LLM'lerden metinden konuşmaya ve daha fazlasına kadar geniş bir model türü yelpazesini destekler. Bu ilk entegrasyonun bir parçası olarak Baseten, Hugging Face'de konuşma ve metin oluşturma görevleri için destek başlatıyor ve Kimi K3, en yeni DeepSeek V4 Flash, GLM-5.2 ve çok daha fazlası gibi popüler açık ağırlıklı LLM'lere erişim sağlıyor. Ek görevler için destek yakında kullanıma sunulacak! Baseten tarafından desteklenen modellerin tam listesine buradan bakın. Baseten'i Hugging Face üzerinden takip edin: https://huggingface.co/baseten. Nasıl çalışır Web sitesi kullanıcı arayüzünde 1. Kullanıcı hesabı ayarlarınızda şunları yapabilirsiniz: Kayıt olduğunuz sağlayıcılar için kendi API anahtarlarınızı ayarlayabilirsiniz. Özel anahtar ayarlanmadıysa istekleriniz HF üzerinden yönlendirilecektir.

Tercihinize göre sağlayıcıları sipariş edin. Bu, model sayfalarındaki widget ve kod parçacıkları için geçerlidir. 1. Belirtildiği gibi, Çıkarım Sağlayıcıları ararken iki mod vardır: Özel anahtar (çağrılar, ilgili çıkarım sağlayıcının kendi API anahtarınızı kullanarak doğrudan çıkarım sağlayıcıya gider) HF tarafından yönlendirilir (bu durumda, sağlayıcıdan bir jetona ihtiyacınız yoktur ve ücretler, sağlayıcının hesabı yerine doğrudan HF hesabınıza uygulanır) 1. Model sayfaları, üçüncü taraf çıkarım sağlayıcılarını gösterir (mevcut modelle uyumlu olanlar, kullanıcı tercihine göre sıralanmıştır) İstemciden SDK'lar Baseten, Python için Hugging Face SDK'lar - huggingface hub'ı ( = 1.26.1) ve JavaScript için @huggingface/inference aracılığıyla edinilebilir. Aşağıdaki örnekler Baseten'e kadar en son DeepSeek V4 Flash'ın nasıl kullanılacağını gösterir.