RAX Compute Gateway – OpenAI, Anthropic ve Gemini için tek API

RAX Compute Gateway, açık kaynaklı bir AI Compute Gateway'dir. Yönlendirmeyi, kimlik doğrulamayı, yeniden denemeleri, sınırları ve telemetriyi merkezileştirirken uygulamalara birden fazla model sağlayıcı için kararlı, OpenAI uyumlu bir API sağlar. RAX Compute Gateway v0.2.0, operatör konsolunu, tek komutlu, şirket içinde barındırılan hızlı başlangıcı ve aşağıda açıklanan genel, kötüye kullanıma dayanıklı barındırılan değerlendirmeyi ekler. Sürüm yapıları arasında imzalı bir çoklu mimari görüntüsü, Helm grafiği, OpenAPI sözleşmesi, sağlama toplamları, SBOM ve kaynak bulunur. Bu depodaki belgeler, kabul edilen bir Mimari Karar Kaydı (ADR) bunların yerini almadığı sürece normatif kalır. Orijinal MVP'nin hedefleri arasında araç çağırma ve yapılandırılmış çıktılar, barındırılan faturalandırma sistemi, pazar yeri, GPU planlama, çok modlu üretim ve özerk kaliteye dayalı model seçimi yer alır. Operatör konsolu ve barındırılan değerlendirme, kabul edilen ADR'ler tarafından yönetilen MVP sonrası eklemelerin kapsamı dardır. api.rax-digital.com/demo dosyasını açın, GitHub ile doğrulayın ve oluşturulan curl'u kopyalayın. Genel yolun tamamı üretim ağ geçidine göre doğrulandı: bir anahtar talep edin, komutu çalıştırın ve normalleştirilmiş bir model yanıtı alın. Hizmet, süresi beş dakika sonra dolacak benzersiz bir API anahtarı verir; bu depoda paylaşılan ortak anahtar yoktur. Deneme kasıtlı olarak tek bir düşük maliyetli model, akışsız çağrılar, küçük giriş/çıkış bütçeleri, tek bir eşzamanlı istek, hesap başına bekleme süresi ve genel günlük bütçe ile sınırlıdır.

Barındırılan demo tasarımına ve işleyişine bakın. Barındırılan hizmet yalnızca değerlendirme amaçlıdır. Uygulamalar, deneme kullanılabilirliğine bağlı olmak yerine kendi kendine barındırılmalı veya normal bir müşteri anahtarı almalıdır. Önkoşullar: İlk istek için Docker Compose, curl ve OpenAI API anahtarına sahip Docker 26+. Yalnızca koda katkıda bulunurken çatala ihtiyaç vardır; ağ geçidini denemek için yukarı akış deposunu kopyalayın ve bir komut çalıştırın: Betik özel bir .env oluşturur, yerel ağ geçidi sırları oluşturur, sağlayıcı anahtarını yankılamadan ister, PostgreSQL, Redis, telemetri ve ağ geçidini başlatır, yerel bir istemci anahtarı hazırlar ve ilk model yanıtını yazdırır. OpenAI anahtarını hiçbir zaman yapılandırılan OpenAI bitiş noktası dışında herhangi bir yere göndermez. Docker compose down ile yığını durdurun. Başarılı bir çalıştırma, normalleştirilmiş bir JSON sohbet yanıtıyla ve yerel rcg_dev_... kimlik bilgilerinin bir kez gösterilmesiyle sona erer.