Nvidia ev ağınızın yerel yapay zeka için mini bir veri merkezi gibi çalışmasını istiyor

Özgün başlık: Nvidia wants your home network to work like a mini data center for local AI
Nvidia'ın PAIR (Kişisel AI Yönlendiricisi), yerel AI isteklerini ev ağındaki tüm mevcut cihazlara otomatik olarak yayarak paralel ajan görevleri için bekleme sürelerini kısaltır. Açık kaynaklı araç, Ollama veya LM Studio gibi mevcut araçlar ile ağınızdaki bilgisayarlar arasında sanal bir yönlendirici görevi görerek bulunur. Kullanıcıların aracılarını veya uygulamalarını değiştirmeleri gerekmez. PAIR, tek bir GPU'yu aşırı yüklemek yerine istekleri boş olan makinelere iletir ve sonuçları çağıran uygulama için bir araya getirir. Desteklenen donanımlar arasında 20 serisi ve üzeri GeForce RTX kartları, RTX Pro iş istasyonları, DGX Spark ve M4'ten itibaren Apple silikon yer alır. Bir demoda, üç cihazlı bir küme, beş alt aracıyla bir görevi tek bir dizüstü bilgisayarda 18 dakikada tamamlarken, 9 dakikanın biraz altında bir sürede tamamladı. PAIR, ağdaki uyumlu cihazları otomatik olarak algılar ve makineler arasındaki tüm trafiği MTLS şifrelemeyle güvence altına alır. Beta, Windows, macOS ve Linux için kullanılabilir. PAIR, NVIDIA'nin açık yapay zekayı kendi donanımına daha sıkı bağlamaya yönelik daha geniş çabasına uyuyor; bu strateji, 12,9 milyar dolarlık Hugging Face satın al��mına da yansıyor.