Lambda, NVIDIA Fotoniklerle Yapay Zeka Fabrikasının Dayanıklılığını ve Verimliliğini Artırıyor

Özgün başlık: Lambda Boosts AI Factory Resiliency and Efficiency With NVIDIA Photonics
Bir yapay zeka modelini eğitmek için binlerce GPU'nun birlikte çalışması gerekir; bu da hızlı, verimli ve dayanıklı bir ağ gerektirir.
Lambda, yapbozun ağ parçasını NVIDIA Photonics ortak paketli optik (CPO) anahtarlarıyla çözüyor. Bulut sağlayıcısı, 10.000'den fazla GPU'ya sahip NVIDIA GB300 NVL72 raflarını bağlamak için anahtarları kullanıyor; bu, daha düşük güç, daha yüksek esneklik ve kesintiler arasında daha uzun ortalama süre (MTBI) sunarak uygun ölçekte bir yapay zeka fabrikasına sunuyor.
Lambda bulut hizmetleri başkanı Dave Ward, "Ağ oluşturmanın giderek büyüyen yapay zeka kümelerinin taleplerine ayak uydurması gerekiyor" dedi. "Birlikte paketlenmiş optiklerin bu ölçekteki bir dağıtıma dahil edilmesi, yeni nesil yapay zekayı desteklemek için gereken altyapının oluşturulmasına yönelik önemli bir adımdır."
To train an AI model, thousands of GPUs have to work together, requiring a network that’s fast, efficient and resilient.
Lambda is tackling the network piece of the puzzle with NVIDIA Photonics co-packaged optics (CPO) switches. The cloud provider is using the switches to connect NVIDIA GB300 NVL72 racks with more than 10,000 GPUs, delivering lower power, higher resiliency and longer mean time between interruptions (MTBI) to an AI factory at scale.
“Networking has to keep pace with the demands of increasingly large AI clusters,” said Dave Ward, president of cloud services at Lambda. “Bringing co-packaged optics into a deployment of this scale is an important step toward building the infrastructure needed to support the next generation of AI.”
Para entrenar un modelo de IA, miles de GPU tienen que trabajar juntas, lo que requiere una red que sea rápida, eficiente y resistente.
Lambda está abordando la pieza de red del rompecabezas con interruptores de óptica empaquetada (CPO) NVIDIA Photonics. El proveedor de la nube está utilizando los conmutadores para conectar bastidores NVIDIA GB300 NVL72 con más de 10 000 GPU, lo que ofrece menor potencia, mayor resiliencia y un tiempo medio entre interrupciones (MTBI) más prolongado a una fábrica de IA a escala.
"La creación de redes debe seguir el ritmo de las demandas de grupos de IA cada vez más grandes", afirmó Dave Ward, presidente de servicios en la nube de Lambda. "Llevar la óptica empaquetada a una implementación de esta escala es un paso importante hacia la construcción de la infraestructura necesaria para respaldar la próxima generación de IA".
Для обучения модели искусственного интеллекта тысячи графических процессоров должны работать вместе, а для этого требуется быстрая, эффективная и отказоустойчивая сеть.
Lambda решает сетевую часть головоломки с помощью коммутаторов NVIDIA Photonics с объединенной оптикой (CPO). Поставщик облачных услуг использует коммутаторы для подключения NVIDIA стоек GB300 NVL72 с более чем 10 000 графических процессоров, обеспечивая более низкое энергопотребление, более высокую отказоустойчивость и более длительное среднее время между перерывами (MTBI) для фабрики искусственного интеллекта в любом масштабе.
«Сети должны идти в ногу с потребностями все более крупных кластеров искусственного интеллекта», — сказал Дэйв Уорд, президент облачных сервисов Lambda. «Внедрение комплексной оптики в развертывание такого масштаба является важным шагом на пути к созданию инфраструктуры, необходимой для поддержки ИИ следующего поколения».