Google, yapay zeka uygulama geliştiricilerinde Nvidia'nın kalesine saldırmada Amazon'a katıldı
Özgün başlık: Google has joined Amazon in attacking Nvidia s stronghold with AI app developers
Ne oldu
Google, uzun süredir beklenen TorchTPU adlı PyTorch sürümünü açık kaynaklı bir proje olarak kullanıma sundu. Bu hamleyle şirket, yapay zekâ uygulamalarının çoğunluğunun varsayılan olarak çalıştığı Nvidia çipleri ve GPU'lar üzerindeki hakimiyetini kırmaya çalışan Amazon'a katıldı. Daha önce Amazon da kendi PyTorch sürümü olan TorchNeuron'u duyurmuştu. Meta tarafından 2016 yılında geliştirilen ve 2022'de Linux Foundation'a devredilen PyTorch, yapay zekâ uygulama geliştiricileri ve girişimleri tarafından modellerin inşası, eğitimi ve çalıştırılması için yaygın olarak kullanılıyor.
Neden önemli
Sektördeki büyük bulut sağlayıcıları, yapay zekâ pazarında çip ve altyapı alanındaki alternatiflerini öne çıkarmaya çalışıyor. Geliştiricilerin mevcut uygulamalarını kendi çiplerine ve bulut sistemlerine kod yeniden yazma gereksinimi olmadan taşıabilmesini sağlayan bu araçlar, Nvidia'nın uzun süredir sürdürdüğü donanım avantajını zayıflatmayı hedefliyor. Ancak raporlara göre, alternatif çip ve bulutlara geçiş kolaylaşmış olsa da geliştiricilerin toplu halde Nvidia donanımını terk edeceği anlamına gelmiyor.
Teknik detaylar
Google'ın TorchTPU sürümü, yapay zekâ uygulamalarının Tensor Processing Units (TPU) adı verilen Google çiplerinde çalışmasına imkan tanıyor. Geliştiriciler, uygulamalarını baştan yazmadan, basit bir yapılandırma değişikliğiyle mevcut PyTorch uygulamalarını TPU'lara ve Google Cloud'a taşıyabiliyor. Google ayrıca Meta, Hugging Face, vLLM üreticisi Inferact ve SGLang üreticisi RadixArk ile doğrudan çalışarak TorchTPU özelliklerinin bu araçlarla uyumlu olmasını sağladı. Şirket, geliştiricilerin geçiş süreçlerine yardımcı olmak için TPU agent suite adlı özel bir araç çıkardı ve telefonlar ile dizüstü bilgisayarlarda yapay zekâ çalıştıran LiteRT aracını güncelledi. Amazon ise TorchNeuron ile benzer bir geçişi Trainium çiplerine ve AWS'ye sunarken, ana PyTorch projesine kod göndererek bazı özellikleri Nvidia çiplerinden ayırmayı planlıyor.
Kimi etkiler, ne yapmalı
Bu gelişmeler, yapay zekâ uygulamaları geliştiren ve eğiten yazılımcıları, girişimleri ve bulut altyapısı kullanan kurumları yakından ilgilendiriyor. Geliştiriciler, sunulan yeni araçlar ve yapılandırma değişiklikleri sayesinde uygulamalarını Google veya Amazon'un alternatif donanımlarına taşıma imkanına sahip oluyor.
What happened
Google announced the release of TorchTPU, its long-awaited version of PyTorch, as an open-source project. With this move, Google joins Amazon in attempts to break Nvidia's stronghold in the artificial intelligence industry, where the majority of AI applications run by default on Nvidia chips or GPUs. Previously, Amazon released its own version of PyTorch, called TorchNeuron. PyTorch, originally developed by Meta in 2016 and later turned over to the Linux Foundation in 2022, is widely utilized by AI app developers and startups to build, train, and run models.
Why it matters
Major cloud providers are working to challenge Nvidia's dominance in the AI hardware market. By enabling developers to port existing applications to alternative chips and cloud platforms without rewriting code, companies aim to erode Nvidia's long-standing advantage. Reports indicate, however, that the arrival of these alternative tools does not automatically mean developers will abandon Nvidia's hardware en masse.
Technical details
Google's TorchTPU allows AI applications to run on the company's Tensor Processing Units (TPUs). Developers can transition existing PyTorch apps to TPUs and Google Cloud through a simple configuration change without rewriting their applications. Google stated it collaborated directly with Meta, Hugging Face, vLLM maker Inferact, and SGLang maker RadixArk to ensure TorchTPU libraries function smoothly with popular development tools. Additionally, Google launched a dedicated TPU agent suite to assist with migrations and error fixing, while also updating its LiteRT tool for running AI on edge devices. Amazon's TorchNeuron similarly allows apps to be ported to its Trainium chips and AWS without rewriting, and Amazon is also submitting code to the main PyTorch project to decouple features from Nvidia's hardware.
Who is affected, what to do
AI app developers, startups, and organizations utilizing cloud infrastructure are affected by these new platform options. Developers now have the technical capability to evaluate alternative hardware and cloud environments using the newly released migration tools and configuration updates provided by Google and Amazon.
Qué pasó
Google anunció el lanzamiento de TorchTPU, su tan esperada versión de PyTorch, como un proyecto de código abierto. Con este movimiento, Google se une a Amazon en un intento de romper la fortaleza de Nvidia en la industria de la inteligencia artificial, donde la mayoría de las aplicaciones de IA se ejecutan de forma predeterminada en chips o GPU de Nvidia. Anteriormente, Amazon lanzó su propia versión de PyTorch, llamada TorchNeuron. PyTorch, desarrollado originalmente por Meta en 2016 y luego entregado a la Fundación Linux en 2022, es ampliamente utilizado por desarrolladores de aplicaciones de inteligencia artificial y nuevas empresas para crear, entrenar y ejecutar modelos.
Por qué es importante
Los principales proveedores de nube están trabajando para desafiar el dominio de Nvidia en el mercado de hardware de IA. Al permitir a los desarrolladores migrar aplicaciones existentes a chips y plataformas en la nube alternativos sin tener que reescribir el código, las empresas pretenden erosionar la ventaja de larga data de Nvidia. Los informes indican, sin embargo, que la llegada de estas herramientas alternativas no significa automáticamente que los desarrolladores abandonarán en masa el hardware de Nvidia.
Detalles técnicos
TorchTPU de Google permite que aplicaciones de IA se ejecuten en las Unidades de Procesamiento Tensoriales (TPU) de la empresa. Los desarrolladores pueden realizar la transición de las aplicaciones PyTorch existentes a TPU y Google Cloud mediante un simple cambio de configuración sin tener que reescribir sus aplicaciones. Google declaró que colaboró directamente con Meta, Hugging Face, el fabricante de vLLM, Inferact, y el fabricante de SGLang, RadixArk, para garantizar que las bibliotecas TorchTPU funcionen sin problemas con herramientas de desarrollo populares. Además, Google lanzó un conjunto de agentes TPU dedicado para ayudar con las migraciones y la corrección de errores, al mismo tiempo que actualizó su herramienta LiteRT para ejecutar IA en dispositivos perimetrales. TorchNeuron de Amazon también permite portar aplicaciones a sus chips Trainium y AWS sin reescribirlas, y Amazon también está enviando código al proyecto principal PyTorch para desacoplar funciones del hardware de Nvidia.
Quién se ve afectado, qué hacer
Los desarrolladores de aplicaciones de IA, las empresas emergentes y las organizaciones que utilizan infraestructura en la nube se ven afectados por estas nuevas opciones de plataforma. Los desarrolladores ahora tienen la capacidad técnica para evaluar hardware alternativo y entornos de nube utilizando las herramientas de migración recientemente lanzadas y las actualizaciones de configuración proporcionadas por Google y Amazon.
Что случилось
Google объявила о выпуске TorchTPU, своей долгожданной версии PyTorch, как проекта с открытым исходным кодом. Этим шагом Google присоединяется к Amazon в попытках сломить оплот Nvidia в индустрии искусственного интеллекта, где большинство приложений искусственного интеллекта по умолчанию работают на чипах Nvidia или графических процессорах. Ранее Amazon выпустила собственную версию PyTorch под названием TorchNeuron. PyTorch, первоначально разработанный Meta в 2016 году, а затем переданный Linux Foundation в 2022 году, широко используется разработчиками приложений для искусственного интеллекта и стартапами для создания, обучения и запуска моделей.
Почему это важно
Крупнейшие поставщики облачных услуг работают над тем, чтобы бросить вызов доминированию Nvidia на рынке оборудования для искусственного интеллекта. Предоставляя разработчикам возможность переносить существующие приложения на альтернативные чипы и облачные платформы без переписывания кода, компании стремятся подорвать давнее преимущество Nvidia. Однако в отчетах указывается, что появление этих альтернативных инструментов не означает автоматически, что разработчики массово откажутся от оборудования Nvidia.
Технические детали
TorchTPU от Google позволяет приложениям искусственного интеллекта работать на тензорных процессорах (TPU) компании. Разработчики могут перенести существующие приложения PyTorch на TPU и Google Cloud, просто изменив конфигурацию, не переписывая свои приложения. Google заявила, что сотрудничала напрямую с Meta, Hugging Face, производителем vLLM Inferact и производителем SGLang RadixArk, чтобы обеспечить бесперебойную работу библиотек TorchTPU с популярными инструментами разработки. Кроме того, Google запустил специальный пакет агентов TPU для помощи в миграции и исправлении ошибок, а также обновил свой инструмент LiteRT для запуска ИИ на периферийных устройствах. Amazon TorchNeuron аналогичным образом позволяет переносить приложения на свои чипы Trainium и AWS без переписывания, а Amazon также отправляет код в основной проект PyTorch для отделения функций от оборудования Nvidia.
Кто пострадал, что делать
Эти новые возможности платформы затрагивают разработчиков приложений искусственного интеллекта, стартапы и организации, использующие облачную инфраструктуру. Теперь у разработчиков есть техническая возможность оценить альтернативное оборудование и облачные среды с помощью недавно выпущенных инструментов миграции и обновлений конфигурации, предоставленных Google и Amazon.