Hugging Face ❤️ TorchTPU: Yerel Olarak TPU'lar

Özgün başlık: Hugging Face ❤️ TorchTPU: TPUs, Natively
Açık kaynak ve açık bilim yoluyla yapay zekayı ilerletme ve demokratikleştirme yolculuğundayız.
PyTorch'u bir TPU üzerinde çalıştırmayı denediyseniz, muhtemelen kodunuzu torch_xla'ya taşıdınız veya JAX öğrenmek zorunda kaldınız. Yerel bir PyTorch arka ucu olan TorchTPU ile TPU artık yalnızca başka bir cihazdır. Hugging Face ekosisteminde TPU'nun yerel desteğini açar. Transformatörler, Difüzörler ve Çekirdekler, TPU'da yerel olarak çalışır. Hub'dan bir model seçin, "tpu"ya gönderin ve işiniz bitti.
TPU, Tensör İşleme Birimi anlamına gelir. TPU'lar Google'ın kendi yapay zeka hızlandırıcılarıdır. Bunlar tek bir iş için tasarlanmış çiplerdir: sinir ağlarının zamanlarının çoğunu harcadığı matris matematiği. Google bunları yaklaşık on yıldır tasarlıyor ve bunları Gemini dahil olmak üzere kendi modellerini eğitmek ve sunmak için kullanıyor.
We’re on a journey to advance and democratize artificial intelligence through open source and open science.
If you ever tried to run PyTorch on a TPU, you probably ported your code to torch_xla , or you ended up having to learn JAX. With TorchTPU , a native PyTorch backend, TPU is now just another device. It opens up native support of TPU in the Hugging Face ecosystem. Transformers, Diffusers and Kernels run natively on TPU. Pick a model from the Hub, send it to "tpu" , and you're done.
TPU stands for Tensor Processing Unit . TPUs are Google's own AI accelerators. They are chips built for one job: the matrix math that neural networks spend most of their time on. Google has been designing them for about ten years, and uses them to train and serve its own models, including Gemini.
Estamos en un viaje para avanzar y democratizar la inteligencia artificial a través del código abierto y la ciencia abierta.
Si alguna vez intentó ejecutar PyTorch en una TPU, probablemente transfirió su código a torch_xla o terminó teniendo que aprender JAX. Con TorchTPU, un backend nativo de PyTorch, TPU ahora es solo otro dispositivo. Abre soporte nativo de TPU en el ecosistema Hugging Face. Los transformadores, difusores y kernels se ejecutan de forma nativa en TPU. Elige un modelo del Hub, envíalo a "tpu" y listo.
TPU significa Unidad de procesamiento tensorial. Los TPU son los aceleradores de inteligencia artificial propios de Google. Son chips construidos para un trabajo: las matrices matemáticas en las que las redes neuronales pasan la mayor parte de su tiempo. Google los ha estado diseñando durante unos diez años y los utiliza para entrenar y servir sus propios modelos, incluido Gemini.
Мы находимся на пути к развитию и демократизации искусственного интеллекта с помощью открытого исходного кода и открытой науки.
Если вы когда-либо пытались запустить PyTorch на TPU, вы, вероятно, портировали свой код на torch_xla или вам пришлось изучать JAX. Благодаря TorchTPU, встроенному бэкэнду PyTorch, TPU стал просто еще одним устройством. Это открывает встроенную поддержку TPU в экосистеме Hugging Face. Трансформаторы, диффузоры и ядра работают на ТПУ. Выберите модель из хаба, отправьте ее в «tpu» и все готово.
TPU означает тензорный процессор. TPU — это собственные ускорители искусственного интеллекта Google. Это чипы, созданные для одной задачи: матричной математики, которой нейронные сети тратят большую часть своего времени. Google разрабатывает их около десяти лет и использует для обучения и обслуживания своих собственных моделей, включая Gemini.