Google met en open source TorchTPU et déploie des outils pour attirer les projets PyTorch vers ses TPUs et Google Cloud. Amazon a, la veille, publié TorchNeuron pour sa puce Trainium et contribue à décorréler PyTorch du matériel Nvidia. L’objectif commun est de faciliter les portages, sans garantir un abandon massif des GPU de Nvidia.
Google mise sur la compatibilité et des assistants de migration
Google affirme avoir collaboré directement avec Meta, Hugging Face, Inferact et RadixArk, ainsi qu’avec d’autres acteurs, pour préparer TorchTPU. Selon Google, les fonctionnalités et bibliothèques de TorchTPU ont été conçues pour fonctionner avec ces outils de développement d’IA, à l’image de PyTorch d’origine. vLLM est développé par Inferact tandis que SGLang a été conçu par RadixArk. Google propose aussi la suite d’agents TPU, destinée à faciliter la migration des applications des développeurs vers ses propres puces et son cloud, tout en prenant en charge la correction des erreurs. De plus, LiteRT, qui offre la possibilité de faire tourner des IA sur des téléphones, des ordinateurs portables ou des systèmes embarqués, a bénéficié d’une mise à jour afin d’améliorer la compatibilité avec les applications PyTorch.
Porter PyTorch vers TPUs et Trainium sans réécriture lourde
TorchTPU permet aux applications d’IA de fonctionner sur les Tensor Processing Units, les puces d’IA de Google. Il facilite le transfert des applications PyTorch existantes vers les TPUs et vers Google Cloud, grâce à un simple changement de configuration, sans réécriture nécessaire. Amazon, de son côté, a annoncé lundi TorchNeuron, qui vise le même objectif pour sa puce Trainium et pour AWS, également sans réécriture des applications. Amazon précise soumettre du code au projet principal PyTorch pour découpler certaines fonctionnalités des puces Nvidia, afin de rendre l’outil plus ouvert à d’autres matériels par défaut.
Vous codez avec l’IA ?
Outils, agents et nouveautés dev IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Pourquoi PyTorch reste orienté GPU Nvidia
PyTorch constitue une solution open source très répandue auprès des développeurs et des jeunes entreprises pour la création, l’entraînement et l’exécution de modèles d’IA. D’après certaines sources, il serait utilisé dans 85 % des applications d’IA. Meta a lancé PyTorch en 2016, à un moment où les GPU Nvidia représentaient déjà la référence pour la recherche en intelligence artificielle, ce qui a amené à développer de nombreuses fonctions spécifiquement pour ces processeurs. En 2022, Meta a confié PyTorch à la Linux Foundation, une entité à but non lucratif qui supervise de nombreux projets open source majeurs.
Un rapport de force qui ne bascule pas d’un coup
La majorité des applications d’IA sont encore conçues pour fonctionner par défaut sur les GPU de Nvidia. Amazon et Google cherchent à réduire cet avantage, mais la possibilité de migrer facilement ne signifie pas que les développeurs vont abandonner massivement le matériel de Nvidia. Google s’inscrit dans cette dynamique en rejoignant les efforts d’Amazon pour contester la position dominante de Nvidia, avec l’annonce de TorchTPU en open source. TorchTPU est la version de PyTorch adaptée par Google.
