L’IA qui transforme le business ?
Stratégies, mouvements et levées IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Niv-AI : une réponse innovante aux défis énergétiques des GPU
Dans un contexte où l'électricité est cruciale pour l'intelligence artificielle, les centres de données peinent à gérer efficacement leur consommation énergétique. Ces installations sont parfois contraintes de réduire leur consommation jusqu'à 30 % pour s'adapter aux limites du réseau électrique.
Lors de la conférence annuelle GTC de Nvidia, Jensen Huang, PDG de l'entreprise, a souligné l'importance de minimiser le gaspillage énergétique dans les centres de données, affirmant que chaque watt inutilisé représente une perte de revenus.
Une levée de fonds prometteuse pour Niv-AI
La start-up Niv-AI, basée à Tel Aviv et fondée l'année dernière, a récemment émergé avec un financement initial de 12 millions de dollars. Fondée par Tomer Timor et Edward Kizis, l'entreprise bénéficie du soutien de plusieurs investisseurs, dont Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward et Aurora Capital Partners. Bien que la valorisation de la start-up reste confidentielle, son objectif est clair : optimiser l'utilisation énergétique des GPU grâce à de nouveaux capteurs et outils de gestion.
Des solutions techniques pour une gestion énergétique optimisée
Les centres de données modernes exploitent des milliers de GPU pour entraîner et exécuter des modèles avancés, générant des pics de demande énergétique à l'échelle de la milliseconde lorsque les processeurs passent d'une tâche de calcul à la communication avec d'autres GPU. Ces fluctuations compliquent la gestion de l'énergie, obligeant parfois les centres à investir dans un stockage temporaire d'énergie ou à réduire l'utilisation des GPU, ce qui impacte le retour sur investissement.
Lior Handlesman, partenaire chez Grove Ventures, a déclaré que la construction actuelle des centres de données n'est pas viable à long terme. Niv-AI s'attèle à résoudre ce problème en déployant des capteurs au niveau des racks capables de mesurer l'utilisation énergétique des GPU avec une précision milliseconde. L'objectif est de libérer une plus grande partie de la capacité existante des centres de données.
Vers un système prédictif et intelligent
La feuille de route de Niv-AI commence par une compréhension approfondie des profils de consommation énergétique des tâches d'apprentissage profond. En collectant ces données, l'entreprise prévoit de développer un modèle d'IA capable de prédire et de synchroniser les charges électriques, agissant comme un "copilote" pour les ingénieurs des centres de données.
Niv-AI espère avoir un système opérationnel dans plusieurs centres de données américains d'ici six à huit mois. Cette initiative est particulièrement pertinente alors que les hyperscalers rencontrent des difficultés liées à l'utilisation des terres et aux chaînes d'approvisionnement.
Tomer Timor, PDG de Niv-AI, a expliqué que leur solution vise à aider les centres de données à maximiser l'utilisation des GPU tout en établissant des profils de consommation énergétique plus responsables vis-à-vis du réseau électrique. Les fondateurs voient leur produit ultime comme une couche d'« intelligence » manquante entre les centres de données et le réseau électrique. Le réseau craint en effet que les centres de données ne consomment trop d'énergie à un moment donné, ce qui pourrait entraîner des perturbations.
