Brief IA : ZML défie Nvidia avec un logiciel IA multi-puces gratuit

ZML défie Nvidia avec un logiciel IA multi-puces gratuit

Brief IA
Tom Levy·4 min·11 vues

La startup française ZML, soutenue par Yann LeCun, a lancé un logiciel gratuit d'inférence, ZML/LLMD, permettant d'optimiser l'utilisation de diverses puces d'IA telles que Nvidia, AMD, Google TPU, Apple Metal et Intel Arc. Ce produit vise à réduire les coûts et à augmenter l'efficacité des systèmes IA, tout en brisant le verrouillage fournisseur qui caractérise le marché dominé par Nvidia.

En bref
1La startup française ZML, soutenue par Yann LeCun, lance un logiciel pour optimiser l'inférence sur diverses puces d'IA.
2ZML/LLMD vise à éliminer le verrouillage fournisseur en permettant l'utilisation de puces Nvidia, AMD, Google TPU, Apple Metal et Intel Arc.
3Le produit gratuit pourrait transformer le marché en réduisant les coûts et en augmentant l'efficacité des systèmes IA.
💡Pourquoi c'est importantZML pourrait bouleverser la domination de Nvidia en offrant une alternative flexible et économique pour l'inférence IA.
Le brief IA que lisent les pros

L’IA qui transforme le business ?

Stratégies, mouvements et levées IA décryptés, chaque soir en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisis ton rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

📄
L'analyse en français

ZML : une startup française qui bouscule le marché des puces d'IA

Dans un marché largement dominé par Nvidia, de nouveaux acteurs émergent pour offrir des alternatives innovantes. Parmi eux, ZML, une startup française prometteuse soutenue par le célèbre chercheur en intelligence artificielle Yann LeCun, se distingue par son approche audacieuse. Elle a récemment lancé un logiciel d'inférence performant qui permet à divers modèles de langage de grande taille open-source de fonctionner sur une multitude de puces, y compris celles de Nvidia, AMD, Google TPU, Apple Metal et Intel Arc.

Un serveur d'inférence pour briser les barrières

Le produit phare de ZML, ZML/LLMD, est un serveur d'inférence conçu pour maximiser la performance des puces utilisées dans l'intelligence artificielle. Selon Steeve Morin, fondateur de ZML, l'objectif est de surmonter les limitations actuelles et de permettre aux utilisateurs d'exploiter pleinement le potentiel de différentes puces, parfois même au-delà de leurs capacités nominales. Cette innovation vise à éliminer les barrières logicielles et architecturales qui conduisent souvent à un verrouillage fournisseur, un problème récurrent dans le secteur de l'IA.

Une solution face aux coûts croissants de l'IA

Alors que l'intelligence artificielle s'intègre de plus en plus dans notre quotidien, l'optimisation de l'inférence devient cruciale. ZML espère offrir aux entreprises et aux fournisseurs de cloud la possibilité d'utiliser un mélange de puces, certaines étant potentiellement moins coûteuses ou plus économes en énergie. "L'idée est de redonner aux gens le pouvoir de créer leur propre système et d'atteindre de réelles gains d'efficacité qui permettent à l'IA d'être diffusée," a déclaré Morin.

Un soutien aux fabricants de puces européens

Le logiciel de ZML pourrait également bénéficier aux nouveaux fabricants de puces d'IA, dont beaucoup sont basés en Europe. Morin a mentionné des entreprises comme Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud, et VSORA. Pour lui, l'important est que ZML puisse collaborer avec ces acteurs sur des projets inédits dans le domaine.

Une relation positive avec Nvidia

Malgré cette volonté de diversification, Morin ne se montre pas pessimiste à l'égard de Nvidia. Il souligne que ZML entretient de bonnes relations avec le géant des puces d'IA, qui se prépare également à l'essor de l'inférence. Ce secteur connaît un tel engouement qu'il est souvent comparé à une "ruée vers l'or".

Une concurrence féroce dans le domaine de l'inférence

ZML n'est pas seule sur ce marché en pleine expansion. Elle fait face à des concurrents tels que Baseten, récemment évalué à 13 milliards de dollars, Inferact, créateurs du projet open source vLLM, et RadixArk, l'entreprise derrière SGLang. Bien que vLLM et SGLang soient en partie en concurrence avec LLMD, les ambitions de ZML sont plus larges. "Nous avons atteint un point où nous co-concevons du silicium," a déclaré Morin.

Une équipe réduite mais efficace

La progression rapide de ZML est en grande partie due à son équipe restreinte mais talentueuse de 20 personnes. Basée à Paris, la startup bénéficie d'un financement solide, avec 20 millions de dollars levés auprès de sociétés de capital-risque telles que Harry Stebbings’ 20VC, >commit, AALVC, Drysdale Ventures, Kima Ventures de Xavier Niel, Kindred Capital, LocalGlobe, et Puzzle Ventures. Steeve Morin, fort de son expérience en tant que VP de l'ingénierie chez Zenly, acquis par Snapchat pour une somme à neuf chiffres en 2017, a su attirer ces investissements.

Un produit gratuit pour apprendre et s'adapter

Contrairement à son premier projet public, un cadre ML axé sur l'inférence lancé en 2024 et mis à jour en mars, ZML/LLMD n'est pas open source. Cependant, il est proposé gratuitement pour permettre à l'entreprise d'apprendre de son utilisation. "Je préfère mesurer et [ensuite générer des revenus] là où cela est le plus efficace sans entraver ma croissance de manière stupide parce que j'ai été trop avide dès le départ," a expliqué Morin.

L'avenir de ZML/LLMD encore incertain

Il est encore trop tôt pour prédire quand ZML/LLMD deviendra un produit payant ou comment il sera adopté. Cependant, le soutien de figures influentes comme Solomon Hykes, fondateur de Dagger et Docker, Clément Delangue et Julien Chaumond de Hugging Face, ainsi que Yann LeCun, maintenant avec AMI Labs, montre que l'initiative de ZML attire l'attention. "Je ne pourrais pas faire ZML ailleurs qu'à Paris," a conclu Morin, soulignant l'importance de l'écosystème local pour le développement de la startup.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires