L’IA qui transforme le business ?
Stratégies, mouvements et levées IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Gimlet Labs, une startup fondée par Zain Asgar, professeur adjoint à Stanford et entrepreneur reconnu, a récemment levé 80 millions de dollars lors d'un tour de financement de série A. Ce tour de table, dirigé par Menlo Ventures, vise à résoudre le problème persistant du goulot d'étranglement de l'inférence IA grâce à une approche innovante et élégante.
La société a mis au point un "cloud d'inférence multi-silicon", qu'elle présente comme le premier et unique en son genre. Ce logiciel permet d'exécuter des charges de travail IA de manière simultanée sur différents types de matériel, y compris les CPU traditionnels, les GPU optimisés pour l'IA, ainsi que sur des systèmes à haute mémoire. "Nous fonctionnons essentiellement sur tout le matériel disponible", a déclaré Asgar à TechCrunch, soulignant la flexibilité et l'efficacité de leur solution.
Tim Tully, investisseur principal chez Menlo, a expliqué dans un article de blog que chaque étape de l'inférence IA nécessite un matériel spécifique : l'inférence est liée au calcul, le décodage à la mémoire, et les appels d'outils au réseau. Aucun processeur ne peut encore tout faire, mais avec l'émergence de nouveaux matériels et la réaffectation des GPU vieillissants, la flotte multi-silicon est prête à être exploitée. Gimlet Labs fournit la couche logicielle nécessaire pour orchestrer ces processus de manière fluide.
Selon McKinsey, si la tendance actuelle se poursuit, les dépenses des centres de données pourraient atteindre près de 7 trillions de dollars d'ici 2030. Asgar a souligné que les applications actuelles n'utilisent que 15 à 30 % du matériel déjà déployé, ce qui représente un gaspillage potentiel de centaines de milliards de dollars. "Notre objectif était essentiellement de déterminer comment rendre les charges de travail IA 10 fois plus efficaces qu'aujourd'hui", a-t-il affirmé.
Les cofondateurs de Gimlet Labs, Michelle Nguyen, Omid Azizi, et Natalie Serrino, ont développé un logiciel d'orchestration qui découpe les charges de travail IA pour les répartir efficacement sur divers matériels. Gimlet Labs affirme que sa technologie peut accélérer de manière fiable l'inférence IA de 3 à 10 fois pour le même coût et la même puissance, optimisant ainsi l'utilisation des ressources matérielles.
La startup a déjà établi des partenariats stratégiques avec des fabricants de puces tels que NVIDIA, AMD, Intel, ARM, Cerebras et d-Matrix. Le produit de Gimlet est disponible sous forme de logiciel ou via une API vers son propre Gimlet Cloud, ciblant principalement les grands laboratoires de modèles IA et les centres de données.
Depuis son lancement public en octobre, Gimlet Labs a généré des revenus à huit chiffres, soit au moins 10 millions de dollars, et a vu sa base de clients plus que doubler en quatre mois. Bien que les noms des principaux clients restent confidentiels, la startup compte parmi eux un important fabricant de modèles et une très grande entreprise de cloud computing.
Les fondateurs de Gimlet Labs avaient précédemment travaillé ensemble chez Pixie, une startup qui a créé un outil d'observabilité open source pour Kubernetes et qui a été acquise par New Relic en 2020. Avec un financement total de 92 millions de dollars, Gimlet Labs bénéficie également du soutien d'investisseurs d'anges tels que Bill Coughran de Sequoia, le professeur de Stanford Nick McKeown, l'ancien PDG de VMware Raghu Raghuram, et le PDG d'Intel Lip-Bu Tan. Actuellement, la société emploie 30 personnes.
D'autres investisseurs incluent Factory, qui a dirigé le financement de départ, ainsi que Eclipse Ventures, Prosperity7 et Triatomic. Après une rencontre fortuite entre Asgar et Tully il y a environ un an, les investissements d'anges ont afflué, et le tour de financement a rapidement été sursouscrit.
