Brief IA : Qualcomm ouvre son Dragonfly AI200 aux essais dans le cloud

Qualcomm ouvre son Dragonfly AI200 aux essais dans le cloud

Brief IA
Tom Levy·2 min

Qualcomm réserve les essais cloud du Dragonfly AI200 à des clients sélectionnés, via Cirrascale. Chaque carte possède 768 Go de LPDDR ; un rack rassemble 56 cartes. Qualcomm annonce une possibilité de passage à la production après évaluation.

En bref
1Qualcomm réserve les essais cloud du Dragonfly AI200 à des clients sélectionnés, via Cirrascale.
2Chaque carte possède 768 Go de LPDDR ; un rack rassemble 56 cartes.
3Qualcomm annonce une possibilité de passage à la production après évaluation.
Pourquoi c'est important : cet accès permet aux clients concernés d'évaluer les économies revendiquées par Qualcomm pour l'inférence.

Qualcomm rend son système d'inférence Dragonfly AI200 accessible à des clients sélectionnés par l'intermédiaire de Cirrascale Cloud Services. Le fabricant présente son système comme une alternative moins exigeante en puissance et en coûts d'exploitation que les systèmes Nvidia, des économies que ces essais doivent permettre d'évaluer.

Les dirigeants évoquent les coûts de l'inférence

Pour Dave Driggers, PDG de Cirrascale, les clients doivent pouvoir exploiter des modèles toujours plus sophistiqués sur une infrastructure efficace, capable de changer d'échelle, sans buter sur les dépenses énergétiques ou d'exploitation. Il présente la collaboration avec Qualcomm comme l'occasion d'évaluer une architecture pensée pour la prochaine génération d'inférence.

Tony Pialis, vice-président exécutif et directeur général chargé des centres de données chez Qualcomm, estime pour sa part que l'inférence devient une activité informatique majeure dans ces installations et exige davantage d'efficacité. Selon lui, l'AI200 transpose au rack le savoir-faire du groupe en calcul performant à faible consommation. Il décrit une architecture dont la conception répond aux besoins de l'inférence en matière de performances, de mémoire et de coûts.

La lettre du soirGratuit · 19 h

Vous suivez la course aux modèles IA ?

Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisissez votre rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

Qualcomm mise sur 768 Go par carte

Destiné notamment aux grands modèles de langage et aux modèles multimodaux, l'AI200 embarque 768 Go de LPDDR par carte. Un rack à refroidissement liquide rassemble 56 cartes, pour une capacité d'environ 43 To. Qualcomm revendique la compatibilité avec des modèles comptant entre 7 milliards et 10 000 milliards de paramètres, ainsi qu'avec les contextes longs, la génération augmentée par récupération (RAG) et les traitements faisant intervenir des agents.

Cette capacité mémoire ne garantit toutefois pas de rejoindre Nvidia en performances. Les NVL72 du concurrent, fondés sur Blackwell, emploient des empilements HBM3e, rapides mais coûteux. La LPDDR retenue par Qualcomm est, elle, davantage utilisée dans les appareils mobiles.

Des essais à la production et aux outils de gestion

L'évaluation passe par le Cloud d'Innovation AI de Cirrascale : selon Qualcomm, les participants peuvent y mesurer les économies promises et disposent d'une possibilité de passage en production. Cirrascale a également montré le système à Chicago, pendant SC26, les 17 et 18 novembre.

L'AI200 appartient à la famille Dragonfly destinée aux centres de données, aux côtés des accélérateurs AI250 et AI300 et du processeur serveur C1000. Qualcomm avait détaillé ses ambitions plus larges en juin, lors de sa journée consacrée aux investisseurs. Le groupe propose aussi Dragonfly AI Infrastructure Management Suite, un ensemble logiciel assurant le provisionnement, la supervision, l'orchestration des traitements et la gestion des défaillances dans les installations en racks.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires