Brief IA : Lumai promet une inférence IA moins énergivore grâce à l'optique

Lumai promet une inférence IA moins énergivore grâce à l'optique

Brief IA
Tom Levy·7 min

Lumai annonce pour Iris Aura un pré-remplissage utilisant environ un dixième de l'énergie d'un GPU. Les entreprises du calcul optique visent des gains d'efficacité énergétique de 10 à 80 fois. L'encodage des données et les opérations non linéaires limitent les économies possibles.

En bref
1Lumai annonce pour Iris Aura un pré-remplissage utilisant environ un dixième de l'énergie d'un GPU.
2Les entreprises du calcul optique visent des gains d'efficacité énergétique de 10 à 80 fois.
3L'encodage des données et les opérations non linéaires limitent les économies possibles.
Pourquoi c'est important : l'optique vise à réduire la consommation de l'inférence, qui représente la majorité de l'énergie utilisée par l'IA.

Lumai annonce que son prochain serveur Iris Aura effectuera le pré-remplissage avec environ un dixième de l'énergie d'un GPU. Son serveur Iris Nova est disponible pour évaluation depuis avril 2026. Cette promesse concerne une phase précise de l'inférence, alors que les coûts de conversion des données et les opérations confiées à l'électronique limitent les gains possibles.

Lumai cible le traitement initial des requêtes

Le pré-remplissage concentre davantage de calculs que le décodage : il prend en charge la demande reçue, puis la fait circuler dans le modèle. Il répète essentiellement des multiplications entre une matrice inchangée et des vecteurs. Le décodage, lui, construit progressivement la réponse, par mots ou par jetons. Il effectue également des multiplications, mais le temps nécessaire tient surtout à la récupération des matrices en mémoire et à leur transfert.

Cette distinction est indispensable pour comparer les dépenses énergétiques d'un GPU à celles d'un système optique. Installée à Oxford, en Angleterre, Lumai fait partie des entreprises concentrées sur le pré-remplissage. Elle qualifie Iris Nova de démonstrateur de faisabilité, et non de serveur ayant déjà tenu la promesse énergétique annoncée pour son successeur.

Phillip Burr, responsable produit chez Lumai, soutient que la propagation lumineuse dans l'air, plutôt que dans des guides intégrés sur puce, permettra de dépasser les GPU. Le dispositif emploie un modulateur spatial de lumière programmable : cette membrane composée de pixels, comparable à un écran à cristaux liquides perfectionné, agit sur l'intensité comme sur la phase lumineuse. Elle remplace l'atténuateur fixe du dispositif historique de Joseph W. Goodman.

Un vecteur est représenté par la lumière, puis reproduit N fois au moyen d'une lentille avant de traverser le modulateur. Une autre lentille recueille le résultat, qui est reconverti en données électroniques numériques ; les fonctions non linéaires restent exécutées par l'électronique. Selon Burr, l'ensemble de la multiplication entre vecteur et matrice tient dans un cycle optique.

Les gains dépendent aussi des conversions

Les entreprises du secteur visent une efficacité énergétique de 10 à 80 fois supérieure à celle des GPU actuels. Ces objectifs ne sont pas des résultats acquis à grande échelle, et leur réalisation avant de nouveaux progrès de l'électronique demeure incertaine. Peter McMahon, professeur associé de physique appliquée et d'ingénierie à Cornell, à Ithaca dans l'État de New York, travaille sur le calcul optique depuis plus d'une décennie. Il avertit notamment contre les comparaisons qui omettent la conversion des données en signaux lumineux.

En 2022, son équipe a démontré un réseau neuronal optique utilisant moins d'un photon par multiplication, un photon correspondant ici à environ 2,5 x 10⁻¹⁹ joules. Une multiplication sur un ordinateur classique peut demander entre 10⁻¹⁴ et 10⁻¹² joules. Le rapprochement suggère une économie potentielle d'un facteur 100 000, mais McMahon rappelle que l'encodage optique n'entrait pas dans le bilan de l'expérience.

Son exemple chiffre la multiplication électronique à 1 picojoule, contre 1 000 picojoules pour encoder un élément du vecteur sous forme lumineuse. Avec ces hypothèses, l'électronique garde l'avantage tant que le vecteur compte moins de 1 000 éléments. McMahon considère cet exemple comme assez proche des conditions réelles. D'après les calculs menés sur différents réseaux neuronaux, il situe très approximativement le seuil favorable à l'optique entre N égal à 1 000 et N égal à 10 000.

Une autre limite relève de la loi d'Amdahl : accélérer une portion du travail ne supprime pas le coût du reste. McMahon prend l'exemple de 90 % d'un programme pouvant être accélérés, tandis que les 10 % restants limitent le gain de vitesse à 10x. L'objectif énergétique de l'inférence diffère d'un objectif de vitesse, mais le principe reste applicable. Selon la technique choisie, la part adaptée à l'optique varie sans atteindre 100 %, notamment parce que des opérations non linéaires s'ajoutent aux multiplications matricielles.

La lettre du soirGratuit · 19 h

Vous suivez la course aux modèles IA ?

Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisissez votre rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

La lumière exécute les multiplications sans commutation

Les multiplications entre vecteurs et matrices, ou entre matrices, représentent la composante la plus exigeante en calcul de l'IA courante. L'inférence en exécute des milliers chaque seconde. Dès 1978, le pionnier Joseph W. Goodman et ses collègues proposaient de les réaliser avec des composants optiques, dont la qualité s'est depuis nettement améliorée.

Dans leur dispositif, une rangée de N diodes représente les éléments d'un vecteur de longueur N : une diode plus intense correspond à une valeur supérieure. Une lentille cylindrique étale verticalement les faisceaux pour reproduire N fois ce vecteur. La lumière traverse ensuite un atténuateur comportant N par N pixels, dont chacun réduit l'intensité suivant la valeur correspondante dans la matrice. Cette traversée réalise les multiplications ; une lentille cylindrique disposée perpendiculairement additionne ensuite les contributions de chaque rangée, avant leur mesure par des détecteurs.

Pour une matrice de N par N et un vecteur de longueur N, le calcul nécessite N² multiplications. L'exemple où N vaut 3 comprend ainsi 9 multiplications et trois accumulations, chacune regroupant des additions. En électronique, chaque multiplication requiert de l'énergie : la dépense suit donc N².

Avec l'atténuation optique, la multiplication est passive aussi longtemps que la matrice reste inchangée. Le passage de la lumière dans l'atténuateur ne demande alors presque aucune énergie. Dans ce raisonnement théorique, la dépense porte sur l'encodage du vecteur et sur la lecture du résultat, et suit N plutôt que N². Cet avantage de croissance ne dispense toutefois pas de prendre en compte le coût concret de ces opérations.

Les entreprises explorent aussi les réseaux

Optalysys, implantée en Angleterre, introduit des éléments de calcul optique dans les circuits de communication des centres de données, qui utilisent déjà des signaux lumineux. Son composant optique élémentaire sur puce réalise une transformée de Fourier. À Austin, au Texas, Neurophos développe une autre variante du dispositif de Goodman, en s'appuyant sur les métamatériaux pour augmenter la puissance d'un appareil compact. Ces structures complexes peuvent agir sur la lumière à une échelle inférieure à sa longueur d'onde, même si celles conçues par Neurophos sont plus grandes qu'une longueur d'onde.

Ces projets accompagnent la croissance d'un domaine longtemps essentiellement cantonné à la recherche, malgré une idée vieille de plus de 70 ans. Le marché des entreprises concernées est valorisé à 2,22 milliards de dollars américains, contre 0,4 milliard en 2022 ; une projection envisage encore une progression exponentielle dans les prochaines années. Des jeunes pousses apparaissent aux États-Unis, en Chine, en Allemagne ou en Israël, avec notamment l'ambition de concurrencer les fabricants de GPU comme Nvidia. Sur le plan théorique, l'optique pourrait effectuer leurs calculs avec une puissance bien moindre.

L'essor récent est porté par l'IA, et particulièrement par l'inférence, c'est-à-dire l'utilisation des modèles pour répondre aux demandes des utilisateurs. Cette activité représente la majorité de la consommation énergétique de l'IA et a entraîné la construction de vastes centres de données énergivores. McMahon attribue l'essentiel de l'intérêt pour la photonique à cette contrainte d'énergie, à laquelle l'optique est envisagée comme une réponse possible. L'industrie consacre déjà des milliards de dollars à des GPU avancés et à d'autres puces pour rendre l'inférence plus économe.

Les financements ont aussi permis le développement d'autres types d'algorithmes d'IA, de solutions de calcul scientifique et de technologies pour le traitement en réseau. Logan Wright, qui occupe le poste de professeur adjoint en physique appliquée à Yale (New Haven, Connecticut) et a précédemment été postdoctorant dans le laboratoire de McMahon, espère voir un engagement fort de la part de nombreuses entreprises dans cette direction. Selon lui, les avancées réalisées pourraient bénéficier à des systèmes photoniques dont le champ d'application irait au-delà de l'intelligence artificielle.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires