Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Jensen Huang et sa vision des tokens
Lors de la dernière conférence GTC organisée par Nvidia, Jensen Huang, le PDG de l'entreprise, a centré son discours sur un concept clé : les tokens. Durant ses échanges avec les analystes, Huang a décrit les ordinateurs du futur comme des "usines" capables de produire ces tokens. Selon lui, ces unités deviendront aussi essentielles dans les budgets d'entreprise que les ordinateurs portables ou les abonnements logiciels.
Comprendre les tokens
Mais que sont exactement ces tokens dont parle Huang ? Les tokens sont des unités de texte, pouvant être un mot entier ou une partie d'un mot, qui servent à mesurer et à tarifer le travail des intelligences artificielles. Par exemple, un mot court peut être un token unique, tandis qu'un mot plus long pourrait être fractionné en plusieurs tokens. En moyenne, un token équivaut à environ quatre caractères.
L'impact des tokens sur les modèles de langage
Les grands modèles de langage, tels que ChatGPT d'OpenAI ou Claude d'Anthropic, suivent le nombre de tokens traités à chaque interaction utilisateur. Ils comptabilisent aussi les tokens générés en réponse, et les entreprises sont facturées en fonction de cette utilisation. Contrairement aux modèles de tarification traditionnels, qui reposent sur des abonnements ou des frais fixes, l'IA est facturée à l'usage. Huang envisage que, dans le futur, les ingénieurs pourraient se voir attribuer des "budgets de tokens" pour accroître leur productivité. Lors de son discours d'ouverture, il a même suggéré de proposer aux ingénieurs de Nvidia des tokens d'une valeur équivalente à la moitié de leur salaire annuel pour attirer les talents.
L'argument économique de Huang
Huang a réitéré cette proposition le lendemain, affirmant que les coûts associés aux tokens sont justifiés, surtout pour les ingénieurs très bien rémunérés qui peuvent augmenter leur productivité grâce à des agents autonomes capables d'exécuter diverses tâches. Il a soutenu que du matériel informatique plus performant et économe en énergie pourrait produire des tokens à un coût réduit avec le temps.
Un investissement rentable
"Si j'ajoutais 100 $ par jour au coût d'inférence, soit le coût des tokens, je serais plus qu'heureux de le faire", a déclaré Huang, évoquant la possibilité de payer ces tokens en plus des salaires des ingénieurs, notamment durant les périodes de forte activité. "Même si j'ajoutais 1 000 $ en période de forte pression, je serais plus qu'heureux de le faire."
L'adoption croissante des tokens
Huang n'est pas le seul à s'intéresser à ce concept. L'idée des tokens commence à se diffuser dans l'industrie technologique. Les ingénieurs posent de plus en plus de questions sur leur calcul lors des entretiens d'embauche, et les dirigeants envisagent de les inclure dans les packages de rémunération.
L'avenir de l'IA agentique
Selon Huang, l'essor de l'IA agentique, où les agents fonctionnent de manière autonome sans supervision humaine, pourrait considérablement accroître l'utilisation des tokens. "Actuellement, nos ordinateurs portables sont souvent inactifs", a-t-il expliqué. "Mais à l'avenir, l'ordinateur fonctionnera en continu, générant des tokens car vos agents seront en activité."
