Uber et Microsoft face à l'explosion des coûts des tokens IA

La pression financière sur les entreprises technologiques

Dans l'industrie technologique, une inquiétude grandissante se fait sentir concernant les coûts associés à l'utilisation de l'intelligence artificielle. Uber, par exemple, a déjà épuisé son budget de codage IA pour l'année 2026 dès le mois d'avril. Microsoft, de son côté, a dû révoquer les licences Claude Code de ses développeurs quelques mois seulement après leur activation. Un employé de Priceline a confié à TechCrunch que le renouvellement de contrat avec Cursor a coûté quatre à cinq fois plus cher que prévu.

Bien que le prix par token ait diminué, l'adoption croissante de l'IA et des agents de plus en plus autonomes a entraîné une consommation de tokens sans précédent. Les entreprises qui avaient initialement profité de souscriptions illimitées se retrouvent maintenant à devoir comprendre où va leur argent, réduire leurs dépenses et déterminer si elles peuvent obtenir un retour sur investissement à partir des restes de leurs budgets.

Un marché en pleine mutation

Face à ces défis, un marché commence à se former pour aider les entreprises à gérer ces coûts. Des startups, des fournisseurs établis et un nouvel organisme de normalisation s'efforcent de fournir aux entreprises les outils et le langage nécessaires pour suivre leurs dépenses. Alexander Embiricos, responsable de l'entreprise chez OpenAI, a déclaré lors d'un événement à New York que les conversations avec les clients ont évolué. "Il y a six mois, tout tournait autour de 'Que peut-il faire ? Est-ce suffisant ?' Maintenant, c'est 'hé, nous dépensons tellement. Quelle visibilité avez-vous ? Quelle auditabilité avez-vous ? Quels contrôles de tokens avez-vous ? Quelle est l'efficacité de vos modèles ?'"

La Tokenomics Foundation et ses objectifs

C'est dans ce contexte que la Linux Foundation a dévoilé des plans pour la Tokenomics Foundation, un nouvel organisme de normalisation visant à instaurer la même discipline de coût autour des tokens IA que celle que FinOps a établie pour les dépenses cloud. J.R. Storment, directeur exécutif de la FinOps Foundation, a expliqué que dès avril et mai, des entreprises ont commencé à exprimer leur inquiétude : "Oh mon dieu, nous sommes trois fois au-dessus de notre budget de tokens pour 2026 et ce n'est que le mois d'avril." Cette situation a transformé la conversation de la maximisation des tokens et de l'innovation rapide vers la nécessité de garde-fous et de contrôle.

L'impact des nouveaux modèles IA

Les cris entendus dans le monde technologique ont suivi des demandes ferventes de PDG poussant leurs équipes à utiliser les meilleurs modèles et à avancer rapidement, peu importe le coût. De nouveaux modèles lancés en novembre, comme Claude Opus 4.5 d'Anthropic, GPT-5.1 d'OpenAI, et Gemini 3 Pro de Google, ont apporté des améliorations significatives aux outils agents, ce qui a multiplié la consommation. Une entreprise s'est retrouvée avec une facture de 500 millions de dollars pour Claude après avoir oublié de fixer des limites d'utilisation pour ses employés.

Chris Reed, directeur senior des finances informatiques chez Priceline, a comparé cette situation à une "épidémie de crack-cocaïne", notant que l'entreprise a commencé à imposer des limites de tokens à certains groupes. Vitaly Gordon, PDG de la plateforme d'opérations d'ingénierie Faros AI, a déclaré qu'il avait récemment parlé à un CTO qui lui a dit : "Un de mes ingénieurs a dépensé 40 000 dollars en tokens le mois dernier, et je ne sais vraiment pas si je dois l'arrêter ou dire à tout le monde de faire comme lui."

Les défis de la mesure de la productivité

Une enquête de mars menée par Faros a révélé qu'auprès de 20 000 développeurs, la production augmentait, mais les bugs et les réécritures également. Jellyfish, une plateforme de gestion d'ingénierie, a également constaté que les ingénieurs qui utilisaient le plus de tokens étaient environ deux fois plus productifs que ceux qui utilisaient moins l'IA, mais ils dépensaient dix fois plus de tokens pour y parvenir.

Nicholas Arcolano, responsable de la recherche chez Jellyfish, a déclaré à TechCrunch par e-mail que les dépenses en IA explosent en grande partie en raison des fonctionnalités agents, avec une consommation par développeur augmentant d'environ 18,6 fois en neuf mois. Dans l'ensemble, ces statistiques rendent le cas de la productivité plus flou que ne le suggèrent les dépenses.

La complexité de la gestion des coûts

"Que les dépenses extrêmes soient rentables dépend de la valeur commerciale ultime du code expédié (par exemple, le revenu), que la plupart des entreprises ne peuvent toujours pas mesurer," a déclaré Arcolano. Une partie de ce problème de mesure est l'ampleur à laquelle l'IA est utilisée aujourd'hui. "Suivre les coûts cloud est un problème de données de centaines de millions de lignes par mois," a déclaré Storment. "Suivre les coûts des tokens est un problème de données de trillions de lignes par mois. Vous ne pouvez pas simplement mettre cela dans n'importe quel tableur ou même outil de base. Vous devez repenser fondamentalement vos outils, vos spécifications et vos systèmes comptables pour le faire."

Chez Priceline, Reed constate déjà des disparités. Il a noté des problèmes entre l'utilisation rapportée par un fournisseur et les données internes de Priceline. "J'ai commencé ma carrière dans la gestion des dépenses télécoms, et je vois tous les mêmes parallèles, des télécoms au cloud à l'IA," a-t-il déclaré. "Chaque fois que vous introduisez quelque chose de nouveau, c'est propice aux erreurs de facturation et aux opportunités d'audit et d'optimisation."

Un marché en pleine expansion

Un marché commence à se former autour de ce problème. Il y a des entreprises spécialisées, comme Pay-i, qui suit, mesure et optimise les coûts et la performance des investissements en GenAI. Paid, quant à elle, permet aux développeurs de suivre les coûts, de mesurer l'utilisation et de facturer les utilisateurs en fonction de la valeur réelle plutôt que des frais d'abonnement.

Ensuite, il y a des entreprises comme Jellyfish, Waydev, et Faros AI, qui fournissent toutes une surveillance des agents IA pour prouver le ROI des outils de développement. Storment indique que la plupart des 180 fournisseurs au sein de la FinOps Foundation s'orientent vers cet espace.

Les entreprises disposant d'une distribution existante ajoutent également de nouvelles fonctionnalités pour capitaliser sur ce nouveau marché. Ramp s'est récemment lancé dans la gestion des dépenses en IA ; Datadog et New Relic ont ajouté des services tels que la gestion des coûts cloud, l'observabilité au niveau des tokens et la surveillance des GPU. Lors de la conférence FinOps X la semaine prochaine, AWS devrait introduire de nouvelles fonctionnalités de gestion financière axées sur les dépenses en IA pour les entreprises.

Vers une optimisation des coûts

Tiffany Luck, associée chez NEA, pense que l'efficacité et l'observabilité des tokens seront probablement ajoutées au niveau de la "couche d'harnachement ou d'application." Elle a cité Factory, une startup qui crée des agents IA pour les entreprises, qui a lancé cette semaine un routeur de modèles qui choisit automatiquement le bon modèle pour chaque tâche.

Gordon s'attend à ce que les laboratoires de pointe et d'autres fournisseurs de modèles adoptent une optimisation de style OpenRouter pour diriger les requêtes vers les modèles les moins chers — une tendance qui apparaît déjà sur les factures d'entreprise de Claude. "Le rapport financier sur combien vous dépensez pour Anthropic, même si vous appelez le modèle Opus, une partie des dépenses sera sur Sonnet ou Haiku, car ils sont assez intelligents pour le faire," a déclaré Gordon. "Je pense que cela deviendra de plus en plus courant."

Le rôle de la Tokenomics Foundation

Mais tous ces outils sont construits sans un langage commun ou des définitions partagées sur combien coûte un token, ce qu'il produit et comment comparer les dépenses entre les fournisseurs. C'est là que la Tokenomics Foundation espère être utile. La fondation construit une définition canonique et un cadre pour la "tokenomics ;" des normes ouvertes, des spécifications et des métriques pour l'utilisation et la facturation des tokens IA ; ainsi que de nouvelles métriques pour l'économie de l'IA, comme le coût par intelligence ou les tokens par watt. Elle prévoit également de définir des métriques sur l'efficacité des usines de tokens et l'efficacité de la consommation. Le groupe prévoit un lancement formel en juillet et s'apprête à annoncer de nouveaux membres lors de la conférence FinOps X la semaine prochaine.

Les perspectives d'avenir

"L'économie des tokens est fondamentalement plus abstraite et opaque que tout ce que nous avons géré à cette échelle auparavant," a déclaré Nishant Gupta, directeur de la disponibilité chez Salesforce, dans un communiqué. "Cela nécessite une force opérationnelle différente de celle que l'industrie a construite pour le cloud."

Cela dit, Goldman Sachs prévoit que l'utilisation mondiale des tokens sera multipliée par 24 d'ici 2030. Les entreprises déjà au-dessus de leur budget ont besoin de solutions maintenant, et le premier livrable de la fondation est encore dans plusieurs mois. "Peut-être avons-nous créé une machine à vapeur, mais nous n'avons toujours pas compris la chaîne de montage," a déclaré Gordon.

Selon Arcolano, le mouvement intelligent est une adoption large et modérée. "Le meilleur ROI provient du fait de faire passer le large milieu d'une utilisation faible à modérée, plutôt que de pousser les utilisateurs lourds plus haut," a-t-il déclaré.