IA générative : une explosion des coûts qui inquiète les géants tech

IA générative : une explosion des coûts qui inquiète les géants tech

L'intelligence artificielle (IA) générative devait devenir moins chère à mesure qu'elle se développait. C'est tout le contraire qui se produit, et la facture commence à peser lourd, même chez les géants de la tech. L'IA n'est pas un succès sur tous les plans, loin de là.

Depuis des années, les entreprises d'IA vendent la même promesse aux investisseurs : plus un modèle est gros, plus il devient puissant. C'est ce qu'on appelle les « lois d’échelle ». Cependant, cette course au gigantisme commence à coûter très cher. Par exemple, Uber a épuisé, en seulement quatre mois, tout le budget qu'il avait prévu pour l'IA en 2026. Microsoft a retiré une partie des licences Claude Code à ses employés, jugées trop coûteuses, et a annulé plusieurs projets de data centers. Atlassian, Adobe et Amazon ont également resserré la vis. Ces reculs ne sont pas des accidents isolés, mais révèlent un problème bien plus profond, comme l'indique une vaste enquête de The Atlantic.

Un problème d’échelle

Quand un service de streaming ou une application mobile gagne des millions d’utilisateurs supplémentaires, le coût de chaque nouvel utilisateur diminue. C'est ce qu'on appelle une économie d’échelle, et c'est exactement ce que recherchent les investisseurs : plus l’entreprise grossit, plus elle devient rentable.

Cependant, les IA génératives comme ChatGPT ou Claude fonctionnent dans le sens inverse. Plus on leur soumet de texte à traiter, plus elles nécessitent de mémoire et de temps de calcul. Cette hausse n'est pas proportionnelle, car elle s'accélère à mesure que les volumes augmentent. Ainsi, doubler la quantité de texte à analyser peut entraîner une augmentation bien plus que double de la facture.

Ce défaut technique se répercute directement sur le portefeuille des entreprises clientes, car la plupart des contrats facturent l’usage de l’IA au volume traité, le fameux token. Résultat : la note grimpe avec l’intensité d’utilisation, sans que la valeur réellement produite pour l’entreprise suive au même rythme.

Les impacts sont déjà concrets

Cette inefficacité a des répercussions colossales. Pour faire tourner leurs modèles, les géants de l’IA achètent aujourd'hui jusqu'à 70 % de l’offre mondiale de mémoire informatique haut de gamme. La conséquence directe est que les prix des disques durs, des ordinateurs et des smartphones s’envolent, et la tendance ne semble pas près de s'arrêter. De plus, l'impact énergétique de cette dynamique est désastreux. Pour absorber une telle demande, la capacité des data centers américains pourrait être multipliée par huit dans les prochaines années, au point que certaines entreprises envisagent de recycler des réacteurs d’avion pour produire suffisamment d’électricité. Cela représente un défi d’autant plus difficile à relever que les progrès du matériel informatique ralentissent : les composants ont atteint des limites physiques qui freinent leur miniaturisation.

Dans ce contexte, la rentabilité du secteur reste un immense point d’interrogation, alimentant les craintes d’une bulle spéculative autour de l’IA, un secteur dans lequel des pans entiers de l’économie ont massivement investi.

À découvrir

• Quels sont les 5 meilleurs chatbots à intelligence artificielle ? Comparatif 2026

Foire aux questions

Que recouvrent exactement les « lois d’échelle » en IA générative ?

Les lois d’échelle décrivent une relation empirique entre trois variables : la taille du modèle (nombre de paramètres), la quantité de données d’entraînement et la puissance de calcul utilisée. En pratique, elles indiquent que, lorsque ces ressources augmentent, les performances s’améliorent de manière assez prévisible sur certains indicateurs (perplexité, scores de benchmarks). Le point clé est que le gain est souvent marginal : chaque “palier” de performance coûte beaucoup plus cher que le précédent. Elles concernent surtout l’entraînement, mais poussent aussi à déployer des modèles plus gros, donc plus coûteux à faire tourner. Enfin, elles ne garantissent pas que les gains se traduisent automatiquement en valeur métier ou en baisse des coûts.

Pourquoi traiter plus de texte peut coûter bien plus que proportionnellement avec un grand modèle de langage ?

Lorsqu’un modèle génère ou analyse du texte, il doit traiter une séquence de tokens et maintenir un « contexte » en mémoire pour produire une réponse cohérente. Dans l’architecture Transformer utilisée par la plupart des grands modèles, le mécanisme d’attention a un coût qui tend à croître de façon quadratique avec la longueur du contexte (en simplifiant : plus il y a de tokens, plus il y a de relations à calculer). Cela augmente à la fois le temps de calcul (GPU) et la quantité de mémoire nécessaire, ce qui se répercute directement sur la facture. Même quand des optimisations existent (attention plus efficace, compression de contexte), elles ne font pas disparaître le problème pour les usages à très gros volumes. Résultat : allonger les prompts, multiplier les documents à ingérer ou augmenter les fenêtres de contexte fait grimper les coûts très rapidement.

Qu’est-ce que la facturation au token, et pourquoi ce modèle peut faire exploser le budget d’une entreprise ?

Un token est une unité de texte utilisée pour mesurer l’entrée (prompt) et la sortie (réponse) d’un modèle ; ce n’est pas exactement un mot, mais plutôt un morceau de mot ou de ponctuation. La plupart des API d’IA facturent séparément les tokens entrants et sortants, parfois avec un tarif plus élevé pour des modèles plus performants ou des fenêtres de contexte plus grandes. Ce mode de facturation relie directement le coût à l’intensité d’usage : plus on automatise, plus on ingère de documents, plus on génère de texte, plus la dépense grimpe mécaniquement. Il peut aussi pénaliser les cas où la valeur produite ne croît pas au même rythme que le volume de tokens (ex. réponses longues, reformulations, itérations). Sans garde-fous (quotas, routage vers des modèles plus petits, cache de réponses), une adoption rapide peut dépasser les budgets prévisionnels.