Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Une facture inattendue de 30 000 $ en tokens d'IA
En avril, la startup cofondée par Sarthak Dhawan a vu ses dépenses en tokens d'IA grimper de manière spectaculaire, atteignant 30 000 $. Dhawan a expliqué que cette somme a été dépensée par inadvertance en un mois, sans qu'un budget précis ne soit établi pour ces tokens. L'accent était mis sur la rapidité d'exécution plutôt que sur la gestion des coûts. Toutefois, une modification des paramètres de leur outil Claude Code a permis de réduire ces dépenses.
Ce mois-là, la startup a accidentellement dépensé environ 30 000 $ en tokens Claude Code, une situation loin d'être idéale. Dhawan ne considère pas cette dépense comme une erreur totale, mais plutôt comme une occasion d'apprentissage. Ce mois a été marqué par une activité intense, ce qui se reflète dans les dépenses. Des dépenses élevées en tokens sont souvent synonymes d'innovation ou d'expérimentation.
L'entreprise, fondée par Dhawan et son cofondateur Rudy, a lancé son application d'apprentissage en IA en janvier 2024. Les deux ont quitté l'université pour se consacrer pleinement à leur entreprise l'année précédente. Pour eux, le principal obstacle est la vitesse de livraison, et non les dépenses en tokens. Ralentir pour contrôler ces coûts aurait nui à leur élan.
L'évolution du rôle de l'ingénieur avec l'IA
Aujourd'hui, le travail de Dhawan a évolué de l'écriture de code à sa révision. Son quotidien consiste désormais à planifier et à superviser le fonctionnement des systèmes à un niveau stratégique, tout en révisant le code généré par l'IA. Cette transition implique de nombreuses vérifications intuitives au fil du processus.
Dhawan ressent une diminution de ses compétences en codage, un sentiment partagé par d'autres ingénieurs utilisant Claude Code. Plus l'IA prend en charge le codage, moins les ingénieurs maîtrisent leur propre base de code. Il y a vingt ans, les ingénieurs connaissaient en profondeur chaque aspect de leur code, ayant participé à sa création.
Avec l'IA qui écrit le code, la base de code devient une entité moins compréhensible. Cependant, il est difficile de se passer de l'IA, car elle augmente considérablement la productivité. La différence de vitesse est incomparable.
Des coûts en IA sans budget fixe
L'usage croissant de l'IA dans le codage a rendu difficile l'établissement d'un budget strict pour les tokens d'IA. Bien que l'équipe surveille ces coûts, il n'existe pas de processus d'approbation formel pour l'utilisation des tokens.
L'équipe, composée d'environ 10 personnes, a vu ses coûts augmenter avec l'utilisation accrue de l'IA pour diverses tâches. Tant que ces dépenses génèrent des résultats, elles sont acceptées. En moyenne, l'entreprise dépense environ 20 000 $ par mois en outils d'IA pour le développement logiciel.
Pour évaluer les coûts par développeur, l'approche est simple : chacun utilise ce dont il a besoin, et cette méthode est maintenue pour l'instant.
Une facture gonflée par un paramètre de Claude
En avril, la facture de tokens d'IA a atteint environ 30 000 $. Cette augmentation s'explique en partie par l'utilisation involontaire du mode rapide de Claude, qui est plus coûteux par token.
Le mode rapide de Claude Code semble accélérer le travail, mais il est aussi plus onéreux. Lorsque Dhawan a activé ce mode sans s'en rendre compte, les coûts ont explosé.
Désormais, le mode rapide est utilisé uniquement lors de travaux en binôme où la latence est cruciale. En dehors de ces situations, le mode normal est privilégié, car il offre une vitesse suffisante sans compromettre la qualité, permettant ainsi des économies significatives.
Stratégies simples pour économiser des tokens
Pour réduire les coûts en tokens, l'équipe opte pour des solutions simples : utiliser par défaut le mode standard, choisir des modèles plus légers pour les tâches simples, et éviter de charger l'intégralité des bases de code dans le contexte. Cependant, ils ne s'inquiètent pas pour chaque dollar dépensé.
L'entreprise a franchi le cap des 13 millions de dollars de revenus cumulés cette année. Elle reste convaincue que si l'utilisation de l'IA améliore la productivité, cela vaut l'investissement à long terme.
