Box CEO says companies will need to figure out how to budget for workers running up AI token bills

Le PDG de Box affirme que les entreprises devront budgétiser pour les frais des tokens d'IA utilisés par les employés

Le PDG de Box, Aaron Levie, a déclaré que la consommation de tokens d'IA ne sera pas limitée aux ingénieurs. Selon lui, l'utilisation des tokens d'IA ne fera qu'augmenter parmi les travailleurs qui utilisent correctement l'IA.

Le PDG de Nvidia, Jensen Huang, a exprimé son mécontentement à l'idée qu'un ingénieur ne dépense pas l'équivalent de la moitié de son salaire en tokens. Levie a affirmé que les entreprises technologiques ne seront pas les dernières à voir leur budget consacré à l'IA exploser.

"Cela commencera bien sûr par l'ingénierie, où nous savons déjà que les développeurs peuvent exécuter plusieurs agents en parallèle ou avoir des projets en cours toute la nuit", a écrit Levie sur X. "Mais cela touchera finalement le reste du travail de connaissance également."

Il a cité le secteur juridique et les ventes comme deux domaines susceptibles de devenir de gros utilisateurs de tokens. Les tokens déterminent comment l'IA est mesurée et comment sa consommation est tarifée. Ce sont des unités de texte, un mot ou une partie d'un mot — essentiellement les éléments constitutifs des Large Language Models, qui alimentent des chatbots populaires comme ChatGPT d'OpenAI, Claude d'Anthropic, ou Grok de xAI. Il est important de noter que les tokens ne sont pas un tarif fixe, et les entreprises d'IA ont tendance à facturer davantage pour l'utilisation des modèles les plus avancés et pour des questions plus complexes.

Le post de Levie faisait suite à l'affirmation de Huang selon laquelle il serait "profondément alarmé" si un ingénieur payé 500 000 dollars ne dépensait pas en tokens au moins la moitié de ce salaire.

"Cet ingénieur de 500 000 dollars, à la fin de l'année, je vais lui demander combien il a dépensé en tokens. Si cette personne dit 5 000 dollars, je vais devenir fou", a déclaré Huang lors d'un épisode du "All-In Podcast" publié jeudi.

Levie a ajouté que "ce concept et cette tendance sous-jacents vont devenir très réels, car les travailleurs qui exploitent correctement l'IA ne feront qu'en consommer davantage."

"Leurs budgets de calcul vont simplement augmenter de manière monotone au fil du temps", a-t-il écrit.

Cependant, ce ne seront pas seulement les travailleurs qui seront concernés, a précisé Levie. Les agents, qui peuvent fonctionner à toute heure, seront probablement les plus gros consommateurs de tokens.

"Ce ne sont pas des flux de travail de chatbot répondant à une question simple, mais des agents qui fonctionnent et traitent d'énormes quantités de données à grande échelle, générant de nouvelles formes d'information", a-t-il écrit.

Tout le monde ne sera pas ravi de son budget de calcul en IA. Le capital-risqueur Chamath Palihapitiya a déclaré qu'il avait dû dire à son entreprise de logiciels, 8090, d'arrêter d'utiliser Cursor, un outil de codage IA populaire, après avoir constaté combien l'entreprise dépensait en tokens.

"Nos coûts ont plus que triplé depuis novembre 2025", a déclaré Palihapitiya lors d'un épisode précédent du "All-In Podcast". "Entre le coût d'inférence que nous payons à AWS, qui est énorme, et nos coûts avec Cursor et Anthropic, nous dépensons juste des millions."

Levie a conclu en disant que les entreprises "devront déterminer comment elles budgétisent cela".

"Cela ne sera probablement pas un poste budgétaire IT au fil du temps, mais finalement possédé et alloué par l'entreprise", a-t-il écrit. "Peut-être que le CFO est finalement le responsable de l'IA :-)."