Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Aaron Levie et la gestion des jetons IA chez Box
Aaron Levie, le PDG de Box, a récemment exprimé son point de vue sur l'utilisation des jetons d'intelligence artificielle par son entreprise. Contrairement à ce que l'on pourrait penser, il n'est pas préoccupé par le gaspillage potentiel de ces ressources. Pour lui, le fait que ses ingénieurs consomment un grand nombre de jetons est en réalité un signe positif : cela signifie qu'ils explorent de nouvelles pistes et expérimentent des solutions innovantes.
Une tendance à maximiser l'utilisation des jetons
Dans la Silicon Valley, une tendance se dessine autour de l'optimisation de l'utilisation des jetons. Aaron Levie a déclaré : "Pour moi, en ce moment, je pense que nous devrions probablement gaspiller beaucoup de jetons, car cela signifie que nous essayons de nouvelles choses." Cette approche est partagée par d'autres leaders du secteur, comme Jensen Huang, le PDG de Nvidia, qui a récemment affirmé qu'il serait "profondément alarmé" si un ingénieur payé 500 000 dollars ne consommait pas l'équivalent de 250 000 dollars en jetons. Des entreprises telles que Meta et OpenAI encouragent même cette pratique en affichant des classements des plus gros utilisateurs de jetons.
Comprendre le rôle des jetons dans l'IA
Levie a également souligné l'importance pour les entreprises de comprendre que l'utilisation des jetons ne concerne pas uniquement leurs équipes d'ingénierie. Les jetons sont essentiels au fonctionnement des grands modèles de langage, car ils permettent de décomposer les mots en entrées et sorties numériques. Les fournisseurs d'IA, comme OpenAI, facturent leurs services en fonction du nombre de jetons utilisés, ce qui en fait un enjeu économique majeur.
Les défis posés par l'IA agentique
Les ingénieurs et les entreprises sont confrontés à des questions complexes sur la manière de déployer des agents d'IA. Ces agents, par leur nature, exécutent des requêtes sophistiquées et fonctionnent sur de longues périodes, ce qui augmente l'utilisation des jetons. Levie a souligné que chaque ingénieur doit se poser des questions cruciales :
- "Voulez-vous que cela soit une requête de longue durée ?"
- "Devez-vous avoir un agent de longue durée ?"
- "Souhaitez-vous paralléliser cela ?"
- "Quel est votre niveau de confort face aux jetons gaspillés ?"
Vers une meilleure gestion des ressources
Levie a ajouté que ces questions ne trouveront pas de réponse tant que les entreprises n'auront pas développé une capacité de centre de données adéquate. À ce moment-là, les fournisseurs d'IA pourraient réduire les coûts des jetons, car ils ne seraient plus aussi préoccupés par la limitation de leur capacité de calcul. Certaines entreprises, comme Anthropic, ont déjà mis en place des politiques pour gérer les pics d'utilisation.
L'impact sur les politiques IT
En attendant, l'IA agentique ne se limite pas à l'utilisation des jetons. Levie a mentionné que les directeurs financiers (CFO) et les directeurs des systèmes d'information (CIO) sont en pleine effervescence, cherchant à comprendre si les politiques IT et d'intégration actuelles de leurs entreprises sont adaptées à l'ère de l'IA agentique. Il a souligné l'importance de coordonner les opérations pour éviter des erreurs telles que le déplacement accidentel de fichiers ou des conflits d'opérations simultanées, tout en gérant des agents qui fonctionnent de manière autonome.
