Token-maxing : le piège financier de l'IA agentique

Le défi du token-maxing dans l'IA agentique

Dans le monde de l'intelligence artificielle agentique, le concept de token-maxing s'est imposé comme un défi majeur pour les entreprises. Les dirigeants sont confrontés à la nécessité de développer des stratégies efficaces pour gérer l'utilisation des tokens, ces unités d'information essentielles au fonctionnement des modèles d'IA. Il est crucial de permettre aux employés d'explorer les capacités des agents tout en respectant des directives financières strictes.

Une année en IA : un changement radical

Steve Lucas, PDG de Boomi, une entreprise spécialisée dans la technologie d'intégration, a exprimé ses inquiétudes concernant l'adoption précipitée de l'IA générative par les responsables informatiques l'année précédente. Aujourd'hui, il observe une tendance similaire avec la technologie agentique, où l'utilisation des tokens connaît une croissance rapide et non maîtrisée. Selon Lucas, que l'on travaille au sein ou en dehors d'une entreprise, l'impression générale est que l'utilisation de l'IA et l'optimisation des tokens sont devenues des priorités professionnelles.

Lucas a souligné que, dans le contexte actuel, les professionnels de l'informatique semblent se concentrer davantage sur l'utilisation de l'IA que sur leurs tâches principales. Cette tendance à maximiser l'utilisation des tokens pour améliorer les performances professionnelles est devenue une norme, mais elle pose des questions sur la durabilité financière de telles pratiques.

L'augmentation imprévisible des coûts des agents

Les tokens représentent l'unité de base traitée par un modèle d'IA, et leur consommation entraîne des coûts qui augmentent de manière imprévisible. Les classements internes qui suivaient l'utilisation des tokens sont devenus obsolètes, car le gaspillage de tokens est devenu un luxe que peu peuvent se permettre. Dans cette ère agentique, le token-maxing est perçu comme un signe de surconsommation, et la tokenomics — l'art de mesurer, tarifer et gérer l'utilisation des tokens — est devenue une priorité commerciale cruciale. Lucas souligne que la consommation de tokens a atteint un rythme insoutenable, illustrant cela par une augmentation de dix fois des dépenses chez Boomi pour le modèle Claude par rapport à l'année précédente.

Lucas a expliqué que l'année précédente, la notion de tokenomics n'était même pas discutée, mais aujourd'hui, elle est au cœur des préoccupations des dirigeants. La consommation exponentielle de tokens a obligé les entreprises à revoir leurs stratégies pour éviter des dépenses incontrôlées qui pourraient mettre en péril leur rentabilité.

Vers une tokenomics adaptée aux entreprises

Les entreprises doivent désormais développer leur propre approche de la tokenomics pour s'adapter à l'IA agentique, qui promet de transformer les opérations commerciales. Lucas insiste sur l'importance de créer une méthode rentable pour explorer les agents, car l'économie de l'IA est devenue un enjeu central. Les organisations doivent s'assurer que l'IA offre un retour sur investissement tangible, ce qui constitue la question fondamentale pour l'avenir.

Lucas a déclaré que la clé pour les entreprises est de s'assurer que l'IA peut fonctionner avec un retour sur investissement positif. Cela signifie que les entreprises doivent non seulement adopter l'IA, mais aussi le faire de manière à ce que chaque dépense soit justifiée par des gains mesurables en termes de productivité ou de revenus.

Encourager l'innovation tout en contrôlant les coûts

Sridhar Ramaswamy, PDG de Snowflake, reconnaît que la consommation de tokens augmente au sein de son organisation, mais il estime qu'il est essentiel de donner aux employés la liberté d'explorer les agents. Bien que préoccupé par les dépenses liées à l'inférence IA, il ne considère pas cela comme une raison suffisante pour freiner l'utilisation de l'IA. Les agents peuvent améliorer l'efficacité et la productivité, tout en permettant de développer de nouveaux services pour les clients de manière plus rapide et efficace.

Ramaswamy a expliqué que, malgré les coûts croissants, l'investissement dans l'IA est justifié par les gains potentiels en termes de rapidité et d'efficacité. Il est convaincu que l'IA peut transformer les opérations internes et offrir des avantages concurrentiels significatifs.

Investir dans l'exploration des agents

Matt Luizzi, vice-président de l'analytique chez Whoop, partage cette vision et investit dans l'exploration des agents pour obtenir un avantage concurrentiel. Luizzi souligne l'importance d'encourager le personnel à sortir de sa zone de confort, tout en acceptant les risques associés. Il insiste cependant sur la nécessité d'établir des garde-fous et des systèmes de surveillance pour contrôler les dépenses liées aux tokens.

Luizzi a affirmé que pour que l'innovation prospère, les employés doivent être autorisés à expérimenter, même si cela implique des coûts initiaux. Cependant, il est crucial de surveiller ces dépenses pour éviter qu'elles ne deviennent incontrôlables, en mettant en place des systèmes de suivi et des limites claires.

Gestion prudente et innovation

Luizzi met en avant l'importance d'une gestion prudente pour réussir dans l'ère agentique. Il est crucial de permettre aux employés de repousser les limites tout en évitant les excès. Sriram Sitaraman, CIO chez Synopsys, ajoute que l'innovation nécessite de la liberté, mais qu'il est essentiel de fixer des limites pour éviter des dépenses inutiles.

Sitaraman a souligné que, bien que l'innovation soit essentielle, elle doit être encadrée par des directives claires pour éviter des gaspillages de ressources. Il a insisté sur le fait que les entreprises doivent trouver un équilibre entre liberté d'exploration et contrôle des coûts.

Établir des lignes directrices pour l'utilisation des tokens

Sitaraman propose que le bon contexte pour les projets peut aider à établir des contraintes efficaces. En définissant des objectifs clairs et des données spécifiques, la consommation de tokens peut être limitée tout en maximisant la valeur ajoutée pour l'utilisateur. François-Xavier Pierrel, directeur des données chez TF1, compare l'utilisation des tokens à une dépendance au sucre, soulignant la nécessité d'une approche de bon sens pour éviter une surconsommation coûteuse.

Pierrel a expliqué que, tout comme le sucre peut devenir une dépendance, l'utilisation excessive de tokens peut entraîner des coûts inutiles. Il recommande une approche mesurée et réfléchie pour gérer l'utilisation des tokens, en s'assurant que chaque dépense est justifiée par une valeur ajoutée tangible.

La prudence comme maître-mot

Pierrel prône la prudence dans l'utilisation des modèles de langage large, en suggérant d'opter pour des modèles plus petits et moins coûteux lorsque cela est possible. Cette approche permet de maintenir une agilité dans l'expérimentation tout en évitant des factures excessives. Pierrel conclut que la stratégie de tokenomics sera cruciale pour créer de la valeur tout en maîtrisant les coûts dans le déploiement des agents.

Pierrel a conclu en affirmant que les entreprises doivent être agiles et prêtes à ajuster leurs stratégies en fonction des résultats obtenus. Il a souligné que l'objectif n'est pas de déployer un grand nombre d'agents, mais de le faire de manière efficace et rentable, en s'assurant que chaque agent contribue réellement à l'atteinte des objectifs de l'entreprise.