Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Le tokenmaxxing remis en question par BNP Paribas
Charles Holive, responsable de l'intelligence artificielle chez BNP Paribas CIB, a récemment exprimé son point de vue sur le tokenmaxxing, une pratique populaire dans la Silicon Valley. Selon lui, cette méthode, qui consiste à maximiser l'utilisation de l'IA et donc la consommation de tokens, est une « métrique de vanité ». Holive a souligné que son équipe préfère évaluer le succès de l'IA en termes de revenus générés et de gains de productivité, plutôt qu'en se basant sur le nombre de tokens utilisés.
Lors du sommet de Mistral AI à Paris, Holive a expliqué que bien que son équipe suive la consommation de tokens, ce n'est pas la priorité. « Nous essayons de nous éloigner des métriques de vanité — des milliards de tokens par jour », a-t-il déclaré. Il a ajouté que l'objectif est de suivre des résultats concrets plutôt que des métriques superficielles.
Au lieu de se concentrer sur le nombre de tokens, Holive pose des questions différentes à ses employés : « Qu'avez-vous fait que vous ne faisiez pas avant ? » et « Combien plus vite l'avez-vous fait ? ». Ces questions visent à mesurer l'impact réel de l'IA sur la productivité et l'innovation au sein de l'entreprise.
Les entreprises américaines réévaluent leurs dépenses en IA
Les commentaires de Holive interviennent dans un contexte où plusieurs entreprises américaines commencent à remettre en question la rentabilité des investissements massifs en IA. Amazon, par exemple, a récemment fermé un tableau de classement interne sur l'utilisation de l'IA après que des employés ont commencé à effectuer des tâches uniquement pour améliorer leur position dans le classement. De son côté, Andrew Macdonald, COO d'Uber, a publiquement exprimé des doutes quant à savoir si l'augmentation des coûts de l'IA se traduit par des produits plus utiles.
GitHub a également ajusté son modèle de tarification pour Copilot, passant à une tarification basée sur l'utilisation en réponse à l'augmentation des factures d'IA. Ces mouvements reflètent une tendance croissante parmi les entreprises à réévaluer l'efficacité des dépenses en IA et à chercher des moyens de maximiser le retour sur investissement.
Une approche axée sur le retour sur investissement
Pour les projets d'IA qu'il supervise chez BNP Paribas CIB, Holive a précisé que son équipe commence par formuler des hypothèses explicites sur le montant des revenus ou de la productivité qu'ils pourraient générer. Ensuite, des indicateurs clés de performance (KPI) sont créés pour suivre les progrès mensuellement ou trimestriellement par rapport à ces objectifs. Bien que la consommation de tokens soit surveillée pour contrôler les coûts, elle n'est pas la priorité.
Holive a souligné que l'utilisation des tokens peut encore être utile comme mesure d'adoption, notamment dans l'ingénierie logicielle. Cependant, il a précisé que son approche diffère de celle des entreprises qui se concentrent fortement sur les métriques d'utilisation de l'IA. « Nous n'avons pas dit, 'utilisez l'outil, faites de votre mieux,' » a-t-il déclaré. « Nous avons fait le contraire de cela. »
Réactions d'autres leaders du secteur
L'approche de Holive a trouvé un écho auprès d'autres dirigeants présents au sommet. Amit Kapur, responsable de l'IA et de la transformation chez Tata Consultancy Services, a déclaré que les entreprises devraient se concentrer sur les « résultats commerciaux » et les « impacts commerciaux » plutôt que de se focaliser uniquement sur les tokens comme un élément de ligne. Antoine Pichot, directeur de l'innovation, du numérique et des données à La Banque Postale, a indiqué que sa banque évalue les projets d'IA en fonction de facteurs tels que les gains d'efficacité, la satisfaction client, la satisfaction des employés et l'impact financier.
Holive a affirmé que bien que l'utilisation des tokens puisse être un indicateur d'adoption, il est crucial de ne pas se laisser piéger par des métriques qui ne reflètent pas le véritable impact de l'IA sur l'entreprise. Cette perspective pourrait inciter d'autres entreprises à repenser leurs critères de succès en matière d'IA, influençant ainsi les stratégies d'investissement technologique à l'avenir.
