Uber et l'IA : une course effrénée vers des coûts incontrôlés

L'essor fulgurant de l'IA et ses implications financières

L'intelligence artificielle, autrefois confinée à des projets expérimentaux, s'est rapidement imposée comme un pilier central dans de nombreuses entreprises. Cette transition rapide a cependant révélé un défi majeur : la gestion des coûts. Uber, par exemple, a récemment annoncé avoir consommé l'intégralité de son budget annuel dédié à l'IA en seulement quatre mois. Ce constat s'accompagne d'une difficulté supplémentaire : l'incapacité à établir un lien direct entre ces dépenses et les gains de productivité escomptés.

Alors que les applications de l'IA se diversifient, l'utilisation des modèles s'intensifie, entraînant une augmentation des coûts associés. Les équipes ont souvent recours à des modèles fournis par des tiers via une clé API partagée, avec une facturation basée sur des niveaux de compte exprimés en tokens. Dans ce cadre, il devient impossible de déterminer précisément quel utilisateur, quelle équipe ou quel processus est à l'origine des dépenses. Pour maîtriser ces coûts, il est essentiel de pouvoir attribuer chaque consommation à sa source exacte.

Les limites de la visibilité sur les dépenses d'IA

L'absence de visibilité sur les coûts engendre des conséquences financières notables. En comparant les dépenses liées à l'IA à d'autres postes budgétaires, comme les ressources humaines ou les licences, on constate que ces derniers sont généralement planifiés et maîtrisés. En revanche, pour l'IA, cette capacité de gestion est quasi inexistante. Sans une vision claire des dépenses réelles, il est impossible de mesurer l'impact d'un investissement en IA. De plus, sans une attribution précise aux équipes et aux processus concernés, il est tout aussi difficile de limiter les dépenses de manière ciblée.

Un autre problème se pose lorsque, en l'absence de critères clairs pour choisir un modèle, les utilisateurs optent systématiquement pour le modèle le plus performant, même si une alternative plus simple et moins coûteuse suffirait. Cette tendance pourrait persister, malgré les prévisions de Gartner qui estime que le coût de l'inférence pourrait diminuer de 90 % d'ici 2030. En effet, l'intensification des usages et l'essor des modèles argentiques pourraient maintenir les coûts élevés.

Vers une gestion centralisée des requêtes d'IA

Pour contenir ces dépenses, certaines entreprises envisagent de limiter le nombre de requêtes. Cependant, cette approche ne reflète pas fidèlement le coût réel, car les modèles varient en prix et en contexte. Une requête adressée à un modèle haut de gamme avec un volume de données important peut coûter plus cher que des centaines de requêtes vers un modèle plus simple. Même la facturation en tokens n'est pas intuitive pour les gestionnaires. Pour résoudre ce problème, il est nécessaire de mesurer les dépenses en termes monétaires et de les contrôler indépendamment du volume de requêtes.

Une solution efficace consiste à centraliser les requêtes via une passerelle intermédiaire appelée AI Gateway. Cette infrastructure permet de suivre la consommation et les coûts, quel que soit le fournisseur, offrant une vision complète des dépenses en euros ou en dollars, plutôt qu'en tokens. Avec cette visibilité, le contrôle budgétaire devient granulaire, permettant de définir des plafonds de dépenses par modèle, fournisseur, utilisateur ou application.

Attribuer les coûts d'IA de manière précise

Pour que les budgets soient réellement actionnables, il est crucial de connaître la consommation de chaque service ou collaborateur. Si l'entreprise se contente des informations fournies par les applications, le suivi reste peu fiable. L'attribution doit se faire directement au niveau de la passerelle, à partir d'une identité vérifiée. Ainsi, chaque requête est associée à l'utilisateur, l'équipe ou l'application, permettant une allocation précise des coûts. Certaines équipes peuvent alors être autorisées à utiliser des modèles plus puissants, tandis que d'autres se contenteront de modèles plus légers.

L'optimisation de l'IA ne se limite pas à la réduction des dépenses, mais implique également le choix du modèle le plus adapté à chaque tâche. Le routage intelligent permet d'analyser une requête et de l'orienter vers le modèle offrant le meilleur équilibre entre qualité, performance et coût. Ainsi, le pilotage ne consiste plus seulement à plafonner les dépenses, mais à les optimiser.

Gouvernance et protection des données

Au-delà des aspects financiers, la gestion des coûts d'IA touche également à la gouvernance et à la protection des données. Dans certains pays, comme l'Allemagne, cela implique un dialogue social. Avant de mettre en place un suivi individualisé, il est essentiel d'associer les équipes responsables de la protection des données et, le cas échéant, les représentants du personnel pour adapter les limites d'usage internes. Des restrictions trop strictes peuvent pousser les utilisateurs vers des canaux non contrôlés.

Conclusion : vers une valorisation optimale de l'IA

Avec l'essor de l'IA générative, la question n'est plus seulement de savoir comment l'utiliser, mais comment en maîtriser les coûts et en mesurer la valeur. Tant que la consommation ne peut être reliée à son origine, l'IA reste une dépense difficilement pilotable. Pour reprendre le contrôle, les entreprises doivent centraliser les usages et les coûts, exprimer les budgets en valeur monétaire et s'assurer d'une attribution fiable basée sur l'identité des utilisateurs.

En combinant cette approche avec une sélection adaptée des modèles, il est possible de limiter et d'optimiser les dépenses. L'IA devient alors une ressource suivie, budgétée et pilotée comme les autres ressources de l'entreprise.