Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Les modèles d'IA comme consultants de luxe
Dans le domaine de l'intelligence artificielle, une nouvelle approche émerge pour gérer les coûts associés aux modèles de pointe. Les consultants en IA proposent désormais de considérer ces modèles avancés comme des conseillers ou consultants de luxe. L'idée est simple : si vous constatez que votre budget pour les tokens d'IA est constamment dépassé, il est temps de revoir votre stratégie.
Ces experts suggèrent de percevoir les modèles de pointe comme des conseillers stratégiques. Laisser ces modèles se charger de la réflexion complexe et de la planification, tout en confiant l'exécution à des modèles moins coûteux, pourrait être la clé pour réaliser des économies significatives. L'optimisation du retour sur investissement (ROI) dans les dépenses en IA est devenue un sujet brûlant, et les consultants en IA ont une astuce intéressante pour réduire les coûts.
Maximiser l'efficacité des modèles d'IA
Des rapports ont largement couvert l'idée que les utilisateurs devraient orienter leurs tâches vers les modèles d'IA appropriés pour maximiser leur investissement. Cependant, les consultants en IA vont plus loin en affirmant que les modèles de pointe les plus coûteux devraient être traités comme les consultants onéreux qu'ils sont.
Ameya Kanitkar, directeur technique de la plateforme de mesure de l'IA Larridin, basée à San Francisco, a illustré cette idée en déclarant : « Vous n'utiliseriez pas l'avocat le plus cher pour des tâches routinières que des avocats moins coûteux peuvent gérer. » Lors d'une discussion en juillet, Kanitkar a précisé que des modèles comme Fable 5, le modèle le plus puissant et gourmand en tokens d'Anthropic, devraient être utilisés pour créer une feuille de route des flux de travail, tandis que des modèles moins chers et plus petits devraient les exécuter.
« Le modèle de conseil planifie essentiellement les choses, décompose les problèmes en ensembles plus petits et a le contexte complet de la manière dont tout va fonctionner, » a-t-il ajouté. « Ensuite, les sous-tâches sont déléguées à des modèles moins coûteux. »
Les modèles légers pour les tâches quotidiennes
Michael Murphy, partenaire de la société de conseil en transformation IA Adaptovate, partage cette vision. Il estime qu'il n'est pas judicieux d'utiliser les fonds de l'entreprise pour envoyer « le modèle le plus puissant pour faire quelque chose qui remplace une vérification Google ou transcrit des comptes rendus de réunion ou crée un brief créatif. »
Murphy affirme que les modèles de pointe devraient être réservés pour élaborer des stratégies, créer les premières versions d'une nouvelle application ou d'un site web, ou pour des tâches nécessitant une réflexion complexe. Ensuite, les entreprises devraient déterminer quels « modèles légers » sont les plus appropriés pour les tâches quotidiennes.
Ce ne sont pas seulement les consultants qui soutiennent cette tactique. Des leaders de l'industrie ont également évoqué l'idée d'utiliser des modèles de pointe comme conseillers. Dans un post sur X en juin, Brian Armstrong, PDG de Coinbase, a déclaré qu'il s'attendait à ce que « 80 % des charges de travail fonctionnent sur des modèles 99 % moins chers dans les 12 à 18 mois. » Les meilleurs modèles devraient être réservés pour des tâches d'« IQ maxxing », a-t-il précisé, telles que des percées scientifiques ou l'orchestration d'agents.
L'optimisation du ROI en IA devient cruciale
Les entreprises sont de plus en plus préoccupées par le fait de ne pas obtenir des retours proportionnels sur leurs dépenses en IA. Beaucoup ont abandonné le tokenmaxxing, une tendance où les entreprises laissaient leurs employés expérimenter librement avec l'IA, les incitant à brûler autant de tokens que possible. Certaines, comme Duolingo, ont même intégré l'utilisation de l'IA comme un critère de performance.
Aujourd'hui, les entreprises adoptent une approche plus conservatrice, réfléchissant à la manière d'optimiser la valeur de leurs dépenses. Plusieurs astuces budgétaires ont émergé, telles que le routage des modèles ou l'utilisation de modèles chinois open-source comme Kimi K3 de Moonshot AI ou GLM-5.2 de Z.ai.
Une nouvelle vague de startups capitalise sur le ROI de l'IA, devenant une priorité pour les dirigeants. Ces startups, connues sous le nom de sociétés de routage IA, aident à orienter les développeurs vers différents modèles d'IA et à surveiller les dépenses excessives, devenant des favorites des investisseurs.
La startup basée à New York OpenRouter a annoncé en mai avoir levé 113 millions de dollars, valorisant l'entreprise à 1,3 milliard de dollars. Un concurrent d'OpenRouter, Concentrate AI, a également sécurisé plus de 5 millions de dollars de financement.
