Une nouvelle catégorie de modèles se concentre sur les décisions unitaires des agents, du routage à l’escalade, sans générer de texte. Cloudflare, AWS et OpenAI ont dégainé leurs offres après Jev de TypeSafe AI, tandis qu’Anthropic ajuste les curseurs de coût avec Claude Haiku 5.5. Des chiffres d’adoption existent, mais les gains promis nécessitent prudence.
Les promesses chiffrées restent à confirmer
Les acteurs de ce segment avancent des arguments sur des améliorations de rapidité et de coût, mais il convient d’aborder ces données avec réserve. TypeSafe indique que, pour un scénario unique élaboré et exécuté en interne, son modèle coûterait 444,6 fois moins cher et fonctionnerait 193,6 fois plus vite qu’un workflow reposant sur un LLM, sans qu’aucune vérification indépendante n’ait été effectuée. De plus, chez TypeSafe, l’expression « zéro hallucinations » signifie uniquement que la sortie correspond au schéma attendu, sans pour autant garantir la justesse de la décision. La conformité au schéma est un prérequis, mais ne suffit pas à garantir la qualité d’une décision.
Trois décisions récurrentes, sans besoin de prose
Les boucles d’agents reposent sur trois types de décisions répétées : choisir l’outil ou le sous-agent à activer, décider si un contrôle doit laisser passer ou bloquer une entrée, et déterminer si un cas doit être traité automatiquement ou transmis à un modèle plus complexe ou à un humain. Ces décisions ne nécessitent pas de génération de texte, mais une sélection parmi des options connues, sous forme d’étiquette, de score ou de réponse binaire. Historiquement, des LLM généralistes étaient utilisés pour ces tâches, via des prompts adaptés, mais cette méthode n’était pas la plus efficiente. Toutes ces décisions ne requièrent pas forcément un modèle dédié ni un modèle de raisonnement complet. Le choix du modèle dépend de trois questions : l’entrée correspond-elle à un ensemble fermé d’options ou nécessite-t-elle de synthétiser des informations inédites ? La décision est-elle suffisamment fréquente pour que les économies par appel deviennent significatives ? Et quelles sont les conséquences d’une décision incorrecte ?
La recherche en IA vous passionne ?
Les papers et avancées qui comptent, expliqués simplement, chaque soir. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Après Jev, Cloudflare, AWS et OpenAI entrent dans la danse
En septembre, TypeSafe AI a lancé Jev, un modèle qui ne génère pas de texte mais évalue en une seule passe des questions typées et renvoie un choix, un score ou une probabilité avec une confiance calibrée. TypeSafe le présente comme un modèle « Système Un », conçu pour les étapes étroites de routage ou de filtrage. Dans les semaines suivantes, trois autres fournisseurs ont lancé leurs propres modèles. Cloudflare a publié Clef et Clef-flash en open source le 1er octobre, sous licence Apache 2.0 et sur Workers AI, Clef acceptant aussi des entrées image et vidéo. Le même jour, AWS a annoncé Strands Decider 2B, un modèle open source d’environ 2 milliards de paramètres qui repose sur Qwen3.5 et qui a été pensé pour tourner en local en moins de 150 millisecondes. Le 6 octobre, OpenAI a mis à disposition l’API Decisions, fondée sur GPT-6 Luna, laquelle, d’après la société, délivre des décisions jusqu’à 10 fois plus rapidement que l’API générale Responses.
Un signal d’adoption côté Vercel
Jev a rapidement attiré l’attention. Selon Vercel, dans les 24 heures suivant son inscription sur AI Gateway, près de 13 % des équipes payantes ont testé le modèle, ce qui représente plus du double du taux d’adoption observé lors de tout autre lancement de modèle antérieur sur la plateforme. Cette dynamique d’adoption est expliquée par la visibilité et la facilité d’accès au coût pour les développeurs.
Anthropic ajuste les coûts avec Haiku 5.5
Anthropic n’a pas annoncé de modèle dédié aux décisions comme Jev, Clef ou Strands Decider. Le 7 octobre, la société a lancé Claude Haiku 5.5, qui réduit le tarif pour les prompts de moins de 100 000 tokens à 0,10 dollar par million de tokens d’entrée et 0,50 dollar par million de tokens de sortie, contre 1 dollar et 5 dollars auparavant. Haiku 5.5 propose aussi un réglage d’effort, permettant de moduler le niveau de raisonnement à chaque requête, plutôt que de considérer la latence et le coût comme constants.
