Tokens agentiques : la quête de la rentabilité au-delà du prototype

De prototype à profit : résoudre le problème de la combustion des tokens agentiques

Vers l'efficacité des tokens

Nous avons officiellement dépassé la phase de prototypage de l'IA. En s'appuyant sur les concepts de Escaping the Prototype Mirage, les équipes produit et ingénierie de tous les secteurs expédient désormais des applications agentiques qui résolvent des flux de travail auparavant dominés par le travail manuel. Construire ces prototypes d'agents autonomes est désormais un jeu d'enfant. Il suffit d'utiliser des concepts clés comme les Boucles Agentiques Récursives (Observer-Penser-Agir) pour l'exécution, de mettre en place des passerelles sans tête pour connecter les agents via des applications de chat, et de s'appuyer sur un état stocké qui persiste à travers les redémarrages. Mais les faire passer à des produits fiables est une autre histoire. La nouvelle frontière n'est pas de prouver que les agents peuvent fonctionner, mais de prouver qu'ils peuvent fonctionner de manière rentable.

Parallèlement, les métriques internes dans des entreprises comme le "token maxing" (utilisation illimitée des tokens pour obtenir les meilleurs résultats), qui étaient appropriées pour la phase de prototypage, évoluent vers la mesure du rapport valeur-token dépensé à mesure que les produits agentiques se développent. Après tout, la plupart des produits doivent être rentables et maximiser la marge en passant de l'utilisation d'un calcul traditionnel peu coûteux (TradCompute) pour résoudre les problèmes des utilisateurs à l'utilisation de l'intelligence artificielle pour le même objectif.

Cependant, les modèles ont besoin de liberté de raisonnement et des études récentes ont montré que les flux de travail agentiques exploratoires surpassent les chemins fixes, ouvrant de nouvelles voies, créant des outils MCP et construisant une infrastructure pour résoudre le problème de manière plus efficace dans la plupart des cas. Cela soulève la question de l'équilibre entre le besoin d'agence du modèle et la réalité économique des coûts d'inférence.

Pourquoi les agents contraints échouent à converger

Les harnachements d'agents stockent le contexte de votre tâche et vos objectifs dans des fichiers markdown (*.md), qui ne représentent généralement pas des flux de travail rigides, mais plutôt décrivent l'intention ou l'objectif que vous souhaitez atteindre.

Le paradoxe de l'échec objectif : Dans des études sur des agents résolvant des problèmes complexes, les chercheurs ont constaté que fournir des directives strictes et très contraignantes, où chaque action de l'agent le rapproche de l'objectif, conduit à se retrouver bloqué dans un optimum local et à subir un échec objectif. Un exemple tiré des recherches du professeur Jeff Clune sur l'apprentissage agentique ouvert illustre parfaitement cela : un agent dans un labyrinthe, lorsqu'il est constamment récompensé uniquement pour chercher le chemin direct vers la sortie, se heurtera sans cesse aux murs et se retrouvera piégé dans un optimum local, n'atteignant jamais la fin.

La puissance des harnachements non contraints : Des harnachements d'agents contemporains comme Google Antigravity et Claude Code d'Anthropic ont été si efficaces parce qu'ils permettent aux agents de créer, orchestrer, exécuter des tâches complexes, et même de créer leurs propres outils sans micro-gestion humaine stricte. Ils réussissent parce qu'ils ont la liberté d'explorer des chemins détournés.

Considérons un cas limite dans un flux de travail d'admission médicale : si nous contraignons rigidement un agent de santé à suivre uniquement un flux de planification prédéfini, il échoue dans le monde réel. Si un patient mentionne une douleur thoracique au milieu de cette admission, la Boucle Agentique de l'agent doit avoir l'autonomie de reconnaître instantanément l'urgence, d'abandonner le flux de planification et de déclencher une escalade de sécurité. Il devrait utiliser ce que nous avons précédemment défini comme un Token Sans Réponse pour supprimer les discussions de réservation et acheminer le contexte directement vers une infirmière humaine. Les prototypes rigoureusement contraints échouent spectaculairement à ce test car ils ne peuvent pas s'adapter à un contexte critique et hors limites.

La recherche d'objectifs infinis est coûteuse

Bien que fournir de l'agence soit essentiel pour découvrir une solution initialement, effectuer une recherche ouverte complète pour chaque demande de flux de travail utilisateur peut entraîner une consommation massive et insoutenable de tokens. À ce stade, l'agent a trouvé un chemin valide et cette approche lui permet intrinsèquement de réexplorer ou de "halluciner" la structure du flux de travail. Bien que cela puisse être auto-correcteur, de telles exécutions subséquentes d'une demande similaire détruisent l'économie des tokens des entreprises.

Par exemple, le routage des flux de travail d'admission médicale et même les cas limites qui nécessitent une escalade peuvent être appris au fil du temps. Les flux de travail d'une clinique ou d'un fournisseur de solutions évolueront vers des chemins déterministes dans la plupart des cas, laissant une certaine autonomie réservée uniquement aux rares cas particuliers et complexes.

Solutions architecturales par engagement précoce et replay déterministe

L'engagement précoce a montré des promesses dans la résolution de problèmes structurés et peut également être appliqué aux flux de travail agentiques. Cela implique de classer le problème d'abord, par exemple en structurant l'invite système pour exiger que le modèle génère une étiquette de classification spécifique. En forçant un agent à classifier le type de problème et à établir des contraintes avant de générer la logique d'exécution, vous empêchez l'agent d'halluciner ou d'explorer des chemins sans issue. Cela élimine le bruit et concentre l'agent uniquement sur l'exécution plutôt que sur une exploration continue.

Par exemple, dans un flux de travail de triage en télésanté, nous pouvons imposer l'engagement précoce en exigeant que l'agent classe définitivement la rencontre comme un "renouvellement d'ordonnance de routine" avant de prendre toute mesure. Une fois engagé dans cette contrainte spécifique, l'agent restreint ses appels d'outils strictement à la base de données de la pharmacie, contournant complètement les coûteux chemins de raisonnement diagnostique ouverts qu'il pourrait autrement explorer pour essayer de diagnostiquer un patient.

Une étude récente de Wang, X., et al. introduit le LOOP Skill Engine Framework, qui élève l'engagement précoce au niveau de l'infrastructure en utilisant un paradigme d'enregistrement unique et de replay déterministe. L'agent peut explorer de manière autonome une fois en utilisant un raisonnement complet, et le système compile ensuite cette trace réussie en une recette sans branche. Pour toutes les exécutions futures, le LLM peut être contourné, garantissant un déterminisme d'exécution et réduisant l'utilisation des tokens de plus de 93,3% pour les tâches quotidiennes, et jusqu'à 99,98% pour les exécutions à haute fréquence. Ce concept peut être étendu aux flux de travail agentiques.

Considérons la génération de rapports de conformité quotidiens de clinique ou de résumés standard de sortie d'hôpital, qui sont des tâches très stables et répétitives. En commençant par une approche exploratoire puis en passant rapidement à un cadre déterministe, un agent doit raisonner à travers l'extraction de données complexes du Dossier de Santé Électronique exactement une fois. Pour les cent patients suivants sortis avec la même procédure, le système exécute cette recette exacte sans branche, remplaçant de manière fiable les signes vitaux et les dates du nouveau patient sans jamais invoquer le LLM. Cela garantit zéro donnée hallucinée sur des tâches de santé répétitives tout en maximisant l'efficacité des tokens.

Les praticiens en ML doivent faire le choix entre un replay déterministe pur (comme LOOP) qui maximise les économies de tokens, et une approche hybride (stockant le chemin exploré dans un fichier SKILL.md). L'approche hybride échange une partie de ces économies de tokens contre un raisonnement à travers un chemin guidé qui est hautement optimal, tout en laissant suffisamment de flexibilité pour s'adapter de manière autonome à un cadre sous-jacent changeant. Que ce fichier de compétence soit mis à jour manuellement ou par un mécanisme autonome d'auto-amélioration, préserver cette marge de raisonnement garantit l'adaptabilité et la robustesse à long terme. Par exemple, si la structure de la base de données change, l'agent est capable de mettre à jour les requêtes SQL et d'extraire les informations.

Conclusion : Le pipeline ML Explore-Commit-Measure

Les ingénieurs en ML et les chefs de produit doivent adapter leurs applications pour tirer parti de l'immense intelligence des agents autonomes et adopter des harnachements d'agents non contraints pour la découverte initiale de problèmes et les cas particuliers complexes. Cela permet d'obtenir des solutions optimales sans exécuter un coûteux cycle d'apprentissage par renforcement (souvent bloqué par un manque d'expertise, des contraintes de plateforme, des coûts de formation ou des modèles fermés).

Une fois que nous avons trouvé un chemin presque optimal, l'économie des tokens pour les tâches structurées et répétitives exige que nous imposions un engagement précoce dans la conception des invites, en utilisant des architectures de replay déterministe pour mettre en cache le chemin d'exécution.

À mesure que les produits agentiques se développent, nous devons déplacer les métriques opérationnelles loin des simples taux de réussite des tâches, en nous orientant plutôt vers l'efficacité des tokens et la valeur par token généré.