ACE : des agents IA qui progressent en modifiant leur contexte

Le cadre ACE explore comment des agents à base de modèles de langage peuvent progresser sans toucher aux poids du modèle, en ajustant uniquement un playbook de contexte. Des tests signalent des gains de vitesse et de coût face à des approches existantes, mais aussi des écueils si le signal de retour est faible.

Risques identifiés et cas d’échec chiffré

Un cas observé sur AppWorld met en évidence la fragilité des réécritures complètes de contexte : un Dynamic Cheatsheet est passé de 18 282 tokens à 122 en une seule étape, et la précision rapportée a chuté de 66,7 % à 57,1 %. Il s'agit d'un exemple ponctuel d'échec, et non d'un taux représentatif. Plus largement, la mémoire seule ne suffit pas : la qualité et la solidité factuelle des mises à jour conditionnent les progrès, sans quoi des règles erronées risquent d'être apprises puis reproduites. Cette contrainte est particulièrement marquée lorsque les agents réutilisent des outils ou des règles de domaine que des prompts génériques pourraient oublier. La qualité du retour devient alors déterminante : le système doit d'abord détecter les sorties incomplètes pour pouvoir corriger. Un résultat sur FiNER sans étiquettes montre également qu'un retour faible peut polluer un playbook.

Ce que fait ACE au niveau du contexte, pas des poids

ACE évite les réécritures complètes en conservant le contexte sous forme d'entrées modulaires nommées, mises à jour après chaque tâche. La boucle fait intervenir un Générateur qui réalise la tâche en utilisant le playbook en place, un Réflecteur qui examine la tentative et le retour pour en tirer un enseignement, puis un Conservateur qui convertit cet enseignement en une mise à jour delta concise. Un mécanisme de fusion intègre cette mise à jour au playbook, sans modifier les poids du modèle. Le playbook conserve des règles sur l'emploi des outils, du code à réutiliser ainsi que des recommandations pour le dépannage ; chaque entrée est dotée d'un identifiant, de compteurs d'utilité ou de nocivité, et peut être ajoutée, modifiée, fusionnée ou supprimée en fonction du contexte évolutif. Un exemple donné concerne l'extraction de factures : si un champ next_page est détecté, une règle pertinente serait de continuer à le suivre jusqu'à ce qu'il soit vide avant de procéder à la totalisation. Cet exemple illustre la logique, sans correspondre à une exécution réelle.

Évaluations : modes hors ligne et en ligne, et gains mesurés

Les évaluations concernent l'adaptation hors ligne, où le playbook est élaboré avant la phase de test, ainsi que l'adaptation en ligne, lors de laquelle l'agent effectue une prédiction sur un élément avant de procéder à une mise à jour basée sur celui-ci. Ces évaluations sont réalisées notamment dans AppWorld, alors que la plupart des LLM proposant ces fonctionnalités n'en sont qu'à un stade initial et auraient besoin d'être évalués. Sur AppWorld, la version complète d'ACE surpasse les variantes privées d'adaptation multi-époques ou de Réflecteur dédié. En mode en ligne, l'ajout d'un échauffement hors ligne améliore aussi les performances. Des gains de rapidité ont été observés sur les charges testées : en hors ligne sur AppWorld, ACE prend beaucoup moins de temps que GEPA ; en ligne sur FiNER, ACE est nettement plus rapide et moins coûteux que Dynamic Cheatsheet.

Quand l’adopter et comment l’éprouver dans une application

ACE est particulièrement pertinent lorsque les tâches se répètent, que le succès est vérifiable et que de petites règles procédurales peuvent être transférées d'un cas à l'autre. Certaines tâches, comme HotPotQA ou Game of 24, peuvent toutefois se limiter à des règles concises. Pour évaluer ACE en pratique, il est recommandé de le comparer à une base de contexte fixe sur des jeux de tâches réservées, de suivre le taux de réussite, l'évolution du playbook et la fréquence à laquelle une règle se révèle ensuite nuisible. Le maintien d'un signal de retour explicite est conseillé. Le code fourni propose une implémentation et un format de playbook concrets pour faciliter ces essais.

Objectif d’ACE et positionnement face aux réécritures

ACE vise à transformer des expériences utiles en mises à jour traçables du contexte, afin d'améliorer ce que liront et feront les agents suivants. Les résultats indiquent des gains notables pour des tâches où la connaissance réutilisable et le retour sont essentiels. Le cadre se distingue des approches qui réécrivent tout le contexte, une pratique exposée au risque d'effacer des détails et qui exige une gestion minutieuse dans des environnements agentiques. Concrètement, ACE procède par petites mises à jour delta sur des entrées modulaires et maintient les poids du modèle inchangés. Sa boucle repose sur trois rôles — Générateur, Réflecteur et Conservateur — et s'accompagne d'une mécanique d'édition du playbook plutôt que d'une refonte totale.