Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Les défis de la sélection d'outils dans les agents d'IA
L'intégration d'un grand nombre d'outils dans les agents d'intelligence artificielle, bien qu'utile en théorie, peut entraîner une baisse de précision significative. En effet, chaque outil, avec son nom, sa description et ses paramètres, est présenté au modèle à chaque requête, qu'il soit utilisé ou non. Lorsque le nombre d'outils dépasse cinquante, cela peut consommer entre cinq et sept pour cent du contexte du modèle. Ce phénomène encombre l'espace de raisonnement et l'historique de la conversation, ce qui est crucial pour la tâche en cours.
Un autre problème majeur est l'effet de "perdu au milieu", où les informations situées au début et à la fin d'une fenêtre de contexte sont mieux retenues par les modèles que celles enfouies au milieu. Ainsi, l'outil le plus pertinent pour une tâche peut être négligé si sa définition se trouve dans cette zone "morte". Le modèle n'ignore pas cet outil par manque de capacité de raisonnement, mais parce que son attention est détournée par la structure même de l'information.
L'hallucination d'outils : un échec critique
L'hallucination d'outils est un autre problème grave qui survient lorsque l'attention d'un modèle de langage se disperse sur trop d'outils aux noms similaires. Cela peut conduire à l'invention de noms d'outils inexistants ou à l'utilisation incorrecte d'un outil avec des arguments empruntés à un autre. Ce type d'erreur est critique, car il n'existe pas de manière "légèrement incorrecte" d'appeler une fonction qui n'existe pas.
Selon OpenAI, le nombre maximal d'outils qu'un agent peut gérer est de 128, mais une dégradation des performances est souvent observée bien avant d'atteindre cette limite. De nombreuses équipes constatent une baisse de précision dès qu'elles dépassent 15 à 20 outils en utilisation active. La solution n'est pas d'augmenter la taille de la fenêtre de contexte, mais de mieux contrôler ce que le modèle voit en premier lieu.
Gating : la première ligne de défense
Avant de choisir quel outil utiliser, il est judicieux de se demander si un outil est nécessaire pour la tâche en cours. Une proportion significative des interactions avec les agents d'IA est purement conversationnelle, comme des remerciements ou des demandes de clarification. Dans ces cas, exécuter un processus complet de récupération et de sélection d'outils est inutilement coûteux.
Le gating est une méthode efficace pour éviter cela. Il s'agit d'un classificateur rapide et peu coûteux qui détermine si le pipeline complet de sélection d'outils doit être exécuté. Parfois, il s'agit d'un simple modèle ou d'un appariement de motifs qui s'exécute avant toute opération coûteuse.
Exemple de mise en œuvre du gating
import re
CONVERSATIONAL_PATTERNS = [
r"^\s*(thanks|thank you|thx|ok|okay|cool|got it|sounds good|sure|great)\b",
r"^\s*(hi|hello|hey|good morning|good evening)\b",
r"^\s*what do you mean\b",
r"^\s*can you (clarify|explain that)\b",
]
ACTION_KEYWORDS = [ "send", "create", "search", "find", "look up", "schedule", "book", "read", "write", "query", "summarize", "translate", "check", ]
def gate(query: str) -> dict: q_lower = query.strip().lower()
for pattern in CONVERSATIONAL_PATTERNS:
if re.match(pattern, q_lower):
return {"tool_needed": False, "reason": "conversational_pattern", "tier": 1}
has_action_keyword = any(kw in q_lower for kw in ACTION_KEYWORDS)
if not has_action_keyword and len(q_lower.split()) < 5:
return {"tool_needed": False, "reason": "short_with_no_action_keyword", "tier": 2}
return {"tool_needed": True, "reason": "action_keyword_or_long_query", "tier": 2}
if name == "main": test_queries = [ "thanks!", "What's the weather like in Lagos today?", "ok", "Can you send an email to the sales team about the delay?", ] for q in test_queries: result = gate(q) print(f"'{q}' -> tool_needed={result['tool_needed']} ({result['reason']})")
Ce processus est peu coûteux et permet de filtrer efficacement une part significative des interactions avant qu'elles n'atteignent les étapes plus coûteuses du pipeline. Si même 20 à 30 % des interactions sont conversationnelles, le gating peut immédiatement réduire la latence et les coûts en tokens.
## La récupération pour une sélection d'outils optimisée
La récupération est une technique éprouvée pour améliorer la sélection d'outils. Plutôt que d'envoyer chaque définition d'outil à chaque appel, les descriptions d'outils sont indexées dans un magasin vectoriel. La requête entrante est intégrée, et seuls les outils les plus pertinents sont récupérés et envoyés au modèle.
Le cadre [RAG](/glossaire/rag)-MCP est une implémentation de référence de cette approche, utilisant la récupération sémantique pour identifier les outils les plus pertinents pour une requête avant que le modèle ne voie le catalogue complet. Les résultats sont significatifs : la précision de la sélection d'outils est passée de 13,62 % avec le catalogue complet à 43,13 % avec une sélection filtrée, tout en réduisant les tokens de prompt de plus de 50 % sur les mêmes tâches de référence.
## Routage et planification : affiner la sélection d'outils
Outre le gating et la récupération, le routage et la planification sont des techniques essentielles pour réduire le nombre d'outils visibles par le modèle. Le routage consiste à diriger les requêtes vers des sous-ensembles d'outils spécialisés en fonction de la nature de la tâche. Par exemple, une requête liée à la gestion des emails pourrait être automatiquement dirigée vers un ensemble d'outils dédiés à cette fonction, réduisant ainsi le bruit et améliorant la précision.
La planification, quant à elle, implique de structurer les étapes de traitement de manière à ce que chaque étape utilise uniquement les outils nécessaires. Cela permet de minimiser l'encombrement et d'optimiser l'efficacité du modèle.
## Construire une logique de secours et un banc d'essai
Pour s'assurer de l'efficacité des techniques mises en œuvre, il est crucial de développer une logique de secours et un banc d'essai. La logique de secours permet de gérer les cas où le modèle échoue à sélectionner le bon outil, en fournissant une alternative ou un processus de récupération. Le banc d'essai, quant à lui, sert à mesurer et à évaluer l'efficacité des solutions adoptées, garantissant ainsi une amélioration continue et une adaptation aux besoins changeants des utilisateurs.
