Optimiser la mémoire IA : l'arbre de décision essentiel

Choisir la bonne stratégie de mémoire pour un agent IA

Dans le domaine de l'intelligence artificielle, déterminer la stratégie de mémoire optimale pour un agent est une tâche cruciale. Cet article détaille comment un arbre de décision peut être utilisé pour sélectionner la meilleure approche, en analysant chaque type d'information séparément.

Les différents types de mémoire d'agent

Les agents IA s'appuient sur quatre types de mémoire : la mémoire de travail, la mémoire sémantique, la mémoire épisodique et la mémoire procédurale. Chacune de ces mémoires a des caractéristiques spécifiques concernant les informations qu'elles contiennent.

• Mémoire de travail : Elle gère les informations pertinentes pour le moment présent, en se basant sur une conversation active et un budget de jetons limité. Elle permet de résumer ou de raccourcir des échanges antérieurs sans perdre des éléments essentiels pour l'agent.

• Mémoire sémantique : Cette mémoire stocke des informations stables et réutilisables, telles que le nom d'un utilisateur, son rôle ou sa langue préférée. Elle inclut également des connaissances de domaine comme les règles commerciales ou les spécifications des produits.

• Mémoire épisodique : Elle conserve l'historique des événements passés, comme les décisions prises, les plaintes enregistrées ou les transactions effectuées, qui peuvent influencer les interactions futures.

• Mémoire procédurale : Elle est conçue pour améliorer l'efficacité de l'agent en répétant des tâches similaires, afin que l'agent devienne plus rapide ou plus fiable à chaque tentative.

Ces différentes couches de mémoire répondent à des besoins variés en matière d'information, ce qui explique pourquoi la plupart des agents de production utilisent plusieurs types de mémoire simultanément.

L'arbre de décision pour la stratégie de mémoire

Pour choisir la bonne stratégie de mémoire, un arbre de décision en cinq questions est utilisé. Cet arbre aide à déterminer les besoins spécifiques d'une catégorie d'information donnée. Chaque catégorie, comme le "ticket actuel" d'un agent de support ou l'"historique des plaintes", peut nécessiter une approche différente.

Question 1 : L'information doit-elle persister au-delà du tour actuel ?

• Autonome, sans continuité nécessaire : Cela concerne les demandes de classification uniques ou les sorties intermédiaires d'un outil pour répondre à une question actuelle.

• Doit être conservée, mémoire requise : Par exemple, un problème résolu par un agent de support ou l'état d'un projet de codage en cours.

Si l'information est autonome, aucune mémoire n'est nécessaire. Si elle doit être conservée, on passe à la Question 2.

Question 2 : Doit-elle survivre au-delà d'une seule session ?

• Uniquement dans la session : Cela inclut ce qui a été demandé, les outils utilisés ou les problèmes résolus. Un tampon de conversation suffit, maintenu par un résumé ou une réduction. La gestion de la mémoire basée sur la session dans le SDK OpenAI Agents gère cela directement.

• Au-delà de la session : Les préférences d'un client de retour ou l'état d'un projet en cours nécessitent une mémoire au-delà de la session.

Si seule la continuité au sein de la session est nécessaire, la mémoire de travail est suffisante. Sinon, on passe à la Question 3.

⚠️ Une erreur de conception courante consiste à mal assortir l'information à sa durée de vie, soit en traitant un état limité à la session comme permanent, soit en construisant une infrastructure de mémoire persistante pour des informations qui n'ont besoin d'exister que pendant une conversation.

Question 3 : S'agit-il d'un fait stable ou d'un événement évolutif ?

Cette question est cruciale pour éviter de mélanger des informations de nature différente dans le même stockage.

• Faits stables (mémoire sémantique) : Inclut des éléments comme un nom, un niveau d'abonnement ou une adresse de livraison par défaut.

• Événements évolutifs (mémoire épisodique) : Comprend des plaintes passées, des décisions de projet ou des modèles de comportement.

Les faits stables sont stockés dans un magasin de connaissances persistantes, tandis que les événements évolutifs sont enregistrés dans un journal. Certains cadres intègrent directement la dimension temporelle dans leur couche de stockage. Par exemple, Zep modélise les faits sur un graphe de connaissances où chaque fait porte une fenêtre de validité, de sorte qu'un fait remplacé soit invalidé plutôt que de rester silencieusement en contradiction avec le fait plus récent.

Question 4 : Comment cette mémoire sera-t-elle récupérée ?

La méthode de récupération dépend de la taille et de la structure du magasin de mémoire.

• Magasin petit et limité : Lire l'ensemble du magasin au début d'une session est possible. L'outil de mémoire d'Anthropic fonctionne de cette manière car le magasin reste suffisamment petit pour qu'une lecture complète soit peu coûteuse.

• Magasin large et searchable : Utiliser la recherche sémantique ou hybride pour récupérer les entrées pertinentes. La Banque de Mémoire de Google est conçue pour cette échelle, et des cadres de mémoire comme Mem0 offrent une approche comparable, indépendante du fournisseur, que vous pouvez utiliser avec des cadres comme LangGraph ou CrewAI.

Il est courant qu'un agent ait besoin des deux modèles de récupération à la fois : un profil de lecture complète pour un petit magasin sémantique, aux côtés d'une recherche par similarité sur un plus grand journal épisodique ou une base de connaissances sémantique.

Une fois que la récupération correspond à la taille et à la structure réelles de chaque magasin, passez à la Question 5.

Question 5 : L'agent doit-il apprendre des procédures réutilisables ?

La mémoire procédurale intervient ici, en complément des mémoires sémantique et épisodique.

• Tâches récurrentes : Elles devraient être stockées dans la mémoire procédurale pour améliorer l'efficacité de l'agent.

• Tâches uniques : La mémoire sémantique ou épisodique choisie précédemment est suffisante.

Le module de mémoire d'un agent, associé à ses couches de planification et d'outils, alimente le contexte appris pour élaborer des plans futurs. La clé est de décider ce qui est écrit, avec les journaux bruts capturant la mémoire épisodique et la mémoire procédurale stockant les routines apprises.

Les pièges courants et comment les corriger

Lors de la mise en œuvre de la mémoire d'un agent, plusieurs pièges peuvent survenir. L'un des plus courants est le mauvais appariement de la durée de vie de l'information avec sa mémoire, ce qui peut entraîner des inefficacités. Par exemple, traiter un état limité à la session comme permanent peut gaspiller des ressources, tandis que créer une infrastructure de mémoire persistante pour des informations éphémères est également inefficace. Pour corriger ces erreurs, il est essentiel de bien comprendre la nature de chaque type d'information et de l'associer à la mémoire appropriée.