Mémoire des agents IA : révolution dans l'interaction cognitive

Ce que signifie la mémoire des agents

La mémoire des agents IA est une capacité cruciale qui permet à un agent de stocker des informations, de les rappeler ultérieurement et de les utiliser pour améliorer ses réponses ou actions futures. Cette fonctionnalité permet à l'agent de se souvenir des expériences passées, de maintenir le contexte, de reconnaître des motifs utiles et de s'adapter au fil des interactions.

Pour les modèles de langage de grande taille (LLM), cette mémoire n'est pas automatique. Par défaut, ces modèles fonctionnent principalement avec les entrées disponibles dans la fenêtre de contexte actuelle. Ainsi, la mémoire doit être ajoutée comme une couche de conception distincte autour du modèle. Cette couche est responsable de déterminer ce qui doit être enregistré, comment cela doit être organisé et quand cela doit être récupéré.

Dans un simple chatbot, la mémoire peut signifier garder les derniers messages de la conversation. Cependant, dans un agent IA plus avancé, la mémoire peut inclure les préférences des utilisateurs, les actions passées, l'historique des tâches, les résultats des outils, les décisions, les erreurs et les faits appris. Cela aide l'agent à ne pas repartir de zéro à chaque fois.

Par exemple, un assistant de déploiement peut se souvenir qu'un utilisateur travaille sur le service api-gateway. Il peut également se rappeler que les déploiements en production nécessitent une approbation le vendredi. Lorsque l'utilisateur demande plus tard : « Puis-je déployer aujourd'hui ? », l'agent peut utiliser cette information stockée pour donner une réponse plus utile.

Ainsi, la mémoire des agents n'est pas simplement un stockage. C'est un processus complet où chaque étape compte. Un bon système de mémoire doit stocker des informations utiles, récupérer uniquement ce qui est pertinent et garder la réponse finale ancrée dans un contexte fiable. C'est pourquoi la mémoire des agents doit être considérée comme une partie intégrante de la conception du système, et non comme une simple fonctionnalité de base de données.

Types de mémoire : de la science cognitive aux agents IA

La mémoire des agents IA est plus facile à comprendre lorsque nous la relions à la mémoire humaine. En science cognitive, la mémoire est divisée en différents systèmes car chaque système a un but différent. La même idée s'applique aux agents IA. Un agent bien conçu ne devrait pas stocker chaque mémoire au même endroit. Il devrait utiliser différents types de mémoire pour différentes tâches.

• Mémoire à court terme : Elle gère la tâche actuelle en utilisant des messages récents, des notes temporaires, des résultats d'outils ou l'objectif actuel. Elle est généralement mise en œuvre à travers un tampon rotatif, un état de conversation ou une fenêtre de contexte.

• Mémoire à long terme : Cette mémoire stocke des informations à travers les sessions, telles que les préférences des utilisateurs, les interactions passées, les politiques, les documents ou les faits appris. Elle est souvent mise en œuvre à l'aide de bases de données, de graphes de connaissances, d'embeddings vectoriels ou de magasins persistants.

• Mémoire épisodique : Elle enregistre des événements passés spécifiques, y compris les actions des utilisateurs, les appels d'outils, les décisions et les résultats. Elle aide à l'auditabilité, au débogage et à l'apprentissage à partir de cas précédents.

• Mémoire sémantique : Cette mémoire stocke des connaissances réutilisables telles que des faits, des règles, des préférences et des concepts. Par exemple, « Les déploiements en production le vendredi nécessitent une approbation » est une mémoire sémantique car elle peut guider les réponses futures.

Un moyen simple de comparer ces types de mémoire est présenté ci-dessous :

| Exemple d'agent IA | Mémoire à court terme | Mémoire à long terme | Mémoire épisodique | Mémoire sémantique | |---------------------|-----------------------|----------------------|---------------------|---------------------| | | Contexte actuel et échanges récents | Informations sauvegardées à travers les sessions | Événements et résultats spécifiques | Faits, règles et concepts | | | Derniers messages de l'utilisateur | Profil utilisateur ou historique de projet | « L'utilisateur a demandé une approbation de déploiement hier » | « Les déploiements de production le vendredi nécessitent une approbation SRE » |

Architecture de la mémoire des agents et flux de données

Après avoir compris les types de mémoire, l'étape suivante consiste à voir comment ils fonctionnent ensemble à l'intérieur d'un agent IA. Un bon système de mémoire ne stocke pas tout au même endroit. Il sépare la mémoire en couches et déplace les informations avec soin entre elles.

L'agent reçoit l'entrée de l'utilisateur, utilise la mémoire à court terme pour la conversation actuelle et récupère la mémoire à long terme pertinente lorsque cela est nécessaire. Après avoir répondu ou agi, il peut enregistrer l'interaction comme mémoire épisodique. Au fil du temps, les informations importantes ou répétées peuvent devenir de la mémoire sémantique.

Ce flux maintient l'agent utile sans surcharger la fenêtre de contexte. Étant donné que les LLMs ne se souviennent pas de tout entre les sessions par défaut, la mémoire doit être ajoutée autour du modèle. Un bon système stocke uniquement les informations utiles et récupère uniquement ce qui est pertinent.

Dans cette architecture, la mémoire à court terme soutient la tâche actuelle. La mémoire épisodique enregistre ce qui s'est passé. La mémoire sémantique stocke des faits, des règles et des préférences stables. La mémoire à long terme relie ces couches et rend les informations utiles disponibles lors des sessions futures.

Un pipeline pratique de mémoire d'agent suit généralement ces étapes :

• L'utilisateur envoie une requête : « Puis-je déployer aujourd'hui ? »

• Mémoire à court terme : l'agent vérifie le contexte récent : l'utilisateur travaille sur api-gateway.

• L'agent recherche la mémoire stockée : les déploiements du vendredi nécessitent une approbation.

• L'agent combine la requête et la mémoire : aujourd'hui est vendredi, une approbation est nécessaire.

• L'agent donne une réponse : « Vous pouvez déployer uniquement après l'approbation de SRE. »

• L'interaction est enregistrée : l'utilisateur a demandé une approbation de déploiement le vendredi.

• Des faits stables peuvent être sauvegardés : les déploiements de production du vendredi nécessitent une approbation.

Cette conception garde le système propre. Les événements bruts sont d'abord stockés. Les connaissances stables sont créées plus tard. L'agent récupère uniquement les mémoires les plus pertinentes au lieu de placer toutes les données passées dans l'invite. Cela rend le système plus rapide, plus facile à évaluer et plus sûr à gérer.