PlugMem : révolutionner la mémoire IA avec des connaissances

Les agents d'intelligence artificielle (IA) modernes sont confrontés à un défi majeur : la gestion efficace de vastes quantités de données d'interaction. Ces agents stockent souvent de longues histoires d'interaction, mais peinent à les réutiliser de manière efficace. La récupération de mémoire brute peut submerger les agents avec un contexte long et peu pertinent. Pour répondre à ce problème, PlugMem propose une solution innovante en transformant l'historique des interactions en connaissances structurées et réutilisables. Ce module de mémoire polyvalent améliore les performances sur divers benchmarks d'agents tout en utilisant moins de tokens de mémoire.

Il peut sembler contre-intuitif, mais donner plus de mémoire aux agents IA peut en réalité les rendre moins efficaces. À mesure que les journaux d'interaction s'accumulent, ils deviennent volumineux, remplis de contenu non pertinent et de plus en plus difficiles à utiliser. Plus de mémoire signifie que les agents doivent parcourir des volumes plus importants d'interactions passées pour trouver des informations pertinentes pour la tâche actuelle. Sans structure, ces enregistrements mélangent des expériences utiles avec des détails non pertinents, rendant la récupération plus lente et moins fiable. Le défi n'est pas de stocker plus d'expériences, mais de les organiser afin que les agents puissent rapidement identifier ce qui est important à ce moment-là.

Dans notre récent article "PlugMem : Un module de mémoire de plugin agnostique aux tâches pour les agents LLM", nous introduisons un système de mémoire plug-and-play qui transforme les interactions brutes des agents en connaissances réutilisables. Plutôt que de traiter la mémoire comme du texte à récupérer, PlugMem organise cet historique en connaissances structurées conçues pour soutenir les décisions au fur et à mesure que l'agent agit.

La science cognitive offre un cadre utile ici. Elle distingue entre se souvenir d'événements, connaître des faits et savoir comment effectuer des tâches. Les événements passés fournissent un contexte, mais des décisions efficaces reposent sur les faits et les compétences extraits de ces événements. Cette distinction a motivé un changement dans la manière dont nous avons décidé de concevoir la mémoire pour les agents IA. PlugMem met en œuvre ce changement en convertissant l'historique d'interaction de l'agent, tel que les dialogues, les documents et les sessions web, en unités de connaissances structurées et compactes qui peuvent être réutilisées à travers les tâches.

Comment fonctionne PlugMem

Une différence clé entre PlugMem et les systèmes de mémoire IA conventionnels réside dans ce qui est stocké. Les approches traditionnelles stockent des morceaux de texte ou des entités nommées (références à des personnes, des lieux et des concepts). PlugMem utilise des faits et des compétences réutilisables comme éléments fondamentaux de la mémoire. Ce design réduit la redondance, augmente la densité d'information et améliore la précision de récupération. Il est construit autour de trois composants principaux :

• Structure. Les interactions brutes sont standardisées et transformées en connaissances propositionnelles (faits) et en connaissances prescriptives (compétences réutilisables). Ces unités de connaissance sont organisées en un graphique de mémoire structuré, permettant de stocker les connaissances sous une forme conçue pour la réutilisation.

• Récupération. Plutôt que de récupérer de longs passages de texte, PlugMem récupère des unités de connaissance alignées avec la tâche actuelle. Des concepts de haut niveau et des intentions inférées servent de signaux de routage, faisant ressortir les informations les plus pertinentes pour la décision à prendre.

• Raisonnement. Les connaissances récupérées sont distillées en conseils concis et prêts à l'emploi avant d'être transmises à l'agent de base, garantissant que seules les connaissances pertinentes pour la décision entrent dans la fenêtre de contexte de l'agent.

Une mémoire, n'importe quelle tâche

La plupart des systèmes de mémoire IA sont conçus pour un seul emploi. Un module de mémoire conversationnelle est conçu autour du dialogue. Un système de récupération de connaissances est optimisé pour rechercher des faits. La mémoire d'un agent web est optimisée pour naviguer sur des pages. Chacun fonctionne bien dans son cadre cible mais se transfère rarement sans une refonte significative.

PlugMem adopte une approche différente. C'est une couche de mémoire fondamentale qui peut être attachée à n'importe quel agent IA sans avoir besoin de le modifier pour une tâche spécifique.

Évaluation de PlugMem

Pour tester PlugMem, nous avons évalué le même module de mémoire sur trois benchmarks qui imposent chacun des exigences différentes en matière de mémoire :

• Répondre à des questions lors de longues conversations à plusieurs tours

• Trouver des faits qui s'étendent sur plusieurs articles de Wikipédia

• Prendre des décisions tout en naviguant sur le web

Dans les trois cas, PlugMem a constamment surpassé à la fois les méthodes de récupération génériques et les conceptions de mémoire spécifiques aux tâches, tout en permettant à l'agent IA d'utiliser un budget de tokens de mémoire significativement réduit dans le processus.

Mesurer la mémoire par utilité, pas par taille

Nous voulions évaluer si les bonnes informations parvenaient à l'agent au bon moment, sans submerger la fenêtre de contexte du modèle, qui a une capacité limitée. Pour ce faire, nous avons introduit une métrique qui mesure combien d'informations utiles et pertinentes pour la décision un module de mémoire contribue par rapport à la quantité de contexte qu'il consomme.

Lorsque nous avons tracé l'utilité par rapport à la consommation de contexte, PlugMem est systématiquement sorti vainqueur : il a fourni plus d'informations pertinentes pour la décision tout en consommant moins de la fenêtre de contexte de l'agent IA que d'autres approches. Ces résultats suggèrent que transformer l'expérience en connaissance — plutôt que de stocker et de récupérer des journaux bruts — produit une mémoire plus utile et efficace.

Pourquoi la mémoire polyvalente peut surpasser les conceptions spécifiques aux tâches

Les modules de mémoire polyvalents peuvent surpasser les systèmes adaptés à des tâches spécifiques parce que le facteur décisif n'est pas la spécialisation, mais la capacité de la mémoire à faire ressortir les bonnes connaissances précisément au moment où l'agent en a besoin. La structure, la récupération et le raisonnement jouent chacun un rôle distinct, et bien maîtriser les trois est plus important que d'optimiser pour un seul cas d'utilisation.

PlugMem n'est pas destiné à remplacer les approches spécifiques aux tâches. Il fournit une base de mémoire générale sur laquelle des adaptations spécifiques aux tâches peuvent être superposées. Nos expériences montrent que combiner PlugMem avec des techniques spécifiques aux tâches entraîne des gains supplémentaires.

Vers une mémoire réutilisable pour les agents

À mesure que les agents IA prennent en charge des tâches plus longues et plus complexes, leur mémoire doit évoluer d'un simple stockage des interactions passées à un approvisionnement actif en connaissances réutilisables. L'objectif est que les agents portent des faits utiles et des stratégies d'une tâche à l'autre plutôt que de recommencer à zéro à chaque fois.

PlugMem représente un pas dans cette direction, ancrant la conception de la mémoire dans des principes cognitifs et traitant la connaissance comme l'unité principale de réutilisation. À mesure que les capacités des agents s'élargissent, une mémoire centrée sur la connaissance pourrait s'avérer être un élément clé pour la prochaine génération d'agents intelligents.