Quelle est la différence entre la mémoire d’un agent et le contexte RAG ?

La mémoire de l’agent préserve l’état réutilisable issu des interactions précédentes, tandis que le contexte RAG récupère des informations étayées par des sources pour répondre à la question posée maintenant.

Sur un serveur d’IA domestique, les deux peuvent sembler trompeusement similaires, car ils peuvent tous deux être stockés localement, recherchés sémantiquement et insérés dans le même prompt du modèle. Une préférence mémorisée telle que « utiliser les degrés Celsius » et un passage de manuel récupéré peuvent tous deux influencer une réponse, mais ils ne devraient pas être soumis aux mêmes règles d’écriture, au même niveau d’autorité, à la même durée de vie ni à la même gestion des erreurs. La distinction utile ne tient pas à l’emplacement du texte dans le prompt, mais à la raison pour laquelle l’information existe et à ce qui est autorisé à la modifier.

La mémoire de l’agent préserve l’état des interactions ; le contexte RAG fournit des éléments probants externes

La mémoire de l’agent sert à conserver un état utile au-delà du moment où il a été créé. Cet état peut inclure une préférence de l’utilisateur, une correction, une tâche inachevée, une contrainte récurrente ou un autre fait qui doit influencer les interactions ultérieures sans obliger l’utilisateur à le reformuler à chaque fois.

La mémoire à long terme est donc organisée autour de la persistance entre les conversations ou les exécutions, souvent avec une portée définie par l’utilisateur, l’agent, l’application ou la tâche. Sa propriété essentielle est la continuité : une demande ultérieure peut récupérer un état créé lors d’une interaction précédente et le réutiliser lorsque la même personne ou le même workflow revient.

Le contexte RAG sert un objectif différent. La récupération sélectionne des passages dans une source de connaissances externe parce que la question actuelle nécessite des éléments probants qui ne sont pas déjà présents dans le contexte actif du modèle. Le texte récupéré peut provenir d’un manuel, d’une note, d’une politique, d’une transcription, d’une base de données ou d’une autre source indexée dont l’autorité est indépendante de la conversation.

Les deux couches peuvent contribuer à fournir du texte utile dans un même prompt, mais elles représentent des affirmations différentes. « Le foyer préfère un matériel silencieux » est un état déduit des interactions ; « ce disque est conçu pour fonctionner dans une plage de températures donnée » doit rester rattaché à la source qui l’énonce.

Le chemin d’écriture constitue la frontière pratique la plus importante

Un système de mémoire d’agent doit décider quels détails d’une interaction méritent de devenir un état réutilisable. Une correction directe de l’utilisateur, une instruction temporaire d’un invité, une inférence du modèle et un résultat d’outil peuvent tous apparaître dans une même conversation, mais leur promotion en mémoire durable entraîne des conséquences très différentes par la suite.

Les systèmes de mémoire ont donc besoin d’opérations permettant d’ajouter, de mettre à jour, de rechercher et de supprimer les informations enregistrées. Une fois que des faits issus des interactions deviennent un état persistant, la portée et les règles de correction sont importantes, car la même mémoire peut être rappelée à plusieurs reprises lors de futures sessions.

C’est pourquoi une inférence fragile devient plus dangereuse après avoir été enregistrée comme état durable et récupérée à plusieurs reprises. L’étape de récupération n’est pas, à elle seule, le problème fondamental ; la transition importante est que des éléments d’interaction incertains ont reçu une durée de vie plus longue et suffisamment d’autorité pour continuer à influencer les comportements ultérieurs.

L’ingestion RAG suit un autre cycle de vie. Un fichier source est analysé, divisé en unités de récupération, indexé, puis actualisé ou retiré lorsque la source sous-jacente change. Le système ne devrait pas avoir à réécrire la mémoire personnelle de l’agent simplement parce qu’un manuel, une politique ou un document de projet a reçu une nouvelle révision.

Le contexte RAG conserve un lien avec une source que la mémoire ne partage pas nécessairement

Le RAG est utile, car le passage récupéré peut rester lié à une source externe au lieu de devenir un fait intraçable au sein du modèle. Une base de connaissances privée peut conserver les identifiants des documents, les métadonnées de révision, les horodatages, les autorisations et la provenance des segments, afin que la réponse puisse être évaluée par rapport au contenu qui l’a fournie.

La récupération au moment de la requête repose sur la recherche de connaissances externes pertinentes et l’insertion des passages sélectionnés dans le contexte du modèle. Le modèle reçoit ces passages pour la requête actuelle, mais le corpus source reste extérieur à la conversation et peut être mis à jour indépendamment.

Cette séparation devient importante lorsque deux versions du même fichier existent. La similarité sémantique peut classer les deux versions très haut, de sorte que l’actualité de la source et son remplacement doivent déterminer quelle version est valide pour une question portant sur l’état actuel, au lieu de permettre à un ancien passage de rester faisant autorité simplement parce qu’il constitue une forte correspondance lexicale ou sémantique.

La mémoire des agents peut également conserver la provenance, mais son rôle fondamental est différent. Elle stocke un état réutilisable des interactions ; le RAG maintient une relation récupérable avec un corpus source dont les documents peuvent avoir leurs propres propriétaires, historiques de révision, règles d’accès et politiques de conservation.

-15% OFF

ZimaBoard 2 - Mini serveur domestique pour votre grande idée

Single board computer zimaboard2

$339.00 - $519.00

Buy Now

Les deux couches peuvent utiliser des embeddings et une recherche vectorielle sans devenir le même système

La technologie de stockage ne définit pas la frontière, car la mémoire des agents et le RAG peuvent tous deux utiliser des embeddings, des bases vectorielles, un réordonnancement, des filtres de métadonnées ou une recherche hybride. Un enregistrement de mémoire peut être transformé en embedding afin qu’une requête ultérieure puisse rappeler une préférence sémantiquement liée, tandis qu’un fragment de document peut être transformé en embedding afin qu’une requête actuelle puisse trouver les éléments sources pertinents.

La recherche sémantique dans les souvenirs stockés montre que la récupération peut faire partie d’une implémentation de mémoire. Le même mécanisme de recherche des plus proches voisins peut donc se trouver sous deux enregistrements qui exigent des règles totalement différentes en matière de cycle de vie et d’autorité.

La question de la classification devrait plutôt porter sur la raison pour laquelle l’enregistrement a été créé, les personnes autorisées à le modifier, la durée pendant laquelle il doit être conservé et le type d’affirmation qu’il peut étayer. Une préférence utilisateur et un paragraphe de manuel peuvent occuper des vecteurs voisins tout en appartenant à des domaines différents en matière de confiance et de conservation.

Cela explique également pourquoi un seuil de similarité universel ne suffit pas. Une mémoire peut être très pertinente, mais associée à tort à un autre membre du foyer, tandis qu’un passage documentaire peut être très pertinent, mais remplacé par une révision plus récente.

Les modes d’échec divergent parce que les sources de vérité divergent

Les défaillances de la mémoire commencent généralement par un état qui n’aurait pas dû être enregistré, qui l’a été sous la mauvaise identité ou dans le mauvais périmètre, qui a été déduit de manière trop hâtive ou qui n’a jamais été corrigé lorsque les circonstances ont changé. Il en résulte une continuité appliquée aux mauvaises informations : une erreur perdure précisément parce que la mémoire fait son travail en maintenant l’état dans le temps.

Les échecs du RAG surviennent plus souvent lors de l’ingestion et de la récupération. Un fichier peut ne jamais être indexé, l’OCR peut endommager un tableau, le découpage peut séparer un qualificatif de l’énoncé qu’il modifie, les métadonnées peuvent sélectionner la mauvaise révision, ou la récupération peut classer un passage proche avant les éléments de preuve qui répondent réellement à la question.

La mesure corrective diffère donc. Une mauvaise mémoire peut devoir être mise à jour, supprimée, limitée à un autre périmètre ou empêchée d’être enregistrée à nouveau, tandis qu’une mauvaise réponse RAG peut nécessiter de corriger l’extraction, de réindexer le corpus, de modifier la logique de récupération ou de sélectionner une source faisant davantage autorité.

La confiance doit également rester distincte. La pertinence ne prouve l’autorité dans aucune des deux couches : un souvenir rappelé peut être sémantiquement parfait, mais erroné, et un passage récupéré peut correspondre étroitement à la question tout en décrivant un état obsolète.

Un assistant local fonctionne mieux lorsque les deux couches conservent une autorité distincte

Un assistant domestique utile peut combiner les deux couches sans les fusionner en un ensemble indifférencié. La mémoire peut fournir des contraintes d’interaction stables, comme les unités préférées, les flux de travail récurrents ou les choix confirmés du foyer, tandis que le RAG fournit des éléments de preuve issus des fichiers et des bases de données pertinents pour la tâche actuelle.

Par exemple, une demande de configuration d’un serveur multimédia pourrait utiliser la mémoire pour conserver la préférence du foyer en matière de faible niveau sonore et de comptes locaux uniquement, puis utiliser la recherche sémantique pour retrouver les exigences actuelles de l’application et les notes de configuration. La réponse devient personnalisée sans permettre à la préférence mémorisée de remplacer les éléments techniques issus des sources.

Lorsque les deux divergent, le système a besoin d’une règle d’autorité plutôt que d’un autre score de similarité. Les instructions explicites et actuelles de l’utilisateur peuvent remplacer les préférences mémorisées, les révisions actuelles des sources peuvent remplacer les passages RAG obsolètes, et les résultats d’outils en temps réel peuvent primer sur la mémoire et les documents lorsque la question porte sur l’état changeant d’un appareil.

La bonne architecture n’oppose donc pas la mémoire au RAG. Elle repose sur une composition contrôlée : conserver en mémoire l’état d’interaction réutilisable, récupérer les éléments de preuve externes via le RAG, préserver la provenance des deux, et déterminer explicitement quelle couche fait autorité pour chaque type d’affirmation.