Was ist der Unterschied zwischen dem Gedächtnis eines Agenten und dem RAG-Kontext?

Der Agentenspeicher bewahrt wiederverwendbaren Zustand aus früheren Interaktionen, während der RAG-Kontext quellenbasierte Informationen für die jetzt zu beantwortende Frage abruft.

Auf einem Heimserver für KI können die beiden Ebenen täuschend ähnlich wirken, da beide lokal gespeichert, semantisch durchsucht und in denselben Modell-Prompt eingefügt werden können. Eine gespeicherte Präferenz wie „Celsius verwenden“ und eine abgerufene Passage aus einem Handbuch können zwar dieselbe Antwort beeinflussen, sollten jedoch nicht denselben Regeln für das Speichern, derselben Autorität, Lebensdauer oder Fehlerbehandlung unterliegen. Die nützliche Unterscheidung besteht nicht darin, wo der Text im Prompt steht, sondern darin, warum die Information existiert und was sie verändern darf.

Der Agentenspeicher bewahrt den Interaktionszustand; der RAG-Kontext liefert externe Belege

Der Agentenspeicher dient dazu, nützlichen Zustand über den Moment seiner Erstellung hinaus zu bewahren. Dieser Zustand kann eine Benutzerpräferenz, eine Korrektur, eine unerledigte Aufgabe, eine wiederkehrende Einschränkung oder eine andere Tatsache umfassen, die spätere Interaktionen beeinflussen sollte, ohne dass der Benutzer sie jedes Mal erneut angeben muss.

Langzeitgedächtnis ist daher um die dauerhafte Speicherung über Unterhaltungen oder Ausführungen hinweg organisiert, häufig mit dem Geltungsbereich eines Benutzers, Agents, einer Anwendung oder Aufgabe. Die entscheidende Eigenschaft ist Kontinuität: Eine spätere Anfrage kann Zustand wiederherstellen, der während einer früheren Interaktion erstellt wurde, und ihn erneut verwenden, wenn dieselbe Person oder derselbe Workflow zurückkehrt.

Der RAG-Kontext dient einem anderen Zweck. Die Suche wählt Passagen aus einer externen Wissensquelle aus, weil die aktuelle Frage Belege benötigt, die im aktiven Modellkontext noch nicht vorhanden sind. Der abgerufene Text kann aus einem Handbuch, einer Notiz, einer Richtlinie, einem Transkript, einer Datenbank oder einer anderen indexierten Quelle stammen, deren Autorität unabhängig von der Unterhaltung besteht.

Beide Ebenen können nützlichen Text zum selben Prompt beitragen, stellen aber unterschiedliche Aussagen dar. „Der Haushalt bevorzugt leise Hardware“ ist aus Interaktionen abgeleiteter Zustand; „Dieses Laufwerk ist für einen bestimmten Betriebstemperaturbereich ausgelegt“ sollte an die Quelle gebunden bleiben, die dies angibt.

Der Schreibpfad ist die stärkste praktische Grenze

Ein Agentengedächtnissystem muss entscheiden, welche Interaktionsdetails es verdienen, zu wiederverwendbarem Zustand zu werden. Eine direkte Korrektur durch den Benutzer, eine vorübergehende Anweisung eines Gastes, eine Schlussfolgerung des Modells und ein Tool-Ergebnis können in einem Gespräch gemeinsam auftreten, doch ihre Überführung in ein dauerhaftes Gedächtnis hat später sehr unterschiedliche Folgen.

Speichersysteme benötigen daher Funktionen zum Hinzufügen, Aktualisieren, Suchen und Löschen gespeicherter Informationen. Sobald aus Interaktionen abgeleitete Fakten zu dauerhaftem Zustand werden, sind Geltungsbereich und Korrekturregeln wichtig, da dieselbe Erinnerung in künftigen Sitzungen wiederholt abgerufen werden kann.

Deshalb wird eine schwache Schlussfolgerung gefährlicher, nachdem sie als dauerhafter Zustand gespeichert und wiederholt abgerufen wurde. Der Abrufschritt ist nicht allein das Grundproblem; entscheidend ist der Übergang, bei dem unsichere Interaktionsbelege eine längere Gültigkeit und genügend Autorität erhielten, um das spätere Verhalten weiterhin zu beeinflussen.

Die Aufnahme in RAG folgt einem anderen Lebenszyklus. Eine Quelldatei wird analysiert, in Abrufeinheiten aufgeteilt, indexiert und später aktualisiert oder ausgemustert, wenn sich die zugrunde liegende Quelle ändert. Das System sollte das persönliche Gedächtnis des Agenten nicht neu schreiben müssen, nur weil ein Handbuch, eine Richtlinie oder ein Projektdokument eine neue Revision erhalten hat.

RAG behält eine Quellenbeziehung bei, die das Gedächtnis möglicherweise nicht teilt

RAG ist nützlich, weil die abgerufene Passage mit einer externen Quelle verknüpft bleiben kann, statt zu einer nicht nachvollziehbaren Tatsache innerhalb des Modells zu werden. Eine private Wissensbasis kann Dokumentkennungen, Revisionsmetadaten, Zeitstempel, Berechtigungen und die Herkunft der Textabschnitte bewahren, sodass die Antwort anhand des Materials bewertet werden kann, das sie geliefert hat.

Der Abruf zur Abfragezeit basiert auf dem Auffinden relevanten externen Wissens und dem Einfügen ausgewählter Abschnitte in den Modellkontext. Das Modell erhält diese Abschnitte für die aktuelle Anfrage, der Quellenkorpus bleibt jedoch außerhalb der Unterhaltung und kann unabhängig aktualisiert werden.

Diese Trennung wird wichtig, wenn zwei Versionen derselben Datei existieren. Die semantische Ähnlichkeit kann beide hoch einstufen, daher müssen Aktualität und Ablösung der Quelle bestimmen, welche Version für eine Frage zum aktuellen Stand gültig ist, anstatt einem älteren Abschnitt weiterhin Autorität zu verleihen, nur weil er eine starke lexikalische oder semantische Übereinstimmung aufweist.

Agentenspeicher kann ebenfalls die Herkunft dokumentieren, doch seine bestimmende Rolle ist eine andere. Er speichert wiederverwendbaren Interaktionszustand; RAG erhält eine abrufbare Verbindung zu einem Quellenkorpus, dessen Dokumente eigene Eigentümer, Versionsverläufe, Zugriffsregeln und Aufbewahrungsrichtlinien haben können.

-15% OFF

ZimaBoard 2 – Mini-Heimserver für Ihre große Idee

Single board computer zimaboard2

$339.00 - $519.00

Buy Now

Beide Ebenen können Embeddings und Vektorsuche verwenden, ohne dass daraus dasselbe System wird

Die Speichertechnologie definiert die Grenze nicht, da sowohl Agentenspeicher als auch RAG Embeddings, Vektorspeicher, Reranking, Metadatenfilter oder hybride Suche verwenden können. Ein Erinnerungseintrag kann eingebettet werden, damit eine spätere Anfrage eine semantisch verwandte Präferenz abruft, während ein Dokumentabschnitt eingebettet werden kann, damit eine aktuelle Suchanfrage relevante Quellenbelege findet.

Die semantische Suche über gespeicherte Erinnerungen zeigt, dass der Abruf Teil einer Speicherimplementierung sein kann. Dieselbe Technologie für die Suche nach nächsten Nachbarn kann daher zwei Datensätzen zugrunde liegen, die völlig unterschiedliche Lebenszyklus- und Autoritätsregeln erfordern.

Die Klassifizierungsfrage sollte stattdessen lauten, warum der Datensatz erstellt wurde, wer ihn ändern kann, wie lange er erhalten bleiben sollte und welche Art von Aussage er stützen darf. Eine Benutzerpräferenz und ein Handbuchabsatz können in benachbarten Vektorräumen liegen und dennoch unterschiedlichen Vertrauens- und Aufbewahrungsbereichen angehören.

Das erklärt auch, warum ein einziger universeller Ähnlichkeitsschwellenwert nicht ausreicht. Eine Erinnerung kann äußerst relevant sein, sich aber fälschlicherweise auf ein anderes Haushaltsmitglied beziehen, während ein Dokumentabschnitt äußerst relevant sein kann, aber durch eine neuere Version überholt wurde.

Die Fehlermuster unterscheiden sich, weil sich die Quellen der Wahrheit unterscheiden

Fehler im Memory beginnen meist mit einem Zustand, der nicht hätte gespeichert werden dürfen, unter der falschen Identität oder im falschen Geltungsbereich gespeichert wurde, zu voreilig abgeleitet wurde oder nach veränderten Umständen nie korrigiert wurde. Das Ergebnis ist Kontinuität, die auf die falschen Informationen angewendet wird: Ein Fehler bleibt bestehen, gerade weil Memory seine Aufgabe erfüllt und den Zustand fortführt.

Fehler bei RAG entstehen häufiger bei der Aufnahme und beim Abruf. Eine Datei wird möglicherweise nie indiziert, OCR kann eine Tabelle beschädigen, die Aufteilung in Textabschnitte kann eine Einschränkung von der Aussage trennen, auf die sie sich bezieht, Metadaten können die falsche Revision auswählen oder der Abruf kann eine nahegelegene Passage höher einstufen als den Beleg, der die Frage tatsächlich beantwortet.

Die erforderliche Korrekturmaßnahme ist daher unterschiedlich. Eine fehlerhafte Erinnerung muss möglicherweise aktualisiert, gelöscht, in ihrem Geltungsbereich eingeschränkt oder künftig am Speichern gehindert werden, während eine fehlerhafte RAG-Antwort eine Korrektur der Extraktion, eine erneute Indizierung des Korpus, eine Änderung der Abruflogik oder die Auswahl einer maßgeblicheren Quelle erfordern kann.

Auch die Konfidenz sollte getrennt bleiben. Relevanz belegt in keiner der beiden Ebenen Autorität: Eine abgerufene Erinnerung kann semantisch perfekt passen und dennoch falsch sein, und eine abgerufene Passage kann eng zur Frage passen, während sie einen veralteten Zustand beschreibt.

Ein lokaler Assistent funktioniert am besten, wenn die beiden Ebenen ihre Zuständigkeit getrennt halten

Ein nützlicher Heimassistent kann beide Ebenen kombinieren, ohne sie zu einem undifferenzierten Pool zusammenzuführen. Memory kann stabile Interaktionsvorgaben wie bevorzugte Einheiten, wiederkehrende Abläufe oder bestätigte Entscheidungen des Haushalts liefern, während RAG Belege aus den für die aktuelle Aufgabe relevanten Dateien und Datenbanken bereitstellt.

Eine Anfrage zur Konfiguration eines Medienservers könnte beispielsweise Memory verwenden, um die Präferenz des Haushalts für geringe Geräuschentwicklung und ausschließlich lokale Konten zu berücksichtigen, und anschließend die semantische Suche nutzen, um die aktuellen Anforderungen der Anwendung und Einrichtungshinweise abzurufen. Die Antwort wird personalisiert, ohne dass die gemerkte Präferenz an die Stelle technischer Quellenbelege tritt.

Wenn beide widersprechen, braucht das System eine Autoritätsregel statt eines weiteren Ähnlichkeitswerts. Explizite aktuelle Anweisungen des Benutzers können gemerkte Präferenzen überschreiben, aktuelle Quellenrevisionen können veraltete RAG-Passagen überstimmen, und Live-Ergebnisse von Tools können sowohl Memory als auch Dokumente übertreffen, wenn es um einen sich ändernden Gerätezustand geht.

Die saubere Architektur stellt daher nicht Memory gegen RAG. Sie besteht aus kontrollierter Komposition: Wiederverwendbaren Interaktionszustand im Memory behalten, externe Belege über RAG abrufen, die Herkunft beider bewahren und ausdrücklich festlegen, welche Ebene für welche Art von Aussage maßgeblich ist.