Konflikty pamięci agenta: dlaczego najnowsze poprawki mogą przegrywać z wielokrotnie powtarzanymi starszymi faktami
Najnowsze korekty mogą przegrywać, gdy ranking pamięci traktuje wielokrotnie powtarzane starsze fakty jako silniejsze dowody i nie zawiera jawnej relacji zastąpienia między sprzecznymi rekordami.
Agent domowy może usłyszeć raz, że „hasło do Wi-Fi dla gości się zmieniło”, po tym jak zapisze stare hasło w kilku podsumowaniach, rozmowach i notatkach. Późniejsze zapytanie pobiera wspomnienia z najwyższymi wynikami, niekoniecznie najnowszą prawdę. Bez informacji o wersji, pochodzeniu i logice rozstrzygania konfliktów powtarzalność może przeważyć nad aktualnością i sprawić, że korekta będzie dziś wyglądać jak słaby wyjątek.
Powtarzające się wspomnienia zyskują przewagę w wyszukiwaniu
Systemy pamięci często przechowują obserwacje, podsumowania i wyodrębnione fakty jako osobne elementy. Powtórzenie jednego faktu tworzy kilka semantycznie podobnych wektorów, dlatego zapytanie może zwrócić wiele kopii. Ich pozorna zgodność jest w rzeczywistości duplikacją, ale model działający w kolejnym etapie może zinterpretować ją jako potwierdzenie.
Praktyczny przegląd aktualności pamięci rozróżnia stan rozmowy, wyszukiwanie, aktualność, pochodzenie i usuwanie jako odrębne problemy projektowe. Traktowanie pamięci jako jednego, niezróżnicowanego indeksu podobieństwa ukrywa relacje potrzebne do rozstrzygania sprzecznych faktów. To rozróżnienie zmienia późniejszą decyzję podejmowaną przez agenta domowego.
Rezultatem jest uprzedzenie na rzecz częstotliwości: pięć nieaktualnych wspomnień zajmuje kontekst, podczas gdy jedna korekta spada poniżej progu. Zwiększenie wartości top-k może ujawnić konflikt, ale nie mówi agentowi, który rekord powinien mieć zastosowanie.
Korekta wymaga zastąpienia, a nie tylko nowego znacznika czasu
Solidny magazyn danych oznacza, że fakt B zastępuje fakt A dla określonego podmiotu, predykatu, zakresu i czasu obowiązywania. Stary rekord może pozostać w historii, ale bieżące wyszukiwanie filtruje go lub obniża jego wagę. Pochodzenie zapisuje, kto dokonał korekty i z jakiego wiarygodnego zdarzenia pochodzi.
Badania nad niejawnymi konfliktami pamięci wskazują na konflikty niejawne, w których nowa obserwacja unieważnia stare wspomnienie bez użycia jawnego zaprzeczenia. „Przeprowadziliśmy się do Denver” zmienia bieżącą lokalizację domu, mimo że zdanie nie mówi „nie mieszkamy już w Austin”.
Sama aktualność nie wystarcza, ponieważ niektóre stare fakty pozostają prawdziwe, a niektóre nowe stwierdzenia są tymczasowe lub błędne. Zastąpienie łączy czas z relacją semantyczną, wiarygodnością i zakresem, dzięki czemu system może zachować historię bez przedstawiania jej jako bieżącej prawdy.
Kiedy automatyczne rozstrzyganie konfliktów staje się niebezpieczne
Model może błędnie uznać dwa odrębne fakty za sprzeczne, na przykład adres służbowy i domowy albo tymczasowy harmonogram i stałą preferencję. Automatyczne usunięcie starszego elementu może zniszczyć przydatny kontekst i utrudnić późniejszy audyt korekty.
Przegląd konsolidacji pamięci rozdziela warstwy krótkoterminową i długoterminową oraz podkreśla znaczenie kontrolowanego przenoszenia informacji między nimi. Zasady awansowania, konsolidacji i zapominania określają, co pozostaje w pamięci; nie są neutralnymi operacjami przechowywania. Ta granica pozostaje widoczna podczas późniejszej analizy dowodów.
Mechanizm zawodzi, gdy tożsamość, zakres lub wiarygodność są niejednoznaczne. W takiej sytuacji należy zachować oba rekordy, ujawnić konflikt i poprosić o wyjaśnienie. Magazyn pamięci edytowalny przez użytkownika powinien umożliwiać korektę, scalanie, rozdzielanie i usuwanie bez polegania na dodatkowym wnioskowaniu modelu.
Przeprowadź test zastępowania wspomnień
Utwórz jeden fakt, powtórz go w trzech interakcjach sformułowanych na różne sposoby, a następnie podaj wyraźną korektę z datą obowiązywania. Wykonaj zapytanie bezpośrednie, zapytanie z parafrazą oraz zadanie zależne od tego faktu. Zapisz identyfikatory pobranych wspomnień, wyniki, znaczniki czasu i końcowe działanie.
Uczyń pamięć edytowalną przez użytkownika zgodnie z zaleceniami zawartymi w artykule pamięć edytowalna przez użytkownika i sprawdź, czy zmiana kanonicznego faktu aktualizuje wyszukiwanie zależne bez usuwania ścieżki audytu. Następnie dodaj tymczasowy wyjątek, aby sprawdzić, czy zakres zostaje zachowany.
Test należy uznać za zaliczony tylko wtedy, gdy bieżące zapytania korzystają z korekty, pytania historyczne nadal mogą odtworzyć wcześniejszy stan, a niejednoznaczne wyjątki wywołują prośbę o wyjaśnienie zamiast cichego nadpisania. Powtórz test po podsumowaniu lub kompakcji pamięci, ponieważ te etapy mogą ponownie utworzyć nieaktualne fakty.
Polecane produkty
Centrum Technologii i Sztucznej Inteligencji
Więcej do przeczytania
Wielojęzyczne reprezentacje wektorowe: jak jedna przestrzeń wektorowa łączy dokumenty domowe w różnych językach
Zobacz, jak wyrównane osadzenia łączą dokumenty w różnych językach, dlaczego jakość wyszukiwania różni się oraz jak lokalnie testować pokrycie dowodów między językami.
Prywatne ponowne ustalanie rankingu wyszukiwania: jak drugi model zmienia ostateczną kolejność dowodów
Zobacz, dlaczego podobieństwo pierwszego etapu i trafność drugiego etapu się nie zgadzają, kiedy reranking pomaga w prywatnym RAG-u oraz jak oceniać ponownie uporządkowane dowody.
Próbkowanie lokalnych modeli LLM: dlaczego ustawienia dekodowania zmieniają powtarzalność i stabilność
Dowiedz się, jak temperatura, top-p, min-p, ziarna i kary wpływają na siebie nawzajem — oraz jak testować ustawienia dekodowania, nie myląc losowości z jakością.
