Co powoduje, że agent AI do planowania powtarza już wykonane kroki?

Eva Wong

IceWhale author

Eva Wong jest Technicznym pisarzem i stałym majsterkowiczem w ZimaSpace. Całe życie geek z pasją do homelabów i oprogramowania open-source, specjalizuje się w tłumaczeniu skomplikowanych koncepcji technicznych na przystępne, praktyczne przewodniki. Eva wierzy, że samodzielne hostowanie powinno być zabawą, a nie czymś onieśmielającym. Poprzez swoje samouczki umożliwia społeczności rozwiewanie tajemnic konfiguracji sprzętu, od budowy pierwszego NAS po opanowanie kontenerów Docker.

What Causes an AI Agent Planner to Repeat Steps It Already Completed? - Zima Store Online

Agent planujący powtarza ukończone kroki, gdy dowody wykonania są niedostępne, niejednoznaczne, zapomniane lub wykluczone ze stanu używanego do ponownego planowania.

Domowy agent AI może utworzyć folder, zweryfikować go, a następnie utworzyć go ponownie kilka tur później. Narzędzie może zwrócić częściowy sukces, punkt kontrolny może pomijać ukończenie, a kompresja kontekstu może usunąć obserwację, zachowując pierwotny plan. Po przekroczeniu limitu czasu lub ponownym uruchomieniu agent planujący widzi niespełniony cel i racjonalnie planuje ten sam krok na podstawie niepełnego stanu.

Ukończenie istnieje w świecie, ale nie w trwałym stanie

Działanie może zakończyć się powodzeniem, zanim proces ulegnie awarii przed zapisaniem jego wyniku. Listy kontrolne przechowywane w pamięci znikają po ponownym uruchomieniu, a oddzielne magazyny planera i wykonawcy mogą być aktualizowane nieatomowo, pozostawiając plan oznaczony jako oczekujący. To rozróżnienie pozostaje widoczne podczas późniejszych testów domowych.

Przegląd trwałego stanu agenta wyjaśnia, dlaczego zewnętrzny trwały stan jest niezbędny do wznawiania, audytowania i realizowania długotrwałych zadań. Charakterystyczny sygnał to ukończony efekt uboczny działania narzędzia połączony z brakującym lub starszym punktem kontrolnym. Wynik pośredni musi pozostać możliwy do sprawdzenia, zanim automatyzacja będzie kontynuowana.

Utrwalanie pamięci w formie tekstu jest słabsze niż rejestrowanie stabilnego identyfikatora kroku, skrótu działania, wyniku i zatwierdzonego statusu. Agent planujący potrzebuje możliwego do sprawdzenia maszynowo potwierdzenia ukończenia, a nie tylko wcześniejszego zdania oznajmującego, że zadanie wykonano. Tę granicę należy mierzyć oddzielnie w realistycznych warunkach działania.

Niejednoznaczne wyniki narzędzi i utrata kontekstu ukrywają postęp

Narzędzia mogą zwracać częściowy sukces, identyfikatory zadań asynchronicznych, pusty wynik lub przekroczenie limitu czasu po zatwierdzeniu operacji. Warstwa testowa może obciąć, podsumować, błędnie oznaczyć lub nie dołączyć tej obserwacji, przez co kolejne wywołanie modelu otrzymuje plan bez rozstrzygających dowodów.

Przewodnik po powtarzających się działaniach agenta wskazuje powtarzanie działania jako podstawową awarię, gdy pętla agenta przestaje robić postępy. Przydatna diagnostyka polega na sprawdzeniu, czy najnowszy kontekst planowania zawiera znormalizowane dowody sukcesu i zmieniony stan świata.

Jeśli model otrzymuje jasny stan ukończenia, a mimo to powtarza działanie, odpowiada za to rozumowanie planera lub dekompozycja zadania. Jeśli dowód nigdy do niego nie dociera, zmiana promptów nie naprawi ścieżki danych. Praktyczne konsekwencje pojawiają się wtedy, gdy kilka źródeł konkuruje o ograniczony kontekst.

Ponowienia prób i ponowne planowanie mogą dublować pracę nieidempotentną

Ogólna polityka ponawiania prób może powtórzyć cały krok po awarii transportu, podczas gdy ponowne planowanie wygeneruje semantycznie identyczne działanie z nowym identyfikatorem kroku. Słabe warunki zatrzymania pozwalają pętli działać dalej, gdy cel został już osiągnięty.

Wzorzec sprzężenia zwrotnego rozumowania i działania przeplata rozumowanie, działanie i obserwację środowiska, aby kolejne decyzje mogły korzystać z dowodów pochodzących z narzędzi. Powtarzanie pojawia się, gdy to sprzężenie zwrotne lub test zakończenia jest niepełny. Ta zależność powinna pozostać jawna w interfejsie końcowym.

Granica awarii to celowy krok weryfikacyjny lub idempotentne uzgadnianie stanu. Ponowne odczytanie stanu nie jest zduplikowaną pracą; powtarzanie obciążenia, usunięcia, wysłania wiadomości lub nieodwracalnej modyfikacji bez nowych dowodów - już tak. Wynik należy zatem sprawdzić względem pierwotnych dowodów.

-15% OFF

ZimaBoard 2 – Mini serwer domowy dla Twojego wielkiego pomysłu

Single board computer zimaboard2

Audytuj tożsamość kroków, dowody i warunki zatrzymania

Śledź wersję planu, stabilny identyfikator kroku, skrót działania, warunek wstępny, identyfikator wywołania narzędzia, klucz idempotencji, czasy rozpoczęcia i zatwierdzenia, surowy wynik, znormalizowany status, wersję punktu kontrolnego, uwzględnienie w kontekście, przyczynę ponowienia, mapowanie ponownego planowania, weryfikację stanu świata i decyzję o zakończeniu. To rozróżnienie pozostaje widoczne podczas późniejszych testów domowych.

Porównaj ten schemat z diagnostyką pętli agenta. Zasymuluj sukces połączony z utratą odpowiedzi, częściowy sukces, ponowne uruchomienie przed punktem kontrolnym, kompresję kontekstu oraz ukończony cel z jednym nieaktualnym krokiem oczekującym. Wynik pośredni musi pozostać możliwy do sprawdzenia, zanim automatyzacja będzie kontynuowana.

Test uznaj za zaliczony, gdy agenci po odzyskaniu uzgadniają stan świata przed modyfikacją, ponownie używają kluczy idempotencji, mapują ponownie zaplanowane działania na wcześniejsze kroki i zatrzymują się, gdy predykaty celu są spełnione. Ogranicz liczbę ponowień prób i wymagaj zatwierdzenia przed powtórzeniem działań niepowtarzalnych. Tę granicę należy mierzyć oddzielnie w realistycznych warunkach działania.