Jak projektowanie schematu narzędzi ogranicza działania domowego agenta AI?

Projekt schematu narzędzia ogranicza domowego agenta AI, określając, które parametry i formy działań mogą stać się prawidłowymi wywołaniami narzędzi przed ich wykonaniem.

Model nadal może wnioskować niepoprawnie, ale typowane pola, wymagane cele, wyliczenia i walidacja ograniczają to, co taki błąd może wyrazić, zanim warstwy uprawnień i zatwierdzania zdecydują, czy działanie może zostać wykonane.

Schema narzędzia definiuje strukturę dozwolonego żądania

Narzędzie agenta to nie tylko nazwa i opis. Jego schema określa, które pola można przekazać, jakich używają typów oraz które kombinacje są akceptowalne pod względem strukturalnym.

Aktualna specyfikacja MCP wymaga zdefiniowania inputSchema za pomocą JSON Schema. Zapewnia to środowisku wykonawczemu kontrakt czytelny maszynowo, zamiast polegania wyłącznie na języku naturalnym. Model Context Protocol definiuje narzędzia za pomocą schematu danych wejściowych, który jasno określa akceptowaną strukturę argumentów przed wykonaniem wywołania narzędzia; zobacz schematy danych wejściowych narzędzi MCP.

Na domowym serwerze może to odróżniać wąskie narzędzie do restartowania od nieprecyzyjnej powłoki administracyjnej.

Wywołanie, które nie pozwala wyrazić dowolnych poleceń, ma już mniejszą powierzchnię działania.

Wymagane pola zapobiegają niekompletnym działaniom

Wymagane właściwości zmuszają model do podania informacji potrzebnych do wykonania operacji. Narzędzie do przenoszenia plików może wymagać zarówno źródła, jak i miejsca docelowego; narzędzie do obsługi kontenerów może wymagać celu i działania.

MCP stosuje semantykę walidacji JSON Schema, która obsługuje wymagane właściwości i ograniczenia typów. Walidacja JSON Schema definiuje wymagane właściwości oraz inne asercje strukturalne, które mogą odrzucać niekompletne żądania, wspierając warstwę ograniczeń opisaną w słowniku walidacji JSON Schema.

Zapobiega to sytuacji, w której kod aplikacji musi odgadywać brakujące cele lub dziedziczyć niebezpieczne wartości domyślne. Brak danych staje się błędem walidacji, a nie niejawnym działaniem.

Wyliczenia i zakresy eliminują działania, których model nie może wyrazić

Schema może ograniczać pole do określonego zbioru wartości lub zakresu. Jeśli pole action dopuszcza tylko restart, stop i start, wartość delete nie może przejść przez to pole.

MCP wymaga, aby argumenty narzędzia były zgodne z jego schematem danych wejściowych. Ograniczenia strukturalne są silniejsze niż opis, który jedynie określa, co zazwyczaj powinno się wydarzyć. Schematy OpenAPI mogą wyrażać wartości wyliczeniowe, limity liczbowe i typowane właściwości, pokazując, jak narzędzie może uniemożliwić wyrażenie nieprawidłowych działań za pomocą definicji schematów OpenAPI.

W domu ten sam mechanizm może ograniczać wartości termostatu, liczbę dni przechowywania danych, nazwy usług lub cele kopii zapasowych, dzięki czemu słownik działań pozostaje jasno określony.

Featured

ZimaCube 2 Osobisty domowy NAS w chmurze

ZimaCube2

$799.00 - $2,499.00

Buy Now

Opisy pomagają w wyborze, ale walidacja egzekwuje strukturę

Opisy w języku naturalnym pomagają modelowi wybrać narzędzie i interpretować pola, ale nie wyznaczają takiej samej granicy jak walidator, który odrzuca wywołania niezgodne z kontraktem.

MCP opisuje opisy narzędzi jako czytelną dla człowieka wskazówkę ułatwiającą modelowi zrozumienie, podczas gdy inputSchema dostarcza formalnego kontraktu parametrów. Mechanizm użycia narzędzi Anthropic opiera się na zadeklarowanych parametrach narzędzi, aby kierować wywołaniami generowanymi przez model, jednak wskazówki dla modelu nadal różnią się od walidacji w środowisku wykonawczym, jak wyjaśniono w schematach użycia narzędzi Anthropic.

To odróżnia ten temat od artykułu ZimaSpace o spadku niezawodności wyboru narzędzia przy zbyt wielu dostępnych narzędziach. Niejednoznaczność wyboru pojawia się przed wybraniem narzędzia, natomiast ograniczenia schematu dotyczą samego kandydującego wywołania.

Walidacja schematu nie nadaje uprawnień

Żądanie poprawne strukturalnie może nadal być nieautoryzowane. Schema może zezwalać na restart(container=postgres), podczas gdy wywołujący ma uprawnienia tylko do restartowania kontenera multimediów.

MCP traktuje użycie narzędzi jako interakcję z systemami zewnętrznymi i zaleca stosowanie zabezpieczeń oraz kontroli wymagających zatwierdzenia przez człowieka. Poprawność schematu to tylko jedna warstwa, a nie kompletny system uprawnień. Funkcje wywoływane przez Google Gemini również korzystają ze strukturalnych deklaracji funkcji, jednak autoryzacja pozostaje poza samym schematem; to rozdzielenie wspierają schematy wywoływania funkcji Gemini.

Ta granica łączy się z artykułem ZimaSpace o ograniczeniach zakresu narzędzi domowego agenta AI: schema ogranicza reprezentowalne parametry, natomiast zakres i możliwości określają, które prawidłowe operacje są faktycznie autoryzowane.

Mniejsze schematy są łatwiejsze do testowania i audytowania

Szerokie narzędzie z wieloma opcjonalnymi polami tworzy wiele prawidłowych kombinacji.

Zawężanie narzędzi zmniejsza liczbę zachowań, które trzeba objąć testami.

JSON Schema obsługuje właściwości obiektów, wymagane elementy i kontrolę dodatkowych właściwości, dzięki czemu może odrzucać nieoczekiwane pola zamiast akceptować je bez ostrzeżenia. Pydantic może generować schematy czytelne maszynowo na podstawie typowanych modeli, pokazując, dlaczego mniejsze i jednoznaczne schematy łatwiej walidować i testować w procesie generowania schematów JSON Schema w Pydantic.

Testy mogą wtedy obejmować wszystkie dozwolone działania, nieprawidłowe kombinacje, wartości graniczne i sposób odrzucania żądań, zanim model zostanie podłączony do plików, kontenerów, urządzeń lub systemów kopii zapasowych.