Przykłady zastosowań Jev: 7 rzeczy, które ludzie już tworzą za pomocą modelu decyzyjnego TypeSafe

Eva Wong jest redaktorką techniczną i rezydentką majsterkowania w ZimaSpace. Jest geekiem od zawsze, z pasją do domowych laboratoriów i oprogramowania open source, a jej specjalnością jest przekładanie złożonych zagadnień technicznych na przystępne, praktyczne poradniki. Eva wierzy, że samodzielne hostowanie powinno sprawiać radość, a nie onieśmielać. Dzięki swoim samouczkom pomaga społeczności oswoić konfigurację sprzętu, od budowy pierwszego serwera NAS po opanowanie kontenerów Docker.

Jev łatwiej zrozumieć, gdy przestaniesz pytać, co może powiedzieć, a zaczniesz pytać, o czym oprogramowanie może pozwolić mu decydować. Deweloperzy już korzystają z modelu decyzyjnego TypeSafe w stosach agentów, automatyzacji przeglądarki, analizie reklam, ocenie potencjalnych klientów, grach, ocenie treści i selekcji materiałów badawczych.

Ten schemat jest ważniejszy niż jakiekolwiek pojedyncze demo. Jev nie zastępuje kodu ani czołowych LLM-ów. Skupia się na nieostrej warstwie pośredniej: decyzjach zbyt subiektywnych dla prostych reguł, zbyt powtarzalnych dla ludzi i zbyt małych, by za każdym razem uzasadniały kosztowną generację. Więcej o architekturze i ograniczeniach modelu pisaliśmy w naszym wcześniejszym omówieniu modeli decyzyjnych dla agentów AI.

Co sprawia, że zastosowanie Jev jest odpowiednie?

Najlepsze publicznie prezentowane zastosowania Jev mają kilka wspólnych cech: poprawne wyniki są znane przed wnioskowaniem, ten sam osąd jest wydawany wielokrotnie, liczy się opóźnienie, swobodny tekst wnosi niewiele wartości, a niepewne przypadki można przekazać dalej.

Przydatny test jest prosty: jeśli możesz określić poprawny zakres odpowiedzi, zanim model zacznie działać, warto rozważyć ocenę modelu decyzyjnego.

Obciążenie Lepsze zastosowanie
Który agent powinien się tym zająć? Model decyzyjny
Który przycisk powinna kliknąć przeglądarka? Model decyzyjny
Napisać ostateczną wiadomość e-mail do klienta Model generatywny
Wyjaśnić złożony artykuł naukowy Model generatywny / rozumujący

Ten podział staje się wyraźniejszy, gdy przyjrzymy się projektom, które ludzie już tworzą.

1. OpenClaw: dedykowany model decyzyjny w stosie agenta

OpenClaw to jeden z najmocniejszych sygnałów, że Jev wychodzi poza eksperymentalne dema. Obecna dokumentacja modelu decyzyjnego rozdziela podstawowy model konwersacyjny od dedykowanej roli modelu decyzyjnego.

Dołączona wtyczka TypeSafe pozwala deweloperom niezależnie wybrać Jev zamiast głównego LLM. Większy model nadal może planować, programować, wyjaśniać i korzystać z narzędzi, podczas gdy Jev zajmuje się węższymi pytaniami, takimi jak to, któremu agentowi przydzielić zadanie, czy dowody spełniają dany warunek albo czy przepływ pracy powinien być kontynuowany.

To istotna zmiana architektoniczna. Zamiast traktować każdy niejednoznaczny krok jako kolejny prompt dla głównego LLM, agent może przeznaczyć jeden model specjalnie do ograniczonych osądów.

OpenClaw zachowuje też ważny podział na decydowanie i działanie. Wynik Jev może stanowić dowód na to, że działanie wydaje się odpowiednie, ale nie powinien automatycznie przyznawać uprawnień do publikowania treści, wysyłania wiadomości ani zmieniania trwałego stanu. Takie działania nadal muszą przekroczyć odrębną granicę zaufania przy wykonywaniu narzędzi.

Dzięki temu model decyzyjny przypomina mniej okrojonego chatbota, a bardziej kolejny element infrastruktury, działający obok głównego modelu agenta.

2. Agenci przeglądarkowi: wybór następnego kliknięcia zamiast opisywania strony

Automatyzacja przeglądarki z natury wymaga podejmowania wielu decyzji. Na wielu etapach agent zna już dostępne elementy i musi jedynie wybrać następne działanie.

Gregor Zunic opublikował eksperyment z Browser Use, w którym przeglądarka udostępnia stan DOM, Jev wybiera kolejne działanie, a mniejszy model generatywny obsługuje przypadki rzeczywiście wymagające tekstu. W publicznej demonstracji wyszukiwania lotów autor podał, że całość trwała około 7 sekund i kosztowała łącznie $0.0039. Są to wartości podane przez twórcę, a nie wyniki niezależnego testu porównawczego. Zobacz przykład Browser Use + Jev.

Praca w przeglądarce Najlepsza rola
Wybierz następny klikalny element Jev
Oceń, czy cel został osiągnięty Jev
Napisz otwartą odpowiedź w formularzu Model generatywny

To rozróżnienie ma znaczenie, ponieważ w wielu krokach pętli przeglądarkowej model nie tworzy tekstu. Zamiast tego wciąż wybiera działanie, które najlepiej przybliża do obecnego celu.

To wskazuje na wydajniejszy sposób projektowania agentów przeglądarkowych: używaj generowania, gdy przeglądarka rzeczywiście potrzebuje nowego tekstu, a ograniczonych decyzji — gdy kolejny krok wynika już ze znanego zestawu działań.

3. Analiza reklam: oceń cały zbiór danych zamiast próbki

Matthew Berman poinformował, że użył Jev do sklasyfikowania 724 aktywnych reklam 37 marek według takich kryteriów jak haczyk, format, oferta, CTA, etap świadomości i niedopasowanie strony docelowej. Według autora analiza trwała około 40 sekund i kosztowała mniej więcej $0.09. Podane wartości pochodzą od autora i zebrano je w publicznym przykładzie analizy reklam.

Ciekawsza konsekwencja ujawnia się, gdy wstępna ocena staje się wystarczająco tania.

Kosztowna analiza Warstwa tanich decyzji
Zbierz 1,000 reklam Zbierz 1,000 reklam
Próbka 50 Oceń wszystkie 1,000
Wnioskuj o wzorcach na podstawie próbki Filtruj według uporządkowanych sygnałów
Szeroko wykorzystuj czas ekspertów Sprawdzaj nietypowe lub wartościowe grupy

Analitycy często analizują próbkę, ponieważ ocena każdego rekordu jest zbyt kosztowna. Jeśli model decyzyjny może tanio ocenić każdą reklamę według tych samych kryteriów, przebieg pracy się zmienia. Zamiast używać AI wyłącznie do analizy niewielkiej próbki, można wstępnie sklasyfikować cały zbiór danych, zanim człowiek przyjrzy się najciekawszym grupom.

To większa zmiana niż samo obniżenie kosztów analizy reklam: niektóre problemy związane z próbkowaniem mogą stać się problemami wymagającymi oceny całego zbioru.

4. Ocenianie leadów: najpierw tania decyzja, potem kosztowne generowanie

Podobny schemat pojawia się przy ocenianiu leadów. Romàn poinformował, że przetworzenie 700 leadów zajęło około 40 sekund i kosztowało mniej więcej $0.09. System oceniał dopasowanie, pewność i rozbieżności, zanim zdecydował, którym rekordom warto poświęcić więcej uwagi. Zobacz opublikowany eksperyment dotyczący oceniania leadów.

Warstwa Zadanie
Jev Filtruj, oceniaj, klasyfikuj
Zasada oparta na poziomie pewności Zdecyduj, co wymaga eskalacji
Duży model językowy Wygeneruj spersonalizowaną treść o wysokiej wartości

Praktyczna korzyść wynika ze zmiany etapu, na którym odbywa się kosztowne generowanie. Zamiast prosić zaawansowany model językowy o dogłębną analizę każdego rekordu i przygotowanie spersonalizowanej wiadomości, system może najpierw wyłonić niewielką grupę rekordów, które wydają się wartościowe lub budzą wątpliwości.

Między innymi dlatego strategia optymalizacji kosztów hybrydowej AI coraz częściej opiera się na kierowaniu zapytań do odpowiednich modeli. Optymalizacja kosztów nie polega wyłącznie na znalezieniu tańszego modelu. Chodzi też o ustalenie, które zapytania w ogóle wymagają użycia drogiego modelu.

W tej architekturze Jev najlepiej sprawdza się jako filtr wstępny, a nie jako końcowa warstwa inteligencji.

5. Gry czasu rzeczywistego: częstotliwość podejmowania decyzji zmienia ekonomię

Gry czasu rzeczywistego mogą wyglądać jak ciekawostki, ale pokazują, dlaczego opóźnienie ma znaczenie.

Max Blade opublikował eksperyment z Subway Surfers, w którym Jev działał w 50 grach jednocześnie, a autor podał, że łączny koszt wnioskowania wyniósł mniej niż jednego centa. Dane te pochodzą od autora i są dostępne w publicznej demonstracji gry.

Zbiór możliwych działań jest niewielki: skręcić w lewo, skręcić w prawo, skoczyć, schylić się lub kontynuować. Szczegółowy opis w języku naturalnym każdej klatki przed wyborem jednego z tych działań niewiele daje.

To prowadzi do przydatnego sposobu oceny modeli decyzyjnych: częstotliwości podejmowania decyzji.

Oszczędność kilkuset milisekund przy jednej ocenie dziennie ma niewielką wartość praktyczną. Skrócenie opóźnienia przy wielu decyzjach na sekundę, w dziesiątkach równoległych środowisk, wpływa zarówno na czas odpowiedzi, jak i koszt wnioskowania.

Dlatego szybkie modele decyzyjne stają się ciekawsze, gdy ta sama, jasno określona ocena jest powtarzana coraz częściej.

6. Ocena treści: zadawanie wielu pytań o tę samą wersję roboczą

SuperX pokazuje inny wymiar tego problemu. Zamiast podejmować często tę samą decyzję, system zadaje wiele różnych pytań dotyczących tych samych danych wejściowych.

Publiczny eksperyment ocenia post w mediach społecznościowych, zadając 61 osobnych pytań. Autor podaje, że analiza każdej wersji roboczej trwa około jednej sekundy i kosztuje 0,0004 USD, a historyczne posty pomagają zidentyfikować sygnały związane z lepszymi wynikami. Są to deklaracje autora produktu, a nie wyniki niezależnych testów porównawczych. Projekt można znaleźć w katalogu przykładów zastosowań analizy treści i zwiększania zasięgów.

Zamiast zadawać ogólne pytanie, takie jak „Czy to dobry post?”, aplikacja może podzielić ocenę wersji roboczej na bardziej szczegółowe kwestie:

  • Czy hook jest konkretny?
  • Czy pozostawia lukę informacyjną, która wzbudza ciekawość?
  • Czy stwierdzenie jest konkretne?
  • Czy tekst brzmi zbyt promocyjnie?
  • Czy CTA jest zbyt nachalne?

W rezultacie nie otrzymujemy jednej nieprzejrzystej oceny AI. Powstaje uporządkowany profil, którego oprogramowanie może użyć, aby wskazać, który wymiar wymaga przeredagowania, porównać dwa szkice lub zdecydować, czy potrzebna jest weryfikacja przez człowieka.

Dzięki temu wymiarowość decyzji staje się kolejną ważną zmienną. Model może być przydatny nie tylko dlatego, że ta sama ocena jest potrzebna często, lecz także dlatego, że dziesiątki ograniczonych ocen można tanio zastosować do tych samych danych.

7. Klasyfikacja badań: wstępnie przeanalizuj wszystko, a potem przeczytaj to, co ważne

Publiczny projekt o nazwie 1kpapers wykorzystał Jev do sklasyfikowania 1 018 artykułów naukowych z dziedziny AI. Opublikowane dane wskazują na łączny koszt około 0,08 USD i medianę opóźnienia od początku do końca wynoszącą około 256 ms na artykuł. Projekt znajduje się w katalogu witryn stworzonych z Jev.

To może być jeden z bardziej praktycznych przykładów, ponieważ wiele rzeczywistych procesów zaczyna się od nadmiaru rekordów: artykułów, e-maili, zgłoszeń do pomocy technicznej, recenzji, dokumentów, dzienników lub zapytań.

Najbardziej czasochłonne często nie jest zrozumienie pojedynczej pozycji, lecz ustalenie, które z nich zasługują na dokładniejszą uwagę.

Pierwszy etap Drugi etap
Sklasyfikuj temat Wnikliwie przeczytaj wybrane dokumenty
Oceń trafność Przekaż rekordy o dużej wartości do większego modelu
Wykryj oczywistą niezgodność Człowiek sprawdza niejednoznaczne przypadki
Oszacuj poziom pewności Przekaż niepewne rekordy do dalszej analizy

Jest to szczególnie przydatne, gdy dane źródłowe są prywatne. Prywatny asystent AI może przechowywać lokalnie dane z wyszukiwania i surową bibliotekę dokumentów, a w razie potrzeby przesyłać do usługi zewnętrznej tylko wybrane lub przetworzone informacje.

Model nie musi zastępować wnikliwej lektury. Jego rolą jest kierowanie uwagi na wybrane materiały.

Rzeczywisty schemat: gęstość decyzji

Siedem przykładów wydaje się niezwiązanych, ale pod względem struktury są do siebie bardzo podobne. Każdy zaczyna się od nieuporządkowanych danych i wielokrotnie zadaje pytania, na które można odpowiedzieć w ramach z góry określonego zbioru odpowiedzi.

Przydatnym określeniem jest gęstość decyzji: liczba ograniczonych ocen, które system musi wydać w ramach danego obciążenia.

Najważniejsze są dwa czynniki:

  • częstotliwość: jak często aplikacja potrzebuje oceny;
  • wymiarowość: ile ocen trzeba wydać dla każdego stanu.
Obciążenie Gęstość decyzji Dopasowanie do Jev
Jedno sprawdzenie tak/nie dziennie Niska Niewielka przewaga
1 000 e-maili do sklasyfikowania Wysoka częstotliwość Dobre
61 pytań na szkic Wysoka wymiarowość Dobre
Działanie w przeglądarce na każdym kroku Wysoka częstotliwość Dobre
Wiele równoległych gier Bardzo wysoka częstotliwość Bardzo dobre dopasowanie strukturalne
Napisz szczegółowy raport Wymagające głównie generowania Słabe dopasowanie

Pojedyncza decyzja binarna raczej nie uzasadnia przeprojektowania stosu AI. Tysiące niejednoznacznych decyzji lub dziesiątki ocen dla każdego wejścia to już zupełnie inny problem.

Im większa gęstość decyzji, tym atrakcyjniejsza staje się wyspecjalizowana warstwa decyzyjna.

Najlepsza architektura może polegać na tym, że najpierw działa Jev, a potem większy model

Modele decyzyjne nie muszą też rozwiązywać każdego przypadku. Poziom pewności może określać, kiedy kontrolę powinien przejąć bardziej zaawansowany model.

Publiczny eksperyment z wykrywaniem oszustw ilustruje ten schemat. Twórca najpierw użył Jev do analizy 100 e-maili, a następnie przekazywał prognozy poniżej progu pewności wynoszącego 95% większemu modelowi Kimi K3. Autor podał 31 eskalacji, końcową dokładność 96/100 i łączny koszt około 0,07 USD. Te wartości pozostają eksperymentalne i pochodzą z samoopisu; przypadek znajduje się w katalogu inżynieryjnym Jev.

Etap Cel
Tani model decyzyjny Obsługuj oczywiste przypadki
Próg pewności Wykrywaj niepewność
Duży model rozumujący Obsługuj trudne przypadki
Warstwa polityk / człowieka Zachowaj kontrolę tam, gdzie błędy mają znaczenie

Ta architektura jest ciekawsza niż próba maksymalizacji samodzielnej dokładności Jev. Tańszy model może obsługiwać łatwiejszą większość przypadków, a droższy model otrzymywać tylko niejednoznaczne przypadki z końca rozkładu.

Nawet wtedy pewność nie powinna automatycznie dawać uprawnień. Narzędzia agenta tylko do odczytu i ograniczone uprawnienia nadal mają znaczenie, gdy klasyfikacja może ostatecznie uruchomić działanie w świecie rzeczywistym.

Tanie decyzje nie naprawią słabych sygnałów

Wczesne dyskusje o Jev objęły już takie obszary jak automatyczne etykietowanie i handel. W obu przypadkach sprawdza się interfejs modelu decyzyjnego, ale nie oznacza to, że każde związane z nimi twierdzenie jest równie wiarygodne.

W przypadku etykietowania danych najlepszym rozwiązaniem w najbliższym czasie niekoniecznie będzie zastąpienie ludzkich anotatorów. Przypadki o wysokim poziomie pewności można etykietować automatycznie, przykłady o średnim poziomie pewności przekazywać do weryfikacji drugiemu modelowi, a niejednoznaczne rekordy nadal kierować do człowieka.

Zmienia to, nad którymi przykładami pracują ludzie, zamiast zakładać, że znikną oni z procesu.

Handel ma jeszcze wyraźniejsze ograniczenie. Szybkie wygenerowanie kup, sprzedaj lub trzymaj łatwo przedstawić jako ograniczoną decyzję. Trudne pytanie brzmi, czy dane wejściowe zawierają rzeczywistą przewagę predykcyjną.

Jev może obniżyć koszt decyzji rynkowej. Nie sprawi, że słabe sygnały staną się predykcyjne.

To samo rozróżnienie dotyczy większości powyższych przykładów. Niskie opóźnienia i niski koszt wnioskowania pokazują, że warstwa decyzyjna jest wydajna. Same w sobie nie dowodzą jednak, że leżąca u jej podstaw ocena przynosi wartość biznesową.

Gdzie Jev pasuje do lokalnego agenta AI

Jev jest obecnie usługą hostowaną, a nie publicznie dostępnym punktem kontrolnym do samodzielnego hostowania. To wyznacza istotną granicę dla lokalnej AI.

Lokalny agent może przechowywać pliki, pamięć, dane do wyszukiwania i narzędzia na serwerze domowym, ale jeśli treść dokumentów jest wysyłana do Jev w celu klasyfikacji, te dane przekroczyły granicę sieci.

Zachowuj lokalnie Potencjalne dane wejściowe do decyzji w chmurze
W pełni prywatna biblioteka dokumentów Wybrane lub przetworzone dane wejściowe
Surowe pliki źródłowe Minimalny stan zadania
Pamięć osobista Niewrażliwy kontekst klasyfikacji
Dane logowania i sekrety Nie powinny być potrzebne przy zwykłej klasyfikacji

Ta sama zasada dotyczy korzystania z narzędzi w chmurze z lokalnymi plikami: lokalne środowisko uruchomieniowe nie gwarantuje automatycznie, że dane pozostaną lokalnie.

Lepszy projekt hybrydowy przechowuje prywatne dane pobrane przez wyszukiwanie, wstępnie przetworzone, zanonimizowane oraz wykorzystywane w rutynowych operacjach lokalnych blisko ich źródła, a następnie wysyła tylko niezbędne dane do hostowanego modelu decyzyjnego lub rozumującego.

Co tak naprawdę pokazują pierwsze projekty Jev

Pierwsza fala eksperymentów z Jev nie dowodzi, że mały model decyzyjny może zastąpić zaawansowaną AI.

Pokazuje coś bardziej przydatnego: wiele aplikacji AI zużywa moc obliczeniową modeli generatywnych do zadań, które nie wymagają generowania treści.

W przeglądarkach, reklamach, leadach, grach, treściach, badaniach i orkiestracji agentów wciąż pojawia się ten sam schemat. Dane wejściowe są nieuporządkowane, ale możliwe wyniki są ograniczone. Decyzję podejmuje się wielokrotnie, a niepewne przypadki można eskalować.

Warstwa Najlepsze zadanie
Reguły / kod Deterministyczne decyzje
Model decyzyjny Niejednoznaczne decyzje w ograniczonym zakresie
Model rozumujący Trudne, niejednoznaczne problemy
Model generatywny Tworzenie tekstu, kodu lub multimediów
Warstwa polityk Określanie, co faktycznie może zostać wykonane

Dlatego najbardziej przydatne prezentacje Jev to nie te, które próbują udowodnić, że Jev potrafi wszystko.

To one pokazują, w jakich sytuacjach w ogóle nie trzeba angażować uniwersalnego LLM.

Jev jest najbardziej przydatny tam, gdzie oprogramowanie musi podejmować tysiące niejednoznacznych, ale ograniczonych decyzji — i używać przy tym niemal żadnych słów.

Najczęściej zadawane pytania o zastosowania Jev

Czy Jev może współpracować z OpenClaw?

Tak. OpenClaw obsługuje dedykowaną rolę modelu decyzyjnego oraz wtyczkę TypeSafe, która może korzystać z Jev niezależnie od głównego modelu konwersacyjnego.

Czy Jev może sterować agentem przeglądarkowym?

Tak. W publicznych eksperymentach z Browser Use Jev wybierał kolejną czynność z ograniczonego zestawu działań DOM, a w razie potrzeby modele generatywne zajmowały się tekstem otwartym.

Czy Jev może analizować reklamy, posty lub duże zbiory danych?

Tak. W publicznie dostępnych projektach wykorzystywano Jev do klasyfikowania reklam, oceniania treści, sortowania wiadomości e-mail, klasyfikowania artykułów naukowych i innych zadań wymagających podejmowania uporządkowanych decyzji na dużą skalę. Większość opublikowanych danych o szybkości i kosztach pochodzi obecnie od twórców, a nie z niezależnych testów porównawczych.

Czy Jev może zastąpić ręczne etykietowanie danych?

Potencjalnie może automatyzować pewne etykietowanie z wysokim poziomem pewności i w ograniczonym zakresie, ale obecne dane nie uzasadniają precyzyjnych twierdzeń o zastąpieniu określonego odsetka osób zajmujących się adnotacją. Bardziej realistycznym rozwiązaniem jest eskalowanie przypadków na podstawie poziomu pewności.

Czy Jev może działać lokalnie?

TypeSafe nie udostępnił publicznych wag Jev do samodzielnego hostowania. Obecne integracje Jev korzystają z hostowanego wnioskowania, dlatego projekty prywatnych agentów powinny precyzyjnie określać, jakie dane są wysyłane poza lokalne środowisko.

Centrum technologii i AI

Więcej do przeczytania

Get More Builds Like This

Stay in the Loop

Get updates from Zima - new products, exclusive deals, and real builds from the community.

Stay in the Loop preferences

We respect your inbox. Unsubscribe anytime.