Casos de utilização de Jev: 7 coisas que as pessoas já estão a criar com o modelo de decisão da TypeSafe

O Jev torna-se mais fácil de compreender quando deixamos de perguntar o que pode dizer e começamos a perguntar o que o software pode deixá-lo decidir. Os programadores já estão a utilizar o modelo de decisão da TypeSafe em pilhas de agentes, automatização de navegadores, análise de anúncios, classificação de potenciais clientes, jogos, avaliação de conteúdos e triagem de investigação.

O padrão é mais importante do que qualquer demonstração individual. O Jev não está a substituir o código nem os LLMs de ponta. Visa a camada intermédia indefinida: decisões demasiado subjetivas para uma regra simples, demasiado repetitivas para as pessoas e demasiado pequenas para justificar uma geração dispendiosa de cada vez. Para saber mais sobre a arquitetura e as limitações do modelo subjacente, consulte a nossa explicação anterior sobre modelos de decisão para agentes de IA.

O que torna um caso de utilização adequado para o Jev?

As implementações públicas mais sólidas do Jev partilham várias características: os resultados válidos são conhecidos antes da inferência, a mesma avaliação repete-se, a latência é importante, o texto livre acrescenta pouco valor e os casos incertos podem ser encaminhados para outro local.

Um teste útil é simples: se conseguir definir o conjunto de respostas válidas antes de o modelo ser executado, poderá valer a pena avaliar um modelo de decisão.

Esta distinção torna-se mais clara nos projetos que as pessoas já estão a desenvolver.

1. OpenClaw: um modelo de decisão dedicado na pilha do agente

O OpenClaw é um dos sinais mais fortes de que o Jev está a ultrapassar a fase das demonstrações experimentais. A atual documentação do modelo de decisão separa o modelo de conversação principal de uma função dedicada ao modelo de decisão.

O plugin TypeSafe incluído permite aos programadores selecionar o Jev independentemente do LLM principal. Um modelo maior pode continuar a planear, programar, explicar e utilizar ferramentas, enquanto o Jev trata de questões mais específicas, como qual o agente que deve receber uma tarefa, se as provas satisfazem uma condição ou se um fluxo de trabalho deve prosseguir.

Esta é uma mudança arquitetónica importante. Em vez de tratar cada passo ambíguo como mais um pedido ao LLM principal, um agente pode reservar um modelo especificamente para avaliações delimitadas.

O OpenClaw também preserva uma separação importante entre decidir e agir. Um resultado do Jev pode fornecer provas de que uma ação parece apropriada, mas não deve conceder automaticamente permissão para publicar conteúdo, enviar uma mensagem ou alterar um estado persistente. Essas ações continuam a ter de atravessar um limite de confiança da execução de ferramentas separado.

Isso torna o modelo de decisão menos parecido com um chatbot mais pequeno e mais com outro componente de infraestrutura, ao lado do modelo principal do agente.

2. Agentes de browser: escolher o próximo clique em vez de descrever a página

A automatização de browsers implica naturalmente muitas decisões. Em muitas etapas, o agente já sabe que elementos estão disponíveis e só precisa de escolher a ação seguinte.

Gregor Zunic publicou uma experiência com o Browser Use em que o browser fornece o estado do DOM, a Jev seleciona a ação seguinte e um modelo generativo mais pequeno trata dos casos que realmente exigem texto. Na demonstração pública de pesquisa de voos, o autor relatou um tempo de execução de cerca de 7 segundos e um custo total de 0,0039 $. Estes valores foram comunicados pelo criador e não resultam de uma avaliação comparativa independente. Consulte o exemplo do Browser Use + Jev.

Esta distinção é importante porque, em grande parte do ciclo de interação com o browser, não se pede ao modelo que crie texto. Pede-se-lhe repetidamente que escolha a ação que melhor faz avançar o objetivo atual.

Isto sugere uma arquitetura mais eficiente para agentes de browser: use a geração quando o browser precisar realmente de texto novo e recorra a decisões limitadas quando o passo seguinte já fizer parte de um conjunto conhecido de ações.

3. Análise de anúncios: pontue todo o conjunto de dados em vez de o amostrar

Matthew Berman relatou ter usado a Jev para classificar 724 anúncios ativos de 37 marcas segundo dimensões como o gancho, o formato, a oferta, o CTA, a fase de consciencialização e a incompatibilidade com a página de destino. A execução, segundo o relato, demorou cerca de 40 segundos e custou aproximadamente 0,09 $. Os valores foram comunicados pelo autor e recolhidos no caso público de análise de anúncios.

A consequência mais interessante é o que acontece quando as avaliações iniciais se tornam suficientemente económicas.

Os analistas recorrem muitas vezes à amostragem porque avaliar todos os registos é demasiado dispendioso. Se um modelo de decisão puder pontuar todos os anúncios de forma económica, segundo as mesmas dimensões, o fluxo de trabalho muda. Em vez de usar a IA apenas para analisar uma pequena amostra, é possível classificar todo o conjunto de dados numa primeira passagem, antes de uma pessoa analisar os grupos mais interessantes.

Isto representa uma mudança maior do que simplesmente tornar a análise de anúncios mais barata: alguns problemas de amostragem podem transformar-se em problemas de pontuação exaustiva.

4. Pontuação de leads: tome decisões económicas antes de recorrer a uma geração dispendiosa

O mesmo padrão verifica-se na pontuação de leads. Romàn relatou ter processado 700 leads em cerca de 40 segundos, por aproximadamente 0,09 $, avaliando a adequação, a confiança e a incompatibilidade antes de decidir quais os registos que mereciam uma análise mais aprofundada. Consulte a experiência publicada de pontuação de leads.

O valor prático vem de alterar em que fase é feita a geração dispendiosa. Em vez de pedir a um LLM potente que analise em profundidade e escreva uma mensagem de contacto personalizada para cada registo, o sistema pode primeiro identificar o pequeno subconjunto que parece valioso ou incerto.

Esta é uma das razões pelas quais a estratégia de custos da IA híbrida depende cada vez mais do encaminhamento. Otimizar os custos não consiste apenas em encontrar um modelo mais barato. Também implica decidir que pedidos precisam realmente de um modelo dispendioso.

Nesta arquitetura, Jev é mais útil como pré-filtro do que como camada final de inteligência.

5. Jogos em tempo real: a frequência de decisão altera a economia

Os jogos em tempo real parecem demonstrações curiosas, mas mostram por que motivo a latência é importante.

Max Blade publicou uma experiência com o Subway Surfers a executar Jev em 50 jogos em simultâneo. O autor indica que o custo total de inferência foi inferior a um cêntimo. Os valores são declarados pelo próprio autor na demonstração pública do jogo.

O espaço de ações é reduzido: mover-se para a esquerda, mover-se para a direita, saltar, agachar-se ou continuar. Há poucas vantagens em produzir uma descrição detalhada em linguagem natural de cada fotograma antes de escolher uma dessas ações.

Isto introduz uma forma útil de avaliar modelos de decisão: a frequência de decisão.

Poupar algumas centenas de milissegundos numa avaliação por dia tem pouco valor prático. Poupar esse tempo de resposta em muitas decisões por segundo, multiplicadas por dezenas de ambientes em paralelo, altera tanto o tempo de resposta como o custo de inferência.

É por isso que os modelos de decisão rápidos se tornam mais interessantes à medida que a mesma avaliação se repete com maior frequência.

6. Avaliação de conteúdo: fazer várias perguntas sobre o mesmo rascunho

O SuperX demonstra outra dimensão do problema. Em vez de tomar a mesma decisão com muita frequência, o sistema coloca muitas perguntas diferentes sobre o mesmo conteúdo.

A experiência pública avalia uma publicação nas redes sociais com base em 61 perguntas distintas. O autor indica que cada rascunho demora aproximadamente um segundo e custa 0,0004 $, usando publicações anteriores para ajudar a identificar sinais associados a um melhor desempenho. Estes resultados são afirmações do autor do produto, não referências independentes. O projeto está incluído no diretório de casos de conteúdo e crescimento.

Em vez de fazer uma pergunta vaga, como «Esta publicação é boa?», a aplicação pode dividir o rascunho em avaliações mais explícitas:

• O gancho é específico?
• Há uma lacuna de curiosidade?
• A afirmação é concreta?
• O texto soa excessivamente promocional?
• O CTA é demasiado agressivo?

O resultado não é uma única pontuação opaca de IA. É um perfil estruturado que o software pode utilizar para identificar a dimensão que precisa de ser reformulada, comparar dois rascunhos ou decidir se é necessária uma análise humana.

Isto faz da dimensionalidade das decisões outra variável importante. Um modelo pode tornar-se útil não só porque a mesma avaliação é feita com frequência, mas também porque é possível aplicar, a baixo custo, dezenas de avaliações delimitadas ao mesmo estado.

7. Classificação de investigação: fazer a triagem de tudo e depois ler o que importa

Um projeto público chamado 1kpapers usou o Jev para classificar 1.018 artigos de investigação sobre IA. Os valores publicados indicam um custo total de cerca de 0,08 $ e uma latência mediana de ponta a ponta de aproximadamente 256 ms por artigo. O projeto está listado no diretório de sites criados com o Jev.

Este poderá ser um dos exemplos mais práticos, porque muitos fluxos de trabalho reais começam com demasiados registos: artigos, e-mails, pedidos de suporte, avaliações, documentos, registos ou consultas de pesquisa.

Muitas vezes, a parte dispendiosa não é compreender um único item. É decidir quais os itens que merecem mais atenção.

Isto é especialmente útil quando os dados de origem são privados. Um assistente de IA privado pode manter a pesquisa e a biblioteca de documentos originais localmente, enviando apenas evidências selecionadas ou derivadas para um serviço externo, quando necessário.

O modelo não precisa de substituir uma leitura aprofundada. A sua função é permitir que a leitura aprofundada seja seletiva.

O padrão real: densidade de decisões

Os sete exemplos parecem não ter relação entre si, mas são muito semelhantes em termos estruturais. Cada um começa com um estado confuso e coloca repetidamente perguntas cuja resposta possível já está limitada.

Uma forma útil de descrever isso é a densidade de decisões: quantas avaliações delimitadas um sistema precisa de fazer numa determinada carga de trabalho.

Dois fatores são os mais importantes:

• frequência: com que frequência a aplicação precisa de uma avaliação;
• dimensionalidade: quantas avaliações são necessárias para cada estado.

É pouco provável que uma única decisão binária justifique reformular uma pilha de IA. Milhares de decisões imprecisas, ou dezenas de avaliações para cada entrada, são outro problema.

Quanto maior a densidade de decisões, mais atrativa se torna uma camada de decisão especializada.

A arquitetura mais eficaz pode ser Jev primeiro, modelo maior depois

Os modelos de decisão também não precisam de resolver todos os casos. A confiança pode determinar quando deve intervir um modelo mais capaz.

Uma experiência pública de deteção de fraude ilustra este padrão. Primeiro, o autor usou o Jev em 100 e-mails e, em seguida, encaminhou as previsões com um nível de confiança inferior ao limiar de 95% para o modelo maior Kimi K3. O autor indicou 31 casos escalados, uma precisão final de 96/100 e um custo total de cerca de 0,07 $. Estes valores continuam a ser experimentais e foram comunicados pelo próprio autor; o caso está listado no diretório de engenharia do Jev.

Esta arquitetura é mais interessante do que tentar maximizar a precisão do Jev por si só. Um modelo mais barato pode tratar da maioria dos casos simples, enquanto um modelo mais caro recebe apenas os casos ambíguos.

Mesmo assim, a confiança não deve transformar-se automaticamente em autoridade. As ferramentas de agente só de leitura e as permissões limitadas continuam a ser importantes quando uma classificação pode acabar por desencadear uma ação no mundo real.

Decisões baratas não tornam bons os sinais maus

As primeiras discussões sobre o Jev já se alargaram a áreas como a rotulagem automatizada e a negociação. Ambas se adequam à interface do modelo de decisão, mas isso não torna igualmente credíveis todas as afirmações feitas a seu respeito.

Na rotulagem de dados, a melhor abordagem a curto prazo não é necessariamente substituir os anotadores humanos. Os casos de elevada confiança podem ser rotulados automaticamente, os exemplos de confiança média podem ser revistos por um segundo modelo e os registos ambíguos podem continuar a ser encaminhados para uma pessoa.

Isso altera os exemplos a que as pessoas dedicam tempo, em vez de partir do princípio de que desaparecem do fluxo de trabalho.

A negociação tem uma limitação ainda mais clara. Produzir rapidamente comprar, vender ou manter é fácil de apresentar como uma decisão delimitada. O problema difícil é saber se os dados de entrada contêm uma verdadeira vantagem preditiva.

O Jev pode tornar barata uma decisão de mercado. Não pode tornar preditivos sinais fracos.

A mesma distinção aplica-se à maioria dos exemplos acima. A baixa latência e o baixo custo de inferência mostram que uma camada de decisão é eficiente. Por si só, não provam que o julgamento subjacente crie valor para o negócio.

Onde se enquadra o Jev num agente de IA local

O próprio Jev é atualmente um serviço alojado, não um ponto de controlo público que possa ser alojado localmente. Isto cria uma fronteira importante para a IA local.

Um agente local pode manter ficheiros, memória, recuperação e ferramentas num servidor doméstico, mas, se o conteúdo dos documentos for enviado para o Jev para classificação, esses dados já ultrapassaram a fronteira da rede.

O mesmo princípio aplica-se ao utilizar ferramentas na cloud com ficheiros locais: um ambiente de execução local não garante automaticamente que os dados permaneçam locais.

Um design híbrido mais robusto mantém a recuperação privada de informação, o pré-processamento, a ocultação de dados e as operações locais de rotina junto dos dados, enviando depois apenas as evidências mínimas necessárias para o modelo de decisão ou de raciocínio alojado.

O que as primeiras implementações do Jev realmente nos dizem

A primeira vaga de experiências com o Jev não mostra que um pequeno modelo de decisão possa substituir a IA de ponta.

Isto revela algo mais útil: muitas aplicações de IA estão a utilizar capacidade de computação de modelos generativos em tarefas que não exigem geração.

Em browsers, anúncios, potenciais clientes, jogos, conteúdos, investigação e orquestração de agentes, surge sempre a mesma estrutura. A entrada é confusa, mas as saídas possíveis são limitadas. A avaliação repete-se e os casos incertos podem ser encaminhados para análise adicional.

Por isso, as demonstrações mais úteis do Jev não são as que tentam provar que o Jev consegue fazer tudo.

São essas as demonstrações que mostram em que situações não é necessário envolver um LLM de uso geral.

O Jev é mais útil quando o software precisa de tomar milhares de decisões imprecisas, mas delimitadas, e quase não precisa de palavras.