Qual é a diferença entre a memória do agente e o contexto RAG?

A memória do agente preserva o estado reutilizável de interações anteriores, enquanto o contexto RAG recupera informação fundamentada em fontes para a pergunta que está a ser respondida agora.

Num servidor de IA doméstico, os dois podem parecer enganadoramente semelhantes, porque ambos podem ser armazenados localmente, pesquisados semanticamente e inseridos no mesmo prompt do modelo. Uma preferência memorizada, como «usar graus Celsius», e um excerto recuperado de um manual podem influenciar a mesma resposta, mas não devem ter as mesmas regras de escrita, autoridade, duração ou gestão de falhas. A distinção útil não é onde o texto se encontra no prompt, mas por que razão a informação existe e o que é permitido alterá-la.

A Memória do Agente Preserva o Estado da Interação; o Contexto RAG Fornece Evidências Externas

A memória do agente existe para transportar informação útil para além do momento em que foi criada. Esse estado pode incluir uma preferência do utilizador, uma correção, uma tarefa inacabada, uma restrição recorrente ou outro facto que deva influenciar interações posteriores sem obrigar o utilizador a repeti-lo sempre.

A memória de longo prazo está, portanto, organizada em torno da persistência entre conversas ou execuções, muitas vezes com âmbito de utilizador, agente, aplicação ou tarefa. A propriedade importante é a continuidade: um pedido posterior pode recuperar o estado criado durante uma interação anterior e reutilizá-lo quando a mesma pessoa ou fluxo de trabalho regressa.

O contexto RAG tem uma finalidade diferente. A recuperação seleciona excertos de uma fonte de conhecimento externa porque a pergunta atual necessita de evidências que já não estão presentes no contexto ativo do modelo. O texto recuperado pode provir de um manual, nota, política, transcrição, base de dados ou outra fonte indexada cuja autoridade existe independentemente da conversa.

Ambas as camadas podem contribuir com texto útil para o mesmo prompt, mas representam afirmações diferentes. «A família prefere hardware silencioso» é um estado derivado da interação; «esta unidade está classificada para uma temperatura de funcionamento específica» deve permanecer associada à fonte que o declara.

O percurso de escrita é o limite prático mais forte

Um sistema de memória de agente tem de decidir quais os detalhes da interação que merecem tornar-se estado reutilizável. Uma correção direta do utilizador, uma instrução temporária de um convidado, uma inferência do modelo e um resultado de uma ferramenta podem surgir na mesma conversa, mas promovê-los a memória persistente tem consequências muito diferentes mais tarde.

Por isso, os sistemas de memória precisam de operações para adicionar, atualizar, pesquisar e eliminar informações armazenadas. Quando factos derivados de interações se tornam estado persistente, as regras de âmbito e correção são importantes, porque a mesma memória pode ser recuperada repetidamente em sessões futuras.

É por isso que uma inferência fraca se torna mais perigosa depois de ser armazenada como estado persistente e recuperada repetidamente. O passo de recuperação não é, por si só, a raiz do problema; a transição importante é o facto de se ter atribuído uma vida útil mais longa e autoridade suficiente a evidências de interação incertas para continuarem a afetar o comportamento posterior.

A ingestão de RAG segue outro ciclo de vida. Um ficheiro de origem é analisado, dividido em unidades de recuperação, indexado e, mais tarde, atualizado ou retirado quando a fonte subjacente muda. O sistema não deve ter de reescrever a memória pessoal do agente apenas porque um manual, uma política ou um documento de projeto recebeu uma nova revisão.

O contexto do RAG mantém uma relação com a fonte que a memória poderá não partilhar

O RAG é útil porque a passagem recuperada pode permanecer ligada a uma fonte externa, em vez de se tornar um facto não rastreável dentro do modelo. Uma base de conhecimento privada pode preservar identificadores de documentos, metadados de revisão, marcas temporais, permissões e a proveniência dos fragmentos, para que a resposta possa ser avaliada com base no material que a forneceu.

A recuperação no momento da consulta baseia-se em encontrar conhecimento externo relevante e colocar as passagens selecionadas no contexto do modelo. O modelo recebe essas passagens para o pedido atual, mas o corpus de fontes permanece fora da conversa e pode ser atualizado independentemente.

Essa separação torna-se importante quando existem duas versões do mesmo ficheiro. A similaridade semântica pode atribuir uma classificação elevada a ambas, pelo que a atualidade e a substituição das fontes têm de determinar qual versão é válida para uma pergunta sobre o estado atual, em vez de permitir que uma passagem mais antiga permaneça autoritativa apenas por ser uma correspondência lexical ou semântica forte.

A memória do agente também pode preservar a proveniência, mas o seu papel definidor é diferente. Armazena o estado reutilizável da interação; o RAG mantém uma relação recuperável com um corpus de fontes cujos documentos podem ter os seus próprios responsáveis, históricos de revisão, regras de acesso e políticas de retenção.

-15% OFF

ZimaBoard 2 - Mini Servidor Doméstico para a Sua Grande Ideia

Single board computer zimaboard2

$339.00 - $519.00

Buy Now

Ambas as camadas podem utilizar embeddings e pesquisa vetorial sem se tornarem o mesmo sistema

A tecnologia de armazenamento não define a fronteira, porque tanto a memória do agente como o RAG podem utilizar embeddings, armazenamentos vetoriais, reordenação, filtros de metadados ou pesquisa híbrida. Um registo de memória pode ser convertido num embedding para que um pedido posterior consiga recuperar uma preferência semanticamente relacionada, enquanto um fragmento de documento pode ser convertido num embedding para que uma consulta atual encontre evidências relevantes na fonte.

A pesquisa semântica sobre memórias armazenadas demonstra que a recuperação pode fazer parte de uma implementação de memória. O mesmo mecanismo de vizinhos mais próximos pode, portanto, estar subjacente a dois registos que exigem regras de ciclo de vida e autoridade completamente diferentes.

A questão da classificação deve antes perguntar por que razão o registo foi criado, quem o pode modificar, durante quanto tempo deve ser mantido e que tipo de afirmação está autorizado a fundamentar. Uma preferência do utilizador e um parágrafo de um manual podem ocupar vetores vizinhos e, ainda assim, pertencer a domínios diferentes de confiança e retenção.

Isto também explica por que razão um único limiar universal de similaridade não é suficiente. Uma memória pode ser altamente relevante, mas estar incorretamente associada a outro membro do agregado familiar, enquanto uma passagem de um documento pode ser altamente relevante, mas ter sido substituída por uma revisão mais recente.

Os modos de falha divergem porque as fontes de verdade divergem

As falhas da memória começam normalmente com um estado que não deveria ter sido guardado, que foi guardado sob a identidade ou o âmbito errados, que foi inferido de forma demasiado precipitada ou que nunca foi corrigido depois de as circunstâncias mudarem. O resultado é a continuidade aplicada à informação errada: um erro persiste precisamente porque a memória está a cumprir a sua função de transportar o estado para a frente.

As falhas do RAG surgem mais frequentemente na ingestão e na recuperação. Um ficheiro pode nunca ser indexado, o OCR pode danificar uma tabela, a divisão em fragmentos pode separar uma ressalva da afirmação que ela modifica, os metadados podem selecionar a revisão errada ou a recuperação pode classificar uma passagem próxima acima das evidências que realmente respondem à pergunta.

A ação corretiva é, portanto, diferente. Uma memória incorreta pode ter de ser atualizada, eliminada, reabrangida ou impedida de voltar a ser guardada, enquanto uma resposta RAG incorreta pode exigir a correção da extração, a reindexação do corpus, a alteração da lógica de recuperação ou a seleção de uma fonte mais autoritativa.

A confiança também deve permanecer separada. A relevância não prova autoridade em nenhuma das camadas: uma memória recordada pode ser semanticamente perfeita, mas estar errada, e uma passagem recuperada pode corresponder de perto à pergunta, embora descreva um estado obsoleto.

Um assistente local funciona melhor quando as duas camadas mantêm autoridades distintas

Um assistente doméstico útil pode combinar ambas as camadas sem as fundir num único conjunto indiferenciado. A memória pode fornecer restrições de interação estáveis, como unidades preferidas, fluxos de trabalho recorrentes ou escolhas confirmadas do agregado familiar, enquanto o RAG fornece evidências dos ficheiros e bases de dados relevantes para a tarefa atual.

Por exemplo, um pedido para configurar um servidor multimédia pode usar a memória para preservar a preferência do agregado familiar por pouco ruído e contas apenas locais, utilizando depois a pesquisa semântica para obter os requisitos atuais da aplicação e as notas de configuração. A resposta torna-se personalizada sem permitir que a preferência memorizada substitua as evidências técnicas da fonte.

Quando os dois entram em conflito, o sistema precisa de uma regra de autoridade, não de outra pontuação de similaridade. As instruções explícitas e atuais do utilizador podem substituir preferências memorizadas, as revisões atuais das fontes podem substituir passagens RAG desatualizadas e os resultados de ferramentas em tempo real podem prevalecer sobre a memória e os documentos quando a questão diz respeito ao estado mutável de um dispositivo.

A arquitetura limpa não é, portanto, memória versus RAG. É composição controlada: manter na memória o estado de interação reutilizável, obter evidências externas através de RAG, preservar a proveniência de ambos e decidir explicitamente qual camada é autoritativa para cada tipo de afirmação.