Como funcionam as permissões de ferramentas por utilizador num servidor de IA doméstico?
Um servidor de IA doméstico pode aplicar permissões de ferramentas diferentes a cada utilizador quando a identidade de confiança é propagada até à camada de execução e cada chamada de ferramenta com consequências é validada segundo a política antes de ser executada.
O modelo de linguagem não deve ser o sistema de autorização. Pode propor uma ação como «destrancar a porta» ou «eliminar este ficheiro», mas uma camada de políticas separada deve decidir se este utilizador autenticado, a agir neste contexto, pode invocar essa ferramenta sobre esse recurso neste momento.
A autenticação identifica o utilizador, mas a autorização deve acompanhar a execução do agente
O início de sessão comprova quem iniciou o pedido. Essa identidade tem então de ser preservada através da sessão de conversação, do planeador, das chamadas a subagentes, da obtenção de informação e do executor de ferramentas. Se um componente a jusante receber apenas uma instrução em linguagem natural, não conseguirá distinguir um progenitor que pede para alterar o termóstato de uma instrução de um convidado que, por acaso, contém as mesmas palavras.
Uma arquitetura de segurança da AWS para a propagação da autorização do utilizador trata o contexto de autorização como dados que têm de acompanhar os pedidos do agente, em vez de serem reconstruídos a partir das instruções. A versão para um servidor doméstico pode ser mais simples, mas precisa da mesma cadeia de confiança, da identidade até à execução.
Não permita que o modelo escolha o seu próprio ID de utilizador, função ou grupo familiar a partir de texto. Esses atributos devem provir da sessão autenticada ou de um serviço de identidade de confiança. Se o contexto estiver em falta, falhe de forma segura, em vez de recorrer a uma conta partilhada com poderes elevados.
O princípio do menor privilégio transforma um catálogo de ferramentas em capacidades específicas para cada utilizador
Um servidor pode disponibilizar dezenas de ferramentas, embora cada pessoa deva ver apenas um subconjunto: as crianças podem adicionar artigos à lista de compras, mas não alterar regras da firewall; os convidados podem controlar as luzes, mas não ler calendários; um administrador pode gerir o armazenamento, mas ainda assim precisar de confirmação antes de ações destrutivas. Por isso, as permissões devem associar identidade, ferramenta, recurso e ação.
A análise da Microsoft, de 2026, sobre a associação de ferramentas com menor privilégio defende que a identidade do agente e o acesso às ferramentas devem ter um âmbito restrito, em vez de receberem credenciais reutilizáveis e abrangentes. Isto aplica-se diretamente a um servidor de IA doméstico: o agente deve receber a capacidade mínima necessária para a tarefa pedida, não um token mestre de toda a casa.
O artigo relacionado da ZimaSpace sobre acesso a ferramentas baseado em capacidades explora esse limite de capacidade. A autorização por utilizador acrescenta outra dimensão: a mesma ferramenta pode estar disponível para diferentes pessoas, com âmbitos de recursos ou requisitos de aprovação distintos.
A política deve ser avaliada no momento da execução, não apenas quando o plano é criado
Um plano de agente pode sobreviver às condições em que foi proposto. A função de um utilizador pode mudar, um dispositivo pode entrar num modo protegido ou uma janela de aprovação pode expirar enquanto o modelo raciocina. O executor da ferramenta precisa de uma decisão política atualizada imediatamente antes de produzir o efeito.
O SEAgent, uma estrutura de controlo de acesso de 2026, aplica o controlo de acesso obrigatório para agentes para impedir a elevação de privilégios e o comportamento de agente delegado confuso em agentes que utilizam ferramentas. A investigação reforça um ponto arquitetural crucial: as instruções do pedido são consultivas, enquanto uma verificação de autorização externa pode negar uma operação proibida mesmo quando o modelo insiste em chamá-la.
Separe as permissões de leitura, escrita, execução e delegação quando o risco for diferente. Ter autorização para ler o estado de um termóstato não implica ter autorização para alterar a sua programação; ter autorização para criar um ficheiro não implica ter autorização para eliminar uma cópia de segurança. Ações granulares tornam a política mais fácil de auditar e reduzem o impacto de um plano incorreto.
Os testes de permissões devem tentar quebrar o limite
Um teste doméstico significativo utiliza várias identidades e instruções adversariais. Peça a uma conta de convidado para invocar uma ferramenta exclusiva de administradores, peça a um membro da família para obter o ficheiro privado de outra pessoa através de uma ferramenta de pesquisa legítima e tente executar um fluxo de trabalho atrasado depois de revogar a respetiva permissão. O resultado esperado é uma recusa determinística antes de quaisquer efeitos.
O AgentGuard propõe uma política de ferramentas baseada em atributos para agentes que utilizam ferramentas, ilustrando como uma política em tempo de execução pode combinar utilizador, recurso, contexto e ação solicitada. Isto representa melhor um ambiente doméstico do que um único sinalizador estático de «administrador/utilizador», porque divisões, dispositivos, classes de dados, hora e estado de aprovação podem ser relevantes.
Considere o sistema seguro por utilizador apenas quando as ferramentas negadas nunca recebem credenciais utilizáveis, as ferramentas permitidas operam apenas sobre recursos autorizados, os registos de auditoria identificam o utilizador que iniciou a ação e a revogação produz efeitos na verificação de execução seguinte. Se a única proteção for uma instrução de sistema a dizer «não utilize esta ferramenta», o servidor tem orientação comportamental, não isolamento de permissões aplicável.
Produtos recomendados
Centro de Tecnologia e IA
Mais para Ler
Como afeta a redução da frequência de amostragem de séries temporais a deteção de anomalias em casas inteligentes?
Veja como a largura dos intervalos, a agregação, o anti-aliasing, os dados em falta, a duração dos eventos e a retenção multiescala alteram a...
Como é que uma grelha de ocupação combina sinais fracos de uma casa inteligente?
Saiba como células espaciais, modelos de sensores, atualizações de log-odds, decaimento, evidências correlacionadas e limiares transformam sinais domésticos fracos em estimativas de ocupação.
Como é que a normalização fotométrica afeta o agrupamento privado de rostos?
Veja como a correção da iluminação altera recortes faciais, embeddings, distâncias entre clusters, limiares, sobre-normalização e a avaliação da pesquisa privada de fotografias.
