Os modelos abertos estão a alcançar a IA de fronteira — será 2026 o ano em que a IA local se torna suficientemente boa?

Os modelos abertos estão a aproximar-se suficientemente da IA de fronteira para que a pergunta mais útil já não seja se conseguem superar o melhor modelo na nuvem em todos os benchmarks. Para os utilizadores de IA local, a pergunta mais prática é se um modelo aberto já consegue realizar o trabalho que repetem todos os dias: pesquisa em documentos, sumarização, escrita, assistência à programação, RAG privado e, cada vez mais, fluxos de trabalho de agentes.

Em 2026, a resposta está a tornar-se afirmativa para um número crescente de cargas de trabalho — mas não para todas. Os modelos proprietários mais avançados continuam a liderar no raciocínio difícil e nas tarefas de longo horizonte, enquanto muitos dos modelos com pesos abertos mais capazes continuam a ser demasiado grandes para o hardware doméstico comum. A IA local está a tornar-se “suficientemente boa” não porque a fronteira tenha parado de avançar, mas porque é agora possível transferir mais trabalho útil para um nível abaixo dela.

Os modelos abertos estão realmente a alcançar a IA de fronteira?

Sim, mas é necessário definir cuidadosamente o que significa “alcançar a fronteira”. Os modelos com pesos abertos melhoraram rapidamente na programação, no raciocínio, na compreensão multimodal, no contexto longo e nas tarefas agentivas. Ao mesmo tempo, os principais modelos proprietários continuam a avançar, pelo que a diferença diminuiu sem desaparecer.

A atualização de setembro de 2026 do Artificial Analysis Intelligence Index v4.2 é útil porque o próprio benchmark se tornou mais difícil. Foram adicionados trabalho de conhecimento agentivo, raciocínio sobre documentos longos ao longo de milhares de páginas PDF, mais conjuntos de testes privados e uma maior ênfase em avaliações com dados reservados.

Com essa metodologia atualizada, a Anthropic e a OpenAI continuam a ocupar as posições de topo. Os criadores de modelos com pesos abertos, incluindo a Moonshot AI e a Z.AI, ficam mais abaixo na classificação, em vez de substituírem diretamente a fronteira proprietária.

Isto cria duas tendências diferentes.

• Os modelos abertos estão a alcançar mais rapidamente a fronteira de ontem. Capacidades que antes exigiam um modelo proprietário de topo aparecem cada vez mais em modelos descarregáveis.
• A fronteira atual continua a avançar. Os laboratórios proprietários continuam a melhorar o raciocínio difícil, a utilização de ferramentas, a programação e o comportamento de agentes em execuções prolongadas.

Assim, a afirmação mais forte sustentada pelas evidências atuais não é que os modelos abertos tenham alcançado totalmente os modelos de fronteira.

É que a diferença de capacidade está a tornar-se suficientemente pequena para que os utilizadores deixem de escolher modelos apenas pela posição na tabela de classificação e passem a escolhê-los de acordo com a carga de trabalho. Essa mesma abordagem centrada na carga de trabalho é útil ao comparar IA de fronteira e IA local, em vez de tratar qualquer uma delas como a opção predefinida universal.

O que significa realmente uma IA local «suficientemente boa»?

A expressão «suficientemente bom» pode parecer aceitar um modelo inferior, mas essa não é a definição útil.

Para uma carga de trabalho local, um modelo é suficientemente bom quando consegue concluir a tarefa com um nível aceitável de qualidade, velocidade, fiabilidade e custo, sem precisar de um modelo materialmente mais potente para a maioria dos pedidos.

Isto significa que não é necessária paridade nos benchmarks.

Um modelo local não precisa de se tornar o melhor sistema de raciocínio científico do mundo para resumir documentos privados. Não precisa de superar o melhor agente autónomo de programação para explicar uma função, gerar um script ou classificar ficheiros de código-fonte.

O teste relevante é:

A utilização de um modelo de fronteira mais potente altera o resultado o suficiente para justificar enviar-lhe esta carga de trabalho específica?

Isto desloca a comparação de uma única pontuação de inteligência para várias dimensões práticas:

• qualidade da tarefa,
• latência,
• requisitos de privacidade,
• requisitos de hardware,
• volume de inferência repetida,
• fiabilidade do agente,
• e o custo das falhas.

Assim, um modelo pode ser «suficientemente bom» para RAG privado, mas não para uma tarefa autónoma de programação com 12 horas de duração. O mesmo modelo pode ser adequado para escrita de rotina, mas inadequado para um fluxo de trabalho difícil de investigação científica.

A IA local não corresponde a uma única carga de trabalho, por isso «A IA local é suficientemente boa?» não pode ter uma resposta universal.

Porque é que os pesos abertos não significam automaticamente utilização local

Esta distinção torna-se especialmente importante em 2026, porque alguns dos modelos de pesos abertos mais avançados são enormes.

O Kimi K3 ilustra claramente a diferença. O cartão oficial do modelo Kimi K3 da Moonshot AI descreve um modelo multimodal de pesos abertos com 2,8 biliões de parâmetros e uma janela de contexto de um milhão de tokens.

Disponibilizar esses pesos é importante. Permite a implementação independente, a investigação, a otimização, a quantização e novos sistemas de inferência.

Isto não significa que um servidor doméstico comum com 32 GB ou 64 GB passe subitamente a ter a memória necessária para executar confortavelmente o modelo completo. A diferença prática entre pesos disponibilizados e inferência local utilizável torna-se muito mais clara ao analisar os limites de implementação do Kimi K3.

O mesmo princípio aplica-se aos modelos de mistura de especialistas. Apenas uma parte de uma rede MoE pode estar ativa para um determinado token, o que pode reduzir a computação, mas o conjunto completo de pesos do modelo tem de existir em algum ponto da arquitetura de implementação.

Os parâmetros ativos afetam a computação. O total de pesos continua a ser importante para o planeamento do armazenamento e da memória.

É por isso que a revolução dos modelos abertos e a revolução da IA local se sobrepõem sem serem idênticas.

Que modelos abertos estão a diminuir a diferença em 2026?

Em vez de criar mais uma classificação dos dez primeiros, três famílias de modelos atuais ilustram como o ecossistema aberto está a mudar.

GLM-5.3-Flash: Mais capacidade por parâmetro ativo

O GLM-5.3-Flash é interessante porque o seu design dá prioridade à eficiência, em vez de simplesmente maximizar o tamanho total do modelo.

O cartão oficial do modelo GLM-5.3-Flash indica 320 mil milhões de parâmetros no total, mas apenas 18 mil milhões de parâmetros ativos. A Z.AI também o descreve como o primeiro modelo nativamente multimodal da série GLM-5 e afirma que a arquitetura foi redesenhada em torno da capacidade e da eficiência de inferência.

A tendência importante não é a afirmação do fornecedor de que um modelo supera outro num benchmark.

É esse comportamento cada vez mais capaz que pode resultar de arquiteturas que ativam uma fração muito menor da sua capacidade total para cada token.

Para a IA local, isto é importante porque o desempenho útil depende não só da inteligência do modelo, mas também da eficiência com que essa inteligência pode ser disponibilizada. Mesmo um MoE eficiente continua a exigir recursos consideráveis de memória e armazenamento, razão pela qual a realidade do hardware do GLM-5.3-Flash é mais importante do que a sua contagem de parâmetros ativos, por si só.

DeepSeek V4: Os modelos abertos estão a tornar-se modelos agênticos

O DeepSeek V4 evidencia uma segunda transição: os modelos abertos estão a ser concebidos para cargas de trabalho agênticas orientadas por ferramentas, em vez de se destinarem apenas à conversação.

A documentação oficial do lançamento do DeepSeek V4 da DeepSeek descreve duas versões: V4-Pro, com 1,6 biliões de parâmetros no total e 49 mil milhões de parâmetros ativos, e V4-Flash, com 284 mil milhões no total e 13 mil milhões de parâmetros ativos.

Ambos suportam uma janela de contexto de um milhão de tokens, e a DeepSeek otimizou especificamente os modelos para programação agêntica e integrações com ambientes de agentes.

Isto é importante porque a próxima pergunta sobre IA local já não é apenas:

Este modelo consegue responder ao pedido?

É cada vez mais:

Este modelo consegue escolher ferramentas repetidamente, interpretar resultados, recuperar de erros e dar continuidade a um fluxo de trabalho?

Esse é um nível muito mais exigente do que a qualidade de um chatbot. É também por isso que o ecossistema de ferramentas envolvente é importante; a capacidade do modelo torna-se mais útil quando associada a plugins DeepSeek Harness reutilizáveis e a outra infraestrutura para agentes.

Kimi K3: Os Pesos Abertos Estão a Avançar para Modelos à Escala de Fronteira

O Kimi K3 demonstra o extremo oposto do espectro. Em vez de tornar o modelo suficientemente pequeno para o hardware local comum, a Moonshot AI lançou os pesos de um sistema muito grande, concebido para programação de longo alcance, raciocínio multimodal e trabalho de conhecimento agêntico.

A sua escala torna-o um marco importante entre os modelos abertos, ao mesmo tempo que demonstra por que razão aberto não significa leve.

Um modelo pode ser implementável de forma aberta e, ainda assim, exigir uma infraestrutura muito além da de uma caixa de IA doméstica convencional.

Em conjunto, estes exemplos mostram três direções que estão a ocorrer em simultâneo:

• os modelos estão a tornar-se mais eficientes em termos computacionais,
• os modelos estão a tornar-se mais capazes de funcionar como agentes,
• e os pesos à escala de fronteira estão a tornar-se mais acessíveis.

As três tendências expandem a IA local — mas em diferentes classes de hardware.

Que Cargas de Trabalho de IA Já São Suficientemente Boas para Serem Executadas Localmente?

O principal argumento a favor da IA local não é a tarefa mais difícil possível. É o grande volume de trabalho comum que não exige o modelo mais poderoso possível.

A recuperação de documentos é um exemplo particularmente bom.

Um assistente privado de conhecimento não depende apenas da inteligência bruta do modelo. O seu resultado pode ser determinado tanto por:

• como os ficheiros são indexados,
• quais os excertos recuperados,
• se os metadados são preservados,
• como o prompt é construído,
• e se o modelo consegue resumir fielmente as informações recuperadas.

Quando o modelo ultrapassa um nível de qualidade suficiente, melhorar a recuperação pode gerar mais valor do que substituí-lo por um modelo de fronteira muito mais dispendioso. Por isso, os fluxos de trabalho práticos de pesquisa documental e RAG são tão importantes como a escolha do modelo. :contentReference[oaicite:1]{index=1}

O mesmo se aplica a cargas de trabalho repetitivas, como classificação, extração, formatação, tradução e sumarização rotineira.

É aqui que a IA local pode tornar-se a opção predefinida sem primeiro se tornar a IA mais inteligente do mundo.

Onde é que os modelos de fronteira ainda têm uma vantagem clara?

A redução da diferença não deve ser confundida com o desaparecimento da diferença.

As avaliações independentes atuais continuam a mostrar que os principais sistemas proprietários estão à frente em benchmarks difíceis de inteligência combinada. O Artificial Analysis v4.2 é especialmente relevante porque aumentou o peso do trabalho de conhecimento agentivo realista e do raciocínio sobre documentos longos, em vez de depender apenas de perguntas académicas mais antigas.

Os modelos de fronteira podem continuar a ser valiosos quando uma tarefa exige várias capacidades em simultâneo:

• raciocínio difícil,
• seleção fiável de ferramentas,
• planeamento a longo prazo,
• compreensão de código em grande escala,
• análise multimodal complexa,
• ou recuperar de falhas inesperadas.

A distinção surge frequentemente nos limites de uma tarefa, e não no seu início.

Um modelo local pode produzir uma primeira versão útil de um programa. A vantagem do modelo de fronteira pode só tornar-se visível depois de o agente ter feito seis alterações, encontrado um conflito invulgar de dependências, inspecionado vários repositórios e ter de repensar a sua estratégia.

Um modelo local pode resumir bem dez documentos. O problema mais difícil pode ser detetar que duas fontes se contradizem e decidir em que evidências se deve confiar.

São precisamente estes os casos em que a inteligência adicional de um modelo de fronteira pode justificar o seu custo.

Isto sugere uma arquitetura mais útil do que forçar todos os pedidos a passar pelo mesmo modelo:

O trabalho rotineiro permanece local. As exceções difíceis são encaminhadas para níveis superiores.

Essa abordagem de encaminhamento também está na base de um modelo prático de custos de IA híbrida: o trabalho repetitivo pode permanecer local, enquanto as exceções de maior valor recorrem à inteligência da cloud apenas quando necessário. :contentReference[oaicite:2]{index=2}

A IA local é suficientemente boa para programação e agentes de IA?

A programação é uma das áreas em que uma resposta simples de sim ou não se torna enganadora.

Os modelos locais e de pesos abertos já são úteis para:

• explicar código,
• escrever funções individuais,
• gerar scripts,
• criar testes,
• rever pequenas alterações,
• e depurar problemas bem delimitados.

A engenharia de software agentiva é mais difícil.

Um agente de programação pode precisar de inspecionar um repositório, executar comandos no terminal, editar vários ficheiros, analisar falhas, rever as suas suposições e continuar ao longo de dezenas ou centenas de interações com ferramentas.

Nesse momento, o modelo é apenas uma parte do sistema.

O agente também precisa de:

• um sistema de suporte fiável,
• execução de ferramentas,
• memória de trabalho,
• estado da tarefa,
• lógica de novas tentativas,
• controlos de permissões,
• e um ambiente de execução.

Isto conduz a uma mudança importante na forma como a IA local deve ser avaliada.

A questão já não é apenas saber se o modelo local é suficientemente inteligente. É saber se o sistema completo de agentes locais é suficientemente fiável.

As atuais integrações de agentes da DeepSeek são prova de que os programadores de modelos abertos estão a visar explicitamente este problema. A sua documentação de integração de agentes abrange ambientes como Claude Code, OpenCode e OpenClaw, em vez de apresentar o V4 apenas como um endpoint de chat.

Para os utilizadores que avaliam o ecossistema mais amplo de alojamento próprio, os atuais projetos de agentes de IA local mostram quanto da pilha se encontra agora fora do próprio modelo. :contentReference[oaicite:3]{index=3}

Esse é um sinal significativo da direção que o ecossistema aberto está a tomar.

A IA Local É Suficientemente Boa para Trabalho Multimodal?

A capacidade multimodal também está a passar dos modelos de fronteira exclusivos da nuvem para modelos mais acessíveis.

O GLM-5.3-Flash é multimodal nativamente, enquanto o Kimi K3 combina a compreensão de texto, imagem e vídeo num único modelo de pesos abertos. Isso torna cargas de trabalho como capturas de ecrã, documentos digitalizados, imagens e entradas visuais de agentes cada vez mais relevantes para implementações locais.

Mas a IA multimodal cria um segundo desafio de infraestrutura: volume de entrada.

Processar uma única captura de ecrã é diferente de processar continuamente:

• horas de vídeo,
• grandes bibliotecas de fotografias,
• fluxos de vídeo de câmaras,
• ou milhares de documentos de vários tipos.

À medida que a IA compreende mais do que texto, o débito de armazenamento, o pré-processamento, a indexação e os conteúdos multimédia retidos passam a fazer parte da carga de trabalho.

Isso significa que modelos multimodais abertos melhores podem, na verdade, tornar a infraestrutura local mais importante, em vez de fazerem a infraestrutura desaparecer.

De Quanto Hardware Precisa Realmente uma IA Local «Suficientemente Boa»?

É aqui que os anúncios de modelos encontram a realidade física.

O hardware necessário para uma inferência local útil depende de muito mais do que da contagem principal de parâmetros do modelo.

Os utilizadores precisam de considerar:

• tamanho dos pesos do modelo,
• nível de quantização,
• capacidade de RAM e VRAM,
• comprimento do contexto,
• requisitos de cache KV,
• número de utilizadores simultâneos,
• comprimento do prompt,
• e pela velocidade de geração esperada.

Um modelo carregar tecnicamente para a memória não é o mesmo que ser prático. Os atuais requisitos de hardware do Ollama são determinados pelo modelo carregado, pela quantização, pelo contexto e pela simultaneidade, e não por um único requisito mínimo universal de RAM ou VRAM. :contentReference[oaicite:4]{index=4}

Se um assistente interativo produzir um token por segundo, pode ser possível executá-lo, mas será desagradável utilizá-lo. Se um agente esperar repetidamente vários minutos por cada etapa de raciocínio, um fluxo de trabalho que parece viável numa tabela de compatibilidade de hardware pode falhar na utilização diária.

Uma inteligência suficientemente boa também exige uma latência suficientemente baixa.

Os contextos longos tornam o cálculo mais difícil. Um modelo pode suportar teoricamente um milhão de tokens, enquanto uma implementação local só consegue utilizar confortavelmente uma fração desse contexto, porque a cache KV e a pressão sobre a memória aumentam com a sequência em processamento.

A simultaneidade altera novamente a situação. Uma máquina com bom desempenho para um utilizador pode ficar lenta quando vários agentes ou tarefas em segundo plano competem pelo mesmo acelerador.

É por isso que não pode existir uma especificação de hardware universal para “IA local de fronteira”. Uma máquina que funciona perfeitamente como servidor de ficheiros também pode deparar-se com estrangulamentos muito diferentes quando as cargas de trabalho de IA no servidor doméstico começam a competir por memória, capacidade de cálculo, armazenamento e arrefecimento. :contentReference[oaicite:5]{index=5}

Porque Está a IA Local a Melhorar Mesmo Sem Modelos Novos?

O modelo representa apenas metade da equação do desempenho.

Os runtimes de inferência, os kernels, os métodos de quantização, a descodificação especulativa, as implementações de atenção e os escalonadores de hardware podem tornar o mesmo modelo substancialmente mais útil no hardware existente.

A atualização da NVIDIA na IFA de setembro é um exemplo atual. A empresa anunciou novas otimizações para o llama.cpp e o vLLM e comunicou um débito até 1,9× superior em cargas de trabalho selecionadas do llama.cpp numa RTX 5090, juntamente com ganhos menores noutras configurações testadas.

Estes números provêm dos próprios testes da NVIDIA e não devem ser interpretados como um aumento universal de velocidade de 1,9×. O mais importante é que as melhorias estão a chegar através de stacks de inferência local amplamente utilizados, como o Ollama e o LM Studio.

A atualização da NVIDIA sobre IA local também apresentou o PAIR, que distribui pedidos de inferência independentes por computadores compatíveis numa rede local.

Isto ilustra dois tipos de progresso simultâneo na IA local:

• Os modelos estão a tornar-se mais capazes e eficientes.
• A infraestrutura está a tornar-se melhor a servir esses modelos.

Como resultado, a vida útil do hardware local existente pode aumentar mesmo entre grandes atualizações da GPU.

Porque é que modelos abertos melhores mudam o papel de um servidor de IA doméstico

Se os modelos locais conseguirem tratar mais inferência de rotina, a finalidade de um servidor de IA doméstico começa a mudar.

O servidor já não tem de ser visto apenas como uma máquina que tenta reproduzir um modelo de fronteira na cloud.

Pode, em vez disso, tornar-se a infraestrutura persistente em torno das cargas de trabalho de IA:

• disponibilização de modelos,
• acesso a ficheiros privados,
• índices RAG,
• bases de dados vetoriais,
• estado do agente,
• filas de tarefas,
• registos,
• bibliotecas multimédia,
• e serviços locais de longa duração.

Esta distinção é importante porque o modelo mais potente não precisa necessariamente de estar na mesma máquina que os dados.

Um modelo local mais pequeno pode processar continuamente tarefas de rotina. Outra estação de trabalho pode disponibilizar uma inferência local mais capaz quando estiver disponível. Uma API de fronteira pode tratar as poucas tarefas que requerem genuinamente mais inteligência.

O resultado não é uma réplica local de um serviço de IA na cloud.

Trata-se de uma infraestrutura de IA em camadas, na qual diferentes cargas de trabalho são encaminhadas para diferentes níveis de computação. A decisão de partilhar o armazenamento e a inferência numa única máquina depende da intensidade da carga de trabalho, razão pela qual a IA local e o armazenamento de ficheiros devem ser planeados em conjunto, em vez de serem tratados como serviços não relacionados. :contentReference[oaicite:6]{index=6}

A IA de fronteira deve tornar-se a camada de escalada?

Esta poderá ser a mudança mais importante proporcionada por modelos abertos melhores.

Durante anos, a arquitetura de IA começou pelo modelo de cloud de fronteira e tratou a inferência local como uma otimização opcional de privacidade ou de custos.

À medida que a capacidade local melhora, essa ordem pode ser invertida.

A camada predefinida consegue tratar:

• recuperação de documentos,
• resumos,
• redação de rotina,
• classificação,
• consultas a conhecimentos privados,
• automatização em segundo plano,
• e tarefas de programação previsíveis.

O sistema faz a escalada apenas quando deteta um problema, como:

• baixa confiança,
• falhas repetidas das ferramentas,
• raciocínio difícil,
• trabalho complexo em repositórios,
• ou uma tarefa cujo valor justifique o custo de um modelo de fronteira.

Isto é diferente de pedir aos utilizadores que escolham permanentemente entre IA local e IA na cloud.

Ambos podem coexistir no mesmo fluxo de trabalho.

O processamento local torna-se a carga base. Os modelos de fronteira tornam-se a via de exceção.

Essa arquitetura também torna futuras alterações de modelos menos disruptivas. A camada de dados local, o sistema de recuperação, os ficheiros e o estado do agente podem permanecer estáveis enquanto o modelo atribuído a cada carga de trabalho muda ao longo do tempo. O mesmo princípio aplica-se aos fluxos de trabalho de bases de conhecimento locais, nos quais os ficheiros persistentes e a recuperação podem continuar sob o controlo do utilizador, mesmo quando a camada do modelo muda. :contentReference[oaicite:7]{index=7}

2026 é realmente o ano em que a IA local se torna suficientemente boa?

Para um número crescente de cargas de trabalho, sim. Para as cargas mais difíceis, ainda não — e a IA local não precisa de vencer em todo o lado para que isso seja importante.

Os modelos proprietários mais poderosos continuam a liderar em avaliações importantes. Os enormes modelos abertos não são automaticamente práticos em hardware doméstico. Os agentes de longo alcance continuam a expor lacunas de fiabilidade que uma simples pontuação de referência pode ocultar.

Mas o limiar mudou.

RAG privado, sumarização, extração, redação de rotina, assistência à programação, trabalho multimodal com documentos e, cada vez mais, cargas de trabalho agênticas podem agora ser tarefas locais realistas, em vez de demonstrações reservadas aos entusiastas.

Isso altera a questão económica e arquitetural.

O objetivo já não é:

Como posso executar o modelo de IA mais poderoso do mundo inteiramente em casa?

Uma pergunta mais útil é:

Que parte da minha carga de trabalho de IA ainda precisa do modelo mais poderoso do mundo?

Se a resposta continuar a ficar mais pequena, a IA local não precisa de acompanhar completamente a fronteira em constante evolução.

2026 pode não ser o ano em que a IA local supera a IA de fronteira em todos os domínios. Pode ser o ano em que deixa de precisar de o fazer.

Perguntas frequentes: Modelos abertos e IA local em 2026

A IA local pode substituir o ChatGPT ou outros modelos de fronteira na nuvem?

Para muitas tarefas de rotina, um modelo local competente já pode substituir a inferência na nuvem. O raciocínio difícil, a programação de longo alcance, a investigação complexa e os casos-limite invulgares podem continuar a beneficiar de modelos de fronteira.

«Open-weight» significa o mesmo que código aberto?

Não. «Open-weight» significa que os pesos do modelo estão disponíveis ao abrigo de uma licença especificada. Os dados de treino, o processo de treino completo, o código-fonte e outros componentes podem não ser todos abertos. A licença deve ser sempre verificada antes de presumir uma utilização sem restrições.

Um servidor doméstico com 64 GB consegue executar modelos abertos de fronteira?

Depende muito do modelo e da quantização. Muitos modelos mais pequenos e úteis podem caber nessa classe de hardware, mas os modelos abertos à escala dos modelos de fronteira, com centenas de milhares de milhões ou biliões de parâmetros no total, podem exigir substancialmente mais memória ou uma infraestrutura distribuída.

Os modelos MoE são mais fáceis de executar localmente?

Podem reduzir a computação, porque apenas parte da rede está ativa para cada token, mas o conjunto completo de pesos continua a afetar a memória e o armazenamento necessários para a implementação. As baixas contagens de parâmetros ativos não devem ser tratadas como o requisito total de memória do modelo.

A IA local já é suficientemente boa para programar?

É cada vez mais competente na explicação de código, em scripts, testes, depuração e tarefas de desenvolvimento delimitadas. A engenharia à escala de um repositório difícil e a programação autónoma de longa duração ainda podem revelar uma diferença maior entre os modelos locais e os modelos de fronteira.

Todas as tarefas de IA devem ser executadas localmente?

Não. Um sistema prático pode manter localmente as cargas de trabalho frequentes, privadas ou previsíveis e encaminhar as tarefas invulgarmente difíceis para um modelo de fronteira quando a capacidade adicional justificar o custo.