LFM3 da Liquid AI explicado: um modelo multimodal de 2B pode correr localmente?

Sim, é possível executar o LFM3 localmente, mas comece pelo checkpoint certo. A Liquid AI lançou a família de pesos abertos LFM3 a 27 de outubro de 2026. O seu modelo de texto, o LFM3-1.7B, tem 1,73 mil milhões de parâmetros e uma ocupação de memória dos pesos de aproximadamente 1 GB em 4 bits. Uma versão atual do llama.cpp pode servir o seu checkpoint GGUF numa CPU local ou numa GPU compatível. Isso não significa que um assistente completo de voz e visão consuma apenas 1 GB.

Para um PC ou NAS doméstico, a decisão prática consiste em escolher texto, visão, áudio ou omni antes de dimensionar o hardware. O ficheiro do modelo, o codificador/descodificador, os buffers do ambiente de execução, o estado do contexto, os dados de entrada de imagem ou áudio e os pedidos simultâneos consomem recursos. Para um primeiro teste, escolha o modelo de texto em 4 bits, um contexto de 4K–8K e um único pedido; meça a memória e a latência antes de ativar entradas maiores ou outros serviços NAS.

O que lançou exatamente a Liquid AI com o LFM3?

A LFM3 é uma coleção de seis modelos da classe dos 2B, treinados a partir da base LFM3-1.7B-Base: um modelo de texto, um modelo de visão e linguagem, um modelo de áudio, um modelo omni e duas variantes orientadas para a tomada de decisões. A Liquid AI descreve a família como adequada para aplicações especializadas em dispositivos. A palavra importante é família: descarregar o LFM3-1.7B não adiciona automaticamente um codificador de imagem, suporte para microfone ou descodificador de voz. Consulte o anúncio de lançamento do LFM3 e a apresentação geral da família de modelos.

Os pesos do LFM3 utilizam a LFM Open License v1.0. «Pesos abertos» é a designação correta: consulte a licença propriamente dita para determinar as condições aplicáveis à distribuição e utilização comercial pretendidas, em vez de a tratar como uma licença de software de código aberto da OSI. Os cartões dos modelos descrevem limites específicos, incluindo que o modelo de texto compacto não é recomendado para raciocínio complexo em várias etapas nem para programação com agentes.

Porque é que a arquitetura tri-híbrida é importante para dispositivos de periferia?

A base de texto de 1.73B tem 24 camadas: 13 camadas de convolução curta com gating, cinco camadas de atenção com janela deslizante e seis camadas de atenção global, segundo o cartão oficial do modelo de texto. A combinação destas operações reduz a necessidade de processar cada token em todas as camadas como se fosse atenção global completa, preservando algum contexto global. É uma opção de conceção que visa a latência e a eficiência da memória, não uma isenção dos custos de pedidos longos.

A Liquid AI afirma ter treinado o modelo com 22 trillion tokens e alega que este oferece melhor qualidade por parâmetro do que os modelos LFM anteriores. Esses valores são resultados divulgados pelo programador; não devem ser interpretados como benchmarks independentes em NAS domésticos. Os ganhos arquiteturais ajudam a explicar por que razão um modelo da classe dos 2B pode ser útil para extração, respostas a perguntas simples e encaminhamento para ferramentas, mas a capacidade do modelo continua a depender da dificuldade da tarefa, da formulação do pedido e da recuperação de informação externa.

De quanta RAM, VRAM e armazenamento precisa realmente?

Um cálculo transparente ajuda: 1.73B × 4 bits / 8 ≈ 0.865 GB de pesos brutos idealizados. Os metadados de quantização e o empacotamento dos ficheiros aumentam esse valor, razão pela qual a Liquid AI afirma que o modelo de texto de 4 bits ocupa cerca de 1 GB. Mas o modelo também precisa de estado de contexto, buffers de execução, alocadores e recursos adicionais da aplicação. Um sistema em execução pode consumir bastante mais do que o tamanho do ficheiro.

Estas são configurações de teste prudentes, não requisitos mínimos oficiais dos modelos nem metas garantidas de tokens por segundo. Pressupõem um único ponto de controlo de texto de 4 bits, nenhuma carga de trabalho simultânea elevada e espaço de armazenamento livre suficiente.

Um contexto anunciado de 256K é um limite suportado pelo modelo, não uma definição inicial recomendada. Durante instruções longas e sessões simultâneas, o ambiente de execução pode ocupar substancialmente mais memória de estado. Consulte o guia da ZimaSpace sobre requisitos de RAM e GPU para modelos locais e a explicação sobre o encaminhamento de modelos com base na ocupação total de memória para planear com base nos recursos efetivamente utilizados, em vez de apenas na contagem de parâmetros.

Que modelo LFM3 deve escolher para um NAS doméstico?

Para chat de texto local, etiquetagem, extração e encaminhamento simples para ferramentas, o LFM3-1.7B é a experiência mais simples. Para documentos digitalizados, imagens estáticas de câmaras ou inspeção visual, escolha LFM3-VL-2B; a ficha do modelo refere um codificador visual com 164M parâmetros e um projetor com 25M, além da base de linguagem. A ficha oficial do modelo de visão também especifica a amostragem de vídeo e os limites de fotogramas. Processar vídeo exige mais recursos do que ler uma instrução curta em texto simples.

Para interações por voz, LFM3-Audio-2B é um sistema específico para áudio, não uma atualização gratuita do GGUF de texto. Suporta fala multilingue, transcrição e respostas faladas, enquanto o desempenho em streaming depende do dispositivo. Escolha LFM3-Omni-2B apenas quando o fluxo de trabalho combinar realmente várias modalidades e o backend específico suportar essa combinação. Uma única GPU que aloje pipelines de chat, visão e áudio tem de prever a memória simultânea de pico, conforme explicado no nosso guia multimodal para GPUs domésticas.

Como executar o LFM3-1.7B localmente com o llama.cpp?

Para saber mais sobre o lado da execução desta configuração, consulte o nosso guia de implementação do llama.cpp 0.8.0, incluindo a distinção entre inferência de texto e voz em tempo real experimental.

Para uma verificação inicial reprodutível, comece pelo repositório GGUF publicado e use llama.cpp v0.8.0 ou uma compilação mais recente compatível com LFM3. O exemplo usa a variante oficial Q4_K_M e associa o servidor à interface de loopback; não disponibiliza uma API de modelo na Internet. Num anfitrião Linux com Git, CMake e um compilador compatível:

git clone https://github.com/ggml-org/llama.cpp.git
cd llama.cpp
git checkout v0.8.0
cmake -S . -B build
cmake --build build --config Release -j --target llama-server
./build/bin/llama-server \
  -hf LiquidAI/LFM3-1.7B-GGUF:Q4_K_M \
  -c 4096 --host 127.0.0.1 --port 8080

Abra http://127.0.0.1:8080 nesse mesmo computador ou teste o servidor a partir do terminal:

curl -s http://127.0.0.1:8080/v1/chat/completions \
  -H 'Content-Type: application/json' \
  -d '{"model":"local","messages":[{"role":"user","content":"Explique a quantização em três frases."}],"max_tokens":128}'

O identificador exato do modelo na API compatível com OpenAI pode variar consoante a configuração do servidor. Se a sua compilação rejeitar "local", consulte primeiro /v1/models e use o ID aí apresentado. Compilar o backend de CPU predefinido é um ponto de partida seguro; a aceleração por GPU requer a seleção e os testes de um backend adequado. O cartão GGUF oficial apresenta outras opções de execução, incluindo Ollama e LM Studio. Considere-as ambientes de execução alternativos, não como prova de que todos os pacotes do ZimaOS já incluem esta versão exata do modelo.

Para testar a visão mais tarde, use o checkpoint GGUF LFM3-VL documentado e siga o guia de início rápido oficial para visão para carregar o projetor de visão correspondente. Não substitua o nome do modelo de texto num comando aleatório e parta do princípio de que a entrada de imagens vai funcionar.

O que deve verificar antes de considerar a implementação bem-sucedida?

1. Identidade do modelo: confirme a variante GGUF selecionada e a versão do ambiente de execução, não apenas que a transferência foi concluída.
2. Limite de recursos: registe a RAM/VRAM residente em repouso, durante o prefill e durante um prompt mais longo; confirme que o ZimaOS e as outras aplicações do NAS mantêm margem de recursos.
3. Latência e qualidade: avalie o processamento de prompts, os tokens gerados por segundo, o cumprimento de instruções e a exatidão em cinco tarefas representativas.
4. Limites de privacidade: mantenha qualquer API local em loopback ou numa rede privada de confiança; se outros clientes precisarem de acesso, configure deliberadamente a autenticação e o proxy.
5. Persistência: guarde os ficheiros de modelos transferidos fora da partição de arranque e mantenha uma separação clara entre pesos imutáveis e o estado gravável da aplicação. Consulte a separação entre ficheiros de modelos e estado de execução e o nosso guia de segurança para implementar um LLM local.

Se uma implementação funcionar num computador de secretária, mas falhar num NAS, diagnostique todo o processo: tamanho do modelo quantizado, montagem bind correta, RAM disponível, escolha do backend, compatibilidade das instruções do CPU, projetores e comprimento do contexto. A lista de verificação do armazenamento de modelos é um complemento útil.

Perguntas frequentes

O LFM3 é totalmente de código aberto?

A Liquid AI publica pesos abertos ao abrigo da Open LFM License v1.0. Isso não significa automaticamente que os seus modelos e componentes de treino satisfaçam todas as definições de software de código aberto; leia a licença antes de redistribuir ou rentabilizar uma implementação.

Posso executar o LFM3 num PC ou NAS sem GPU?

O pequeno modelo de texto GGUF pode ser executado através de um backend de CPU compatível com llama.cpp, desde que o sistema operativo e a RAM disponível o permitam. A fluidez da interação depende do desempenho do CPU, da largura de banda da memória e do comprimento do prompt. Considere 8 GB um patamar de teste prático, não um mínimo oficial.

O LFM3-1.7B suporta entrada de imagens ou fala?

Não, por si só. Use o LFM3-VL para imagens/vídeo, o LFM3-Audio para fala ou o LFM3-Omni quando forem necessárias modalidades combinadas. Cada um tem checkpoints e dependências de execução diferentes.

Um modelo de 1 GB quantizado a 4 bits precisa apenas de 1 GB de RAM?

Não. Esse valor representa aproximadamente os pesos do modelo quantizados. O processo de execução acrescenta estado, buffers do ambiente de execução, caches de tokens e utilização do sistema operativo. Contextos longos e vários utilizadores podem acentuar significativamente a diferença.

O contexto de 256K está disponível em todos os modelos LFM3?

Não. O modelo de texto anuncia 256K; o modelo de visão especifica 128K e o modelo de áudio, 32K. Mesmo quando o máximo é suportado, isso não garante que um dispositivo específico com 8 GB consiga executá-lo sem dificuldades.

O ZimaCube 2 ou o ZimaOS conseguem executar o LFM3 atualmente?

Uma pilha de inferência local é tecnicamente viável quando o hardware, o modelo e o ambiente de execução escolhidos são compatíveis. O ZimaCube 2 também é útil para armazenamento privado de modelos, documentos e serviços de aplicações. As verificações acima não afirmam que exista uma instalação do LFM3 no ZimaOS certificada de forma independente nem apresentam resultados medidos de desempenho.

Conclusão

O LFM3 torna mais prática a utilização de IA no dispositivo, pequena e especializada, mas a escolha do checkpoint é mais importante do que a afirmação chamativa «multimodal 2B». A vantagem inicial mais evidente para um servidor doméstico é um modelo de texto LFM3-1.7B de 4 bits, com um contexto curto e uma carga de trabalho controlada. Adicione visão e voz apenas quando o checkpoint específico, o suporte do ambiente de execução e a memória medida justificarem essa alteração.

Numa configuração ZimaSpace, considere o armazenamento, a inferência e o acesso às aplicações como decisões distintas. Um NAS doméstico pode guardar ficheiros de modelos, proteger documentos pessoais e coordenar fluxos de trabalho locais, mesmo quando uma máquina mais potente executa o modelo. Se o seu interesse se estender a sistemas abertos com pesos muito maiores, a análise do hardware necessário para executar o Kimi K3 localmente mostra como o limite de memória muda drasticamente com a escala do número de parâmetros.

Fontes e âmbito

Materiais oficiais consultados em 29 de outubro de 2026: artigo de lançamento da Liquid AI, visão geral da família, cartão do modelo de texto, cartão do modelo de visão, cartão do modelo de áudio e lançamento do llama.cpp v0.8.0. As afirmações de desempenho são atribuídas aos programadores; os níveis de hardware e as recomendações operacionais aqui apresentados são estimativas editoriais, não resultados de testes de desempenho da ZimaSpace.

Imagem de capa: Liquid AI, miniatura do vídeo oficial de lançamento do LFM3.