A execução local do Maxwell-V1-Flash começa com cerca de 73,6 GB de ficheiros de checkpoint originais, um ambiente compatível com GPU NVIDIA e memória adicional suficiente para o runtime e a cache da conversa. O valor de 3B de parâmetros ativos refere-se aos especialistas usados em cada token; não significa que o modelo completo corresponda a uma transferência de 3B. Para os pesos originais, uma GPU da classe de 96 GB é um ponto de partida mais realista do que uma placa de consumo de 24 GB, enquanto um contexto completo de 256K requer um orçamento de memória à parte.
Este guia distingue as especificações verificadas do modelo das estimativas de planeamento, explica por que motivo a atenção esparsa continua a consumir memória em contextos longos e apresenta a forma documentada pelo programador para o executar localmente como serviço. Identifica também como o ZimaCube 2 pode apoiar o fluxo de trabalho, sem sugerir que um NAS compacto substitui um servidor de inferência com muita memória. As especificações e instruções de implementação foram verificadas em 18 de novembro de 2026; as configurações abaixo são estimativas, não requisitos mínimos medidos.
O que é o Maxwell-V1-Flash e que especificações afetam o seu hardware?
O repositório da equipa Maxwell chama-se Maxwell-V1-Flash, enquanto o cartão do modelo o identifica como Maxwell-V1.0-Flash. É um modelo de linguagem de mistura de especialistas, apenas de texto e com pesos abertos, disponibilizado sob a licença Apache 2.0. A descrição oficial indica 35B de parâmetros no total e 3B de parâmetros ativos por token, excluindo os embeddings em ambos os casos. Estas exclusões são importantes ao comparar o número de parâmetros anunciado com os ficheiros que tem de transferir.
| Especificações verificadas | O que significa para a implementação local |
|---|---|
| 35B no total / 3B ativos, excluindo os embeddings | A redução dos cálculos ativos não elimina os requisitos de armazenamento e memória dos pesos dos especialistas. |
| 45 camadas da rede base; 32 cabeças de consulta e 4 cabeças KV; dimensão da cabeça de 128 | Estas dimensões permitem calcular uma estimativa inicial útil para a cache principal de atenção. |
| 256 especialistas encaminhados; 12 selecionados por token; 2 especialistas partilhados por camada MoE | O encaminhamento de especialistas requer suporte da arquitetura no motor de inferência. |
| Contexto de 256K anunciado no cartão do modelo | Os prompts longos requerem cache adicional, tempo de pré-preenchimento e espaço para o texto gerado. |
| Atenção esparsa por blocos e hiperconexões restringidas à variedade | Um runtime que suporte outro modelo MoE não é automaticamente compatível. |
| 73 625 607 468 bytes no total nos ficheiros oficiais safetensors | Aproximadamente 73,6 GB decimais, ou 68,6 GiB, antes das alocações em tempo de execução. |
Estes dados provêm do cartão oficial do modelo, da configuração publicada e dos metadados dos ficheiros do checkpoint. O cartão indica BF16 como precisão principal dos pesos, enquanto o repositório contém tensores BF16 e F32. Por conseguinte, o tamanho dos ficheiros é uma estimativa de transferência melhor do que multiplicar um número arredondado de parâmetros, apresentado em destaque, por dois bytes.

De quanta RAM, VRAM e armazenamento deve planear dispor?
As instruções de implementação que consultámos não incluem uma tabela de requisitos mínimos de RAM publicada pelo programador. As configurações seguintes são objetivos práticos de planeamento, calculados a partir da dimensão do checkpoint e dos cálculos da cache. Não são configurações sujeitas a testes de desempenho, e a arquitetura da GPU, a compatibilidade do kernel e a memória indicada pelo ambiente de execução efetivo continuam a ser determinantes.
| Carga de trabalho | Objetivo de RAM do sistema | Objetivo de memória da GPU | Armazenamento de trabalho |
|---|---|---|---|
| Um utilizador, pesos originais, teste inicial de 8K–16K | 128 GB | GPU da classe de 96 GB; uma placa de 80 GB é uma configuração mais limitada que requer validação | Pelo menos 150 GB livres em NVMe local |
| Um utilizador, sessões de programação ou documentos de 32K–64K | 128–192 GB | GPU da classe de 96 GB ou uma configuração com várias GPUs validada, com margem de cache medida | 200–300 GB livres para pesos, camadas de contentores, registos e revisões |
| Sessões de 128K–256K ou vários utilizadores ativos | 192–256 GB como objetivo operacional | Planeie mais de 96 GB de VRAM utilizável no total; 128–160 GB ou mais proporciona uma margem mais realista, sujeita ao suporte do ambiente de execução paralelo | 300 GB ou mais de espaço livre; mantenha uma localização de cópia de segurança separada |
A RAM do sistema e a VRAM têm funções diferentes. A RAM do sistema suporta o carregamento, a cache de ficheiros, o pré-processamento e outros serviços. A VRAM da GPU armazena o modelo residente, a cache de atenção, as ativações, as áreas de trabalho temporárias e as alocações do ambiente de execução. Adicionar 128 GB de RAM ao sistema não torna automaticamente uma GPU de 24 GB capaz de servir o checkpoint original.
Da mesma forma, os valores de RAM são recomendações de margem, não uma afirmação de que cada carregador tem de manter uma cópia completa adicional do modelo. O carregamento por streaming e a utilização de memória mapeada podem alterar o pico de memória do sistema. Comece com uma máquina Linux x86-64 moderna, cerca de 12–16 núcleos de CPU capazes para o fluxo de trabalho envolvente, uma GPU NVIDIA compatível e armazenamento NVMe local. O modelo e o número de núcleos da CPU são secundários face à memória da GPU e às verificações de compatibilidade do software.
Um acelerador de 80 GB pode ter espaço para os pesos originais e uma cache pequena, mas isso não significa que todas as GPUs de 80 GB sejam recomendáveis. Parte da memória fica reservada ou é consumida pelo ambiente de execução, e os kernels personalizados podem impor requisitos adicionais de arquitetura. Antes de comprar hardware para este modelo, verifica se a placa específica é compatível com a imagem do programador e mede o desempenho numa execução com um contexto curto.
Porque é que a atenção esparsa continua a precisar de memória com um contexto de 256K?
A atenção esparsa por blocos Maxwell, ou MBSA, seleciona um número limitado de blocos para o cálculo principal da atenção. A explicação oficial descreve oito blocos de prefixo, oito blocos locais e até dezasseis blocos selecionados remotamente, cada um com 128 tokens. No modo esparso, isto limita o intervalo selecionado para a atenção principal a 4.096 tokens por grupo KV.
A cache KV do histórico completo continua disponível. Os blocos selecionados reduzem o trabalho da atenção; não significa que apenas 4.096 tokens sejam armazenados. A implementação de referência também mantém as chaves do indexador. Esta é a distinção mais importante ao dimensionar uma máquina para conversas longas ou análise de repositórios.
Para referência, um cálculo convencional da K/V principal em BF16, usando as dimensões publicadas do modelo-base, é:
45 camadas × 2 (K e V) × 4 cabeças KV × 128 dimensões
× 2 bytes × tokens em cache × sequências independentes
| Tokens em cache, numa sequência | Apenas carga ilustrativa da K/V principal | Implicação prática |
|---|---|---|
| 8,192 | 0,70 GiB | Um primeiro teste de inferência sensato. |
| 32,768 | 2,81 GiB | Já precisa de margem adicional para além dos pesos. |
| 65,536 | 5,63 GiB | As sessões de programação longas começam a consumir uma reserva de memória significativa. |
| 131,072 | 11,25 GiB | É preciso medir tanto a latência de pré-preenchimento como a alocação da cache. |
| 262,144 | 22,50 GiB | Só os pesos e esta carga ocupam cerca de 91,1 GiB, antes de outras alocações. |
Este é um cálculo explicativo, não uma alocação medida no vLLM. Não inclui o estado do indexador, caminhos auxiliares, alocação de blocos, picos de utilização de memória das ativações, grafos CUDA, fragmentação nem áreas de trabalho de execução. A precisão da cache, os detalhes da implementação e a distribuição em paralelo podem alterar a utilização real de memória. Não se deve presumir que nem mesmo uma configuração aparentemente generosa de 96 GB consiga suportar todo o contexto anunciado.
Nota também uma discrepância na fonte: a ficha do modelo anuncia 262,144 tokens, mas o ficheiro de configuração atual define max_position_embeddings como 524,288 e usa uma base RoPE diferente da indicada na tabela de especificações da ficha. Um valor de configuração maior não comprova qualidade testada a 512K nem um serviço fiável. Este guia usa a capacidade anunciada de 256K e recomenda limites de serviço explícitos e mais baixos durante a validação.
A quantização pode fazer o Maxwell caber numa GPU de 24 GB ou 32 GB?
É possível, mas a existência de um ponto de controlo mais pequeno é apenas uma parte da resposta. Um cálculo de quatro bits baseado no tamanho original dos tensores aponta para cerca de 18–19 GB de pesos brutos. Os ficheiros quantizados reais também incluem escalas, metadados e tensores mantidos com uma precisão superior. A cache e a memória do ambiente de execução acrescem a estes custos.
Esse cálculo não comprova que seja possível executar a implementação com 24 GB. As camadas de especialistas, as hiperconexões, a implementação da atenção e o carregador de pontos de controlo do Maxwell requerem todos suporte para quantização compatível. Um repositório GGUF, FP8 ou de quatro bits da comunidade deve indicar a versão exata do ambiente de execução, as correções necessárias, a GPU suportada e um exemplo de geração reproduzível, antes de ser considerado uma recomendação de compra.
O exemplo de implementação do programador aponta para o seu próprio contentor vLLM e para os pesos originais. Não disponibiliza um comando universal do Ollama nem uma garantia oficial de memória Q4. Se optar por uma conversão da comunidade, comece por reproduzir uma mensagem curta, verifique o modelo de chat e as chamadas de ferramentas e, em seguida, meça a memória e a qualidade das respostas em comparação com o original. O nosso guia sobre verificação de modelos da comunidade, modelos de chat e código remoto aborda as verificações de confiança a fazer antes de carregar um repositório personalizado.
Para uma GPU de consumo modesta, começar com um modelo mais pequeno e um ambiente de execução verificado costuma ser mais fácil. Compare implementações no diretório de requisitos de hardware para modelos de IA, em vez de escolher apenas pela contagem de parâmetros ativos.
Como iniciar o servidor vLLM local oficial?
O método documentado usa maxwellmodel/vllm-openai:v0.30.0; não se deve presumir que qualquer imagem vLLM padrão funciona. O cartão do modelo especifica um controlador NVIDIA 580 ou posterior para o ambiente CUDA 13.0 e menciona uma opção de ambiente de compatibilidade com CUDA para controladores mais antigos. Essa opção continua a depender de uma combinação compatível de GPU e controlador; não substitui a verificação dos requisitos de compatibilidade da NVIDIA.
Instale o Docker com acesso à GPU NVIDIA, execute nvidia-smi para verificar e transfira o repositório oficial usando a CLI do Hugging Face:
export MODEL_DIR="$PWD/Maxwell-V1-Flash"
hf download maxwell-model/Maxwell-V1-Flash --local-dir "$MODEL_DIR"
O comando de lançamento oficial foi adaptado para um primeiro teste local, limitado a 8K. Mantém a imagem, o tamanho dos blocos e os analisadores documentados, mas acrescenta um contexto mais reduzido, uma sequência e uma ligação ao loopback:
docker run --rm --init \
--name vllm-maxwell \
--gpus all \
--shm-size 8g \
--network host \
-v "$MODEL_DIR":/models/Maxwell-V1-Flash:ro \
--entrypoint vllm \
maxwellmodel/vllm-openai:v0.30.0 \
serve /models/Maxwell-V1-Flash \
--trust-remote-code \
--block-size 128 \
--served-model-name Maxwell-V1.0-Flash \
--host 127.0.0.1 --port 8000 \
--tensor-parallel-size 1 \
--max-model-len 8192 \
--max-num-seqs 1 \
--reasoning-parser qwen3 \
--enable-auto-tool-choice \
--tool-call-parser qwen3_coder
A configuração de uma única GPU segue o exemplo do programador; não faz desaparecer a falta de VRAM. Se o ponto de verificação não couber, utilize uma máquina compatível com mais memória ou valide as capacidades multigpu da imagem do programador antes de alterar o tamanho do paralelismo. Duas placas não se transformam num único conjunto de memória transparente só porque as respetivas capacidades somadas chegam.
Como este arranque ativa código de modelo personalizado, analise o repositório e o código-fonte do contentor, registe a revisão do modelo e o digest do contentor e evite montar credenciais ou pastas pessoais não relacionadas. A montagem do modelo em modo só de leitura limita as escritas no diretório do ponto de verificação. Não coloca em sandbox todas as capacidades de um contentor com acesso à GPU.
Depois do arranque, verifique o endpoint do modelo e uma pequena conclusão:
curl http://127.0.0.1:8000/v1/models
curl http://127.0.0.1:8000/v1/chat/completions \
-H 'Content-Type: application/json' \
-d '{"model":"Maxwell-V1.0-Flash","messages":[{"role":"user","content":"Explique um instantâneo de NAS em duas frases."}],"max_tokens":512}'
O modo de raciocínio está ativado por predefinição no modelo oficial. Uma pequena margem de saída pode ser consumida pelo raciocínio antes da resposta visível, por isso, inspecione os campos de raciocínio e os motivos de conclusão em vez de considerar uma resposta final em branco como prova imediata de que o modelo está avariado. Siga o modelo incluído e preserve os campos de raciocínio do assistente e de chamadas de ferramentas nas conversas de agente com vários turnos, conforme indicado pelo programador.
Como deve testar um contexto longo e vários utilizadores?
Registe primeiro uma referência repetível de 8K: revisão do modelo, digest da imagem, modelo da GPU, controlador, precisão, pico de memória no arranque, memória em estado estável, tempo até ao primeiro token e velocidade de geração. Depois, aumente o limite configurado para 16K ou 32K e teste um prompt que se aproxime efetivamente da carga de trabalho pretendida. O facto de um servidor arrancar com um limite elevado não prova que consiga processar um prefill longo.
Aumente uma variável de cada vez. Mantenha a simultaneidade num enquanto testa o contexto; depois, mantenha o contexto fixo enquanto aumenta o número de utilizadores. Duas sessões independentes de 128K podem exigir bastante mais cache do que uma, embora os pesos sejam partilhados. Reserve tokens de saída dentro do limite total de contexto e inclua as mensagens das ferramentas e o histórico de raciocínio na contabilização dos tokens.
No trabalho com documentos, a recuperação de informação pode reduzir a necessidade de enviar repetidamente um arquivo inteiro. Para agentes de programação, exclua ficheiros gerados e dependências, resuma as etapas concluídas e mantenha diretórios de trabalho separados. O nosso guia de worktrees do Git para vários agentes de programação aborda o isolamento de repositórios; não elimina as necessidades de memória de inferência de cada agente.
Se um teste falhar, distinga um erro do carregador ou de um kernel não suportado de uma falta de memória durante o carregamento, o prefill ou a descodificação. Mais espaço em disco não resolve uma falha de alocação da GPU. Reduzir o contexto alivia a pressão sobre a cache, mas não reduz o tamanho dos pesos originais. Registe a etapa em que ocorre a falha antes de alterar a máquina ou a quantização.

Que papel desempenha o ZimaCube 2 numa implementação do Maxwell?
O modelo original completo, por si só, não é uma razão sensata para comprar um sistema Zima compacto. O caminho documentado é um ambiente de inferência NVIDIA com muita memória. O ZimaCube 2 não deve ser apresentado como um sistema garantidamente capaz de alojar este checkpoint, uma sessão de 256K ou um acelerador externo qualquer.
Um papel mais realista para o ZimaCube 2 como componente de armazenamento de um fluxo de trabalho local de IA é manter arquivos de modelos, coleções de documentos, cópias de segurança de projetos e resultados de avaliação disponíveis para uma estação de trabalho ou servidor com GPU separado. Se o software escolhido for compatível, a máquina de armazenamento também pode alojar serviços complementares, enquanto a máquina com GPU trata da geração.
Mantenha o checkpoint ativo no NVMe local da máquina de inferência para garantir um carregamento previsível e use o NAS para um arquivo versionado, em vez de presumir que o armazenamento em rede se comporta como VRAM. Confirme a RAM disponível, os serviços compatíveis, a rede, o espaço para cópias de segurança e quaisquer requisitos de expansão física para a configuração exata do ZimaCube 2. Esta é uma recomendação sobre armazenamento e serviços, não uma afirmação de que o produto apresentado abaixo cumpre todos os requisitos de computação do Maxwell.
Perguntas frequentes
O Maxwell-V1-Flash é mesmo um modelo de 3B?
Ativa cerca de 3 mil milhões de parâmetros por token, sem contar com as incorporações, mas tem cerca de 35 mil milhões de parâmetros no total, usando a mesma base. Continua a precisar de acesso ao checkpoint completo dos especialistas. Os ficheiros safetensors originais ocupam aproximadamente 73,6 GB.
Posso executar os pesos originais numa RTX 3090 ou RTX 4090?
Uma única placa de 24 GB não consegue manter o checkpoint original completo na VRAM. Uma conversão comunitária mais pequena precisa de um carregador e suporte para kernels comprovados. Não deduza a compatibilidade a partir de uma calculadora genérica de memória para quatro bits.
Uma GPU de 80 GB suporta contexto de 256K?
Não conte com isso para o checkpoint original. Só a cache BF16 principal ilustrativa acrescenta 22,5 GiB a 256K, elevando o total de pesos e cache para cerca de 91,1 GiB, antes de outras alocações. Uma experiência com contexto curto é uma carga de trabalho diferente.
Posso usar Ollama, llama.cpp, Apple Silicon ou inferência apenas com CPU?
A opção de implementação oficial analisada aqui é a imagem vLLM do programador para NVIDIA. Estes outros ambientes exigem provas específicas para cada arquitetura. Uma conversão disponível para transferência ou uma grande quantidade de memória unificada não são prova suficiente de que existe um ambiente de execução funcional.
O ficheiro de configuração comprova o suporte para 512K?
Não. A definição de posição de 524,288 difere da capacidade de 256K anunciada no cartão do modelo. Valide a qualidade, o suporte do ambiente de execução e a memória de forma independente antes de confiar num contexto maior.
Onde posso consultar as especificações originais e os requisitos de execução?
Consulte o cartão do modelo Maxwell-V1-Flash, os ficheiros oficiais do checkpoint, o repositório do Maxwell no GitHub e os requisitos de instalação da GPU para vLLM. Verifique separadamente a imagem fixada pelo programador e a documentação oficial do vLLM.
Conclusão
O Maxwell-V1-Flash é um projeto sério de inferência local porque a computação ativa é muito menor do que a dimensão total dos pesos, enquanto a atenção esparsa continua a manter todo o histórico da conversa. Reserve cerca de 73,6 GB para o checkpoint original, deixe uma margem considerável para a execução e trate a utilização com contextos de 128K–256K como um teste de capacidade separado.
Comece pelo ambiente suportado pelo programador, com um limite explícito de 8K e um único pedido. Faça medições antes de aumentar o contexto ou comprar mais hardware. Use o ZimaCube 2 se o armazenamento partilhado, as cópias de segurança e os serviços associados se enquadrarem na sua arquitetura, e escolha a GPU para inferência de acordo com os requisitos medidos do modelo.
CENTRO DE TECNOLOGIA E IA
Mais para ler

Llama.cpp 1.0 explicado: o que muda no seu servidor de IA local?
Compreenda a compatibilidade com o llama.cpp 1.0, as verificações de modelos e backends, os testes de atualização, o planeamento da memória e o papel...

Como armazenar vídeos para adultos num NAS: um guia para principiantes
Saiba como armazenar vídeos para adultos num NAS, escolher o armazenamento, transferir ficheiros, configurar a reprodução e as cópias de segurança e compreender a...

Qwen3.8-27B com DSpine: como os modelos de rascunho aceleram a inferência
Compreenda o modelo de rascunho DSpine da Tencent para o Qwen3.8-27B, interprete a aceitação dos rascunhos e conceba uma comparação SGLang de ponta a...



