Pour exécuter Maxwell-V1-Flash localement, il faut commencer par prévoir environ 73,6 Go de fichiers de points de contrôle d’origine, un environnement compatible avec les GPU NVIDIA et suffisamment de mémoire supplémentaire pour l’environnement d’exécution et le cache de conversation. La valeur de 3B de paramètres actifs indique les experts utilisés pour chaque jeton ; elle ne réduit pas le modèle complet à un téléchargement de 3B. Pour les poids d’origine, un GPU de classe 96 Go constitue un point de départ plus crédible qu’une carte grand public de 24 Go, tandis qu’un contexte complet de 256K nécessite une réserve mémoire distincte.
Ce guide distingue les spécifications vérifiées du modèle des estimations de planification, explique pourquoi l’attention clairsemée consomme tout de même de la mémoire lorsque le contexte est long et détaille la méthode de déploiement local documentée par le développeur. Il indique également comment un ZimaCube 2 peut contribuer au flux de travail, sans laisser entendre qu’un NAS compact peut remplacer un serveur d’inférence doté d’une grande mémoire. Les spécifications et les instructions de déploiement ont été vérifiées le 18 novembre 2026 ; les configurations ci-dessous sont des estimations, et non des exigences minimales mesurées.
Qu’est-ce que Maxwell-V1-Flash et quelles spécifications ont une incidence sur votre matériel ?
Le dépôt de l’équipe Maxwell s’intitule Maxwell-V1-Flash, tandis que sa fiche du modèle le nomme Maxwell-V1.0-Flash. Il s’agit d’un modèle de langage texte à poids ouverts, de type mélange d’experts, publié sous licence Apache 2.0. La description officielle indique 35B de paramètres au total et 3B de paramètres actifs par jeton, hors plongements dans les deux cas. Ces exclusions sont importantes pour comparer le nombre de paramètres annoncé aux fichiers qu’il faut réellement télécharger.
| Spécifications vérifiées | Ce que cela implique pour un déploiement local |
|---|---|
| 35B au total / 3B actifs, hors plongements | La réduction des calculs actifs ne supprime pas les besoins de stockage et de mémoire des poids des experts. |
| 45 couches de base ; 32 têtes de requête et 4 têtes KV ; dimension des têtes : 128 | Ces dimensions permettent d’établir une estimation de référence utile pour le cache d’attention principal. |
| 256 experts routés ; 12 sélectionnés par jeton ; 2 experts partagés par couche MoE | Le routage des experts nécessite une prise en charge de l’architecture par le moteur d’inférence. |
| Contexte de 256K annoncé dans la fiche du modèle | Les longs prompts nécessitent davantage de cache, de temps de préremplissage et d’espace pour le texte généré. |
| Attention à blocs clairsemés et hyperconnexions contraintes par une variété | Un environnement d’exécution compatible avec un autre modèle MoE n’est pas automatiquement compatible avec celui-ci. |
| 73 625 607 468 octets répartis dans les fichiers safetensors officiels | Environ 73,6 Go décimaux, soit 68,6 Gio, avant les allocations à l’exécution. |
Ces informations proviennent de la fiche officielle du modèle, de la configuration publiée et des métadonnées des fichiers du checkpoint. La fiche indique que le BF16 est le format de précision principal des poids, tandis que le dépôt contient des tenseurs BF16 et F32. La taille des fichiers constitue donc une meilleure estimation du téléchargement que le calcul consistant à multiplier par deux octets le nombre de paramètres arrondi affiché.

Quelle quantité de RAM, de VRAM et d’espace de stockage faut-il prévoir ?
Les instructions de déploiement que nous avons consultées ne contiennent aucun tableau des exigences minimales de RAM publié par les développeurs. Les configurations suivantes sont des objectifs pratiques de planification, établis à partir de l’empreinte du checkpoint et du calcul du cache. Elles ne correspondent pas à des configurations testées en benchmark ; l’architecture du GPU, la compatibilité du noyau et la mémoire indiquée par l’environnement d’exécution réel restent déterminantes.
| Charge de travail | Objectif de RAM système | Objectif de mémoire GPU | Stockage de travail |
|---|---|---|---|
| Un utilisateur, poids d’origine, premier test de 8K à 16K | 128 Go | Classe 96 Go ; une carte de 80 Go constitue une configuration plus contraignante qui nécessite une validation | Au moins 150 Go d’espace libre sur le NVMe local |
| Un utilisateur, sessions de codage ou de documents de 32K à 64K | 128 à 192 Go | Classe 96 Go ou configuration multi-GPU validée, avec une marge de cache mesurée | 200 à 300 Go d’espace libre pour les poids, les couches de conteneur, les journaux et les révisions |
| Sessions de 128K à 256K ou plusieurs utilisateurs actifs | 192 à 256 Go comme objectif opérationnel | Prévoyez plus de 96 Go de VRAM utilisable au total ; 128 à 160 Go ou plus constituent un budget plus réaliste, sous réserve de la prise en charge de l’exécution parallèle | 300 Go ou plus d’espace libre ; conservez un emplacement de sauvegarde distinct |
La RAM et la VRAM ont des fonctions différentes. La RAM système sert au chargement, à la mise en cache des fichiers, au prétraitement et aux autres services. La VRAM du GPU contient le modèle chargé, le cache d’attention, les activations, les espaces de travail temporaires et les allocations d’exécution. Ajouter 128 Go de RAM hôte ne rend pas automatiquement un GPU de 24 Go capable de servir le checkpoint d’origine.
De même, les objectifs de RAM sont des recommandations pour prévoir une marge, et non l’affirmation que chaque chargeur doit conserver une copie complète supplémentaire du modèle. Le chargement en flux et le chargement par mappage mémoire peuvent modifier le pic de mémoire hôte. Commencez avec une machine Linux x86-64 récente, environ 12 à 16 cœurs de processeur performants pour les tâches environnantes, un GPU NVIDIA pris en charge et un stockage NVMe local. Le modèle de processeur et le nombre de cœurs sont secondaires par rapport à la mémoire du GPU et aux vérifications de compatibilité logicielle dans ce cas.
Un accélérateur de 80 Go peut avoir assez de mémoire pour les poids d’origine et un petit cache, mais cela ne signifie pas que tous les GPU de 80 Go conviennent. Une partie de la mémoire est réservée ou utilisée par l’environnement d’exécution, et les noyaux personnalisés peuvent imposer des exigences supplémentaires en matière d’architecture. Vérifiez la compatibilité de la carte exacte avec l’image du développeur et mesurez les performances sur une courte longueur de contexte avant d’acheter du matériel.
Pourquoi l’attention creuse nécessite-t-elle encore de la mémoire avec un contexte de 256K ?
Maxwell Block Sparse Attention, ou MBSA, sélectionne un nombre limité de blocs pour le calcul principal de l’attention. L’explication officielle décrit huit blocs de préfixe, huit blocs locaux et jusqu’à seize blocs distants sélectionnés, contenant chacun 128 tokens. En mode creux, cela limite la portée sélectionnée de l’attention principale à 4 096 tokens par groupe KV.
Le cache KV de l’historique complet reste disponible. Les blocs sélectionnés réduisent le travail d’attention ; cela ne signifie pas que seuls 4 096 tokens sont stockés. L’implémentation de référence conserve également les clés de l’indexeur. C’est la distinction la plus importante à prendre en compte pour dimensionner une machine destinée aux longues conversations ou à l’analyse de dépôts de code.
Pour se faire une idée, le calcul conventionnel du cache KV principal en BF16, à partir des dimensions publiées du modèle de base, est le suivant :
45 couches × 2 (K et V) × 4 têtes KV × 128 dimensions
× 2 octets × nombre de tokens mis en cache × nombre de séquences indépendantes
| Tokens mis en cache, une séquence | Charge indicative du K/V principal uniquement | Conséquence pratique |
|---|---|---|
| 8,192 | 0,70 Gio | Un premier test d’inférence raisonnable. |
| 32,768 | 2,81 Gio | Nécessite déjà une marge au-delà de la mémoire occupée par les poids. |
| 65,536 | 5,63 Gio | Les longues sessions de programmation commencent à mobiliser une réserve mémoire non négligeable. |
| 131,072 | 11,25 Gio | La latence de préremplissage et l’allocation du cache doivent toutes deux être mesurées. |
| 262,144 | 22,50 Gio | Les poids et cette charge de données représentent à eux seuls environ 91,1 Gio, avant toute autre allocation. |
Il s’agit d’un calcul explicatif, et non d’une mesure de l’allocation de vLLM. Il ne tient pas compte de l’état de l’indexeur, des chemins auxiliaires, de l’allocation des blocs, des pics d’activation, des graphes CUDA, de la fragmentation ni des espaces de travail d’exécution. La précision du cache, les détails de l’implémentation et la répartition du parallélisme peuvent modifier l’empreinte réelle. Même une configuration apparemment généreuse de 96 Go ne doit pas être considérée comme capable de gérer toute la longueur de contexte annoncée.
Notez également une divergence dans les sources : la fiche du modèle annonce 262 144 tokens, mais le fichier de configuration actuel définit max_position_embeddings à 524 288 et utilise une base RoPE différente de celle indiquée dans le tableau des spécifications de la fiche. Une valeur de configuration plus élevée ne prouve ni que la qualité a été testée sur 512K tokens, ni que le service est fiable. Ce guide s’appuie sur la capacité annoncée de 256K et recommande, pendant la validation, de définir explicitement des limites de service plus basses.
La quantification permet-elle de faire tourner Maxwell sur un GPU de 24 Go ou de 32 Go ?
C’est éventuellement possible, mais l’existence d’un point de contrôle plus petit ne suffit pas à répondre à la question. Un calcul en quatre bits basé sur l’empreinte des tenseurs d’origine indique un ordre de grandeur d’environ 18 à 19 Go pour les poids bruts. Les fichiers quantifiés réels contiennent aussi des facteurs d’échelle, des métadonnées et des tenseurs conservés à une précision supérieure. Le cache et la mémoire de l’environnement d’exécution représentent des coûts supplémentaires.
Ce calcul ne prouve pas qu’un déploiement fonctionnel sur 24 Go est possible. Les couches expertes de Maxwell, les hyperconnexions, l’implémentation de l’attention et le chargeur de points de contrôle doivent tous prendre en charge la quantification. Avant de considérer un dépôt communautaire GGUF, FP8 ou quatre bits comme une recommandation d’achat, vérifiez qu’il indique la version exacte de l’environnement d’exécution, les correctifs requis, le GPU pris en charge et un exemple de génération reproductible.
L’exemple de déploiement du développeur renvoie vers son propre conteneur vLLM et ses poids d’origine. Il ne fournit ni commande Ollama universelle ni garantie officielle de mémoire pour le Q4. Si vous choisissez une conversion communautaire, commencez par reproduire une courte invite, vérifiez le modèle de conversation et les appels d’outils, puis mesurez la mémoire et la qualité des résultats par rapport à l’original. Notre guide sur la vérification des modèles communautaires, des modèles de conversation et du code distant présente les contrôles de fiabilité à effectuer avant de charger un dépôt personnalisé.
Avec un petit GPU grand public, un modèle plus petit doté d’un environnement d’exécution vérifié constitue souvent un point de départ plus simple. Comparez les déploiements dans le répertoire des exigences matérielles des modèles d’IA plutôt que de vous baser uniquement sur le nombre de paramètres actifs.
Comment démarrer le serveur vLLM local officiel ?
La procédure documentée utilise maxwellmodel/vllm-openai:v0.30.0 et ne part pas du principe que n’importe quelle image vLLM standard fonctionne. La fiche du modèle indique qu’il faut un pilote NVIDIA 580 ou plus récent pour son environnement CUDA 13.0 et mentionne une option de compatibilité CUDA pour les pilotes plus anciens. Cette option nécessite toutefois une combinaison compatible de GPU et de pilote ; elle ne remplace pas la vérification des exigences de compatibilité de NVIDIA.
Installez Docker avec la prise en charge des GPU NVIDIA, vérifiez nvidia-smi, puis téléchargez le dépôt officiel à l’aide de la CLI Hugging Face :
export MODEL_DIR="$PWD/Maxwell-V1-Flash"
hf download maxwell-model/Maxwell-V1-Flash --local-dir "$MODEL_DIR"
La commande de lancement officielle a été adaptée ici pour un premier test local uniquement en 8K. Elle conserve l’image, la taille de bloc et les analyseurs documentés, tout en ajoutant un contexte plus petit, une seule séquence et une liaison à l’interface de bouclage :
docker run --rm --init \
--name vllm-maxwell \
--gpus all \
--shm-size 8g \
--network host \
-v "$MODEL_DIR":/models/Maxwell-V1-Flash:ro \
--entrypoint vllm \
maxwellmodel/vllm-openai:v0.30.0 \
serve /models/Maxwell-V1-Flash \
--trust-remote-code \
--block-size 128 \
--served-model-name Maxwell-V1.0-Flash \
--host 127.0.0.1 --port 8000 \
--tensor-parallel-size 1 \
--max-model-len 8192 \
--max-num-seqs 1 \
--reasoning-parser qwen3 \
--enable-auto-tool-choice \
--tool-call-parser qwen3_coder
Le paramètre mono-GPU suit l’exemple du développeur ; il ne fait pas disparaître un manque de VRAM. Si le point de contrôle ne tient pas, utilisez une machine compatible dotée de davantage de mémoire ou vérifiez les capacités multi-GPU de l’image du développeur avant de modifier la taille du parallélisme. Deux cartes ne forment pas un seul pool de mémoire transparent simplement parce que leurs capacités s’additionnent.
Comme ce lancement active le code personnalisé du modèle, examinez le dépôt et le code source du conteneur, consignez la révision du modèle et l’empreinte du conteneur, et évitez de monter des identifiants ou des dossiers personnels sans rapport. Le montage du modèle en lecture seule limite les écritures au répertoire du point de contrôle. Il ne confine pas toutes les capacités d’un conteneur ayant accès au GPU.
Après le démarrage, vérifiez le point de terminaison du modèle et une petite complétion :
curl http://127.0.0.1:8000/v1/models
curl http://127.0.0.1:8000/v1/chat/completions \
-H 'Content-Type: application/json' \
-d '{"model":"Maxwell-V1.0-Flash","messages":[{"role":"user","content":"Explique un instantané de NAS en deux phrases."}],"max_tokens":512}'
La réflexion est activée par défaut dans le modèle officiel. Une limite de sortie faible peut être consommée par le raisonnement avant la réponse visible ; examinez donc les champs de raisonnement et les motifs de fin au lieu de considérer une réponse finale vide comme une preuve immédiate que le modèle est défaillant. Suivez le modèle fourni et préservez les champs de raisonnement de l’assistant et d’appel d’outil dans les conversations d’agent à plusieurs tours, comme le demande le développeur.
Comment tester un long contexte et plusieurs utilisateurs ?
Commencez par établir une référence reproductible à 8K : révision du modèle, empreinte de l’image, modèle de GPU, pilote, précision, pic au démarrage, mémoire en régime stable, délai avant le premier jeton et débit de génération. Augmentez ensuite la limite configurée à 16K ou 32K et testez une invite qui se rapproche réellement de la charge de travail prévue. Le fait qu’un serveur démarre avec une limite élevée ne prouve pas qu’un préremplissage long réussira.
Augmentez une variable à la fois. Gardez le niveau de concurrence à un pendant les tests de contexte, puis gardez le contexte fixe pendant que vous ajoutez des utilisateurs. Deux sessions indépendantes de 128K peuvent nécessiter beaucoup plus de cache qu’une seule, même si les poids sont partagés. Réservez des jetons de sortie dans le budget de contexte total et comptabilisez les messages des outils et l’historique de raisonnement.
Pour travailler sur des documents, la recherche d’information peut éviter de devoir renvoyer sans cesse une archive entière. Pour les agents de programmation, excluez les fichiers générés et les dépendances, résumez les étapes terminées et séparez les répertoires de travail. Notre guide des worktrees Git pour plusieurs agents de programmation traite de l’isolation des dépôts ; il ne supprime pas les besoins en mémoire d’inférence de chaque agent.
En cas d’échec d’un test, déterminez s’il s’agit d’une erreur de chargeur ou de noyau non pris en charge, ou d’un manque de mémoire pendant le chargement, le préremplissage ou le décodage. Un espace disque plus important ne peut pas résoudre un échec d’allocation GPU. Réduire le contexte aide à limiter la pression sur le cache, mais ne réduit pas la taille des poids d’origine. Notez l’étape à laquelle l’échec survient avant de modifier la machine ou la quantification.

Quelle est la place de la ZimaCube 2 dans un déploiement Maxwell ?
Le modèle original complet ne constitue pas, à lui seul, une raison pertinente d’acheter un système Zima compact. La configuration documentée repose sur un environnement d’inférence NVIDIA à grande capacité mémoire. La ZimaCube 2 ne doit pas être présentée comme une machine pouvant héberger ce checkpoint, gérer une session de 256K ou prendre en charge n’importe quel accélérateur externe, de manière garantie.
Un rôle plus réaliste pour la ZimaCube 2 comme solution de stockage dans un workflow d’IA local consiste à conserver les archives de modèles, les collections de documents, les sauvegardes de projets et les résultats d’évaluation à la disposition d’un poste de travail GPU ou d’un serveur distinct. Si les logiciels que vous avez choisis le permettent, la machine de stockage peut également héberger les services connexes, tandis que la machine GPU se charge de la génération.
Gardez le checkpoint actif sur le NVMe local de la machine d’inférence pour assurer un chargement prévisible, et utilisez le NAS comme archive versionnée plutôt que de supposer que le stockage réseau se comporte comme de la VRAM. Vérifiez la RAM disponible, les services pris en charge, la mise en réseau, l’espace de sauvegarde et les éventuels besoins d’extension physique pour la configuration exacte de la ZimaCube 2. Il s’agit d’une recommandation concernant le stockage et les services, et non d’une affirmation selon laquelle la fiche produit ci-dessous répond aux exigences de calcul complètes de Maxwell.
FAQ
Maxwell-V1-Flash est-il vraiment un modèle de 3B ?
Il active environ 3B de paramètres par jeton, sans compter les embeddings, mais totalise environ 35B de paramètres sur la même base. Vous devez tout de même accéder à l’intégralité du checkpoint des experts. Ses fichiers safetensors d’origine occupent environ 73,6 Go.
Puis-je exécuter les poids d’origine sur une RTX 3090 ou une RTX 4090 ?
Une seule carte de 24 Go ne peut pas contenir l’intégralité du checkpoint d’origine dans la VRAM. Une conversion communautaire plus légère nécessite un chargeur et une prise en charge du noyau dûment vérifiés. Ne déduisez pas la compatibilité d’un calculateur générique de mémoire pour les modèles à quatre bits.
Un GPU de 80 Go prend-il en charge un contexte de 256K ?
Ne comptez pas dessus pour le checkpoint d’origine. À lui seul, le cache BF16 principal illustratif ajoute 22,5 Gio à 256K, ce qui porte le total des poids et de ce cache à environ 91,1 Gio, avant les allocations supplémentaires. Une expérience avec un contexte court constitue une charge de travail différente.
Puis-je utiliser Ollama, llama.cpp, Apple Silicon ou l’inférence sur CPU uniquement ?
La méthode de déploiement officielle vérifiée ici est l’image vLLM du développeur pour NVIDIA. Ces autres environnements nécessitent des preuves distinctes, propres à chaque architecture. Une conversion téléchargeable ou une grande quantité de mémoire unifiée ne suffit pas à prouver qu’un environnement d’exécution est utilisable.
Le fichier de configuration prouve-t-il la prise en charge de 512K ?
Non. Le paramètre de position de 524,288 diffère de la capacité de 256K annoncée dans la fiche du modèle. Vérifiez séparément la qualité, la prise en charge à l’exécution et la mémoire avant de vous fier à un contexte plus long.
Où consulter les spécifications d’origine et les exigences d’exécution ?
Consultez la fiche du modèle Maxwell-V1-Flash, les fichiers du checkpoint officiel, le dépôt GitHub de Maxwell et les conditions requises pour l’installation de vLLM sur GPU. Vérifiez séparément l’image épinglée par le développeur et la documentation officielle de vLLM.
Conclusion
Maxwell-V1-Flash est un projet d’inférence locale ambitieux, car son calcul actif est bien inférieur à son empreinte totale en poids, tandis que son attention clairsemée conserve l’intégralité de l’historique de la conversation. Prévoyez environ 73,6 Go pour le checkpoint d’origine, gardez une marge importante pour l’exécution et traitez la prise en charge de 128K–256K comme un test de capacité distinct.
Commencez par l’environnement pris en charge par le développeur, avec une limite explicite de 8K et une seule requête. Effectuez des mesures avant d’allonger le contexte ou d’acheter du matériel supplémentaire. Utilisez ZimaCube 2 si le stockage partagé, les sauvegardes et les services associés s’intègrent à votre architecture, et choisissez le GPU d’inférence en fonction des exigences mesurées du modèle.
Centre technologique et IA
À lire aussi

llama.cpp 1.0 expliqué : qu’est-ce qui change pour votre serveur d’IA local ?
Comprendre la compatibilité avec llama.cpp 1.0, les vérifications des modèles et des systèmes d’exécution, les tests de mise à niveau, la planification de la...

Comment stocker des vidéos pour adultes sur un NAS : guide du débutant
Apprenez à stocker des vidéos pour adultes sur un NAS, à choisir un espace de stockage, à transférer des fichiers, à configurer la lecture...

Qwen3.8-27B avec DSpine : comment les modèles brouillons accélèrent l’inférence
Comprenez le modèle de brouillon DSpine de Tencent pour Qwen3.8-27B, interprétez l’acceptation des brouillons et concevez une comparaison SGLang de bout en bout.



