Meilleurs modèles d’IA à exécuter localement sur du matériel grand public

Qwen3.5-9B est le meilleur modèle d’IA local polyvalent pour la plupart des PC grand public en 2026.

Le meilleur choix peut tout de même varier selon votre charge de travail : les modèles compacts sont plus rapides sur les processeurs et les ordinateurs portables, les modèles 8B–14B offrent généralement le meilleur équilibre entre qualité et mémoire, tandis que les modèles plus grands ou à mélange d’experts sont pertinents lorsque la précision en codage, en raisonnement ou en multimodalité compte davantage que la vitesse.

La comparaison ci-dessous prend comme référence des déploiements pratiques en 4 bits, afin que vous puissiez associer un modèle à la RAM ou à la VRAM dont vous disposez déjà avant de télécharger des dizaines de gigaoctets de poids.

Comparatif des modèles d’IA locaux : la sélection

Les chiffres de mémoire sont des estimations de planification, et non des garanties. Ils supposent une version pratique en 4 bits lorsqu’elle est disponible et une fenêtre de contexte modérée. La surcharge du runtime, le cache KV, les encodeurs de vision, la taille des lots et le déport du calcul vers le GPU peuvent ajouter plusieurs gigaoctets.

Comment nous avons choisi les meilleurs modèles pour un usage local

Il ne s’agit pas d’un classement basé uniquement sur les benchmarks. Un modèle qui remporte un test, mais qui ne peut pas tenir sur votre machine, n’est pas le meilleur modèle local pour vous. Nous avons privilégié cinq facteurs : la qualité utile des résultats, la compatibilité réaliste avec le matériel grand public, la disponibilité de runtimes locaux ou de versions quantifiées, la couverture des tâches, ainsi que les contraintes liées aux licences ou à l’accès.

Nous avons également traité largement le terme « matériel grand public » : PC Windows et Linux, Mac équipés d’Apple Silicon, petits serveurs domestiques et homelabs centrés sur le NAS. Si vous choisissez d’abord les composants, consultez notre guide du matériel abordable pour serveur d’IA local afin de dimensionner le système complet, plutôt que de vous concentrer uniquement sur la mémoire du GPU.

1. Qwen3.5-9B — Le meilleur modèle d’IA locale dans l’ensemble

Qwen3.5-9B est la recommandation la plus équilibrée pour un ordinateur moderne doté de 16 Go de mémoire ou un GPU de 8 à 12 Go. Il est suffisamment compact pour fonctionner dans un format quantifié pratique, tout en étant assez performant pour le chat, les résumés, la génération augmentée par récupération, les tâches multilingues et le codage léger.

La fiche officielle du modèle indique une fenêtre de contexte native de 262 144 tokens, mais ce nombre ne devrait pas devenir votre réglage local par défaut. Le cache KV augmente avec la taille du contexte : commencez autour de 8K à 16K et n’augmentez cette valeur que si la charge de travail le justifie. Cela permet de maîtriser la latence et l’utilisation de la mémoire.

• À choisir si : vous voulez un modèle polyvalent pour une utilisation locale quotidienne.
• À éviter si : votre tâche principale est la génération de code haut de gamme ou la compréhension audio/vidéo.
• Configuration idéale : quantification 4 bits sur un GPU de 12 Go, ou inférence hybride CPU/GPU avec 16 à 24 Go de RAM système.

2. Gemma 4 12B — Le meilleur choix pour l’IA multimodale locale

Gemma 4 12B est le meilleur choix lorsque l’IA locale ne se limite pas au texte. La fiche du modèle de Google décrit la prise en charge native des entrées texte, image, audio et vidéo, une fenêtre de contexte pouvant atteindre 256K, une prise en charge multilingue de plus de 140 langues et une architecture conçue pour une exécution locale simplifiée.

Cette polyvalence entraîne une surcharge. Prévoyez 24 Go de RAM système ou 12 à 16 Go de VRAM pour un déploiement quantifié confortable, puis gardez une marge supplémentaire pour les entrées multimédias. Il est particulièrement utile pour l’analyse privée de photos, la compréhension de documents, les flux de travail liés aux contenus de réunion et la recherche multimodale.

• À choisir si : vous avez besoin d’un seul modèle capable de comprendre le texte et les contenus multimédias.
• À éviter si : vous avez seulement besoin d’un chat textuel rapide sur un ordinateur portable doté de 8 Go de mémoire.
• Configuration idéale : 16 Go de VRAM ou 32 Go de mémoire unifiée.

3. gpt-oss-20b — Le meilleur choix pour un raisonnement de haute qualité sur un GPU grand public

gpt-oss-20b vise le haut de gamme du matériel grand public. OpenAI indique qu’il peut fonctionner avec 16 Go de mémoire, tandis que son guide officiel Ollama recommande au moins 16 Go de VRAM ou de mémoire unifiée pour le modèle le plus petit.

Il convient particulièrement aux utilisateurs qui souhaitent un raisonnement approfondi, des sorties structurées ou des expérimentations locales sans passer à des GPU de niveau station de travail. Le principal compromis est que 16 Go constituent un point de départ, et non une marge confortable : les contextes longs, les requêtes parallèles ou les formats autres que MXFP4 peuvent augmenter les besoins en mémoire.

• À choisir si : la qualité du raisonnement compte davantage que la faible latence.
• À éviter si : vous ne disposez que de 8 Go de VRAM ou utilisez exclusivement l’inférence sur CPU.
• Le juste équilibre : un GPU de 16 à 24 Go ou un système Apple Silicon doté d’au moins 24 Go de mémoire unifiée.

4. Ministral 3 14B Instruct — Le meilleur pour les agents locaux et l’utilisation d’outils

Ministral 3 14B Instruct associe texte et vision à l’appel de fonctions natif, à la sortie JSON, à la prise en charge multilingue et à une excellente adhésion aux invites système. Mistral positionne cette famille pour le déploiement en périphérie et indique que le modèle 14B tient dans 24 Go de VRAM en FP8, avec des besoins moindres après une quantification supplémentaire.

Pour un assistant domestique privé qui appelle des outils de recherche, d’automatisation ou de gestion de fichiers, ces fonctionnalités de fiabilité peuvent compter davantage qu’un léger avantage aux benchmarks. Une version en 4 bits devrait fonctionner sur du matériel doté de moins de mémoire, mais 12 à 16 Go de VRAM offrent une plage d’utilisation plus confortable.

• À choisir si : vous créez des agents utilisant des outils ou des flux de travail structurés.
• À éviter si : votre priorité est d’obtenir un nombre maximal de jetons par seconde sur un GPU d’entrée de gamme.
• Le juste équilibre : 16 Go de VRAM et une fenêtre de contexte modérée.

5. Qwen3-Coder-30B-A3B Instruct — Meilleur modèle de codage local

Qwen3-Coder-30B-A3B Instruct est spécialement conçu pour le codage agentique, la compréhension de dépôts à grande échelle et l’appel de fonctions. Son architecture à mélange d’experts contient 30,5 milliards de paramètres au total, mais n’en active qu’environ 3,3 milliards par jeton, ce qui améliore l’efficacité du calcul sans éliminer la nécessité de stocker l’ensemble des poids quantifiés.

Cette distinction est importante pour planifier le matériel. Une version en 4 bits doit généralement être installée sur un GPU de 24 Go ou une machine disposant d’au moins 32 Go de mémoire système. Le contexte natif de 256K est intéressant pour les grands dépôts, mais les utilisateurs locaux devraient commencer avec une taille plus réduite, car le contexte de code peut rapidement consommer la mémoire du cache KV.

• À choisir si : le codage constitue votre charge de travail principale et que vous disposez de 24 Go de mémoire graphique.
• À éviter si : vous recherchez un assistant quotidien léger.
• Zone idéale : 24 Go de VRAM, un stockage NVMe rapide et 64 Go de RAM système pour disposer d’une marge suffisante.

6. DeepSeek-R1-Distill-Qwen-14B — Le meilleur modèle de raisonnement économique

DeepSeek-R1-Distill-Qwen-14B condense les schémas de raisonnement appris de DeepSeek-R1 dans un modèle dense de 14B basé sur Qwen2.5. Il reste une option pratique pour les mathématiques, la logique et la résolution de problèmes étape par étape sur du matériel incapable d’héberger le modèle DeepSeek-R1 complet.

Le compromis concerne l’efficacité de la génération. Les traces de raisonnement peuvent être longues, ce qui augmente le délai avant réponse et la consommation d’énergie. Utilisez une limite raisonnable de jetons et réservez-le aux problèmes qui bénéficient d’un raisonnement délibéré plutôt qu’aux conversations courantes.

• À choisir si : vous recherchez un raisonnement local abordable avec des quantifications largement disponibles.
• À éviter si : vous privilégiez des réponses concises et instantanées à une réflexion approfondie.
• Zone idéale : 12 à 16 Go de VRAM ou 24 à 32 Go de RAM système.

7. Qwen3-VL-8B Instruct — Le meilleur choix pour les images et la compréhension des documents

Qwen3-VL-8B Instruct est un choix spécialisé en vision-langage pour les captures d’écran, les pages numérisées, les diagrammes, les graphiques et les questions-réponses visuelles. Les versions GGUF officielles incluent des poids Q4_K_M et des fichiers distincts de projection visuelle, ce qui facilite le déploiement avec des outils compatibles avec llama.cpp.

Sa consommation réelle de mémoire dépend du nombre et de la résolution des images ; prévoyez donc davantage de marge qu’avec un modèle de 8B limité au texte. Pour les archives privées, combinez le modèle avec l’OCR et la recherche documentaire plutôt que d’envoyer chaque page en pleine résolution dans une seule invite. Notre comparatif du matériel pour l’IA photo et le RAG documentaire explique les différents goulots d’étranglement.

• À choisir si : vous travaillez avec des images, des PDF, des captures d’écran ou des documents visuels.
• À éviter si : votre charge de travail est entièrement textuelle.
• Zone idéale : 12 Go de VRAM ou 24 Go de mémoire système partagée.

8. Phi-4 Mini Instruct — Idéal pour le raisonnement avec peu de mémoire

Phi-4 Mini Instruct est conçu pour les environnements où les ressources de calcul sont limitées et où la latence est critique, avec un accent sur le suivi des instructions, les mathématiques et la logique. Microsoft indique une fenêtre de contexte de 128K, bien que le même avertissement concernant la mémoire locale s’applique : les capacités du modèle ne signifient pas que vous devez allouer le contexte maximal sur une petite machine.

C’est un premier modèle judicieux pour un PC compact, un ordinateur portable ancien ou un serveur principalement axé sur le processeur. Microsoft fournit également des versions ONNX optimisées pour un déploiement sur CPU et GPU dans les environnements de bureau et mobiles.

• À choisir si : vous avez besoin de capacités de raisonnement dans une enveloppe mémoire réduite.
• À éviter si : la restitution d’informations factuelles générales et l’écriture créative sont vos priorités principales.
• Zone idéale : 8 à 16 Go de RAM système ou un GPU de 6 Go.

9. Gemma 3n E4B — Idéal pour une utilisation multimodale mobile et à faibles ressources

Gemma 3n E4B a été conçu pour fonctionner efficacement sur des appareils aux ressources limitées tout en acceptant les entrées texte, image, vidéo et audio. C’est une option intéressante lorsqu’un GPU intégré ou un ordinateur portable à mémoire unifiée compte davantage que les performances maximales d’un ordinateur de bureau.

Vérifiez la compatibilité de l’environnement d’exécution avant de vous engager dans un flux de travail. La prise en charge du multimodal peut nécessiter des bibliothèques récentes et des moteurs spécifiques à la plateforme, tandis que l’accès au modèle peut exiger l’acceptation des conditions de licence de Google. Une fois la prise en charge assurée, son encombrement réduit le rend intéressant pour les outils de terrain privés et l’analyse multimédia hors ligne.

• À choisir si : vous recherchez des fonctionnalités multimodales sur un ordinateur portable efficace ou un appareil périphérique.
• À éviter si : vous avez besoin de la configuration multiplateforme la plus simple.
• Point idéal : 16 Go de mémoire unifiée avec un environnement d’exécution natif optimisé.

10. Llama 3.2 3B Instruct — Le meilleur choix léger pour son écosystème

Llama 3.2 3B Instruct n’est plus le modèle compact le plus récent, mais il reste utile grâce à la vaste prise en charge des environnements d’exécution, des tutoriels et de la communauté. Meta a conçu les modèles textuels 1B et 3B pour le dialogue multilingue, la recherche d’informations, le résumé et l’utilisation sur appareil.

Choisissez-le pour sa compatibilité, et non pour une intelligence de premier plan. Il fonctionne sur des systèmes modestes et s’intègre facilement, ce qui en fait une base fiable pour tester une application avant de passer à un modèle plus volumineux.

• À choisir si : vous privilégiez des outils matures et un téléchargement peu volumineux.
• À éviter si : vous recherchez la meilleure qualité de sortie disponible en 2026.
• Point idéal : 8 Go de RAM système, avec déportation partielle facultative vers le GPU.

Quel modèle convient à votre matériel ?

8 Go de RAM ou 4 à 6 Go de VRAM

Commencez avec Phi-4 Mini ou Llama 3.2 3B en quantification 4 bits. Limitez le contexte à 4K–8K, exécutez une seule requête à la fois et attendez-vous à une génération sur processeur utilisable plutôt qu’instantanée. Les petits systèmes conviennent bien à la classification, aux résumés, au RAG simple et aux automatisations domestiques.

16 Go de RAM ou 8 à 12 Go de VRAM

Qwen3.5-9B est la recommandation par défaut. Qwen3-VL-8B convient également lorsque l’entrée visuelle est nécessaire, même s’il demande davantage de marge. Ce niveau offre le meilleur équilibre pour les PC de jeu courants, les MacBook et les configurations compactes d’IA locale.

24 à 32 Go de RAM ou 16 Go de VRAM

Gemma 4 12B, Ministral 3 14B, DeepSeek-R1-Distill-Qwen-14B et gpt-oss-20b deviennent des options réalistes. Le niveau avec GPU de 16 Go est particulièrement utile, car il évite les transferts lents du processeur vers le GPU tout en conservant une capacité suffisante pour un contexte modéré.

64 Go de RAM ou 24 Go de VRAM

Qwen3-Coder-30B-A3B est un choix pratique ici, tout comme les versions quantifiées de meilleure qualité de modèles plus petits. Ce niveau convient aux assistants de programmation avancés, à plusieurs services locaux, aux collections RAG plus volumineuses et à l’expérimentation avec des contextes plus longs.

Si les performances vous déçoivent, identifiez le véritable goulot d’étranglement avant de remplacer le modèle. Notre guide sur les goulots d’étranglement du calcul, de la mémoire, du stockage et du réseau dans l’IA locale aide à distinguer une génération de tokens lente d’un chargement de modèle ou d’une récupération de données lente.

Comment exécuter ces modèles localement

1. Choisissez un moteur d’exécution. Ollama est pratique pour l’utilisation en ligne de commande et via API, LM Studio propose une interface de bureau conviviale, et llama.cpp offre un contrôle étendu de l’inférence GGUF et du déport matériel.
2. Téléchargez une version quantifiée. Q4_K_M constitue un point de départ général pertinent pour les modèles GGUF. Les formats à moins de bits économisent de la mémoire, mais peuvent réduire la qualité ; les formats à plus de bits améliorent la fidélité, mais consomment davantage de RAM.
3. Commencez avec un contexte court. Commencez par 4K–8K, observez la mémoire et la vitesse, puis augmentez progressivement. Annoncer un contexte de 128K ou 256K ne rend pas la longueur de contexte maximale gratuite.
4. Déportez des couches vers le GPU. Si le modèle complet ne tient pas dans la VRAM, le déport partiel peut tout de même accélérer l’inférence, tandis que la RAM système conserve le reste.
5. Testez vos propres prompts. Évaluez la précision, la latence, les appels d’outils, le formatage et les hallucinations sur les tâches que vous exécutez réellement. Les benchmarks publics ne peuvent pas reproduire vos documents ni votre flux de travail.

Pour un plan de déploiement de bout en bout, consultez le guide de création d’un serveur d’IA local de ZimaSpace. Si la confidentialité des données est la principale raison de votre passage au local, le guide de confidentialité des LLM locaux auto-hébergés couvre le stockage, l’exposition réseau, les journaux et les contrôles d’accès.

Où le matériel Zima trouve sa place

Un système d’IA local n’est pas obligé de regrouper le stockage, l’orchestration et l’inférence sur une seule machine. Un ZimaBoard 2 peut coordonner les API de modèles, la RAG légère, les automatisations et les services de données privés. Son processeur Intel N150, sa mémoire LPDDR5 pouvant atteindre 16 Go, ses deux ports 2,5 GbE, ses connecteurs SATA et son extension PCIe le destinent davantage aux petits modèles exécutés sur CPU ou à l’orchestration qu’à l’inférence de LLM haut de gamme.

Pour les jeux de données plus volumineux et le matériel d’IA évolutif, ZimaCube 2 combine un stockage multi-disques, une extension SSD, Thunderbolt 4 et des options PCIe. Il peut héberger des fichiers de modèles privés et des données RAG, tandis qu’un système équipé d’un GPU se charge de l’inférence, ou servir de centre à un homelab d’IA plus intégré. Cette séparation permet de conserver les données sensibles en local sans imposer tous les services à la machine la plus énergivore.

Foire aux questions

Quel est le meilleur modèle d’IA à exécuter localement en 2026 ?

Qwen3.5-9B est le meilleur point de départ global pour la plupart des utilisateurs, car il offre un bon équilibre entre capacités, vitesse, performances multilingues et encombrement quantifié raisonnable. Choisissez Gemma 4 12B pour les usages multimodaux, gpt-oss-20b pour un raisonnement plus performant, ou Qwen3-Coder-30B-A3B pour le codage sérieux.

Puis-je exécuter un modèle d’IA local sans GPU ?

Oui. L’inférence sur CPU fonctionne bien avec des modèles 3B à 4B plus compacts et peut exécuter des modèles 8B à 9B si vous disposez de suffisamment de RAM, mais la génération sera plus lente. Les puces Apple Silicon et les GPU intégrés modernes peuvent utiliser de la mémoire partagée, tandis que les systèmes x86 tirent souvent parti d’un déchargement partiel vers le GPU.

De quelle quantité de RAM ai-je besoin pour un LLM local ?

Huit gigaoctets suffisent pour les modèles quantifiés compacts, 16 Go constituent le minimum pratique courant, et 32 Go permettent d’utiliser des modèles de 12B à 20B avec une marge utile. Pour des poids quantifiés de classe 30B, 32 Go peuvent suffire à faire fonctionner le modèle, mais 64 Go sont plus confortables lorsque d’autres services et de longs contextes sont impliqués.

Un modèle en 4 bits perd-il en qualité ?

Généralement un peu, mais les bonnes quantifications en 4 bits préservent une qualité suffisante pour les conversations, le RAG, l’assistance au codage et l’usage domestique, tout en réduisant considérablement les besoins en mémoire. L’impact exact dépend du modèle et de la méthode de quantification ; comparez donc quelques requêtes représentatives avant de standardiser votre déploiement.

La VRAM est-elle plus importante que la RAM système ?

La VRAM détermine généralement la quantité du modèle pouvant fonctionner à pleine vitesse sur le GPU. La RAM système peut contenir les poids qui ne tiennent pas en VRAM, mais le transfert des données entre le CPU et le GPU réduit les performances. Les systèmes à mémoire unifiée brouillent cette distinction, même si la bande passante mémoire reste importante.

Verdict final

Commencez par le modèle le plus compact capable d’effectuer de manière fiable votre charge de travail réelle. Pour la plupart des utilisateurs, il s’agit de Qwen3.5-9B ; passez à Gemma 4 12B pour les entrées multimodales, à gpt-oss-20b ou DeepSeek-R1-Distill-Qwen-14B pour le raisonnement, et à Qwen3-Coder-30B-A3B pour le codage. Adaptez la quantification et la longueur du contexte à la mémoire disponible, puis ne faites évoluer le matériel qu’après avoir mesuré le goulot d’étranglement.