Un LLM local peut répondre à une invite tout en utilisant le mauvais chemin de modèle. L’interface de l’application peut afficher le nom de modèle attendu, mais l’environnement d’exécution peut lire un ancien cache, un répertoire interne à Docker, un dossier de modèles par défaut ou un fichier qui a été téléchargé de nouveau ailleurs.
La vérification la plus fiable ne repose pas sur une seule commande. Elle consiste à établir une courte chaîne de vérification : comparer le dossier hôte, le montage du conteneur, la liste des modèles de l’environnement d’exécution, les métadonnées du modèle, l’état de la mémoire active, les journaux et l’augmentation réelle du stockage. Lorsque ces éléments concordent, vous pouvez avoir bien davantage confiance dans le fait que le LLM utilise les bons fichiers de modèle et le bon chemin de stockage.
Le dossier que vous voyez n’est pas toujours celui qu’utilise l’environnement d’exécution
La première erreur consiste à faire trop vite confiance au chemin affiché dans le gestionnaire de fichiers. Un dossier NAS peut contenir le modèle que vous avez téléchargé, mais cela ne prouve pas que l’environnement d’exécution du LLM local peut y accéder ni qu’il le charge depuis cet emplacement.
Docker ajoute une couche supplémentaire. Un chemin hôte tel que /mnt/storage/ai/models peut être associé à un chemin de conteneur tel que /root/.ollama, et le moteur de modèles ne voit que le chemin du conteneur. La documentation de Docker sur les montages liés explique que source correspond au chemin côté hôte et que destination ou target correspond au chemin dans le conteneur ; il faut donc vérifier les deux ensemble dans la documentation sur les montages liés Docker.
La question du chemin d’accès est simple : ne demandez pas seulement où vous avez placé le modèle. Demandez-vous quel chemin l’environnement d’exécution voit et à quel dossier hôte correspond réellement ce chemin dans le conteneur.
Commencez par la liste des modèles de l’environnement d’exécution
Avant de vérifier chaque dossier, demandez à la liste des modèles de l’environnement d’exécution ce qu’elle connaît. Avec Ollama, commencez par :
ollama list
Dans un conteneur Docker, effectuez la même vérification de l’environnement d’exécution depuis la frontière du service :
docker exec -it ollama ollama list
Ce registre d’exécution confirme qu’un tag de modèle a été enregistré par l’environnement d’exécution, mais ne prouve pas entièrement que le chemin d’accès au fichier, la quantification ou l’emplacement de stockage sont corrects. La référence de la CLI d’Ollama indique que ollama ps liste les modèles en cours d’exécution, tandis que la FAQ explique le répertoire de stockage des modèles et la variable d’environnement OLLAMA_MODELS dans ses indications sur le répertoire de stockage des modèles.
Utilisez cette étape comme premier point de contrôle, et non comme réponse définitive. Si le modèle attendu n’apparaît pas ici, l’application pointe peut-être vers un autre environnement d’exécution, le modèle n’a peut-être pas été importé, ou le répertoire de modèles configuré n’est peut-être pas celui utilisé par le service.
Faites correspondre le chemin sur l’hôte à celui du conteneur
Pour les déploiements Docker, la question la plus importante est de savoir si le chemin sur l’hôte et le chemin dans le conteneur correspondent réellement. Exécutez :
docker inspect <container-name>
Examinez ensuite la section Mounts. La Source devrait pointer vers le dossier de stockage NAS que vous souhaitez utiliser, et la Destination devrait pointer vers le répertoire du modèle utilisé dans le conteneur. La commande inspect de Docker renvoie des informations détaillées sur l’objet, ce qui fait de docker inspect Mounts une source de référence plus fiable que vos souvenirs ou des captures d’écran.
Un mappage de montage Docker bien conçu doit rendre la relation entre les espaces de stockage évidente :
| Couche | Exemple | Signification |
|---|---|---|
| Source sur l’hôte | /mnt/storage/ai/ollama |
Le véritable dossier NAS où sont stockées les données du modèle |
| Destination du conteneur | /root/.ollama |
Le chemin que le moteur de modèle voit dans Docker |
| Comportement à l’exécution | Ollama lit /root/.ollama
|
Les fichiers devraient s’accumuler dans le dossier Source sur l’hôte |
Si le chemin source pointe vers la racine de Docker, un chemin temporaire, un ancien dossier ou un petit volume système, le modèle peut continuer de fonctionner tout en remplissant le mauvais disque.
Vérifiez les fichiers de modèle réels, pas seulement le nom du modèle
Un nom de modèle ne garantit pas qu’un fichier de modèle a été vérifié. Un même nom peut correspondre à différentes balises, différents formats, niveaux de quantification, adaptateurs ou objets mis en cache selon l’environnement d’exécution.
Pour Ollama, examinez les métadonnées du modèle avec :
ollama show <model-name> --modelfile
Dans Docker, effectuez la même vérification du Modelfile depuis le conteneur :
docker exec -it ollama ollama show <model-name> --modelfile
Les métadonnées du Modelfile Ollama sont importantes ici. La documentation Modelfile d’Ollama explique que ollama show --modelfile peut révéler la configuration du modèle, notamment la source FROM qui le sous-tend. Pour les fichiers .gguf téléchargés manuellement, la documentation sur la quantification de llama.cpp présente le format GGUF et des formats tels que Q4_K_M ; les métadonnées des fichiers de modèle GGUF font donc partie de la vérification, et ne servent pas uniquement à régler les performances.
Les logs indiquent le chemin réellement chargé
Lorsque l’interface utilisateur et les chemins des fichiers ne concordent pas, les journaux constituent souvent les preuves les plus claires. Ils peuvent afficher les chemins de démarrage, les échecs de lecture, les erreurs de permission, les fichiers manquants, les téléchargements de modèles et les comportements de repli.
Pour Docker, effectuez cette vérification des journaux du conteneur :
docker logs <nom-du-conteneur>
La documentation sur la journalisation Docker explique que les journaux des conteneurs exposent généralement la sortie du processus du conteneur depuis STDOUT et STDERR, tandis que la page de dépannage d’Ollama indique que les journaux d’Ollama dans un conteneur sont accessibles avec docker logs.
Recherchez des indices de chemin comme OLLAMA_MODELS, des messages de téléchargement de modèle, des erreurs de chargement, des erreurs de permission ou des répertoires qui ne correspondent pas au dossier de stockage prévu. Si les journaux mentionnent un répertoire différent de celui que vous avez mappé, fiez-vous aux journaux et corrigez le chemin.
Vérifier que le modèle est actif en mémoire
La vérification suivante porte sur l’état du modèle actif. Un modèle peut être installé ou enregistré sans être actuellement chargé. Après avoir envoyé une courte invite, exécutez immédiatement :
ollama ps
Dans Docker, effectuez la même vérification des modèles actifs à l’intérieur du conteneur :
docker exec -it ollama ollama ps
Ce que ollama ps peut prouver
ollama ps affiche les modèles actuellement chargés. La FAQ d’Ollama explique que la colonne Processor peut indiquer si un modèle est chargé sur le CPU, le GPU ou réparti entre les deux, ce qui permet de confirmer l’état d’exécution actif plutôt que le contenu de la bibliothèque de modèles.
C’est utile lorsque vous devez savoir si le modèle attendu est actuellement actif, s’il reste en mémoire et s’il utilise le processeur attendu. C’est particulièrement utile après avoir changé de modèle ou de tag, ou testé le comportement du GPU / CPU.
Ce que cela ne peut pas prouver
ollama ps ne prouve pas à lui seul le mappage du dossier hôte. Il peut indiquer qu’un modèle est actif, mais vous devez aussi vérifier docker inspect, les métadonnées du modèle, les journaux et l’évolution de l’espace de stockage pour confirmer qu’il provient du chemin prévu.
Cela ne prouve pas non plus qu’un fichier de modèle personnalisé possède exactement la quantification ou la source attendue. Pour le vérifier, examinez les métadonnées et le Modelfile, puis vérifiez le fichier.
Signes indiquant que le chemin du modèle est incorrect
Un chemin de modèle incorrect laisse généralement des signes avant de devenir évident. Le signe le plus courant est une augmentation inexpliquée de l’espace disque utilisé sur le lecteur de démarrage, la racine Docker ou un volume de données d’application que vous n’aviez pas l’intention d’utiliser.
Surveillez ces signes d’incohérence de chemin :
- L’application affiche le modèle, mais le dossier de modèles prévu ne grossit pas.
-
docker inspectaffiche un chemin Source différent de votre dossier de stockage NAS. - Le modèle est téléchargé à nouveau alors que vous pensiez qu’il était déjà présent.
- Les journaux mentionnent un répertoire de modèles par défaut au lieu de votre chemin personnalisé.
-
ollama listaffiche un tag ou une taille différent de ce que vous attendiez. -
ollama show --modelfilepointe vers une base ou un blob différent de celui attendu. -
ollama psaffiche un modèle actif inattendu après l’envoi d’un prompt. - L’espace disponible sur le disque de démarrage diminue après chaque téléchargement de modèle.
Si deux couches de vérification ne concordent pas, simplifiez le test. Arrêtez le conteneur, vérifiez le montage, redémarrez le service, téléchargez un modèle connu de petite taille et vérifiez quel répertoire grossit.
Un ordre de vérification plus clair pour le stockage des LLM locaux
Suivez un ordre de vérification fixe plutôt que de vérifier des dossiers au hasard. Vous éviterez ainsi de confondre les chemins de l’hôte, du conteneur, de l’application et du moteur d’exécution.
- Confirmez le dossier de stockage hôte prévu.
- Vérifiez l’espace libre sur le disque système et le disque des modèles.
- Exécutez
docker inspect <container-name>et vérifiez Source / Destination. - Vérifiez la liste des modèles du moteur d’exécution avec
ollama list. - Téléchargez ou importez un modèle connu de petite taille.
- Exécutez
du -sh <model-folder>avant et après le téléchargement. - Examinez les métadonnées avec
ollama show <model-name> --modelfile. - Envoyez un prompt court.
- Exécutez
ollama pspour confirmer le modèle actif. - Consultez les journaux du conteneur ou du service pour repérer d’éventuels problèmes de chemin, de téléchargement ou de permissions.
Une vérification du stockage bien menée doit confirmer que toutes les couches pointent vers le même emplacement : le dossier du modèle grossit sur le disque prévu, le montage du conteneur pointe vers ce dossier, le moteur d’exécution répertorie le modèle, les métadonnées correspondent au fichier attendu, les journaux ne signalent aucune erreur de chemin et le modèle actif est celui que vous venez de tester.
Ce que la recherche IA de ZimaOS révèle sur la visibilité des chemins des modèles
Une fonctionnalité d’IA locale bien contrôlée doit rendre suffisamment visibles le chemin du modèle, son état de téléchargement, l’utilisation des ressources et les journaux pour permettre une vérification. Sinon, les utilisateurs ne peuvent que deviner si le service d’IA utilise réellement les fichiers du modèle attendus.
ZimaOS-AI en est un bon exemple. Le guide ZimaSpace consacré à la recherche IA explique que le module IA utilise un LLM local pour extraire des caractéristiques des images, de l’audio et des vidéos afin d’alimenter la recherche dans ZimaOS. Le même document précise que les fichiers du modèle sont stockés dans /media/ZimaOS-HD/AppData/.models et que si AppData a été migré, l’espace réellement utilisé dépend de l’emplacement de destination d’AppData.
Le guide décrit également des vérifications opérationnelles, telles que les téléchargements automatiques de modèles, les intervalles d’extraction des caractéristiques, l’historique des appels, les contrôles du trafic réseau et journalctl -xef -u zimaos-ai pour le dépannage. Ce sont exactement les types d’indicateurs dont une charge de travail d’IA locale a besoin : chemin visible, comportement de téléchargement visible, journaux visibles et état du runtime visible.
Pour une configuration de cloud privé telle que ZimaCube 2, la leçon à retenir est la suivante : l’IA locale ne doit pas être une boîte noire. Qu’il s’agisse de recherche, de chat, de représentations vectorielles ou d’analyse multimédia, le chemin des modèles et l’état du runtime doivent être faciles à vérifier.
FAQ
Comment savoir où Ollama stocke les fichiers des modèles ?
Vérifiez le répertoire de modèles par défaut d’Ollama pour votre système d’exploitation, puis vérifiez si OLLAMA_MODELS l’a modifié. Avec Docker, inspectez également le montage du conteneur pour savoir quel dossier de l’hôte correspond au répertoire de modèles du runtime.
Comment vérifier si Docker utilise le bon dossier de modèles ?
Exécutez docker inspect <container-name> et examinez la section Mounts. La source doit être le chemin de stockage du NAS prévu, et la destination doit être le répertoire de modèles utilisé à l’intérieur du conteneur.
Que sont les manifestes et les blobs dans un répertoire de modèles Ollama ?
Dans un répertoire de modèles de type Ollama, les manifestes décrivent les métadonnées et les références des modèles, tandis que les blobs contiennent les fichiers de données volumineux des modèles. Si le dossier des blobs augmente après le téléchargement d’un modèle, cela indique fortement que ce répertoire est utilisé pour le stockage des modèles.
Comment savoir quel modèle est actuellement chargé ?
Envoyez un court prompt, puis exécutez ollama ps. Cette commande affiche le modèle actuellement chargé et l’état du processeur, ce qui permet de vérifier si le modèle attendu est actif sur le CPU, le GPU ou un partage entre CPU et GPU.
Pourquoi l’application affiche-t-elle le modèle alors que le chemin du fichier semble incorrect ?
L’application lit peut-être un registre du runtime, un modèle mis en cache, un chemin interne à Docker ou un répertoire de modèles différent de celui que vous vérifiez dans le gestionnaire de fichiers. Vérifiez la liste du runtime, le montage Docker, les métadonnées, les journaux et la croissance réelle du stockage avant de vous fier à l’interface.
La vérification du chemin d’un LLM local n’est complète que lorsque le chemin de stockage de l’hôte, la destination du conteneur, la liste des modèles du runtime, les métadonnées du modèle, l’état de la mémoire active, les journaux et la croissance du disque concordent. Si une couche pointe ailleurs, corrigez le chemin avant de télécharger d’autres modèles ou de connecter d’autres applications.
Assistance et conseils
À lire aussi

Ce qu’il faut vérifier avant de charger un modèle communautaire dans Transformers
Utilisez la mise à jour du bac à sable Jinja de Transformers pour examiner la provenance des modèles, les modèles de conversation, le code...

Exécutez Mirage localement : OCR et détection d’objets à partir d’une seule image
Essayez le petit modèle de vision local de Cactus Compute, testez la reconnaissance optique de caractères et l’extraction d’objets à partir de données réelles,...

Comment planifier un agent de programmation dans Open WebUI sur un serveur domestique
Configurez une automatisation d’agent de codage en mode rapport uniquement dans Open WebUI, sélectionnez son terminal et son espace de travail, puis vérifiez les...



