Un LLM local puede responder a una consulta y aun así estar usando la ruta de modelo incorrecta. La interfaz de la aplicación puede mostrar el nombre de modelo que esperas, pero el entorno de ejecución podría estar leyendo una caché antigua, un directorio interno de Docker, una carpeta de modelos predeterminada o un archivo que se volvió a descargar en otro sitio.
La comprobación más segura no consiste en un solo comando. Es una breve cadena de verificación: compara la carpeta del host, el montaje del contenedor, la lista de modelos del entorno de ejecución, los metadatos del modelo, el estado de memoria activa, los registros y el crecimiento real del almacenamiento. Cuando todas esas capas coinciden, puedes tener mucha más confianza en que el LLM está usando los archivos del modelo y la ruta de almacenamiento correctos.
La carpeta que ves no siempre es la ruta que utiliza el entorno de ejecución
El primer error es confiar demasiado pronto en la ruta del administrador de archivos. Una carpeta del NAS puede contener el modelo que descargaste, pero eso no demuestra que el entorno local de ejecución de LLM pueda verlo ni que lo esté cargando desde allí.
Docker añade otra capa. Una ruta del host como /mnt/storage/ai/models puede estar asignada a una ruta del contenedor como /root/.ollama, y el ejecutor del modelo solo ve la ruta del contenedor. La documentación de Docker sobre montajes vinculados explica que source es la ruta del host y que destination o target es la ruta dentro del contenedor, por lo que hay que comprobar ambas juntas mediante los montajes vinculados de Docker.
La pregunta sobre la ruta práctica es sencilla: no preguntes solo dónde colocaste el modelo. Pregunta qué ruta ve el entorno de ejecución y a qué carpeta del host corresponde realmente esa ruta del contenedor.
Empieza por la lista de modelos del entorno de ejecución
Antes de revisar todas las carpetas, consulta la lista de modelos del entorno de ejecución para saber qué reconoce. En Ollama, empieza con:
ollama list
Dentro de un contenedor Docker, usa la misma comprobación del entorno de ejecución desde los límites del servicio:
docker exec -it ollama ollama list
Este registro del entorno de ejecución confirma que el entorno ha registrado una etiqueta de modelo, pero no demuestra por completo que la ruta del archivo, la cuantización o la ubicación de almacenamiento sean correctas. La referencia de la CLI de Ollama incluye ollama ps para los modelos en ejecución, mientras que las preguntas frecuentes explican el directorio de almacenamiento de modelos y la variable de entorno OLLAMA_MODELS en su guía sobre el directorio de almacenamiento de modelos.
Usa este paso como primer punto de control, no como respuesta definitiva. Si aquí no aparece el modelo esperado, es posible que la aplicación esté apuntando a otro entorno de ejecución, que el modelo no se haya importado o que el directorio de modelos configurado no sea el que está usando el servicio.
Haz coincidir la ruta del host con la ruta del contenedor
En las implementaciones con Docker, la pregunta más importante es si la ruta del host y la ruta del contenedor realmente coinciden. Ejecuta:
docker inspect <container-name>
Luego, consulta la sección Mounts. Source debería apuntar a la carpeta de almacenamiento del NAS que querías usar y Destination debería apuntar al directorio del modelo dentro del contenedor. El comando inspect de Docker devuelve información de bajo nivel sobre los objetos, por lo que docker inspect Mounts es una fuente de información más fiable que los recuerdos o las capturas de pantalla.
Una asignación de montaje de Docker adecuada debería dejar clara la relación de almacenamiento:
| Capa | Ejemplo | Qué significa |
|---|---|---|
| Origen del host | /mnt/storage/ai/ollama |
La carpeta real del NAS donde se almacenan los datos del modelo |
| Destino del contenedor | /root/.ollama |
La ruta que ve el ejecutor del modelo dentro de Docker |
| Comportamiento del entorno de ejecución | Ollama lee /root/.ollama
|
Los archivos deberían crecer en la carpeta de origen del host |
Si la ruta de origen apunta a la raíz de Docker, una ruta temporal, una carpeta antigua o un volumen de sistema pequeño, el modelo puede seguir funcionando mientras llena la unidad equivocada.
Comprueba los archivos reales del modelo, no solo el nombre
Un nombre de modelo no equivale a un archivo de modelo verificado. El mismo nombre puede apuntar a distintas etiquetas, formatos, niveles de cuantización, adaptadores o blobs en caché, según el entorno de ejecución.
Para Ollama, inspecciona los metadatos del modelo con:
ollama show <model-name> --modelfile
En Docker, ejecuta la misma comprobación de Modelfile desde el contenedor:
docker exec -it ollama ollama show <model-name> --modelfile
Los metadatos de Modelfile de Ollama son importantes en este caso. La documentación de Modelfile de Ollama explica que ollama show --modelfile puede revelar la configuración del modelo, incluida la fuente FROM que utiliza. Para los archivos .gguf descargados manualmente, la documentación de cuantización de llama.cpp muestra GGUF y formatos como Q4_K_M, así que los metadatos del archivo de modelo GGUF forman parte de la verificación, no solo del ajuste del rendimiento.
Los registros revelan qué ruta se cargó realmente
Cuando la interfaz y las rutas de los archivos no coinciden, los registros suelen ser la prueba más clara. Pueden mostrar las rutas de inicio, errores de lectura, errores de permisos, archivos que faltan, descargas de modelos y comportamientos de reserva.
En Docker, usa esta comprobación de registros del contenedor:
docker logs <nombre-del-contenedor>
La documentación de registro de Docker explica que los registros de los contenedores suelen mostrar la salida del proceso del contenedor desde STDOUT y STDERR, mientras que la página de solución de problemas de Ollama indica que los registros de Ollama en contenedores se pueden consultar con docker logs.
Busca indicios sobre la ruta, como OLLAMA_MODELS, mensajes de descarga del modelo, errores de carga, errores de permisos o directorios que no coincidan con la carpeta de almacenamiento prevista. Si los registros mencionan un directorio distinto del que asignaste, confía en los registros y corrige la ruta.
Confirma que el modelo está activo en la memoria
La siguiente comprobación es el estado del modelo activo. Un modelo puede estar instalado o registrado, pero no cargado en ese momento. Después de enviar una instrucción breve, ejecuta inmediatamente:
ollama ps
En Docker, ejecuta la misma comprobación de modelos activos dentro del contenedor:
docker exec -it ollama ollama ps
Qué puede demostrar ollama ps
ollama ps muestra qué modelos están cargados actualmente. Las preguntas frecuentes de Ollama explican que la columna Processor puede indicar si un modelo está cargado en la CPU, la GPU o repartido entre ambas, lo que ayuda a confirmar el estado de ejecución activo y no solo la biblioteca de modelos.
Esto resulta útil cuando necesitas saber si el modelo esperado está activo en este momento, si permanece en la memoria y si está usando la ruta de procesamiento esperada. Es especialmente útil después de cambiar de modelo, cambiar etiquetas o probar el comportamiento de la GPU / CPU.
Lo que no puede demostrar
ollama ps no demuestra por sí solo la asignación de carpetas del host. Puede mostrar que un modelo está activo, pero todavía necesitas docker inspect, los metadatos del modelo, los registros y las comprobaciones del crecimiento del espacio de almacenamiento para demostrar que procede de la ruta prevista.
Tampoco demuestra que un archivo de modelo personalizado tenga la cuantización o el origen exactos que esperabas. Para comprobarlo, revisa los metadatos y el archivo Modelfile, y verifica los archivos.
Señales de que la ruta del modelo es incorrecta
Una ruta del modelo incorrecta suele dejar indicios antes de que el problema sea evidente. La señal más común es un crecimiento inexplicable del espacio en disco en la unidad de arranque, la raíz de Docker o un volumen de datos de una aplicación que no tenías previsto usar.
Presta atención a estas señales de que la ruta no coincide:
- La aplicación muestra el modelo, pero la carpeta de modelos prevista no aumenta de tamaño.
-
docker inspectmuestra una ruta Source distinta de la carpeta de almacenamiento del NAS. - El modelo se vuelve a descargar después de que creías que ya estaba presente.
- Los registros mencionan un directorio de modelos predeterminado en lugar de tu ruta personalizada.
-
ollama listmuestra una etiqueta o un tamaño distintos de los previstos. -
ollama show --modelfileapunta a una base o un blob distintos de los previstos. -
ollama psmuestra un modelo activo inesperado después de una instrucción. - La unidad de arranque pierde espacio con cada descarga de un modelo.
Si dos capas de verificación no coinciden, simplifica la prueba. Detén el contenedor, verifica el montaje, reinicia el servicio, descarga un modelo pequeño conocido y comprueba qué directorio aumenta de tamaño.
Un orden más claro para verificar el almacenamiento de LLM locales
Sigue un orden de verificación fijo en lugar de revisar carpetas al azar. Así evitarás confundir las rutas del host, del contenedor, de la aplicación y del entorno de ejecución.
- Confirma la carpeta de almacenamiento prevista en el host.
- Comprueba el espacio libre en la unidad del sistema y en la unidad de modelos.
- Ejecuta
docker inspect <container-name>y verifica Source / Destination. - Comprueba la lista de modelos del entorno de ejecución con
ollama list. - Descarga o importa un modelo pequeño conocido.
- Ejecuta
du -sh <model-folder>antes y después de la descarga. - Inspecciona los metadatos con
ollama show <model-name> --modelfile. - Envía una instrucción breve.
- Ejecuta
ollama pspara confirmar el modelo activo. - Lee los registros del contenedor o del servicio para encontrar pistas sobre rutas, descargas o permisos.
Una verificación del almacenamiento correcta debe terminar con todas las capas apuntando al mismo lugar: la carpeta del modelo aumenta de tamaño en la unidad prevista, el montaje del contenedor apunta a esa carpeta, el entorno de ejecución muestra el modelo, los metadatos coinciden con el archivo previsto, los registros no muestran errores de ruta y el modelo activo es el que acabas de probar.
Qué muestra la búsqueda con IA de ZimaOS sobre las rutas de modelos visibles
Una función de IA local controlada debe mostrar la ruta del modelo, el estado de descarga, el uso de recursos y los registros con suficiente claridad para poder verificarla. De lo contrario, los usuarios tienen que adivinar si el servicio de IA está usando realmente los archivos del modelo previstos.
ZimaOS-AI es un ejemplo útil. La guía de ZimaSpace sobre búsqueda con IA explica que el módulo de IA usa un LLM local para extraer características de imágenes, audio y vídeo para las búsquedas de ZimaOS. La misma guía breve señala que los archivos del modelo se almacenan en /media/ZimaOS-HD/AppData/.models y que, si se ha migrado AppData, el almacenamiento real corresponde a la ubicación migrada de AppData.
La guía también describe comprobaciones de funcionamiento, como las descargas automáticas de modelos, los intervalos de extracción de características, el historial de llamadas, las comprobaciones del tráfico de red y journalctl -xef -u zimaos-ai para solucionar problemas. Son precisamente el tipo de señales que necesita una carga de trabajo de IA local: una ruta visible, un comportamiento de descarga visible, registros visibles y un estado visible del entorno de ejecución.
Para una configuración de nube privada como ZimaCube 2, esta es la lección principal: la IA local no debería ser una caja negra. Tanto si la carga de trabajo consiste en búsquedas, chat, embeddings o análisis de contenido multimedia, la ruta del modelo y el estado del entorno de ejecución deberían poder verificarse fácilmente.
Preguntas frecuentes
¿Cómo sé dónde almacena Ollama los archivos de modelos?
Comprueba el directorio de modelos predeterminado de Ollama para tu sistema operativo y verifica si OLLAMA_MODELS lo ha cambiado. En Docker, revisa también el montaje del contenedor para saber qué carpeta del host se asigna al directorio de modelos del entorno de ejecución.
¿Cómo compruebo si Docker está usando la carpeta de modelos correcta?
Ejecuta docker inspect <container-name> y revisa la sección Mounts. Source debería ser la ruta de almacenamiento del NAS que querías usar, y Destination debería ser el directorio de modelos utilizado dentro del contenedor.
¿Qué son manifests y blobs en un directorio de modelos de Ollama?
En un directorio de modelos de tipo Ollama, los manifests describen los metadatos y las referencias del modelo, mientras que los blobs contienen los archivos más grandes con los datos del modelo. Si la carpeta blobs crece después de descargar un modelo, es una señal clara de que ese directorio se está usando para almacenar modelos.
¿Cómo puedo saber qué modelo está cargado actualmente?
Envía una indicación breve y ejecuta ollama ps. Muestra el modelo cargado actualmente y el estado del procesador, lo que ayuda a confirmar si el modelo esperado está activo en la CPU, la GPU o en una combinación de CPU y GPU.
¿Por qué la aplicación muestra el modelo, pero la ruta del archivo sigue pareciendo incorrecta?
Es posible que la aplicación esté leyendo un registro del entorno de ejecución, un modelo en caché, una ruta interna de Docker o un directorio de modelos distinto del que estás comprobando en el administrador de archivos. Verifica la lista del entorno de ejecución, el montaje de Docker, los metadatos, los registros y el crecimiento real del almacenamiento antes de confiar en la interfaz.
La comprobación de la ruta de un LLM local solo está completa cuando coinciden la ruta de almacenamiento del host, el destino del contenedor, la lista de modelos del entorno de ejecución, los metadatos del modelo, el estado de la memoria activa, los registros y el crecimiento del espacio en disco. Si alguna capa apunta a otro lugar, corrige la ruta antes de descargar más modelos o conectar más aplicaciones.
Soporte y consejos
Más para leer

Qué comprobar antes de cargar un modelo de la comunidad en Transformers
Usa la actualización del entorno aislado de Jinja para Transformers para revisar la procedencia del modelo, las plantillas de chat, el código remoto, los...

Ejecuta Mirage localmente: OCR y detección de objetos a partir de una sola imagen
Prueba el pequeño modelo de visión local de Cactus Compute, valida el OCR y la extracción de objetos con datos reales y comprende las...

Cómo programar un agente de programación en Open WebUI en un servidor doméstico
Configura una automatización de agente de programación solo para informes en Open WebUI, selecciona su terminal y espacio de trabajo, y verifica los permisos,...



