Solución de la comunidad

Open WebUI no pudo conectarse a Ollama en una configuración de IA local de ZimaOS

A ZimaBoard 2 user could launch Stable Diffusion, Open WebUI, and an NVIDIA-enabled Ollama container, but the applications reported connection and network errors between their services.

Un usuario de ZimaBoard 2 conectó una GPU NVIDIA externa y comprobó que aparecía correctamente en el panel. Stable Diffusion se inició, pero devolvió un error de conexión al intentar generar una imagen. Open WebUI también se inició, pero no pudo encontrar ningún modelo mediante ninguna de las dos direcciones de la API de Ollama que probó el usuario.

La conversación distinguió entre el acceso a Internet y la comunicación entre contenedores. Se podían descargar aplicaciones y acceder a Ollama desde otro dispositivo, pero Open WebUI seguía mostrando un problema de red de Ollama. El diagnóstico final del hilo fue que Open WebUI y Ollama no estaban conectados a la misma red de Docker; el autor no publicó una confirmación final después de la última recomendación.

La GPU era visible, pero los servicios de IA estaban desconectados

La GPU NVIDIA externa aparecía en el panel de ZimaOS, por lo que la primera persona que respondió no consideró que se tratara de un fallo de detección de la GPU. En su lugar, señaló que Open WebUI es una interfaz que se conecta a Ollama, en vez de descargar y servir modelos por sí mismo. El error genérico de conexión de Stable Diffusion también se interpretó como un fallo al acceder a su backend o API.

Captura de pantalla del estado de la IA local en ZimaOS compartida durante la resolución del problema
Una de las vistas de estado proporcionadas después de que la comunidad solicitara más detalles.
Vista de aplicaciones de ZimaOS para los contenedores de IA locales
Las aplicaciones de IA locales instaladas que mostró el autor.

Por qué localhost no apuntaba a Ollama

El autor indicó que Ollama estaba en el puerto 11434 y probó tanto una dirección de localhost como una dirección de Docker sugerida. Un miembro de la comunidad explicó que localhost dentro del contenedor de Open WebUI se refiere al propio Open WebUI, no a un contenedor de Ollama independiente.

Según la lista de contenedores mostrada en las capturas de pantalla, el usuario que respondió sugirió usar el nombre y el puerto del contenedor de Ollama: http://ollama-nvidia:11434. El principio de esa respuesta era dirigirse al servicio dependiente mediante su identidad de Docker, en lugar de suponer que el contenedor del frontend comparte la interfaz de bucle invertido del host.

Configuración de conexión de Ollama en Open WebUI mostrada en ZimaOS
La configuración de conexión proporcionada para su revisión.
Configuración del contenedor de Ollama en la configuración de IA local de ZimaOS
La configuración del lado de Ollama mostrada en la misma secuencia de diagnóstico.
Respuesta del servicio Ollama recibida desde otro dispositivo de la red
Se podía acceder al servicio desde fuera de la ruta fallida entre el frontend y el backend.

El problema restante era la red de Docker

Cambiar solo la URL no resolvió el error. A continuación, el autor enumeró varias redes disponibles, entre ellas bridge y host, ollama-nvidia_default, y big-bear-open-webui_default. El responsable de la respuesta concluyó que los dos contenedores seguían aislados en redes diferentes.

La recomendación final fue conectar Open WebUI y Ollama a una misma red Docker compartida y, después, usar el nombre del contenedor de Ollama en la URL de la API. El hilo termina en ese punto, por lo que documenta un límite de red probable y una corrección propuesta, no una solución final confirmada por el usuario.

Open WebUI informa de un problema de red con Ollama
El error persistió después de probar varias direcciones de API.

Preguntas frecuentes

¿Demuestra la descarga de aplicaciones que Open WebUI puede conectarse a Ollama?

No. En este caso, ZimaOS tenía acceso a Internet y podía descargar aplicaciones, mientras que dos contenedores en ejecución aún no podían comunicarse entre sí.

¿Se confirmó que la GPU NVIDIA externa era la causa?

No. La GPU apareció en el panel, y el diagnóstico de la comunidad se centró en las direcciones de los servicios y el aislamiento de la red de Docker. El hilo no informó de un error de la GPU como causa principal.