Solution communautaire

Open WebUI n’a pas pu atteindre Ollama dans une configuration d’IA locale sous ZimaOS

A ZimaBoard 2 user could launch Stable Diffusion, Open WebUI, and an NVIDIA-enabled Ollama container, but the applications reported connection and network errors between their services.

Un utilisateur de ZimaBoard 2 a connecté un GPU NVIDIA externe et l’a vu correctement apparaître dans le tableau de bord. Stable Diffusion s’est lancé, mais a renvoyé une erreur de connexion lorsqu’on lui a demandé de générer une image. Open WebUI s’est également lancé, mais ne trouvait aucun modèle via l’une ou l’autre des adresses d’API Ollama essayées par l’utilisateur.

La discussion a distingué l’accès à Internet de la communication entre conteneurs. Les applications pouvaient être téléchargées et Ollama était accessible depuis un autre appareil, mais Open WebUI signalait toujours un problème réseau avec Ollama. Le diagnostic final de la discussion était qu’Open WebUI et Ollama n’étaient pas connectés au même réseau Docker ; l’auteur n’a pas publié de confirmation finale après la dernière recommandation.

Le GPU était visible, mais les services d’IA étaient déconnectés

Le GPU NVIDIA externe apparaissait dans le tableau de bord ZimaOS ; le premier répondant n’a donc pas considéré cela comme un problème de détection du GPU. Il a plutôt indiqué qu’Open WebUI est une interface qui se connecte à Ollama, au lieu de télécharger et de servir les modèles par elle-même. L’erreur générique « Connection error » de Stable Diffusion a également été interprétée comme un échec d’accès à son backend ou à son API.

Capture d’écran de l’état de l’IA locale dans ZimaOS, partagée pendant le dépannage
L’une des vues d’état fournies après que la communauté a demandé davantage de détails.
Vue des applications ZimaOS pour les conteneurs d’IA locaux
Les applications d’IA locales installées, telles qu’affichées par l’auteur.

Pourquoi localhost ne pointait pas vers Ollama

L’auteur a indiqué qu’Ollama fonctionnait sur le port 11434 et a essayé à la fois une adresse localhost et une adresse Docker suggérée. Un membre de la communauté a expliqué que localhost dans le conteneur Open WebUI fait référence à Open WebUI lui-même, et non à un conteneur Ollama distinct.

D’après la liste des conteneurs affichée dans les captures d’écran, le répondant a suggéré d’utiliser le nom et le port du conteneur Ollama : http://ollama-nvidia:11434. Le principe de cette réponse était de cibler le service dépendant par son identité Docker, plutôt que de supposer que le conteneur frontend partage l’interface de bouclage de l’hôte.

Paramètres de connexion d’Open WebUI à Ollama affichés dans ZimaOS
Paramètres de connexion fournis pour examen.
Paramètres du conteneur Ollama dans la configuration d’IA locale de ZimaOS
Configuration côté Ollama présentée dans la même séquence de dépannage.
Réponse du service Ollama reçue depuis un autre appareil du réseau
Le service était accessible en dehors du chemin défaillant entre le frontend et le backend.

Le problème restant concernait le réseau Docker

La modification de l’URL seule n’a pas résolu l’erreur. L’auteur a ensuite répertorié plusieurs réseaux disponibles, notamment bridge et host, ollama-nvidia_default, et big-bear-open-webui_default. L’intervenant a conclu que les deux conteneurs étaient toujours isolés sur des réseaux différents.

La recommandation finale était de connecter Open WebUI et Ollama au même réseau Docker partagé, puis d’utiliser le nom du conteneur Ollama dans l’URL de l’API. Le fil s’arrête à ce stade ; il documente donc une limite probable du réseau et une correction proposée, et non une résolution finale confirmée par l’utilisateur.

Open WebUI signale un problème de réseau avec Ollama
L’erreur persistait après le test de plusieurs adresses d’API.

FAQ

Le téléchargement d’applications prouve-t-il qu’Open WebUI peut joindre Ollama ?

Non. Dans ce cas, ZimaOS avait accès à Internet et pouvait télécharger des applications, tandis que deux conteneurs en cours d’exécution ne pouvaient toujours pas communiquer entre eux.

Le GPU NVIDIA externe a-t-il été confirmé comme étant la cause ?

Non. Le GPU est apparu dans le tableau de bord, et le diagnostic de la communauté s’est concentré sur les adresses des services et l’isolation du réseau Docker. Le fil ne signalait pas d’erreur du GPU comme cause principale.