Problema da rede de contentores do Open WebUI e do Ollama no ZimaOS

Um utilizador do ZimaBoard 2 ligou uma GPU NVIDIA externa e viu-a corretamente no painel. O Stable Diffusion iniciou-se, mas devolveu um erro de ligação quando lhe foi pedido para gerar uma imagem. O Open WebUI também iniciou, mas não conseguiu encontrar um modelo através de nenhum dos dois endereços da API do Ollama que o utilizador tentou.

A discussão distinguiu o acesso à Internet da comunicação entre contentores. As aplicações podiam ser descarregadas e o Ollama podia ser alcançado a partir de outro dispositivo, mas o Open WebUI continuava a indicar um problema de rede do Ollama. O diagnóstico final da discussão foi que o Open WebUI e o Ollama não estavam ligados à mesma rede Docker; o autor não publicou uma confirmação final após a última recomendação.

A GPU estava visível, mas os serviços de IA estavam desligados

A GPU NVIDIA externa apareceu no painel do ZimaOS, pelo que o primeiro interveniente não considerou tratar-se de uma falha de deteção da GPU. Em vez disso, observou que o Open WebUI é uma interface que estabelece ligação ao Ollama, não descarregando nem disponibilizando modelos por si só. O erro genérico de ligação do Stable Diffusion também foi interpretado como uma falha ao alcançar o respetivo backend ou API.

Captura de ecrã do estado da IA local no ZimaOS, partilhada durante a resolução do problema — Uma das vistas de estado fornecidas depois de a comunidade ter pedido mais detalhes.

Vista das aplicações de IA locais do ZimaOS — As aplicações de IA locais instaladas, apresentadas pelo autor.

Porque é que o localhost não apontava para o Ollama

O autor indicou o Ollama na porta 11434 e tentou tanto um endereço localhost como um endereço Docker sugerido. Um membro da comunidade explicou que localhost dentro do contentor Open WebUI refere-se ao próprio Open WebUI, não a um contentor Ollama separado.

Com base na lista de contentores apresentada nas capturas de ecrã, o utilizador que respondeu sugeriu usar o nome e a porta do contentor Ollama: http://ollama-nvidia:11434. O princípio dessa resposta era direcionar o serviço dependente através da identidade Docker, em vez de presumir que o contentor frontend partilha a interface de loopback do anfitrião.

Definições de ligação do Ollama no Open WebUI apresentadas no ZimaOS — As definições de ligação fornecidas para análise.

Definições do contentor Ollama na configuração de IA local do ZimaOS — A configuração do lado do Ollama apresentada na mesma sequência de diagnóstico.

Resposta do serviço Ollama recebida a partir de outro dispositivo na rede — Era possível aceder ao serviço fora do percurso problemático entre o frontend e o backend.

O problema restante era a rede Docker

Alterar apenas o URL não resolveu o erro. O autor listou então várias redes disponíveis, incluindo bridge, host, ollama-nvidia_defaulte big-bear-open-webui_default. O autor da resposta concluiu que os dois contentores continuavam isolados em redes diferentes.

A recomendação final foi ligar o Open WebUI e o Ollama à mesma rede Docker partilhada e, em seguida, utilizar o nome do contentor do Ollama no URL da API. O tópico termina nesse ponto, pelo que documenta um provável limite de rede e uma correção proposta, não uma solução final confirmada pelo utilizador.

O Open WebUI comunicava um problema de rede do Ollama — O erro manteve-se depois de testar vários endereços de API.

FAQ

O facto de descarregar aplicações prova que o Open WebUI consegue aceder ao Ollama?

Não. Neste caso, o ZimaOS tinha acesso à Internet e conseguia descarregar aplicações, enquanto dois contentores em execução continuavam sem conseguir comunicar entre si.

A GPU NVIDIA externa foi confirmada como a causa?

Não. A GPU apareceu no painel de controlo, e o diagnóstico da comunidade centrou-se nos endereços dos serviços e no isolamento da rede Docker. O tópico não indicava um erro da GPU como causa principal.