커뮤니티 솔루션

ZimaOS 로컬 AI 설정에서 Open WebUI가 Ollama에 연결하지 못함

A ZimaBoard 2 user could launch Stable Diffusion, Open WebUI, and an NVIDIA-enabled Ollama container, but the applications reported connection and network errors between their services.

ZimaBoard 2 사용자가 외부 NVIDIA GPU를 연결했고 대시보드에서 GPU가 정상적으로 표시되는 것을 확인했습니다. Stable Diffusion은 실행되었지만 이미지 생성을 요청하면 연결 오류를 반환했습니다. Open WebUI도 실행되었지만, 사용자가 시도한 두 Ollama API 주소 모두에서 모델을 찾지 못했습니다.

이 논의에서는 인터넷 액세스와 컨테이너 간 통신을 구분했습니다. 앱을 다운로드할 수 있었고 다른 장치에서 Ollama에 연결할 수도 있었지만, Open WebUI에는 여전히 Ollama 네트워크 문제가 표시되었습니다. 최종 스레드 진단은 Open WebUI와 Ollama가 동일한 Docker 네트워크에 연결되어 있지 않다는 것이었으며, 작성자는 마지막 권고 이후 최종 확인을 남기지 않았습니다.

GPU는 표시되었지만 AI 서비스는 연결되지 않았습니다

외부 NVIDIA GPU가 ZimaOS 대시보드에 표시되었으므로, 첫 번째 답변자는 이를 GPU 감지 실패로 보지 않았습니다. 대신 Open WebUI는 모델을 자체적으로 다운로드하거나 제공하는 프로그램이 아니라 Ollama에 연결되는 프런트엔드라고 설명했습니다. Stable Diffusion의 일반적인 연결 오류도 백엔드 또는 API에 연결하지 못한 문제로 해석되었습니다.

문제 해결 과정에서 공유된 ZimaOS 로컬 AI 상태 스크린샷
커뮤니티에서 더 자세한 정보를 요청한 후 제공된 상태 화면 중 하나입니다.
로컬 AI 컨테이너가 표시된 ZimaOS 애플리케이션 화면
작성자가 표시한 설치된 로컬 AI 애플리케이션입니다.

localhost가 Ollama를 가리키지 않은 이유

작성자는 포트 11434에서 Ollama를 실행 중이라고 보고했으며, localhost 주소와 제안된 Docker 주소를 모두 시도했습니다. 커뮤니티 답변자는 다음과 같이 설명했습니다. localhost Open WebUI 컨테이너 내부의 을 가리키며, 별도의 Ollama 컨테이너를 의미하지 않습니다.

스크린샷에 표시된 컨테이너 목록을 바탕으로, 답변자는 Ollama 컨테이너 이름과 포트를 사용하라고 제안했습니다. http://ollama-nvidia:11434해당 답변의 핵심은 프런트엔드 컨테이너가 호스트의 루프백 인터페이스를 공유한다고 가정하지 말고, Docker에서 종속 서비스를 식별하는 방식으로 지정하라는 것이었습니다.

ZimaOS에 표시된 Open WebUI의 Ollama 연결 설정
검토를 위해 제공된 연결 설정
ZimaOS 로컬 AI 설정의 Ollama 컨테이너 설정
동일한 문제 해결 과정에서 표시된 Ollama 측 설정
네트워크의 다른 장치에서 Ollama 서비스 응답에 도달함
문제가 발생한 프런트엔드에서 백엔드로 연결되는 경로 외부에서는 서비스에 연결할 수 있었습니다.

남은 문제는 Docker 네트워크였습니다

URL만 변경해서는 오류가 해결되지 않았습니다. 작성자는 이어서 bridge, host를 포함해 사용 가능한 여러 네트워크를 나열했습니다. ollama-nvidia_defaultbig-bear-open-webui_default응답자는 두 컨테이너가 서로 다른 네트워크에서 여전히 격리되어 있다고 결론 내렸습니다.

최종 권장 사항은 Open WebUI와 Ollama를 동일한 공유 Docker 네트워크 하나에 연결한 다음, API URL에 Ollama 컨테이너 이름을 사용하는 것이었습니다. 스레드는 그 시점에서 끝나므로, 사용자에게 최종 해결이 확인된 것이 아니라 네트워크 경계로 추정되는 문제와 제안된 수정 방법을 설명합니다.

Ollama 네트워크 문제를 보고하는 Open WebUI
여러 API 주소를 테스트한 후에도 오류가 계속되었습니다.

FAQ

앱을 다운로드할 수 있다는 것이 Open WebUI가 Ollama에 연결할 수 있다는 의미인가요?

아니요. 이 경우 ZimaOS는 인터넷에 연결되어 애플리케이션을 다운로드할 수 있었지만, 실행 중인 두 컨테이너는 여전히 서로 통신할 수 없었습니다.

외부 NVIDIA GPU가 원인으로 확인되었나요?

아니요. 대시보드에 GPU가 표시되었고, 커뮤니티의 진단은 서비스 주소와 Docker 네트워크 격리에 초점을 맞췄습니다. 해당 스레드에서는 GPU 오류를 근본 원인으로 보고하지 않았습니다.