NVIDIA Container Toolkit op ZimaOS: huidige GPU-configuratie

Volg op het huidige ZimaOS geen Ubuntu-instructies die NVIDIA Container Toolkit met apt op de host installeren. ZimaOS heeft een eigen integratie voor NVIDIA-stuurprogramma's en runtime, en de huidige documentatie voor Docker-apps toont GPU-containers met runtime: nvidia plus NVIDIA_VISIBLE_DEVICES.

De brongebruiker uit 2025 had een generieke x86-server met een GTX 1050 en merkte terecht op dat ZimaOS geen normale pakketbeheerder van Debian heeft. Het uitvoeren van de toolkit in een Alpine-container kan het runtimeprobleem op de host evenmin oplossen: de NVIDIA-runtime moet op de Docker-hostlaag aanwezig zijn.

Controleer eerst het GPU-stuurprogramma op de host

nvidia-smi
lspci -nnk | grep -A3 -Ei 'vga|3d|display'

Als nvidia-smi niet met de GPU kan communiceren, is de Docker-configuratie niet het eerste probleem.

Controleer of Docker de NVIDIA-runtime al heeft

docker info | grep -i nvidia
ps aux | grep '[d]ockerd'

Het huidige ZimaOS start Docker vaak met de NVIDIA-runtime beschikbaar, zelfs op systemen waarop deze niet actief wordt gebruikt.

Gebruik het runtime-model van ZimaOS

De huidige NVIDIA Docker-runtimehandleiding van ZimaOS toont:

services:
  my-gpu-app:
    image: your/image
    runtime: nvidia
    ipc: host
    environment:
      NVIDIA_VISIBLE_DEVICES: all

Waarom het installeren van de toolkit in een andere container niet werkt

NVIDIA Container Toolkit integreert met Docker/containerd op de host. NVIDIA's eigen installatiehandleiding voor NVIDIA Container Toolkit gebruikt nvidia-ctk runtime configure om de Docker-configuratie op de host aan te passen en Docker opnieuw te starten.

Kopieer geen apt-instructies naar ZimaOS

De installatiehandleiding van NVIDIA gaat uit van ondersteunde distributies in Debian/RPM-stijl met pakketbeheerders op de host. Het huidige ZimaOS wordt niet op die manier onderhouden, waardoor pakketinstallaties op de host kunnen botsen met de appliance-image en het updatemodel.

Test GPU-toegang in een container

Gebruik, zodra het stuurprogramma en de runtime op de host goed werken, een bekende GPU-container of je doelapp om te bevestigen dat het apparaat daadwerkelijk zichtbaar is in de container.

De GTX 1050 heeft beperkingen voor workloads

Een GTX 1050 kan geschikt zijn voor bepaalde NVENC/NVDEC-transcodering, maar AI-workloads zoals de huidige machinelearningfunctionaliteit van Immich kunnen strengere vereisten hebben voor CUDA, VRAM, modellen en frameworks. Dat “Docker de GPU ziet” betekent niet dat elke app deze ondersteunt.

Maak een back-up van de appconfiguratie voordat je runtime-instellingen wijzigt

Vervang Docker-servicebestanden of runtimeconfiguratie niet handmatig tenzij je de wijzigingen kunt terugdraaien. Een onjuiste runtimeconfiguratie op de host kan alle Docker-apps stoppen, niet alleen de GPU-container.

De huidige handleiding voor GPU-containers geeft een uitgebreidere uitleg van de huidige versus de oude softwaregrenzen.

Controleer de runtime in de doelapp

nvidia-smi op de host bewijst alleen dat het ZimaOS-stuurprogramma op de host de kaart ziet. Open een shell in de daadwerkelijke GPU-container en controleer daar het apparaat en de runtime; anders kan een app ongemerkt terugvallen op de CPU terwijl de GPU op de host goed werkt.

Scheid transcodering van AI-compatibiliteit

Ondersteuning voor NVENC/NVDEC, CUDA-rekenmogelijkheden, VRAM en appspecifieke frameworks zijn verschillende beperkingen. Een kaart die transcodering in Plex/Jellyfin aankan, kan nog steeds te oud of te beperkt zijn voor een actueel ML-model.

Veelgestelde vragen

Moet ik nvidia-container-toolkit met apt installeren op ZimaOS?

Nee. Gebruik het huidige NVIDIA-runtimepad van ZimaOS en behandel de host niet alsof het Ubuntu is.

Kan ik de toolkit in Alpine Docker installeren?

Nee. De runtime-integratie moet op de Docker-host aanwezig zijn.

Hoe weet ik of Docker NVIDIA ziet?

Controleer docker info, de opdracht en runtime van de Docker-daemon en controleer vervolgens GPU-toegang in de doelcontainer.

Bewijst nvidia-smi op de host dat Immich ML zal werken?

Nee. Het bewijst dat het stuurprogramma op de host de GPU ziet; de container en app hebben nog steeds compatibele CUDA-, VRAM- en runtimeondersteuning nodig.