Kann Immich eine GPU oder einen Beschleuniger mit einem anderen Container gemeinsam nutzen?

Eva Wong ist die technische Redakteurin und begeisterte Tüftlerin bei ZimaSpace. Als lebenslanger Geek mit einer Leidenschaft für Homelabs und Open-Source-Softwarehat sie sich darauf spezialisiert, komplexe technische Konzepte in verständliche, praxisnahe Anleitungenzu übersetzen. Eva ist überzeugt, dass Self-Hosting Spaß machen sollte und nicht einschüchternd sein darf. Mit ihren Tutorials hilft sie der Community dabei, Hardware-Setups zu durchschauen, vom Bau des ersten NAS bis zum sicheren Umgang mit Docker-Containern.

Ja, Immich kann eine GPU oder einen Beschleuniger mit einem anderen Container gemeinsam nutzen, sofern die Host-Runtime den gleichzeitigen Zugriff erlaubt und beide Workloads innerhalb der praktischen Gerätegrenzen bleiben.

Die gemeinsame Nutzung des Geräts garantiert weder Isolation noch gleiche Leistung. Immich kann die Beschleunigung für Videotranskodierung oder Schlussfolgerungen mit maschinellem Lernen nutzen, während ein anderer Dienst Medien kodiert, KI-Schlussfolgerungen ausführt oder denselben Renderknoten verwendet. Stellen Sie das Gerät gezielt bereit, testen Sie jeden Workload allein, führen Sie dann die tatsächliche gleichzeitige Nutzung aus und achten Sie auf Probleme mit Speicher, Latenz, Temperatur oder Treibern.

Stellen Sie zunächst sicher, dass jeder Container den Beschleuniger allein nutzen kann

Überprüfen Sie vor dem Test der gemeinsamen Nutzung den Host-Treiber und die Container-Runtime jeweils mit nur einem Workload. Lösen Sie bei Immich die beschleunigte Funktion aus, die Sie tatsächlich nutzen möchten, und bestätigen Sie die Gerätenutzung sowie saubere Anwendungsprotokolle. Wiederholen Sie das mit dem zweiten Container und seinem üblichen Workload.

Das Beispiel der NVIDIA-Container-Runtime für mehrere GPU-fähige Container zeigt, dass mehrere Container mit GPU-Zugriff gestartet werden können. Es belegt das Laufzeitmodell, nicht aber, dass jedes Anwendungspaar die Ressourcen fair teilt oder auf ein Gerät passt.

Wenn eine der beiden Anwendungen den Beschleuniger allein nicht zuverlässig nutzen kann, untersuchen Sie noch nicht die gleichzeitige Nutzung. Korrigieren Sie zunächst Treiberversion, Gerätezuordnung, Berechtigungen, Laufzeitkonfiguration, Codec-Unterstützung oder Anwendungs-Backend. Ein gemeinsamer Test kann diese grundlegenden Probleme nicht von tatsächlicher Konkurrenz unterscheiden.

Stellen Sie nur das Gerät bereit, das der jeweilige Workload benötigt

Weisen Sie auf Systemen mit mehreren Beschleunigern nach Möglichkeit ein bestimmtes Gerät zu, statt jeden Container für alle GPUs freizuschalten. Überprüfen Sie bei integrierter Intel- oder AMD-Grafik, ob das vorgesehene Rendergerät und die Gruppenberechtigungen stimmen. Prüfen Sie bei NVIDIA, welches der sichtbaren Geräte der Prozess tatsächlich auswählt.

Eine aktuelle Antwort im NVIDIA-Forum zur gemeinsamen Nutzung einer GPU durch Container weist darauf hin, dass gewöhnliche Containerprozesse auf dieselbe GPU zugreifen können, wenn sie beiden zur Verfügung gestellt wird. Wichtig für den Betrieb ist, dass Containergrenzen nicht automatisch einen festen Leistungsanteil schaffen.

Die Gerätesichtbarkeit sollte nach dem Neuerstellen eines Containers reproduzierbar sein. Starten Sie jeden Dienst neu und bestätigen Sie, dass dasselbe Gerät mit denselben Berechtigungen angezeigt wird. Wenn eine Anwendung nach dem Neustart unbemerkt auf die CPU zurückgreift, korrigieren Sie die Gerätezuordnung, bevor Sie die gemeinsame Leistung messen.

Messen Sie die Konkurrenz bei den tatsächlich gleichzeitig ausgeführten Workloads

Lassen Sie Immich allein laufen und erfassen Sie Verarbeitungsrate, Reaktionszeit bei Interaktionen, GPU-Auslastung, Gerätespeicher, CPU-Fallback und Temperatur. Führen Sie den anderen Container allein mit denselben Messwerten aus. Lassen Sie anschließend die beiden repräsentativen Aufgaben gleichzeitig laufen und vergleichen Sie die Veränderung, statt sich auf die theoretische Spitzenleistung zu verlassen.

In einer neueren NVIDIA-Diskussion zur GPU-Nutzung durch mehrere Container wird gefragt, ob zwei Container dieselben Geräte auswählen und in Ressourcenkonflikt geraten können. Genau diese Grenze sollten Sie testen: Sichtbarkeit bedeutet gemeinsamen Zugriff, nicht automatische Zugriffskontrolle oder garantierte Kapazität.

Akzeptieren Sie die gemeinsame Nutzung, wenn beide Workloads beschleunigt bleiben, korrekt abgeschlossen werden und Ihre Latenz- und Temperaturziele einhalten. Wenn ein Auftrag den VRAM erschöpft, den anderen auf die CPU zwingt, Fehler bei der Encoder-Zuweisung verursacht oder für Nutzer wahrnehmbare Verzögerungen hervorruft, verringern Sie die Parallelität, planen Sie die anspruchsvollen Aufträge zeitlich getrennt oder weisen Sie separate Geräte zu.

Transcodierungsbelastung von Belastung durch maschinelles Lernen trennen

Immich kann einen Beschleuniger unterschiedlich stark beanspruchen, je nachdem, ob Videos codiert oder Inferenzaufgaben des maschinellen Lernens ausgeführt werden. Auch der andere Container nutzt möglicherweise Codier-Engines, Recheneinheiten oder gemeinsam genutzten Speicher auf andere Weise. Die gesamte „GPU-Auslastung“ kann verschleiern, welche Engine tatsächlich ausgelastet ist.

Der ZimaSpace-Leitfaden zur Validierung der gemeinsamen GPU-Nutzung über Container hinweg bietet ein nützliches Testmuster für Heimserver: Prüfen Sie zuerst Treiber und Zuordnung und erhöhen Sie dann schrittweise die Anzahl repräsentativer gleichzeitiger Sitzungen, während Sie Gerätespeicher, Temperatur, Fehler und Ausweichverhalten beobachten.

Wenn sich Videotranscodierung und ML nur selten überschneiden, ist die Planung möglicherweise einfacher als eine Hardwarepartitionierung. Sind beide den ganzen Tag latenzempfindlich, können ein zweiter Beschleuniger oder ein separater Host eine klarere Fehlergrenze schaffen. Die richtige Architektur hängt vom Überschneidungszeitraum ab und nicht nur davon, ob Docker beiden Containern den Zugriff auf das Gerät erlaubt.

Validieren Sie die gemeinsame Nutzung nach einem Neustart und bei einer typischen Spitzenlast

Erzeugen Sie eine reproduzierbare Spitzenlast, etwa eine Immich-Videotranscodierung zusammen mit einem Stapel Smart-Search- oder Gesichtserkennungsaufgaben, während der zweite Container seine anspruchsvollste übliche beschleunigte Aufgabe ausführt. Erfassen Sie Abschlussraten, Tail-Latenz, Speichernutzung, Temperatur und Fehler sowie, ob einer der Dienste auf die CPU zurückfällt.

Starten Sie die Container in beiden Reihenfolgen neu und wiederholen Sie den Test. Eine robuste Konfiguration darf nicht davon abhängen, welcher Dienst den Beschleuniger zuerst beansprucht hat, es sei denn, diese Priorität ist eine bewusste Designentscheidung. Prüfen Sie außerdem, ob Geräte- und Runtime-Zuordnungen nach einem Neustart des Hosts stabil bleiben.

Teilen Sie weiter, solange die gemessene Überschneidung innerhalb der Service-Ziele bleibt und thermische sowie Speicherreserven vorhanden sind. Erhöhen Sie die Parallelität nicht weiter, sobald erstmals ein wiederholbarer Fehler oder eine unakzeptable Latenz auftritt. Eskalieren Sie mit dem GPU-Modell, den Treiber-/Runtime-Versionen, den Gerätezuordnungen, der VRAM-Nutzung, den Workload-Typen und der genauen Kombination, die zu Ressourcenkonflikten führt.

Support und Tipps

Mehr zum Lesen

Get More Builds Like This

Stay in the Loop

Get updates from Zima - new products, exclusive deals, and real builds from the community.

Stay in the Loop preferences

We respect your inbox. Unsubscribe anytime.