Ich habe eine Intel Arc GPU in den ZimaCube 2 eingebaut – Lokale KI ganz ohne zusätzliches Kabel

Ich habe den ZimaCube 2 nicht für KI gekauft. Ich habe ihn als Speicher-Backend für meinen Proxmox-Cluster gekauft.

Dann fiel mir der PCIe x16 Slot auf. Und die Tatsache, dass er vollständig über die Mainboard-Stromversorgung läuft — kein 6-Pin, kein 8-Pin, keine Adapterkabel. Nur Slot-Strom. Das änderte die Rechnung.

Nach dem Einbau einer Intel Arc Pro B50 läuft der ZimaCube 2 jetzt mit llama.cpp und OpenClaw für lokale Inferenz — neben seinem Tagesjob als gemeinsamer Speicher des Clusters. Hier die ganze Geschichte: warum ich die B50 gewählt habe, wie die Installation verlief, was ZimaOS Beta brachte und was das für alle bedeutet, die ein GPU-Upgrade am ZimaCube 2 in Betracht ziehen.

Warum die Intel Arc Pro B50

Die Wahl einer GPU für ein kompaktes NAS ist nicht wie die Wahl für einen Gaming-Desktop. Sie haben drei harte Einschränkungen:

1. Nur Slot-Stromversorgung. Die PCIe-Slots des ZimaCube 2 leiten keine zusätzlichen Stromkabel weiter. Die GPU muss vollständig vom Mainboard versorgt werden — maximal 75W.
2. Low-Profile oder Einzelslot. Das Gehäuse misst 240 × 221 × 220 mm. Eine Full-Height-Dual-Slot-Karte passt physisch nicht.
3. Leise und kühl. Dieses Gerät läuft 24/7 in einem Wohnraum. Keine Gebläse-Lüfter, kein thermisches Drosseln im Leerlauf.

Die Intel Arc Pro B50 erfüllte alle Anforderungen:

Die Installation: Ein Slot, keine Kabel, fertig

Die physische Installation dauerte weniger als zehn Minuten.

Öffne die obere Abdeckung — die PCIe-Slots sind direkt zugänglich, keine Laufwerkskäfige im Weg. Die B50 wird in den x16-Slot geschoben. Die Halbhöhen-Blende passt genau in die hintere Öffnung. Eine Schraube anziehen. Abdeckung schließen. Fertig.

Keine Stromkabel. Keine Adapter-Dongles. Keine Kabel, die in zu enge Räume gequetscht werden. Die PCIe-Implementierung des ZimaCube 2 ist wirklich sauber — der Slot ist so positioniert, dass selbst eine Dual-Slot-Karte die Laufwerkschächte nicht behindert.

Das ist bei kompakter NAS-Hardware nicht selbstverständlich. Die meisten Geräte in diesem Formfaktor haben nicht einmal PCIe. Die wenigen, die es haben, platzieren den Slot oft so, dass die Installation eingeschränkt ist. IceWhale hat hier das Layout richtig gemacht.

ZimaOS Beta: Native Arc-Treiberunterstützung

Ich hatte geplant, ZimaOS zu löschen und Ubuntu Server zu installieren. Dann kontaktierte mich IceWhale mit einem ZimaOS-Beta-Build, der native Intel Arc GPU-Treiberunterstützung enthält.

Der Beta-Build erkennt den Treiber automatisch. Beim ersten Start nach der Installation der B50 erkannte ZimaOS die Karte, lud den Intel i915-Treiber mit Arc-Erweiterungen und stellte sie der Docker-Laufzeitumgebung zur Verfügung. Kein Kernel-Modul-Kompilieren. Keine GRUB-Anpassungen. Es funktionierte einfach.

Was ich ausführe: llama.cpp + OpenClaw

Mit erkannter GPU habe ich zwei Container bereitgestellt:

llama.cpp (GPU-beschleunigte Inferenz)

• Modell: Mistral 13B Q5_K_M (passt in ~12GB VRAM mit 8K Kontext)
• Backend: Intel SYCL (Arc GPU)
• Anwendungsfälle: Code-Review, Zusammenfassung von Dokumentationen, lokaler Chatbot, natürliche Sprachverarbeitung für Heimautomation

OpenClaw (lokales KI-Gateway)

• Vereinheitlichter API-Endpunkt für mehrere lokale Modelle
• Leitet Anfragen zwischen llama.cpp und kleineren CPU-basierten Modellen weiter
• Verbindet sich mit Home Assistant für sprachgesteuerte Smart-Home-Anfragen

Die Leistung entspricht genau dem, was man von einer 50W Single-Slot-Karte erwartet: keine Rechenzentrum-GPU, aber schnell genug, um wirklich nützlich zu sein. Mistral 13B generiert etwa 25–35 Tokens pro Sekunde – schneller als Lesegeschwindigkeit, was die Schwelle ist, die lokale AI reaktionsschnell statt mühsam macht.

Den Hauptjob behalten: Speicher-Backend + AI auf einer Maschine

Was ich nicht getan habe: Ich habe den ursprünglichen Zweck des ZimaCube 2 nicht geopfert. Die Speicherpools, die den Proxmox-Cluster bedienen, sind weiterhin vorhanden. Die ZFS-Snapshots laufen weiterhin planmäßig. Die Docker-Container, die die Infrastruktur betreiben, wurden nicht verschoben.

Was sich geändert hat, ist, dass der ZimaCube 2 jetzt zwei Dinge gleichzeitig macht:

Speicherschicht

• 4× HDD RAID-Z1 (Massendaten)
• 2× NVMe RAID 1 (VM-Images)
• 1× NVMe SLOG/L2ARC (Cache)
• NFS-Exporte zu 3 Proxmox-Knoten
• ZFS-Snapshot-Automatisierung
  

AI-Schicht

• llama.cpp mit Mistral 13B
• OpenClaw AI-Gateway
• Code-Review-Assistent
• Dokumentenzusammenfassung
• Home Assistant NLP-Integration

Der 40GB RAM (8GB Standard + 32GB Upgrade) wird aufgeteilt: etwa 24GB für ZFS ARC, 8GB für Docker-Container und ZimaOS, und 8GB bleiben für System-Overhead. Der 16GB VRAM der GPU verwaltet die Modellgewichte unabhängig – er konkurriert nicht mit dem Systemspeicher.

Die CPU-Auslastung während der Inferenz ist minimal, da llama.cpp die GPU entlastet. Die Speicher-I/O-Leistung bleibt unbeeinträchtigt, weil die NVMe-Pools die aktiven Daten verwalten und die GPU den SATA-Controller nicht berührt.

Warum keine separate AI-Box?

Ich habe darüber nachgedacht, einen dedizierten AI-Knoten zu bauen. Es gibt gute Gründe, Inferenz vom Speicher zu trennen – Isolation, dediziertes Strombudget, unabhängige Neustartzyklen. Aber es gibt einen überzeugenden Grund dagegen:

Sie haben bereits einen PCIe-Steckplatz.

Featured

ZimaCube 2 Persönliche Cloud Heim-NAS

ZimaCube2

$799.00 - $2,499.00

Buy Now

Der ZimaCube 2 wurde mit Blick auf Erweiterungen entwickelt. Wenn Sie ein Gerät kaufen, das einen PCIe x16-Steckplatz speziell für zukünftige Upgrades enthält, ist es die teurere Entscheidung, diesen nicht zu nutzen. Eine separate AI-Box bedeutet ein weiteres Netzteil, ein weiteres Gehäuse, eine weitere Netzwerkverbindung, eine weitere Sache, die verwaltet werden muss.

Eine Maschine. Zwei Rollen. Der ZimaCube2 übernimmt beides.

Füge deinem ZimaCube 2 eine GPU hinzu und starte lokale KI →

Häufig gestellte Fragen

Bietet der PCIe-Slot des ZimaCube 2 genug Strom für eine GPU?

Ja — für slot-betriebene Karten bis zu 75W. Die Intel Arc Pro B50 (50W TDP) und ähnliche stromsparende GPUs werden vollständig über den PCIe-Slot mit Strom versorgt. Die PCIe-Slots des ZimaCube 2 führen keine zusätzlichen Stromkabel, daher muss eine Karte gewählt werden, die keine benötigt. Die B50, NVIDIA RTX A2000 und Intel Arc A310/A380 sind alle geeignete Optionen.

Welche GPU würdest du für den ZimaCube 2 empfehlen?

Für KI-Inferenz gilt speziell: Priorisiere VRAM über Rechenleistung. Die Intel Arc Pro B50 (16GB) und NVIDIA RTX A2000 (12GB) sind derzeit die besten slot-betriebenen Optionen. Für reine Medien-Transkodierung sind die Intel Arc A310 oder A380 günstiger und bieten dennoch Hardware-AV1-Codierung. Vermeide GPUs, die einen 6-poligen oder 8-poligen Stromanschluss benötigen.

Kann ich einen ZimaCube 2 mit einer GPU rund um die Uhr ohne thermische Probleme betreiben?

Ja. Das thermische Design des ZimaCube 2 trennt die CPU/PCIe-Zone von der Laufwerkszone. Die Arc Pro B50 ist eine 50W-Karte — sie erzeugt nicht genug Wärme, um das Gehäuse zu überlasten. Unter dauerhafter Inferenzlast bleiben die GPU-Temperaturen im normalen Betriebsbereich, ohne dass zusätzliche Kühlmaßnahmen erforderlich sind.

Kann der ZimaCube 2 gleichzeitig gemeinsam genutzten Speicher und KI-Workloads ausführen?

Ja. Der hier beschriebene Originalaufbau verwendet den ZimaCube 2 sowohl als Proxmox-Cluster-NFS/ZFS-Speicher-Backend als auch als lokalen KI-Inferenzserver mit llama.cpp und OpenClaw. Der GPU-VRAM verwaltet die Modellgewichte unabhängig vom Systemspeicher, und die NVMe-Speicherpools sorgen dafür, dass die VM-I/O durch Inferenz-Workloads nicht ausgebremst wird.

Welches ist das größte Modell, das ich auf einer 16GB GPU im ZimaCube 2 ausführen kann?

Eine 16GB GPU wie die Intel Arc Pro B50 kann problemlos quantisierte 13B–14B Parameter-Modelle (Q5_K_M oder Q4_K_M Quants) mit 4K–8K Kontextfenstern ausführen oder 20B–34B Modelle bei niedrigeren Quantisierungsstufen. Für die meisten selbstgehosteten KI-Anwendungen — Code-Unterstützung, Dokumentenzusammenfassung, Heimautomatisierungs-NLP — ist ein gut abgestimmtes 13B Modell mit guter Quantisierung der ideale Kompromiss.