Can the ZimaCube 2 run Ollama?

Yes. The stock configuration can run quantized 7B–8B parameter models (Llama 3, Mistral, Phi) comfortably for chat, code assistance, and text analysis. With a GPU added via PCIe, you can run larger models with significantly faster inference.

Does the ZimaCube 2 have a PCIe slot for a GPU?

Yes. The ZimaCube 2 includes a PCIe expansion slot that supports standard GPUs, AI accelerators, additional storage cards, and networking cards. No proprietary form factors or vendor lock-in.

What can I do with local AI on a NAS?

Local AI on a NAS enables private chat assistants, AI-assisted coding (with tools like Continue.dev), document analysis with RAG pipelines, automated text processing and classification, image analysis, and experimentation without cloud API costs.

How many NVMe slots does the ZimaCube 2 have?

The system has 4× M.2 NVMe slots plus an additional NVMe slot on the motherboard (originally holding the OS drive), which can be used for mirrored OS drives, dedicated Docker storage, or caching layers.

Can I upgrade the RAM later?

Yes. The ZimaCube 2 uses standard SODIMM DDR5 RAM, which is user-replaceable. The stock 8GB configuration handles container workloads well, and you can upgrade when your needs grow.

Is the ZimaCube 2 thermally capable of handling a GPU?

Yes. The metal chassis, intentional airflow design, and internal component layout support PCIe card airflow. The system handles continuous workloads while staying cool, and the thermal design has headroom for expansion.

Lokale KI auf dem ZimaCube 2 — PCIe-Erweiterung, Ollama und Zukunftssicherheit für dein Homelab

Eva Wong

IceWhale author

Eva Wong ist die technische Redakteurin und begeisterte Tüftlerin bei ZimaSpace. Als lebenslanger Geek mit einer Leidenschaft für Homelabs und Open-Source-Softwarehat sie sich darauf spezialisiert, komplexe technische Konzepte in verständliche, praxisnahe Anleitungenzu übersetzen. Eva ist überzeugt, dass Self-Hosting Spaß machen sollte und nicht einschüchternd sein darf. Mit ihren Tutorials hilft sie der Community dabei, Hardware-Setups zu durchschauen, vom Bau des ersten NAS bis zum sicheren Umgang mit Docker-Containern.

Local AI on the ZimaCube 2 — PCIe Expansion, Ollama, and Future-Proofing Your Homelab - Zima Store Online

💡 Community im Rampenlicht: Michael Luckenbill, ZimaCube 2 Pioneer Program

Als ich den ZimaCube 2 zum ersten Mal öffnete, dachte ich nicht nur daran, was er heute leisten kann. Ich dachte auch daran, was aus ihm morgen werden könnte.

Im Inneren fand ich neben der erwarteten Hardware etwas, das mich wirklich begeisterte: ein 256-GB-Kingston-NVMe-Laufwerk für das Betriebssystem — und einen zusätzlichen, ungenutzten NVMe-Steckplatz auf dem Motherboard. Zusammen mit dem PCIe-Erweiterungssteckplatz auf der Rückseite war das nicht einfach nur ein NAS. Es war eine Plattform, die auf Erweiterbarkeit ausgelegt ist.

Vorderansicht des ZimaCube 2: 6 SATA-Laufwerksschächte, USB-A- und USB-C-Anschlüsse an der Vorderseite, integrierter M.2-NVMe-Steckplatz

Mehr als Speicher: Eine erweiterbare Plattform

Der ZimaCube 2 wird einsatzbereit geliefert, doch das eigentlich Spannende ist, was Sie später hinzufügen können:

Integriert

6 × SATA-Einschübe
4 × M.2-NVMe-Steckplätze
8 GB DDR5 SODIMM
Zweimal 2,5-Gb-Ethernet
Metallgehäuse mit aktiver Kühlung

Erweiterbar

Zusätzlicher NVMe-Steckplatz auf dem Motherboard
PCIe-Erweiterungssteckplatz (GPU/KI/Speicher/Netzwerk)
Aufrüstbarer SODIMM-DDR5-Arbeitsspeicher
Standardkomponenten, die ausgetauscht werden können

Das ist eine der größten Stärken des Systems: Es wächst mit Ihren Infrastruktur-Anforderungen. Sie müssen nicht alles im Voraus kaufen. Sie beginnen mit dem, was Sie brauchen, und erweitern das System, wenn Sie bereit sind.

Lokale KI: Warum sie für Homelabs wichtig ist

Eines meiner langfristigen Ziele ist es, mehr KI-Workloads lokal auszuführen. Nicht, weil Cloud-KI schlecht ist — sondern weil lokale KI etwas anderes bietet:

Datenschutz — Ihre Daten verlassen niemals Ihr Netzwerk
Kalkulierbare Kosten — Keine Preise pro Token, keine API-Rechnungen am Monatsende
Freiheit beim Experimentieren — Modelle ausprobieren, Dinge kaputtmachen, von vorn anfangen — ohne sich Gedanken über Cloud-Kosten machen zu müssen
Offline-Fähigkeit — KI, die funktioniert, wenn Ihr Internet nicht funktioniert
Lernen — Verstehen, wie Modelle tatsächlich funktionieren, indem man sie selbst ausführt

Der ZimaCube 2 bietet mir eine Plattform, auf der ich all das ausprobieren kann — Ollama für lokale LLMs, KI-gestützte Entwicklungs-Workflows, Bildanalyse-Pipelines, Inferenz-Workloads und selbst gehostete KI-Tools — ohne vollständig auf Cloud-Infrastruktur angewiesen zu sein.

Featured

ZimaCube 2 persönliche Cloud-NAS

ZimaCube2

Was Sie heute ausführen können (ohne GPU)

Schon bevor du eine dedizierte GPU hinzufügst, bietet der ZimaCube 2 eine solide Grundlage für KI-Experimente:

🤖 Ollama + kleinere Modelle — Das System im Auslieferungszustand kann quantisierte Modelle mit 7B–8B Parametern problemlos ausführen. Dazu gehören etwa Modelle der Klassen Llama 3, Mistral und Phi für Chat, Programmierhilfe und Textanalyse.

💻 KI-gestützte Entwicklung — Kombiniere Ollama mit Tools wie Continue.dev oder Cody und du erhältst einen lokalen KI-Coding-Assistenten, der vollständig offline funktioniert. Keine API-Schlüssel, keine Nutzungslimits, keine Datenschutzbedenken.

📄 Dokumentenanalyse und RAG — Mit den ZFS-Speicherpools kannst du lokale RAG-Pipelines (Retrieval Augmented Generation) erstellen: Speise deine Dokumente, Notizen und Datensätze in eine lokale Vektordatenbank ein und stelle Fragen dazu mit einem LLM, das auf demselben Rechner läuft.

🎁 Automatisierung und Skripting — Lokale LLMs eignen sich hervorragend für strukturierte Aufgaben wie Klassifizierung, Zusammenfassung und Extraktion. Binde Ollama in deine vorhandenen Docker-Workflows ein und automatisiere Textverarbeitungspipelines, für die zuvor Cloud-APIs erforderlich waren.

Interner Hardwareaufbau des ZimaCube 2 mit passivem CPU-Kühlkörper, PCIe-Erweiterungssteckplatz und integrierten NVMe-Steckplätzen

Der Weg zum GPU-Upgrade

Der PCIe-Erweiterungssteckplatz eröffnet langfristig interessante Möglichkeiten. Eine GPU – selbst ein bescheidenes Modell – verwandelt den ZimaCube 2 in einen echten lokalen KI-Server:

Größere Modelle — Modelle mit 13B–34B Parametern mit GPU-Offloading ausführen
Schnellere Inferenz — 10–50× schnellere Token-Generierung
Medientranscodierung — Hardwarebeschleunigte Plex-/Jellyfin-Transcodierung
Bildgenerierung — Stable Diffusion und ähnliche Modelle
Bereitstellung mehrerer Modelle — Verschiedene Modelle gleichzeitig für unterschiedliche Aufgaben ausführen

🔌 Der Steckplatz unterstützt standardmäßige PCIe-Karten – keine proprietären Formfaktoren, keine Herstellerbindung. Du wählst die GPU, die zu deinen Anforderungen und deinem Budget passt.

Warum diese Architektur wichtig ist

Moderne Homelabs überschneiden sich zunehmend mit KI-Workloads, lokaler Inferenz, Medientranscodierung, Container-Orchestrierung und Edge-Computing.

Der ZimaCube 2 wirkt, als wäre er mit Blick auf diese Zukunft entwickelt worden. Er ist kein geschlossenes Gerät, bei dem du ein neues kaufen musst, sobald sich dein Bedarf ändert. Er ist eine Plattform, die sagt: „Hier ist, was du jetzt brauchst, und hier ist Platz für das, was du später brauchen wirst.“

Für mich ist das der Unterschied zwischen einem Gadget und einer Infrastruktur.

Thermalitätscheck: Kann es eine GPU bewältigen?

Eine naheliegende Frage: Kann ein kompaktes, leises System eine GPU tatsächlich ausreichend kühlen?

Die Antwort hängt von der GPU ab, aber die Grundlagen stimmen:

Das Metallgehäuse dient als Kühlkörper
Das Luftstromdesign ist durchdacht (und kein nachträglicher Einfall)
Die Anordnung der internen Komponenten lässt Raum für den Luftstrom, den eine PCIe-Karte benötigt

Das System bewältigt bereits Dauerlasten durch Docker, ZFS und Netzwerkbetrieb und bleibt dabei angenehm kühl. Das Kühldesign bietet Reserven.

Häufig gestellte Fragen

Q1: Kann der ZimaCube 2 Ollama ausführen?

Ja. Die serienmäßige Konfiguration kann quantisierte Modelle mit 7B–8B Parametern (Llama 3, Mistral, Phi) problemlos für Chats, Programmierhilfe und Textanalyse ausführen. Mit einer über PCIe hinzugefügten GPU kannst du größere Modelle mit deutlich schnellerer Inferenz ausführen.

Q2: Hat der ZimaCube 2 einen PCIe-Steckplatz für eine GPU?

Ja. Der ZimaCube 2 verfügt über einen PCIe-Erweiterungssteckplatz, der Standard-GPUs, KI-Beschleuniger, zusätzliche Speicherkarten und Netzwerkkarten unterstützt. Keine proprietären Formfaktoren und keine Herstellerbindung.

Q3: Was kann ich mit lokaler KI auf einem NAS machen?

Lokale KI auf einem NAS ermöglicht private Chat-Assistenten, KI-gestütztes Programmieren (mit Tools wie Continue.dev), Dokumentenanalyse mit RAG-Pipelines, automatisierte Textverarbeitung und -klassifizierung, Bildanalyse und Experimente ohne Cloud-API-Kosten.

Q4: Wie viele NVMe-Steckplätze hat der ZimaCube 2?

Das System hat 4× M.2-NVMe-Steckplätze sowie einen zusätzlichen NVMe-Steckplatz auf dem Mainboard (ursprünglich für das Betriebssystemlaufwerk vorgesehen), der für gespiegelte Betriebssystemlaufwerke, dedizierten Docker-Speicher oder Caching-Ebenen genutzt werden kann.

Q5: Kann ich den Arbeitsspeicher später aufrüsten?

Ja. Der ZimaCube 2 verwendet standardmäßigen SODIMM-DDR5-RAM, der vom Nutzer ausgetauscht werden kann. Die serienmäßige 8-GB-Konfiguration bewältigt Container-Workloads problemlos. Bei steigendem Bedarf kannst du den Arbeitsspeicher aufrüsten.

Q6: Kann der ZimaCube 2 eine GPU thermisch bewältigen?

Ja. Das Metallgehäuse, das durchdachte Luftstromdesign und die Anordnung der internen Komponenten unterstützen die Kühlung von PCIe-Karten. Das System bewältigt Dauerlasten und bleibt dabei kühl. Das Kühldesign bietet Reserven für Erweiterungen.