Lokale AI op de ZimaCube 2 — PCIe-uitbreiding, Ollama en je homelab klaarstomen voor de toekomst

Eva Wong is de technisch schrijver en vaste knutselaar bij ZimaSpace. Als levenslange geek met een passie voor homelabs en open-sourcesoftwareis ze gespecialiseerd in het vertalen van complexe technische concepten naar toegankelijke, praktische handleidingen. Eva vindt dat self-hosting leuk moet zijn en niet intimiderend. Met haar tutorials helpt ze de community om hardware-installaties te doorgronden, van het bouwen van hun eerste NAS tot het beheersen van Docker-containers.

💡 Community in de schijnwerpers: Michael Luckenbill, ZimaCube 2-pioniersprogramma

Toen ik de ZimaCube 2 voor het eerst opende, keek ik niet alleen naar wat hij vandaag kon doen. Ik keek naar wat hij morgen kon worden.

Binnenin vond ik naast de verwachte hardware iets waar ik echt enthousiast van werd: een Kingston NVMe-schijf van 256GB voor het besturingssysteem — en een extra, ongebruikt NVMe-slot op het moederbord. In combinatie met het PCIe-uitbreidingsslot aan de achterkant was dit niet zomaar een NAS. Het was een platform dat ontworpen was om mee te groeien.

Vooraanzicht van de ZimaCube 2: 6 SATA-schijfposities, USB-A- en USB-C-poorten aan de voorkant, ingebouwd M.2 NVMe-slot

Meer dan opslag: een platform ontworpen voor uitbreiding

De ZimaCube 2 is klaar voor gebruik, maar het echte verhaal zit in wat je later kunt toevoegen:

Ingebouwd

  • 6 × SATA-schijfposities
  • 4 × M.2 NVMe-slots
  • 8GB DDR5 SODIMM
  • Twee 2,5Gb-ethernetpoorten
  • Metalen behuizing met actieve koeling

Uitbreidbaar

  • Extra NVMe-slot op het moederbord
  • PCIe-uitbreidingsslot (GPU/AI/opslag/netwerk)
  • Upgradable SODIMM DDR5-RAM
  • Standaard vervangbare componenten

Dit is een van de grootste sterke punten van het systeem: het groeit mee met je infrastructuurbehoeften. Je hoeft niet alles vooraf te kopen. Je begint met wat je nodig hebt en breidt uit wanneer je er klaar voor bent.

Lokale AI: waarom het belangrijk is voor homelabs

Een van mijn langetermijndoelen is om meer AI-workloads lokaal te draaien. Niet omdat cloud-AI slecht is — maar omdat lokale AI iets anders biedt:

  • Privacy — Je gegevens verlaten je netwerk nooit
  • Voorspelbare kosten — Geen prijs per token, geen API-rekeningen aan het einde van de maand
  • Vrijheid om te experimenteren — Probeer modellen uit, laat dingen misgaan en begin opnieuw — zonder je zorgen te maken over cloudkosten
  • Offline kunnen werken — AI die werkt wanneer je internetverbinding dat niet doet
  • Leren — Begrijpen hoe modellen echt werken door ze zelf te draaien

De ZimaCube 2 biedt me een platform waarop ik met dit alles kan experimenteren — Ollama voor lokale LLM's, AI-ondersteunde ontwikkelworkflows, beeldanalysepipelines, inferentieworkloads en zelfgehoste AI-tools — zonder volledig afhankelijk te zijn van cloudinfrastructuur.

Wat je vandaag kunt draaien (zonder GPU)

Zelfs zonder een aparte GPU biedt de ZimaCube 2 al een solide basis voor AI-experimenten:

🤖 Ollama en kleinere modellen — Het standaardsysteem kan comfortabel gequantiseerde modellen met 7B–8B parameters uitvoeren. Denk aan modellen uit de Llama 3-, Mistral- en Phi-klasse voor chatten, codehulp en tekstanalyse.
💻 AI-ondersteunde ontwikkeling — Combineer Ollama met tools zoals Continue.dev of Cody en je hebt een lokale AI-codeerassistent die volledig offline werkt. Geen API-sleutels, geen gebruikslimieten en geen zorgen over privacy.
📄 Documentanalyse en RAG — Met de ZFS-opslagpools kun je lokale RAG-pipelines (Retrieval Augmented Generation) bouwen: voer je documenten, notities en datasets in een lokale vectordatabase in en doorzoek ze met een LLM dat op dezelfde machine draait.
🎁 Automatisering en scripting — Lokale LLM's zijn uitstekend in gestructureerde taken, zoals classificeren, samenvatten en informatie extraheren. Koppel Ollama aan je bestaande Docker-workflows en automatiseer tekstverwerkingsprocessen waarvoor je eerder cloud-API's nodig had.
Interne hardware-indeling van de ZimaCube 2, passieve CPU-koelplaat, PCIe-uitbreidingssleuf en ingebouwde NVMe-sleuven

Het GPU-upgradepad

Op de lange termijn wordt het pas echt interessant bij de PCIe-uitbreidingssleuf. Voeg een GPU toe — zelfs een bescheiden exemplaar — en de ZimaCube 2 wordt een volwaardige lokale AI-server:

  • Grotere modellen — Voer modellen met 13B–34B parameters uit met GPU-offloading
  • Snellere inferentie — 10–50× sneller tokens genereren
  • Mediatranscodering — Hardwareversnelde Plex-/Jellyfin-transcodering
  • Afbeeldingen genereren — Stable Diffusion en vergelijkbare modellen
  • Meerdere modellen tegelijk aanbieden — Voer tegelijkertijd verschillende modellen uit voor verschillende taken
🔌 De sleuf ondersteunt standaard PCIe-kaarten — geen eigen form factors, geen vendor lock-in. Jij kiest de GPU die bij je behoeften en budget past.

Waarom deze architectuur ertoe doet

Moderne homelabs overlappen steeds vaker met AI-workloads, lokale inferentie, mediatranscodering, containerorkestratie en edge computing.

De ZimaCube 2 lijkt ontworpen met die toekomst in gedachten. Het is geen afgesloten apparaat waarbij je een nieuwe moet kopen zodra je behoeften veranderen. Het is een platform dat zegt: "hier heb je wat je nu nodig hebt, en hier is ruimte voor wat je later wilt."

Voor mij is dat het verschil tussen een gadget en infrastructuur.

De thermische realiteit: kan het een GPU aan?

Een logische vraag: kan een compact, stil systeem een GPU thermisch gezien echt aan?

Het antwoord hangt af van de GPU, maar de basis is solide:

  • De metalen behuizing fungeert als koellichaam
  • Het luchtstroomontwerp is doordacht (geen bijzaak)
  • De interne componentindeling laat ruimte voor de benodigde luchtstroom rond een PCIe-kaart

Het systeem kan Docker-, ZFS- en netwerkworkloads continu aan en blijft daarbij koel aanvoelen. Het thermische ontwerp biedt ruimte.

Veelgestelde vragen

V1: Kan de ZimaCube 2 Ollama draaien?

Ja. De standaardconfiguratie kan gekwantiseerde modellen met 7B–8B parameters (Llama 3, Mistral, Phi) moeiteloos uitvoeren voor chat, programmeerhulp en tekstanalyse. Met een via PCIe toegevoegde GPU kun je grotere modellen uitvoeren met aanzienlijk snellere inferentie.

V2: Heeft de ZimaCube 2 een PCIe-slot voor een GPU?

Ja. De ZimaCube 2 heeft een PCIe-uitbreidingsslot dat standaard-GPU's, AI-versnellers, extra opslagkaarten en netwerkkaarten ondersteunt. Geen propriëtaire formaten of vendor lock-in.

V3: Wat kan ik doen met lokale AI op een NAS?

Lokale AI op een NAS maakt privéchatassistenten, AI-ondersteund programmeren (met tools zoals Continue.dev), documentanalyse met RAG-pipelines, geautomatiseerde tekstverwerking en -classificatie, beeldanalyse en experimenteren zonder cloud-API-kosten mogelijk.

V4: Hoeveel NVMe-slots heeft de ZimaCube 2?

Het systeem heeft 4× M.2 NVMe-slots plus een extra NVMe-slot op het moederbord (waarin oorspronkelijk de OS-schijf zat). Dit slot kan worden gebruikt voor gespiegelde OS-schijven, speciale Docker-opslag of cachelagen.

V5: Kan ik het RAM later upgraden?

Ja. De ZimaCube 2 gebruikt standaard SODIMM DDR5-RAM, dat door de gebruiker kan worden vervangen. De standaardconfiguratie van 8 GB kan containerworkloads prima aan, en je kunt upgraden wanneer je behoeften toenemen.

V6: Kan de ZimaCube 2 een GPU thermisch gezien aan?

Ja. De metalen behuizing, het doordachte luchtstroomontwerp en de interne componentindeling ondersteunen de luchtstroom rond PCIe-kaarten. Het systeem kan continu worden belast en blijft koel, en het thermische ontwerp biedt ruimte voor uitbreiding.

Zima-campagnehub

Meer om te lezen

Get More Builds Like This

Stay in the Loop

Get updates from Zima - new products, exclusive deals, and real builds from the community.

Stay in the Loop preferences

We respect your inbox. Unsubscribe anytime.