Can the ZimaCube 2 run Ollama?

Yes. The stock configuration can run quantized 7B–8B parameter models (Llama 3, Mistral, Phi) comfortably for chat, code assistance, and text analysis. With a GPU added via PCIe, you can run larger models with significantly faster inference.

Does the ZimaCube 2 have a PCIe slot for a GPU?

Yes. The ZimaCube 2 includes a PCIe expansion slot that supports standard GPUs, AI accelerators, additional storage cards, and networking cards. No proprietary form factors or vendor lock-in.

What can I do with local AI on a NAS?

Local AI on a NAS enables private chat assistants, AI-assisted coding (with tools like Continue.dev), document analysis with RAG pipelines, automated text processing and classification, image analysis, and experimentation without cloud API costs.

How many NVMe slots does the ZimaCube 2 have?

The system has 4× M.2 NVMe slots plus an additional NVMe slot on the motherboard (originally holding the OS drive), which can be used for mirrored OS drives, dedicated Docker storage, or caching layers.

Can I upgrade the RAM later?

Yes. The ZimaCube 2 uses standard SODIMM DDR5 RAM, which is user-replaceable. The stock 8GB configuration handles container workloads well, and you can upgrade when your needs grow.

Is the ZimaCube 2 thermally capable of handling a GPU?

Yes. The metal chassis, intentional airflow design, and internal component layout support PCIe card airflow. The system handles continuous workloads while staying cool, and the thermal design has headroom for expansion.

Lokal AI på ZimaCube 2 — PCIe-expansion, Ollama och framtidssäkring av ditt homelab

Eva Wong

IceWhale author

Eva Wong är teknisk skribent och fast boende fixare på ZimaSpace. En livslång nörd med en passion för hemma-labb och öppen källkod, hon specialiserar sig på att översätta komplexa tekniska koncept till tillgängliga, praktiska guider. Eva anser att självhosting ska vara roligt, inte skrämmande. Genom sina handledningar ger hon gemenskapen verktygen att avmystifiera hårdvaruinstallationer, från att bygga sin första NAS till att bemästra Docker-containrar.

ZimaCube 2 compact silver NAS sitting on living room TV cabinet, minimalist homelab storage & local AI server

💡 Community Spotlight: Michael Luckenbill, ZimaCube 2 Pioneer Program

När jag öppnade ZimaCube 2 för första gången tittade jag inte bara på vad den kunde göra idag. Jag tittade på vad den kunde bli imorgon.

Inuti, tillsammans med den förväntade hårdvaran, hittade jag något som verkligen gjorde mig exalterad: en 256GB Kingston NVMe-enhet för operativsystemet — och en extra oanvänd NVMe-plats på moderkortet. Tillsammans med PCIe-expansionsplatsen på baksidan var detta inte bara en NAS. Det var en plattform designad för att växa.

ZimaCube 2 frontpanel: 6 SATA-enhetsplatser, front-USB-A och USB-C-portar, inbyggd M.2 NVMe-plats

Mer än lagring: En plattform designad för expansion

ZimaCube 2 levereras redo att användas, men den verkliga historien är vad du kan lägga till senare:

Inbyggd

6 × SATA-bay
4 × M.2 NVMe-platser
8GB DDR5 SODIMM
Dubbel 2,5Gb Ethernet
Metallchassi med aktiv kylning

Utbyggbar

Extra NVMe-plats på moderkortet
PCIe expansionsplats (GPU/AI/Lagring/Nätverk)
Uppgraderbart SODIMM DDR5 RAM
Standardutbytbara komponenter

Det här är en av systemets största styrkor: det växer med dina infrastrukturbehov. Du behöver inte köpa allt på en gång. Du börjar med det du behöver och utökar när du är redo.

Lokal AI: Varför det är viktigt för hemmaprojekt

Ett av mina långsiktiga mål är att köra fler AI-arbetsbelastningar lokalt. Inte för att moln-AI är dåligt — utan för att lokal AI ger dig något annat:

Integritet — Dina data lämnar aldrig ditt nätverk
Kostnadspålitlighet — Ingen prissättning per token, inga API-räkningar i slutet av månaden
Frihet att experimentera — Testa modeller, sabba saker, börja om — utan att oroa dig för molnkostnader
Offline-funktionalitet — AI som fungerar när din internetuppkoppling inte gör det
Lärande — Förstå hur modeller faktiskt fungerar genom att köra dem själv

ZimaCube 2 ger mig en plattform där jag kan experimentera med allt detta — Ollama för lokala LLM, AI-assisterade utvecklingsarbetsflöden, bildanalysprocesser, inferensarbetsbelastningar och självhostade AI-verktyg — utan att vara helt beroende av molninfrastruktur.

Featured

ZimaCube 2 Personlig molnhem-NAS

ZimaCube2

Vad du kan köra idag (utan GPU)

Redan innan du lägger till ett dedikerat GPU ger ZimaCube 2 en stark grund för AI-experiment:

🤖 Ollama + mindre modeller — Systemet i standardutförande kan bekvämt köra kvantiserade 7B–8B parameter-modeller. Tänk Llama 3, Mistral och Phi-klassmodeller för chatt, kodhjälp och textanalys.

💻 AI-assisterad utveckling — Kombinera Ollama med verktyg som Continue.dev eller Cody, och du får en lokal AI-kodningsassistent som fungerar helt offline. Inga API-nycklar, inga användningsbegränsningar, inga integritetsproblem.

📄 Dokumentanalys & RAG — Med ZFS-lagringspooler kan du bygga lokala RAG (Retrieval Augmented Generation)-pipelines — mata in dina dokument, anteckningar och dataset i en lokal vektordatabas och fråga dem med en LLM som körs på samma maskin.

🎁 Automation & skriptning — Lokala LLM:er är utmärkta på strukturerade uppgifter — klassificering, sammanfattning, extraktion. Koppla Ollama till dina befintliga Docker-arbetsflöden och automatisera textbearbetningspipelines som tidigare krävde moln-API:er.

ZimaCube 2 intern hårdvarulayout, passiv CPU-kylare, PCIe-expansionsslot och inbyggda NVMe-platser

GPU-uppgraderingsvägen

PCIe-expansionsslotten är där det blir intressant på lång sikt. Att lägga till en GPU — även en modest sådan — förvandlar ZimaCube 2 till en äkta lokal AI-server:

Större modeller — Kör 13B–34B parameter-modeller med GPU-avlastning
Snabbare inferens — 10–50× snabbare token-generering
Medietranskodning — Hårdvaruaccelererad Plex/Jellyfin-transkodning
Bildgenerering — Stable Diffusion och liknande modeller
Multi-modellservering — Kör olika modeller för olika uppgifter samtidigt

🔌 Slotten stöder standard PCIe-kort — inga proprietära formfaktorer, inget leverantörslås. Du väljer den GPU som passar dina behov och din budget.

Varför denna arkitektur är viktig

Moderna homelabs överlappar allt mer med AI-arbetsbelastningar, lokal inferens, medietranskodning, containerorkestrering och edge computing.

ZimaCube 2 känns designad med den framtiden i åtanke. Det är inte en sluten apparat som förväntar sig att du köper en ny när dina behov förändras. Det är en plattform som säger "här är vad du behöver nu, här finns utrymme för vad du kommer vilja ha senare."

För mig är det skillnaden mellan en pryl och infrastruktur.

Termisk verklighetskontroll: Kan det hantera en GPU?

En naturlig fråga: kan ett kompakt, tyst system faktiskt hantera en GPU termiskt?

Svaret beror på GPU:n, men grunderna är solida:

Det metallchassit fungerar som en kylfläns
Luftflödesdesignen är avsiktlig (inte en eftertanke)
Den interna komponentlayouten lämnar utrymme för PCIe-kortets luftflödesbehov

Systemet hanterar redan kontinuerliga Docker-, ZFS- och nätverksarbetsbelastningar samtidigt som det är svalt vid beröring. Den termiska designen har marginal.

Vanliga frågor

Q1: Kan ZimaCube 2 köra Ollama?

Ja. Standardkonfigurationen kan köra kvantiserade 7B–8B parameter-modeller (Llama 3, Mistral, Phi) bekvämt för chatt, kodassistans och textanalys. Med en GPU tillagd via PCIe kan du köra större modeller med betydligt snabbare inferens.

Q2: Har ZimaCube 2 en PCIe-plats för en GPU?

Ja. ZimaCube 2 inkluderar en PCIe-expansionsplats som stödjer standard-GPU:er, AI-acceleratorer, extra lagringskort och nätverkskort. Inga proprietära formfaktorer eller leverantörslåsningar.

Q3: Vad kan jag göra med lokal AI på en NAS?

Lokal AI på en NAS möjliggör privata chattassistenter, AI-assisterad kodning (med verktyg som Continue.dev), dokumentanalys med RAG-pipelines, automatiserad textbearbetning och klassificering, bildanalys och experiment utan kostnader för moln-API:er.

Q4: Hur många NVMe-platser har ZimaCube 2?

Systemet har 4× M.2 NVMe-platser plus en extra NVMe-plats på moderkortet (som ursprungligen håller OS-enheten), vilken kan användas för speglade OS-enheter, dedikerad Docker-lagring eller cachelager.

Q5: Kan jag uppgradera RAM senare?

Ja. ZimaCube 2 använder standard SODIMM DDR5 RAM, som kan bytas ut av användaren. Den standardmässiga 8GB-konfigurationen hanterar containerarbetsbelastningar väl, och du kan uppgradera när dina behov växer.

Q6: Är ZimaCube 2 termiskt kapabel att hantera ett GPU?

Ja. Metallchassit, den avsiktliga luftflödesdesignen och den interna komponentlayouten stödjer luftflödet för PCIe-kort. Systemet hanterar kontinuerliga arbetsbelastningar samtidigt som det håller sig svalt, och den termiska designen har marginal för expansion.