Does the ZimaCube 2 PCIe slot provide enough power for a GPU?

Yes — for slot-powered cards up to 75W. The Intel Arc Pro B50 (50W TDP) and similar low-power GPUs run entirely off PCIe slot power. The ZimaCube 2 PCIe slots do not route auxiliary power cables, so you need to choose a card that does not require them. The B50, NVIDIA RTX A2000, and Intel Arc A310/A380 are all viable options.

What GPU would you recommend for the ZimaCube 2?

For AI inference specifically, prioritize VRAM over compute. The Intel Arc Pro B50 (16GB) and NVIDIA RTX A2000 (12GB) are the best slot-powered options currently available. For media transcoding only, the Intel Arc A310 or A380 are cheaper and still provide hardware AV1 encoding. Avoid any GPU that requires a 6-pin or 8-pin power connector.

Can I run a ZimaCube 2 with a GPU 24/7 without thermal issues?

Yes. The ZimaCube 2 thermal design separates the CPU/PCIe zone from the drive zone. The Arc Pro B50 is a 50W card — it does not generate enough heat to overwhelm the chassis. Under sustained inference load, GPU temperatures stay within normal operating range without additional cooling modifications.

Can the ZimaCube 2 run both shared storage and AI workloads at the same time?

Yes. The original build described here uses the ZimaCube 2 as both the Proxmox cluster NFS/ZFS storage backend and a local AI inference server with llama.cpp and OpenClaw. The GPU VRAM handles model weights independently of system memory, and the NVMe storage pools ensure VM I/O is not bottlenecked by inference workloads.

What is the largest model I can run on a 16GB GPU in the ZimaCube 2?

A 16GB GPU like the Intel Arc Pro B50 can comfortably run quantized 13B–14B parameter models (Q5_K_M or Q4_K_M quants) with 4K–8K context windows, or 20B–34B models at lower quantization levels. For most self-hosted AI use cases — code assistance, document summarization, home automation NLP — a well-tuned 13B model with good quantization is the sweet spot.

Jag satte in ett Intel Arc-grafikkort i ZimaCube 2 — Lokal AI utan en enda extra kabel

Eva Wong

IceWhale author

Eva Wong är Teknisk skribent och den boende fixaren på ZimaSpace. En livslång nörd med en passion för hemma-labb och öppen källkod, hon specialiserar sig på att översätta komplexa tekniska koncept till tillgängliga, praktiska guider. Eva tror att självhosting ska vara roligt, inte skrämmande. Genom sina handledningar ger hon gemenskapen verktyg att avmystifiera hårdvaruinstallationer, från att bygga sin första NAS till att bemästra Docker-containrar.

I Put an Intel Arc GPU in the ZimaCube 2 — Local AI Without a Single Extra Cable - Zima Store Online

Jag köpte inte ZimaCube 2 för AI. Jag köpte den som lagringsbackend för min Proxmox-kluster.

Men sedan märkte jag PCIe x16-platsen. Och att den drivs helt av moderkortets ström — inga 6-pin, inga 8-pin, inga adaptrar. Bara platskraft. Det förändrade kalkylen.

En Intel Arc Pro B50 senare kör ZimaCube 2 nu llama.cpp och OpenClaw för lokal inferens — samtidigt som den fungerar som klustrets delade lagringshjärna. Här är hela historien: varför jag valde B50, hur installationen gick, vad ZimaOS Beta tillförde och vad detta betyder för alla som överväger en GPU-uppgradering på ZimaCube 2.

Varför Intel Arc Pro B50

Att välja en GPU för en kompakt NAS är inte som att välja en för en speldator. Du har tre hårda begränsningar:

Endast platskraft. ZimaCube 2:s PCIe-platser har inga extra strömkablar. GPU:n måste drivas helt av moderkortet — max 75W.
Lågprofil eller enkelplats. Chassit är 240 × 221 × 220 mm. Ett fullhöjdskort med dubbla platser får inte plats fysiskt.
Tyst och sval. Den här körs dygnet runt i ett vardagsrum. Inga fläktar, ingen termisk nedtrappning vid vila.

Intel Arc Pro B50 uppfyllde alla krav:

Krav	Arc Pro B50
Endast platskraft	✅ 50W TDP — drivs helt från PCIe-platsen (inga kablar)
Lågprofil	✅ Enkelplats, lågprofilsfäste ingår
VRAM för AI	✅ 16GB GDDR6 — tillräckligt för 13B–20B parameter-modeller
AV1-kodning	✅ Maskinvaru-AV1-kodning/avkodning
Pris per VRAM	✅ Bäst VRAM per krona i sin klass

💡 16 GB VRAM är viktigt för lokal AI. Det är skillnaden mellan att köra en kvantiserad 7B-modell och att få plats med en fullständig 13B–14B-modell med kontext. Om du ska lägga till en GPU till en NAS specifikt för inferens, är VRAM-kapaciteten viktigare än rå beräkningskraft. B50 16GB till detta pris var det rätta valet.

Intel Arc B50 16GB PCIe GPU-grafikkort med enkel fläktkylare, flera skärmutgångar för lokal AI-inferens på NAS

Installationen: En plats, inga kablar, klart

Den fysiska installationen tog mindre än tio minuter.

Öppna toppanelen – PCIe-slotterna är precis där, inga hårddiskburar att ta hänsyn till. B50 glider in i x16-slotten. Halvhöjdsfästet linjerar med bakre öppningen. Dra åt en skruv. Stäng panelen. Klart.

Inga strömkablar. Inga adapterdonglar. Inga kablar som trängs in på platser där de inte får plats. ZimaCube 2:s PCIe-implementering är verkligen ren – slotten är placerad med tillräckligt med utrymme ovanför hårddiskfacken så att även ett dubbelslottskort inte skulle störa lagringen.

Detta är inte självklart på kompakt NAS-hårdvara. De flesta enheter i denna formfaktor har inte ens PCIe. De som har det placerar ofta slotten på sådana positioner att det begränsar vad du faktiskt kan installera. IceWhale fick layouten rätt här.

ZimaOS Beta: Inbyggt stöd för Arc-drivrutin

Jag planerade att radera ZimaOS och installera Ubuntu Server. Sedan kontaktade IceWhale mig med en ZimaOS Beta-version som inkluderar inbyggt stöd för Intel Arc GPU-drivrutin.

🎁 Detta är värt att lyfta fram: IceWhale skickar aktivt Beta-versioner till testare i Pioneer-programmet som svar på feedback från communityn. Arc-drivrutinsintegrationen fanns inte med i den ursprungliga planen – det hände för att användare efterfrågade det. Den typen av lyhördhet är viktig när man bygger på en plattform.

Beta-versionen hanterar drivrutinsdetektering automatiskt. Vid första uppstart efter installation av B50 kände ZimaOS igen kortet, laddade Intel i915-drivrutinen med Arc-tillägg och exponerade det till Docker-runtime. Ingen kärnmodulkompilering. Inga GRUB-justeringar. Det fungerade bara.

Det jag kör: llama.cpp + OpenClaw

Med GPU:n igenkänd distribuerade jag två containers:

llama.cpp (GPU-accelererad inferens)

Modell: Mistral 13B Q5_K_M (får plats i ~12GB VRAM med 8K kontext)
Backend: Intel SYCL (Arc GPU)
Användningsområden: Kodgranskning, sammanfattning av dokumentation, lokal chatbot, naturlig språkbehandling för hemautomation

LLaMA C++ open source-ramverk för inferens av stora språkmodeller, logobanner på mörk bakgrund

OpenClaw (lokal AI-gateway)

Enhetlig API-endpunkt för flera lokala modeller
Rutter förfrågningar mellan llama.cpp och mindre CPU-baserade modeller
Ansluter till Home Assistant för röststyrda smarta hem-frågor

Prestandan är precis vad du kan förvänta dig av ett 50W-kort med en plats: inte en datacenter-GPU, men tillräckligt snabb för att vara verkligt användbar. Mistral 13B genererar ungefär 25–35 tokens per sekund – snabbare än läshastigheten, vilket är tröskeln som gör lokal AI responsiv snarare än frustrerande.

OpenClaw open source självhostad crawler-verktyg röd bug-maskotlogotyp med korallbakgrund

Behålla huvuduppgiften: Lagringsbackend + AI på en maskin

Det jag inte gjorde: Jag offrade inte ZimaCube 2:s ursprungliga syfte. Lagringspoolerna som betjänar Proxmox-klustret finns fortfarande kvar. ZFS snapshots körs fortfarande enligt schema. Docker-containrarna som driver infrastrukturen har inte flyttats.

Det som har förändrats är att ZimaCube 2 nu gör två saker samtidigt:

Lagringslager

4× HDD RAID-Z1 (bulkdata)
2× NVMe RAID 1 (VM-bilder)
1× NVMe SLOG/L2ARC (cache)
NFS-exporter till 3 Proxmox-noder
ZFS snapshot-automatisering

AI-lager

llama.cpp med Mistral 13B
OpenClaw AI-gateway
Kodgranskningsassistent
Dokumentsammanfattning
Home Assistant NLP-integration

De 40 GB RAM (8 GB standard + 32 GB uppgradering) delas upp: ungefär 24 GB för ZFS ARC, 8 GB för Docker-containrar och ZimaOS, och 8 GB kvar för systemets overhead. GPU:ns 16 GB VRAM hanterar modellvikter oberoende – den konkurrerar inte med systemminnet.

CPU-belastningen under inferens är minimal eftersom llama.cpp avlastar till GPU:n. Lagrings-I/O-prestanda påverkas inte eftersom NVMe-poolerna hanterar den aktiva datan, och GPU:n rör inte SATA-kontrollern.

Varför inte en separat AI-enhet?

Jag övervägde att bygga en dedikerad AI-nod. Det finns goda skäl att separera inferens från lagring – isolering, dedicerad strömbudget, oberoende omstartscykler. Men det finns ett övertygande skäl att inte göra det:

Du har redan en PCIe-plats.

Featured

ZimaCube 2 Personlig molnhem-NAS

ZimaCube2

ZimaCube 2 designades med expansion i åtanke. Om du ska köpa en enhet som inkluderar en PCIe x16-plats specifikt för framtida uppgraderingar, är det dyrare att inte använda den. En separat AI-enhet innebär en extra strömförsörjning, ett extra chassi, en extra nätverkslänk, en extra sak att hantera.

En maskin. Två roller. ZimaCube2 hanterar båda.

Lägg till en GPU i din ZimaCube 2 och börja köra lokal AI →

Vanliga frågor

Ger ZimaCube 2:s PCIe-plats tillräckligt med ström för en GPU?

Ja — för slot-drivna kort upp till 75W. Intel Arc Pro B50 (50W TDP) och liknande lågströms-GPU:er drivs helt via PCIe-slotten. ZimaCube 2:s PCIe-platser har inga extra strömkablar, så du måste välja ett kort som inte kräver sådana. B50, NVIDIA RTX A2000 och Intel Arc A310/A380 är alla gångbara alternativ.

Vilket GPU skulle du rekommendera för ZimaCube 2?

För AI-inferens specifikt, prioritera VRAM framför beräkningskraft. Intel Arc Pro B50 (16GB) och NVIDIA RTX A2000 (12GB) är de bästa slot-drivna alternativen som finns just nu. För enbart medietranskodning är Intel Arc A310 eller A380 billigare och erbjuder fortfarande hårdvaru-AV1-kodning. Undvik alla GPU:er som kräver 6-pin eller 8-pin strömkontakt.

Kan jag köra en ZimaCube 2 med GPU dygnet runt utan termiska problem?

Ja. ZimaCube 2:s termiska design separerar CPU/PCIe-zonen från enhetszonen. Arc Pro B50 är ett 50W-kort — det genererar inte tillräckligt med värme för att överbelasta chassit. Vid kontinuerlig inferensbelastning håller GPU-temperaturerna sig inom normal driftstemperatur utan extra kylmodifieringar.

Kan ZimaCube 2 köra både delad lagring och AI-arbetsbelastningar samtidigt?

Ja. Den ursprungliga konfigurationen som beskrivs här använder ZimaCube 2 både som Proxmox-klustrets NFS/ZFS-lagringsbackend och som en lokal AI-inferensserver med llama.cpp och OpenClaw. GPU:ns VRAM hanterar modellvikter oberoende av systemminnet, och NVMe-lagringspoolerna säkerställer att VM I/O inte blir en flaskhals vid inferensbelastning.

Vilken är den största modellen jag kan köra på ett 16GB GPU i ZimaCube 2?

Ett 16GB GPU som Intel Arc Pro B50 kan bekvämt köra kvantiserade 13B–14B parameter-modeller (Q5_K_M eller Q4_K_M kvant) med 4K–8K kontextfönster, eller 20B–34B modeller på lägre kvantiseringsnivåer. För de flesta självhostade AI-användningsfall — kodassistans, dokumentsammanfattning, hemautomation NLP — är en väloptimerad 13B-modell med bra kvantisering den perfekta balansen.