Can the ZimaCube 2 run Ollama?

Yes. The stock configuration can run quantized 7B–8B parameter models (Llama 3, Mistral, Phi) comfortably for chat, code assistance, and text analysis. With a GPU added via PCIe, you can run larger models with significantly faster inference.

Does the ZimaCube 2 have a PCIe slot for a GPU?

Yes. The ZimaCube 2 includes a PCIe expansion slot that supports standard GPUs, AI accelerators, additional storage cards, and networking cards. No proprietary form factors or vendor lock-in.

What can I do with local AI on a NAS?

Local AI on a NAS enables private chat assistants, AI-assisted coding (with tools like Continue.dev), document analysis with RAG pipelines, automated text processing and classification, image analysis, and experimentation without cloud API costs.

How many NVMe slots does the ZimaCube 2 have?

The system has 4× M.2 NVMe slots plus an additional NVMe slot on the motherboard (originally holding the OS drive), which can be used for mirrored OS drives, dedicated Docker storage, or caching layers.

Can I upgrade the RAM later?

Yes. The ZimaCube 2 uses standard SODIMM DDR5 RAM, which is user-replaceable. The stock 8GB configuration handles container workloads well, and you can upgrade when your needs grow.

Is the ZimaCube 2 thermally capable of handling a GPU?

Yes. The metal chassis, intentional airflow design, and internal component layout support PCIe card airflow. The system handles continuous workloads while staying cool, and the thermal design has headroom for expansion.

Lokalna sztuczna inteligencja na ZimaCube 2 — rozszerzenie PCIe, Ollama i zabezpieczenie przyszłości Twojego homelabu

Eva Wong

IceWhale author

Eva Wong jest Technicznym pisarzem i stałym majsterkowiczem w ZimaSpace. Całe życie geek z pasją do homelabów i oprogramowania open-source, specjalizuje się w tłumaczeniu skomplikowanych koncepcji technicznych na przystępne, praktyczne przewodniki. Eva wierzy, że samodzielne hostowanie powinno być zabawą, a nie czymś onieśmielającym. Poprzez swoje samouczki umożliwia społeczności rozwiewanie tajemnic konfiguracji sprzętu, od budowy pierwszego NAS po opanowanie kontenerów Docker.

Local AI on the ZimaCube 2 — PCIe Expansion, Ollama, and Future-Proofing Your Homelab - Zima Store Online

💡 Spojrzenie społeczności: Michael Luckenbill, program pionierski ZimaCube 2

Kiedy otworzyłem ZimaCube 2 po raz pierwszy, nie patrzyłem tylko na to, co może zrobić dziś. Patrzyłem na to, czym może się stać jutro.

W środku, oprócz oczekiwanego sprzętu, znalazłem coś, co naprawdę mnie podekscytowało: 256GB dysk Kingston NVMe na system operacyjny — oraz dodatkowe, niewykorzystane gniazdo NVMe na płycie głównej. W połączeniu z gniazdem rozszerzeń PCIe z tyłu, to nie był tylko NAS. To była platforma zaprojektowana do rozwoju.

Widok przedniego panelu ZimaCube 2: 6 zatok na dyski SATA, przednie porty USB-A i USB-C, wbudowane gniazdo M.2 NVMe

Poza przechowywaniem: platforma zaprojektowana do rozbudowy

ZimaCube 2 jest gotowy do pracy od razu po wyjęciu z pudełka, ale prawdziwa historia zaczyna się od tego, co możesz dodać później:

Wbudowane

6 × zatoki SATA
4 × gniazda M.2 NVMe
8GB DDR5 SODIMM
Podwójny Ethernet 2,5 Gb
Metalowa obudowa z aktywnym chłodzeniem

Możliwość rozbudowy

Dodatkowe gniazdo NVMe na płycie głównej
Gniazdo rozszerzeń PCIe (GPU/AI/Storage/Networking)
Możliwa do rozbudowy pamięć SODIMM DDR5 RAM
Standardowe wymienne komponenty

To jedna z największych zalet systemu: rośnie wraz z Twoimi potrzebami infrastruktury. Nie musisz kupować wszystkiego od razu. Zaczynasz od tego, czego potrzebujesz, i rozbudowujesz, gdy jesteś gotowy.

Lokalne AI: Dlaczego jest ważne dla homelabów

Jednym z moich długoterminowych celów jest uruchamianie większej liczby zadań AI lokalnie. Nie dlatego, że AI w chmurze jest złe — ale dlatego, że lokalne AI daje coś innego:

Prywatność — Twoje dane nigdy nie opuszczają Twojej sieci
Przewidywalność kosztów — Brak opłat za tokeny, brak rachunków API na koniec miesiąca
Wolność eksperymentowania — Wypróbowuj modele, psuj je, zaczynaj od nowa — bez obaw o koszty chmury
Możliwość pracy offline — AI działające, gdy nie masz dostępu do internetu
Nauka — Zrozumienie, jak modele faktycznie działają, poprzez ich samodzielne uruchamianie

ZimaCube 2 daje mi platformę, na której mogę eksperymentować ze wszystkim — Ollama dla lokalnych LLM, przepływami pracy wspomaganymi przez AI, pipeline’ami analizy obrazów, zadaniami inferencyjnymi i narzędziami AI hostowanymi lokalnie — bez całkowitego polegania na infrastrukturze chmurowej.

Featured

ZimaCube 2 Osobisty domowy NAS w chmurze

ZimaCube2

Co możesz uruchomić już dziś (bez GPU)

Nawet zanim dodasz dedykowaną kartę graficzną, ZimaCube 2 już zapewnia solidne podstawy do eksperymentów z AI:

🤖 Ollama + mniejsze modele — System fabryczny komfortowo uruchamia skwantowane modele o parametrach 7B–8B. Myśl o modelach Llama 3, Mistral i Phi do czatu, pomocy w kodowaniu i analizy tekstu.

💻 Wsparcie AI w programowaniu — Połącz Ollamę z narzędziami takimi jak Continue.dev lub Cody, a otrzymasz lokalnego asystenta kodowania AI działającego całkowicie offline. Bez kluczy API, limitów użycia i obaw o prywatność.

📄 Analiza dokumentów i RAG — Dzięki pulom pamięci ZFS możesz budować lokalne pipeline’y RAG (Retrieval Augmented Generation) — wprowadzaj swoje dokumenty, notatki i zestawy danych do lokalnej bazy wektorowej i zadawaj pytania LLM działającemu na tym samym urządzeniu.

🎁 Automatyzacja i skrypty — Lokalne LLM świetnie radzą sobie ze zorganizowanymi zadaniami — klasyfikacją, streszczaniem, ekstrakcją. Podłącz Ollamę do swoich istniejących workflowów Docker i automatyzuj przetwarzanie tekstu, które wcześniej wymagało chmurowych API.

Wewnętrzny układ sprzętowy ZimaCube 2, pasywny radiator CPU, gniazdo rozszerzeń PCIe i wbudowane gniazda NVMe

Ścieżka aktualizacji GPU

Gniazdo rozszerzeń PCIe to miejsce, gdzie na dłuższą metę dzieje się najwięcej. Dodanie GPU — nawet skromnego — przekształca ZimaCube 2 w prawdziwy lokalny serwer AI:

Większe modele — Uruchamiaj modele o parametrach 13B–34B z odciążeniem GPU
Szybsze wnioskowanie — Przyspieszenie generowania tokenów 10–50×
Transkodowanie mediów — Sprzętowe przyspieszenie transkodowania Plex/Jellyfin
Generowanie obrazów — Stable Diffusion i podobne modele
Obsługa wielu modeli — Uruchamiaj różne modele do różnych zadań jednocześnie

🔌 Gniazdo obsługuje standardowe karty PCIe — bez własnościowych formatów, bez uzależnienia od dostawcy. Wybierasz GPU, które odpowiada Twoim potrzebom i budżetowi.

Dlaczego ta architektura ma znaczenie

Nowoczesne homelaby coraz częściej łączą się z zadaniami AI, lokalnym wnioskowaniem, transkodowaniem mediów, orkiestracją kontenerów i edge computingiem.

ZimaCube 2 wydaje się zaprojektowany z myślą o tej przyszłości. To nie jest zamknięte urządzenie, które wymaga kupna nowego, gdy zmienią się potrzeby. To platforma, która mówi "oto, czego potrzebujesz teraz, a tu jest miejsce na to, czego będziesz chciał później."

Dla mnie to różnica między gadżetem a infrastrukturą.

Sprawdzenie termiczne: Czy poradzi sobie z GPU?

Naturalne pytanie: czy kompaktowy, cichy system faktycznie poradzi sobie termicznie z GPU?

Odpowiedź zależy od GPU, ale podstawy są solidne:

Metalowa obudowa działa jak radiator
Projekt przepływu powietrza jest celowy (nie jest to dodatek)
Układ wewnętrznych komponentów pozostawia miejsce na potrzeby przepływu powietrza karty PCIe

System już radzi sobie z ciągłymi obciążeniami Dockera, ZFS i sieci, pozostając chłodnym w dotyku. Projekt termiczny ma zapas.

Najczęściej zadawane pytania

P1: Czy ZimaCube 2 może uruchomić Ollama?

Tak. Standardowa konfiguracja może komfortowo uruchamiać skwantowane modele 7B–8B parametrów (Llama 3, Mistral, Phi) do czatu, pomocy w kodowaniu i analizy tekstu. Po dodaniu GPU przez PCIe można uruchamiać większe modele z dużo szybszym wnioskowaniem.

P2: Czy ZimaCube 2 ma gniazdo PCIe na GPU?

Tak. ZimaCube 2 ma gniazdo rozszerzeń PCIe, które obsługuje standardowe GPU, akceleratory AI, dodatkowe karty pamięci i karty sieciowe. Brak własnościowych formatów ani blokady dostawcy.

P3: Co mogę zrobić z lokalną AI na NAS?

Lokalna sztuczna inteligencja na NAS umożliwia prywatnych asystentów czatu, wspomagane AI kodowanie (z narzędziami takimi jak Continue.dev), analizę dokumentów z użyciem pipeline’ów RAG, automatyczne przetwarzanie i klasyfikację tekstu, analizę obrazów oraz eksperymenty bez kosztów API w chmurze.

P4: Ile gniazd NVMe ma ZimaCube 2?

System ma 4× gniazda M.2 NVMe oraz dodatkowe gniazdo NVMe na płycie głównej (pierwotnie na dysk systemowy), które można wykorzystać na lustrzane dyski systemowe, dedykowaną pamięć dla Dockera lub warstwy cache.

P5: Czy mogę później rozbudować pamięć RAM?

Tak. ZimaCube 2 używa standardowej pamięci SODIMM DDR5, którą użytkownik może wymienić. Standardowa konfiguracja 8GB dobrze radzi sobie z obciążeniami kontenerów, a pamięć można rozbudować, gdy potrzeby wzrosną.

P6: Czy ZimaCube 2 jest termicznie zdolny do obsługi GPU?

Tak. Metalowa obudowa, celowy projekt przepływu powietrza oraz układ wewnętrznych komponentów wspierają przepływ powietrza przez kartę PCIe. System radzi sobie z ciągłymi obciążeniami, pozostając chłodnym, a projekt termiczny ma zapas na rozbudowę.