Lokalna AI na ZimaCube 2 — rozbudowa PCIe, Ollama i przygotowanie domowego laboratorium na przyszłość

Eva Wong jest redaktorką techniczną i rezydentką majsterkowania w ZimaSpace. Jest geekiem od zawsze, z pasją do domowych laboratoriów i oprogramowania open source, a jej specjalnością jest przekładanie złożonych zagadnień technicznych na przystępne, praktyczne poradniki. Eva wierzy, że samodzielne hostowanie powinno sprawiać radość, a nie onieśmielać. Dzięki swoim samouczkom pomaga społeczności oswoić konfigurację sprzętu, od budowy pierwszego serwera NAS po opanowanie kontenerów Docker.

💡 Wyróżnienie społeczności: Michael Luckenbill, program pionierów ZimaCube 2

Gdy po raz pierwszy otworzyłem ZimaCube 2, nie patrzyłem tylko na to, co może dziś. Patrzyłem na to, czym może się stać jutro.

W środku, obok oczekiwanych podzespołów, znalazłem coś, co naprawdę mnie ucieszyło: dysk NVMe Kingston o pojemności 256 GB na system operacyjny — oraz dodatkowe, niewykorzystane gniazdo NVMe na płycie głównej. W połączeniu z gniazdem rozszerzeń PCIe z tyłu urządzenia oznaczało to, że nie był to po prostu NAS. Była to platforma zaprojektowana z myślą o rozbudowie.

Widok przedniego panelu ZimaCube 2: 6 zatok na dyski SATA, przednie porty USB-A i USB-C, wbudowane gniazdo NVMe M.2

Więcej niż pamięć masowa: platforma zaprojektowana z myślą o rozbudowie

ZimaCube 2 jest gotowy do użycia, ale prawdziwa historia zaczyna się od tego, co możesz dodać później:

Wbudowane

  • 6 × zatok SATA
  • 4 × M.2 NVMe
  • 8 GB DDR5 SODIMM
  • Dwa porty Ethernet 2,5 Gb
  • Metalowa obudowa z aktywnym chłodzeniem

Możliwość rozbudowy

  • Dodatkowe gniazdo NVMe na płycie głównej
  • Gniazdo rozszerzeń PCIe (GPU/AI/pamięć masowa/sieć)
  • Możliwość rozbudowy pamięci RAM SODIMM DDR5
  • Standardowe wymienne podzespoły

To jedna z największych zalet tego systemu: rośnie wraz z potrzebami Twojej infrastruktury. Nie musisz kupować wszystkiego od razu. Zacznij od tego, czego potrzebujesz, i rozbuduj system, gdy będziesz na to gotowy.

Lokalna AI: dlaczego ma znaczenie w domowych laboratoriach

Jednym z moich długoterminowych celów jest uruchamianie większej liczby zadań AI lokalnie. Nie dlatego, że chmurowa AI jest zła — ale dlatego, że lokalna AI daje coś innego:

  • Prywatność — Twoje dane nigdy nie opuszczają Twojej sieci
  • Przewidywalne koszty — Bez opłat za tokeny i rachunków API na koniec miesiąca
  • Swoboda eksperymentowania — Wypróbuj modele, zepsuj coś, zacznij od nowa — bez obaw o koszty chmury
  • Możliwość pracy offline — AI, które działa, gdy nie masz dostępu do internetu
  • Nauka — Zrozumienie, jak naprawdę działają modele, dzięki samodzielnemu ich uruchamianiu

ZimaCube 2 daje mi platformę, na której mogę eksperymentować z tym wszystkim — Ollama do lokalnych modeli LLM, przepływami pracy wspomaganymi przez AI, potokami analizy obrazów, zadaniami wnioskowania i narzędziami AI hostowanymi samodzielnie — bez całkowitego uzależnienia od infrastruktury chmurowej.

Co możesz dziś uruchomić (bez GPU)

Nawet bez dedykowanej karty GPU ZimaCube 2 stanowi solidną podstawę do eksperymentowania ze sztuczną inteligencją:

🤖 Ollama i mniejsze modele — Standardowy system bez problemu obsługuje skwantyzowane modele o 7–8 mld parametrów. Na przykład modele z rodziny Llama 3, Mistral i Phi do czatu, pomocy w programowaniu i analizy tekstu.
💻 Tworzenie oprogramowania wspomagane przez AI — Połącz Ollamę z narzędziami takimi jak Continue.dev lub Cody, a otrzymasz lokalnego asystenta programowania AI, który działa całkowicie offline. Bez kluczy API, limitów użycia i obaw o prywatność.
📄 Analiza dokumentów i RAG — Dzięki pulom pamięci masowej ZFS możesz tworzyć lokalne potoki RAG (generowania wspomaganego wyszukiwaniem) — przekazywać dokumenty, notatki i zbiory danych do lokalnej wektorowej bazy danych, a następnie zadawać im pytania za pomocą modelu LLM działającego na tej samej maszynie.
🎁 Automatyzacja i skrypty — Lokalne modele LLM świetnie sprawdzają się w zadaniach o określonej strukturze — klasyfikowaniu, streszczaniu i ekstrakcji. Połącz Ollamę z istniejącymi procesami Docker i zautomatyzuj przetwarzanie tekstu, które wcześniej wymagało korzystania z chmurowych interfejsów API.
Układ podzespołów wewnętrznych ZimaCube 2: pasywny radiator procesora, gniazdo rozszerzeń PCIe i wbudowane gniazda NVMe

Możliwość rozbudowy o kartę GPU

Gniazdo rozszerzeń PCIe otwiera ciekawe możliwości na przyszłość. Dodanie karty GPU — nawet skromnej — zmienia ZimaCube 2 w prawdziwy lokalny serwer AI:

  • Większe modele — Uruchamiaj modele o 13–34 mld parametrów z odciążeniem GPU
  • Szybsze wnioskowanie — Przyspieszenie generowania tokenów od 10 do 50 razy
  • Transkodowanie multimediów — Transkodowanie Plex/Jellyfin przyspieszane sprzętowo
  • Generowanie obrazów — Stable Diffusion i podobne modele
  • Obsługa wielu modeli — Uruchamiaj jednocześnie różne modele do różnych zadań
🔌 Gniazdo obsługuje standardowe karty PCIe — bez zastrzeżonych formatów i uzależnienia od jednego dostawcy. Wybierasz kartę GPU dopasowaną do swoich potrzeb i budżetu.

Dlaczego ta architektura ma znaczenie

Nowoczesne domowe laboratoria coraz częściej wykorzystują AI, lokalne wnioskowanie, transkodowanie multimediów, orkiestrację kontenerów i przetwarzanie brzegowe.

ZimaCube 2 sprawia wrażenie zaprojektowanego z myślą o przyszłości. To nie zamknięte urządzenie, które każe kupować nowe, gdy zmienią się Twoje potrzeby. To platforma, która mówi: „Oto, czego potrzebujesz teraz, a oto miejsce na to, czego będziesz potrzebować później”.

Dla mnie właśnie to odróżnia gadżet od infrastruktury.

Sprawdźmy, jak jest naprawdę: czy system poradzi sobie z chłodzeniem karty graficznej?

Pojawia się naturalne pytanie: czy kompaktowy i cichy system może skutecznie chłodzić kartę graficzną?

Odpowiedź zależy od karty graficznej, ale podstawy są solidne:

  • Metalowa obudowa działa jak radiator
  • Przepływ powietrza został starannie zaprojektowany (to nie kwestia przypadku)
  • Wewnętrzny układ podzespołów pozostawia miejsce na zapewnienie karcie PCIe odpowiedniego przepływu powietrza

System już teraz radzi sobie z ciągłym obciążeniem związanym z Dockerem, ZFS i siecią, pozostając przyjemnie chłodny w dotyku. Konstrukcja termiczna zapewnia zapas.

Często zadawane pytania

P1: Czy ZimaCube 2 obsługuje Ollama?

Tak. Fabryczna konfiguracja bez problemu obsługuje skwantyzowane modele o 7–8 mld parametrów (Llama 3, Mistral, Phi) do czatu, pomocy w programowaniu i analizy tekstu. Po dodaniu karty graficznej przez PCIe możesz uruchamiać większe modele, które generują odpowiedzi znacznie szybciej.

P2: Czy ZimaCube 2 ma gniazdo PCIe na kartę graficzną?

Tak. ZimaCube 2 ma gniazdo rozszerzeń PCIe obsługujące standardowe karty graficzne, akceleratory AI, dodatkowe karty pamięci masowej oraz karty sieciowe. Bez zastrzeżonych formatów i uzależnienia od jednego dostawcy.

P3: Do czego mogę wykorzystać lokalną AI na NAS-ie?

Lokalna AI na NAS-ie umożliwia korzystanie z prywatnych asystentów czatu, wspomaganie programowania przez AI (za pomocą narzędzi takich jak Continue.dev), analizowanie dokumentów z użyciem potoków RAG, automatyczne przetwarzanie i klasyfikowanie tekstu, analizowanie obrazów oraz eksperymentowanie bez ponoszenia kosztów korzystania z API w chmurze.

P4: Ile gniazd NVMe ma ZimaCube 2?

System ma 4× M.2 NVMe oraz dodatkowe gniazdo NVMe na płycie głównej (pierwotnie zajęte przez dysk z systemem operacyjnym), którego można użyć do skonfigurowania lustrzanych dysków systemowych, wydzielonej pamięci na dane Dockera lub warstwy pamięci podręcznej.

P5: Czy mogę później rozbudować pamięć RAM?

Tak. ZimaCube 2 korzysta ze standardowej pamięci RAM DDR5 SODIMM, którą można wymienić samodzielnie. Fabryczna konfiguracja 8 GB dobrze radzi sobie z obciążeniami związanymi z kontenerami, a gdy Twoje potrzeby wzrosną, możesz ją rozbudować.

P6: Czy ZimaCube 2 zapewnia odpowiednie chłodzenie GPU?

Tak. Metalowa obudowa, przemyślany przepływ powietrza i układ podzespołów zapewniają odpowiednie chłodzenie karty PCIe. System radzi sobie z ciągłym obciążeniem, nie przegrzewając się, a konstrukcja termiczna zapewnia zapas na rozbudowę.

Centrum kampanii Zima

Więcej do przeczytania

Get More Builds Like This

Stay in the Loop

Get updates from Zima - new products, exclusive deals, and real builds from the community.

Stay in the Loop preferences

We respect your inbox. Unsubscribe anytime.