Włożyłem kartę graficzną Intel Arc do ZimaCube 2 — lokalna sztuczna inteligencja bez ani jednego dodatkowego kabla

Eva Wong jest Technicznym pisarzem i stałym majsterkowiczem w ZimaSpace. Całe życie geek z pasją do homelabów i oprogramowania open-source, specjalizuje się w tłumaczeniu skomplikowanych koncepcji technicznych na przystępne, praktyczne przewodniki. Eva wierzy, że samodzielne hostowanie powinno być zabawą, a nie czymś onieśmielającym. Poprzez swoje samouczki umożliwia społeczności rozwiewanie tajemnic konfiguracji sprzętu, od budowy pierwszego NAS po opanowanie kontenerów Docker.

Nie kupiłem ZimaCube 2 dla AI. Kupiłem go, aby był zapleczem pamięci dla mojego klastra Proxmox.

Ale wtedy zauważyłem gniazdo PCIe x16. I fakt, że działa całkowicie zasilane z płyty głównej — bez 6-pinowego, bez 8-pinowego, bez kabli adapterów. Tylko zasilanie ze slotu. To zmieniło rachunki.

Po zainstalowaniu Intel Arc Pro B50, ZimaCube 2 działa teraz z llama.cpp i OpenClaw do lokalnego wnioskowania — obok swojej codziennej pracy jako wspólna pamięć klastra. Oto pełna historia: dlaczego wybrałem B50, jak przebiegła instalacja, co przyniósł ZimaOS Beta i co to oznacza dla każdego, kto rozważa aktualizację GPU w ZimaCube 2.

Dlaczego Intel Arc Pro B50

Wybór GPU do kompaktowego NAS różni się od wyboru do komputera do gier. Masz trzy twarde ograniczenia:

  1. Zasilanie tylko ze slotu. Gniazda PCIe w ZimaCube 2 nie mają dodatkowych kabli zasilających. GPU musi działać całkowicie z zasilania płyty głównej — maksymalnie 75W.
  2. Niskoprofilowy lub jednokartowy. Obudowa ma wymiary 240 × 221 × 220 mm. Karta pełnowymiarowa, dwuslotowa fizycznie się nie zmieści.
  3. Cichy i chłodny. Urządzenie działa 24/7 w przestrzeni mieszkalnej. Brak wentylatorów dmuchających, brak termicznego ograniczania przy bezczynności.

Intel Arc Pro B50 spełnił wszystkie wymagania:

Wymagania
Arc Pro B50
Zasilanie tylko ze slotu
✅ 50W TDP — działa całkowicie zasilany z gniazda PCIe (bez kabli)
Niskoprofilowy
✅ Jeden slot, dołączony niskoprofilowy uchwyt
VRAM dla AI
✅ 16GB GDDR6 — wystarczająco dla modeli o parametrach 13B–20B
Kodowanie AV1
✅ Sprzętowe kodowanie/dekodowanie AV1
Stosunek ceny do VRAM
✅ Najlepszy stosunek VRAM do ceny w swojej klasie

 

💡 16GB VRAM ma znaczenie dla lokalnego AI. To różnica między uruchomieniem kwantyzowanego modelu 7B a zmieszczeniem pełnego modelu 13B–14B z kontekstem. Jeśli zamierzasz dodać GPU do NAS specjalnie do wnioskowania, pojemność VRAM jest ważniejsza niż surowa moc obliczeniowa. B50 16GB w tej cenie to był właściwy wybór.
Karta graficzna Intel Arc B50 16GB PCIe GPU z pojedynczym chłodzeniem wentylatorowym, porty wyjściowe do wielu wyświetlaczy do lokalnego wnioskowania AI na NAS

Instalacja: Jeden slot, brak kabli, gotowe

Fizyczna instalacja zajęła mniej niż dziesięć minut.

Otwórz górną pokrywę — sloty PCIe są tuż obok, bez klatek na dyski do omijania. B50 wsuwasz w slot x16. Półwysoki uchwyt pasuje do tylnego otworu. Przykręć jedną śrubę. Zamknij panel. Gotowe.

Brak kabli zasilających. Brak adapterów. Brak wciskania kabli w miejsca, gdzie się nie mieszczą. Implementacja PCIe w ZimaCube 2 jest naprawdę czysta — slot jest umieszczony z wystarczającym odstępem nad zatokami dysków, że nawet karta dwuslotowa nie koliduje z pamięcią masową.

To nie jest oczywiste w kompaktowym sprzęcie NAS. Większość urządzeń w tym formacie nie ma nawet PCIe. Te, które mają, często umieszczają sloty w miejscach ograniczających instalację. IceWhale dobrze zaprojektował układ.

ZimaOS Beta: natywne wsparcie sterownika Arc

Planowałem wyczyścić ZimaOS i zainstalować Ubuntu Server. Wtedy IceWhale skontaktował się z wersją Beta ZimaOS, która zawiera natywne wsparcie sterownika Intel Arc GPU.

🎁 Warto to podkreślić: IceWhale aktywnie wysyła wersje Beta do testerów programu Pioneer w odpowiedzi na opinie społeczności. Integracja sterownika Arc nie była na pierwotnej mapie drogowej — stała się faktem, bo użytkownicy o to poprosili. Taka responsywność ma znaczenie, gdy budujesz na platformie.

Wersja Beta automatycznie wykrywa sterowniki. Przy pierwszym uruchomieniu po instalacji B50, ZimaOS rozpoznał kartę, załadował sterownik Intel i915 z rozszerzeniami Arc i udostępnił go środowisku Docker. Bez kompilacji modułu jądra. Bez modyfikacji GRUB. Po prostu działało.

Co uruchamiam: llama.cpp + OpenClaw

Po wykryciu GPU uruchomiłem dwa kontenery:

llama.cpp (inferencja przyspieszona przez GPU)

  • Model: Mistral 13B Q5_K_M (mieści się w ~12GB VRAM z kontekstem 8K)
  • Backend: Intel SYCL (GPU Arc)
  • Przypadki użycia: przegląd kodu, podsumowanie dokumentacji, lokalny chatbot, przetwarzanie języka naturalnego w automatyce domowej
LLaMA C++ open source framework do inferencji dużych modeli językowych – baner z logo na ciemnym tle

OpenClaw (lokalna brama AI)

  • Zunifikowany punkt końcowy API dla wielu lokalnych modeli
  • Kieruje żądania między llama.cpp a mniejszymi modelami opartymi na CPU
  • Łączy się z Home Assistant do sterowania głosowego zapytań inteligentnego domu

Wydajność jest dokładnie taka, jakiej można oczekiwać od karty jednoslotowej o mocy 50 W: nie jest to GPU do centrum danych, ale wystarczająco szybka, by być naprawdę użyteczną. Mistral 13B generuje około 25–35 tokenów na sekundę — szybciej niż prędkość czytania, co jest progiem, który sprawia, że lokalne AI jest responsywne, a nie uciążliwe.

Logo maskotki czerwonego robaka OpenClaw, otwartego narzędzia crawlera do samodzielnego hostingu, na koralowym tle

Utrzymanie codziennej pracy: zaplecze pamięci + AI na jednej maszynie

Oto czego nie zrobiłem: nie poświęciłem pierwotnego celu ZimaCube 2. Pule pamięci masowej obsługujące klaster Proxmox nadal działają. Migawki ZFS nadal są wykonywane zgodnie z harmonogramem. Kontenery Docker zasilające infrastrukturę nie zostały przeniesione.

Zmieniło się to, że ZimaCube 2 teraz robi dwie rzeczy naraz:

Warstwa przechowywania

  • 4× HDD RAID-Z1 (dane masowe)
  • 2× NVMe RAID 1 (obrazy VM)
  • 1× NVMe SLOG/L2ARC (pamięć podręczna)
  • Eksporty NFS do 3 węzłów Proxmox
  • Automatyzacja migawkowa ZFS

Warstwa AI

  • llama.cpp z Mistral 13B
  • Bramka AI OpenClaw
  • Asystent przeglądu kodu
  • Streszczanie dokumentów
  • Integracja NLP z Home Assistant

40 GB RAM (8 GB standard + 32 GB rozszerzenia) jest podzielone: około 24 GB dla ZFS ARC, 8 GB dla kontenerów Docker i ZimaOS oraz 8 GB pozostawione na narzut systemowy. 16 GB VRAM GPU obsługuje wagi modeli niezależnie — nie konkuruje z pamięcią systemową.

Obciążenie CPU podczas inferencji jest minimalne, ponieważ llama.cpp przenosi obliczenia na GPU. Wydajność I/O pamięci masowej nie jest naruszona, ponieważ pule NVMe obsługują aktywne dane, a GPU nie korzysta z kontrolera SATA.

Dlaczego nie oddzielna skrzynka AI?

Rozważałem zbudowanie dedykowanego węzła AI. Istnieją dobre powody, by oddzielić inferencję od przechowywania — izolacja, dedykowany budżet energetyczny, niezależne cykle restartu. Ale jest jeden przekonujący powód, by tego nie robić:

Masz już gniazdo PCIe.

ZimaCube 2 został zaprojektowany z myślą o rozbudowie. Jeśli zamierzasz kupić urządzenie z gniazdem PCIe x16 przeznaczonym specjalnie na przyszłe ulepszenia, niekorzystanie z niego jest droższą decyzją. Oddzielna skrzynka AI oznacza kolejny zasilacz, kolejną obudowę, kolejne połączenie sieciowe, kolejną rzecz do zarządzania.

Jedna maszyna. Dwie role. ZimaCube2 radzi sobie z obiema.

Dodaj kartę GPU do swojego ZimaCube 2 i zacznij lokalnie uruchamiać AI →

Najczęściej zadawane pytania

Czy gniazdo PCIe w ZimaCube 2 zapewnia wystarczającą moc dla karty GPU?

Tak — dla kart zasilanych wyłącznie z gniazda do 75W. Intel Arc Pro B50 (TDP 50W) i podobne niskomocowe GPU działają całkowicie zasilane z gniazda PCIe. Gniazda PCIe w ZimaCube 2 nie mają dodatkowych kabli zasilających, więc trzeba wybrać kartę, która ich nie wymaga. B50, NVIDIA RTX A2000 oraz Intel Arc A310/A380 to wszystkie dobre opcje.

Jaką kartę GPU polecacie do ZimaCube 2?

W przypadku inferencji AI priorytetem jest pamięć VRAM, a nie moc obliczeniowa. Intel Arc Pro B50 (16GB) i NVIDIA RTX A2000 (12GB) to obecnie najlepsze karty zasilane wyłącznie z gniazda PCIe. Do samego transkodowania mediów tańsze są Intel Arc A310 lub A380, które nadal oferują sprzętowe kodowanie AV1. Unikaj kart wymagających zasilania przez złącze 6-pin lub 8-pin.

Czy mogę używać ZimaCube 2 z kartą GPU 24/7 bez problemów termicznych?

Tak. Projekt termiczny ZimaCube 2 oddziela strefę CPU/PCIe od strefy dysków. Arc Pro B50 to karta o mocy 50W — nie generuje na tyle ciepła, by przegrzać obudowę. Przy ciągłym obciążeniu inferencją temperatury GPU pozostają w normalnym zakresie bez dodatkowych modyfikacji chłodzenia.

Czy ZimaCube 2 może jednocześnie obsługiwać współdzieloną pamięć masową i zadania AI?

Tak. Oryginalna konfiguracja opisana tutaj wykorzystuje ZimaCube 2 zarówno jako zaplecze pamięci masowej klastra Proxmox NFS/ZFS, jak i lokalny serwer inferencji AI z llama.cpp i OpenClaw. Pamięć VRAM GPU obsługuje wagi modelu niezależnie od pamięci systemowej, a pule pamięci NVMe zapewniają, że operacje I/O maszyn wirtualnych nie są wąskim gardłem przy obciążeniu inferencją.

Jaki jest największy model, jaki mogę uruchomić na karcie 16GB w ZimaCube 2?

Karta graficzna 16GB, taka jak Intel Arc Pro B50, bez problemu obsłuży skwantowane modele o parametrach 13B–14B (kwanty Q5_K_M lub Q4_K_M) z oknami kontekstowymi 4K–8K lub modele 20B–34B przy niższych poziomach kwantyzacji. Dla większości zastosowań AI na własnym serwerze — wsparcie kodu, streszczanie dokumentów, NLP w automatyce domowej — dobrze dostrojony model 13B z dobrą kwantyzacją to optymalny wybór.

Centrum Kampanii Zima

Więcej do przeczytania

Get More Builds Like This

Stay in the Loop

Get updates from Zima - new products, exclusive deals, and real builds from the community.

Stay in the Loop preferences

We respect your inbox. Unsubscribe anytime.