Does the ZimaCube 2 PCIe slot provide enough power for a GPU?

Yes — for slot-powered cards up to 75W. The Intel Arc Pro B50 (50W TDP) and similar low-power GPUs run entirely off PCIe slot power. The ZimaCube 2 PCIe slots do not route auxiliary power cables, so you need to choose a card that does not require them. The B50, NVIDIA RTX A2000, and Intel Arc A310/A380 are all viable options.

What GPU would you recommend for the ZimaCube 2?

For AI inference specifically, prioritize VRAM over compute. The Intel Arc Pro B50 (16GB) and NVIDIA RTX A2000 (12GB) are the best slot-powered options currently available. For media transcoding only, the Intel Arc A310 or A380 are cheaper and still provide hardware AV1 encoding. Avoid any GPU that requires a 6-pin or 8-pin power connector.

Can I run a ZimaCube 2 with a GPU 24/7 without thermal issues?

Yes. The ZimaCube 2 thermal design separates the CPU/PCIe zone from the drive zone. The Arc Pro B50 is a 50W card — it does not generate enough heat to overwhelm the chassis. Under sustained inference load, GPU temperatures stay within normal operating range without additional cooling modifications.

Can the ZimaCube 2 run both shared storage and AI workloads at the same time?

Yes. The original build described here uses the ZimaCube 2 as both the Proxmox cluster NFS/ZFS storage backend and a local AI inference server with llama.cpp and OpenClaw. The GPU VRAM handles model weights independently of system memory, and the NVMe storage pools ensure VM I/O is not bottlenecked by inference workloads.

What is the largest model I can run on a 16GB GPU in the ZimaCube 2?

A 16GB GPU like the Intel Arc Pro B50 can comfortably run quantized 13B–14B parameter models (Q5_K_M or Q4_K_M quants) with 4K–8K context windows, or 20B–34B models at lower quantization levels. For most self-hosted AI use cases — code assistance, document summarization, home automation NLP — a well-tuned 13B model with good quantization is the sweet spot.

나는 ZimaCube 2에 인텔 Arc GPU를 장착했다 — 추가 케이블 없이 로컬 AI 구현

에바 왕

IceWhale author

에바 왕 는 기술 작가 그리고 이자 ZimaSpace의 상주 장인입니다. 평생을 기술에 열정을 가진 사람으로서 홈랩과 오픈소스 소프트웨어에 열정을 가지고 있으며,복잡한 기술 개념을 쉽게 이해할 수 있는 실습 가이드로 번역하는 데 전문성을 가지고 있습니다.에바는 셀프 호스팅이 어렵지 않고 재미있어야 한다고 믿습니다. 그녀의 튜토리얼을 통해 커뮤니티가 하드웨어 설정의 신비를 풀도록돕고 있습니다. 첫 NAS 구축부터 Docker 컨테이너 마스터링까지.

I Put an Intel Arc GPU in the ZimaCube 2 — Local AI Without a Single Extra Cable - Zima Store Online

저는 AI용으로 ZimaCube 2를 산 게 아닙니다. Proxmox 클러스터의 스토리지 백엔드로 사용하려고 샀습니다.

그러다 PCIe x16 슬롯을 발견했습니다. 그리고 6핀, 8핀, 어댑터 케이블 없이 메인보드 전원만으로 완전히 작동한다는 사실도 알게 되었습니다. 그게 계산을 바꿨습니다.

Intel Arc Pro B50 하나를 장착한 후, ZimaCube 2는 이제 llama.cpp와 OpenClaw를 사용해 로컬 추론을 수행하며, 동시에 클러스터 공유 스토리지 역할도 합니다. 전체 이야기는 다음과 같습니다: 왜 B50을 선택했는지, 설치 과정, ZimaOS 베타가 제공한 것, 그리고 ZimaCube 2에서 GPU 업그레이드를 고려하는 모든 이에게 의미하는 바.

왜 Intel Arc Pro B50인가

컴팩트 NAS용 GPU 선택은 게이밍 데스크톱용과 다릅니다. 세 가지 엄격한 제약 조건이 있습니다:

슬롯 전원 전용. ZimaCube 2 PCIe 슬롯은 보조 전원 케이블을 연결하지 않습니다. GPU는 메인보드가 제공하는 최대 75W 전원만으로 작동해야 합니다.
로우 프로파일 또는 싱글 슬롯. 섀시는 240 × 221 × 220 mm입니다. 풀 하이트, 듀얼 슬롯 카드는 물리적으로 장착 불가합니다.
조용하고 시원함. 이 제품은 거실 공간에서 24시간 7일 내내 작동합니다. 블로워 팬 없음, 유휴 시 열 쓰로틀링 없음.

Intel Arc Pro B50는 모든 조건을 충족했습니다:

요구 사항	Arc Pro B50
슬롯 전원 전용	✅ 50W TDP — PCIe 슬롯 전원만으로 작동 (케이블 없음)
로우 프로파일	✅ 싱글 슬롯, 하프 하이트 브래킷 포함
AI용 VRAM	✅ 16GB GDDR6 — 13B–20B 파라미터 모델에 충분함
AV1 인코딩	✅ 하드웨어 AV1 인코딩/디코딩 지원
가격 대비 VRAM	✅ 동급 최고 VRAM 대비 가격

💡 로컬 AI에는 16GB VRAM이 중요합니다. 이는 양자화된 7B 모델을 실행하는 것과 전체 13B–14B 모델을 컨텍스트와 함께 맞추는 것의 차이입니다. NAS에 AI 추론용 GPU를 추가할 경우, VRAM 용량이 순수 연산 성능보다 더 중요합니다. 이 가격대에서 B50 16GB가 적절한 선택이 된 이유입니다.

Intel Arc B50 16GB PCIe GPU 그래픽 카드, 단일 블로워 쿨러, NAS에서 로컬 AI 추론을 위한 다중 디스플레이 출력 포트

설치: 슬롯 하나, 케이블 없음, 완료

물리적 설치는 10분도 채 걸리지 않았습니다.

상단 패널을 열면 PCIe 슬롯이 바로 보이고, 드라이브 케이지를 피할 필요가 없습니다. B50은 x16 슬롯에 슬라이드로 장착되고, 하프 하이트 브래킷이 후면 개구부와 맞닿습니다. 나사 하나 조이고, 패널 닫으면 끝입니다.

전원 케이블도, 어댑터 동글도, 공간에 맞지 않는 케이블 억지 끼우기도 없습니다. ZimaCube 2의 PCIe 구현은 정말 깔끔하며, 슬롯이 드라이브 베이 위에 충분한 여유 공간을 두고 배치되어 있어 듀얼 슬롯 카드도 저장장치와 간섭하지 않습니다.

이것은 컴팩트 NAS 하드웨어에서는 당연한 것이 아닙니다. 이 폼팩터의 대부분 장치는 PCIe가 없으며, 있는 경우에도 슬롯 위치가 설치 가능한 부품을 제한하는 경우가 많습니다. IceWhale은 이 부분의 설계를 제대로 했습니다.

ZimaOS 베타: 네이티브 Arc 드라이버 지원

ZimaOS를 초기화하고 Ubuntu Server를 설치할 계획이었지만, IceWhale이 네이티브 Intel Arc GPU 드라이버 지원이 포함된 ZimaOS 베타 빌드를 제공했습니다.

🎁 강조할 만한 점: IceWhale은 커뮤니티 피드백에 대응하여 Pioneer Program 테스터들에게 베타 빌드를 적극적으로 배포하고 있습니다. Arc 드라이버 통합은 원래 로드맵에 없었지만 사용자 요청으로 이루어졌습니다. 플랫폼 위에서 구축할 때 이런 대응력은 매우 중요합니다.

베타 빌드는 드라이버 감지를 자동으로 처리합니다. B50 설치 후 첫 부팅 시 ZimaOS가 카드를 인식하고 Intel i915 드라이버와 Arc 확장 기능을 로드하여 Docker 런타임에 노출했습니다. 커널 모듈 컴파일도, GRUB 조정도 필요 없었습니다. 그냥 작동했습니다.

제가 실행 중인 것: llama.cpp + OpenClaw

GPU가 인식되어 두 개의 컨테이너를 배포했습니다:

llama.cpp (GPU 가속 추론)

모델: Mistral 13B Q5_K_M (~12GB VRAM에 8K 컨텍스트 적합)
백엔드: Intel SYCL (Arc GPU)
사용 사례: 코드 리뷰, 문서 요약, 로컬 챗봇, 홈 자동화 자연어 처리

어두운 배경에 LLaMA C++ 오픈 소스 대형 언어 모델 추론 프레임워크 로고 배너

OpenClaw (로컬 AI 게이트웨이)

여러 로컬 모델을 위한 통합 API 엔드포인트
llama.cpp와 더 작은 CPU 기반 모델 간 요청을 라우팅합니다
음성 제어 스마트 홈 쿼리를 위해 Home Assistant에 연결

성능은 50W 싱글 슬롯 카드에서 기대할 수 있는 수준입니다: 데이터센터 GPU는 아니지만 실제로 유용할 만큼 빠릅니다. Mistral 13B는 초당 약 25~35 토큰을 생성하며, 이는 읽기 속도보다 빠른데, 이 속도가 로컬 AI가 반응성이 좋고 답답하지 않게 느껴지는 기준입니다.

OpenClaw 오픈 소스 셀프 호스팅 크롤러 도구 빨간 벌레 마스코트 로고, 산호색 배경

본업 유지: 저장소 백엔드 + AI를 한 대의 기기에서

제가 하지 않은 일은 ZimaCube 2의 원래 목적을 희생하지 않은 것입니다. Proxmox 클러스터에 서비스를 제공하는 저장소 풀은 여전히 존재합니다. ZFS 스냅샷은 여전히 일정에 따라 실행됩니다. 인프라를 구동하는 Docker 컨테이너도 이동하지 않았습니다.

변한 점은 ZimaCube 2가 이제 두 가지 일을 동시에 한다는 것입니다:

스토리지 레이어

4× HDD RAID-Z1 (대용량 데이터)
2× NVMe RAID 1 (VM 이미지)
1× NVMe SLOG/L2ARC (캐시)
3개의 Proxmox 노드에 NFS 내보내기
ZFS 스냅샷 자동화

AI 레이어

Mistral 13B가 탑재된 llama.cpp
OpenClaw AI 게이트웨이
코드 리뷰 어시스턴트
문서 요약
Home Assistant NLP 통합

40GB RAM(기본 8GB + 32GB 업그레이드)은 대략 24GB는 ZFS ARC, 8GB는 Docker 컨테이너와 ZimaOS, 나머지 8GB는 시스템 오버헤드에 할당됩니다. GPU의 16GB VRAM은 모델 가중치를 독립적으로 처리하며 시스템 메모리와 경쟁하지 않습니다.

llama.cpp가 GPU로 오프로드하기 때문에 추론 중 CPU 부하는 최소입니다. NVMe 풀들이 활성 데이터를 처리하므로 저장소 I/O 성능에 영향이 없고, GPU는 SATA 컨트롤러를 건드리지 않습니다.

왜 별도의 AI 박스가 아닌가?

전용 AI 노드를 구축하는 것을 고려했습니다. 추론과 저장소를 분리하는 데는 격리, 전원 예산 전용, 독립적인 재부팅 주기 등 좋은 이유가 있습니다. 하지만 그렇지 않은 설득력 있는 이유가 하나 있습니다:

이미 PCIe 슬롯이 있습니다.

Featured

ZimaCube 2 개인용 클라우드 홈 NAS

ZimaCube2

ZimaCube 2는 확장을 염두에 두고 설계되었습니다. 향후 업그레이드를 위해 PCIe x16 슬롯이 포함된 장치를 구매할 예정이라면, 이를 사용하지 않는 것이 더 비용이 많이 드는 결정입니다. 별도의 AI 박스는 또 다른 전원 공급 장치, 또 다른 섀시, 또 다른 네트워크 연결, 또 다른 관리 대상을 의미합니다.

한 대의 기계, 두 가지 역할. ZimaCube 2가 모두 처리합니다.

ZimaCube 2에 GPU를 추가하고 로컬 AI 실행을 시작하세요 →

자주 묻는 질문

ZimaCube 2 PCIe 슬롯이 GPU에 충분한 전원을 공급하나요?

네 — 최대 75W 슬롯 전원 카드에 해당합니다. Intel Arc Pro B50(50W TDP)와 유사한 저전력 GPU는 PCIe 슬롯 전원만으로 작동합니다. ZimaCube 2 PCIe 슬롯은 보조 전원 케이블을 연결하지 않으므로, 보조 전원이 필요 없는 카드를 선택해야 합니다. B50, NVIDIA RTX A2000, Intel Arc A310/A380 모두 적합한 옵션입니다.

ZimaCube 2에 추천하는 GPU는 무엇인가요?

AI 추론의 경우, 연산 능력보다 VRAM을 우선시하세요. Intel Arc Pro B50(16GB)와 NVIDIA RTX A2000(12GB)은 현재 사용 가능한 최고의 슬롯 전원 GPU입니다. 미디어 트랜스코딩 전용이라면 Intel Arc A310 또는 A380이 더 저렴하면서도 하드웨어 AV1 인코딩을 지원합니다. 6핀 또는 8핀 전원 커넥터가 필요한 GPU는 피하세요.

ZimaCube 2를 GPU와 함께 24시간 7일 내내 열 문제 없이 사용할 수 있나요?

네. ZimaCube 2의 열 설계는 CPU/PCIe 구역과 드라이브 구역을 분리합니다. Arc Pro B50는 50W 카드로, 섀시를 과열시킬 정도의 열을 발생시키지 않습니다. 지속적인 추론 부하에서도 GPU 온도는 추가 냉각 없이 정상 작동 범위 내에 유지됩니다.

ZimaCube 2가 공유 스토리지와 AI 작업을 동시에 실행할 수 있나요?

네. 여기서 설명한 원래 빌드는 ZimaCube 2를 Proxmox 클러스터 NFS/ZFS 스토리지 백엔드와 llama.cpp 및 OpenClaw를 사용하는 로컬 AI 추론 서버로 모두 사용합니다. GPU VRAM은 시스템 메모리와 독립적으로 모델 가중치를 처리하며, NVMe 스토리지 풀은 추론 작업으로 인한 VM I/O 병목 현상을 방지합니다.

ZimaCube 2에서 16GB GPU로 실행할 수 있는 가장 큰 모델은 무엇인가요?

Intel Arc Pro B50와 같은 16GB GPU는 4K–8K 컨텍스트 윈도우를 가진 양자화된 13B–14B 파라미터 모델(Q5_K_M 또는 Q4_K_M 양자화)이나 낮은 양자화 수준의 20B–34B 모델을 무리 없이 실행할 수 있습니다. 대부분의 자체 호스팅 AI 사용 사례—코드 지원, 문서 요약, 홈 자동화 NLP—에서는 잘 조정된 13B 모델과 적절한 양자화가 최적의 선택입니다.