ZimaCube 2에서 로컬 AI 사용하기 — PCIe 확장, Ollama, 그리고 홈랩의 미래 대비

Eva Wong 는 테크니컬 라이터 이자 상주 메이커 로 ZimaSpace에서 활동합니다. 평생 기술을 사랑해 온 그녀는 홈랩과 오픈 소스 소프트웨어에 열정을 품고 있으며, 복잡한 기술 개념을 누구나 이해하기 쉬운 실습 가이드로 풀어내는 데 전문성을 갖추고 있습니다. Eva는 셀프 호스팅이 어렵고 부담스러운 일이 아니라 즐거워야 한다고 믿습니다. 그녀는 튜토리얼을 통해 커뮤니티가 하드웨어 설정의 어려움을 풀어내고, 첫 NAS를 조립하는 것부터 Docker 컨테이너를 능숙하게 다루는 것까지 도전하도록 돕습니다.

💡 커뮤니티 스포트라이트: Michael Luckenbill, ZimaCube 2 Pioneer 프로그램

ZimaCube 2를 처음 열었을 때, 오늘 무엇을 할 수 있는지만 살펴본 것이 아니었습니다. 내일 어떤 모습으로 발전할 수 있을지를 보고 있었습니다.

내부에서 예상했던 하드웨어와 함께 정말 반가운 것을 발견했습니다. OS용 Kingston NVMe 드라이브 256GB와 메인보드에 추가로 마련된 미사용 NVMe 슬롯입니다. 후면의 PCIe 확장 슬롯까지 더하면, 이 제품은 단순한 NAS가 아니었습니다. 확장을 고려해 설계된 플랫폼이었습니다.

ZimaCube 2 전면 패널 모습: SATA 드라이브 베이 6개, 전면 USB-A 및 USB-C 포트, 내장형 M.2 NVMe 슬롯

스토리지를 넘어: 확장을 위해 설계된 플랫폼

ZimaCube 2는 바로 사용할 수 있도록 제공되지만, 진짜 핵심은 나중에 추가할 수 있는 것들입니다:

기본 내장

  • 6 × SATA 베이
  • 4 × M.2 NVMe 슬롯
  • 8GB DDR5 SODIMM
  • 듀얼 2.5Gb 이더넷
  • 액티브 쿨링 기능이 있는 금속 섀시

확장 가능

  • 메인보드의 추가 NVMe 슬롯
  • PCIe 확장 슬롯 (GPU/AI/스토리지/네트워킹)
  • 업그레이드 가능한 SODIMM DDR5 RAM
  • 표준 교체형 부품

이 시스템의 가장 큰 장점 중 하나는 인프라 요구 사항에 맞춰 성장한다는 점입니다. 처음부터 모든 것을 구매할 필요가 없습니다. 필요한 것부터 시작해 준비가 되면 확장하면 됩니다.

로컬 AI: 홈랩에서 중요한 이유

장기적인 목표 중 하나는 더 많은 AI 작업을 로컬에서 실행하는 것입니다. 클라우드 AI가 나빠서가 아니라, 로컬 AI는 다른 가치를 제공하기 때문입니다:

  • 개인정보 보호 — 데이터가 네트워크 밖으로 나가지 않습니다
  • 예측 가능한 비용 — 토큰당 요금도, 월말 API 청구서도 없음
  • 자유로운 실험 — 클라우드 비용을 걱정하지 않고 모델을 시험하고, 오류를 내고, 다시 시작하기
  • 오프라인 사용 — 인터넷이 연결되지 않아도 작동하는 AI
  • 학습 — 모델을 직접 실행하며 실제 작동 방식 이해하기

ZimaCube 2는 이 모든 것을 실험해 볼 수 있는 플랫폼입니다 — 로컬 LLM을 위한 Ollama, AI 지원 개발 워크플로, 이미지 분석 파이프라인, 추론 작업, 셀프 호스팅 AI 도구를 클라우드 인프라에 전적으로 의존하지 않고 실행할 수 있습니다.

오늘 바로 실행할 수 있는 것들 (GPU 없이)

전용 GPU를 추가하기 전에도 ZimaCube 2는 AI 실험을 위한 탄탄한 기반을 제공합니다.

🤖 Ollama + 소형 모델 — 기본 시스템에서도 양자화된 7B~8B 파라미터 모델을 쾌적하게 실행할 수 있습니다. 채팅, 코드 지원, 텍스트 분석용 Llama 3, Mistral, Phi 계열 모델을 활용해 보세요.
💻 AI 지원 개발 — Ollama를 Continue.dev나 Cody 같은 도구와 함께 사용하면 완전히 오프라인으로 작동하는 로컬 AI 코딩 어시스턴트를 이용할 수 있습니다. API 키도, 사용량 제한도, 개인정보 보호 걱정도 없습니다.
📄 문서 분석 및 RAG — ZFS 스토리지 풀을 사용하면 로컬 RAG(검색 증강 생성) 파이프라인을 구축할 수 있습니다. 문서, 메모, 데이터 세트를 로컬 벡터 데이터베이스에 넣고 같은 머신에서 실행되는 LLM으로 검색해 보세요.
🎁 자동화 및 스크립팅 — 로컬 LLM은 분류, 요약, 추출 같은 구조화된 작업에 탁월합니다. Ollama를 기존 Docker 워크플로에 연결해 이전에는 클라우드 API가 필요했던 텍스트 처리 파이프라인을 자동화하세요.
ZimaCube 2 내부 하드웨어 구성, 패시브 CPU 방열판, PCIe 확장 슬롯 및 온보드 NVMe 슬롯

GPU 업그레이드 경로

PCIe 확장 슬롯은 장기적으로 특히 유용합니다. 적당한 GPU라도 추가하면 ZimaCube 2는 진정한 로컬 AI 서버로 거듭납니다.

  • 더 큰 모델 — GPU 오프로딩으로 13B~34B 파라미터 모델 실행
  • 더 빠른 추론 — 토큰 생성 속도 10~50배 향상
  • 미디어 트랜스코딩 — 하드웨어 가속 Plex/Jellyfin 트랜스코딩
  • 이미지 생성 — Stable Diffusion 및 유사 모델
  • 여러 모델 동시 실행 — 작업별로 다른 모델을 동시에 실행
🔌 이 슬롯은 표준 PCIe 카드를 지원합니다. 독자 규격이 없고, 특정 제조업체에 종속되지 않습니다. 필요와 예산에 맞는 GPU를 직접 선택할 수 있습니다.

이 아키텍처가 중요한 이유

최신 홈랩은 AI 워크로드, 로컬 추론, 미디어 트랜스코딩, 컨테이너 오케스트레이션, 엣지 컴퓨팅과 점점 더 긴밀하게 연결되고 있습니다.

ZimaCube 2는 그런 미래를 염두에 두고 설계된 것 같습니다. 필요가 바뀌면 새 제품을 사야 하는 밀폐형 기기가 아닙니다. “지금 필요한 것은 여기 있고, 나중에 필요할 것을 위한 공간도 마련되어 있습니다”라고 말하는 플랫폼입니다.

저에게는 그것이 단순한 기기와 인프라를 구분하는 차이입니다.

발열 점검: GPU를 장착해도 감당할 수 있을까요?

자연스럽게 이런 질문이 생깁니다. 작고 조용한 시스템이 실제로 GPU의 발열을 감당할 수 있을까요?

GPU에 따라 다르지만, 기본적인 설계는 탄탄합니다.

  • 금속 섀시가 방열판 역할을 합니다
  • 공기 흐름을 세심하게 설계했습니다(나중에 덧붙인 것이 아닙니다)
  • 내부 부품 배치에는 PCIe 카드에 필요한 공기 흐름을 위한 공간이 있습니다

시스템은 Docker, ZFS, 네트워크 작업을 지속적으로 처리하면서도 만졌을 때 시원한 상태를 유지합니다. 열 설계에 여유가 있습니다.

자주 묻는 질문

Q1: ZimaCube 2에서 Ollama를 실행할 수 있나요?

예. 기본 구성은 양자화된 7B~8B 파라미터 모델(Llama 3, Mistral, Phi)을 실행해 채팅, 코드 지원, 텍스트 분석을 원활하게 처리할 수 있습니다. PCIe를 통해 GPU를 추가하면 더 큰 모델을 훨씬 빠르게 추론할 수 있습니다.

Q2: ZimaCube 2에 GPU용 PCIe 슬롯이 있나요?

예. ZimaCube 2에는 표준 GPU, AI 가속기, 추가 스토리지 카드, 네트워크 카드를 지원하는 PCIe 확장 슬롯이 있습니다. 독자 규격이나 특정 업체에 종속되지 않습니다.

Q3: NAS에서 로컬 AI로 무엇을 할 수 있나요?

NAS에서 로컬 AI를 사용하면 비공개 채팅 어시스턴트, AI 지원 코딩(Continue.dev 같은 도구 사용), RAG 파이프라인을 통한 문서 분석, 자동화된 텍스트 처리 및 분류, 이미지 분석을 수행하고 클라우드 API 비용 없이 실험할 수 있습니다.

Q4: ZimaCube 2에는 NVMe 슬롯이 몇 개 있나요?

시스템에는 4개의 M.2 NVMe 슬롯과 함께 메인보드에 추가 NVMe 슬롯이 하나 있습니다(원래 OS 드라이브가 장착된 슬롯). 이 슬롯은 OS 드라이브 미러링, 전용 Docker 스토리지 또는 캐싱 계층에 사용할 수 있습니다.

Q5: 나중에 RAM을 업그레이드할 수 있나요?

예. ZimaCube 2는 사용자가 교체할 수 있는 표준 SODIMM DDR5 RAM을 사용합니다. 기본 8GB 구성으로도 컨테이너 작업을 원활하게 처리할 수 있으며, 필요에 따라 업그레이드할 수 있습니다.

Q6: ZimaCube 2는 GPU를 장착해도 발열을 감당할 수 있나요?

예. 금속 섀시, 세심하게 설계된 공기 흐름, 내부 부품 배치는 PCIe 카드의 공기 흐름을 고려했습니다. 시스템은 시원한 상태를 유지하면서 지속적인 작업 부하를 처리하며, 확장을 위한 열 설계 여유도 갖추고 있습니다.

Zima 캠페인 허브

더 읽어보기

첫 ZimaBoard 2 홈 서버용 LEGO 랙
Nov 21, 2026

첫 ZimaBoard 2 홈 서버용 LEGO 랙

ZimaBoard 2와 SSD 두 개를 LEGO 랙에 정리한 첫 조립자의 사례를 확인해 보세요. 다음으로 Home Assistant와 홈 오피스용 스토리지를 구성할 계획입니다.

Get More Builds Like This

Stay in the Loop

Get updates from Zima - new products, exclusive deals, and real builds from the community.

Stay in the Loop preferences

We respect your inbox. Unsubscribe anytime.