Liquid AI LFM3 설명: 2B 멀티모달 모델을 로컬에서 실행할 수 있을까?

Eva Wong

IceWhale author

Eva Wong 는 테크니컬 라이터 이자 상주 메이커 로 ZimaSpace에서 활동합니다. 평생 기술을 사랑해 온 그녀는 홈랩과 오픈 소스 소프트웨어에 열정을 품고 있으며, 복잡한 기술 개념을 누구나 이해하기 쉬운 실습 가이드로 풀어내는 데 전문성을 갖추고 있습니다. Eva는 셀프 호스팅이 어렵고 부담스러운 일이 아니라 즐거워야 한다고 믿습니다. 그녀는 튜토리얼을 통해 커뮤니티가 하드웨어 설정의 어려움을 풀어내고, 첫 NAS를 조립하는 것부터 Docker 컨테이너를 능숙하게 다루는 것까지 도전하도록 돕습니다.

Liquid AI LFM3 Explained: Can a 2B Multimodal Model Run Locally? - Zima Store Online

네, LFM3는 로컬에서 실행할 수 있습니다. 다만 적합한 체크포인트부터 선택하세요. Liquid AI는 2026년 10월 27일 오픈 웨이트 LFM3 제품군을 출시했습니다. 텍스트 모델인 LFM3-1.7B는 매개변수가 17억 3천만 개이며, 공개된 4비트 가중치 용량은 약 1 GB입니다. 최신 llama.cpp 빌드를 사용하면 로컬 CPU 또는 지원되는 GPU에서 GGUF 체크포인트를 실행할 수 있습니다. 그렇다고 음성과 비전을 모두 지원하는 어시스턴트의 용량이 1 GB에 불과한 것은 아닙니다.

PC나 홈 NAS에 도입할 때는 하드웨어를 산정하기 전에 텍스트, 비전, 오디오 또는 옴니 중 무엇을 사용할지 정하는 것이 실용적입니다. 모델 파일, 인코더/디코더, 런타임 버퍼, 컨텍스트 상태, 이미지 또는 오디오 입력, 동시 요청 모두 리소스를 사용합니다. 처음 시험할 때는 4비트 텍스트 모델과 컨텍스트 4K–8K, 단일 요청으로 시작하세요. 입력 크기를 늘리거나 다른 NAS 서비스를 활성화하기 전에 메모리와 지연 시간을 측정하세요.

로컬 배포 관련 질문	짧은 답변
공식 체크포인트를 사용할 수 있나요?	네. Liquid AI가 오픈 웨이트와 모델 카드를 공개했습니다.
모든 기능이 들어 있는 2B 모델이 하나 있나요?	아니요. LFM3는 하나의 백본을 공유하는 특화 체크포인트 제품군입니다.
홈 서버에서 텍스트 추론을 실행할 수 있나요?	선택한 GGUF 모델과 런타임이 사용 가능한 RAM에 들어간다면 가능합니다. CPU만 사용하면 속도가 느릴 수 있습니다.
1 GB가 실행 중 필요한 총 RAM을 뜻하나요?	아니요. 이는 프로세스의 최대 메모리 사용량이 아니라 대략적인 4비트 텍스트 모델 가중치 용량을 나타냅니다.
RAM 8 GB에서 컨텍스트 256K를 실용적으로 사용할 수 있나요?	그렇게 단정하지 마세요. 컨텍스트, 요청 수, 백엔드에 따라 실제 메모리 요구량이 달라집니다.
ZimaOS에서 호스팅할 수 있나요?	호환되는 Linux 런타임을 사용하는 것은 가능성이 있는 방법이지만, 이 글은 ZimaOS 호환성을 인증하는 자료가 아닙니다.

Liquid AI가 LFM3로 정확히 무엇을 출시했나요?

LFM3는 LFM3-1.7B-Base 백본으로 학습된 2B급 모델 6종으로 이루어진 제품군입니다. 텍스트 모델, 비전-언어 모델, 오디오 모델, 옴니 모델과 의사 결정에 특화된 모델 2종으로 구성됩니다. Liquid AI는 이 제품군이 특수한 온디바이스 애플리케이션에 적합하다고 설명합니다. 여기서 중요한 단어는 제품군입니다. LFM3-1.7B를 다운로드한다고 이미지 인코더, 마이크 지원 또는 음성 디코더가 자동으로 추가되는 것은 아닙니다. LFM3 출시 발표와 모델 제품군 개요를 참조하세요.

공식 체크포인트	주요 입력 / 출력	공개된 세부 정보	로컬 배포 시 유의 사항
LFM3-1.7B	텍스트 입력, 텍스트 출력, 구조화된 응답 및 도구	매개변수 1.73B; 컨텍스트 256K	가중치는 작지만, 컨텍스트와 동시 처리량은 별도로 산정해야 합니다.
LFM3-VL-2B	텍스트, 이미지 및 비디오를 텍스트로	총 1.92B; 컨텍스트 128K	비전 인코더, 이미지 토큰 및 비디오 프레임은 비용을 높입니다.
LFM3-Audio-2B	오디오/텍스트를 텍스트 또는 음성으로 변환	약 2B, 32K 컨텍스트, 지원되는 음성 언어 18개	오디오 프런트엔드, 디코더 및 지연 시간은 텍스트 가중치와 별개입니다.
LFM3-Omni-2B	멀티모달 입력을 텍스트/음성으로 변환	비전/오디오/텍스트 공유 경로	옴니 전용 체크포인트와 지원되는 런타임이 필요합니다.
d1-2B / d1-omni-2B	보정된 의사결정 결과	VL/Omni 모델을 기반으로 특화	일반적인 채팅이 아니라 의도한 의사결정 작업에 맞춰 평가하세요.

LFM3 가중치는 LFM Open License v1.0을 따릅니다. 정확한 표현은 ‘오픈 가중치’입니다. OSI 오픈소스 소프트웨어 라이선스로 간주하지 말고, 배포 및 상업적 사용 목적에 맞는지 실제 라이선스를 확인하세요. 모델 카드에는 개별 한계가 명시되어 있으며, 여기에는 소형 텍스트 모델이 복잡한 다단계 추론이나 에이전트형 코딩에는 권장되지 않는다는 내용도 포함됩니다.

트라이 하이브리드 아키텍처는 엣지 기기에 왜 중요할까요?

공식 텍스트 모델 카드에 따르면 1.73B 텍스트 백본은 24개 레이어로 구성됩니다. 게이트형 단기 컨볼루션 레이어 13개, 슬라이딩 윈도우 어텐션 레이어 5개, 글로벌 어텐션 레이어 6개입니다. 이 연산들을 혼합하면 모든 레이어에서 모든 토큰을 완전한 글로벌 어텐션처럼 처리할 필요가 줄어들면서도 어느 정도의 전역 컨텍스트를 유지할 수 있습니다. 이는 지연 시간과 메모리 효율을 위한 설계 선택이지, 긴 프롬프트 처리 비용을 없애 주는 것은 아닙니다.

Liquid AI는 22조 개의 토큰으로 학습했다고 보고하며, 이전 LFM 모델보다 매개변수당 품질이 높다고 주장합니다. 이 수치는 개발사가 보고한 결과이며, 독립적으로 검증된 홈 NAS 벤치마크로 해석해서는 안 됩니다. 아키텍처 개선은 대략 2B급 모델이 정보 추출, 가벼운 질의응답 및 도구 라우팅에 유용할 수 있는 이유를 설명해 주지만, 모델의 성능은 여전히 작업의 난이도, 프롬프트 및 외부 검색에 따라 달라집니다.

LFM3 텍스트, 비전, 오디오 및 옴니 체크포인트와 각 체크포인트의 컨텍스트 한도를 구분한 다이어그램 — 그림 1. LFM3의 공유 백본은 텍스트, 비전, 오디오 및 옴니 체크포인트로 나뉩니다. GGUF 파일 하나가 모든 모달리티를 제공한다고 가정하지 마세요. 2026년 10월 27일 공식 모델 카드를 바탕으로 제작한 ZimaSpace 편집 다이어그램.

실제로 필요한 RAM, VRAM 및 저장 공간은 얼마나 될까요?

투명한 계산은 다음과 같습니다. 1.73B × 4비트 / 8 ≈ 0.865GB의 이상적인 원시 가중치 용량입니다. 양자화 메타데이터와 파일 패키징으로 용량은 더 커지므로, Liquid AI는 4비트 텍스트 모델의 크기를 약 1GB라고 설명합니다. 하지만 모델을 실행하려면 컨텍스트 상태, 실행 버퍼, 메모리 할당자와 애플리케이션 오버헤드도 필요합니다. 실행 중인 시스템의 메모리 사용량은 파일 크기보다 훨씬 클 수 있습니다.

이 구성은 신중한 테스트용 설정이며, 공식 모델 최소 사양이나 보장된 초당 토큰 수를 의미하지 않습니다. 대규모 동시 작업이 없고 여유 스토리지가 충분한 상태에서 4비트 텍스트 체크포인트 하나를 사용하는 경우를 가정합니다.

호스트 등급	합리적인 첫 테스트	주요 제약 사항
RAM 8 GB, CPU 전용	텍스트 GGUF, 4K 컨텍스트, 사용자 한 명	CPU 지연 시간과 NAS 서비스 간 리소스 경합.
RAM 16 GB, CPU 또는 지원되는 가속기	먼저 텍스트, 그다음 소규모 VL 테스트	멀티모달 전처리와 더 긴 컨텍스트에는 측정이 필요합니다.
적합한 GPU와 32 GB 이상 RAM	더 본격적인 VL/오디오 파이프라인 살펴보기	드라이버, 백엔드, 프로젝터/디코더 호환성 및 최대 메모리 사용량.
ZimaCube 2 또는 다른 공유 NAS	체크포인트와 프로젝트 데이터는 전용 스토리지에 보관하고, 추론 리소스는 별도로 산정하세요.	디스크 용량은 RAM, GPU 메모리 또는 메모리 대역폭을 대신할 수 없습니다.

공개된 256K 컨텍스트는 지원되는 모델 한도이지, 권장 시작 설정이 아닙니다. 대규모 프롬프트와 동시 세션이 있을 때 런타임은 훨씬 더 많은 상태를 유지할 수 있습니다. 파라미터 수에만 의존하지 말고 실제로 관찰한 리소스 사용량을 바탕으로 계획하려면 ZimaSpace 가이드에서 로컬 모델의 RAM 및 GPU 요구 사항과 전체 메모리 사용량을 기준으로 모델을 라우팅하는 방법을 확인하세요.

홈 NAS에는 어떤 LFM3 모델을 선택해야 할까요?

로컬 텍스트 채팅, 태그 지정, 정보 추출 및 가벼운 도구 라우팅에는 LFM3-1.7B가 가장 간편한 테스트 모델입니다. 스캔한 문서, 카메라 이미지 또는 시각 검사를 위한 모델로는 LFM3-VL-2B를 선택하세요. 모델 카드에 따르면 언어 백본 외에 164M 파라미터 비전 인코더와 25M 프로젝터가 포함됩니다. 공식 비전 모델 카드에는 비디오 샘플링과 프레임 제한도 명시되어 있습니다. 비디오 입력은 짧은 일반 텍스트 프롬프트를 읽는 것보다 비용이 많이 듭니다.

음성 상호작용에는 LFM3-Audio-2B를 사용하세요. 이 모델은 오디오 전용 시스템이며, 텍스트 GGUF의 무료 업그레이드 버전이 아닙니다. 다국어 음성, 음성 텍스트 변환 및 음성 응답을 지원하지만, 스트리밍 성능은 기기에 따라 다릅니다. 워크플로에서 여러 모달리티를 실제로 결합하고 해당 조합을 정확한 백엔드가 지원하는 경우에만 LFM3-Omni-2B를 선택하세요. 채팅, 비전 및 오디오 파이프라인을 호스팅하는 단일 GPU는 홈 GPU 멀티모달 가이드에서 설명하듯 동시 사용 시 최대 메모리를 고려해야 합니다.

llama.cpp로 LFM3-1.7B를 로컬에서 실행하는 방법

이 설정의 런타임 관련 내용은 텍스트 추론과 실험적인 실시간 음성 기능의 차이점이 포함된 llama.cpp 0.8.0 배포 가이드를 참조하세요.

재현 가능한 첫 점검을 위해 게시된 GGUF 저장소와 llama.cpp v0.8.0 또는 LFM3 호환 최신 빌드로 시작하세요. 이 예시는 공식 Q4_K_M 변형을 사용하고 서버를 루프백 주소에 바인딩하므로 모델 API가 인터넷에 노출되지 않습니다. Git, CMake, 호환 컴파일러가 설치된 Linux 호스트에서 실행하세요:

git clone https://github.com/ggml-org/llama.cpp.git
cd llama.cpp
git checkout v0.8.0
cmake -S . -B build
cmake --build build --config Release -j --target llama-server
./build/bin/llama-server \
  -hf LiquidAI/LFM3-1.7B-GGUF:Q4_K_M \
  -c 4096 --host 127.0.0.1 --port 8080

http://127.0.0.1:8080을 같은 머신에서 열거나, 터미널에서 서버를 테스트하세요:

curl -s http://127.0.0.1:8080/v1/chat/completions \
  -H 'Content-Type: application/json' \
  -d '{"model":"local","messages":[{"role":"user","content":"양자화를 세 문장으로 설명하세요."}],"max_tokens":128}'

OpenAI 호환 API의 정확한 모델 식별자는 서버 구성에 따라 다를 수 있습니다. 빌드에서 "local"을 거부하면 먼저 /v1/models를 조회하고 반환된 ID를 사용하세요. 기본 CPU 백엔드로 빌드하는 것이 안전한 시작점이며, GPU 가속을 사용하려면 적절한 백엔드를 선택해 테스트해야 합니다. 공식 GGUF 카드에는 Ollama와 LM Studio를 포함한 다른 런타임 옵션이 안내되어 있습니다. 이는 대체 런타임으로 간주하세요. 모든 ZimaOS 패키지에 이 정확한 모델 버전이 이미 포함되어 있다는 근거로 보아서는 안 됩니다.

나중에 비전 기능을 테스트하려면 문서화된 LFM3-VL GGUF 체크포인트를 사용하고 공식 비전 빠른 시작 가이드를 따라 해당 비전 프로젝터를 로드하세요. 임의의 명령어에서 텍스트 모델 이름만 바꾸면 이미지 입력이 작동할 거라고 가정하지 마세요.

배포가 성공했다고 판단하기 전에 무엇을 확인해야 하나요?

모델 식별: 다운로드가 완료됐는지만 확인하지 말고 선택한 GGUF 변형과 런타임 버전을 확인하세요.
리소스 한도: 유휴 상태, 프리필 중, 긴 프롬프트 처리 중의 상주 RAM/VRAM을 기록하고, ZimaOS와 다른 NAS 앱이 여유 리소스를 확보할 수 있는지 확인하세요.
지연 시간 및 품질: 대표적인 작업 5개로 프롬프트 처리, 초당 생성 토큰 수, 지시 따르기, 정확도를 벤치마크하세요.
개인정보 보호 범위: 로컬 API는 루프백 주소나 신뢰할 수 있는 사설 네트워크에서만 사용하세요. 다른 클라이언트에 접근을 허용해야 한다면 인증을 설정하고 신중하게 프록시를 구성하세요.
지속성: 다운로드한 모델 파일은 부팅 파티션과 분리된 곳에 저장하고, 변경할 수 없는 가중치와 쓰기 가능한 앱 상태를 명확히 구분하세요. 모델 파일과 런타임 상태 분리하기 및 로컬 LLM 배포 안전 가이드를 참고하세요.

데스크톱에서는 작동하지만 NAS에서 배포에 실패한다면 양자화된 모델 크기, 올바른 바인드 마운트, 사용 가능한 RAM, 백엔드 선택, CPU 명령어 호환성, 프로젝터, 컨텍스트 길이 등 전체 경로를 점검하세요. 모델 저장 경로 확인 체크리스트도 유용합니다.

자주 묻는 질문

LFM3는 완전한 오픈 소스인가요?

Liquid AI는 LFM Open License v1.0에 따라 오픈 웨이트를 공개합니다. 그렇다고 해서 해당 모델과 학습 구성 요소가 오픈 소프트웨어의 모든 정의를 자동으로 충족하는 것은 아닙니다. 배포물을 재배포하거나 수익화하기 전에 라이선스를 확인하세요.

CPU만 사용하는 PC나 NAS에서 LFM3를 실행할 수 있나요?

소형 GGUF 텍스트 모델은 운영 체제와 사용 가능한 RAM이 지원한다면 호환되는 llama.cpp CPU 백엔드에서 실행할 수 있습니다. 쾌적하게 사용할 수 있는지는 CPU 성능, 메모리 대역폭, 프롬프트 길이에 따라 달라집니다. 8GB는 공식 최소 사양이 아니라 실용적인 테스트 기준으로 보세요.

LFM3-1.7B는 이미지나 음성 입력을 지원하나요?

그렇지 않습니다. 이미지/동영상에는 LFM3-VL, 음성에는 LFM3-Audio를 사용하고, 여러 모달리티를 함께 사용해야 한다면 LFM3-Omni를 사용하세요. 각 모델마다 체크포인트와 런타임 종속성이 다릅니다.

4비트 모델이 1GB라면 RAM도 1GB만 있으면 되나요?

아니요. 이 수치는 양자화된 텍스트 가중치의 대략적인 크기를 나타냅니다. 서비스 프로세스에는 상태 정보, 런타임 버퍼, 토큰 캐시, 운영체제 사용량이 추가됩니다. 긴 컨텍스트와 여러 사용자가 만드는 차이가 이런 추가 사용량보다 더 클 수도 있습니다.

모든 LFM3 모델에서 256K 컨텍스트를 사용할 수 있나요?

아니요. 텍스트 모델은 256K, 비전 모델은 128K, 오디오 모델은 32K를 명시합니다. 지원되는 최대 길이라도 특정 8GB 기기에서 무리 없이 실행할 수 있다는 보장은 없습니다.

현재 ZimaCube 2 또는 ZimaOS에서 LFM3를 실행할 수 있나요?

선택한 하드웨어, 모델, 런타임이 서로 적합하다면 로컬 추론 스택은 기술적으로 실현 가능합니다. ZimaCube 2는 비공개 모델 스토리지, 문서 및 애플리케이션 서비스에도 유용합니다. 위의 확인 사항은 ZimaOS에 LFM3를 설치해 독립적으로 인증했다거나 처리량을 측정했다는 의미가 아닙니다.

최종 요약

LFM3는 작고 특화된 온디바이스 AI를 더 실용적으로 만들어 주지만, 눈길을 끄는 “2B 멀티모달”이라는 표현보다 체크포인트 선택이 더 중요합니다. 홈 서버에서 가장 쉽게 얻을 수 있는 첫 성과는 컨텍스트를 짧게 제한하고 작업 부하를 제어하는 4비트 LFM3-1.7B 텍스트 모델입니다. 비전과 음성은 해당 체크포인트와 런타임의 지원 여부를 확인하고, 측정 결과상 메모리가 충분할 때만 추가하세요.

ZimaSpace 환경을 구성할 때는 스토리지, 추론, 애플리케이션 액세스를 별개의 결정 사항으로 고려하세요. 더 강력한 기기에서 모델을 실행하더라도 홈 NAS에 모델 파일을 저장하고, 개인 문서를 보호하며, 로컬 워크플로를 조정할 수 있습니다. 훨씬 더 큰 오픈 웨이트 시스템에 관심이 있다면 Kimi K3 로컬 하드웨어 분석에서 파라미터 규모에 따라 메모리 한계가 얼마나 크게 달라지는지 확인할 수 있습니다.

출처 및 범위

2026년 10월 29일에 확인한 공식 자료: Liquid AI 출시 블로그, 제품군 개요, 텍스트 모델 카드, 비전 모델 카드, 오디오 모델 카드, llama.cpp v0.8.0 릴리스. 성능 관련 주장은 개발자들의 설명을 인용한 것이며, 여기 제시한 하드웨어 등급과 운영 권장 사항은 편집상의 추정치로, ZimaSpace 벤치마크 결과가 아닙니다.

표지 이미지: Liquid AI 공식 LFM3 출시 영상 썸네일.