최신 블로그
llama.cpp 0.8.0: 새로운 모델, 실시간 음성, 로컬 AI 기능
llama.cpp 0.8.0은 LFM3 및 기타 모델 아키텍처 지원, 실험적인 실시간 오디오 API, TTS 지원, 서버 및 메모리 개선 사항을 추가했습니다. 이 가이드에서는 검증된 릴리스 변경 사항과 배포 한계를 구분한 다음, 재현 가능한 로컬 검증 워크플로를 소개합니다.
Liquid AI LFM3 설명: 2B 멀티모달 모델을 로컬에서 실행할 수 있을까?
Liquid AI의 LFM3는 경량 오픈 웨이트 텍스트, 비전, 오디오 및 옴니 모델 제품군입니다. 1GB 4비트 텍스트 모델의 실제 메모리 사용량, RAM 용량 산정 방법, llama.cpp로 LFM3를 로컬에서 실행하는 방법과 홈 NAS 배포 시 마주하는 현실적인 한계를...





