最新ブログ

llama.cpp 0.8.0では、LFM3などのモデルアーキテクチャ、実験的なリアルタイム音声API、TTSサポート、サーバーとメモリの改善が追加されました。このガイドでは、確認済みのリリース内容と導入時の制約を分けて説明し、再現可能なローカル検証手順を紹介します。

Liquid AIのLFM3は、コンパクトなオープンウェイトのテキスト、ビジョン、オーディオ、オムニモデルのファミリーです。1 GBの4-bitテキストモデルのフットプリントが実際に何を意味するのか、RAMの容量をどう見積もり、llama.cppでLFM3をローカル実行する方法、そして家庭用NASでの運用にどのような実用上の限界があるのかをご紹介します。