LFM2.5-24B-A2Bを解説:ローカルAIエージェントにおける総パラメータ数とアクティブパラメータ数の意味

エヴァ・ウォン は テクニカルライター であり ZimaSpaceの常駐ティンカーでもあります。 生涯のオタクであり、 ホームラボとオープンソースソフトウェアに情熱を持っています。彼女は複雑な技術的概念をわかりやすく、 実践的なガイドに翻訳することを専門としています。エヴァはセルフホスティングは楽しくあるべきで、怖がるものではないと信じています。彼女のチュートリアルを通じて、コミュニティが ハードウェアのセットアップを解明する手助けをしています。初めてのNAS構築からDockerコンテナの習得まで。

LFM2.5-24B-A2Bは、総パラメータ数240億、1トークンあたりのアクティブパラメータ数約20億のMixture-of-Experts(MoE)推論モデルです。アクティブパラメータ数が少ないことは計算設計の参考になりますが、チェックポイントのメモリ要件が20億パラメータ分になるわけではありません。ストレージ容量とサービング能力は、モデル全体のファイルと実行環境を基準に計画してください。

ホームサーバー上のエージェントにとって有用なのは、適切なコンピューティング環境でモデルをローカル運用し、ツールの権限を厳密に限定することです。ZimaSpaceストレージには元のファイルと確認済みの結果を保存し、推論は適切なワーカーで実行できます。モデルをローカルで実行することは、エージェントのデータ送信先を管理するための一要素にすぎません。

総パラメータ数とアクティブパラメータ数の違いは?

用語 意味
総パラメータ数:240億 モデルの全パラメータ
アクティブパラメータ数:20億 1トークンの計算に使われるパラメータのおおよその数
重みの表現形式 精度と量子化によるデータ容量への影響
コンテキストと同時実行数 重み以外に必要となるサービング時の追加リソース
エージェントの実行 独立したツール実行ループと権限の境界

Mixture-of-Experts(MoE)ルーティングによって、モデルのどの部分がアクティブになるかが変わります。ただし、すべてのサービング実装がアクティブな部分だけを保存するという意味ではありません。

Liquid AIがエージェント処理で重視していることは?

リリース情報とドキュメントでは、ツールの使用や複数ステップのタスク向けに訓練された推論モデルとして説明されています。サポート対象のモデルはエージェントハーネスに組み込めますが、ツールを定義し、引数を検証し、許可する操作を決める実行環境が別途必要です。

ハーネスの準備ガイドを参考に、推論モデルとファイル、ブラウザー、ターミナルへのアクセスを区別しましょう。チャットの成功例だけでは、自律的なツール実行ループが機能することの証明にはなりません。

必要なメモリの目安は?

実際の重みファイルと、サポートされているサービング方法から確認しましょう。理想的な計算では、240億個の16ビット重みは約48 GB(10進表記)、4ビット重みは約12 GB(10進表記)になります。これは重みデータの例であり、インストール要件ではありません。メタデータ、非量子化コンポーネント、バッファ、コンテキスト、実行時のオーバーヘッドが総容量に加わります。

メモリと実行環境のガイドでは、その出発点を実現可能な構成にする方法を説明しています。アクティブパラメータ数や理想的なビット計算だけを基準に、ハードウェアを購入しないでください。

ローカル推論なら、エージェントのすべての処理がプライベートに保たれますか?

ワークフローの残りの部分も意図した境界内に収まる場合に限ります。リモート検索、外部ツール、クラウド上のログ記録、フォールバックモデルによって、コンテンツが送信されることがあります。ネットワーク上で広く公開されたローカルサービスも、ファイルの利用に必要な範囲を超えてアクセスを拡大するおそれがあります。

エージェント権限チェックリストとNAS上のドキュメントのデータ管理ガイドに従ってください。ワーカーの入力フォルダーを必要最小限にし、出力先は元のファイルと分けてください。

最初に何を評価すべきですか?

ハードウェアとランタイムが対応するアーティファクトを選び、短いテキストタスクを実行してから、制約を設けたツールタスクを1つ実行してください。最終回答、ツールの引数、リソース使用量、実用的な結果が得られるまでの時間を確認します。正確なリビジョンと設定をメモとともに保存してください。

API経由の利用も選択肢に入る場合は、LFM2.5とDeepSeek APIの比較をご覧ください。実際の要件を満たす推論方式にかかわらず、ZimaCube 2をストレージレイヤーとして利用できます。

よくある質問

アクティブなパラメータが2Bなら、2Bの密なモデルと同じメモリで済みますか?

いいえ。アーティファクト全体、サービング方式、コンテキスト、ランタイムのオーバーヘッド、同時実行数を考慮してください。

理想的な4ビット重みの計算値は、RAM要件の全体を示していますか?

いいえ。量子化メタデータ、ほかの精度で保持されるコンポーネント、バッファ、その他のサービング用メモリは含まれません。

モデルは自動的にNASにアクセスできますか?

いいえ。ファイルツールやマウント、およびそれらの権限は、クライアントまたはハーネスが用意する必要があります。

ローカルモデルでも、プライベートなデータを外部に送信することはありますか?

はい。外部ツール、フォールバックサービス、ログ、後続の処理ステップによって、コンテンツが送信されることがあります。

関連記事

出典

カバー画像:Liquid AI LFM2.5-24B-A2Bの公式発表画像。画像の出典。

テック&AIハブ

もっと読む

Get More Builds Like This

Stay in the Loop

Get updates from Zima - new products, exclusive deals, and real builds from the community.

Stay in the Loop preferences

We respect your inbox. Unsubscribe anytime.