Ripple-65B Previewをローカルで実行する：RAM、VRAM、コーディングエージェントのセットアップ

Eva Wong

IceWhale author

Eva Wong は テクニカルライター であり、 生粋の技術好き としてZimaSpaceで活動しています。ホームラボやオープンソースソフトウェア をこよなく愛する生粋のギークで、複雑な技術概念をわかりやすく、実践的なガイドにまとめることを得意としています。Evaは、セルフホスティングは難しいものではなく、楽しむものだと考えています。チュートリアルを通じて、初めてのNAS構築からDockerコンテナの使いこなしまで、コミュニティがハードウェアのセットアップをわかりやすく理解できるよう 支援しています。、初めてのNAS構築からDockerコンテナの習得まで。

Run Ripple-65B Preview Locally: RAM, VRAM, and Coding Agent Setup - Zima Store Online

Ripple-65B Previewはローカルで実行できますが、実用的な出発点となるのは、約39～46 GBのOllamaパッケージに加えて、ランタイム、キャッシュ、OSを収容できる十分なメモリを備えたマシンです。24 GBのグラフィックスカードでは、そのパッケージ全体をVRAMに収めることはできません。64 GBのユニファイドメモリを搭載したマシンは、選択したタグや実際のメモリ負荷によりますが、短いコンテキストで試す候補になります。メモリ容量に余裕があれば、コーディングエージェントがファイル、テスト出力、会話履歴をより多く保持できます。

Ricursive Intelligenceはこの65BのDenseモデルをApache 2.0ライセンスで公開し、BF16とNVFP4の重みを提供しています。Ollamaはv0.40.16でRipple Previewを追加しました。このガイドでは、まずマシンとランタイムの選び方を説明し、次に実際のコーディング作業をテストする方法を紹介します。以下のメモリ容量の目安は計画上の判断です。公開されたベンチマーク結果は別途明記しています。

似た名前のコーディングエージェントとRippleの違いは何ですか？

Rippleはモデルです。編集内容やツール呼び出しを提案できますが、実際にアクセスできるファイルやコマンドはコーディングハーネスが制御します。モデルをリポジトリと同じネットワーク上で実行しても、Gitへのアクセス権が与えられるわけではありません。ワークスペースのマウント方法、テストの実行方法、承認の求め方はハーネスが決定します。この違いは、Ollamaのチャットセッションとターミナルベンチマークを比較する際に重要です。

公式モデルカードによると、これはゼロから学習された65BのDense Transformerで、80層を持ち、最大1,048,576トークンに対応しています。Denseアーキテクチャでは、生成するすべてのトークンの処理にモデル全体を使用します。チェックポイントがメモリに収まる場合でも、メモリ帯域幅と実効的な重みの精度が重要です。Ricursiveは独自のテスト環境でTerminal-Bench 2.1のスコア80.52を報告しています。別のランナー、量子化方式、ハーネスでは結果が変わることがあります。ベンチマークとアーキテクチャの詳細はリリースレポートをご覧ください。

Ripple-65B Previewのリリース記事に記載されたRicursive Intelligenceの数値。元の情報源

必要なRAMまたはVRAMはどれくらい見積もればよいですか？

パラメータあたり2バイトの場合、650億パラメータの重みデータには、ランタイムのオーバーヘッドを除いて約130 GBのストレージが必要です。これは10進法のGBによる計算であり、実測された割り当て量ではありません。同様に、4ビットを掛けて求めた値は、スケール、高い精度のまま保持されるテンソル、パッケージのメタデータを含まない、パック済み重みの大まかな下限です。ダウンロード容量の見積もりには実際のアーティファクトのサイズを使い、マシンに必要なメモリの判断にはランタイムのテレメトリを使ってください。

セットアップ	最初に試す構成	実用性を左右する主な要素
24 GBのディスクリートGPU	ホストRAMとGPUに分割して配置する構成を試すか、GPUに完全配置するなら、より小さなモデルを選んでください。	オフロードのサポート、ホストRAM容量、メモリ帯域幅。
48 GBのVRAM	正確な量子化済みアーティファクトを確認し、短いコンテキストから始めてください。	ランタイム、アロケーター、KVキャッシュが、重みデータを除いた残りのメモリを消費する場合があります。
64 GBのユニファイドメモリ	対応するOllamaパッケージを試し、セッション1つ、短いコンテキストで実行してください。	OSのメモリ負荷、GPUメモリの上限、継続的なスワップが発生しないことを確認してください。
96～128 GBのユニファイドメモリ、または大容量メモリのワークステーション	コンテキストとツール用に、さらに余裕を確保してください。	ランタイムとベンチマークでは、想定されたアクセラレータとワークロードを使用する必要があります。

NVIDIA NVFP4リリースとOllamaのタグは、別々のアーティファクトです。この形式を選ぶ前に、公式NVFP4カードを確認し、対象となるサービングスタックとGPUアーキテクチャを確かめてください。マルチGPUホストでは、このチェックポイントの分割に明示的に対応したランタイムも必要です。2基のGPUの公称容量を足し合わせても、モデルが収まる、あるいは効率よく動作するとは限りません。

どのローカルランタイムを選べばよい？

最も手軽なのは、Ollamaのモデル一覧とv0.40.16または互換性のある新しいバージョンを組み合わせて使う方法です。ダウンロード前に、一覧で最新のタグ、パッケージサイズ、プラットフォームに関する注意事項を確認してください。簡単に試すには、次を実行します。

ollama run ripple-preview
ollama ps

最初のコマンドは、必要に応じてモデルをダウンロードしてセッションを開始します。2つ目のコマンドでは、配置状況と読み込まれたコンテキストを確認できます。Appleシリコンでは、このリリースにRipple向けの専用MLXパスが含まれています。開発者のNVIDIA環境での結果を再現したい場合は、モデルカードの最新手順に従い、サービング構成全体を記録してください。形式ごとの結果を比較するには、カーネル、精度、ドラフトデコードの違いを考慮する必要があります。

モデルの保存領域、一時ダウンロード用の領域、チェックアウト、テスト生成物のために空きを確保してください。ストレージやバックアップも稼働しているホストでは、実際にランナーのキャッシュが保存されるドライブを確認してください。公称のモデルサイズに余裕があるように見えても、SSDの空き容量がほとんどないと、初回のダウンロードが中断されることがあります。

ローカルマシンで100万トークンのコンテキストとは何を意味しますか？

それはチェックポイントがサポートするコンテキストの長さであって、最初に設定すべき実用的な値ではありません。コーディングエージェントは何百ものファイルやシェル出力、前の会話をモデルに再入力することがあります。その入力によってキャッシュの割り当てが増え、最初のトークンが生成されるまでの時間も長くなります。ハーネスが古いログを繰り返し送信すると、長いプレフィックスによってフィードバックのサイクルも遅くなります。

意図的に小さな入力と1つのタスクから始めます。リポジトリのスナップショットを固定し、モデルの読み込み後と、最も長いプロンプトの処理が終わった時点でピークメモリを記録してから、コンテキストを一段階ずつ広げます。実際の常駐メモリまたはユニファイドメモリの使用状況を監視し、スワップが継続的に発生していないか確認してください。コンテキストを増やす前に、不要なテストログを削除します。このローカルでのQwen3.8-27B導入ガイドにあるトレードオフは、より軽量なモデルの基準として役立ちます。

実際のコーディングセッションはどのようにテストしますか？

使い捨てのチェックアウトを作成し、範囲を限定したタスクを選びます。失敗しているテストの説明、関連ファイルの特定、パッチの提案などです。合成データまたは承認済みのリポジトリデータのみを使用してください。ハーネスには読み取り可能なファイルの一覧と、ローカルで実行できるテストコマンドの短い許可リストを渡します。結果を信頼する前に、差分を確認し、独立してテストを実行してください。このGit worktreeのガイドでは、メインのチェックアウトと実験を分けて管理する方法を説明しています。

最初に役立つ回答が出るまでの時間、プリフィル後の生成速度、ピークメモリ、提案された変更がテストに合格するかを記録します。失敗した試行や途中で打ち切られた試行も比較に含めてください。モデルが使いものにならないパッチをもっともらしく生成するのに5分かかった場合、ピークのトークン毎秒だけでは問題を見落とします。もう1つ役立つタスクは、ファイルを編集せずに小さな差分をレビューすることです。同じマシンがリスクの低いレビュー作業にも役立つかどうかがわかります。

ローカルで65Bモデルを使う価値があるのは、どのような場合ですか？

Rippleは、十分な実行余力があり、そのコーディング特性が活きるワークロードに取り組む場合に使いましょう。制約のあるデスクトップでは、アクセラレーターのメモリに収まる小型チェックポイントのほうが、日常的に快適に使えることがあります。長時間の実行は、短い質問とは別に考える必要があります。エージェントのセッション中は、帯域幅、スワップ、バックグラウンドのストレージ通信が積み重なります。

NASにリポジトリのスナップショットや結果を保存する場合は、ストレージサービスをモデルの計算予算から切り離しておきましょう。ジョブに必要な入力だけをマウントし、書き込み先には実験用ディレクトリを指定してください。より大規模な比較対象については、Kimi K3のローカル実行に必要なメモリ量を左右する要因をご覧ください。

よくある質問

RippleにはNVIDIA GPUが必要ですか？

ローカルでの実行方法すべてに、特定のGPUベンダーが必須というわけではありません。OllamaにはAppleシリコン向けのMLX経路があります。NVIDIA向けの精度設定と高速化の手順は、モデル開発者が指定する対応NVIDIAスタックに適用されます。

RTX 4090でモデル全体を読み込めますか？

前述のOllamaパッケージは、推論時のオーバーヘッドを考慮する前から、24 GBのVRAM予算を超えています。CPUオフロードは別の構成であり、性能特性も異なります。

ダウンロードサイズは最大メモリ使用量と同じですか？

いいえ。ランタイム、アロケーター、ツールのプロセス、アテンションキャッシュ、オペレーティングシステムがすべて、最大メモリ使用量に影響します。ダウンロードサイズは、ディスク容量を計画する際の参考になります。

公称の最大コンテキスト長を最初の設定にすべきですか？

タスクを完了できる最短のコンテキストから始め、長くしながらプリフィル時間とメモリ使用量を測定しましょう。コンテキストの全長に対応しているからといって、ローカルで実用的なスループットが得られるとは限りません。

Terminal-Benchは自分のリポジトリでの性能の目安になりますか？

開発者の評価を理解するために参考にし、そのうえで固定のハーネス、制限、ランタイムを使ってご自身のワークロードをテストしましょう。報告されているベンチマーク結果が、ローカル環境で必ず再現されるとは限りません。

結論

正確なOllamaタグまたは開発者がサポートするNVIDIA形式から始め、重みファイルの容量に余裕を加えたうえで、範囲を限定したタスクを1つ試しましょう。Ripple-65B Previewによって、ローカルで使えるコーディングモデルの選択肢が広がります。お使いのハードウェアでどれだけ役立つかは、メモリとレイテンシの予算内で有用な作業を完了できるかどうかによって決まります。