ローカルコーディング向けRipple-65BとQwen3.8-27B：あなたのマシンに合うのはどっち？

ローカルのコーディングマシンでメモリ容量が限られている場合は、まず Qwen3.8-27B を選びましょう。ランタイムで約 39～46 GB の Ollama パッケージを配置でき、キャッシュ、オペレーティングシステム、コーディング用ハーネスのための余裕もあるなら、Ripple-65B Preview も候補になります。リポジトリのタスク完了数とメモリの負荷を比較してください。チェックポイントの規模が大きくても、ローカルのワークフローが自動的に速くなったり、便利になったりするわけではありません。

これはハードウェアとワークロードの比較であり、同じ手順を再現できます。モデルの特性は各開発者カードに基づいています。メモリの各段階は計画上の目安です。実測による直接比較で勝者を示しているわけではありません。対象のマシンがある場合は、そのマシンでのモデル配置、処理時間、タスク完了状況をもとに最終的に選んでください。

2 つのモデルの違いは？

Ricursive によると、Ripple は 80 層の 650 億パラメーターの高密度モデルで、BF16 版と NVFP4 版をダウンロードでき、最大約 100 万トークンのコンテキストに対応しています。Qwen3.8-27B は Qwen チームによる、より小型の高密度モデルです。同じ精度なら、パラメーター数の差によって重みの概算容量にも大きな差が生じます。アーキテクチャ、トークナイザー、画像対応、ランタイム、精度によっても、ワークロードのコストは変わることがあります。

これらの BF16 推定値にはオーバーヘッドが含まれていません。ディスク容量の計画には、実際にインストールされたファイルを使用してください。対応状況やアーティファクトの詳細については、Ripple 開発者カード、Qwen 開発者カード、Ollama Ripple モデル一覧をご覧ください。

24 GBまたは48 GBのグラフィックスカードには、どのサイズが収まりますか？

約39～46 GBのRipple Ollamaパッケージは、24 GBのディスクリートGPUには全量を収められません。ランタイムとホストRAMに余裕があれば、ホストへのオフロードでモデルを読み込める可能性があります。この方法では帯域幅とレイテンシが変わるため、明示的にテストしてください。より低精度の適切なQwenアーティファクトなら、目標のコンテキストサイズによっては、同じGPU上にキャッシュとランタイムのための十分な空き領域を確保できます。実際の量子化設定を確認し、詳しくはQwen3.8-27Bのデプロイガイドをご覧ください。

48 GBのカードなら、対応するコンパクトな精度設定でRippleを動かす現実味が増しますが、上限に近いサイズのパッケージでは余裕がほとんどありません。ランタイムが使う割り当て量を測定し、モデルの一部がホストRAMにひそかに移されていないか確認してください。大きなプロンプトや並列ワーカーもメモリを取り合います。短時間のチャットで一度収まっただけでは、ワークステーション購入の判断材料として不十分です。

ユニファイドメモリ搭載のMacでは何が変わりますか？

ユニファイドメモリはOS、GPU、その他のアプリケーションと共有されます。対応ランタイムで小さなコンテキストから始め、メモリ負荷とスワップを測定してください。64 GBのシステムは、小型のRippleアーティファクトを試す候補になります。96 GB以上のマシンなら、長いプロンプトや大きなツール出力を試す余裕が増えます。同じマシンでコードをビルドしたりバックグラウンドタスクを実行したりする場合、軽量モデルならより多くのリソースを確保できます。

対応バージョンのOllamaとMLXを使い、ダウンロードしたタグを正確に記録します。RippleのローカルセットアップガイドとFlash Nextの別のローカルメモリガイドを比較してください。Flash Nextの例は、パラメーター数だけからランタイム固有の最適化を推測できない理由を示しています。

テスト条件を混同せずに、コーディングの品質をどのように比較できますか？

固定したリポジトリのコミットに対し、同じ読み取り権限、テストコマンド、コンテキスト予算、最大試行回数を設定した1つのハーネスを使います。対応している場合は精度クラスを一致させ、完全に一致させられない場合は違いを記録します。既知のテストがある小規模なバグ修正、編集を行わないレビュータスク、不足情報を尋ねるのが正解となるケースの3つで、両方を実行します。

1. タスクのプロンプト、ベースラインのコミット、実行時のオプションを正確に保存します。
2. 最初のトークンが出るまでの時間、ピークメモリ、テストコマンドを含む総所要時間を測定しましょう。
3. テストを確認し、変更差分をレビューしましょう。テストに合格することは評価基準の一つであり、変更範囲とレビューのしやすさも考慮します。
4. タイムアウト、無効なツール引数、不要なファイル編集、未完了の試行を数えます。
5. ばらつきがわかる程度に十分な回数を繰り返し、生データを保存しましょう。

コールド実行とウォーム実行を分けて測定しましょう。モデルによって投機的デコーディングの効果が異なる場合は、それも設定の一部として記録してください。ハーネスのテスト時間をモデルの処理時間として扱ったり、別々に公開されたリーダーボードの数値を、自分のランナーで計測したかのように比較したりしないでください。

ストレージと推論を分けるべきなのはどんなときですか？

共有ストレージには、変更不可のリポジトリスナップショット、承認済みデータセット、完了したレポートを保存できます。ストレージやバックアップサービスに必要な容量を安定して確保するため、推論とチェックアウト用の一時領域は計算ホストに置きましょう。ネットワークマウントに頼る前に、ローカルSSDからのモデル読み込みを測定してください。書き込み可能な出力はソースファイルと分けてください。

日常的な作業を確実にこなせるなら、まず小さいモデルから始めましょう。必要なタスクではRippleも第2候補として試し、基準モデルが完了できなかった作業をこなせるか記録します。この比較は、理論上の最大コンテキストのためにメモリを増設するより、具体的な判断に役立ちます。

よくある質問

VRAMが24 GBの場合、どのモデルから始めるべきですか？

まず、適切な量子化方式とコンテキスト上限を備えたQwen3.8-27Bを確認しましょう。Rippleには、対応する分割方式か、ここで取り上げたOllamaパッケージより大幅に小さいモデルファイルが必要です。

65Bなら自動的にコーディング性能が上がりますか？

パラメータ数から、ハードウェア要件の一部がわかります。コーディング品質は、トレーニング、量子化、ツール、タスクにも左右されます。

サポートされる最大コンテキストでテストすべきですか？

タスクに必要なコンテキストを使いましょう。コンテキストを拡張する前に、プロンプト処理時間とピークメモリを記録してください。

モデルカードのスコアを比較できますか？

それぞれの評価方法を確認しましょう。共通のハーネス、入力、採点方法を使って、ローカル環境で直接比較できるようにします。

両方のマシンで使うモデルをNASに保存できますか？

ワークフローが対応していれば、ストレージとして利用できます。推論時の性能は、引き続きモデルの配置、読み込み動作、計算処理を担うホストに左右されます。

結論

メモリ使用量の少ない基準モデルとしてQwen3.8-27Bを使い、モデルの重みに加えて余裕を残せるマシンでRippleをテストしましょう。同じタスクを実行し、メモリ使用量、レイテンシ、完了した作業を総合的に評価します。適切なローカルモデルとは、ハードウェアだけでなく、ワークフローにも合うモデルです。