Grok 4.8は2.5Tモデルだが、新しいC++スタックこそがより大きな話題だ。

Grok 4.8はまだ一般公開されていませんが、イーロン・マスクはすでに、特に重要な2つの詳細を明らかにしています。2.5兆パラメーターのモデルであること、そしてxAIが新しいC++ソフトウェアスタックを使って学習させたことです。また、現在の学習段階を終えた後、モデルを強化学習に移行させるとも述べています。

2.5兆という数字は、ニュースの見出しを大きく飾るでしょう。しかし、C++スタックは最先端AIの進む方向について、さらに多くのことを示唆しているかもしれません。この規模では、より優れたモデルを実現するには、アーキテクチャや学習データだけでなく、何千ものアクセラレーターが通信し、障害から復旧し、データを移動し、チェックポイントを保存し、何週間、何か月にもわたって稼働し続ける効率も重要です。

Grok 4.8について、実際に何が分かっているのでしょうか？

公開情報はまだ限られているため、確認済みの情報と推測を区別することが重要です。

2026年9月20日時点で、xAIの公開モデルドキュメントには、引き続き汎用の主力モデルとしてGrok 4.6が記載されています。Grok 4.8の公開APIモデルページや技術レポートは、まだありません。

この違いが重要なのは、主要な学習段階を終えることと、完成したモデルをリリースすることは同じではないからです。

新しいC++学習スタックが、2.5兆パラメーターよりも重要かもしれない理由

xAIは当初から、インフラをモデル開発の一部として扱ってきました。同社のGrokエンジニアリングに関する当初の投稿では、JAX、Rust、Kubernetesを基盤とするカスタムの学習・推論スタックが紹介され、大規模なGPUクラスターでハードウェア障害が起きても稼働率を維持する難しさが強調されていました。

最先端規模の学習ソフトウェアには、ニューラルネットワーク自体をはるかに超える管理が求められます。

• GPUの使用率とスケジューリング
• アクセラレーター間の通信
• パラメーターとアクティベーションのシャーディング
• メモリー割り当て
• データの読み込み
• チェックポイントの保存
• 障害の検出と復旧
• 分散同期
• カーネルの実行
• 監視とテレメトリー

クラスターは理論上、膨大な計算能力を備えていても、アクセラレーターが通信、データ、同期、復旧を待つ時間が長すぎれば、その能力のかなりの部分が無駄になりかねません。

これが、Grok 4.8の新しいC++スタックに注目すべき本当の理由です。潜在的な優位性は、単に「C++はPythonより速い」ということではありません。より低レベルのカスタムスタックを使うことで、xAIが分散学習におけるコストのかかる処理を、より細かく制御できる可能性があります。

同じボトルネックの原則は、より小規模なローカルAIにも当てはまります。高性能GPUを搭載していても、メモリー、ストレージ、ネットワークへのアクセス待ちが発生することがあります。制約が計算、メモリー、ストレージ、ネットワークのどれにあるのかを把握するほうが、性能上の問題にはすべて大型GPUが必要だと思い込むよりも有益です。

C++ならAIトレーニングは自動的に高速化するのか？

いいえ。

最新のAIフレームワークでは、負荷の大きいテンソル演算のほとんどが、コンパイル済みのGPUカーネル、アクセラレーターライブラリ、グラフコンパイラーを通じて実行されます。Pythonは多くの場合、実際に行列乗算を実行するのではなく、高水準のインターフェースとして機能します。

C++での実装は、スケジューリング、メモリー管理、通信、チェックポイント処理、カスタムカーネル、障害復旧を改善できるなら、重要な意味を持つ可能性があります。しかし、xAIが新しいスタックのアーキテクチャを公開するまでは、具体的にどこから性能向上が得られるのかを論じても推測にすぎません。

xAIがJAXを完全に廃止したと判断するのも時期尚早です。Grok-1.5は、JAX、Rust、Kubernetesを使ったトレーニングフレームワーク上に明示的に構築されていました。Musk氏のGrok 4.8に関する発言から確認できるのは、新しいC++スタックが導入されたことだけで、以前のコンポーネントのどれが残っているかまでは分かりません。

2.5兆パラメーターとは実際には何を意味するのか？

数値だけを見ると驚異的ですが、総パラメーター数と有効なパラメーター数は同じではありません。

Grok 4.8が密モデルなら、推論中にこれらのパラメーターの大半、あるいはすべてが使われる可能性があります。Mixture-of-Expertsアーキテクチャなら、トークンごとに有効化されるのはその一部だけかもしれません。

xAIはGrok 4.8がどのアーキテクチャを採用しているか公表していません。

Grok-1を見ると、この違いが重要な理由が分かります。公式Grok-1リポジトリによると、以前のモデルは次の仕様でした。

これは、Grok 4.8が同じアーキテクチャを使用していることを証明するものではありません。「2.5Tパラメーター」という情報だけでは、推論コスト、必要なメモリ、トークンごとの実効計算量が分からない理由を示しています。

xAIがモデルアーキテクチャを公開するまでは、いくつかの疑問が残ります。

• Grok 4.8は密モデルですか、それともMoEですか？
• エキスパートはいくつ含まれていますか？
• トークンごとにいくつが有効化されますか？
• アクティブなパラメーター数はいくつか？
• 2.5Tという数値のうち、マルチモーダルコンポーネントに当たるのはどのくらいか？

これは、パラメーターの総数だけでフロンティアモデルを比較すべきでない、最も重要な理由の一つです。

2.5Tのモデルなら自動的に知能も高いのか？

いいえ。パラメーター数が示すのはモデルの能力の潜在力であり、完成した性能ではありません。

実環境での性能は、次の要素にも左右されます。

• モデルアーキテクチャ
• トレーニングデータの品質
• データの混合比
• 最適化の安定性
• 事後学習
• 強化学習
• ツールの使用
• テスト時の計算
• サービングと推論の設計

xAIの最近のリリースを見ると、事後学習がいかに重要になったかがすでに分かります。Grok 4.5の発表で、xAIはモデルサイズだけを改善の源として示すのではなく、数十万件のタスクにわたる強化学習と、長時間に及ぶエージェント型ロールアウトを強調しました。

つまり、重要なのは次の問いではありません。

Grok 4.8の規模はどれくらいか？

それは次の点です。

xAIはその能力を、推論、コーディング、ツール使用、信頼性の高いエージェントの振る舞いにどれだけ効果的に活用できるのでしょうか？

Grok 4.8の「RL開始」とは何を意味するのか？

強化学習への移行は、Grok 4.8が間もなくリリースされることを意味するわけではありません。

フロンティアモデルでは、主要なトレーニング実行後にも、次のような相当量の作業が必要になる場合があります。

• 強化学習とその他の事後学習
• 指示追従の最適化
• エージェントとツール使用のトレーニング
• 安全性と能力の評価
• サービングの最適化
• レイテンシーとメモリのチューニング
• APIと製品への統合

基盤となるパラメーター数が変わらなくても、RLはモデルの振る舞いに大きな影響を与えることがあります。

モデルには難しいコーディング問題を解くのに十分な知識があっても、早まって処理を終えたり、誤ったツールを選んだり、手順を重ねすぎたり、自分の作業を検証できなかったりすると、エージェントとしての性能は低くなることがあります。

xAIの現在の方向性を踏まえると、これは特に重要です。Grok 4.6は、長時間動作するエージェント、コーディング、ナレッジワークを明確に重視しており、その公式発表では、複数のステップにまたがるタスクを継続して遂行する能力が強調されています。

そのため、Grok 4.8では、ユーザーが最終的に体験する内容を左右するうえで、RLフェーズも2.5T規模の事前学習とほぼ同じくらい重要になる可能性があります。

フロンティア規模でトレーニングソフトウェアが競争優位性となる理由

トレーニングの規模が大きくなるほど、小さな非効率性のコストも高くなる。

xAIの当初のGrokインフラは、ハードウェア障害が発生しても、有効電力あたりの有用な計算量を最大化し、Model FLOP Utilizationを高く保つことを明確に重視していました。

これにより、Grok 4.8のC++スタックをより有用な観点から捉えられます。

最先端AI研究所は、モデル設計だけでなく、同じ高価なハードウェアからどれだけ有用な知能を引き出せるかでも、競争を強めています。

規模はまったく異なるものの、その原則は驚くほどローカルAIに似ています。ローカルシステムでも、やみくもにハードウェアを増やすのではなく、各ワークロードに適したリソースを割り当てることで、同様のメリットが得られます。

Grok 4.8はローカルで実行できますか？

現時点では、Grok 4.8をローカルで実行できると言える根拠はありません。

xAIは次のものを公開していません。

• Grok 4.8の重み
• モデルアーキテクチャ
• アクティブなパラメーター数
• 量子化済みチェックポイント
• ローカルハードウェアの要件
• セルフホスティングの手順

モデルが密（dense）か疎（sparse）かが分からなければ、2.5Tという数値だけでは意味のあるVRAM推定はできません。

この点で、Grok 4.8は、量子化してコンシューマー向けハードウェアに移せるオープンモデルとは大きく異なります。現時点では、集中型の最先端コンピューティング側に位置します。

だからといって、ローカルAIが無関係になるわけではありません。ワークロードの分離がより重要になります。

2.5Tの最先端モデルがローカルAIの価値をさらに高める理由

最先端AIとローカルAIは、相反する制約に向けてますます最適化されています。

ローカルユーザーにとって重要なのは、7B、14B、30BのモデルがGrok 4.8を総合的に上回れるかどうかではありません。

重要なのは、現在のタスクにGrok 4.8クラスの知能が本当に必要かどうかです。

そのため、最先端システムが大規模化するほど、ハイブリッドAIとモデルルーティングの有用性が高まります。定型的な処理、プライベートな処理、繰り返し行う処理はローカルで実行し、難しいケースは最先端APIに回せます。

たとえばプライベートAIアシスタントなら、あらゆる処理で最強のクラウドモデルを必要とすることなく、検索、ドキュメントへのアクセス、メモリ、軽量な推論をローカルファイルの近くで行えます。

プライバシーの境界も重要です。メインのLLMが自宅で動作するだけでは、システムが真にローカルだとは言えません。埋め込み、認証、ルーティング、ツール呼び出しがリモートサービスに依存している可能性もあります。真にオフラインで使えるAIワークフローを実現するには、依存関係の全体をローカルで完結させる必要があります。

Grok 4.8の本質はインフラの物語

Grok 4.8が公開されれば、注目の大半はおそらく、ベンチマークのスコア、コーディングの結果、推論テスト、他の最先端モデルとの比較に集まるでしょう。

しかし、こうした数字が明らかになる前から、同社のインフラに関する方針はすでに見えていました。

xAIは当初、JAX、Rust、Kubernetesを用いた独自のスタックを構築しました。同社はこれまで、GPU障害、チェックポイント、同期、ワットあたりの有効な計算量、Model FLOP Utilizationを重視していると公に説明してきました。現在、Musk氏によると、2.5兆パラメーターのモデルを新しいC++ソフトウェアスタックでトレーニングしています。

これは、競争の最前線がインフラの領域へさらに移っていることを示唆しています。

xAIにとっての課題は、膨大な計算リソースから、より有益なトレーニングを引き出すことです。

ローカルAIのユーザーにとって、より有益なのは逆の問いです。そもそも、どれだけの計算処理を使わずに済ませられるでしょうか？

最適なローカルシステムとは、2.5兆パラメーターの最先端モデルを自宅で再現しようとするものではないかもしれません。日常的な作業はローカルで行い、可能な限り特化型モデルを使い、追加の能力によって結果が本当に変わるときだけ最先端のAIを利用するシステムかもしれません。