Grok 4.8 is een model van 2,5T - maar de nieuwe C++-stack is het grotere verhaal.

Grok 4.8 has not been publicly released, but Elon Musk has already revealed two unusually important details: it is a 2.5-trillion-parameter model, and xAI trained it using a new C++ software stack. He also said the model would move into reinforcement learning after its current training phase.

Het getal 2,5 biljoen zal de meeste aandacht trekken. De C++-stack vertelt mogelijk meer over de toekomst van frontier-AI. Op deze schaal zijn betere modellen niet alleen afhankelijk van architectuur en trainingsgegevens, maar ook van hoe efficiënt duizenden accelerators communiceren, herstellen van storingen, gegevens verplaatsen, checkpoints opslaan en weken- of maandenlang actief blijven.

Wat weten we eigenlijk over Grok 4.8?

De openbare informatie is nog beperkt. Daarom is het belangrijk bevestigde details van speculatie te onderscheiden.

Op 20 september 2026 vermeldt de openbare modeldocumentatie van xAI Grok 4.6 nog steeds als het vlaggenschipmodel voor algemene doeleinden. Grok 4.8 heeft nog geen openbare API-modelpagina of technisch rapport.

Dat onderscheid is belangrijk, want een belangrijke trainingsfase afronden is niet hetzelfde als een voltooid model uitbrengen.

Waarom de nieuwe C++-trainingsstack mogelijk belangrijker is dan 2,5 biljoen parameters

xAI beschouwt infrastructuur vanaf het begin als onderdeel van modelontwikkeling. In de oorspronkelijke engineeringpost over Grok beschreef het bedrijf een aangepaste trainings- en inferentiestack op basis van JAX, Rust en Kubernetes. Ook benadrukte het hoe moeilijk het is om grote GPU-clusters productief te houden ondanks hardwarestoringen.

Op het niveau van frontiermodellen moet trainingssoftware veel meer beheren dan alleen het neurale netwerk zelf.

• GPU-benutting en planning
• communicatie tussen accelerators
• sharding van parameters en activaties
• geheugentoewijzing
• gegevens laden
• checkpointing
• foutdetectie en herstel
• gedistribueerde synchronisatie
• kerneluitvoering
• monitoring en telemetrie

Een cluster kan enorm veel theoretische rekenkracht hebben en toch een aanzienlijk deel daarvan verspillen als accelerators te veel tijd besteden aan wachten op communicatie, gegevens, synchronisatie of herstel.

Dit is de echte reden waarom de nieuwe C++-stack van Grok 4.8 interessant is. Het mogelijke voordeel is niet simpelweg dat “C++ sneller is dan Python”. Een aangepaste stack op een lager niveau kan xAI juist meer controle geven over de kostbare onderdelen van gedistribueerde training.

Hetzelfde principe van knelpunten speelt ook op veel kleinere schaal bij lokale AI. Een systeem kan een krachtige GPU hebben, maar toch moeten wachten op geheugen, opslag of netwerktoegang. Het is nuttiger om vast te stellen of de beperking zit in rekenkracht, geheugen, opslag of het netwerk dan ervan uit te gaan dat elk prestatieprobleem een grotere GPU vereist.

Maakt C++ AI-training automatisch sneller?

Nee.

Moderne AI-frameworks voeren de meeste zware tensorbewerkingen al uit met gecompileerde GPU-kernels, acceleratorbibliotheken en grafiekcompilers. Python fungeert vaak als een interface op hoog niveau en voert niet zelf de matrixvermenigvuldiging uit.

Een C++-implementatie kan van belang zijn als die de planning, het geheugenbeheer, de communicatie, het maken van checkpoints, aangepaste kernels of herstel na storingen verbetert. Maar totdat xAI de architectuur van zijn nieuwe stack publiceert, zijn uitspraken over waar de winst precies vandaan komt speculatie.

Het is ook te vroeg om te zeggen dat xAI JAX volledig heeft laten vallen. Grok-1.5 is expliciet gebouwd op een trainingsframework met JAX, Rust en Kubernetes. Musks uitspraak over Grok 4.8 bevestigt een nieuwe C++-stack, maar zegt niet welke oudere componenten zijn gebleven.

Wat betekent 2,5 biljoen parameters eigenlijk?

Het ruwe aantal klinkt uitzonderlijk, maar het totale aantal parameters en het aantal actieve parameters zijn niet hetzelfde.

Als Grok 4.8 een dense architectuur gebruikt, doen de meeste of alle parameters mogelijk mee tijdens inferentie. Als het een Mixture-of-Experts-architectuur gebruikt, wordt per token mogelijk slechts een subset geactiveerd.

xAI heeft niet bekendgemaakt welke architectuur Grok 4.8 gebruikt.

Grok-1 laat zien waarom dit onderscheid belangrijk is. Volgens de officiële Grok-1-repository had het eerdere model:

Dit bewijst niet dat Grok 4.8 dezelfde architectuur gebruikt. Het laat zien waarom “2.5T parameters” op zichzelf niets zegt over de inferentiekosten, de geheugenvereisten of de effectieve rekenkracht per token.

Totdat xAI de modelarchitectuur publiceert, blijven verschillende vragen onbeantwoord:

• Is Grok 4.8 dense of een MoE-model?
• Hoeveel experts bevat het?
• Hoeveel worden per token geactiveerd?
• Wat is het aantal actieve parameters?
• Welk deel van het cijfer 2.5T hoort bij multimodale componenten?

Dit is een van de belangrijkste redenen om frontiermodellen niet alleen op basis van het totale aantal parameters te vergelijken.

Betekent een model van 2.5T automatisch betere intelligentie?

Nee. Het aantal parameters meet de modelcapaciteit, niet de uiteindelijke mogelijkheden.

De prestaties in de praktijk hangen ook af van:

• Modelarchitectuur
• Kwaliteit van trainingsdata
• Datamix
• Stabiliteit van optimalisatie
• Post-training
• Reinforcement learning
• Toolgebruik
• Rekenen tijdens het testen
• Serving- en inferentieontwerp

De recente releases van xAI laten al zien hoe belangrijk post-training is geworden. In de aankondiging van Grok 4.5 benadrukte xAI reinforcement learning met honderdduizenden taken en langlopende agentische uitvoeringen, in plaats van de modelgrootte als enige bron van verbetering te presenteren.

Dit betekent dat de relevante vraag niet is:

Hoe groot is Grok 4.8?

Het is:

Hoe goed zet xAI die capaciteit om in redeneren, coderen, toolgebruik en betrouwbaar agentgedrag?

Wat betekent 'starten met RL' voor Grok 4.8?

Overgaan op reinforcement learning betekent niet dat Grok 4.8 meteen op het punt staat te verschijnen.

Een frontiermodel kan na de belangrijkste trainingsrun nog veel werk vereisen, waaronder:

• Reinforcement learning en andere vormen van post-training
• Optimalisatie van het volgen van instructies
• Training van agents en toolgebruik
• Evaluaties van veiligheid en mogelijkheden
• Optimalisatie voor serving
• Afstemming van latentie en geheugen
• Integratie met API's en producten

RL kan het gedrag van het model sterk beïnvloeden, zelfs wanneer het aantal onderliggende parameters niet verandert.

Een model kan genoeg kennis bevatten om een lastig programmeerprobleem op te lossen, maar als agent toch slecht presteren wanneer het te vroeg stopt, het verkeerde hulpmiddel kiest, te veel stappen verspilt of het eigen werk niet controleert.

De huidige koers van xAI maakt dit bijzonder relevant. Grok 4.6 wordt nadrukkelijk gepositioneerd voor langlopende agents, coderen en kenniswerk, en de officiële release benadrukt dat het model meerdere stappen lang taken kan volhouden.

Voor Grok 4.8 is de RL-fase daarom mogelijk bijna net zo belangrijk als de pretrainingsomvang van 2.5T voor wat gebruikers uiteindelijk ervaren.

Waarom trainingssoftware een concurrentievoordeel wordt op frontierniveau

Hoe groter de trainingsrun wordt, hoe duurder kleine inefficiënties worden.

De oorspronkelijke Grok-infrastructuur van xAI was nadrukkelijk gericht op het maximaliseren van bruikbare rekenkracht per watt en het behouden van een hoge benutting van de model-FLOPS, zelfs wanneer hardware uitviel.

Daardoor krijgt de C++-stack van Grok 4.8 een nuttiger interpretatie:

Geavanceerde AI-labs concurreren steeds meer niet alleen op modelontwerp, maar ook op hoeveel bruikbare intelligentie ze uit dezelfde dure hardware kunnen halen.

Het principe lijkt verrassend veel op dat van lokale AI, ook al is de schaal totaal anders. Lokale systemen profiteren er ook van als elke taak de juiste middelen krijgt, in plaats van zonder nadenken meer hardware aan te schaffen.

Kan Grok 4.8 lokaal draaien?

Er is momenteel geen grond om te beweren dat Grok 4.8 lokaal kan draaien.

xAI heeft het volgende niet vrijgegeven:

• Grok 4.8-gewichten
• een modelarchitectuur
• aantallen actieve parameters
• gekwantiseerde controlepunten
• vereisten voor lokale hardware
• instructies voor zelfhosting

Zelfs met het cijfer van 2,5 biljoen is een zinvolle schatting van het VRAM-verbruik onmogelijk zonder te weten of het model dicht of schaars is.

Daardoor verschilt Grok 4.8 sterk van open modellen die kunnen worden gekwantiseerd en op consumentenhardware kunnen draaien. Voorlopig hoort het bij de gecentraliseerde kant van geavanceerde AI-rekenkracht.

Dat maakt lokale AI niet irrelevant. Het maakt het scheiden van taken belangrijker.

Waarom een geavanceerd model van 2,5 biljoen parameters lokale AI waardevoller kan maken

Geavanceerde AI en lokale AI worden steeds meer geoptimaliseerd voor tegengestelde eisen.

De belangrijke vraag voor een gebruiker van een lokaal systeem is niet of een model van 7B, 14B of 30B Grok 4.8 in het algemeen kan overtreffen.

Het gaat erom of de huidige taak überhaupt intelligentie van het niveau van Grok 4.8 nodig heeft.

Daarom worden hybride AI en modelroutering nuttiger naarmate geavanceerde systemen groter worden. Routinematige, privé- en herhaalde taken kunnen lokaal blijven, terwijl moeilijke gevallen worden doorgestuurd naar een geavanceerde API.

Een privé-AI-assistent kan bijvoorbeeld informatie ophalen, toegang tot documenten bieden, geheugen beheren en lichte inferentie uitvoeren in de buurt van lokale bestanden, zonder voor elke stap het krachtigste cloudmodel nodig te hebben.

Ook de privacygrens is van belang. Een systeem is niet echt lokaal alleen omdat de belangrijkste LLM thuis draait. Embeddings, authenticatie, routering of toolaanroepen kunnen nog steeds afhankelijk zijn van externe diensten. Een echt offline bruikbare AI-workflow moet lokaal blijven in de volledige afhankelijkheidsketen.

Grok 4.8 draait eigenlijk om infrastructuur

Wanneer Grok 4.8 uitkomt, zal de aandacht waarschijnlijk vooral uitgaan naar benchmarkscores, programmeerresultaten, redeneertests en vergelijkingen met andere grensverleggende modellen.

Maar nog voordat die cijfers er zijn, is het infrastructuurverhaal al zichtbaar.

xAI begon met een aangepaste stack van JAX, Rust en Kubernetes. Het bedrijf benadrukte publiekelijk GPU-storingen, checkpointing, synchronisatie, nuttige rekenkracht per watt en Model FLOP Utilization. Nu zegt Musk dat een model van 2,5 biljoen parameters wordt getraind met een nieuwe C++-softwarestack.

Dat wijst erop dat de concurrentiestrijd zich steeds meer naar de infrastructuur verplaatst.

Voor xAI is de vraag hoe je meer nuttige training haalt uit enorme hoeveelheden rekenkracht.

Voor gebruikers van lokale AI is de nuttigere vraag precies andersom: hoeveel rekenkracht kunnen we überhaupt vermijden te gebruiken?

Het beste lokale systeem is misschien niet het systeem dat thuis een grensverleggend model van 2,5 biljoen parameters probeert na te bootsen. Misschien is het een systeem dat routinewerk lokaal houdt, waar mogelijk gespecialiseerde modellen gebruikt en alleen een beroep doet op grensverleggende AI wanneer de extra mogelijkheden het resultaat echt veranderen.