Grok 4.8 è un modello da 2.5T, ma il nuovo stack C++ è la notizia più importante.

Grok 4.8 non è stato ancora rilasciato al pubblico, ma Elon Musk ha già rivelato due dettagli particolarmente importanti: è un modello con 2,5 mila miliardi di parametri e xAI lo ha addestrato usando un nuovo stack software in C++. Ha anche detto che, terminata l'attuale fase di addestramento, il modello passerà all'apprendimento per rinforzo.

La cifra di 2,5 mila miliardi occuperà la maggior parte dei titoli. Lo stack C++ potrebbe dirci di più sulla direzione dell'IA di frontiera. A questa scala, i modelli migliori dipendono non solo dall'architettura e dai dati di addestramento, ma anche dall'efficienza con cui migliaia di acceleratori comunicano, si riprendono dai guasti, trasferiscono i dati, salvano i checkpoint e rimangono operativi per settimane o mesi.

Che cosa sappiamo davvero di Grok 4.8?

Le informazioni pubbliche sono ancora limitate, perciò è importante distinguere i dettagli confermati dalle speculazioni.

Al 20 settembre 2026, la documentazione pubblica sui modelli di xAI indica ancora Grok 4.6 come modello generalista di punta. Grok 4.8 non dispone ancora di una pagina pubblica dedicata al modello API né di un rapporto tecnico.

Questa distinzione è importante perché completare una fase importante di addestramento non equivale a rilasciare un modello finito.

Perché il nuovo stack di addestramento in C++ potrebbe contare più dei 2,5 mila miliardi di parametri

Fin dall'inizio, xAI ha considerato l'infrastruttura parte integrante dello sviluppo dei modelli. L'articolo originale di xAI sull'ingegneria di Grok descriveva uno stack personalizzato per l'addestramento e l'inferenza, basato su JAX, Rust e Kubernetes, sottolineando quanto fosse difficile mantenere produttivi grandi cluster di GPU nonostante i guasti hardware.

A livello di frontiera, il software di addestramento deve gestire molto più della sola rete neurale.

• utilizzo e pianificazione delle GPU
• comunicazione tra acceleratori
• suddivisione in shard di parametri e attivazioni
• allocazione della memoria
• caricamento dei dati
• salvataggio dei checkpoint
• rilevamento dei guasti e ripristino
• sincronizzazione distribuita
• esecuzione dei kernel
• monitoraggio e telemetria

Un cluster può disporre di un'enorme potenza di calcolo teorica e sprecarne comunque una parte significativa, se gli acceleratori passano troppo tempo in attesa di comunicazioni, dati, sincronizzazione o ripristino.

Questo è il vero motivo per cui il nuovo stack C++ di Grok 4.8 è interessante. Il potenziale vantaggio non consiste semplicemente nel fatto che «il C++ è più veloce di Python». Uno stack personalizzato di livello più basso potrebbe consentire a xAI di controllare meglio gli aspetti più dispendiosi dell'addestramento distribuito.

Lo stesso principio dei colli di bottiglia si applica su scala molto più ridotta all'IA locale. Un sistema può avere una GPU potente e dover comunque attendere l'accesso alla memoria, all'archiviazione o alla rete. Capire se il limite è il calcolo, la memoria, l'archiviazione o la rete è più utile che presumere che ogni problema di prestazioni richieda una GPU più potente.

Il C++ rende automaticamente più veloce l'addestramento dell'IA?

No.

I moderni framework di IA eseguono già la maggior parte delle operazioni più pesanti sui tensori tramite kernel GPU compilati, librerie per acceleratori e compilatori di grafi. Python spesso funge da interfaccia di alto livello, anziché eseguire direttamente le moltiplicazioni di matrici.

Un'implementazione in C++ potrebbe essere importante se migliora la pianificazione, la gestione della memoria, la comunicazione, il checkpointing, i kernel personalizzati o il ripristino dopo un errore. Ma finché xAI non pubblicherà l'architettura del nuovo stack, affermare con precisione da dove derivino i miglioramenti sarebbe una speculazione.

È anche troppo presto per affermare che xAI abbia abbandonato completamente JAX. Grok-1.5 è stato sviluppato esplicitamente con un framework di addestramento basato su JAX, Rust e Kubernetes. La dichiarazione di Musk su Grok 4.8 conferma un nuovo stack C++, ma non specifica quali componenti precedenti siano ancora in uso.

Cosa significano davvero 2.5 trilioni di parametri?

Il numero grezzo sembra straordinario, ma i parametri totali e quelli attivi non sono la stessa cosa.

Se Grok 4.8 utilizza un'architettura densa, la maggior parte o la totalità di quei parametri potrebbe partecipare all'inferenza. Se utilizza un'architettura Mixture-of-Experts, per ogni token potrebbe attivarsi solo un sottoinsieme.

xAI non ha rivelato quale architettura utilizza Grok 4.8.

Grok-1 dimostra perché questa distinzione è importante. Secondo il repository ufficiale di Grok-1, il modello precedente aveva:

Questo non dimostra che Grok 4.8 utilizzi la stessa architettura. Dimostra perché «2.5T parametri», da solo, non ci dice quale sia il costo di inferenza, il fabbisogno di memoria o la quantità effettiva di calcolo per token.

Finché xAI non pubblicherà l'architettura del modello, restano aperte diverse questioni:

• Grok 4.8 è denso o MoE?
• Quanti esperti contiene?
• Quanti si attivano per ogni token?
• Qual è il numero di parametri attivi?
• Quale parte del valore di 2.5T è attribuibile ai componenti multimodali?

Questo è uno dei motivi principali per cui non bisogna confrontare i modelli di frontiera basandosi soltanto sul numero totale di parametri.

Un modello da 2.5T significa automaticamente maggiore intelligenza?

No. Il numero di parametri misura la capacità del modello, non le sue capacità effettive.

Le prestazioni nel mondo reale dipendono anche da:

• architettura del modello
• qualità dei dati di training
• miscela di dati
• stabilità dell'ottimizzazione
• post-training
• apprendimento per rinforzo
• uso degli strumenti
• calcolo al momento del test
• progettazione della distribuzione e dell'inferenza

Le recenti release di xAI mostrano già quanto sia diventato importante il post-training. Nell'annuncio di Grok 4.5, xAI ha sottolineato l'apprendimento per rinforzo su centinaia di migliaia di attività e le esecuzioni agentiche di lunga durata, invece di presentare le dimensioni del modello come l'unica fonte di miglioramento.

Ciò significa che la domanda utile non è:

Quanto è grande Grok 4.8?

È:

Quanto efficacemente xAI trasforma questa capacità in ragionamento, programmazione, uso degli strumenti e comportamento affidabile degli agenti?

Cosa significa «iniziare l'RL» per Grok 4.8?

Il passaggio all'apprendimento per rinforzo non significa che Grok 4.8 stia per essere lanciato a breve.

Un modello di frontiera potrebbe richiedere ancora un lavoro considerevole dopo il training principale, tra cui:

• apprendimento per rinforzo e altro post-training
• ottimizzazione del rispetto delle istruzioni
• training degli agenti e dell'uso degli strumenti
• valutazioni di sicurezza e capacità
• ottimizzazione dell'inferenza
• ottimizzazione di latenza e memoria
• Integrazione con API e prodotti

L'RL può influire notevolmente sul comportamento del modello anche quando il numero di parametri sottostante non cambia.

Un modello può avere conoscenze sufficienti per risolvere un difficile problema di programmazione, ma comportarsi comunque male come agente se si ferma troppo presto, sceglie lo strumento sbagliato, spreca troppi passaggi o non riesce a verificare il proprio lavoro.

L'attuale direzione di xAI rende questo aspetto particolarmente rilevante. Grok 4.6 è presentato esplicitamente come un modello per agenti di lunga durata, programmazione e lavoro intellettuale, e il suo annuncio ufficiale sottolinea la capacità di mantenere la continuità nelle attività composte da più passaggi.

Per Grok 4.8, la fase RL potrebbe quindi contare quasi quanto la scala di pretraining da 2.5T per ciò che gli utenti finiranno per sperimentare.

Perché il software di training diventa un vantaggio competitivo su scala di frontiera

Più il training diventa lungo, più diventano costose le piccole inefficienze.

L’infrastruttura originale di Grok di xAI puntava esplicitamente a massimizzare il calcolo utile per watt e a mantenere elevata l’utilizzazione FLOP del modello anche in caso di guasti hardware.

Questo offre un’interpretazione più utile dello stack C++ di Grok 4.8:

I laboratori di IA di frontiera competono sempre più non solo sulla progettazione dei modelli, ma anche sulla quantità di intelligenza utile che riescono a ottenere dallo stesso hardware costoso.

Il principio è sorprendentemente simile a quello dell’IA locale, anche se la scala è completamente diversa. Anche i sistemi locali traggono vantaggio dall’assegnare ogni carico di lavoro alla risorsa più adatta, invece di acquistare alla cieca hardware più potente.

Grok 4.8 può essere eseguito localmente?

Attualmente non ci sono elementi per affermare che Grok 4.8 possa essere eseguito localmente.

xAI non ha rilasciato:

• pesi di Grok 4.8
• un’architettura del modello
• numero di parametri attivi
• checkpoint quantizzati
• requisiti hardware locali
• istruzioni per l’hosting autonomo

Anche il dato di 2,5 T non basta per stimare in modo significativo la VRAM senza sapere se il modello è denso o sparso.

Questo rende Grok 4.8 molto diverso dai modelli aperti, che possono essere quantizzati e trasferiti su hardware consumer. Per ora, appartiene al mondo dell’IA basato sull’elaborazione centralizzata di frontiera.

Questo non rende irrilevante l’IA locale. Rende più importante separare i carichi di lavoro.

Perché un modello di frontiera da 2,5 T potrebbe rendere l’IA locale ancora più preziosa

L’IA di frontiera e l’IA locale puntano sempre più a ottimizzare vincoli opposti.

La domanda importante per chi usa sistemi locali non è se un modello da 7B, 14B o 30B possa superare Grok 4.8 nel complesso.

La domanda è se l’attività corrente abbia davvero bisogno di un’intelligenza del livello di Grok 4.8.

Per questo motivo, l’IA ibrida e l’instradamento dei modelli diventano sempre più utili man mano che i sistemi di frontiera crescono. I carichi di lavoro di routine, privati e ripetitivi possono restare locali, mentre i casi più difficili vengono indirizzati a un’API di frontiera.

Un assistente IA privato, ad esempio, può mantenere il recupero delle informazioni, l’accesso ai documenti, la memoria e l’inferenza leggera vicini ai file locali, senza richiedere il modello cloud più potente per ogni passaggio.

Anche il confine della privacy è importante. Un sistema non è davvero locale solo perché il suo LLM principale gira a casa. Anche gli embedding, l’autenticazione, l’instradamento o le chiamate agli strumenti possono dipendere da servizi remoti. Un flusso di lavoro con l’IA utilizzabile anche offline deve rimanere locale lungo l’intera catena di dipendenze.

Grok 4.8 è soprattutto una questione di infrastruttura

Quando Grok 4.8 verrà lanciato, è probabile che l’attenzione si sposti soprattutto sui punteggi dei benchmark, sui risultati nella programmazione, sui test di ragionamento e sui confronti con altri modelli di frontiera.

Ma, ancora prima che questi numeri diventino realtà, la sua storia infrastrutturale è già evidente.

xAI ha iniziato con uno stack personalizzato basato su JAX, Rust e Kubernetes. Ha posto pubblicamente l’accento sui guasti delle GPU, sui checkpoint, sulla sincronizzazione, sulla potenza di calcolo utile per watt e sull’utilizzo effettivo delle operazioni in virgola mobile dei modelli. Ora Musk afferma che un modello da 2,5 trilioni di parametri viene addestrato con un nuovo stack software C++.

Questo suggerisce che la frontiera della competizione si sta spostando sempre più verso l’infrastruttura.

Per xAI, la questione è come ottenere più addestramento utile da enormi quantità di potenza di calcolo.

Per chi usa l’IA in locale, la domanda più utile è l’opposto: quanta potenza di calcolo possiamo evitare di usare fin dall’inizio?

Il miglior sistema locale potrebbe non essere quello che cerca di riprodurre in casa un modello di frontiera da 2,5 trilioni di parametri. Potrebbe essere quello che gestisce localmente le attività di routine, usa modelli specializzati quando possibile e ricorre a un modello di frontiera solo quando le capacità aggiuntive cambiano davvero il risultato.