O Grok 4.8 é um modelo de 2,5T - mas a nova stack de C++ é a história maior

O Grok 4.8 ainda não foi lançado publicamente, mas Elon Musk já revelou dois detalhes invulgarmente importantes: é um modelo com 2,5 biliões de parâmetros e a xAI treinou-o utilizando uma nova stack de software em C++. Também afirmou que o modelo passaria ao reforço após a fase de treino atual.

O valor de 2,5 biliões será o que receberá mais destaque. A stack C++ poderá dizer-nos mais sobre o rumo da IA de fronteira. A esta escala, modelos melhores dependem não só da arquitetura e dos dados de treino, mas também da eficiência com que milhares de aceleradores comunicam, recuperam de falhas, transferem dados, guardam checkpoints e se mantêm ocupados durante semanas ou meses.

O que sabemos realmente sobre o Grok 4.8?

A informação pública continua a ser limitada, o que torna importante separar os detalhes confirmados da especulação.

Em 20 de setembro de 2026, a documentação pública dos modelos da xAI ainda indica o Grok 4.6 como o seu principal modelo de uso geral. O Grok 4.8 ainda não tem uma página pública de modelo na API nem um relatório técnico.

Essa distinção é importante porque concluir uma etapa importante do treino não é o mesmo que lançar um modelo concluído.

Porque é que a nova stack de treino em C++ pode ser mais importante do que 2,5 biliões de parâmetros

Desde o início, a xAI tratou a infraestrutura como parte do desenvolvimento do modelo. O artigo de engenharia original da xAI sobre o Grok descrevia uma stack personalizada de treino e inferência baseada em JAX, Rust e Kubernetes, e salientava a dificuldade de manter grandes clusters de GPUs produtivos apesar das falhas de hardware.

À escala dos modelos de fronteira, o software de treino tem de gerir muito mais do que a própria rede neuronal.

• utilização e agendamento de GPUs
• comunicação entre aceleradores
• particionamento de parâmetros e ativações
• alocação de memória
• carregamento de dados
• criação de checkpoints
• deteção e recuperação de falhas
• sincronização distribuída
• execução de kernels
• monitorização e telemetria

Um cluster pode conter uma capacidade computacional teórica enorme e, ainda assim, desperdiçar uma parte significativa dela se os aceleradores passarem demasiado tempo à espera de comunicação, dados, sincronização ou recuperação.

Esta é a verdadeira razão pela qual a nova stack C++ do Grok 4.8 é interessante. A potencial vantagem não é simplesmente o facto de “C++ ser mais rápido do que Python”. É que uma stack personalizada de nível mais baixo pode dar à xAI um controlo mais apertado sobre as partes dispendiosas do treino distribuído.

O mesmo princípio dos estrangulamentos aplica-se a uma escala muito menor na IA local. Um sistema pode ter uma GPU potente e, ainda assim, ficar à espera do acesso à memória, ao armazenamento ou à rede. Compreender se a limitação é de computação, memória, armazenamento ou rede é mais útil do que presumir que todos os problemas de desempenho exigem uma GPU maior.

A utilização de C++ torna automaticamente o treino de IA mais rápido?

Não.

As estruturas modernas de IA já executam a maioria das operações pesadas sobre tensores através de kernels de GPU compilados, bibliotecas de aceleradores e compiladores de grafos. O Python funciona muitas vezes como uma interface de alto nível, em vez de executar diretamente a multiplicação de matrizes.

Uma implementação em C++ poderá ser importante se melhorar o agendamento, a gestão de memória, a comunicação, a criação de pontos de controlo, os kernels personalizados ou a recuperação de falhas. Mas, até a xAI publicar a arquitetura da sua nova pilha, as afirmações sobre a origem exata dos ganhos seriam especulativas.

Também é demasiado cedo para afirmar que a xAI abandonou completamente o JAX. O Grok-1.5 foi explicitamente desenvolvido com base numa estrutura de treino com JAX, Rust e Kubernetes. A declaração de Musk sobre o Grok 4.8 confirma uma nova pilha em C++, mas não indica quais os componentes antigos que permanecem.

O que significam realmente 2,5 biliões de parâmetros?

O número bruto parece extraordinário, mas os parâmetros totais e os parâmetros ativos não são a mesma coisa.

Se o Grok 4.8 utilizar uma arquitetura densa, a maioria ou a totalidade desses parâmetros poderá participar na inferência. Se utilizar uma arquitetura de Mistura de especialistas, apenas um subconjunto poderá ser ativado para cada token.

A xAI não divulgou qual a arquitetura utilizada pelo Grok 4.8.

O Grok-1 demonstra por que motivo esta distinção é importante. De acordo com o repositório oficial do Grok-1, o modelo anterior tinha:

Isto não prova que o Grok 4.8 utilize a mesma arquitetura. Demonstra por que motivo “2.5T parâmetros”, por si só, não nos permite determinar o custo de inferência, os requisitos de memória ou a capacidade de computação efetiva por token.

Até a xAI publicar a arquitetura do modelo, várias questões permanecem em aberto:

• O Grok 4.8 é denso ou MoE?
• Quantos especialistas contém?
• Quantos são ativados para cada token?
• Qual é o seu número de parâmetros ativos?
• Que parte do valor de 2,5T pertence aos componentes multimodais?

Esta é uma das razões mais importantes para não comparar modelos de fronteira apenas com base no número total de parâmetros.

Um modelo de 2,5T significa automaticamente uma inteligência superior?

Não. O número de parâmetros mede a capacidade do modelo, não as capacidades finais.

O desempenho no mundo real também depende de:

• arquitetura do modelo
• qualidade dos dados de treino
• mistura de dados
• estabilidade da otimização
• pós-treino
• aprendizagem por reforço
• utilização de ferramentas
• computação no momento do teste
• conceção do serving e da inferência

Os lançamentos recentes da xAI já demonstram a importância crescente do pós-treino. No anúncio do Grok 4.5, a xAI destacou a aprendizagem por reforço em centenas de milhares de tarefas e execuções agênticas de longa duração, em vez de apresentar a dimensão do modelo como a única fonte de melhoria.

Isto significa que a pergunta útil não é:

Qual é a dimensão do Grok 4.8?

É:

Com que eficácia transforma a xAI essa capacidade em raciocínio, programação, utilização de ferramentas e comportamento fiável de agente?

O que significa “iniciar o RL” para o Grok 4.8?

Passar à aprendizagem por reforço não significa que o Grok 4.8 esteja prestes a ser lançado.

Um modelo de fronteira pode ainda exigir um trabalho substancial após a sua execução de treino principal, incluindo:

• aprendizagem por reforço e outro pós-treino
• otimização do seguimento de instruções
• treino de agentes e utilização de ferramentas
• avaliações de segurança e capacidades
• otimização do serving
• otimização da latência e da memória
• Integração com APIs e produtos

O RL pode ter um efeito significativo no comportamento do modelo, mesmo quando o número subjacente de parâmetros não se altera.

Um modelo pode conter conhecimento suficiente para resolver um problema de programação difícil e, ainda assim, ter um desempenho fraco como agente se parar demasiado cedo, escolher a ferramenta errada, desperdiçar demasiadas etapas ou não conseguir verificar o próprio trabalho.

A direção atual da xAI torna isto especialmente relevante. O Grok 4.6 é explicitamente apresentado como vocacionado para agentes de longa duração, programação e trabalho de conhecimento, e o seu lançamento oficial destaca a persistência ao longo de tarefas com várias etapas.

Para o Grok 4.8, a fase de RL poderá, por isso, ser quase tão importante como a escala de pré-treino de 2,5T no que diz respeito à experiência final dos utilizadores.

Porque é que o software de treino se torna uma vantagem competitiva à escala de fronteira

Quanto maior for a execução de treino, mais dispendiosas se tornam as pequenas ineficiências.

A infraestrutura original do Grok da xAI focava-se explicitamente em maximizar a computação útil por watt e em manter uma elevada utilização de FLOPs do modelo, mesmo quando ocorria uma falha de hardware.

Isto dá à stack C++ do Grok 4.8 uma interpretação mais útil:

os laboratórios de IA de fronteira estão cada vez mais a competir não só no design dos modelos, mas também na quantidade de inteligência útil que conseguem extrair do mesmo hardware dispendioso.

O princípio é surpreendentemente semelhante ao da IA local, embora a escala seja completamente diferente. Os sistemas locais também beneficiam de associar cada carga de trabalho ao recurso adequado, em vez de comprar hardware adicional às cegas.

O Grok 4.8 pode ser executado localmente?

Atualmente, não há fundamento para afirmar que o Grok 4.8 pode ser executado localmente.

A xAI não divulgou:

• pesos do Grok 4.8
• uma arquitetura de modelo
• contagens de parâmetros ativos
• checkpoints quantizados
• requisitos de hardware local
• instruções de self-hosting

Mesmo o valor de 2,5T não permite obter uma estimativa significativa de VRAM sem saber se o modelo é denso ou esparso.

Isto torna o Grok 4.8 muito diferente dos modelos abertos que podem ser quantizados e transferidos para hardware de consumo. Por agora, pertence ao lado da computação de fronteira centralizada da IA.

Isso não torna a IA local irrelevante. Torna mais importante separar as cargas de trabalho.

Porque é que um modelo de fronteira de 2,5T pode tornar a IA local mais valiosa

A IA de fronteira e a IA local estão cada vez mais a otimizar para restrições opostas.

A questão importante para um utilizador local não é saber se um modelo de 7B, 14B ou 30B consegue superar o Grok 4.8 no geral.

É saber se a tarefa atual precisa realmente de uma inteligência do nível do Grok 4.8.

É por isso que a IA híbrida e o encaminhamento de modelos se tornam mais úteis à medida que os sistemas de fronteira aumentam de dimensão. As cargas de trabalho rotineiras, privadas e repetidas podem permanecer locais, enquanto os casos difíceis são encaminhados para uma API de fronteira.

Um assistente de IA privado, por exemplo, pode manter a recuperação, o acesso a documentos, a memória e a inferência leve próximos dos ficheiros locais, sem exigir o modelo de nuvem mais potente em todas as etapas.

A fronteira da privacidade também é importante. Um sistema não é verdadeiramente local apenas porque o seu LLM principal é executado em casa. Os embeddings, a autenticação, o encaminhamento ou as chamadas de ferramentas podem continuar a depender de serviços remotos. Um fluxo de trabalho de IA com capacidade de funcionar offline genuíno tem de permanecer local em toda a cadeia de dependências.

O Grok 4.8 é, na realidade, uma história de infraestrutura

Quando o Grok 4.8 for lançado, a maior parte da atenção deverá centrar-se provavelmente nas pontuações de benchmark, nos resultados de programação, nos testes de raciocínio e nas comparações com outros modelos de fronteira.

Mas, antes de esses números existirem, a sua história de infraestrutura já é visível.

A xAI começou com uma pilha personalizada baseada em JAX, Rust e Kubernetes. Salientou publicamente as falhas das GPU, o checkpointing, a sincronização, a computação útil por watt e a Utilização de FLOP do Modelo. Agora, Musk afirma que está a ser treinado um modelo de 2,5 biliões de parâmetros com uma nova pilha de software C++.

Isso sugere que a fronteira competitiva está a avançar cada vez mais para o domínio da infraestrutura.

Para a xAI, a questão é saber como extrair mais treino útil de enormes quantidades de computação.

Para os utilizadores de IA local, a pergunta mais útil é a inversa: quanto poder de computação podemos evitar utilizar à partida?

O melhor sistema local pode não ser aquele que tenta reproduzir em casa um modelo de fronteira com 2,5 biliões de parâmetros. Pode ser aquele que mantém o trabalho rotineiro local, utiliza modelos especializados sempre que possível e recorre à inteligência de fronteira apenas quando a capacidade adicional altera realmente o resultado.