Grok 4.8 es un modelo de 2.5T, pero la nueva pila de C++ es la noticia más importante

Grok 4.8 no se ha lanzado públicamente, pero Elon Musk ya ha revelado dos detalles inusualmente importantes: es un modelo de 2,5 billones de parámetros y xAI lo entrenó con una nueva pila de software en C++. También dijo que el modelo pasaría al aprendizaje por refuerzo después de su fase actual de entrenamiento.

La cifra de 2,5 billones acaparará la mayoría de los titulares. La pila de C++ quizá nos diga más sobre el rumbo de la IA de frontera. A esta escala, los mejores modelos dependen no solo de la arquitectura y los datos de entrenamiento, sino también de la eficiencia con que miles de aceleradores se comunican, se recuperan de fallos, mueven datos, guardan puntos de control y se mantienen ocupados durante semanas o meses.

¿Qué sabemos realmente sobre Grok 4.8?

La información pública sigue siendo limitada, por lo que es importante separar los detalles confirmados de las especulaciones.

Al 20 de septiembre de 2026, la documentación pública de modelos de xAI aún presenta Grok 4.6 como su modelo insignia de propósito general. Grok 4.8 todavía no tiene una página pública de modelo para la API ni un informe técnico.

Esa distinción importa porque completar una etapa importante del entrenamiento no es lo mismo que lanzar un modelo terminado.

Por qué la nueva pila de entrenamiento en C++ podría importar más que los 2,5 billones de parámetros

xAI ha considerado la infraestructura como parte del desarrollo de modelos desde el principio. La publicación original de ingeniería de Grok de la empresa describió una pila personalizada de entrenamiento e inferencia basada en JAX, Rust y Kubernetes, y destacó la dificultad de mantener productivos los grandes clústeres de GPU pese a los fallos de hardware.

A escala de frontera, el software de entrenamiento debe gestionar mucho más que la propia red neuronal.

• uso y programación de GPU
• comunicación entre aceleradores
• fragmentación de parámetros y activaciones
• asignación de memoria
• carga de datos
• creación de puntos de control
• detección y recuperación ante fallos
• sincronización distribuida
• ejecución de kernels
• supervisión y telemetría

Un clúster puede tener una capacidad de cómputo teórica enorme y, aun así, desperdiciar una parte significativa si los aceleradores pasan demasiado tiempo esperando comunicaciones, datos, sincronización o recuperación.

Esta es la verdadera razón por la que resulta interesante la nueva pila de C++ de Grok 4.8. La posible ventaja no es simplemente que «C++ sea más rápido que Python». Es que una pila personalizada de bajo nivel podría dar a xAI un control más estricto sobre los costosos componentes del entrenamiento distribuido.

El mismo principio de los cuellos de botella también se aplica a menor escala en la IA local. Un sistema puede tener una GPU potente y, aun así, esperar a que haya acceso a la memoria, el almacenamiento o la red. Entender si el límite está en el cómputo, la memoria, el almacenamiento o la red es más útil que dar por sentado que todo problema de rendimiento requiere una GPU más potente.

¿C++ acelera automáticamente el entrenamiento de IA?

No.

Los marcos modernos de IA ya ejecutan la mayoría de las operaciones tensoriales pesadas mediante kernels compilados para GPU, bibliotecas de aceleradores y compiladores de grafos. Python suele actuar como interfaz de alto nivel, en lugar de realizar por sí mismo las multiplicaciones de matrices.

Una implementación en C++ podría ser relevante si mejora la planificación, la gestión de memoria, la comunicación, los puntos de control, los kernels personalizados o la recuperación ante fallos. Pero, hasta que xAI publique la arquitectura de su nueva pila, cualquier afirmación sobre el origen exacto de las mejoras sería especulativa.

También es demasiado pronto para afirmar que xAI ha abandonado por completo JAX. Grok-1.5 se construyó explícitamente sobre un marco de entrenamiento con JAX, Rust y Kubernetes. La declaración de Musk sobre Grok 4.8 confirma una nueva pila en C++, pero no especifica qué componentes anteriores se mantienen.

¿Qué significan realmente 2,5 billones de parámetros?

La cifra en bruto parece extraordinaria, pero los parámetros totales y los parámetros activos no son lo mismo.

Si Grok 4.8 usa una arquitectura densa, la mayoría o la totalidad de esos parámetros podría participar durante la inferencia. Si usa una arquitectura de mezcla de expertos, solo podría activarse un subconjunto para cada token.

xAI no ha revelado qué arquitectura usa Grok 4.8.

Grok-1 muestra por qué importa esta distinción. Según el repositorio oficial de Grok-1, el modelo anterior tenía:

Esto no demuestra que Grok 4.8 use la misma arquitectura. Demuestra por qué «2.5T parámetros» por sí solo no basta para determinar su costo de inferencia, sus requisitos de memoria ni el cómputo efectivo por token.

Hasta que xAI publique la arquitectura del modelo, quedan varias preguntas sin respuesta:

• ¿Grok 4.8 es denso o MoE?
• ¿Cuántos expertos contiene?
• ¿Cuántas se activan para cada token?
• ¿Cuál es su número de parámetros activos?
• ¿Qué proporción de la cifra de 2,5 T corresponde a los componentes multimodales?

Esta es una de las razones más importantes para no comparar modelos de frontera basándose únicamente en el número total de parámetros.

¿Un modelo de 2,5 T significa automáticamente una inteligencia superior?

No. El número de parámetros mide la capacidad del modelo, no sus capacidades finales.

El rendimiento en el mundo real también depende de:

• Arquitectura del modelo
• Calidad de los datos de entrenamiento
• Mezcla de datos
• Estabilidad de la optimización
• Entrenamiento posterior
• Aprendizaje por refuerzo
• Uso de herramientas
• Cómputo en tiempo de prueba
• Diseño del servicio y la inferencia

Los lanzamientos recientes de xAI ya muestran la importancia que ha adquirido el entrenamiento posterior. En el anuncio de Grok 4.5, xAI destacó el aprendizaje por refuerzo en cientos de miles de tareas y las ejecuciones prolongadas de agentes, en lugar de presentar el tamaño del modelo como la única fuente de mejora.

Esto significa que la pregunta útil no es:

¿Qué tamaño tiene Grok 4.8?

Es:

¿Con qué eficacia convierte xAI esa capacidad en razonamiento, programación, uso de herramientas y comportamiento fiable como agente?

¿Qué significa «empezar el RL» para Grok 4.8?

Pasar al aprendizaje por refuerzo no significa que Grok 4.8 vaya a lanzarse de inmediato.

Un modelo de frontera puede requerir mucho trabajo incluso después de su entrenamiento principal, entre otras cosas:

• Aprendizaje por refuerzo y otros procesos posteriores al entrenamiento
• Optimización del seguimiento de instrucciones
• Entrenamiento de agentes y uso de herramientas
• Evaluaciones de seguridad y capacidades
• Optimización del servicio
• Ajuste de latencia y memoria
• Integración con API y productos

El RL puede influir considerablemente en el comportamiento del modelo incluso si no cambia el número de parámetros subyacente.

Un modelo puede tener conocimientos suficientes para resolver un problema de programación difícil y aun así tener un rendimiento deficiente como agente si se detiene demasiado pronto, elige la herramienta equivocada, desperdicia demasiados pasos o no verifica su propio trabajo.

La dirección actual de xAI hace que esto sea especialmente relevante. Grok 4.6 está presentado explícitamente como un modelo para agentes de larga duración, programación y trabajo con conocimiento, y su anuncio oficial destaca la persistencia en tareas de varios pasos.

Por lo tanto, en el caso de Grok 4.8, la fase de RL puede ser casi tan importante como la escala de preentrenamiento de 2,5 T para determinar lo que los usuarios experimentarán finalmente.

Por qué el software de entrenamiento se convierte en una ventaja competitiva a escala de frontera

Cuanto más grande es el entrenamiento, más costosas se vuelven las pequeñas ineficiencias.

La infraestructura original de Grok de xAI se centraba explícitamente en maximizar la computación útil por vatio y mantener una alta utilización de FLOPS del modelo incluso cuando el hardware fallaba.

Esto permite interpretar de forma más útil la pila de C++ de Grok 4.8:

Los laboratorios de IA de vanguardia compiten cada vez más no solo en el diseño de modelos, sino también en cuánta inteligencia útil pueden extraer del mismo costoso hardware.

El principio es sorprendentemente similar al de la IA local, aunque la escala sea completamente distinta. Los sistemas locales también se benefician de asignar cada carga de trabajo al recurso adecuado, en lugar de comprar más hardware a ciegas.

¿Se puede ejecutar Grok 4.8 localmente?

Actualmente no hay motivos para afirmar que Grok 4.8 pueda ejecutarse localmente.

xAI no ha publicado:

• pesos de Grok 4.8
• una arquitectura de modelo
• recuentos de parámetros activos
• puntos de control cuantizados
• requisitos de hardware local
• instrucciones para el autoalojamiento

Ni siquiera la cifra de 2,5 T permite calcular de forma significativa la VRAM necesaria sin saber si el modelo es denso o disperso.

Esto hace que Grok 4.8 sea muy distinto de los modelos abiertos, que se pueden cuantizar y adaptar al hardware de consumo. Por ahora, pertenece al ámbito de la computación centralizada de vanguardia en IA.

Eso no vuelve irrelevante a la IA local. Hace que separar las cargas de trabajo sea más importante.

Por qué un modelo de vanguardia de 2,5 T podría dar más valor a la IA local

La IA de vanguardia y la IA local optimizan cada vez más condiciones opuestas.

La pregunta importante para quien usa sistemas locales no es si un modelo de 7B, 14B o 30B puede superar a Grok 4.8 en general.

La cuestión es si la tarea actual realmente necesita una inteligencia de nivel Grok 4.8.

Por eso, la IA híbrida y el enrutamiento de modelos resultan más útiles a medida que los sistemas de vanguardia crecen. Las tareas rutinarias, privadas y repetitivas pueden seguir ejecutándose localmente, mientras que los casos difíciles se derivan a una API de vanguardia.

Un asistente de IA privado, por ejemplo, puede mantener la recuperación de información, el acceso a documentos, la memoria y la inferencia ligera cerca de los archivos locales, sin tener que recurrir al modelo en la nube más potente para cada paso.

El límite de privacidad también importa. Un sistema no es realmente local solo porque su LLM principal se ejecute en casa. Las incrustaciones, la autenticación, el enrutamiento o las llamadas a herramientas pueden seguir dependiendo de servicios remotos. Un flujo de trabajo de IA con capacidad para funcionar sin conexión debe mantenerse local en toda la cadena de dependencias.

Grok 4.8 es, en realidad, una historia de infraestructura

Cuando se lance Grok 4.8, es probable que la mayor parte de la atención se centre en las puntuaciones de referencia, los resultados de programación, las pruebas de razonamiento y las comparaciones con otros modelos de vanguardia.

Pero, incluso antes de que esas cifras se hagan realidad, su historia de infraestructura ya está a la vista.

xAI empezó con una pila personalizada de JAX, Rust y Kubernetes. Destacó públicamente los fallos de las GPU, los puntos de control, la sincronización, el cómputo útil por vatio y la utilización de FLOP del modelo. Ahora Musk afirma que se está entrenando un modelo de 2,5 billones de parámetros con una nueva pila de software C++.

Eso sugiere que la frontera competitiva se adentra cada vez más en la infraestructura.

Para xAI, la pregunta es cómo extraer más entrenamiento útil de enormes cantidades de cómputo.

Para quienes usan IA local, la pregunta más útil es la inversa: ¿cuánto cómputo podemos evitar usar desde el principio?

El mejor sistema local quizá no sea el que intenta reproducir en casa un modelo de vanguardia de 2,5 billones de parámetros. Quizá sea el que mantiene local el trabajo rutinario, usa modelos especializados cuando es posible y recurre a la inteligencia de vanguardia solo cuando esa capacidad adicional realmente cambia el resultado.