Grok 4.8 to model 2.5T — ale nowy stos C++ to ważniejsza historia

Grok 4.8 nie został jeszcze publicznie udostępniony, ale Elon Musk ujawnił już dwa niezwykle ważne szczegóły: model ma 2,5 biliona parametrów, a xAI trenowała go przy użyciu nowego stosu oprogramowania C++. Powiedział też, że po obecnym etapie treningu model przejdzie do uczenia ze wzmocnieniem.

Liczba 2,5 bln przyciągnie największą uwagę. Stos C++ może nam powiedzieć więcej o kierunku rozwoju najnowocześniejszej sztucznej inteligencji. Przy takiej skali lepsze modele zależą nie tylko od architektury i danych treningowych, lecz także od tego, jak wydajnie tysiące akceleratorów komunikują się, radzą sobie z awariami, przesyłają dane, zapisują punkty kontrolne i pozostają aktywne przez całe tygodnie lub miesiące.

Co tak naprawdę wiemy o Groku 4.8?

Publicznie dostępnych informacji jest niewiele, dlatego warto oddzielić potwierdzone szczegóły od spekulacji.

Na dzień 20 września 2026 r. w publicznej dokumentacji modeli xAI nadal figuruje Grok 4.6 jako flagowy model ogólnego przeznaczenia. Grok 4.8 nie ma jeszcze publicznej strony modelu API ani raportu technicznego.

To rozróżnienie ma znaczenie, ponieważ zakończenie ważnego etapu treningu to nie to samo, co udostępnienie gotowego modelu.

Dlaczego nowy stos treningowy C++ może mieć większe znaczenie niż 2,5 bln parametrów

Od samego początku xAI traktuje infrastrukturę jako część rozwoju modeli. Oryginalny wpis inżynieryjny Groka firmy opisywał niestandardowy stos do treningu i wnioskowania, oparty na JAX, Ruście i Kubernetesie, oraz podkreślał, jak trudno jest utrzymać wysoką produktywność dużych klastrów GPU mimo awarii sprzętu.

Przy treningu na najnowocześniejszych modelach o takiej skali oprogramowanie musi zarządzać znacznie większą liczbą elementów niż tylko samą siecią neuronową.

• wykorzystanie i planowanie pracy GPU
• komunikacja między akceleratorami
• podział parametrów i aktywacji na fragmenty
• alokacja pamięci
• wczytywanie danych
• tworzenie punktów kontrolnych
• wykrywanie awarii i przywracanie działania
• synchronizacja rozproszona
• wykonywanie jąder
• monitorowanie i telemetria

Klaster może dysponować ogromną teoretyczną mocą obliczeniową, a mimo to marnować jej znaczną część, jeśli akceleratory zbyt długo czekają na komunikację, dane, synchronizację lub przywrócenie działania.

Oto prawdziwy powód, dla którego nowy stos C++ w Groku 4.8 jest interesujący. Potencjalna przewaga nie polega po prostu na tym, że „C++ jest szybszy od Pythona”. Chodzi o to, że niestandardowy stos niższego poziomu może dać xAI większą kontrolę nad najbardziej kosztownymi elementami treningu rozproszonego.

Ta sama zasada dotycząca wąskich gardeł ma zastosowanie w znacznie mniejszej skali, w lokalnym AI. System może być wyposażony w wydajny GPU, a mimo to czekać na dostęp do pamięci, magazynu danych lub sieci. Ustalenie, czy ograniczeniem są obliczenia, pamięć, magazyn danych czy sieć, jest bardziej przydatne niż zakładanie, że każdy problem z wydajnością wymaga mocniejszego GPU.

Czy C++ automatycznie przyspiesza trening AI?

Nie.

Nowoczesne frameworki AI już teraz wykonują większość kosztownych operacji na tensorach za pomocą skompilowanych jąder GPU, bibliotek akceleratorów i kompilatorów grafów. Python często służy jako interfejs wysokiego poziomu, a nie wykonuje bezpośrednio mnożenia macierzy.

Implementacja w C++ mogłaby mieć znaczenie, jeśli usprawnia harmonogramowanie, zarządzanie pamięcią, komunikację, tworzenie punktów kontrolnych, niestandardowe jądra lub odzyskiwanie po awarii. Dopóki jednak xAI nie opublikuje architektury nowego stosu, twierdzenia o konkretnych źródłach przyrostu wydajności będą spekulacją.

Za wcześnie też, by stwierdzić, że xAI całkowicie porzuciło JAX. Model Grok-1.5 został stworzony w oparciu o środowisko treningowe JAX, Rust i Kubernetes. Wypowiedź Muska na temat Grok 4.8 potwierdza powstanie nowego stosu C++, ale nie mówi, które starsze komponenty pozostały.

Co właściwie oznacza 2,5 biliona parametrów?

Surowa liczba robi wrażenie, ale łączna liczba parametrów i liczba aktywnych parametrów to nie to samo.

Jeśli Grok 4.8 korzysta z gęstej architektury, większość lub wszystkie te parametry mogą brać udział w inferencji. Jeśli korzysta z architektury typu mieszanka ekspertów, przy każdym tokenie może aktywować się tylko ich część.

xAI nie ujawniło, z jakiej architektury korzysta Grok 4.8.

Grok-1 pokazuje, dlaczego to rozróżnienie ma znaczenie. Według oficjalnego repozytorium Grok-1 wcześniejszy model miał:

Nie dowodzi to, że Grok 4.8 korzysta z tej samej architektury. Pokazuje, dlaczego sama liczba „2.5T parametrów” nie pozwala określić kosztu inferencji, wymagań dotyczących pamięci ani efektywnej mocy obliczeniowej przypadającej na token.

Dopóki xAI nie opublikuje architektury modelu, kilka kwestii pozostaje otwartych:

• Czy Grok 4.8 ma architekturę gęstą czy MoE?
• Ilu ekspertów zawiera?
• Ile aktywują się przy każdym tokenie?
• Jaka jest liczba jego aktywnych parametrów?
• Jaka część wartości 2,5T przypada na komponenty multimodalne?

To jeden z najważniejszych powodów, by nie porównywać modeli granicznych wyłącznie na podstawie całkowitej liczby parametrów.

Czy model o 2,5T parametrów automatycznie oznacza większą inteligencję?

Nie. Liczba parametrów określa możliwości modelu, a nie jego gotowe zdolności.

Na skuteczność w rzeczywistych zastosowaniach wpływają również:

• architektura modelu
• jakość danych treningowych
• mieszanka danych
• stabilność optymalizacji
• etap potreningowy
• uczenie przez wzmacnianie
• korzystanie z narzędzi
• obliczenia w czasie testowania
• projekt obsługi i inferencji

Najnowsze premiery xAI pokazują już, jak ważny stał się etap potreningowy. W zapowiedzi Grok 4.5 xAI podkreślało uczenie przez wzmacnianie na setkach tysięcy zadań oraz długotrwałe przebiegi agentów, zamiast przedstawiać rozmiar modelu jako jedyne źródło poprawy.

Oznacza to, że właściwe pytanie nie brzmi:

Jak duży jest Grok 4.8?

Chodzi o:

Jak skutecznie xAI przekłada te możliwości na rozumowanie, programowanie, korzystanie z narzędzi i niezawodne działanie agenta?

Co oznacza „rozpoczęcie RL” w przypadku Grok 4.8?

Przejście do uczenia przez wzmacnianie nie oznacza, że Grok 4.8 wkrótce trafi na rynek.

Model graniczny może nadal wymagać znacznego nakładu pracy po zakończeniu głównego treningu, w tym:

• uczenie przez wzmacnianie i inne metody potreningowe
• optymalizacja wykonywania instrukcji
• trenowanie agentów i korzystania z narzędzi
• oceny bezpieczeństwa i możliwości
• optymalizacja obsługi zapytań
• dostrajanie opóźnień i pamięci
• Integracja z API i produktem

RL może znacząco wpłynąć na zachowanie modelu, nawet jeśli liczba jego parametrów się nie zmienia.

Model może dysponować wiedzą wystarczającą do rozwiązania trudnego problemu programistycznego, ale mimo to działać słabo jako agent, jeśli zbyt wcześnie przerywa, wybiera niewłaściwe narzędzie, wykonuje zbyt wiele zbędnych kroków lub nie sprawdza swojej pracy.

Obecny kierunek xAI sprawia, że ma to szczególne znaczenie. Grok 4.6 jest wyraźnie pozycjonowany jako model do długotrwałej pracy agentów, programowania i zadań związanych z wiedzą, a jego oficjalna zapowiedź podkreśla zdolność do działania przez wiele etapów zadania.

W przypadku Grok 4.8 faza RL może więc mieć niemal tak duże znaczenie jak skala pretreningu wynosząca 2,5T dla tego, czego ostatecznie doświadczą użytkownicy.

Dlaczego oprogramowanie treningowe staje się przewagą konkurencyjną przy trenowaniu modeli granicznych

Im większa sesja treningowa, tym kosztowniejsze stają się drobne nieefektywności.

Pierwotna infrastruktura Grok firmy xAI wyraźnie koncentrowała się na maksymalizacji użytecznej mocy obliczeniowej na wat oraz utrzymaniu wysokiego wykorzystania mocy obliczeniowej modelu nawet w przypadku awarii sprzętu.

Dzięki temu stos technologiczny C++ w Grok 4.8 można lepiej zrozumieć:

laboratoria rozwijające AI czołówki coraz częściej konkurują nie tylko w zakresie projektowania modeli, lecz także ilości użytecznej inteligencji, jaką potrafią uzyskać z tego samego, kosztownego sprzętu.

Zasada jest zaskakująco podobna do tej stosowanej w lokalnej AI, mimo że skala jest zupełnie inna. Systemy lokalne również zyskują na dopasowaniu każdego zadania do odpowiedniego zasobu, zamiast bez zastanowienia kupować mocniejszy sprzęt.

Czy Grok 4.8 można uruchomić lokalnie?

Obecnie nie ma podstaw, by twierdzić, że Grok 4.8 można uruchomić lokalnie.

xAI nie udostępniło:

• wagi Grok 4.8
• architektura modelu
• liczby aktywnych parametrów
• skwantyzowane punkty kontrolne modelu
• wymagania sprzętowe do lokalnego uruchamiania
• instrukcje samodzielnego hostowania

Nawet liczba 2,5 bln nie wystarczy do wiarygodnego oszacowania zapotrzebowania na VRAM bez informacji, czy model jest gęsty, czy rzadki.

To sprawia, że Grok 4.8 bardzo różni się od otwartych modeli, które można poddać kwantyzacji i uruchamiać na sprzęcie konsumenckim. Na razie należy on do scentralizowanej części AI, wykorzystującej obliczenia na poziomie czołówki.

Nie oznacza to, że lokalna AI traci znaczenie. Oznacza, że rozdzielanie zadań staje się ważniejsze.

Dlaczego model czołówki o 2,5 bln parametrów może zwiększyć wartość lokalnej AI

AI czołówki i lokalna AI coraz bardziej optymalizują się pod kątem przeciwnych ograniczeń.

Dla użytkownika korzystającego lokalnie najważniejsze pytanie nie brzmi, czy model 7B, 14B lub 30B może ogólnie przewyższyć Grok 4.8.

Chodzi o to, czy bieżące zadanie w ogóle wymaga inteligencji na poziomie Grok 4.8.

Dlatego hybrydowa AI i kierowanie zapytań do modeli stają się coraz bardziej użyteczne w miarę powiększania się modeli czołówki. Rutynowe, prywatne i powtarzalne zadania mogą być wykonywane lokalnie, a trudniejsze przypadki przekazywane do API modelu czołówki.

Na przykład prywatny asystent AI może przechowywać system wyszukiwania, dostęp do dokumentów, pamięć i lekkie wnioskowanie blisko lokalnych plików, bez konieczności korzystania na każdym etapie z najpotężniejszego modelu w chmurze.

Granica prywatności również ma znaczenie. System nie jest naprawdę lokalny tylko dlatego, że jego główny LLM działa w domu. Osadzania, uwierzytelnianie, routing lub wywołania narzędzi mogą nadal zależeć od usług zdalnych. Prawdziwie przepływ pracy AI działający bez połączenia z internetem musi pozostać lokalny w całym łańcuchu zależności.

Grok 4.8 to przede wszystkim historia o infrastrukturze

Gdy Grok 4.8 zadebiutuje, uwaga skupi się prawdopodobnie na wynikach testów porównawczych, rezultatach programowania, testach rozumowania i porównaniach z innymi przełomowymi modelami.

Jednak zanim te liczby staną się rzeczywistością, obraz infrastruktury jest już widoczny.

xAI zaczynała od własnego stosu JAX, Rust i Kubernetes. Publicznie podkreślała problemy z awariami GPU, tworzeniem punktów kontrolnych, synchronizacją, użytecznymi obliczeniami na wat oraz wykorzystaniem mocy obliczeniowej modelu (Model FLOP Utilization). Teraz Musk twierdzi, że model o 2,5 biliona parametrów jest trenowany przy użyciu nowego stosu oprogramowania napisanego w C++.

To sugeruje, że granica konkurencji przesuwa się coraz głębiej w stronę infrastruktury.

Dla xAI pytanie brzmi, jak uzyskać więcej użytecznych efektów trenowania z ogromnych zasobów obliczeniowych.

Dla użytkowników lokalnej AI przydatniejsze jest odwrotne pytanie: z ilu zasobów obliczeniowych możemy w ogóle zrezygnować?

Najlepszy lokalny system nie musi być tym, który próbuje odtworzyć w domu przełomowy model o 2,5 biliona parametrów. Lepszy może być system, który obsługuje rutynowe zadania lokalnie, w miarę możliwości korzysta z wyspecjalizowanych modeli, a po przełomową inteligencję sięga tylko wtedy, gdy dodatkowe możliwości naprawdę zmieniają wynik.