Czym jest Union Alpha? Wyjaśnienie systemu AI Pareto 26.9 opartego na wielu modelach

Union Alpha nie jest już tajemniczym modelem. Ukryty model, który nagle pojawił się na głównych platformach AI, został ujawniony jako Pareto 26.9, system wielu modeli AI firmy Unbiased.

Ujawnienie tożsamości jest interesujące, ale nie jest najważniejszą częścią tej historii. Pareto nie jest po prostu kolejnym modelem bazowym konkurującym z GPT, Claude, Gemini, GLM lub Llamą. Reprezentuje inną koncepcję: jeden identyfikator modelu może skrywać system, w którym wiele modeli AI uczestniczy w obsłudze tego samego żądania.

Czym jest Union Alpha?

Union Alpha po raz pierwszy pojawił się jako ukryty model AI bez jasno ujawnionego dostawcy ani architektury. Ta niejednoznaczność natychmiast wywołała spekulacje, ponieważ jego zachowanie nie zawsze przypominało zachowanie jednego znanego modelu.

Tajemnica została rozwiązana: Union Alpha był ukrytą premierą modelu Pareto 26.9, opracowanego przez firmę Unbiased.

Zaskakujące nie jest więc to, jaka firma kryła się za Union Alpha.

To właśnie wywoływali użytkownicy, gdy wybierali tę pojedynczą nazwę modelu.

Union Alpha nie był konwencjonalnym interfejsem API jednego modelu

Większość interfejsów API AI tworzy prosty model mentalny.

Wybierasz nazwę modelu, taką jak konkretny wariant GPT, Claude, Gemini, GLM lub Llama. Ten model otrzymuje prompt i generuje odpowiedź.

Pareto zmienia to założenie.

Unbiased opisuje to jako model łączący. Zamiast wymagać, aby jeden model bazowy obsłużył całe żądanie, wiele modeli może uczestniczyć w przetwarzaniu tego samego zadania, zanim system wygeneruje jedną końcową odpowiedź.

Z perspektywy aplikacji interakcja nadal wygląda prosto:

• jeden identyfikator modelu,
• jedno żądanie,
• jedna odpowiedź API,
• jeden rekord użycia.

Za tym interfejsem warstwa inteligencji może jednak obejmować wiele modeli.

Tworzy to ważne nowe rozróżnienie:

nazwa modelu udostępniana przez API nie musi już odpowiadać jednej stałej sieci neuronowej.

Może oznaczać usługę, która koordynuje kilka modeli za jednym punktem końcowym.

Model łączący a router modeli i Mixture-of-Experts

„Wiele modeli” może oznaczać kilka bardzo różnych architektur. Traktowanie ich jako zamiennych sprawia, że Union Alpha jest trudniejsza do zrozumienia, niż powinna.

Różnica między routerem modeli a systemem łączącym modele jest szczególnie istotna.

Tradycyjny router próbuje odpowiedzieć:

Który model powinien obsłużyć to żądanie?

System łączący modele może zamiast tego zapytać:

Które modele powinny przyczynić się do obsługi tego żądania i jak należy połączyć ich pracę?

Dlatego Pareto nie powinno być opisywane jako model typu Mixture-of-Experts.

MoE to technika architektoniczna stosowana wewnątrz modelu. Pareto działa między oddzielnymi modelami, na wyższej warstwie systemu.

MoE łączy wewnętrznych ekspertów. Pareto łączy inteligencję na poziomie modeli.

Dlaczego Union Alpha czasami sprawiała wrażenie różnych modeli?

W okresie ukrywania informacji użytkownicy próbowali zidentyfikować Union Alpha na podstawie stylu pisania, schematów rozumowania, działania tokenizera, wydajności w kodowaniu, rozumienia obrazów, wiedzy i sposobu odmawiania.

Te próby doprowadziły do powstania sprzecznych domysłów.

Niektóre odpowiedzi sprawiały wrażenie pochodzących od jednej rodziny modeli. Inne zadania wydawały się bliższe innej.

Hybrydowa architektura oferuje proste wyjaśnienie, dlaczego odcisk behawioralny stał się wyjątkowo trudny do ustalenia: użytkownicy mogli obserwować wynik działania systemu wielu modeli, a nie jednego ukrytego modelu bazowego.

Nie oznacza to, że każda różnica w odpowiedzi dowodzi użycia innego modelu bazowego. Na zachowanie modelu mogą również wpływać próbkowanie, prompty, kontekst, instrukcje systemowe i zmiany zaplecza.

Co ważniejsze, Unbiased nie opublikowało pełnej listy modeli używanych przy kolejnych żądaniach, pokazującej dokładnie, które modele bazowe uczestniczą w każdej odpowiedzi Pareto.

Dlatego warto oddzielić to, co wiadomo, od tego, co pozostaje nieznane.

To rozróżnienie ma znaczenie, ponieważ spekulacje na temat GPT, GLM, Llama, Mistral lub innych modeli nie powinny być przedstawiane jako potwierdzona architektura Pareto.

Dlaczego używać kilku modeli do jednego żądania?

Żaden czołowy model nie jest konsekwentnie najlepszy we wszystkich rodzajach zadań.

Jeden model może szczególnie dobrze radzić sobie z kodem. Inny może być lepszy w rozumieniu obrazów. Jeszcze inny może lepiej obsługiwać wiele języków, przywoływać fakty, przetwarzać długi kontekst lub rozumować w ramach konkretnego benchmarku.

Dla użytkowników tworzy to problem wyboru modelu.

Pomysł na produkt wykracza więc poza „korzystanie z kilku dobrych modeli”.

Próbuje przenieść wybór modelu z interfejsu użytkownika do warstwy infrastruktury.

Zamiast ciągle pytać użytkowników:

• Który model najlepiej pasuje do tego promptu?
• Czy użyć modelu do programowania?
• Czy przełączyć się na model obsługujący obraz?
• Czy potrzebny jest model rozumowania o wysokim koszcie?

usługa może próbować podejmować te decyzje za pośrednictwem jednego interfejsu API.

Union Alpha nie oferował tylko modelu. Abstrahował sam wybór modelu.

Jeden identyfikator modelu staje się warstwą abstrakcji

Ma to szersze implikacje dla interfejsów API AI.

Historycznie identyfikator modelu dawał deweloperom dość intuicyjne wyobrażenie o tym, co znajdowało się za punktem końcowym.

Identyfikator modelu oznaczał konkretną rodzinę i wersję modelu.

Systemy wielomodelowe osłabiają to założenie.

Aplikacja może wywoływać jeden stabilny identyfikator, podczas gdy dostawca usługi zmienia:

• które modele bazowe uczestniczą,
• jak klasyfikowane są żądania,
• jak oceniane są odpowiedzi kandydackie,
• ile mocy obliczeniowej jest przydzielane,
• i sposób syntezy ostatecznej odpowiedzi.

Może to być przydatne dla deweloperów, ponieważ aplikacja nie musi już nieustannie szukać najlepszego modelu dla każdej kategorii.

Wprowadza jednak także nowy kompromis: inteligencja stojąca za API staje się mniej przejrzysta.

Stabilny punkt końcowy nie musi już oznaczać trwale ustalonej ścieżki wnioskowania.

Jaki jest kompromis związany z uruchamianiem wielu modeli?

Architektura hybrydowa nie zapewnia dodatkowej inteligencji za darmo.

Jeśli w żądaniu uczestniczy kilka modeli, system potencjalnie zużywa więcej mocy obliczeniowej na wnioskowanie niż przy wysłaniu tego samego promptu do jednego modelu.

Istotne kompromisy obejmują:

• większy łączny koszt wnioskowania,
• potencjalnie większe opóźnienie,
• bardziej złożoną orkiestrację,
• mniejszą widoczność zachowania modeli bazowych,
• bardziej skomplikowane kwestie dotyczące dostawców i przetwarzania danych,
• oraz większą zależność od samego systemu hybrydowego.

Opóźnienie jest szczególnie interesujące.

Prosty router może wybrać jeden model i czekać na jedną ścieżkę wnioskowania. System hybrydowy może wymagać kilku operacji na modelach oraz dodatkowej oceny lub syntezy niezbędnej do uzyskania ostatecznego wyniku.

Wykonywanie równoległe może zmniejszyć część tej kary, ale równoległość nie oznacza braku kosztów.

Prowadzi to do ważnego rozróżnienia między stosunkiem ceny do wydajności a zwykłym wyborem najtańszego modelu.

Usługa hybrydowa ma sens ekonomiczny tylko wtedy, gdy poprawa jakości odpowiedzi, niezawodności lub prostoty obsługi jest warta dodatkowych kosztów orkiestracji i wnioskowania.

Czy model hybrydowy zawsze udziela lepszej odpowiedzi?

Nie.

Wiele modeli nie gwarantuje automatycznie poprawnego wyniku.

Nadal może pójść nie tak kilka rzeczy:

• wiele modeli może powielać ten sam błąd rzeczowy,
• słabe informacje źródłowe mogą wprowadzić w błąd każdego uczestnika,
• warstwa syntezy może wybrać niewłaściwego kandydata,
• Dodatkowe rozumowanie może wprowadzić niepotrzebną złożoność,
• Proste zapytania mogą nie skorzystać na dodatkowych wywołaniach modeli.

To ważne, ponieważ stwierdzenie „odpowiedziało na to wiele modeli” może brzmieć jak wbudowany system weryfikacji faktów.

Niekoniecznie tak się dzieje.

Zgodność kilku modeli językowych nie jest równoznaczna z niezależną weryfikacją na podstawie wiarygodnych dowodów.

Różnorodność modeli może zwiększać odporność, ale zgodność modeli nie jest dowodem.

Co Cloudflare ma wspólnego z Union Alpha?

Cloudflare stało się ważną częścią historii Union Alpha, ponieważ model stealth udostępniono za pośrednictwem infrastruktury AI Cloudflare.

Nie oznacza to, że Cloudflare stworzyło Pareto.

Rozróżnienie jest łatwiejsze do zrozumienia, jeśli oddzieli się od siebie obie warstwy orkiestracji.

Brama AI może obsługiwać kwestie operacyjne, takie jak rejestrowanie, kontrola żądań, dostęp do dostawców, buforowanie, ponawianie prób, limity szybkości i mechanizmy awaryjne.

Pareto działa o jedną warstwę głębiej: zmienia sposób, w jaki sama inteligencja jest składana na potrzeby żądania.

Jedna warstwa koordynuje dostęp do AI. Druga koordynuje możliwości AI.

To rozróżnienie staje się coraz ważniejsze, gdy deweloperzy korzystają z większej liczby dostawców i warstw abstrakcji modeli.

Czy Union Alpha jest nadal bezpłatne?

Pierwotny okres stealth Union Alpha był bezpłatny, co wyjaśnia, dlaczego tak wielu użytkowników intensywnie go testowało i porównywało jego działanie z drogimi modelami frontier.

Ten okres testowy dobiegł końca.

Ujawniona usługa Pareto 26.9 ma teraz standardowe ceny za korzystanie, a nie pierwotny bezpłatny dostęp w trybie stealth.

Te ceny są również przydatnym kontekstem do zrozumienia architektury.

Jeśli w przetwarzaniu żądania może uczestniczyć kilka bazowych modeli, deweloper nie otrzymuje osobnej faktury od każdego zaangażowanego modelu. Usługa hybrydowa abstrahuje bazowe koszty obliczeń do jednej ceny produktu.

To sprawia, że porównanie ekonomiczne wygląda inaczej niż w przypadku ręcznego wywoływania kilku interfejsów API modeli frontier i budowania własnego potoku syntezy.

Z jakich modeli faktycznie korzysta Pareto 26.9?

To prawdopodobnie najbardziej oczywiste pytanie po odkryciu, że Union Alpha jest systemem hybrydowym.

Pełna odpowiedź nie jest publiczna.

Unbiased opisało Pareto jako połączenie modeli frontier i open source, ale nie opublikowało kompletnej listy bazowych modeli, która pozwalałaby użytkownikom dokładnie stwierdzić, które modele uczestniczą w każdej odpowiedzi.

Oznacza to, że twierdzenia takie jak:

• „Union Alpha to GPT plus GLM”,
• „do tego zadania zawsze używa Llamy”,
• „Mistral jest syntezatorem”,
• lub „jeden konkretny model zawsze generuje ostateczną odpowiedź”

należy traktować jako spekulację, chyba że Unbiased przedstawi odpowiednie szczegóły techniczne.

Architektura jest potwierdzona.

Nie ma kompletnej recepty.

Czy można samodzielnie hostować Union Alpha?

Nie w taki sposób, w jaki można pobrać model z otwartymi wagami i uruchomić go na własnym GPU.

Pareto 26.9 jest dostarczane jako usługa. Kompletny system łączący, logika orkiestracji i podstawowa kombinacja modeli nie są obecnie dystrybuowane jako pakiet możliwy do samodzielnego hostowania.

Jednak tę koncepcję architektoniczną można odtworzyć lokalnie.

Samodzielnie hostowana konfiguracja wielomodelowa mogłaby łączyć kilka ról:

• mały, szybki model do rutynowych zadań,
• model ukierunkowany na kodowanie,
• model wizyjno-językowy,
• większy model rozumujący,
• oraz etap oceny lub syntezy.

Istnieją dwa zasadniczo różne sposoby obsługi takiego lokalnego systemu.

W przypadku większości domowych serwerów AI routing jest znacznie praktyczniejszy.

Jednoczesne uruchamianie kilku dużych modeli wymaga wystarczającej ilości pamięci RAM lub VRAM, aby utrzymać te modele w gotowości, a także mocy obliczeniowej pozwalającej wykonywać kilka ścieżek wnioskowania bez niedopuszczalnego zwiększania opóźnień.

Projekt hybrydowy może być jeszcze bardziej realistyczny: używaj lokalnych modeli do rutynowych zadań, a trudne zapytania przekazuj silniejszemu modelowi lokalnemu lub chmurowemu tylko wtedy, gdy jest to konieczne.

Zapewnia to część korzyści płynących z inteligencji wielomodelowej bez konieczności odtwarzania przez domowy serwer pełnej równoległej architektury Pareto.

Union Alpha ujawnia większą zmianę w interfejsach API AI

Tajemnica wokół Union Alpha szybko została wyjaśniona.

Ważniejsza historia potrwa dłużej.

Aplikacje AI odchodzą od świata, w którym:

jedna nazwa modelu zawsze oznacza jeden stały model wykonujący jedno wnioskowanie.

Kolejna generacja punktów końcowych AI może w coraz większym stopniu ukrywać:

• routing modeli,
• wnioskowanie równoległe,
• wyspecjalizowane modele,
• etapy weryfikacji,
• korzystanie z narzędzi,
• wyszukiwanie,
• i synteza.

Dla użytkowników może to uprościć korzystanie z AI: wybierasz jeden punkt końcowy, a system decyduje, ile inteligencji zastosować.

Dla deweloperów stwarza to nowe pytanie architektoniczne:

czy wybierasz model, czy usługę inteligencji?

Union Alpha wyglądał jak tajemniczy nowy model.

Pareto 26.9 pokazuje, dlaczego to założenie było już nieaktualne.

FAQ

Czym jest Union Alpha?

Union Alpha to nazwa stealth używana dla Pareto 26.9 - systemu AI opartego na łączeniu wielu modeli, opracowanego przez Unbiased. Udostępnia pojedynczy punkt końcowy modelu, jednocześnie umożliwiając wielu modelom bazowym współtworzenie odpowiedzi na żądanie.

Czy Union Alpha to to samo co Pareto 26.9?

Tak. Model Union Alpha w wersji stealth został później ujawniony jako Unbiased Pareto 26.9. Union Alpha odnosi się do tożsamości używanej podczas testów stealth, a Pareto to zidentyfikowany produkt produkcyjny.

Kto stworzył Union Alpha?

Union Alpha zostało stworzone przez Unbiased jako stealthowa wersja systemu AI Pareto opartego na łączeniu modeli. Cloudflare zapewniło dostęp do modelu zewnętrznego za pośrednictwem swojej infrastruktury AI, ale nie stworzyło bazowego systemu Pareto.

Czy Union Alpha to jeden model AI czy wiele modeli?

To system wielomodelowy, a nie konwencjonalny pojedynczy model bazowy. Wiele modeli bazowych może współtworzyć odpowiedź na jedno żądanie, zanim Pareto zwróci jedną połączoną odpowiedź.

Jakich modeli AI używa Union Alpha?

Pełna lista modeli bazowych nie została publicznie ujawniona. Unbiased twierdzi, że Pareto łączy modele wiodące i open source, jednak informacje o przypisywaniu konkretnych ról modelom GPT, GLM, Llama, Mistral lub innym pozostają niepotwierdzone, chyba że zostały oficjalnie udokumentowane.

Jaka jest różnica między Pareto a routerem modeli?

Konwencjonalny router zwykle wybiera jeden model do udzielenia odpowiedzi na żądanie. Podejście Pareto oparte na łączeniu modeli pozwala wielu modelom uczestniczyć w obsłudze tego samego żądania, zanim zostanie zwrócony jeden wynik.

Czy Pareto jest modelem Mixture-of-Experts?

Nie. Mixture-of-Experts odnosi się do sieci ekspertów wewnątrz jednego wytrenowanego modelu. Pareto działa na wyższym poziomie systemowym, koordynując wiele oddzielnych modeli AI.

Czy Union Alpha jest nadal bezpłatny?

Nie. Union Alpha był bezpłatny w okresie testów stealth. Ten okres się zakończył, a zidentyfikowana usługa Pareto 26.9 korzysta obecnie ze standardowego cennika opartego na liczbie tokenów.

Ile kosztuje Pareto 26.9?

Obecnie podawane ceny to 2,50 USD za milion tokenów wejściowych, 0,25 USD za milion buforowanych tokenów wejściowych oraz 7,50 USD za milion tokenów wyjściowych. Ceny mogą się zmieniać, dlatego przed użyciem produkcyjnym należy sprawdzić aktualne stawki dostawcy.

Czy mogę samodzielnie hostować Union Alpha lub Pareto 26.9?

Nie jako kompletny, oficjalny system Pareto. Jego warstwa orkiestracji oraz pełne połączenie modeli bazowych są udostępniane jako usługa hostowana. Można jednak zbudować własny lokalny router wielomodelowy lub przepływ pracy łączący modele z otwartymi wagami.

Dlaczego system AI miałby używać kilku modeli do jednego żądania?

Różne modele mają różne atuty w programowaniu, rozumowaniu, obsłudze obrazów, pracy wielojęzycznej, szybkości i kosztach. System wielomodelowy może wykorzystywać te różnice, ograniczając potrzebę ręcznego wybierania przez użytkowników najlepszego modelu do każdego zadania.