Liquid AI LFM3 — wyjaśnienie: czy multimodalny model 2B może działać lokalnie?

Tak, LFM3 można uruchomić lokalnie, ale zacznij od wyboru właściwego checkpointu. Liquid AI udostępniło rodzinę LFM3 z otwartymi wagami 27 października 2026 r. Jej model tekstowy, LFM3-1.7B, ma 1,73 miliarda parametrów, a deklarowany rozmiar jego wag w kwantyzacji 4-bitowej to około 1 GB. Aktualna kompilacja llama.cpp może uruchomić jego checkpoint GGUF lokalnie na CPU lub obsługiwanym GPU. Nie oznacza to, że kompletny asystent obsługujący mowę i obraz zużywa tylko 1 GB.

Przy wyborze komputera lub domowego serwera NAS najpierw zdecyduj, czy potrzebujesz tekstu, wizji, audio czy modelu multimodalnego, a dopiero potem dobierz sprzęt. Zasoby zużywają plik modelu, enkoder/dekoder, bufory środowiska uruchomieniowego, stan kontekstu, dane wejściowe w postaci obrazu lub audio oraz równoczesne żądania. Na pierwszą próbę wybierz 4-bitowy model tekstowy, kontekst 4K–8K i jedno żądanie; przed włączeniem większych danych wejściowych lub innych usług NAS zmierz zużycie pamięci i opóźnienia.

Co dokładnie Liquid AI wydało w ramach LFM3?

LFM3 to rodzina sześciu modeli klasy 2B wytrenowanych na bazie modelu LFM3-1.7B-Base: modelu tekstowego, modelu wizyjno-językowego, modelu audio, modelu multimodalnego oraz dwóch wariantów ukierunkowanych na podejmowanie decyzji. Liquid AI opisuje tę rodzinę jako odpowiednią do wyspecjalizowanych zastosowań na urządzeniach. Kluczowe jest słowo rodzina: pobranie LFM3-1.7B nie dodaje automatycznie enkodera obrazu, obsługi mikrofonu ani dekodera mowy. Zobacz ogłoszenie o premierze LFM3 i przegląd rodziny modeli.

Wagi LFM3 są udostępniane na licencji LFM Open License v1.0. Trafnym określeniem jest „otwarte wagi”: przed dystrybucją i zastosowaniem komercyjnym zapoznaj się z właściwą licencją, zamiast traktować ją jak licencję oprogramowania open source zatwierdzoną przez OSI. Karty modeli podają ograniczenia poszczególnych modeli, w tym informację, że kompaktowy model tekstowy nie jest zalecany do złożonego, wieloetapowego rozumowania ani programowania agentowego.

Dlaczego architektura tri-hybrydowa ma znaczenie dla urządzeń brzegowych?

Tekstowy rdzeń o wielkości 1,73B ma 24 warstwy: 13 warstw z bramkowaną konwolucją krótkiego zasięgu, pięć warstw z uwagą o przesuwanym oknie i sześć warstw z uwagą globalną, zgodnie z oficjalną kartą modelu tekstowego. Łączenie tych operacji ogranicza potrzebę przetwarzania każdego tokenu w każdej warstwie z użyciem pełnej uwagi globalnej, a zarazem zachowuje część globalnego kontekstu. To rozwiązanie konstrukcyjne poprawiające opóźnienia i efektywność pamięciową, a nie sposób na uniknięcie kosztów długich promptów.

Liquid AI podaje, że model trenowano na 22 bilionach tokenów, i twierdzi, że zapewnia lepszą jakość w przeliczeniu na parametr niż wcześniejsze modele LFM. Są to wyniki podane przez twórców; nie należy traktować ich jako niezależnych testów porównawczych na domowych serwerach NAS. Korzyści architektoniczne pomagają wyjaśnić, dlaczego model klasy około 2B może być przydatny do ekstrakcji danych, prostego odpowiadania na pytania i kierowania zadań do narzędzi. Możliwości modelu nadal zależą jednak od trudności zadania, promptu i zewnętrznego wyszukiwania.

Ile pamięci RAM, VRAM i przestrzeni dyskowej faktycznie potrzebujesz?

Przejrzyste obliczenie pomaga: 1,73B × 4 bity / 8 ≈ 0,865 GB idealizowanych wag surowych. Metadane kwantyzacji i opakowanie pliku zwiększają tę wartość, dlatego Liquid AI podaje, że 4-bitowy model tekstowy zajmuje około 1 GB. Model nadal potrzebuje jednak pamięci kontekstu, buforów wykonania, pamięci przydzielanej przez alokatory i zasobów aplikacji. Działający system może zużywać znacznie więcej pamięci niż sam plik.

To ostrożne konfiguracje testowe, a nie oficjalne minimalne wymagania modelu ani gwarantowana liczba tokenów na sekundę. Zakładają użycie jednego tekstowego checkpointu 4-bitowego, brak dużego równoczesnego obciążenia i wystarczającą ilość wolnego miejsca.

Deklarowany kontekst 256K to obsługiwany limit modelu, a nie zalecane ustawienie początkowe. Podczas przetwarzania obszernych promptów i równoczesnych sesji środowisko uruchomieniowe może zajmować znacznie więcej pamięci. Skorzystaj z przewodnika ZimaSpace, aby sprawdzić wymagania lokalnych modeli dotyczące RAM-u i GPU oraz wyjaśnienia dotyczącego wyboru modelu na podstawie całkowitego zapotrzebowania na pamięć. Planuj na podstawie zaobserwowanego zużycia zasobów, a nie tylko liczby parametrów.

Który model LFM3 wybrać do domowego NAS?

Do lokalnego czatu tekstowego, tagowania, ekstrakcji danych i lekkiego kierowania do narzędzi LFM3-1.7B to najprostszy model do przetestowania. Do zeskanowanych dokumentów, zdjęć z aparatu lub inspekcji wizualnej wybierz LFM3-VL-2B; według karty modelu oprócz językowego modelu bazowego zawiera on koder wizyjny o 164 mln parametrów i projektor o 25 mln parametrów. Oficjalna karta modelu wizyjnego podaje również parametry próbkowania wideo i limity klatek. Wprowadzanie wideo wymaga więcej zasobów niż przetwarzanie krótkiego promptu tekstowego.

W przypadku interakcji głosowych LFM3-Audio-2B to system przeznaczony do przetwarzania dźwięku, a nie bezpłatne ulepszenie tekstowego GGUF. Obsługuje wielojęzyczną mowę, transkrypcję i odpowiedzi głosowe, ale wydajność przesyłania strumieniowego zależy od urządzenia. Wybierz LFM3-Omni-2B tylko wtedy, gdy przepływ pracy rzeczywiście łączy różne modalności, a dokładnie używany backend obsługuje taką kombinację. Jeden procesor GPU obsługujący czat oraz potoki przetwarzania obrazu i dźwięku musi mieć zapas pamięci na szczytowe jednoczesne zużycie, jak wyjaśniono w naszym przewodniku po multimodalnych obciążeniach na domowym GPU.

Jak uruchomić LFM3-1.7B lokalnie za pomocą llama.cpp?

Informacje o uruchomieniowej części tej konfiguracji znajdziesz w naszym przewodniku wdrażania llama.cpp 0.8.0, który wyjaśnia też różnicę między wnioskowaniem tekstowym a eksperymentalnym głosem w czasie rzeczywistym.

Aby przeprowadzić powtarzalny test początkowy, zacznij od opublikowanego repozytorium GGUF i użyj llama.cpp v0.8.0 lub nowszej kompilacji zgodnej z LFM3. Przykład wykorzystuje oficjalny wariant Q4_K_M i wiąże serwer z adresem loopback; nie udostępnia API modelu w internecie. Na hoście Linux z Git, CMake i zgodnym kompilatorem:

git clone https://github.com/ggml-org/llama.cpp.git
cd llama.cpp
git checkout v0.8.0
cmake -S . -B build
cmake --build build --config Release -j --target llama-server
./build/bin/llama-server \
  -hf LiquidAI/LFM3-1.7B-GGUF:Q4_K_M \
  -c 4096 --host 127.0.0.1 --port 8080

Otwórz http://127.0.0.1:8080 na tym samym komputerze albo przetestuj serwer w jego terminalu:

curl -s http://127.0.0.1:8080/v1/chat/completions \
  -H 'Content-Type: application/json' \
  -d '{"model":"local","messages":[{"role":"user","content":"Wyjaśnij kwantyzację w trzech zdaniach."}],"max_tokens":128}'

Dokładny identyfikator modelu w API zgodnym z OpenAI może się różnić w zależności od konfiguracji serwera. Jeśli Twoja kompilacja odrzuci "local", najpierw sprawdź /v1/models i użyj zwróconego tam identyfikatora. Zbudowanie domyślnego backendu CPU to bezpieczny punkt wyjścia; akceleracja GPU wymaga wybrania i przetestowania odpowiedniego backendu. Oficjalna karta GGUF zawiera inne opcje uruchomieniowe, w tym Ollama i LM Studio. Traktuj je jako alternatywne środowiska uruchomieniowe, a nie dowód na to, że każdy pakiet ZimaOS zawiera już dokładnie tę wersję modelu.

Aby później przetestować obsługę obrazów, użyj udokumentowanego punktu kontrolnego LFM3-VL GGUF i postępuj zgodnie z oficjalną instrukcją szybkiego uruchomienia obsługi obrazów, aby załadować pasujący projektor wizji. Nie zastępuj nazwy modelu tekstowego w przypadkowym poleceniu i nie zakładaj, że obsługa obrazów będzie działać.

Co sprawdzić przed uznaniem wdrożenia za udane?

1. Tożsamość modelu: sprawdź wybrany wariant GGUF i wersję środowiska uruchomieniowego, a nie tylko to, czy pobieranie zostało zakończone.
2. Limit zasobów: zanotuj zajętość pamięci RAM/VRAM w stanie bezczynności, podczas wstępnego przetwarzania i przy dłuższym prompcie; sprawdź, czy ZimaOS i pozostałe aplikacje NAS mają wystarczający zapas zasobów.
3. Opóźnienie i jakość: zmierz przetwarzanie promptu, liczbę generowanych tokenów na sekundę, stosowanie się do instrukcji i poprawność odpowiedzi w pięciu reprezentatywnych zadaniach.
4. Granice prywatności: udostępniaj lokalne API wyłącznie przez adres loopback lub zaufaną sieć prywatną; jeśli inni klienci mają potrzebować dostępu, zadbaj o uwierzytelnianie i skonfiguruj serwer proxy.
5. Trwałość: przechowuj pobrane pliki modelu poza partycją rozruchową i wyraźnie oddziel niezmienne wagi od zapisywalnego stanu aplikacji. Zobacz omówienie oddzielania plików modelu od stanu środowiska uruchomieniowego oraz nasz poradnik bezpiecznego wdrażania lokalnych modeli LLM.

Jeśli wdrożenie działa na komputerze stacjonarnym, ale zawodzi na serwerze NAS, sprawdź całą ścieżkę: rozmiar skwantyzowanego modelu, poprawność podmontowania katalogu, dostępną pamięć RAM, wybór backendu, zgodność instrukcji procesora, projektory i długość kontekstu. Pomocna będzie lista kontrolna weryfikacji lokalizacji plików modelu.

Najczęściej zadawane pytania

Czy LFM3 jest w pełni open source?

Liquid AI udostępnia otwarte wagi na licencji LFM Open License v1.0. Nie oznacza to automatycznie, że jego modele i komponenty treningowe spełniają każdą definicję oprogramowania open source; przed ponowną dystrybucją lub komercjalizacją wdrożenia zapoznaj się z licencją.

Czy mogę uruchomić LFM3 na komputerze lub serwerze NAS bez dedykowanej karty graficznej?

Mały tekstowy model GGUF może działać za pośrednictwem zgodnego backendu CPU llama.cpp, jeśli pozwalają na to system operacyjny i dostępna pamięć RAM. To, czy korzystanie z niego będzie płynne, zależy od wydajności procesora, przepustowości pamięci i długości promptu. Traktuj 8 GB jako praktyczny próg do testów, a nie oficjalne minimum.

Czy LFM3-1.7B obsługuje obrazy lub mowę jako dane wejściowe?

Niekoniecznie. Użyj LFM3-VL do obrazów i wideo, LFM3-Audio do mowy lub LFM3-Omni, gdy potrzebujesz obsługi wielu typów danych. Każdy z nich ma inne checkpointy i zależności środowiska uruchomieniowego.

Czy model 4-bitowy o rozmiarze 1 GB potrzebuje tylko 1 GB pamięci RAM?

Nie. Ta liczba opisuje przybliżony rozmiar skwantyzowanych wag modelu tekstowego. Proces obsługi dodaje stan, bufory środowiska uruchomieniowego, pamięć podręczną tokenów oraz zużycie pamięci przez system operacyjny. Długie konteksty i wielu użytkowników mogą znacząco zwiększyć te wymagania.

Czy kontekst 256K jest dostępny we wszystkich modelach LFM3?

Nie. Model tekstowy deklaruje kontekst o długości 256K, model wizyjny określa 128K, a model audio 32K. Nawet obsługiwana maksymalna długość nie gwarantuje, że urządzenie z 8 GB pamięci będzie w stanie wygodnie obsłużyć taki kontekst.

Czy ZimaCube 2 lub ZimaOS mogą już uruchamiać LFM3?

Lokalny stos wnioskowania jest technicznie wykonalny, jeśli wybrany sprzęt, model i środowisko uruchomieniowe są ze sobą zgodne. ZimaCube 2 przydaje się także do prywatnego przechowywania modeli i dokumentów oraz obsługi aplikacji. Powyższe informacje nie oznaczają, że instalacja LFM3 w ZimaOS została niezależnie certyfikowana ani że zmierzono jej przepustowość.

Najważniejsze wnioski

LFM3 sprawia, że niewielka, wyspecjalizowana sztuczna inteligencja działająca na urządzeniu staje się bardziej praktyczna, ale wybór modelu ma większe znaczenie niż chwytliwe hasło „multimodalny model 2B”. Najbardziej oczywistym pierwszym zastosowaniem w domowym serwerze jest tekstowy model LFM3-1.7B z kwantyzacją 4-bitową, krótkim kontekstem i kontrolowanym obciążeniem. Dodaj obsługę obrazu i mowy tylko wtedy, gdy uzasadniają to konkretny model, obsługa środowiska uruchomieniowego i zmierzony pobór pamięci.

W przypadku konfiguracji ZimaSpace potraktuj pamięć masową, wnioskowanie i dostęp do aplikacji jako osobne kwestie. Domowy serwer NAS może przechowywać pliki modeli, chronić prywatne dokumenty i koordynować lokalne procesy, nawet jeśli model uruchamia wydajniejsza maszyna. Jeśli zainteresują Cię znacznie większe modele z otwartymi wagami, analiza lokalnego uruchamiania Kimi K3 pod kątem sprzętu pokazuje, jak drastycznie zmienia się granica wymagań pamięci wraz ze wzrostem liczby parametrów.

Źródła i zakres

Oficjalne materiały sprawdzone 29 października 2026 r.: wpis premierowy Liquid AI, przegląd rodziny modeli, karta modelu tekstowego, karta modelu wizyjnego, karta modelu audio oraz wydanie llama.cpp v0.8.0. Informacje o wydajności przypisano twórcom; klasy sprzętu i zalecenia dotyczące obsługi to szacunki redakcyjne, a nie wyniki testów porównawczych ZimaSpace.

Zdjęcie okładkowe: Liquid AI, miniatura oficjalnego filmu premierowego LFM3.