Liquid AI LFM3 erklärt: Kann ein multimodales 2B-Modell lokal ausgeführt werden?

Ja, LFM3 kann lokal ausgeführt werden – aber beginnen Sie mit dem richtigen Checkpoint. Liquid AI hat die LFM3-Modellfamilie mit offenen Gewichten am 27. Oktober 2026 veröffentlicht. Das Textmodell LFM3-1.7B hat 1,73 Milliarden Parameter und einen angegebenen Gewichtsspeicherbedarf von ungefähr 1 GB im 4-Bit-Format. Ein aktueller llama.cpp-Build kann den GGUF-Checkpoint auf einer lokalen CPU oder einer unterstützten GPU ausführen. Das bedeutet nicht, dass ein vollständiger Sprach- und Bildassistent nur 1 GB benötigt.

Für einen PC oder ein Heim-NAS lautet die praktische Empfehlung, zuerst Text, Vision, Audio oder Omni auszuwählen und die Hardware danach zu dimensionieren. Die Modelldatei, der Encoder/Decoder, Laufzeitpuffer, Kontextzustand, Bild- oder Audioeingaben und gleichzeitige Anfragen verbrauchen allesamt Ressourcen. Wählen Sie für einen ersten Test das Textmodell im 4-Bit-Format, einen Kontext von 4K–8K und eine einzelne Anfrage. Messen Sie Speicherbedarf und Latenz, bevor Sie größere Eingaben oder andere NAS-Dienste aktivieren.

Was genau hat Liquid AI mit LFM3 veröffentlicht?

LFM3 ist eine Sammlung von sechs Modellen der 2B-Klasse, die auf der Grundlage des LFM3-1.7B-Base-Basismodells trainiert wurden: ein Textmodell, ein Vision-Language-Modell, ein Audiomodell, ein Omnimodell und zwei entscheidungsorientierte Varianten. Liquid AI beschreibt die Modellfamilie als geeignet für spezialisierte Anwendungen auf Geräten. Das entscheidende Wort ist Familie: Der Download von LFM3-1.7B fügt nicht automatisch einen Bild-Encoder, Mikrofonunterstützung oder einen Sprachdecoder hinzu. Siehe die Ankündigung zur Markteinführung von LFM3 und die Übersicht über die Modellfamilie.

Für die LFM3-Gewichte gilt die LFM Open License v1.0. Die zutreffende Bezeichnung ist „Open-Weight“: Prüfen Sie die konkrete Lizenz im Hinblick auf die geplante Weitergabe und kommerzielle Nutzung, statt sie als Open-Source-Softwarelizenz der OSI zu behandeln. Die Modellkarten nennen einzelne Einschränkungen, darunter, dass das kompakte Textmodell nicht für komplexes mehrstufiges Schlussfolgern oder agentisches Programmieren empfohlen wird.

Warum ist die Tri-Hybrid-Architektur für Edge-Geräte relevant?

Der 1,73B-Text-Backbone hat laut der offiziellen Textmodellkarte 24 Layer: 13 Gated-Short-Convolution-Layer, fünf Sliding-Window-Attention-Layer und sechs Global-Attention-Layer. Durch die Kombination dieser Verfahren muss nicht jedes Token in jedem Layer wie bei vollständiger globaler Attention verarbeitet werden, während ein Teil des globalen Kontexts erhalten bleibt. Diese Designentscheidung zielt auf geringe Latenz und effiziente Speichernutzung ab, hebt aber die Kosten langer Prompts nicht auf.

Liquid AI gibt an, mit 22 Billionen Tokens trainiert zu haben, und beansprucht eine höhere Qualität pro Parameter als bei früheren LFM-Modellen. Dabei handelt es sich um vom Entwickler gemeldete Ergebnisse; sie sollten nicht als unabhängige Home-NAS-Benchmarks verstanden werden. Die architektonischen Verbesserungen helfen zu erklären, warum ein Modell der Größenklasse von etwa 2B für Extraktion, einfache Fragebeantwortung und Tool-Routing nützlich sein kann. Die Leistungsfähigkeit des Modells hängt jedoch weiterhin von der Schwierigkeit der Aufgabe, dem Prompting und dem externen Abruf ab.

Wie viel RAM, VRAM und Speicherplatz benötigen Sie tatsächlich?

Eine transparente Berechnung hilft: 1,73B × 4 Bit / 8 ≈ 0,865 GB an idealisierten Rohgewichten. Quantisierungsmetadaten und Dateiverpackung erhöhen diesen Wert. Deshalb gibt Liquid AI an, dass das 4-Bit-Textmodell etwa 1 GB belegt. Das Modell benötigt jedoch weiterhin Kontextzustand, Ausführungspuffer, Speicherzuweisungen und zusätzlichen Speicher für die Anwendung. Ein laufendes System kann deutlich mehr Speicher beanspruchen als die Dateigröße.

Dies sind vorsichtige Testkonfigurationen, keine offiziellen Modell-Mindestanforderungen oder garantierten Ziele für Tokens pro Sekunde. Sie setzen einen einzelnen 4-Bit-Text-Checkpoint, keine großen gleichzeitigen Workloads und ausreichend freien Speicherplatz voraus.

Ein beworbener Kontext von 256K ist eine unterstützte Modellgrenze, keine empfohlene Starteinstellung. Bei großen Prompts und gleichzeitigen Sitzungen kann die Laufzeitumgebung erheblich mehr Speicher belegen. Nutze den ZimaSpace-Leitfaden zu RAM- und GPU-Anforderungen für lokale Modelle und die Erklärung zum Modell-Routing anhand des gesamten Speicherbedarfs, um anhand des beobachteten Ressourcenverbrauchs statt allein anhand der Parameterzahl zu planen.

Welches LFM3-Modell solltest du für ein Heim-NAS wählen?

Für lokalen Textchat, Tagging, Extraktion und einfache Tool-Weiterleitung ist LFM3-1.7B das einfachste Modell zum Ausprobieren. Für gescannte Dokumente, Kamerabilder oder visuelle Inspektionen wählst du LFM3-VL-2B; laut Modellkarte verfügt es zusätzlich zum Sprachmodell über einen Vision-Encoder mit 164 Millionen Parametern und einen Projektor mit 25 Millionen Parametern. Die offizielle Modellkarte des Vision-Modells enthält außerdem Angaben zur Videoabtastung und zu Frame-Grenzwerten. Die Eingabe von Videos ist aufwendiger als das Lesen eines kurzen Klartext-Prompts.

Für Sprachinteraktionen ist LFM3-Audio-2B ein speziell für Audio entwickeltes System und kein kostenloses Upgrade für das Text-GGUF-Modell. Es unterstützt mehrsprachige Spracheingabe, Transkription und Sprachausgabe; die Streaming-Leistung hängt jedoch vom Gerät ab. Wähle LFM3-Omni-2B nur, wenn der Workflow tatsächlich mehrere Modalitäten kombiniert und das jeweilige Backend diese Kombination unterstützt. Wenn eine einzelne GPU Chat-, Bildverarbeitungs- und Audio-Pipelines hostet, muss der Spitzenbedarf an gleichzeitig belegtem Speicher eingeplant werden, wie in unserem Leitfaden zu multimodalen Workloads auf Heim-GPUs erklärt.

Wie kannst du LFM3-1.7B lokal mit llama.cpp ausführen?

Informationen zur Laufzeitumgebung für diese Einrichtung findest du in unserem Bereitstellungsleitfaden für llama.cpp 0.8.0, einschließlich der Unterscheidung zwischen Textinferenz und experimenteller Echtzeit-Sprachverarbeitung.

Für einen reproduzierbaren ersten Test solltest du mit dem veröffentlichten GGUF-Repository und llama.cpp v0.8.0 oder einem neueren LFM3-kompatiblen Build beginnen. Das Beispiel verwendet die offizielle Variante Q4_K_M und bindet den Server an die Loopback-Schnittstelle; es stellt keine Modell-API im Internet bereit. Auf einem Linux-Host mit Git, CMake und einem kompatiblen Compiler:

git clone https://github.com/ggml-org/llama.cpp.git
cd llama.cpp
git checkout v0.8.0
cmake -S . -B build
cmake --build build --config Release -j --target llama-server
./build/bin/llama-server \
  -hf LiquidAI/LFM3-1.7B-GGUF:Q4_K_M \
  -c 4096 --host 127.0.0.1 --port 8080

Öffne http://127.0.0.1:8080 auf demselben Rechner oder teste den Server über dessen Terminal:

curl -s http://127.0.0.1:8080/v1/chat/completions \
  -H 'Content-Type: application/json' \
  -d '{"model":"local","messages":[{"role":"user","content":"Explain quantization in three sentences."}],"max_tokens":128}'

Der genaue Modellbezeichner der OpenAI-kompatiblen API kann je nach Serverkonfiguration variieren. Wenn dein Build "local" zurückweist, rufe zuerst /v1/models ab und verwende die dort zurückgegebene ID. Der Build des standardmäßigen CPU-Backends ist ein sicherer Ausgangspunkt; für GPU-Beschleunigung musst du ein geeignetes Backend auswählen und testen. Die offizielle GGUF-Karte bietet weitere Laufzeitoptionen, darunter Ollama und LM Studio. Betrachte sie als alternative Laufzeitumgebungen, nicht als Beleg dafür, dass jedes ZimaOS-Paket bereits genau diese Modellversion enthält.

Um Vision später zu testen, verwende den dokumentierten LFM3-VL-GGUF-Checkpoint und folge dem offiziellen Schnellstart für Vision, damit der passende Vision-Projektor geladen wird. Ersetze nicht einfach den Namen des Textmodells in irgendeinem Befehl und gehe davon aus, dass die Bildeingabe funktioniert.

Was sollten Sie prüfen, bevor Sie die Bereitstellung als erfolgreich bezeichnen?

1. Modellidentität: Prüfen Sie die ausgewählte GGUF-Variante und die Laufzeitversion, nicht nur, ob ein Download abgeschlossen wurde.
2. Ressourcenobergrenze: Erfassen Sie den belegten RAM/VRAM im Leerlauf, während des Prefill und bei einem längeren Prompt. Achten Sie darauf, dass ZimaOS und andere NAS-Apps ausreichend Reserven behalten.
3. Latenz und Qualität: Messen Sie die Prompt-Verarbeitung, generierte Tokens pro Sekunde, die Befolgung von Anweisungen und die Korrektheit anhand von fünf repräsentativen Aufgaben.
4. Datenschutzgrenze: Stellen Sie lokale APIs nur über Loopback oder ein vertrauenswürdiges privates Netzwerk bereit. Richten Sie Authentifizierung und Proxy-Zugriff gezielt ein, wenn andere Clients darauf zugreifen müssen.
5. Persistenz: Speichern Sie heruntergeladene Modelldateien außerhalb der Bootpartition und trennen Sie unveränderliche Gewichte klar vom beschreibbaren App-Status. Siehe Trennung von Modelldateien und Laufzeitstatus und unseren Sicherheitsleitfaden zur Bereitstellung lokaler LLMs.

Wenn eine Bereitstellung auf einem Desktop funktioniert, auf einem NAS aber fehlschlägt, sollten Sie den gesamten Ablauf überprüfen: Größe des quantisierten Modells, korrektes Bind-Mount, verfügbarer RAM, Backend-Auswahl, Kompatibilität mit CPU-Befehlssätzen, Projectors und Kontextlänge. Die Checkliste zur Überprüfung des Modellspeicherorts ist eine hilfreiche Ergänzung.

FAQ

Ist LFM3 vollständig Open Source?

Liquid AI veröffentlicht offene Gewichte unter der Open LFM License v1.0. Das bedeutet nicht automatisch, dass seine Modelle und Trainingskomponenten jeder Definition von Open-Source-Software entsprechen. Lesen Sie die Lizenz, bevor Sie eine Bereitstellung weiterverbreiten oder damit Einnahmen erzielen.

Kann ich LFM3 auf einem PC oder NAS ohne GPU ausführen?

Das kleine GGUF-Textmodell kann über ein kompatibles llama.cpp-CPU-Backend ausgeführt werden, sofern das Betriebssystem und der verfügbare RAM dafür ausreichen. Ob sich die Nutzung interaktiv anfühlt, hängt von der CPU-Leistung, der Speicherbandbreite und der Länge des Prompts ab. Betrachten Sie 8 GB als praktische Teststufe, nicht als offiziell erforderliches Minimum.

Unterstützt LFM3-1.7B Bild- oder Spracheingaben?

Nicht unbedingt. Verwenden Sie LFM3-VL für Bilder und Videos, LFM3-Audio für Sprache oder LFM3-Omni, wenn kombinierte Modalitäten erforderlich sind. Jedes Modell hat eigene Checkpoints und Laufzeitabhängigkeiten.

Benötigt ein 1-GB-Modell mit 4-Bit-Quantisierung nur 1 GB RAM?

Nein. Diese Zahl beschreibt ungefähr den Speicherbedarf quantisierter Textgewichte. Der Ausführungsprozess benötigt zusätzlich Speicher für Zustand, Laufzeitpuffer, Token-Caches und das Betriebssystem. Bei langen Kontexten und mehreren Benutzern kann dieser zusätzliche Bedarf den Unterschied ausmachen.

Ist ein Kontext von 256K bei jedem LFM3-Modell verfügbar?

Nein. Das Textmodell gibt 256K an; das Vision-Modell spezifiziert 128K und das Audiomodell 32K. Selbst ein unterstütztes Maximum garantiert nicht, dass ein bestimmtes 8-GB-Gerät das Modell problemlos ausführen kann.

Können ZimaCube 2 oder ZimaOS LFM3 derzeit ausführen?

Ein lokaler Inferenz-Stack ist technisch realisierbar, wenn Hardware, Modell und Laufzeitumgebung zusammenpassen. ZimaCube 2 eignet sich außerdem für private Modellspeicherung, Dokumente und Anwendungsdienste. Die obigen Prüfungen sind keine Behauptung einer unabhängig zertifizierten ZimaOS-LFM3-Installation oder eines gemessenen Durchsatzes.

Fazit

LFM3 macht kleine, spezialisierte On-Device-KI praktikabler, doch die Wahl des Checkpoints ist wichtiger als die Schlagzeile „multimodal mit 2B“. Der naheliegendste erste Schritt für einen Heimserver ist ein 4-Bit-Textmodell LFM3-1.7B mit kurzem Kontext und kontrollierter Arbeitslast. Ergänze Vision und Sprache nur, wenn der jeweilige Checkpoint, die Laufzeitumgebung und der gemessene Speicherbedarf die Änderung rechtfertigen.

Bei einem ZimaSpace-Setup sollten Speicher, Inferenz und Anwendungszugriff als separate Entscheidungen betrachtet werden. Ein Heim-NAS kann Modelldateien speichern, persönliche Dokumente schützen und lokale Arbeitsabläufe koordinieren, selbst wenn ein leistungsstärkerer Rechner das Modell ausführt. Wenn du dich für wesentlich größere Open-Weight-Systeme interessierst, zeigt die Analyse zur lokalen Kimi-K3-Hardware, wie stark sich die Speichergrenze mit der Parameterzahl verschiebt.

Quellen und Umfang

Offizielle Materialien geprüft am 29. Oktober 2026: Liquid AI-Launchblog, Familienübersicht, Text-Modellkarte, Vision-Modellkarte, Audio-Modellkarte und llama.cpp-Version 0.8.0. Leistungsangaben sind den Entwicklern zugeschrieben; Hardwareklassen und Betriebsempfehlungen sind redaktionelle Einschätzungen, keine ZimaSpace-Benchmark-Ergebnisse.

Titelbild: Liquid AI, offizielles Thumbnail des LFM3-Launchvideos.