LFM2.5-24B-A2B erklärt: Was Gesamt- und aktive Parameter für lokale KI-Agenten bedeuten

LFM2.5-24B-A2B ist ein Mixture-of-Experts-Reasoning-Modell mit insgesamt 24 Milliarden Parametern und etwa 2 Milliarden aktiven Parametern pro Token. Die geringere Zahl aktiver Parameter hilft, das Rechendesign zu verstehen; sie macht aus dem Checkpoint jedoch keine Speicheranforderung für ein Modell mit 2 Milliarden Parametern. Planen Sie Speicherplatz und Bereitstellungskapazität anhand des vollständigen Artefakts und der Laufzeit.

Für einen Agenten auf einem Heimserver bietet sich ein lokal betriebenes Modell auf geeigneter Hardware mit eng begrenzten Tools an. ZimaSpace-Speicher kann Originaldateien und geprüfte Ergebnisse aufbewahren, während ein geeigneter Worker die Inferenz übernimmt. Die lokale Modellausführung ist nur ein Teil davon, zu kontrollieren, wohin die Daten eines Agenten gelangen.

Was bedeuten die Gesamtzahl und die Anzahl der aktiven Parameter?

Das Mixture-of-Experts-Routing verändert, welche Teile des Modells aktiv sind. Daraus folgt nicht, dass jede Bereitstellungsimplementierung ausschließlich diese aktive Teilmenge speichert.

Was hebt Liquid AI für die Arbeit mit Agenten hervor?

Die Veröffentlichung und Dokumentation beschreiben ein Reasoning-Modell, das für den Einsatz von Tools und mehrstufige Aufgaben trainiert wurde. Ein unterstütztes Modell kann in einem Agent-Harness eingesetzt werden, benötigt aber weiterhin eine Ausführungsumgebung, die Tools festlegt, Argumente prüft und entscheidet, welche Aktionen zulässig sind.

Mit dem Vorbereitungsleitfaden für das Harness können Sie zwischen dem Inferenzmodell und dem Zugriff auf Dateien, Browser und Terminal unterscheiden. Ein erfolgreiches Chat-Beispiel belegt noch keinen funktionierenden autonomen Tool-Loop.

Wie viel Speicher sollte ich einplanen?

Beginnen Sie mit dem tatsächlichen Gewichtsunbestand und dem unterstützten Bereitstellungsweg. Eine ideale Berechnung ergibt für 24 Milliarden 16-Bit-Gewichte etwa 48 GB dezimal und für 4-Bit-Gewichte etwa 12 GB dezimal. Das sind Veranschaulichungen der Nutzdatenmenge der Gewichte, keine Installationsanforderungen: Metadaten, nicht quantisierte Komponenten, Puffer, Kontext und Laufzeit-Overhead erhöhen den Gesamtbedarf.

Der Leitfaden zu Speicherbedarf und Laufzeit erklärt, wie sich daraus eine praktikable Konfiguration erstellen lässt. Kaufen Sie Hardware nicht allein anhand der aktiven Parameterzahl oder einer idealisierten Bit-Berechnung.

Bleibt der gesamte Agent bei lokaler Inferenz privat?

Nur, wenn der restliche Workflow innerhalb der vorgesehenen Grenzen bleibt. Remote-Suche, externe Tools, Cloud-Protokollierung und ein Fallback-Modell können Inhalte übertragen. Auch ein lokal ausgeführter Dienst, der im Netzwerk breit zugänglich ist, kann den Zugriff über das für die Dateien erforderliche Maß hinaus ausweiten.

Befolgen Sie die Berechtigungs-Checkliste für Agenten und den Leitfaden zur Kontrolle von NAS-Dokumentdaten. Beschränken Sie den Eingabeordner des Workers auf das Nötigste und speichern Sie die Ausgaben getrennt von den Originalen.

Was sollte ich zuerst bewerten?

Wählen Sie ein Artefakt, das von Ihrer Hardware und Laufzeitumgebung unterstützt wird. Führen Sie dann eine kurze Textaufgabe und anschließend eine klar begrenzte Tool-Aufgabe aus. Prüfen Sie die endgültige Antwort, die Tool-Argumente, den Ressourcenverbrauch und die Zeit bis zu einem brauchbaren Ergebnis. Halten Sie die genaue Revision und Konfiguration in Ihren Notizen fest.

Wenn auch eine API-Route infrage kommt, lesen Sie den Vergleich von LFM2.5 und der DeepSeek-API. Die ZimaCube 2 kann unabhängig davon, welche Inferenzroute Ihren tatsächlichen Anforderungen entspricht, weiterhin als Speicherebene dienen.

Häufig gestellte Fragen

Bedeutet 2B aktive Parameter, dass das Modell genauso viel Speicher wie ein dichtes 2B-Modell benötigt?

Nein. Berücksichtigen Sie das gesamte Modellartefakt, die Bereitstellungsstrategie, den Kontext, den Laufzeit-Overhead und die Parallelität.

Ist die ideale 4-Bit-Gewichtsberechnung eine vollständige RAM-Anforderung?

Nein. Nicht enthalten sind Quantisierungsmetadaten, Komponenten, die mit anderer Präzision gespeichert werden, Puffer und weitere für die Bereitstellung benötigte Ressourcen.

Hat das Modell automatisch Zugriff auf mein NAS?

Nein. Ein Client oder eine Harness-Umgebung muss Dateitools oder Einbindungen samt Berechtigungen bereitstellen.

Kann ein lokales Modell trotzdem private Daten nach außen senden?

Ja. Externe Tools, Fallback-Dienste, Protokolle und nachgelagerte Verarbeitungsschritte können Inhalte übertragen.

Weiterführende Artikel

• So prüfen Sie Speicher- und Laufzeitanforderungen, bevor Sie LFM2.5-24B-A2B ausführen
• LFM2.5-24B-A2B im Vergleich zur DeepSeek-API: Was eignet sich für den Workflow Ihres Home-Server-Agenten?

Quellen

• Offizielle Ankündigung und Modelldokumentation – www.liquid.ai
• Technische Dokumentation und Referenz – docs.liquid.ai

Titelbild: Offizielles Ankündigungsbild von Liquid AI LFM2.5-24B-A2B. Bildquelle.