Perplexity Hybrid Compute auf dem Mac: Wie die Datenschutzschranke lokale und cloudbasierte KI trennt

Lauren Pan ist der Gründer von ZimaSpace und der Architekt hinter der renommierten ZimaBoard-Serie. Lauren verbindet Industriedesign mit Embedded Engineeringund gründete ZimaSpace mit einer klaren Mission: die Demokratisierung der persönlichen Cloud-Computing. Er ist überzeugt, dass Hardware sowohl "hackbar" als auch schön sein sollte— und so die Kluft zwischen industriellen Servern und Konsumgütern schließt. Heute leitet er das Engineering-Team, das Werkzeuge entwickelt, die Schöpfern volle Kontrolle über ihr digitales Leben.

Perplexity Hybrid Compute auf dem Mac ist als Datenschutzarchitektur interessanter als als weitere Möglichkeit, ein LLM lokal auszuführen. Eine einzelne Aufgabe in Perplexity Computer kann nun hochmoderne Cloud-Modelle mit einem lokalen Modell auf einem Mac mit Apple Silicon kombinieren. Cloud-Modelle übernehmen Aufgaben wie Recherche, Planung und anspruchsvolles Schlussfolgern, während die lokale Seite mit privaten Dateien, sensiblen Informationen und Aktionen auf dem Gerät arbeiten kann. Dazwischen befindet sich ein lokales Privacy Gate, das kontrolliert, welche Informationen die Gerätegrenze überschreiten dürfen.

Das verändert die Bedeutung von „hybrider KI“. Es geht nicht mehr nur darum, dass ein Nutzer manuell zwischen Ollama und einer Cloud-API wählt. Perplexity versucht, das Routing zu einem Bestandteil des Agenten selbst zu machen: zu entscheiden, welcher Teil einer Aufgabe lokal ausgeführt werden sollte, sensible Kontexte zu erkennen, bevor sie den Mac verlassen, und Cloud-Intelligenz gezielt einzusetzen, wenn sie einen Mehrwert bietet. Damit ist Hybrid Compute ein aufschlussreiches Beispiel für eine größere Frage rund um lokale KI: Wenn sich ein Workflow über lokale und Cloud-Modelle erstreckt, welche Daten, Aktionen und Zustände sollten unter der Kontrolle des Nutzers bleiben?

Was ist Perplexity Hybrid Compute auf dem Mac?

Perplexity Hybrid Compute ist ein Modus in Perplexity Computer, mit dem eine Aufgabe sowohl Cloud-KI als auch ein On-Device-Modell nutzen kann, ohne dass der Nutzer den Workflow manuell in separate Prompts aufteilen muss. Perplexity kündigte die Funktion am 1. September 2026 als Erweiterung seines umfassenderen Vorstoßes hin zu Local-First-Agenten an.

Die frühere Local-First-Architektur von Perplexity Portable Computer verlagerte Orchestrator, Planer, Tool-Routing, Aufgabenwarteschlange, Suchindex und Modellausführung auf lokale Hardware. Hybrid Compute geht das Problem anders an: Cloud-Intelligenz bleibt bewusst im Prozess, während eine Richtliniengrenze private Arbeitsvorgänge absichert.

In Perplexitys Ankündigung von Hybrid Compute wird die Aufgabenverteilung klar beschrieben.

Teil des Workflows Primäre Ausführungszone
Komplexe Schlussfolgerungen Cloud
Websuche Cloud
Planung auf hoher Ebene Cloud
Analyse privater Dateien Lokaler Mac
Sensible Informationen Lokaler Mac
Aktionen auf dem Gerät Lokaler Mac
Datenschutzklassifizierung und Routing-Schutzmaßnahmen Lokaler Mac

Die entscheidende Einheit ist daher nicht das Modell, sondern die Aufgabe. Verschiedene Teile derselben Aufgabe können in unterschiedlichen Vertrauenszonen liegen.

Was läuft lokal und was läuft in der Cloud?

Hybrid Compute ergibt mehr Sinn, wenn man nicht mehr in Begriffen wie „lokales Modell versus Cloud-Modell“ denkt, sondern stattdessen fragt, worin jede Seite tatsächlich gut ist.

Cloud-KI bleibt für aktuelles Wissen aus dem Web, breit angelegte Recherchen und fortschrittliche Schlussfolgerungen attraktiv. Ein Mac ist besser dafür geeignet, direkt mit Dateien und Anwendungen zu arbeiten, die nicht in den Kontext eines Remote-Modells kopiert werden sollten. Perplexity Computer koordiniert beide Seiten, sodass der Benutzer nicht manuell ein vertrauliches Dokument zusammenfassen, sensible Abschnitte entfernen, den bereinigten Text in einen anderen Chatbot einfügen und die Antwort anschließend wieder in einen lokalen Workflow übertragen muss.

Betrachten wir eine juristische Aufgabe:

ÖFFENTLICHER / CLOUD-BEREICH
Aktuelle Rechtsprechung
Webrecherche
Komplexe Schlussfolgerungen
Planung auf hoher Ebene
        |
        v
   DATENSCHUTZ-GATEWAY
        ^
        |
PRIVAT / LOKALER BEREICH
Privilegierte Dateien
Identitäten von Mandanten
Lokale Extraktion
Dokumente entwerfen
Aktionen auf dem Gerät

Ein Cloud-Modell könnte öffentlich zugängliche Rechtsprechung recherchieren. Das lokale Modell kann privilegierte Dokumente prüfen und die relevanten Fakten in eine bereinigte Recherchefrage umwandeln. Die Cloud benötigt nicht die vollständige Mandantenakte, um nützliche Schlussfolgerungen beizusteuern.

Perplexity beschreibt ähnliche Beispiele für Finanzen und Werbung: Öffentliche Einreichungen und Marktforschung können remote verarbeitet werden, während vertrauliche Vertragsdokumente, gesperrte kreative Inhalte oder interne Aufzeichnungen auf dem Mac bleiben.

Daraus ergibt sich eine bessere Definition von hybrider KI:

Hybride KI bedeutet nicht einfach, dass die Hälfte einer Aufgabe lokal und die andere Hälfte in der Cloud ausgeführt wird. Es geht darum, unterschiedlichen Vertrauenszonen unterschiedliche Zuständigkeiten zuzuweisen.

Wie funktioniert das Datenschutz-Gateway von Perplexity?

Das Datenschutz-Gateway ist der wichtigste Teil von Hybrid Compute, weil das Routing von Modellen im Vergleich zur Entscheidung, welche Informationen diese Modelle sehen dürfen, einfach ist.

Perplexity zufolge läuft das Datenschutz-Gateway auf dem Mac und bewertet sensible Informationen, bevor geschützte Inhalte an einen Cloud-Dienst gesendet werden. Je nach Situation kann das System Informationen lokal behalten, sensible Details maskieren, eine Aktion ablehnen oder die Einwilligung des Benutzers anfordern.

Aktion des Datenschutz-Gateways Bedeutung
Lokal behalten Die geschützten Informationen bleiben auf dem Mac, und die lokale Verarbeitung übernimmt diesen Teil der Aufgabe.
Maskieren Sensible Details werden entfernt oder umformuliert, bevor der genehmigte Kontext einen Cloud-Dienst erreicht.
Ablehnen Die angeforderte Übertragung oder Aktion wird blockiert, wenn die geschützten Informationen das Gerät nicht verlassen sollen.
Einwilligung anfordern Der Benutzer entscheidet, ob die Informationen die lokale Grenze überschreiten dürfen.

Perplexity nennt ausdrücklich Namen, Adressen, Kontoinformationen und Geheimnisse als Beispiele für Details, die der geräteinterne Klassifikator erkennen kann. Zugangsdaten, Zahlungskarteninformationen und behördliche Ausweisdokumente werden stärker geschützt.

Dadurch entsteht ein wichtiger Unterschied zu einem normalen Cloud-Workflow. Eine lokale Datei wird nicht automatisch zum Cloud-Kontext, nur weil ein KI-Agent bei der Aufgabe Unterstützung benötigt. Die Anwendung kann zunächst entscheiden, ob die vollständigen Daten erforderlich sind, ob ein Teil davon entfernt werden kann oder ob ein lokales Modell diesen Schritt abschließen kann, ohne etwas weiterzugeben.

Für Enterprise-Abonnenten gibt Perplexity an, dass Administratoren außerdem organisationsweite Richtlinien für Informationen festlegen können, die lokal bleiben müssen, Informationen, die maskiert werden dürfen, sowie Datenübertragungen, die eine ausdrückliche Genehmigung erfordern. Administratoren können prüfen, wann Informationen ein Gerät verlassen.

Die Architektur ist nützlich, sollte aber nicht missverstanden werden als „Ihre Daten verlassen den Mac niemals“. Hybrid Compute nutzt weiterhin Cloud-Dienste. Die stärkere Aussage lautet, dass geschützte Daten lokal bleiben können und ausgewählte Übertragungen einer geräteinternen Richtlinienschicht unterliegen, anstatt automatisch zum Cloud-Kontext zu werden.

Woher weiß der Mac, welche Daten sensibel sind?

Eine Datenschutzrichtlinie funktioniert nur, wenn die Maschine sensible Daten zuverlässig erkennen kann. Perplexity führte daher neben Hybrid Compute eine zweite Technologie ein: PII-Tracer, ein kompaktes 0,6B-Modell zur lokalen Erkennung personenbezogener Daten.

Laut der PII-TRACE-Forschung von Perplexity liefert PII-Tracer eines der Signale für das Privacy Gate. Die Anwendung kann diese Erkennungen dann nutzen, um Inhalte lokal zu halten, sensible Textbereiche zu schwärzen oder eine ausdrückliche Genehmigung anzufordern, bevor eine Aufgabe an ein Cloud-Modell weitergeleitet wird.

Der schwierige Teil besteht nicht darin, eine offensichtliche Kreditkartennummer in einem Satz zu erkennen. KI-Agenten führen lange Unterhaltungen, und derselbe Identifikator kann wiederholt in Benutzernachrichten, Assistentenantworten, Tabellen, Code oder strukturierten Datensätzen auftauchen. Bereits das Übersehen eines späteren Vorkommens kann Informationen offenlegen, die das System eigentlich schützen sollte.

Perplexity entwickelte PII-TRACE, um dieses Problem über lange Unterhaltungen hinweg zu testen. Der Benchmark umfasst 13.148 synthetische Benutzer-Assistenten-Unterhaltungen in 13 Sprachen und 10 Schriftsystemen mit mehr als 37.000 markierten Identifikator-Erwähnungen aus neun Arten personenbezogener Daten.

Der übergreifende architektonische Punkt ist für lokale KI besonders relevant: Der Datenschutz selbst entwickelt sich zu einer lokalen KI-Arbeitslast.

Ein ausgereifter privater KI-Stack kann daher mehr als ein Modell enthalten:

Haupt-LLM vor Ort
        +
PII-/Sicherheitsklassifikator
        +
Embedding-Modell
        +
Reranker
        +
OCR-/Vision-Modell
        +
Agenten-Laufzeitumgebung

Das größte Modell kann das Reasoning übernehmen, aber kleinere lokale Modelle können Richtlinien durchsetzen, Informationen abrufen, Anfragen klassifizieren oder private Daten vorverarbeiten, bevor ein entferntes Modell überhaupt einbezogen wird.

Warum hat Perplexity eine eigene lokale Inferenz-Engine für den Mac entwickelt?

Hybrides Routing fühlt sich nur dann nahtlos an, wenn die lokale Hälfte der Aufgabe schnell genug ist, um kontinuierlich mitzuwirken. Wenn ein Agent zwischen Cloud-Reasoning, der Verarbeitung privater Dateien, einem weiteren Aufruf eines lokalen Modells, einer Tool-Aktion und einem weiteren Reasoning-Schritt wechselt, verzögert eine langsame lokale Inferenz den gesamten Arbeitsablauf.

Perplexity entwickelte daher Lily, eine schlanke Inferenz-Engine, die speziell für Apple Silicon und Qwen3.6-35B-A3B optimiert ist. Das Unternehmen gibt an, die Engine als Open Source veröffentlichen zu wollen.

In Perplexitys Untersuchung zur Inferenz auf Apple Silicon wird Lily als spezialisierte Rust-Laufzeitumgebung mit einer OpenAI-kompatiblen API und benutzerdefinierten Metal-Kernels beschrieben. PyTorch und MLX sind nicht Teil von Lilys Ausführungspfad.

Der Grund für die Spezialisierung auf ein Modell ist architektonischer Natur. Qwen3.6-35B-A3B ist ein sparsames 35B-Modell, das pro Token ungefähr 3B Parameter aktiviert. Es kombiniert Mixture-of-Experts-Routing, Gated-DeltaNet-Schichten und Schichten mit vollständiger Aufmerksamkeit. Diese Komponenten erzeugen unterschiedliche Rechen- und Speicherzugriffsmuster und bieten einer Laufzeitumgebung die Möglichkeit, speziell für Apple Silicon zu optimieren.

Der von Lily verwendete Checkpoint ist 4-Bit-quantisiert und etwa 19,4 GB groß. Das erklärt, warum Perplexity für Hybrid Compute eine Unified-Memory-Baseline von 24 GB ansetzen und gleichzeitig ein umfangreiches lokales Modell unterstützen kann.

Perplexity-M5-Max-Test Lily MLX-LM
Durchschnittlicher Prefill-Durchsatz 4.156 Tok./s 3.388 Tok./s
Durchschnittlicher Dekodierungsdurchsatz 170,0 Tok./s 126,4 Tok./s
Relatives Prefill 1,23× Baseline
Relative Dekodierung 1,35× Baseline

Dies sind die Messwerte von Perplexity auf einer M5-Max-Konfiguration mit einer 40-Core-GPU und 128 GB Unified Memory – keine universelle Leistungsprognose für jeden unterstützten Mac.

Die nachhaltigere Erkenntnis ist, dass die Leistung lokaler Inferenz zunehmend davon abhängt, Modellarchitektur, Laufzeitumgebung, Speicheranordnung und Hardware aufeinander abzustimmen. Apple Silicon ist nicht einfach eine kleinere Rechenzentrums-GPU. Das Unified-Memory-Design, die Metal-Ausführungspfade und die Speicherbandbreite führen zu einem anderen Optimierungsproblem.

Welche Macs können Perplexity Hybrid Compute ausführen?

Perplexity nennt derzeit eine relativ einfache Basiskonfiguration: jeder Mac mit Apple Silicon, auf dem macOS 15 oder neuer läuft und der über mindestens 24 GB Unified Memory verfügt.

Hybrid Compute ist für Abonnenten von Perplexity Pro, Max und Enterprise verfügbar. Zum Start können Nutzer zwischen drei lokalen Modellen wählen: Gemma 4 E4B, Qwen3.6-35B-A3B und einem Perplexity-Modell.

Mac-Konfiguration Status von Hybrid Compute Praktische Interpretation
Intel-Mac Nicht unterstützt Hybrid Compute erfordert Apple Silicon
Apple Silicon + 16 GB Unterhalb der offiziellen Anforderung Erfüllt nicht das 24-GB-Minimum von Perplexity
Apple Silicon + 24 GB Unterstützte Basiskonfiguration Offizieller Einstiegspunkt für lokale hybride Inferenz
Apple Silicon + 32–64 GB Unterstützt Mehr Arbeitsspeicher für lokale Modelle, Kontext und andere Anwendungen
MacBook Pro / Mac Studio mit viel Arbeitsspeicher Unterstützt Mehr Flexibilität für größere lokale Workloads

Die Angabe von 24 GB ist das von Perplexity veröffentlichte Minimum. Die Beschreibungen der oben genannten Systeme mit mehr Arbeitsspeicher sind Interpretationen für die Hardwareplanung und keine separaten offiziell empfohlenen Stufen.

Perplexity verweist außerdem auf einen dedizierten Mac mini als ständig aktive Option. Der Mac kann das lokale Modell kontinuierlich ausführen, während der Nutzer Computer per iPhone fernsteuert.

Dieses kleine Detail ist strategisch wichtig, weil es die Rolle des Mac verändert.

Was passiert, wenn ein Mac zu einem ständig aktiven KI-Knoten wird?

Ein interaktiv genutzter Mac ist ein Personal Computer. Ein ständig online betriebener Mac mini, der Agenten, lokale Inferenz, private Dateiverarbeitung und Remote-Aufgaben ausführt, beginnt sich eher wie ein KI-Knoten zu verhalten.

Diese Umstellung bringt Anforderungen aus der Serverwelt mit sich, die wenig mit Benchmark-Ergebnissen zu tun haben:

  • dauerhafter Zugriff auf Projektdateien,
  • stabile Netzwerkpfade,
  • Berechtigungsverwaltung,
  • Agenten-Ausgaben und Arbeitsbereiche,
  • Suchindizes und Embeddings,
  • versionierte Archive,
  • Snapshots und Backups,
  • Speicherkapazität, die unabhängig vom Mac erweitert werden kann.

Die interne SSD des Mac eignet sich hervorragend für häufig verwendete Daten, Modell-Checkpoints, Caches und den aktiven Arbeitsbereich. Sobald ein Agent jedoch mit jahrelangen Dokumenten, Fotos, Projektordnern, Code, Forschungsarchiven oder Teamdateien arbeitet, gibt es wenig Grund dafür, dass jedes dauerhaft benötigte Asset auf derselben SSD wie die Inferenzlaufzeit liegen muss.

Hier beginnt lokale KI weniger wie eine einzelne Anwendung auf einem einzelnen Laptop und mehr wie eine Infrastruktur auszusehen.

Wo passt ein NAS in einen hybriden Mac-KI-Workflow?

Ein NAS muss Perplexity Hybrid Compute nicht ausführen, um eine sinnvolle Rolle in der Architektur zu haben. Perplexity platziert seine lokale Inferenz und das Privacy Gate derzeit auf dem Mac. Ein NAS kann hinter dieser Rechenschicht liegen und eine dauerhafte private Datenzone bereitstellen.

Die grundlegende Architektur behandeln wir bereits in unserem Leitfaden zum Trennen der Mac-Berechnungen von der langfristigen NAS-Speicherung. Hybrid Compute fügt eine dritte Zone hinzu: externe Cloud-Intelligenz.

Zone Hauptfunktion Typische Daten oder Aufgaben
Cloud Hochmoderne Intelligenz Webrecherche, schwierige Schlussfolgerungen, öffentliche Informationen, Cloud-Dienste
Mac Lokale Rechenleistung und Richtliniengrenze Lokales Modell, Datenschutz-Gate, Verarbeitung privater Dateien, Geräteaktionen, aktiver Arbeitsbereich
NAS / lokaler Server Dauerhafte private Daten Dokumente, Medien, RAG-Quellen, Archive, Agentenausgaben, freigegebene Ordner, Backups

Eine konzeptionelle Architektur für zu Hause oder ein kleines Büro kann daher folgendermaßen aussehen:

                CLOUD
        Komplexe Schlussfolgerungen
            Websuche
        Externe Dienste
                |
                |
       Genehmigt / gefiltert
              Kontext
                |
                v
               MAC
          Lokales Modell
          Datenschutz-Gate
          Agentenaktionen
          Aktiver Arbeitsbereich
                |
                |
            Vertrauenswürdiges LAN
                |
                v
          NAS / SERVER
        Private Dokumente
          RAG-Quellen
         Projektarchiv
         Agentenausgaben
            Backups

Wichtig ist, dass diese Ebenen unterschiedliche Probleme lösen. Ein NAS ist kein langsamer VRAM, und der Mac ist nicht automatisch der beste Ort für die langfristige Speicherung. Der Mac übernimmt aktive Berechnungen und Datenschutzentscheidungen. Das Speichersystem stellt dauerhafte Kapazität, Organisation, Berechtigungen, Snapshots und Backups bereit.

Dasselbe Muster ist nützlich, wenn Sie einen privaten KI-Assistenten auf Basis lokaler Dateien und lokaler Suche erstellen. Das Modell muss nicht jedes Archiv dauerhaft in seinem Kontext geladen haben. Es benötigt nur dann berechtigten Zugriff auf die richtigen Dateien, wenn der Workflow dies erfordert.

Diese Trennung erleichtert auch die Weiterentwicklung des KI-Stacks. Ein Mac mini kann durch einen schnelleren Mac Studio ersetzt werden. Das lokale Modell kann gewechselt werden. Perplexity kann neue Laufzeitumgebungen hinzufügen. Cloud-Modelle können besser werden. Das private Dokumentenarchiv und die Projekthistorie müssen nicht jedes Mal verschoben werden, wenn sich die Rechenschicht ändert.

Ist Perplexity Hybrid Compute also nur Ollama plus ein Cloud-Modell?

Nein. Der entscheidende Unterschied ist eine richtlinienbewusste Orchestrierung.

Ein Benutzer kann mit Ollama, einem lokalen Modell und einer API von Claude, Gemini, OpenAI oder einem anderen Anbieter bereits manuell eine hybride Einrichtung erstellen. In einer einfachen Einrichtung entscheidet der Benutzer oder Anwendungsentwickler jedoch normalerweise ausdrücklich, welcher Prompt an welches Modell gesendet wird.

Der Unterschied sieht folgendermaßen aus:

MANUELLE HYBRIDLÖSUNG

Benutzer
 |
 +-- Ollama / Lokales LLM
 |
 +-- Cloud-Modell

Der Nutzer oder die Anwendung entscheidet über das Routing


PERPLEXITY HYBRID COMPUTE

Nutzeraufgabe
    |
    v
Computer-Orchestrierung
    |
    v
Datenschutzklassifizierung
    |
    v
Routing- / Richtlinienentscheidung
   / \
  /   \
Lokal  Cloud

Diese Routingebene kann den Datenschutz bewerten, bevor sie entscheidet, ob Cloud-Intelligenz beteiligt werden sollte. Das lokale Modell ist daher nicht nur ein alternativer Inferenz-Endpunkt, sondern Teil eines koordinierten Workflows.

Dies ist auch der Grund, warum hybride KI mehr als nur ein Datenschutzkompromiss sein kann. Selektives Routing kann zu einer Kostenstrategie werden. Routinemäßige Extraktion, Dokumentenanalyse, Klassifizierung oder Datenschutzfilterung können lokal bleiben, während die leistungsstarke Cloud-Intelligenz den Schritten vorbehalten wird, die am meisten davon profitieren. Unsere umfassendere Kostenanalyse lokaler und cloudbasierter KI untersucht diesen Zielkonflikt ausführlicher.

Ist hybride Datenverarbeitung privater als vollständig lokale KI?

Nicht automatisch. Ein vollständig lokaler Workflow hat die einfachste Vertrauensgrenze, weil Modell, Tools, Daten und Inferenz innerhalb der lokalen Umgebung bleiben können. Die hybride Datenverarbeitung behält Cloud-Dienste bewusst bei und führt daher zusätzliche Routing- und Richtlinienentscheidungen ein.

Ansatz Datenschutzstärke Wichtigster Zielkonflikt
Vollständig lokale KI Daten müssen die lokale Umgebung nicht verlassen Begrenzt durch die Leistungsfähigkeit des lokalen Modells, die Hardware und offline nicht verfügbare Informationen
Cloud-KI Einfache verwaltete Nutzung, aber die Verarbeitung in der Cloud ist grundlegend Mehr Kontext muss möglicherweise die Geräte-Grenze überschreiten
Hybride Datenverarbeitung Ausgewählte sensible Aufgaben können lokal bleiben Datenschutz hängt von Erkennung, Routingrichtlinie, Berechtigungen und den Entscheidungen der Nutzer ab

PII-Tracer selbst zeigt, warum dies ein schwieriges Entwicklungsproblem ist. Perplexity hat einen eigenen Benchmark erstellt, weil lange Unterhaltungen eine konsistente Erkennung erschweren. Wenn eine Kennung fünfmal vorkommt und der Klassifikator vier Vorkommen erkennt, kann das übersehene Vorkommen dennoch genau die Information offenlegen, die die Datenschutzschicht eigentlich schützen sollte.

Ein Privacy Gate reduziert daher unnötige Offenlegung, beseitigt jedoch nicht das erforderliche Vertrauen. Nutzer verlassen sich weiterhin auf die lokale Anwendung, deren Klassifikator, die Berechtigungen des Betriebssystems, die Routingregeln und jeden externen Dienst, den sie genehmigen.

Dies ist eine sinnvollere Methode, private KI zu bewerten, als anzunehmen, dass das Wort „lokal“ jede Datenschutzfrage klärt. Die relevanten Fragen sind:

  • Wo befinden sich die Originaldaten?
  • Welches Modell empfängt ihn?
  • Wer entscheidet, ob er die lokale Umgebung verlassen darf?
  • Kann vertraulicher Kontext vor der Eskalation entfernt werden?
  • Welche Berechtigungen kann der Agent lokal ausüben?
  • Welche Protokolle und Sicherungskopien bleiben nach Abschluss der Aufgabe erhalten?

Zeigt Perplexity Hybrid Compute, wohin sich persönliche KI entwickelt?

Hybrid Compute ist noch zu neu, um zu belegen, dass jedes persönliche KI-System demselben Aufbau folgen wird, aber es macht einen umfassenderen architektonischen Wandel leichter erkennbar.

Lokale Modelle werden zu Arbeitskomponenten, statt Miniatur-Ersatz für jedes hochmoderne Modell zu sein. Ein lokales Modell kann private Dateien prüfen, Fakten extrahieren, Richtlinien durchsetzen, Geräteaktionen ausführen und bereinigten Kontext vorbereiten. Es muss nicht bei jedem Benchmark zum Schlussfolgern das beste Cloud-Modell übertreffen, um wertvoll zu sein.

Cloud-Modelle können zu Spezialisten für Recherche, schwieriges Schlussfolgern und Funktionen werden, die von großer verwalteter Infrastruktur profitieren. Kleine lokale Modelle können Datenschutz- und Routing-Komponenten übernehmen. Ein Mac oder KI-PC kann zum aktiven Ausführungsknoten werden. Ein NAS oder Heimserver kann die dauerhafte Datenschicht dahinter bilden.

Das bedeutet, dass das Routing ebenso wichtig werden könnte wie die Wahl des Modells.

Die Frage verschiebt sich von:

"Kann ich das größte Modell lokal ausführen?"

zu:

"Kann mein System die richtigen Daten lokal halten und gleichzeitig für jeden Teil der Aufgabe das jeweils beste verfügbare Modell nutzen?"

Perplexitys Portable Computer hat gezeigt, dass die Agentenlaufzeit selbst auf lokale Hardware verlagert werden kann. Hybrid Compute auf dem Mac geht den nächsten Schritt, indem die Grenze zwischen lokaler und cloudbasierter Ausführung zu einem Bestandteil des Workflows wird. Zusammengenommen weisen die beiden Veröffentlichungen auf eine KI-Architektur hin, bei der Benutzer nicht mehr grundsätzlich zwischen lokaler Kontrolle und Cloud-Funktionen wählen müssen.

Für eine lokal ausgerichtete Infrastruktur ist das der wichtigere Trend. In Zukunft geht es möglicherweise weniger darum, dass eine Maschine alles erledigt, sondern vielmehr um klar getrennte Rollen: Cloud für externe Intelligenz, lokale Rechenleistung für vertrauenswürdige Ausführung und dauerhafter lokaler Speicher für die Daten, die in Ihrem Besitz bleiben sollten.

FAQ: Perplexity Hybrid Compute auf dem Mac

Was ist Perplexity Hybrid Compute auf dem Mac?

Perplexity Hybrid Compute ist ein Modus von Perplexity Computer, der eine Aufgabe zwischen einem lokalen Modell auf einem Mac mit Apple-Chip und hochmodernen KI-Diensten in der Cloud aufteilt. Die lokale Seite verarbeitet private Dateien, vertrauliche Informationen und Geräteaktionen, während Cloud-Modelle Recherche, Planung und fortgeschrittenes Schlussfolgern übernehmen können.

Hält Perplexity Hybrid Compute Dateien vollständig lokal?

Geschützte Dateien und vertrauliche Informationen können auf dem Mac verbleiben, aber Hybrid Compute ist kein vollständig offline arbeitendes System. Wenn eine Aufgabe Cloud-Funktionen benötigt, kann das Privacy Gate sensible Daten lokal halten, sie maskieren, die Übertragung ablehnen oder vor dem Senden genehmigter Informationen um die Zustimmung des Benutzers bitten.

Was ist der Perplexity Privacy Gate?

Der Privacy Gate ist eine auf dem Gerät ausgeführte Ebene, die sensible Informationen bewertet, bevor sie vom Mac zu Cloud-Diensten übertragen werden. Perplexity gibt an, dass er geschützte Details klassifizieren und Maßnahmen wie das lokale Belassen von Informationen, deren Maskierung, das Ablehnen einer Aktion oder das Einholen einer Einwilligung anwenden kann.

Welche Macs unterstützen Perplexity Hybrid Compute?

Perplexity setzt derzeit einen Apple-Silicon-Mac mit macOS 15 oder höher und mindestens 24 GB Unified Memory voraus. Intel-Macs und Apple-Silicon-Systeme mit weniger als 24 GB erfüllen die veröffentlichten Anforderungen nicht.

Wie viel Unified Memory benötigt Perplexity Hybrid Compute?

Offiziell werden mindestens 24 GB Unified Memory vorausgesetzt. Mehr Speicher bietet zusätzlichen Spielraum für lokale Modelle, Kontext, andere Anwendungen und größere Workloads, aber Perplexity veröffentlicht derzeit keine separaten empfohlenen Stufen für 32 GB, 64 GB oder 128 GB.

Welche lokalen Modelle verwendet Perplexity Hybrid Compute?

Zum Start nennt Perplexity Gemma 4 E4B, Qwen3.6-35B-A3B und ein Perplexity-Modell als Optionen für lokale Modelle. Die Liste der verfügbaren Modelle kann sich mit der Weiterentwicklung des Produkts erweitern.

Funktioniert Perplexity Hybrid Compute offline?

Ein Teil der lokalen Verarbeitung kann auf dem Mac ausgeführt werden, aber der vollständige Hybrid-Compute-Workflow ist darauf ausgelegt, lokale Ausführung mit Cloud-Funktionen wie fortschrittlichem Reasoning und Webrecherche zu kombinieren. Aufgaben, die von diesen Remote-Funktionen abhängen, erfordern eine Internetverbindung.

Ist Perplexity Hybrid Compute dasselbe wie Ollama?

Nein. Ollama ist in erster Linie eine lokale Modell-Laufzeitumgebung und API. Hybrid Compute ist ein Orchestrierungssystem auf Agentenebene, das lokale und Cloud-Modelle koordiniert und dabei Datenschutzklassifizierung und Weiterleitungsrichtlinien für eine einzelne Aufgabe ergänzt.

Was ist PII-Tracer?

PII-Tracer ist Perplexitys kompaktes 0,6-B-Modell zur lokalen Erkennung personenbezogener Daten. Seine Erkennungen können dem Privacy Gate dabei helfen zu entscheiden, ob sensible Inhalte auf dem Gerät verbleiben, redigiert werden oder vor der Weiterleitung an die Cloud eine Genehmigung erfordern.

Was ist Lily?

Lily ist Perplexitys spezialisierte lokale Inferenz-Engine für Apple Silicon und Qwen3.6-35B-A3B. Sie verwendet eine Rust-Laufzeitumgebung und benutzerdefinierte Metal-Kernels und stellt eine OpenAI-kompatible API bereit. Perplexity gibt an, die Engine als Open Source veröffentlichen zu wollen.

Profitiert ein Mac, auf dem Hybrid Compute ausgeführt wird, weiterhin von einem NAS?

Potenziell ja, aber für eine separate Rolle. Hybrid Compute führt seine lokale Inferenz und den Privacy Gate auf dem Mac aus. Ein NAS kann persistenten Speicher für private Dokumente, RAG-Quellen, Projektarchive, generierte Ausgaben, freigegebene Ordner, Snapshots und Backups bereitstellen, ohne zum primären Inferenzgerät werden zu müssen.

Tech- & KI-Zentrum

Mehr zum Lesen

Get More Builds Like This

Stay in the Loop

Get updates from Zima - new products, exclusive deals, and real builds from the community.

Stay in the Loop preferences

We respect your inbox. Unsubscribe anytime.