Perplexity Hybrid Compute op Mac: hoe de privacypoort lokale en cloud-AI opsplitst

Perplexity Hybrid Compute op Mac is interessanter als privacyarchitectuur dan als een nieuwe manier om lokaal een LLM te draaien. Eén Perplexity Computer-taak kan nu frontiermodellen in de cloud combineren met een lokaal model op een Mac met Apple silicon. Cloudmodellen voeren taken uit zoals onderzoek, planning en complexe redeneringen, terwijl de lokale kant met privébestanden, gevoelige informatie en acties op het apparaat kan werken. Daartussen bevindt zich een lokale Privacy Gate die bepaalt welke informatie de apparaatgrens mag passeren.

Dat verandert de betekenis van 'hybride AI'. Het gaat niet langer alleen om een gebruiker die handmatig kiest tussen Ollama en een cloud-API. Perplexity probeert routering onderdeel van de agent zelf te maken: bepalen welk deel van een taak lokaal thuishoort, gevoelige context identificeren voordat die de Mac verlaat en selectief cloudintelligentie gebruiken wanneer die meerwaarde biedt. Daarmee is Hybrid Compute een nuttige casus voor een bredere vraag over lokale AI: wanneer één workflow lokale en cloudmodellen omvat, welke gegevens, acties en status moeten dan onder controle van de gebruiker blijven?

Wat is Perplexity Hybrid Compute op Mac?

Perplexity Hybrid Compute is een modus in Perplexity Computer waarmee één taak zowel cloud-AI als een model op het apparaat kan gebruiken, zonder dat de gebruiker de workflow handmatig over afzonderlijke prompts hoeft te verdelen. Perplexity kondigde de functie op 1 september 2026 aan als uitbreiding van zijn bredere inzet voor local-first-agents.

De eerdere local-first-architectuur van Perplexity Portable Computer verplaatste de orchestrator, planner, toolroutering, takenwachtrij, zoekindex en modeluitvoering naar lokale hardware. Hybrid Compute benadert het probleem anders: cloudintelligentie blijft bewust onderdeel van de keten, terwijl er een beleidsgrens rond privéwerk wordt geplaatst.

In de aankondiging van Perplexity over Hybrid Compute wordt de taakverdeling duidelijk beschreven.

De belangrijke eenheid is daarom niet het model. Het is de taak. Verschillende onderdelen van dezelfde taak kunnen zich in verschillende vertrouwenszones bevinden.

Wat draait lokaal en wat draait in de cloud?

Hybrid Compute is begrijpelijker wanneer je niet langer denkt in termen van "lokaal model versus cloudmodel", maar in plaats daarvan vraagt waar elke kant werkelijk goed in is.

Cloud-AI blijft aantrekkelijk voor actuele kennis van het web, breed onderzoek en geavanceerde redeneercapaciteiten. Een Mac is beter geschikt om rechtstreeks te werken met bestanden en applicaties die niet naar de context van een extern model mogen worden gekopieerd. Perplexity Computer coördineert beide kanten, zodat de gebruiker niet handmatig een vertrouwelijk document hoeft samen te vatten, gevoelige delen hoeft te verwijderen, de opgeschoonde tekst in een andere chatbot hoeft te plakken en het antwoord vervolgens terug naar een lokale workflow hoeft over te brengen.

Neem een juridische taak:

OPENBARE / CLOUDKANT
Actuele jurisprudentie
Webonderzoek
Geavanceerde redeneercapaciteit
Planning op hoofdlijnen
        |
        v
   PRIVACY GATE
        ^
        |
PRIVÉ / LOKALE KANT
Vertrouwelijke bestanden
Identiteiten van cliënten
Lokale extractie
Documenten opstellen
Acties op het apparaat

Een cloudmodel kan jurisprudentie uit openbare bronnen onderzoeken. Het lokale model kan vertrouwelijke documenten inspecteren en de relevante feiten omzetten in een opgeschoonde onderzoeksvraag. De cloud heeft niet het volledige dossier van de cliënt nodig om nuttige redeneringen te leveren.

Perplexity beschrijft vergelijkbare voorbeelden voor financiën en reclame: openbare documenten en marktonderzoek kunnen op afstand worden verwerkt, terwijl vertrouwelijke dealdocumenten, materiaal dat nog onder embargo valt of interne dossiers op de Mac blijven.

Dit leidt tot een betere definitie van hybride AI:

Hybride AI betekent niet simpelweg dat de helft van een werklast lokaal en de andere helft in de cloud wordt uitgevoerd. Het betekent dat verschillende verantwoordelijkheden aan verschillende vertrouwenszones worden toegewezen.

Hoe werkt de Privacy Gate van Perplexity?

De Privacy Gate is het belangrijkste onderdeel van Hybrid Compute, omdat het routeren van modellen eenvoudig is vergeleken met bepalen welke informatie die modellen mogen zien.

Perplexity zegt dat de Privacy Gate op de Mac draait en gevoelige informatie beoordeelt voordat beschermde inhoud naar een cloudservice wordt verzonden. Afhankelijk van de situatie kan het systeem informatie lokaal houden, gevoelige gegevens maskeren, een actie weigeren of de gebruiker om toestemming vragen.

Perplexity noemt specifiek namen, adressen, accountgegevens en geheimen als voorbeelden van gegevens die de classifier op het apparaat kan herkennen. Inloggegevens, betaalkaartgegevens en identiteitsbewijzen van de overheid krijgen extra sterke bescherming.

Dat zorgt voor een belangrijk onderscheid met een normale cloudworkflow. Een lokaal bestand wordt niet automatisch cloudcontext alleen omdat een AI-agent hulp nodig heeft bij de taak. De applicatie krijgt eerst de gelegenheid om te bepalen of alle gegevens nodig zijn, of een deel ervan kan worden verwijderd, of dat een lokaal model die stap kan uitvoeren zonder iets te delen.

Voor Enterprise-abonnees zegt Perplexity dat beheerders ook organisatiebrede beleidsregels kunnen definiëren voor informatie die lokaal moet blijven, informatie die mag worden gemaskeerd en gegevensoverdrachten waarvoor expliciete goedkeuring nodig is. Beheerders kunnen controleren wanneer informatie een apparaat verlaat.

De architectuur is nuttig, maar mag niet verkeerd worden begrepen als "je gegevens kunnen de Mac nooit verlaten". Hybrid Compute gebruikt nog steeds clouddiensten. De sterkere bewering is dat beschermde gegevens lokaal kunnen blijven en dat geselecteerde overdrachten onderworpen zijn aan een beleidslaag op het apparaat, in plaats van automatisch cloudcontext te worden.

Hoe weet de Mac welke gegevens gevoelig zijn?

Een privacybeleid werkt alleen als de machine gevoelige gegevens betrouwbaar kan identificeren. Daarom introduceerde Perplexity naast Hybrid Compute een tweede technologie: PII-Tracer, een compact model van 0,6 miljard parameters dat is ontworpen om persoonlijk identificeerbare informatie lokaal te detecteren.

Volgens het PII-TRACE-onderzoek van Perplexity levert PII-Tracer een van de signalen die door de Privacy Gate worden gebruikt. De applicatie kan die detecties vervolgens gebruiken om inhoud lokaal te houden, gevoelige tekstgedeelten te redigeren of expliciete toestemming te vragen voordat een taak wordt doorgestuurd naar een cloudmodel.

Het moeilijke deel is niet het identificeren van een voor de hand liggend creditcardnummer in één zin. AI-agenten onderhouden lange gesprekken, en dezelfde identificatie kan herhaaldelijk voorkomen in gebruikersberichten, assistentreacties, tabellen, code of gestructureerde records. Als slechts één latere vermelding wordt gemist, kan dat nog steeds informatie blootleggen die het systeem juist moest beschermen.

Perplexity bouwde PII-TRACE om dit probleem in lange gesprekken te testen. De benchmark bevat 13.148 synthetische gesprekken tussen gebruikers en assistenten in 13 talen en 10 schriftsystemen, met meer dan 37.000 gelabelde vermeldingen van identificatiegegevens binnen negen typen persoonsgegevens.

Het bredere architecturale punt is vooral relevant voor lokale AI: privacy zelf wordt een lokale AI-workload.

Een volwassen private AI-stack kan daarom meer dan één model bevatten:

Primair lokaal LLM
        +
PII-/beveiligingsclassifier
        +
Embeddingmodel
        +
Reranker
        +
OCR-/visiemodel
        +
Agent-runtime

Het grootste model kan het redeneren voor zijn rekening nemen, maar kleinere lokale modellen kunnen beleid afdwingen, informatie ophalen, verzoeken classificeren of privégegevens voorbewerken voordat er überhaupt een extern model aan te pas komt.

Waarom bouwde Perplexity een eigen lokale inferentie-engine voor Mac?

Hybride routering voelt alleen naadloos aan als het lokale deel van de taak snel genoeg is om continu mee te draaien. Als een agent afwisselt tussen redeneren in de cloud, het verwerken van privébestanden, een andere lokale modelaanroep, een toolactie en nog een redeneerstap, vertraagt trage lokale inferentie de volledige workflow.

Perplexity bouwde daarom Lily, een lichtgewicht inferentie-engine die specifiek is geoptimaliseerd voor Apple silicon en Qwen3.6-35B-A3B. Het bedrijf zegt van plan te zijn de engine als opensource beschikbaar te stellen.

In het onderzoek van Perplexity naar inferentie op Apple silicon wordt Lily beschreven als een gespecialiseerde Rust-runtime met een OpenAI-compatibele API en aangepaste Metal-kernels. PyTorch en MLX maken geen deel uit van Lily's uitvoerpad.

De reden om zich op één model te specialiseren is architectonisch. Qwen3.6-35B-A3B is een schaars 35B-model dat per token ongeveer 3B parameters activeert. Het combineert mixture-of-experts-routing, Gated DeltaNet-lagen en lagen met volledige aandacht. Deze componenten genereren verschillende reken- en geheugentoegangspatronen, waardoor een runtime specifieke optimalisaties voor Apple silicon kan toepassen.

Het door Lily gebruikte checkpoint is met 4 bits gekwantiseerd en ongeveer 19,4 GB groot. Dat helpt verklaren waarom Perplexity voor Hybrid Compute een unified-memorybasislijn van 24 GB kan instellen en toch een aanzienlijk lokaal model kan ondersteunen.

Dit zijn de metingen van Perplexity op één M5 Max-configuratie met een GPU met 40 cores en 128 GB unified memory, geen universele prestatievoorspelling voor elke ondersteunde Mac.

De duurzamere conclusie is dat de prestaties van lokale inferentie steeds meer afhangen van het afstemmen van modelarchitectuur, runtime, geheugenindeling en hardware. Apple silicon is niet simpelweg een kleinere datacenter-GPU. Het unified-memoryontwerp, de Metal-uitvoerpaden en de geheugenbandbreedte zorgen voor een ander optimalisatieprobleem.

Welke Macs kunnen Perplexity Hybrid Compute uitvoeren?

Perplexity vermeldt momenteel een relatief eenvoudige basisvereiste: elke Mac met Apple silicon waarop macOS 15 of nieuwer draait en die ten minste 24 GB unified memory heeft.

Hybrid Compute is beschikbaar voor Perplexity Pro-, Max- en Enterprise-abonnees. Bij de introductie kunnen gebruikers kiezen uit drie lokale modellen: Gemma 4 E4B, Qwen3.6-35B-A3B en een Perplexity-model.

De waarde van 24 GB is het gepubliceerde minimum van Perplexity. De beschrijvingen van systemen met meer geheugen hierboven zijn interpretaties voor hardwareplanning en geen afzonderlijke officiële aanbevolen niveaus.

Perplexity wijst ook op een speciale Mac mini als optie die altijd actief is. De Mac kan het lokale model continu uitvoeren, terwijl de gebruiker Computer op afstand vanaf een iPhone bedient.

Dat kleine detail is strategisch belangrijk, omdat het de rol van de Mac verandert.

Wat gebeurt er wanneer een Mac een altijd actief AI-knooppunt wordt?

Een interactief gebruikte Mac is een personal computer. Een Mac mini die online blijft om agents, lokale inferentie, private bestandsverwerking en taken op afstand uit te voeren, begint zich meer als een AI-knooppunt te gedragen.

Die verschuiving brengt serverachtige vereisten met zich mee die weinig met benchmarkscores te maken hebben:

• permanente toegang tot projectbestanden,
• stabiele netwerkpaden,
• rechtenbeheer,
• agentresultaten en werkruimtes,
• zoekindexen en embeddings,
• geversioneerde archieven,
• snapshots en back-ups,
• opslagcapaciteit die onafhankelijk van de Mac kan worden uitgebreid.

De interne SSD van de Mac is uitstekend geschikt voor veelgebruikte gegevens, modelcheckpoints, caches en een actieve werkruimte. Maar zodra een agent aan de slag gaat met jaren aan documenten, foto's, projectmappen, code, onderzoeksarchieven of team­bestanden, is er weinig reden waarom elk duurzaam bestand op dezelfde SSD als de inferentieruntime moet staan.

Hier begint lokale AI er minder uit te zien als één applicatie op één laptop en meer als infrastructuur.

Waar past een NAS in een hybride Mac-AI-workflow?

Een NAS hoeft Perplexity Hybrid Compute niet uit te voeren om een nuttige rol in de architectuur te spelen. Perplexity plaatst zijn lokale inferentie en Privacy Gate momenteel op de Mac. Een NAS kan achter die rekenlaag staan en een permanente privédat zone bieden.

We behandelen de basisarchitectuur al in onze handleiding over het scheiden van Mac-rekenkracht en langdurige NAS-opslag. Hybrid Compute voegt een derde zone toe: externe cloudintelligentie.

Een conceptuele architectuur voor thuis of een klein kantoor kan er daarom als volgt uitzien:

                CLOUD
        Geavanceerde redeneercapaciteit
            Webzoekopdrachten
        Externe diensten
                |
                |
       Goedgekeurd / gefilterd
              context
                |
                v
               MAC
          Lokaal model
          Privacygate
          Agentacties
          Actieve werkruimte
                |
                |
            Betrouwbaar LAN
                |
                v
          NAS / SERVER
        Privédocumenten
          RAG-bronnen
         Projectarchief
         Agentuitvoer
            Back-ups

Het belangrijke punt is dat deze lagen verschillende problemen oplossen. Een NAS is geen trage VRAM en de Mac is niet automatisch de beste plek voor langdurige opslag. De Mac verwerkt actieve berekeningen en privacybeslissingen. Het opslagsysteem biedt duurzame capaciteit, organisatie, machtigingen, snapshots en back-ups.

Datzelfde patroon is nuttig bij het bouwen van een privé AI-assistent rond lokale bestanden en het ophalen van gegevens. Het model hoeft niet elk archief permanent in zijn context geladen te hebben. Het heeft geautoriseerde toegang nodig tot de juiste bestanden wanneer de workflow daarom vraagt.

Deze scheiding maakt het ook eenvoudiger om de AI-stack verder te ontwikkelen. Een Mac mini kan worden vervangen door een snellere Mac Studio. Het lokale model kan veranderen. Perplexity kan nieuwe runtimes toevoegen. Cloudmodellen kunnen beter worden. Het privéarchief met documenten en de projectgeschiedenis hoeven niet telkens te worden verplaatst wanneer de rekenlaag verandert.

Is Perplexity Hybrid Compute gewoon Ollama plus een cloudmodel?

Nee. Het belangrijke verschil is beleidsbewuste orkestratie.

Een gebruiker kan al handmatig een hybride opstelling bouwen met Ollama, een lokaal model en een API van Claude, Gemini, OpenAI of een andere provider. Maar in een eenvoudige opstelling bepaalt de gebruiker of applicatieontwikkelaar doorgaans expliciet welke prompt naar welk model gaat.

Het verschil ziet er als volgt uit:

HANDMATIGE HYBRIDE

Gebruiker
 |
 +-- Ollama / lokaal taalmodel
 |
 +-- Cloudmodel

Gebruiker of applicatie bepaalt de routering


PERPLEXITY HYBRID COMPUTE

Gebruikerstaak
    |
    v
Computerorchestratie
    |
    v
Privacyclassificatie
    |
    v
Routerings- / beleidsbeslissing
   / \
  /   \
Lokaal  Cloud

Die routeringslaag kan de privacy beoordelen voordat wordt beslist of cloudintelligentie mag deelnemen. Het lokale model is dus niet alleen een alternatief inferentie-eindpunt; het maakt deel uit van een gecoördineerde workflow.

Dit is ook waarom hybride AI meer kan zijn dan een privacycompromis. Selectieve routering kan een kostenstrategie worden. Routinematige extractie, documentanalyse, classificatie of privacyfiltering kan lokaal blijven, terwijl premium cloudintelligentie wordt gereserveerd voor de stappen die er het meest van profiteren. Onze uitgebreidere kostenanalyse van lokale versus cloud-AI gaat dieper op die afweging in.

Is hybride computing privacyvriendelijker dan volledig lokale AI?

Niet automatisch. Een volledig lokale workflow heeft de eenvoudigste vertrouwensgrens, omdat het model, de tools, de data en de inferentie binnen de lokale omgeving kunnen blijven. Hybride computing behoudt bewust cloudservices en introduceert daardoor aanvullende routerings- en beleidsbeslissingen.

PII-Tracer laat zelf zien waarom dit een complex engineeringprobleem is. Perplexity creëerde een speciale benchmark omdat lange gesprekken consistente detectie moeilijker maken. Als een identifier vijf keer voorkomt en de classifier er vier detecteert, kan de gemiste vermelding nog steeds precies de informatie blootleggen die de privacylaag had moeten beschermen.

Een Privacy Gate vermindert daarom onnodige blootstelling; het elimineert vertrouwen niet. Gebruikers vertrouwen nog steeds op de lokale applicatie, de classifier, de machtigingen van het besturingssysteem, de routeringsregels en elke externe dienst die ze goedkeuren.

Dit is een gezondere manier om private AI te evalueren dan ervan uit te gaan dat het woord "lokaal" elke privacyvraag oplost. De relevante vragen zijn:

• Waar bevindt de oorspronkelijke data zich?
• Welk model ontvangt het?
• Wie beslist of het mag vertrekken?
• Kan gevoelige context vóór escalatie worden verwijderd?
• Over welke machtigingen kan de agent lokaal beschikken?
• Welke logboeken en back-ups blijven bewaard nadat de taak is voltooid?

Laat Perplexity Hybrid Compute zien welke richting persoonlijke AI opgaat?

Hybrid Compute is nog te nieuw om te bewijzen dat elk persoonlijk AI-systeem hetzelfde ontwerp zal volgen, maar het maakt een bredere architecturale verschuiving beter zichtbaar.

Lokale modellen worden werkers in plaats van miniatuurvervangers voor elk geavanceerd model. Een lokaal model kan privébestanden inspecteren, feiten extraheren, beleid afdwingen, acties op het apparaat uitvoeren en opgeschoonde context voorbereiden. Het hoeft niet per se beter te presteren dan het beste cloudmodel op elke benchmark voor redeneervermogen om waardevol te zijn.

Cloudmodellen kunnen specialisten worden voor onderzoek, complexe redeneringen en mogelijkheden die profiteren van grote, beheerde infrastructuur. Kleine lokale modellen kunnen privacy- en routeringscomponenten worden. Een Mac of AI-pc kan het actieve uitvoeringsknooppunt worden. Een NAS of thuisserver kan de permanente gegevenslaag erachter blijven.

Dat betekent dat routering mogelijk net zo belangrijk wordt als de modelkeuze.

De vraag verschuift van:

"Kan ik het grootste model lokaal uitvoeren?"

naar:

"Kan mijn systeem de juiste gegevens lokaal houden en tegelijk voor elk onderdeel van de taak het best beschikbare model gebruiken?"

De Portable Computer van Perplexity liet zien dat de agentruntime zelf zich richting lokale hardware kan verplaatsen. Hybrid Compute op de Mac zet de volgende stap door de grens tussen lokale uitvoering en uitvoering in de cloud onderdeel van de workflow te maken. Samen wijzen de twee releases op een AI-architectuur waarin gebruikers niet absoluut hoeven te kiezen tussen lokale controle en cloudmogelijkheden.

Voor lokaal georiënteerde infrastructuur is dat de belangrijkere trend. De toekomst draait mogelijk minder om één machine die alles doet en meer om duidelijk gescheiden rollen: de cloud voor externe intelligentie, lokale rekenkracht voor betrouwbare uitvoering en permanente lokale opslag voor de gegevens die van jou moeten blijven.

Veelgestelde vragen: Perplexity Hybrid Compute op de Mac

Wat is Perplexity Hybrid Compute op de Mac?

Perplexity Hybrid Compute is een Perplexity Computer-modus die één taak verdeelt tussen een lokaal model op een Mac met Apple silicon en geavanceerde AI-diensten in de cloud. Het lokale deel verwerkt privébestanden, gevoelige informatie en acties op het apparaat, terwijl cloudmodellen onderzoek, planning en geavanceerde redeneringen kunnen leveren.

Houdt Perplexity Hybrid Compute bestanden volledig lokaal?

Beschermde bestanden en gevoelige informatie kunnen op de Mac blijven, maar Hybrid Compute is geen volledig offline systeem. Wanneer een taak cloudmogelijkheden nodig heeft, kan de Privacy Gate gevoelige gegevens lokaal houden, maskeren, de overdracht weigeren of om toestemming van de gebruiker vragen voordat goedgekeurde informatie wordt verzonden.

Wat is de Perplexity Privacy Gate?

De Privacy Gate is een laag op het apparaat die gevoelige informatie beoordeelt voordat deze de Mac verlaat en clouddiensten bereikt. Perplexity zegt dat de laag beschermde gegevens kan classificeren en acties kan uitvoeren zoals informatie lokaal houden, deze maskeren, een actie weigeren of om toestemming vragen.

Welke Macs ondersteunen Perplexity Hybrid Compute?

Perplexity vereist momenteel een Mac met Apple silicon waarop macOS 15 of hoger draait en die ten minste 24 GB unified memory heeft. Intel-Macs en Apple-siliconsystemen met minder dan 24 GB voldoen niet aan de gepubliceerde vereiste.

Hoeveel unified memory heeft Perplexity Hybrid Compute nodig?

Het officiële minimum is 24 GB unified memory. Meer geheugen biedt extra ruimte voor lokale modellen, context, andere toepassingen en zwaardere workloads, maar Perplexity publiceert momenteel geen afzonderlijke aanbevolen niveaus van 32 GB, 64 GB of 128 GB.

Welke lokale modellen gebruikt Perplexity Hybrid Compute?

Bij de lancering noemt Perplexity Gemma 4 E4B, Qwen3.6-35B-A3B en een Perplexity-model als lokale modelopties. De lijst met beschikbare modellen kan worden uitgebreid naarmate het product zich verder ontwikkelt.

Werkt Perplexity Hybrid Compute offline?

Een deel van de lokale verwerking kan op de Mac plaatsvinden, maar de volledige Hybrid Compute-workflow is ontworpen om lokale uitvoering te combineren met cloudmogelijkheden zoals geavanceerde redeneercapaciteit en webonderzoek. Voor taken die afhankelijk zijn van die externe mogelijkheden is connectiviteit vereist.

Is Perplexity Hybrid Compute hetzelfde als Ollama?

Nee. Ollama is in de eerste plaats een lokale modelruntime en API. Hybrid Compute is een orchestratiesysteem op agentniveau dat lokale en cloudmodellen coördineert en privacyclassificatie en routeringsbeleid rond één taak toevoegt.

Wat is PII-Tracer?

PII-Tracer is Perplexitys compacte 0.6B-model voor het lokaal detecteren van persoonlijk identificeerbare informatie. De detecties kunnen de Privacy Gate helpen bepalen of gevoelige inhoud op het apparaat moet blijven, moet worden geredigeerd of goedkeuring vereist voordat deze naar de cloud wordt geëscaleerd.

Wat is Lily?

Lily is Perplexitys gespecialiseerde lokale inferentie-engine voor Apple silicon en Qwen3.6-35B-A3B. De engine gebruikt een Rust-runtime en aangepaste Metal-kernels en biedt een OpenAI-compatibele API. Perplexity zegt van plan te zijn de engine als open source beschikbaar te stellen.

Heeft een Mac waarop Hybrid Compute draait nog steeds baat bij een NAS?

Potentieel wel, maar voor een aparte rol. Hybrid Compute voert lokale inferentie en de Privacy Gate op de Mac uit. Een NAS kan permanente opslag bieden voor privédocumenten, RAG-bronnen, projectarchieven, gegenereerde uitvoer, gedeelde mappen, snapshots en back-ups, zonder de primaire inferentiecomputer te hoeven worden.