Top 10 zelfgehoste AI-zoektools in 2026

Eva Wong is de technisch schrijver en vaste knutselaar bij ZimaSpace. Als levenslange geek met een passie voor homelabs en open-sourcesoftwareis ze gespecialiseerd in het vertalen van complexe technische concepten naar toegankelijke, praktische handleidingen. Eva vindt dat self-hosting leuk moet zijn en niet intimiderend. Met haar tutorials helpt ze de community om hardware-installaties te doorgronden, van het bouwen van hun eerste NAS tot het beheersen van Docker-containers.

AI-zoeken dat je zelf host is inmiddels meer dan ‘een Perplexity-kloon op Docker draaien’. In 2026 omvat deze categorie zoekmachines die antwoorden op basis van het web geven, zoeken in privédocumenten, agents voor diepgaand onderzoek, zoeken in bedrijfskennis en lokale zoekbackends.

De juiste keuze hangt af van wat je precies zelf wilt beheren: de zoekopdracht, het model, je bestanden, de embeddings, de zoekindex of de volledige retrievalpipeline. Deze 10 tools bieden de belangrijkste manieren om die stack zelf op te bouwen.

Wat betekent ‘AI-zoeken dat je zelf host’ eigenlijk?

Een AI-zoektool die je zelf host kan verschillende dingen betekenen.

Zoektype Waarnaar het zoekt Typische architectuur
Zoekmachine die antwoorden geeft op basis van het web Het live web Zoekbackend + LLM + bronvermeldingen
Zoeken in privékennis Documenten, notities, drives, apps Inname + embeddings + retrieval + LLM
Agent voor diepgaand onderzoek Meerdere zoekopdrachten op het web in de loop der tijd Zoeken → reflecteren → opnieuw zoeken → samenvoegen
Zoekbackend Meerdere traditionele zoekmachines Metazoek-API die een AI-laag voedt

Dit onderscheid is belangrijk, want de webinterface op je eigen server draaien betekent niet automatisch dat de volledige zoekworkflow privé is.

Je kunt de frontend zelf hosten, terwijl je zoekopdrachten nog steeds naar een commerciële LLM en een gehoste zoek-API stuurt:

Browser
   |
Zelfgehoste zoekinterface
   |
   +--- Cloud-LLM
   |
   +--- Gehoste zoek-API

Of je kunt vrijwel de volledige stack op je eigen infrastructuur onderbrengen:

Browser
   |
AI-zoeken dat je zelf host
   |
   +--- SearXNG
   +--- Ollama
   +--- Lokale embeddings
   +--- Lokale zoekindex
   +--- Privébestanden

Juist bij die tweede architectuur wordt AI-zoeken dat je zelf host bijzonder relevant voor een lokale kennisbank. Zoeken draait niet langer alleen om het vinden van webpagina's; het kan ook de retrievallaag vormen voor documenten, onderzoeksarchieven, projectbestanden en privégegevens voor bedrijfsvoering.

Hoe we de beste AI-zoektools die je zelf host hebben gerangschikt

Dit is geen ranglijst op basis van GitHub-sterren, en deze tools lossen niet allemaal hetzelfde zoekprobleem op.

De rangschikking is gebaseerd op zeven praktische factoren: de mate waarin je de stack volledig zelf kunt hosten, de kwaliteit van de zoek- en retrievalarchitectuur, ondersteuning voor lokale modellen, bronvermeldingen en onderbouwing met bronnen, zoeken in privégegevens, implementatiegemak en de actuele relevantie van het project in 2026.

We maken ook onderscheid tussen ‘zelf gehost’ en ‘volledig lokaal’. Een tool kan op je server zijn geïnstalleerd, maar ondertussen nog steeds verbinding maken met OpenAI, Anthropic, Tavily, Brave, Exa of een andere externe aanbieder. Dat kan nog steeds nuttig zijn, maar biedt een ander privacyniveau dan Ollama + lokale embeddings + een zoekbackend die je zelf host.

De 10 beste AI-zoektools die je zelf host in één oogopslag

Rang Tool Zoektype Zoeken op internet Privébestanden Lokaal LLM Ideaal voor
1 Vane Zoekmachine die antwoorden geeft op basis van het web Ja Ja Ollama Perplexity-achtige zoekmachine die je zelf host
2 Morphic Zoekmachine die antwoorden geeft op basis van het web Ja Ja Ollama Generatieve zoekinterface
3 Onyx Zoeken in bedrijfskennis Ja Ja Ollama, LiteLLM, vLLM Zoeken binnen teams en bedrijven
4 Khoj Persoonlijke kennis + zoeken op internet Ja Ja Lokale / compatibele API's Persoonlijk tweede brein
5 SurfSense Onderzoekswerkruimte Ja Ja Ollama, LM Studio Onderling verbonden onderzoeksworkflows
6 Open WebUI AI-werkruimte + zoeken Ja Ja Ollama Zoeken toevoegen aan een bestaande lokale AI-interface
7 Local Deep Researcher Agent voor diepgaand onderzoek Ja Beperkt Ollama, LM Studio Iteratief lokaal onderzoek
8 RAGFlow Document- / RAG-zoekfunctie Secundair Ja Zelfgehoste modelopties Complex zoeken in privédocumenten
9 AnythingLLM Privé zoeken in documenten Secundair Ja Ollama, LM Studio, LocalAI Eenvoudige vraag-en-antwoordfunctie voor lokale documenten
10 SearXNG Metazoekbackend Ja Nee Niet van toepassing Privézoekbackend voor lokale AI

1. Vane — Beste zelfgehoste AI-zoekmachine in het algemeen

Voorbeeld

Vane, voorheen bekend als Perplexica, is een van de meest directe antwoorden op de vraag ‘Wat kan ik zelf hosten in plaats van Perplexity?’

Het combineert een zoekbackend met een LLM-antwoordlaag en geeft onderbouwde antwoorden met geciteerde bronnen. Het huidige project ondersteunt lokale inferentie via Ollama, evenals gehoste providers zoals OpenAI, Anthropic Claude, Google Gemini en Groq.

De zoeklaag wordt aangedreven door SearXNG, waardoor Vane niet afhankelijk is van één commerciële zoek-API. De aanbevolen Docker-image kan SearXNG zelfs samen met de applicatie bundelen, terwijl een slanke implementatie kan verwijzen naar een bestaande SearXNG-instantie elders op je netwerk.

Vane biedt ook verschillende zoekmodi voor snelheid, uitgebalanceerd gebruik en diepgaand onderzoek. Het kan zoeken naar algemene webresultaten, discussies en academische bronnen, in plaats van elke zoekopdracht op dezelfde manier te behandelen.

Gebruikersvraag
     |
     v
    Vane
     |
 +---+----+
 |        |
SearXNG  Ollama
 |        |
Web      Lokale LLM
 +---+----+
     |
Antwoord met bronvermeldingen

Daarom staat Vane op de eerste plaats: het sluit nauw aan bij het klassieke gebruik van AI-zoekopdrachten en geeft zelfhosters toch controle over zowel het zoeken als de inferentie.

Ideaal voor: gebruikers die een privé, zelfgehost antwoordplatform in de stijl van Perplexity willen, met bronvermeldingen en ondersteuning voor Ollama.

Afweging: voor zoeken op het web is nog steeds uitgaande internettoegang nodig. Het gebruik van cloud-LLM-providers verandert het privacymodel, ook als de Vane-applicatie zelf lokaal draait.

2. Morphic — Beste zelfgehoste AI-zoekmachine met generatieve UI

Morphic heeft op het eerste gezicht veel gemeen met Vane: beide kunnen zoeken op het web combineren met door LLM's gegenereerde antwoorden, bronvermeldingen, Docker-implementatie, Ollama en SearXNG.

Het verschil zit in de presentatie en interactie.

Morphic omschrijft zichzelf als een AI-aangedreven zoekmachine met een generatieve UI. In plaats van elk antwoord te beperken tot gewone markdown, kan de interface uitgebreidere componenten streamen, zoals secties met afbeeldingen, rasters, koppen en andere gestructureerde resultaatblokken.

De huidige zoeklaag ondersteunt SearXNG, Tavily, Brave en Exa. Voor de modelkeuze kun je OpenAI, Anthropic, Google, Ollama, Vercel AI Gateway of OpenAI-compatibele providers gebruiken.

De Docker-configuratie is bijzonder handig, omdat Docker Compose Morphic, PostgreSQL, Redis en SearXNG samen kan opstarten. Daardoor is het een van de betere keuzes voor wie een complete lokale zoekapplicatie wil zonder elke service zelf samen te stellen.

Geschikt voor: gebruikers die een verfijnde zoekervaring in de stijl van Perplexity willen, met uitgebreidere gegenereerde interfaces en flexibele zoekproviders.

Afweging: de stack is zwaarder dan een minimale Vane-implementatie, omdat de volledige ervaring PostgreSQL, Redis, authenticatie, geschiedenis en aanvullende applicatieservices omvat.

3. Onyx — Beste zelfgehoste AI-zoekfunctie voor teams en bedrijfskennis

Onyx-chatdemo zonder geluid

Onyx valt in een andere categorie dan Vane en Morphic.

De centrale vraag is niet ‘Wat zegt het web?’ maar:

‘Wat weet onze organisatie al?’

Onyx combineert hybride informatieophaling, RAG, diepgaand onderzoek, agents, zoeken op het web en een uitgebreid ecosysteem van connectoren. Het kan informatie uit interne applicaties en repositories indexeren en indien nodig ook het live web doorzoeken.

Het project ondersteunt meer dan 50 indexeringsconnectoren en kan verbinding maken met tools zoals Slack, Google Drive, GitHub, Jira, Confluence en andere teamsystemen. De Community Edition omvat kernfuncties voor chat, RAG, agents en acties, terwijl grotere organisaties functies voor bedrijfsidentiteit en governance kunnen toevoegen.

Het ondersteunt ook zelfgehoste modelinfrastructuur zoals Ollama, LiteLLM en vLLM, in plaats van alle zoekresultaten via één gehoste LLM te laten lopen.

Slack -------\
Drive --------\
GitHub --------> Onyx ----> Zoeken / RAG / Diepgaand onderzoek
Confluence ---/
Web ----------/

Dit lijkt veel meer op een zelfgehoste zoeklaag in de stijl van Glean dan op een eenvoudige Perplexity-kloon.

Geschikt voor: teams die één zoek- en antwoordlaag willen voor bedrijfsdocumenten, apps, repositories en het web.

Afweging: Onyx is aanzienlijk uitgebreider dan één gebruiker nodig heeft als het doel alleen privé zoeken op het web is.

4. Khoj — Beste persoonlijke AI-zoekfunctie voor het web en privébestanden

Chatdemo

Khoj is de persoonlijke variant van het domein waarop Onyx zich richt voor organisaties.

Het combineert privédocumenten, webinformatie, semantisch zoeken, agents en persoonlijke kennis in een zelfhostbare omgeving in de stijl van een ‘tweede brein’.

De zoekarchitectuur is geavanceerder dan een eenvoudige vectorzoekopdracht. De documentatie van Khoj beschrijft een retrievalproces in twee stappen, waarbij een bi-encoder kandidaatdocumenten ophaalt en een tragere cross-encoder ze opnieuw rangschikt voor de huidige zoekopdracht.

Dat is belangrijk, want goed AI-zoeken draait niet alleen om het genereren van embeddings. De kwaliteit van informatie ophalen hangt ervan af of er genoeg kandidaten worden gevonden en vervolgens het meest relevante bewijs wordt gerangschikt voordat de LLM het te zien krijgt.

Khoj kan lokale zoekmodellen en OpenAI-compatibele eindpunten gebruiken, waaronder Ollama-compatibele configuraties, waardoor het geschikt is als persoonlijk, privaat kennissysteem.

Geschikt voor: mensen die notities, bestanden, documenten en het web willen doorzoeken vanuit één zelfgehoste persoonlijke AI-werkruimte.

Afweging: het is meer gericht op persoonlijke kennis en workflows met assistenten dan op organisatiebrede indexering en machtigingen voor bedrijven.

5. SurfSense — Beste zelfgehoste AI-onderzoekswerkruimte

Chatten met pdf's en documenten

SurfSense kun je beter zien als een gekoppelde onderzoekswerkruimte dan als nog een zoekvak.

Het zelfgehoste platform kan informatiebronnen koppelen, doorzoekbare kennis opbouwen en werkprocessen ondersteunen rond onderzoek, notities, automatiseringen en agents. De huidige documentatie bevat connectors voor diensten zoals Notion, Slack, Google, Jira en andere externe kennisbronnen.

De documentatie beschrijft ook koppelingen met lokale modellen via Ollama en LM Studio, zodat de applicatielaag en de inferentielaag onder controle van de gebruiker blijven.

Daardoor is SurfSense bijzonder interessant wanneer ‘zoeken’ slechts één stap is in een langer werkproces:

Verzamel bronnen
      |
Indexeer kennis
      |
Zoeken / vragen
      |
Genereer notities
      |
Voer automatisering uit
      |
Ga verder met onderzoek

Ideaal voor: onderzoekers en teams die veel met kennis werken en zoeken, gekoppelde bronnen, notities en automatisering in één zelfgehoste werkruimte willen.

Afweging: als je alleen snel antwoorden op basis van het web met bronvermeldingen wilt, zijn Vane of Morphic eenvoudiger en doelgerichter.

6. Open WebUI — Beste manier om zoeken toe te voegen aan een bestaande lokale AI-stack

Open de WebUI-demo

Open WebUI is niet in de eerste plaats een zoekmachine; dat onderscheid moet duidelijk zijn.

De kracht ervan is dat veel gebruikers van lokale AI het al gebruiken als interface voor Ollama of andere modelservers. Voor hen kan zoeken toevoegen aan de bestaande AI-werkruimte praktischer zijn dan een afzonderlijke zoekapplicatie implementeren.

Open WebUI ondersteunt momenteel zoeken op het web via een breed scala aan providers, waaronder SearXNG, Brave, DuckDuckGo, Tavily, Exa, Kagi, Perplexity, Jina, Bing en verschillende andere zoekmachines.

In de officiële integratiehandleiding voor SearXNG wordt uitgelegd hoe een afzonderlijke lokale SearXNG-container de zoeklaag voor Open WebUI kan worden.

Dezelfde applicatie ondersteunt ook lokale RAG op basis van geüploade documenten en documentbibliotheken, zodat gebruikers webinformatie en informatie uit privébestanden in één interface kunnen combineren.

Ideaal voor: gebruikers die Ollama + Open WebUI al gebruiken en zelfgehost zoeken op het web willen toevoegen zonder over te stappen op een speciale antwoordmachine.

Afweging: omdat Open WebUI een algemene AI-werkruimte is, hangt het zoekgedrag sterk af van het aanroepen van tools door het model, de contextgrootte, de ophaalinstellingen en de configuratie van de geselecteerde zoekprovider.

7. Lokale diepgaande onderzoeker — Beste volledig lokale agent voor diepgaand onderzoek

Screenshot 24-01-2025 22:08:31

Local Deep Researcher laat zien welke richting AI-zoekopdrachten inslaan, voorbij antwoordengines die maar één zoekopdracht uitvoeren.

Het project gebruikt een lokale LLM via Ollama of LM Studio om een zoekopdracht te genereren, webresultaten te verzamelen en samen te vatten, resterende kennishiaten vast te stellen, een nieuwe zoekopdracht te maken en de cyclus te herhalen voordat het een eindrapport met bronvermeldingen genereert.

Vraag
   |
Zoekopdracht genereren
   |
Op het web zoeken
   |
Samenvatten
   |
Kennishiaten vinden
   |
Opnieuw zoeken
   |
Herhalen
   |
Eindrapport met bronvermeldingen

Standaard wordt DuckDuckGo gebruikt voor zoekopdrachten, met optionele integraties voor SearXNG, Tavily of Perplexity.

Hierdoor verschilt het van Vane of Morphic. Die tools zijn geoptimaliseerd voor interactieve zoekopdrachten en de gebruikerservaring bij het beantwoorden. Local Deep Researcher is geoptimaliseerd voor iteratief onderzoek.

Ideaal voor: onderzoeksvragen waarbij één zoekopdracht waarschijnlijk niet genoeg bewijs oplevert en de agent na het vaststellen van hiaten bewust opnieuw moet zoeken.

Nadeel: herhaalde zoek- en samenvattingsrondes zijn trager en vergen meer rekenkracht dan een gewone antwoordengine, vooral wanneer de LLM lokaal draait.

8. RAGFlow — Ideaal voor complexe zoekopdrachten in privédocumenten

RAGFlow probeert niet in de eerste plaats met Perplexity te concurreren.

Het is een informatieophaalplatform dat complexe privégegevens omzet in betrouwbare context voor LLM's.

Het huidige project combineert end-to-end RAG met het parsen van documenten, georkestreerde gegevensinvoerprocessen, agentworkflows, MCP-ondersteuning en gegevenssynchronisatie vanuit bronnen zoals Confluence, S3, Notion, Discord en Google Drive.

Daardoor is het beter geschikt voor vragen zoals:

“Hoe doorzoek ik duizenden pdf's, Office-bestanden, interne documenten en gekoppelde kennisbronnen met betrouwbare resultaten?”

in plaats van:

“Wat is er vandaag op het web gebeurd?”

RAGFlow blijft zich ook ontwikkelen als een agentcontextlaag. In 2026 voegde het een officiële skill toe voor toegang tot RAGFlow-datasets via OpenClaw, als voorbeeld van hoe documentzoekopdrachten zich ontwikkelen van geïsoleerde RAG-chat naar herbruikbare agentinfrastructuur.

Voor een diepere kijk op deze laag splitst de ZimaSpace-gids voor documentzoekopdrachten en RAG de workflow op in extractie, chunking, embeddings, vectorzoekopdrachten, reranking en het genereren van antwoorden op basis van bewijs.

Ideaal voor: grotere documentbibliotheken en teams die behoefte hebben aan grondige workflows voor gegevensinvoer, parsing, ophalen en kennisbeheer.

Nadeel: RAGFlow is veel zwaarder dan een eenvoudige lokale documentchattoepassing en is overkill als je kennisbank maar uit een paar mappen bestaat.

9. AnythingLLM — Beste eenvoudige zelfgehoste zoekfunctie voor privédocumenten

Chat

AnythingLLM bevindt zich aan de toegankelijkere kant van privé-AI-zoekoplossingen.

Het kan documenten opnemen, werkruimten aanmaken, embeddings genereren, relevante context ophalen, bronvermeldingen tonen en verbinding maken met lokale of cloudmodellen, zonder dat gebruikers zelf een RAG-stack uit afzonderlijke componenten hoeven samen te stellen.

Ondersteunde lokale modellen zijn onder andere Ollama, LM Studio, LocalAI en modellen die compatibel zijn met llama.cpp. Ook de embeddinglaag kan lokaal blijven, en het project ondersteunt meerdere vectordatabases, waaronder LanceDB, Chroma, Qdrant, Weaviate, Milvus en PGVector.

De privacyvoorwaarden voor zelfgehost gebruik van AnythingLLM zijn ongebruikelijk expliciet: documenten, geschiedenis, werkruimte-instellingen en embeddings blijven op infrastructuur die de gebruiker beheert, en de toepassing kan zonder netwerkverbinding werken wanneer lokale model- en vectorcomponenten zijn gekozen.

Daardoor vormt het een natuurlijke brug tussen ‘chatten met mijn documenten’ en een completere lokale AI-workflow.

Geschikt voor: gebruikers die een eenvoudige lokale toepassing voor documentzoeken en RAG willen zonder een complexer ophaalplatform te beheren.

Afweging: het is eenvoudiger te implementeren dan RAGFlow of Onyx, maar die eenvoud betekent ook dat het niet de beste keuze is voor indexering binnen een hele organisatie of geavanceerde coördinatie van onderzoek.

10. SearXNG — De beste privézoekbackend voor lokale AI

SearXNG - Wikipedia

SearXNG is de vreemde eend in de bijt, omdat het geen AI-antwoordengine is.

Het is een zelfgehoste metazoekmachine die resultaten van maar liefst 272 zoekdiensten verzamelt en het volgen en profileren van gebruikers voorkomt.

Daardoor is het een van de belangrijkste infrastructuurcomponenten in het ecosysteem van zelfgehoste AI-zoekoplossingen.

Vane kan SearXNG gebruiken. Morphic kan SearXNG gebruiken. Open WebUI kan SearXNG gebruiken. Local Deep Researcher kan SearXNG gebruiken.

De rol ervan is eenvoudig:

Zoekopdracht van de gebruiker
    |
SearXNG
    |
Ruwe zoekresultaten
    |
Lokaal LLM
    |
AI-antwoord met bronvermelding

Door de zoekbackend zelf te hosten, scheid je de ophaallaag van de antwoordlaag. Je kunt van LLM wisselen zonder de zoekmachine te veranderen, of van antwoordtoepassing wisselen terwijl je dezelfde zoekinfrastructuur behoudt.

Geschikt voor: gebruikers die een privébackend voor metazoeken willen, vergelijkbaar met Google, die resultaten kan leveren aan Vane, Open WebUI, Morphic, onderzoeksagenten of aangepaste lokale AI-toepassingen.

Afweging: SearXNG vat niet samen, redeneert niet en genereert zelf geen antwoorden met bronvermelding. Als je een Perplexity-achtige ervaring wilt, heb je er een AI-laag bovenop nodig.

Welke zelfgehoste AI-zoektool moet je kiezen?

Als je wilt... Begin met Waarom
Een privéalternatief voor Perplexity Vane Gerichte, zelfgehoste webantwoordengine met SearXNG en Ollama
Een rijkere interface voor generatief zoeken Morphic Generatieve UI plus flexibele zoekproviders
Zoeken in de kennis van het team Onyx Groot ecosysteem van connectors, plus hybride zoeken en RAG
Zoek in persoonlijke bestanden en op het web Khoj Persoonlijk zoeken in kennis met lokale retrieval
Een verbonden onderzoekswerkruimte SurfSense Zoeken, bronnen, notities, connectors en automatiseringen
Voeg zoeken toe aan een Ollama-chatstack Open WebUI Inplugbaar zoeken binnen een vertrouwde lokale AI-interface
Onderzoek op het web in meerdere stappen Local Deep Researcher Zoekt, reflecteert, signaleert hiaten en zoekt opnieuw
Complexe documentretrieval voor ondernemingen RAGFlow Geavanceerde architectuur voor gegevensinname en RAG
Eenvoudige privévragen en -antwoorden over documenten AnythingLLM Lokaalgerichte app met ingebouwde documentpipelines en vectorstores
Een privézoekbackend SearXNG Herbruikbare metazoeklaag voor veel AI-toepassingen

Vane versus Morphic: welk zelfgehost alternatief voor Perplexity is beter?

Vane en Morphic zijn de twee meest voor de hand liggende keuzes als je denkt: “Ik wil Perplexity, maar dan op mijn eigen server.”

Gebied Vane Morphic
Hoofdfocus Privacygerichte AI-antwoordenmachine AI-zoeken met generatieve UI
SearXNG Kernzoekpad Ondersteund en opgenomen in Docker Compose
Ollama Ja Ja
Cloudmodellen Ja Ja
Bestanden Ja Ja
Bronvermeldingen Ja Ja
Zoekmodi Snelheid, gebalanceerd, kwaliteit Snel, adaptief
Beste keuze voor Gerichte privé-antwoordenmachine Zoekervaring en rijkere resultaatweergave

Kies Vane wanneer het belangrijkste een gerichte privé-antwoordenmachine is met een eenvoudige SearXNG + Ollama-architectuur.

Kies Morphic wanneer de zoekinterface zelf belangrijk is en je uitgebreidere generatieve resultaatcomponenten, geschiedenis, authenticatie en een ervaring die meer op een applicatie lijkt wilt.

Onyx versus Khoj versus AnythingLLM voor privé zoeken in kennis

Alle drie kunnen privé-informatie doorzoeken, maar ze zijn bedoeld voor heel verschillende implementaties.

Gebied Onyx Khoj AnythingLLM
Primaire gebruiker Team / organisatie Individu Individu of klein team
Verbonden apps Uitgebreid ecosysteem van connectors Persoonlijke kennisbronnen Gericht op documenten en werkruimten
Zoeken op het web Sterk Beschikbaar Secundair aan zoeken in documenten
Retrievaldiepgang Hybride zoeken + agentische RAG Bi-encoder + reranking Ingebouwde RAG-pipeline
Lokale modellen Ja Ja Ja
Beste keuze voor Bedrijfsbrede kennis Persoonlijk tweede brein Eenvoudige privévragen en -antwoorden over documenten

Kies Onyx wanneer informatie verspreid is over veel teamapps en machtigingen belangrijk zijn.

Kies Khoj wanneer de kennis voornamelijk bij één persoon hoort en het doel een doorzoekbare privéomgeving voor geheugen en onderzoek is.

Kies AnythingLLM wanneer het belangrijk is om snel een workflow voor lokaal zoeken in documenten op te zetten, met zo min mogelijk werk aan de infrastructuur.

Webzoeken versus privé zoeken in kennis

Een van de meest voorkomende fouten in deze categorie is webzoeken en privé-RAG als uitwisselbaar beschouwen.

Ze lossen verschillende retrievalproblemen op.

Vraag Beste retrievallaag
Wat is er vandaag gebeurd? Live zoeken op het web
Wat staat er in ons interne beleid? Privé zoeken in documenten
Wat is er veranderd in dit project? Zoeken in gekoppelde apps / repositories
Wat zegt het meest recente onderzoek? Diepgaand onderzoek + zoeken op het web / in academische bronnen
Wat heb ik hier zes maanden geleden over geschreven? Persoonlijk zoeken in kennis

Een volwassen AI-zoekstack combineert steeds vaker beide:

               Web
                \
Privébestanden ----> Informatielaag ----> LLM ----> Antwoord met bronvermelding
                /
Verbonden apps

Daarom groeien producten zoals Onyx, Khoj, SurfSense en Open WebUI uit tot meer dan traditionele RAG-applicaties.

Welke zelfgehoste AI-zoektools kunnen met Ollama werken?

Bij verschillende tools op deze lijst kan de inferentielaag van de LLM draaien op Ollama of een andere lokale modelserver.

Tool Pad voor lokaal model Typische lokale zoekstack
Vane Ollama Vane + SearXNG + Ollama
Morphic Ollama / compatibele providers Morphic + SearXNG + Ollama
Onyx Ollama, LiteLLM, vLLM Onyx + connectors + lokaal model
Khoj Lokale / OpenAI-compatibele endpoints Khoj + lokaal informatie ophalen + lokaal model
SurfSense Ollama, LM Studio SurfSense + connectors + lokaal model
Open WebUI Ollama Open WebUI + SearXNG + Ollama
Local Deep Researcher Ollama, LM Studio Onderzoeksagent + zoekbackend + lokaal model
AnythingLLM Ollama, LM Studio, LocalAI AnythingLLM + lokale embeddings + lokale vectordatabase

De belangrijke kanttekening is dat lokale inferentie live zoeken op het web niet offline maakt.

Een stack zoals:

Vane
 |
SearXNG
 |
Ollama

kan de LLM, zoekorkestratie, geschiedenis en applicatiegegevens op je hardware houden, maar SearXNG moet nog steeds externe zoekdiensten bereiken wanneer je naar het live internet vraagt.

Een volledig geïsoleerde configuratie werkt alleen voor kennis die al lokaal is opgeslagen. Daarom zijn AnythingLLM, RAGFlow, Khoj en andere systemen voor privédocumenten relevanter.

Een zelfgehoste AI-zoekstack bouwen met SearXNG en Ollama

Voor een homelab is een van de overzichtelijkste architecturen om zoeken, inferentie en opslag van elkaar te scheiden:

Browser
   |
AI-zoekapp
Vane / Morphic / Open WebUI
   |
+--+-------------------+
|                      |
SearXNG              Ollama
|                      |
Live web             Lokale LLM
|
Internet

Privéopslag
Pdf's / Notities / Documenten / Cache / Indexen

Deze scheiding geeft je flexibiliteit. Je kunt Vane vervangen door Morphic zonder SearXNG te vervangen. Je kunt het model dat in Ollama draait upgraden zonder de zoekapplicatie opnieuw op te bouwen. Je kunt je documentarchief en indexen op permanente opslag bewaren, ook als de applicatiecontainers veranderen.

Die architectuur past goed bij een lokaal AI-homelab, waarin opslag, Docker-diensten, zoekindexen, vectordatabases en modelruntimes op dezelfde server kunnen staan of over het LAN kunnen worden verdeeld.

Een lichte server kan doorlopend zoeken en informatie ophalen, terwijl een krachtigere GPU-machine de LLM uitvoert:

Server die altijd aanstaat    GPU-werkstation
      |                           |
 AI-zoekapp                    Ollama
 SearXNG                         vLLM
 Vectordatabase                        |
 Documenten  <------ LAN ---------+

Dit kan praktischer zijn dan elke dienst op één overbemeten machine te laten draaien.

Hoeveel hardware heeft zelfgehost AI-zoeken nodig?

De zoekapplicatie zelf is meestal niet het meest veeleisende onderdeel van de stack.

Het gebruik van bronnen komt uit verschillende lagen:

Laag Belangrijkste bron Waarom dit belangrijk is
Zoeken op het web Netwerk + CPU Doorzoekt en parseert meerdere externe bronnen
LLM-inferentie RAM / VRAM Genereert antwoorden en onderzoekssamenvattingen
Embeddings CPU / GPU + RAM Indexeert privédocumenten
Vectordatabase RAM + opslag Slaat embeddings op en doorzoekt ze
Documentparsing CPU + opslag Verwerkt PDF's, Office-bestanden, OCR en metagegevens
Zoekgeschiedenis / cache Opslag Slaat gesprekken, resultaten en onderzoeksstatus op

Een eenvoudige Vane + SearXNG-configuratie kan met veel minder hardware werken dan een grote RAGFlow-implementatie die miljoenen documentsegmenten indexeert.

Het model is doorgaans de grootste variabele. Als je een gehost model gebruikt, kan de zoekserver relatief licht blijven. Als Ollama een groter lokaal redeneermodel uitvoert, nemen de vereisten voor RAM en versnellers snel toe.

De huidige richtlijnen van AnythingLLM laten dit onderscheid goed zien: de applicatie zelf kan lichtgewicht zijn, terwijl een betere ervaring met lokale modellen baat heeft bij meer geheugen en GPU-capaciteit. Datzelfde principe geldt voor de meeste opties in deze lijst.

Zelfgehost betekent niet automatisch privé

Dit is de belangrijkste privacycontrole in deze hele categorie.

De applicatie in Docker uitvoeren is maar één laag.

Laag Vraag om te stellen
Zoekbackend Wie ontvangt de zoekopdracht op het web?
LLM Waar worden prompts en opgehaalde passages verwerkt?
Embeddings Verlaten documentteksten de server tijdens het indexeren?
Vectordatabase Waar worden semantische indexen opgeslagen?
Verbonden apps Welke externe diensten kan het zoekplatform gebruiken?
Telemetrie Welke gebruiksinformatie verlaat de instantie?
Zoekgeschiedenis Waar worden zoekopdrachten en gegenereerde antwoorden opgeslagen?

Bij het zoeken in privédocumenten wordt de embeddinglaag bijzonder makkelijk over het hoofd gezien.

Een workflow kan een lokale LLM gebruiken en toch elk tekstsegment uit een privé-PDF naar een cloud-API voor embeddings sturen. Dat is niet hetzelfde als een volledig lokale RAG-stack.

Als privacy het doel is, controleer dan het volledige traject:

Document
   |
Parser
   |
Embeddingmodel
   |
Vectordatabase
   |
Retriever
   |
LLM
   |
Antwoord

De gids voor lokale kennisbanken van ZimaSpace gaat dieper in op het belang van opslag, embeddings, vectorekenen en bewijsregels wanneer het doel langdurig privé zoeken is, in plaats van een eenmalige chat over bestanden.

AI-zoeken ontwikkelt zich tot diepgaand onderzoek

De grootste verandering in 2026 is dat zoeken iteratief wordt.

De oude AI-zoekworkflow was:

Vraag
   |
Eén keer zoeken
   |
Samenvatten
   |
Antwoord

De nieuwe onderzoeksworkflow ziet er steeds vaker zo uit:

Vraag
   |
Zoeken
   |
Lezen
   |
Ontbrekend bewijs vaststellen
   |
Opnieuw zoeken
   |
Bronnen vergelijken
   |
Vraag verfijnen
   |
Opnieuw zoeken
   |
Synthese maken
   |
Rapport met bronnen

Local Deep Researcher maakt dit patroon expliciet, maar dezelfde ontwikkeling is zichtbaar in Onyx deep research, op onderzoek gerichte werkruimten zoals SurfSense en de ‘kwaliteits-’ of adaptieve modi die verschijnen in moderne antwoordmachines.

Deze verschuiving is belangrijk voor zelfhosting, omdat diepgaand onderzoek veeleisender is dan gewoon zoeken. Het leidt tot meer zoekverzoeken, meer opgehaalde tekst, langere contexten, meer modelaanroepen en een grotere onderzoeksstatus.

Het voordeel is dat een lokale AI-zoekserver meer kan worden dan een privévervanger voor Google. Het kan een onderzoekslaag worden die altijd beschikbaar is, zowel voor het openbare web als voor je eigen gegevens.

Andere zelf te hosten AI-zoektools om in de gaten te houden

Farfalle blijft een open-source AI-zoekproject om in de gaten te houden, met SearXNG, Ollama, LiteLLM en ondersteuning voor zoeken met agents. Het overlapt sterk met Vane en Morphic en kreeg daarom geen plek in de Top 10.

Er zijn ook steeds meer gespecialiseerde tools voor academisch zoeken, code zoeken, bedrijfsconnectors, vectorzoekopdrachten en werkruimten in de stijl van NotebookLM. Deze categorie groeit zo snel dat de vraag «wat is de beste AI-zoekmachine?» minder nuttig wordt dan de vraag welk ophaalprobleem je eigenlijk wilt oplossen.

Eindoordeel

Kies Vane als je de meest rechtstreekse zelf te hosten zoekervaring in de stijl van Perplexity wilt, met SearXNG en Ollama.

Kies Morphic als je een uitgebreidere generatieve zoekinterface wilt en een implementatie die meer op een applicatie lijkt.

Kies Onyx als je vooral bedrijfskennis wilt doorzoeken die verspreid is over verschillende tools en repositories.

Kies Khoj als je een persoonlijke zoeklaag wilt voor privébestanden en het web.

Kies SurfSense als zoeken deel uitmaakt van een bredere workflow voor onderzoek, notities, connectors en automatisering.

Kies Open WebUI als je al een lokale AI-stack op basis van Ollama hebt en eenvoudig webzoeken en lokale RAG wilt toevoegen aan de interface die je al gebruikt.

Kies Local Deep Researcher als de taak herhaald zoeken, reflectie en het verzamelen van bewijs vereist in plaats van één snel antwoord.

Kies RAGFlow als het verwerken van privédocumenten, inname, de kwaliteit van het ophalen en grootschaligere RAG belangrijker zijn dan de webzoekervaring.

Kies AnythingLLM voor de eenvoudigste manier om privé naar documenten te zoeken met lokale modellen, lokale embeddings en ingebouwde RAG.

Kies SearXNG als je zelf het webzoekbackend wilt beheren en die zoeklaag wilt koppelen aan meerdere lokale AI-applicaties.

De handigste zelf te hosten AI-zoekstack bestaat daarom niet per se uit één applicatie. Vaak gaat het om een modulair systeem waarin zoeken, ophalen, inferentie, privéopslag en bronvermeldingen onafhankelijk van elkaar kunnen worden aangepast.

Veelgestelde vragen

Wat is de beste zelf te hosten AI-zoekmachine in 2026?

Vane is een van de beste allround keuzes voor een zelf te hosten antwoordengine in de stijl van Perplexity, omdat het antwoorden op basis van het web met bronvermeldingen combineert met SearXNG, Docker-implementatie en lokale inferentie via Ollama. Morphic is een sterk alternatief als de zoekinterface en generatieve gebruikersinterface belangrijker zijn.

Wat is het beste open-source alternatief voor Perplexity?

Vane en Morphic zijn twee van de beste open-source, zelf te hosten alternatieven. Vane richt zich op privacyvriendelijke antwoorden met SearXNG en lokale modellen, terwijl Morphic de nadruk legt op een generatieve gebruikersinterface en flexibele zoekproviders.

Is Perplexica nog steeds actief?

Het project dat eerder bekendstond als Perplexica is verdergegaan onder de naam Vane. Wie de huidige versie zoekt, kan beter Vane beoordelen dan vertrouwen op oudere installatiehandleidingen voor Perplexica.

Kan ik AI-webzoekopdrachten volledig offline uitvoeren?

Nee, niet als je actuele informatie van het live web nodig hebt. Je kunt het AI-model, de applicatie, de geschiedenis en de zoekorkestratie lokaal houden, maar een backend voor webzoekopdrachten heeft nog steeds internettoegang nodig om actuele pagina's of resultaten van zoekmachines op te halen. Volledig offline zoeken is alleen mogelijk in gegevens die al lokaal zijn opgeslagen.

Kan ik SearXNG gebruiken met Ollama?

Ja. SearXNG levert zoekresultaten, terwijl Ollama lokale LLM-inferentie verzorgt. Applicaties zoals Vane, Morphic, Open WebUI en Local Deep Researcher kunnen ertussenin worden geplaatst en zoekresultaten omzetten in door AI gegenereerde antwoorden.

Welke zelfgehoste AI-zoektool is het beste voor privédocumenten?

AnythingLLM is een van de eenvoudigste opties voor lokale vragen en antwoorden over documenten. RAGFlow is geschikter voor complexe gegevensinvoer en grotere RAG-systemen, terwijl Onyx sterker is wanneer documenten verspreid zijn over meerdere applicaties binnen de hele organisatie.

Welke zelfgehoste AI-zoektool is het beste voor een team?

Onyx is op deze lijst de beste keuze voor organisatiebrede zoekopdrachten, omdat het connectors, hybride retrieval, RAG, webzoekopdrachten, agents en beheer voor teams combineert. SurfSense is ook een goede optie wanneer de workflow meer op onderzoek is gericht.

Wat is het verschil tussen AI-zoeken en RAG?

AI-zoeken is de bredere gebruikerservaring van informatie ophalen en een antwoord genereren. RAG is een retrievalarchitectuur waarmee een LLM wordt gebaseerd op relevante externe context. Een zelfgehoste AI-zoektool kan RAG gebruiken voor privédocumenten, live webzoekopdrachten voor actuele informatie, of beide.

Heb ik een vector database nodig voor zelfgehoste AI-zoekopdrachten?

Niet voor gewone live webzoekopdrachten. Vector databases zijn handig wanneer je semantisch wilt zoeken in privédocumenten, notities, repositories of andere permanente kennisbronnen. Tools zoals AnythingLLM, RAGFlow, Onyx en Khoj gebruiken retrievallagen die verder gaan dan conventioneel zoeken op het web.

Wat is het verschil tussen Vane en SearXNG?

SearXNG is een metazoekbackend die zoekresultaten oplevert. Vane is een AI-antwoordengine die SearXNG kan gebruiken om resultaten op te halen en vervolgens een LLM inzet om die resultaten samen te vatten tot een antwoord met bronvermeldingen.

Kan zelfgehoste AI-zoekopdrachten zowel lokale als cloudmodellen gebruiken?

Ja. Veel tools op deze lijst ondersteunen beide. Zo kun je een hybride architectuur opzetten waarin gewone zoekopdrachten lokaal via Ollama verlopen, terwijl moeilijke onderzoekstaken indien nodig naar een gehost model kunnen worden doorgestuurd.

Wat kan ik het beste als eerste zelf hosten: het AI-model of de zoekmachine?

Als privacy rond privédocumenten de grootste zorg is, begin dan met het model, de embeddings en de documentenindex. Als privacy rond webzoekopdrachten de grootste zorg is, begin dan met een zelfgehoste zoekbackend zoals SearXNG. Voor maximale controle host je beide lagen zelf.

Technologie- en AI-hub

Meer om te lezen

Get More Builds Like This

Stay in the Loop

Get updates from Zima - new products, exclusive deals, and real builds from the community.

Stay in the Loop preferences

We respect your inbox. Unsubscribe anytime.