Jak wyszukiwać w dokumentach wewnętrznych za pomocą AI bez przesyłania ich do chmury

Szybka odpowiedź

Możesz przeszukiwać dokumenty wewnętrzne za pomocą AI bez przesyłania plików do chmury, uruchamiając lokalny proces wyszukiwania dokumentów, który łączy przechowywanie plików, OCR, strukturalne parsowanie, wyszukiwanie pełnotekstowe, wyszukiwanie semantyczne i opcjonalny lokalny model językowy.

System najpierw konwertuje pliki PDF, skany, paragony, instrukcje, notatki i pliki biurowe na tekst możliwy do przeszukiwania. Zachowuje metadane takie jak nazwa pliku, numer strony, typ dokumentu, data, folder, wersja i uprawnienia dostępu. Gdy użytkownik zada pytanie, system wyszukuje najbardziej odpowiednie fragmenty i może użyć LLM do wygenerowania odpowiedzi powiązanej z oryginalnymi dokumentami.

Nie zawsze potrzebujesz chatbota ani bazy wektorowej. System zarządzania dokumentami z OCR i wyszukiwaniem pełnotekstowym może wystarczyć do dokładnych nazw plików, dostawców, dat, numerów kont i znanych fraz. Wyszukiwanie semantyczne i generowanie wspomagane wyszukiwaniem stają się bardziej przydatne, gdy użytkownicy pamiętają znaczenie dokumentu, ale nie jego dokładne sformułowanie lub lokalizację.

NAS może służyć jako prywatna warstwa przechowywania dla tego procesu, ale OCR, osadzanie, wyszukiwanie i wnioskowanie modelu mogą działać na NAS lub na osobnym lokalnym komputerze. Najlepsza architektura to taka, która pozwala na odzyskiwanie dokumentów, egzekwowanie uprawnień i łatwą weryfikację odpowiedzi.

Czym jest prywatne wyszukiwanie dokumentów AI?

To system wyszukiwania oparty na Twoich własnych plikach

Prywatne wyszukiwanie dokumentów AI to lokalny lub samodzielnie hostowany proces, który pomaga użytkownikom znaleźć informacje w dokumentach, które kontrolują. Dokumenty te mogą obejmować pliki PDF, zeskanowane strony, paragony, rachunki, polisy ubezpieczeniowe, umowy, instrukcje, arkusze kalkulacyjne, notatki, formularze i załączniki e-mail.

W przeciwieństwie do ogólnego chatbota, system nie musi znać zawartości prywatnego archiwum z oryginalnego treningu. Przeszukuje indeks zbudowany z dokumentów użytkownika i zwraca odpowiednie fragmenty tekstu na zadane pytanie.

Pliki mogą być przechowywane na NAS, serwerze domowym, mini PC, stacji roboczej lub innym prywatnym systemie pamięci masowej. NAS jest przydatny, ponieważ centralizuje oryginalne dokumenty, uprawnienia, kopie zapasowe i foldery współdzielone, ale inteligencja pochodzi z oprogramowania działającego wokół tych plików.

Wyszukiwanie, wyszukiwanie semantyczne i RAG to różne możliwości

Prywatne systemy dokumentów często określane są jako „wyszukiwanie AI”, ale mogą obejmować różne poziomy funkcjonalności.

Silny domowy system dokumentów może obsługiwać wszystkie cztery poziomy. Użytkownicy nie powinni zakładać, że każdy archiwum wymaga najtrudniejszej opcji.

Co pozostaje lokalne w prywatnej konfiguracji?

W pełni lokalna konfiguracja może przechowywać następujące komponenty w sieci domowej:

• Oryginalne pliki dokumentów
• Tekst wygenerowany przez OCR
• Przetworzone tabele i struktura dokumentu
• Osadzenia i indeksy wektorowe
• Metadane i uprawnienia dostępu
• Zapytania wyszukiwania
• Pobrane fragmenty tekstu
• Zapytania do LLM i generowane odpowiedzi

Konfiguracja hybrydowa może przechowywać dokumenty źródłowe i indeks lokalnie, wysyłając wybrane fragmenty tekstu do modelu w chmurze w celu analizy. Może to poprawić jakość odpowiedzi lub zmniejszyć wymagania sprzętowe lokalnie, ale użytkownicy powinni dokładnie wiedzieć, które informacje opuszczają sieć.

Jakie typy dokumentów może przeszukiwać AI?

Cyfrowe pliki PDF i dokumenty Office

Cyfrowe pliki PDF, dokumenty tekstowe, prezentacje i arkusze kalkulacyjne często zawierają istniejącą warstwę tekstową. Takie pliki są zwykle łatwiejsze do indeksowania niż skany, ponieważ tekst można wyodrębnić bezpośrednio.

Jednak bezpośrednie wyodrębnianie nie gwarantuje czystej struktury. PDF może zawierać wiele kolumn, unoszące się pola tekstowe, powtarzające się nagłówki, tabele, przypisy dolne lub nietypową kolejność czytania. Wyodrębnione słowa mogą być poprawne, ale ich kolejność błędna.

Skanowane pliki PDF, paragony i obrazy

Skanowane dokumenty to często obrazy przechowywane w kontenerze PDF. Mogą wyglądać na czytelne dla człowieka, ale nie zawierać tekstu możliwego do wyszukania.

OCR przekształca obrazy stron w tekst czytelny dla maszyn. Jest to szczególnie ważne dla:

• Rachunki papierowe i wysyłane wyciągi
• Paragony i faktury
• Podpisane formularze
• Stare podręczniki
• Dokumentacja medyczna lub szkolna
• Skanowane listy
• Dokumenty fotografowane

Jakość OCR zależy od obrazu źródłowego, języka, rozdzielczości, obrotu, nachylenia, kontrastu, szumów, pisma odręcznego, czcionek i układu. Nieprawidłowe OCR może zmienić daty, sumy, nazwiska, numery polis lub dane konta, zanim system wyszukiwania w ogóle zacznie działać.

Tabele, formularze i złożone układy

Tabele i formularze są trudniejsze do przetworzenia niż zwykłe akapity. System może wyodrębnić każde słowo, ale stracić relację między nagłówkiem kolumny a wartościami poniżej.

Ma to znaczenie dla dokumentów podatkowych, wyciągów bankowych, harmonogramów ubezpieczeń, raportów laboratoryjnych, faktur i kart specyfikacji produktów. Odpowiedź wygenerowana na podstawie uszkodzonej tabeli może łączyć etykietę z niewłaściwą wartością.

Otwarty zestaw narzędzi Docling wspiera konwersję dokumentów między formatami i obejmuje analizę układu PDF, obsługę kolejności czytania, rozpoznawanie struktury tabel, formuł oraz innych elementów strukturalnych dokumentów.

Notatki, instrukcje i załączniki e-mailowe

Domowe bazy wiedzy mogą również zawierać pliki Markdown, notatki w formacie tekstowym, archiwalne e-maile, instrukcje obsługi, dokumenty domowe, materiały badawcze i foldery projektów.

Te pliki są często mniej wrażliwe niż dokumenty podatkowe czy medyczne, ale mogą nadal korzystać z lokalnego indeksowania. Użytkownik może chcieć przeszukać kilka instrukcji jednocześnie, odzyskać instrukcje z lat notatek projektowych lub zadawać pytania dotyczące dokumentów pierwotnie przechowywanych w różnych folderach.

Prywatny proces wyszukiwania dokumentów AI

Prywatna przestrzeń robocza dokumentów powinna być rozumiana jako proces. Jakość ostatecznej odpowiedzi zależy od każdego etapu przed LLM.

Krok 1: Zbieranie dokumentów w kontrolowanej przestrzeni roboczej

Proces powinien zaczynać się od jednego lub więcej kontrolowanych miejsc przyjmowania. Mogą to być:

• Monitorowany folder skanów
• Skrzynka odbiorcza pobranych plików
• Skrzynka pocztowa do importu e-maili
• Prywatny udział NAS
• Folder na dokumenty domowe
• Folder na instrukcje i gwarancje
• Oddzielne przestrzenie robocze dla finansów, medycyny lub prawa

Automatyczna klasyfikacja i nazewnictwo mogą poprawić późniejsze wyszukiwanie, ale wrażliwe pliki nie powinny dziedziczyć tych samych uprawnień. System wyszukiwania dokumentów powinien respektować granice dostępu oryginalnego archiwum.

Ten etap łączy się z automatycznym sortowaniem plików przed prywatnym wyszukiwaniem dokumentów. Lepsze nazewnictwo, typy dokumentów, daty i struktura folderów ułatwiają zarówno tradycyjne wyszukiwanie, jak i odzyskiwanie danych przez AI.

Krok 2: Uruchom OCR i parsowanie strukturalne

Dokumenty cyfrowe mogą pozwalać na bezpośrednie wyodrębnianie tekstu. Dokumenty skanowane lub fotografowane wymagają OCR. Złożone pliki PDF mogą wymagać parsowania uwzględniającego układ, które zachowuje tabele, nagłówki, kolejność stron i strukturę wizualną.

Dokumentacja Paperless-ngx Configuration ujawnia kontrolki OCR dla języka, czyszczenia, prostowania, obracania stron, formatu wyjściowego, limitów stron i rozdzielczości obrazu.

Te ustawienia wpływają na jakość wyszukiwania w dalszych etapach. Obrócona strona, nieprawidłowy model językowy lub uszkodzony skan mogą stworzyć tekst wyglądający wiarygodnie, ale zawierający krytyczne błędy.

Krok 3: Zachowaj pochodzenie i uprawnienia

Każdy przeszukiwalny fragment powinien pozostać powiązany z oryginalnym dokumentem. Przydatne metadane mogą obejmować:

• Oryginalna nazwa pliku
• Ścieżka pliku
• Numer strony
• Sekcja lub nagłówek
• Typ dokumentu
• Korespondent lub nadawca
• Data utworzenia i modyfikacji
• Wersja dokumentu
• Status OCR
• Właściciel lub przesyłający
• Grupa kontroli dostępu

Bez pochodzenia system może pobrać użyteczne zdanie, ale nie pokazać, skąd pochodzi. Bez metadanych uprawnień wspólny interfejs wyszukiwania może ujawnić tekst z plików, których obecny użytkownik nie powinien widzieć.

Krok 4: Zbuduj więcej niż jeden typ indeksu

Prywatna przestrzeń dokumentów może korzystać z kilku indeksów jednocześnie:

• Indeks nazw plików i folderów
• Indeks słów kluczowych pełnotekstowych
• Indeks metadanych
• Indeks wektorów semantycznych
• Indeks duplikatów lub wersji

Baza wektorowa nie powinna zastępować podstawowego zarządzania dokumentami. Dokładne wyszukiwanie jest często lepsze dla numerów faktur, nazw modeli, identyfikatorów polityk, dat i cytowanych fragmentów. Wyszukiwanie semantyczne jest bardziej przydatne, gdy sformułowania się różnią.

Krok 5: Pobierz i ponownie posortuj odpowiednie fragmenty

Gdy użytkownik zada pytanie, system powinien wybrać dowody przed wywołaniem LLM.

Pobieranie może łączyć:

• Dokładne dopasowania słów kluczowych
• Podobieństwo semantyczne
• Filtry typu dokumentu
• Filtry daty lub folderu
• Filtry uprawnień użytkownika
• Filtry wersji
• Ponowne sortowanie początkowych wyników

Dokumentacja Qdrant Filtering pokazuje, jak wyniki wektorowe można ograniczyć za pomocą warunków takich jak must, should i must_not. W prywatnym systemie dokumentów podobne filtrowanie może ograniczyć wyszukiwanie do wybranych folderów, dat, typów dokumentów, właścicieli lub wersji.

Krok 6: Wygeneruj odpowiedź na podstawie pobranego kontekstu

Po pobraniu wybrane fragmenty są umieszczane w kontekście modelu wraz z pytaniem użytkownika i instrukcjami odpowiedzi.

Wprowadzenie do RAG od LlamaIndex opisuje przepływ pracy, w którym dane użytkownika są ładowane, indeksowane, przechowywane, zapytywane i oceniane. Zapytanie użytkownika filtruje indeks do odpowiedniego kontekstu, który jest następnie wysyłany do LLM wraz z promptem.

To różni się od trwałego trenowania modelu na prywatnym archiwum. Dokumenty pozostają zewnętrznymi źródłami, które można aktualizować, usuwać, ponownie przetwarzać lub indeksować.

Krok 7: Pokaż dowody i pozwól na niepewność

prywatny asystent dokumentów nie powinien zwracać tylko wygładzonego akapitu. Powinien także pokazać wystarczające dowody, aby użytkownik mógł zweryfikować odpowiedź.

Przydatne elementy weryfikacyjne to:

• Tytuł dokumentu
• Oryginalna nazwa pliku
• Odniesienie do strony lub sekcji
• Pobrany fragment źródła
• Link do otwarcia oryginalnego dokumentu
• Data lub wersja źródła
• Jasna odpowiedź „za mało dowodów”

Dokumentacja Retrieval Augmented Generation (RAG) - Open WebUI opisuje wsparcie cytowań, które pozwala użytkownikom śledzić kontekst dokumentu użyty w generowanych odpowiedziach.

Paperless-ngx kontra wyszukiwanie dokumentów AI

Co Paperless-ngx robi dobrze

Paperless-ngx to przede wszystkim system zarządzania dokumentami i przeszukiwalnego archiwum. Może przyjmować pliki, wykonywać OCR, zachowywać oryginały, tworzyć wersje archiwalne, stosować metadane, organizować dokumenty oraz wspierać wyszukiwanie i przepływy pracy.

Zgodnie z Podstawowe użycie - Paperless-ngx , dokumenty mogą trafiać z takich źródeł jak folder konsumpcji, API, interfejs webowy lub pobieranie poczty. System przechowuje oryginalny dokument i może zachować obok niego wersje archiwalne.

Dla wielu gospodarstw domowych to już rozwiązuje dużą część problemu:

• Umożliwienie przeszukiwania skanów
• Znajdowanie dokumentów po dokładnych słowach
• Filtrowanie według tagów lub typu dokumentu
• Wyszukiwanie nadawców, dat lub niestandardowych pól
• Zarządzanie spójnym archiwum dokumentów

Co może rozwiązać wyszukiwanie pełnotekstowe bez RAG

Wyszukiwanie pełnotekstowe może wystarczyć, gdy użytkownik zna prawdopodobne wyrażenie lub identyfikator. Przykłady obejmują:

• „podatek od nieruchomości”
• „Honda CR-V”
• „numer polisy 28491”
• „gwarancja na podgrzewacz wody”
• „faktura 2026-174”
• „roczna kwota udziału własnego”

Wyszukiwanie pełnotekstowe jest często szybsze, łatwiejsze do debugowania i mniej prawdopodobne, że wygeneruje fałszywą odpowiedź. Użytkownicy powinni je przetestować, zanim założą, że potrzebują LLM.

Co dodaje dodatkowa warstwa RAG

Oddzielna warstwa wyszukiwania semantycznego lub RAG staje się przydatna, gdy pytanie nie odpowiada dokładnie sformułowaniu źródłowemu.

Na przykład:

• Dokument mówi o „przenikaniu wody”, ale użytkownik szuka „uszkodzeń powodziowych”.
• Gwarancja zawiera kilka klauzul, a użytkownik chce krótkiego wyjaśnienia.
• Odpowiedź musi być złożona z kilku powiązanych dokumentów.
• Użytkownik chce porównać dwie wersje polisy.
• Archiwum zawiera długie instrukcje, które trudno przeglądać ręcznie.

Paperless-ngx może pozostać warstwą przyjmującą, OCR, metadanych i archiwum, podczas gdy dodatkowa aplikacja wyszukiwania lub RAG indeksuje wybrane dokumenty do konwersacyjnego wyszukiwania.

Kiedy sam Paperless-ngx wystarczy

Nie dodawaj LLM tylko dlatego, że jest to możliwe. Paperless-ngx lub inny system zarządzania dokumentami może wystarczyć, gdy:

• Archiwum jest stosunkowo małe.
• Pliki mają spójne metadane.
• Użytkownicy głównie wyszukują dokładne nazwy, daty i frazy.
• Podsumowania nie są wymagane.
• Dostęp do dokumentów mają jeden lub dwóch użytkowników.
• Dom wymaga minimalnej konserwacji.

Dlaczego analiza PDF może być ważniejsza niż rozmiar modelu

Silny model nie naprawi brakujących danych

Jeśli parser usuwa kolumnę tabeli, czyta strony w złej kolejności lub traci fragment podczas OCR, model językowy nigdy nie otrzyma poprawnych danych.

Większy model może wygenerować bardziej płynne wyjaśnienie, ale nie jest w stanie wiarygodnie odtworzyć tekstu, który nigdy nie został wyodrębniony lub pobrany.

Wielokolumnowe pliki PDF mogą generować błędny porządek czytania

Niektóre pliki PDF przechowują tekst według współrzędnych wizualnych, a nie logicznego porządku akapitów. Podstawowy ekstraktor może przełączać się między kolumnami lub mieszać podpisy, przypisy i tekst główny.

Może to tworzyć fragmenty gramatycznie niepoprawne lub semantycznie mylące, obniżając jakość wyszukiwania zarówno pod kątem słów kluczowych, jak i semantyki.

Tabele wymagają strukturalnego wyodrębniania

Weźmy pod uwagę harmonogram ubezpieczenia z kolumnami dotyczącymi rodzaju ochrony, limitu, udziału własnego i daty wygaśnięcia. Wyodrębnienie słów bez zachowania wierszy i kolumn może spowodować błędne powiązanie etykiet z wartościami.

Raport techniczny Docling opisuje otwartoźródłowe narzędzie do konwersji dokumentów wykorzystujące specjalistyczne modele analizy układu i rozpoznawania struktury tabel.

Nagłówki i stopki mogą zanieczyszczać każdy fragment

Powtarzające się nazwy firm, informacje o poufności, numery stron, tekst nawigacyjny i stopki prawne mogą pojawiać się na każdej stronie. Jeśli są uwzględnione w każdym fragmencie, mogą dominować w wynikach wyszukiwania i tworzyć wiele niemal identycznych rezultatów.

Wstępne przetwarzanie powinno identyfikować i usuwać powtarzające się elementy, zachowując jednocześnie informacje ważne dla pochodzenia.

Przygotowanie dokumentu jest częścią jakości wyszukiwania

Artykuł Developing Retrieval Augmented Generation (RAG) based LLM Systems from PDFs: An Experience Report traktuje zbieranie danych, wstępne przetwarzanie, indeksowanie wyszukiwania i generowanie odpowiedzi jako problem inżynieryjny end-to-end.

To lepszy model mentalny niż przesyłanie folderu PDF i oczekiwanie, że chatbot automatycznie wszystko zrozumie.

Wyszukiwanie słów kluczowych vs wyszukiwanie semantyczne vs RAG

Używaj wyszukiwania słów kluczowych dla dokładnych dowodów

Wyszukiwanie słów kluczowych pozostaje użyteczne, ponieważ jest przejrzyste. Użytkownicy mogą zobaczyć, dlaczego dokument pasuje i często szybko znaleźć dokładne sformułowanie.

To najlepsze pierwsze narzędzie do:

• Numery polis
• Numery kont
• Nazwy modeli produktów
• Konkretne nazwy dostawców
• Cytowane klauzule
• Daty i kwoty
• Nazwy plików

Używaj wyszukiwania semantycznego, gdy sformułowania się różnią

Wyszukiwanie semantyczne jest przydatne, gdy pytanie i dokument wyrażają tę samą ideę innymi słowami.

Może odnaleźć „przenikanie cieczy” dla zapytania o „szkody wodne” lub „rozwiązanie najmu” dla zapytania o „zakończenie umowy najmu”.

Podobieństwo semantyczne nie dowodzi, że fragment zawiera odpowiedź. Wskazuje jedynie, że fragment jest koncepcyjnie powiązany.

Używaj wyszukiwania hybrydowego dla lepszego pokrycia

Wyszukiwanie hybrydowe łączy dokładne wyszukiwanie tekstu z wyszukiwaniem semantycznym. Jest to przydatne, ponieważ niektóre pytania zawierają zarówno precyzyjne identyfikatory, jak i szerokie pojęcia.

Na przykład zapytanie „Czy polisa AB-381 obejmuje szkody wodne?” zawiera dokładny numer polisy i pytanie o zakres. Wyszukiwanie słów kluczowych może znaleźć polisę, a wyszukiwanie semantyczne odpowiedni zapis.

Używaj RAG, gdy użytkownik potrzebuje wyjaśnienia

RAG staje się przydatny, gdy system musi wyjaśnić, porównać, podsumować lub zsyntetyzować odnalezione fragmenty.

Przykłady obejmują:

• „Podsumuj warunki anulowania w tym kontrakcie.”
• „Porównaj polisy ubezpieczeniowe na 2025 i 2026 rok.”
• „Które paragony dotyczą remontu kuchni?”
• „Wyjaśnij harmonogram konserwacji w tym podręczniku.”
• „Które dokumenty wspominają o przecieku w piwnicy?”

Odpowiedź powinna pozostać powiązana z oryginalnymi dokumentami, a nie je zastępować.

Jak uczynić odpowiedzi AI weryfikowalnymi

Pokaż oryginalną nazwę pliku i stronę

Odpowiedź typu „Gwarancja wygasa w listopadzie” nie jest wystarczająca. Interfejs powinien pokazać, który dokument, która strona i który fragment potwierdzają to stwierdzenie.

Wyświetl odnaleziony fragment

Użytkownicy powinni mieć możliwość sprawdzenia tekstu przekazanego modelowi. Pomaga to odróżnić błąd wyszukiwania od błędu generowania.

Jeśli poprawny fragment został odnaleziony, ale model odpowiedział błędnie, problem leży w interpretacji. Jeśli poprawny fragment nigdy nie został odnaleziony, problem jest wcześniejszy w procesie.

Zachowaj informacje o wersji

Prywatne archiwa często zawierają kilka wersji tej samej umowy, polityki, instrukcji lub formularza. System wyszukiwania powinien zachować daty, oznaczenia wersji i ścieżki plików, aby nieaktualny dokument nie był wyżej oceniany niż aktualny.

Pozwól systemowi powiedzieć, że nie wie

Zaufany asystent dokumentów powinien odmówić udzielenia pewnej odpowiedzi, gdy dostępne dowody są słabe, sprzeczne lub niepełne.

Przydatne odpowiedzi obejmują:

• „Nie znaleziono odpowiedniego dokumentu.”
• „Dostępne źródła są sprzeczne.”
• „Odpowiedź może zależeć od nowszej wersji.”
• „Tekst OCR na tej stronie jest nieczytelny.”
• „Proszę sprawdzić oryginalną tabelę.”

Zachowaj oryginalny dokument jako źródło autorytatywne

W przypadku informacji finansowych, prawnych, medycznych, ubezpieczeniowych lub podatkowych wygenerowana odpowiedź powinna być traktowana jako pomoc nawigacyjna. Oryginalny dokument pozostaje źródłem autorytatywnym.

Tylko lokalne vs hybrydowe AI dokumentów

W pełni lokalne przetwarzanie

W pełni lokalna konfiguracja uruchamia OCR, parsowanie, osadzanie, wyszukiwanie wektorowe, pobieranie i inferencję LLM na sprzęcie kontrolowanym przez użytkownika.

Zapewnia to najczystszą granicę danych, ale może wymagać więcej konfiguracji, utrzymania, pamięci i mocy obliczeniowej.

Lokalne dokumenty z chmurowym rozumowaniem

Hybrydowy przepływ pracy może przechowywać kompletne dokumenty i indeksy lokalnie, wysyłając do modelu w chmurze tylko wybrane fragmenty.

Może to zapewnić lepszą jakość generowania przy jednoczesnym ograniczeniu przesyłania wrażliwych informacji. Nie czyni to jednak przepływu pracy całkowicie prywatnym, ponieważ pobrany tekst i zapytanie nadal opuszczają lokalny system.

Pamięć NAS z osobnym urządzeniem AI

NAS nie musi wykonywać każdego zadania AI. Może przechowywać dokumenty i indeksy, podczas gdy osobny mini PC, komputer stacjonarny lub stacja robocza zajmuje się OCR, osadzaniem, ponownym rankingiem lub inferencją modelu.

Ta architektura może chronić wydajność pamięci masowej, gdy NAS jest już zajęty kopiami zapasowymi, usługami plików, obciążeniem multimedialnym i innymi kontenerami.

Dla szerszego porównania zobacz Local Storage vs Bigger Models for Private RAG.

Pytania do zadania przed użyciem zewnętrznego API

• Jaki tekst dokumentu jest przesyłany?
• Czy przesyłane są całe pliki, czy tylko wybrane fragmenty?
• Czy zapytania i odpowiedzi są przechowywane?
• Czy dane są wykorzystywane do trenowania modeli?
• Czy można wyłączyć logowanie?
• Gdzie jest hostowana usługa?
• Którzy użytkownicy domowi mają do tego dostęp?
• Czy można wykluczyć wrażliwe kategorie dokumentów?

Jakiego sprzętu potrzebuje prywatne wyszukiwanie dokumentów?

Podstawowy OCR i pełnotekstowe wyszukiwanie

Podstawowe zarządzanie dokumentami, OCR, filtrowanie metadanych i pełnotekstowe wyszukiwanie często mogą działać na skromnym sprzęcie x86 do serwera domowego.

Główne wymagania dotyczące zasobów to zazwyczaj:

• Wystarczająca moc CPU do OCR i parsowania
• Wystarczająca ilość RAM dla aplikacji dokumentowej i bazy danych
• Niezawodne przechowywanie oryginałów i wersji archiwalnych
• Miejsce na dysku SSD na indeksy i dane aplikacji
• Wsparcie kontenerów lub aplikacji

Osadzenia i wyszukiwanie wektorowe

Generowanie osadzeń może działać na CPU dla mniejszych bibliotek, choć początkowe indeksowanie może zająć trochę czasu. Po zaindeksowaniu archiwum aktualizacje przyrostowe mogą być znacznie lżejsze.

Samo wyszukiwanie wektorowe może nie być najcięższym obciążeniem. Parsowanie, OCR, ładowanie modelu i reindeksacja mogą powodować bardziej zauważalne obciążenie zasobów.

Odpowiedzi lokalnego LLM

Lokalny LLM może wymagać znacznie więcej pamięci niż OCR lub wyszukiwanie. Wymagania zależą od rozmiaru modelu, kwantyzacji, długości kontekstu i oczekiwanej szybkości odpowiedzi.

Dokumentacja Wsparcie sprzętowe - Ollama wymienia obsługiwane ścieżki przyspieszenia dla NVIDIA, AMD, Apple i środowisk kompatybilnych z Vulkan.

GPU nie jest obowiązkowe dla każdego środowiska pracy z dokumentami. Użytkownicy mogą zacząć od OCR, pełnotekstowego wyszukiwania, osadzeń i małego modelu opartego na CPU, zanim zdecydują, czy przyspieszenie jest warte kosztów.

Kiedy oddzielne obliczenia są lepsze

Używaj oddzielnej maszyny AI, gdy:

• NAS zwalnia podczas indeksowania.
• Partie OCR zakłócają kopie zapasowe.
• Lokalny LLM potrzebuje więcej pamięci RAM lub pamięci GPU.
• Kilku użytkowników jednocześnie korzysta z systemu.
• NAS jest głównie odpowiedzialny za niezawodne przechowywanie danych.
• Środowisko uruchomieniowe modelu wymaga nieobsługiwanych sterowników lub sprzętu.

Wewnętrzny przewodnik Czy Twoje lokalne AI ma wąskie gardło w obliczeniach, pamięci, magazynie czy sieci? może pomóc zidentyfikować, która warstwa ogranicza przepływ pracy.

Jak testować prywatny system wyszukiwania dokumentów

Zbuduj reprezentatywny zestaw testowy

Nie zaczynaj od indeksowania całego archiwum. Stwórz mały zestaw testowy zawierający różne warunki awaryjne.

Przydatny zestaw testowy może zawierać:

• Czysty cyfrowy plik PDF
• Obrócone skanowanie
• Paragon z drobnym drukiem
• Dokument z dwoma kolumnami
• Oświadczenie z dużą ilością tabel
• Długi podręcznik urządzenia
• Umowa ubezpieczeniowa lub najmu
• Dwie wersje tego samego dokumentu
• Plik z brakującymi metadanymi
• Dokument, do którego obecny użytkownik testowy nie powinien mieć dostępu

Testuj pobieranie przed oceną LLM

Gdy odpowiedź jest błędna, sprawdź, które fragmenty zostały pobrane.

Kolejność testów powinna być następująca:

1. Czy dokument został pomyślnie zaimportowany?
2. Czy tekst został poprawnie wyodrębniony?
3. Czy odpowiednia sekcja została poprawnie podzielona na części?
4. Czy pobrano właściwy fragment?
5. Czy wybrano poprawną wersję?
6. Czy model poprawnie zinterpretował fragment?
7. Czy odpowiedź zawierała użyteczne źródłowe dowody?

Testuj dokładne fakty i niejednoznaczne pytania

Używaj mieszanki typów zapytań:

• Dokładna wartość: „Jaka jest suma faktury?”
• Data: „Kiedy odnawia się polisa?”
• Klauzula: „Co mówi umowa najmu o zwierzętach?”
• Porównanie: „Co się zmieniło między tymi dwiema wersjami?”
• Międzydokumentowe: „Które paragony dotyczą naprawy dachu?”
• Nie da się odpowiedzieć: „Jakiego koloru był sprzęt?” gdy dokumenty tego nie mówią

Testuj uprawnienia

System może dokładnie wyszukiwać dokumenty, a mimo to zawieść jako prywatne środowisko pracy, jeśli ignoruje kontrolę dostępu.

Potwierdź, że:

• Jeden użytkownik nie może uzyskać dostępu do prywatnych dokumentów innego użytkownika.
• Foldery medyczne lub finansowe pozostają ograniczone.
• Udostępnione dokumenty są widoczne dla zamierzonych użytkowników.
• Fragmenty źródłowe podlegają tym samym uprawnieniom co pliki.
• Indeksy są aktualizowane po zmianach uprawnień.

Ucz się na rzeczywistych trybach awarii społeczności

W publicznej dyskusji Job wants me to develop RAG search engine for internal documents użytkownicy poruszyli praktyczne kwestie dotyczące OCR, klasyfikacji dokumentów, metadanych, duplikatów wersji, ponownego rankingu, architektury lokalnej kontra chmurowa, pochodzenia i ograniczeń polegających na umieszczaniu każdego fragmentu w bazie wektorowej.

To odzwierciedla ważną lekcję inżynierską: prywatny system RAG to nie głównie projekt chatbota. To projekt jakości dokumentów, wyszukiwania, uprawnień i weryfikacji z interfejsem chatbota na końcu.

Typowe tryby awarii

Właściwy dokument nigdy nie jest wyszukiwany

Plik mógł nie zostać załadowany, OCR mógł się nie powieść, fragment może być zbyt duży lub zbyt mały, albo zapytanie wymaga filtrów słów kluczowych i metadanych.

OCR zmienia krytyczne liczby

Błędnie odczytana liczba dziesiętna, data, numer polisy lub suma może dać niepoprawną odpowiedź, nawet jeśli wyszukiwanie działa zgodnie z założeniami.

Ważne pola liczbowe powinny być weryfikowane względem oryginalnego obrazu strony.

Stare i nowe wersje są mieszane

Jeśli w wynikach pojawią się dwie wersje umowy najmu, polisy ubezpieczeniowej lub gwarancji, model może połączyć ich szczegóły.

Daty wersji, lokalizacje folderów i etykiety bieżącego dokumentu powinny wpływać na wyszukiwanie.

Tabele tracą swoją strukturę

Wartości mogą być wyodrębnione bez właściwej etykiety wiersza lub kolumny. Dokumenty z dużą ilością tabel powinny być testowane oddzielnie od zwykłych akapitów.

Dzielenie na fragmenty oddziela pytanie od odpowiedzi

Nagłówek sekcji może znajdować się w jednym fragmencie, podczas gdy jego szczegóły w innym. Strukturoświadome lub nakładające się dzielenie na fragmenty może zachować więcej kontekstu.

Model odpowiada bez wystarczających dowodów

Płynna odpowiedź nie dowodzi, że źródło ją wspiera. Interfejs powinien wymagać dowodu ze źródła lub zwracać komunikat o niepewności.

Uprawnienia są dodawane po indeksowaniu

Jeśli kontrola dostępu nie jest częścią wyszukiwania, indeks może ujawniać informacje poza granicami użytkowników. Prywatność powinna być zaprojektowana w procesie, a nie dodawana tylko do interfejsu czatu.

Użytkownicy indeksują wszystko przed testowaniem

Skalowanie wadliwego procesu utrudnia rozwiązywanie problemów. Zweryfikuj proces na realistycznych dokumentach przed przetworzeniem całego archiwum.

Kiedy warto budować prywatne wyszukiwanie dokumentów AI?

Prywatne wyszukiwanie dokumentów AI jest najbardziej przydatne, gdy:

• Archiwum zawiera setki lub tysiące dokumentów.
• Użytkownicy pamiętają pytania, ale nie nazwy plików ani folderów.
• Skanowane dokumenty i PDF-y zawierają cenne informacje trudne do przeglądania.
• Ten sam temat pojawia się w kilku plikach.
• Dokumenty zawierają wrażliwe dane osobowe.
• Użytkownicy potrzebują podsumowań, ale także weryfikacji źródeł.
• Archiwum zmienia się regularnie i wymaga ponownego indeksowania.

Prostszy system zarządzania dokumentami może być lepszy, gdy:

• Archiwum jest małe.
• Pliki są już dobrze nazwane.
• Dokładne wyszukiwanie słów kluczowych jest wystarczające.
• Użytkownicy rzadko zadają pytania obejmujące wiele dokumentów.
• Dom nie chce utrzymywać dodatkowych usług AI.

Celem nie powinno być przekształcenie każdego folderu w chatbota. Celem powinno być skrócenie czasu potrzebnego na znalezienie i weryfikację informacji, które dziś są naprawdę trudne do odnalezienia.

Wniosek

Przeszukiwanie dokumentów wewnętrznych za pomocą AI bez przesyłania całego archiwum do chmury wymaga więcej niż lokalnego modelu językowego. Proces zaczyna się od niezawodnego przechowywania, przyjmowania dokumentów, OCR, strukturalnego parsowania, metadanych, uprawnień, wyszukiwania słów kluczowych i semantycznego wyszukiwania.

RAG dodaje wartość dopiero po działaniu tych podstaw. Może przekształcać odnalezione fragmenty w podsumowania i odpowiedzi w języku naturalnym, ale nie naprawi brakującego tekstu, uszkodzonych tabel, błędnego OCR, słabych metadanych ani nieudanych wyszukiwań.

NAS może zapewnić kontrolowaną warstwę przechowywania prywatnych dokumentów, podczas gdy OCR, osadzanie, wyszukiwanie wektorowe i inferencja modelu mogą działać na NAS lub na osobnym lokalnym sprzęcie obliczeniowym. Odpowiednia architektura zależy od ilości dokumentów, wymagań prywatności, sprzętu i tolerancji na konserwację.

Najbardziej wiarygodny system to nie ten, który zawsze generuje odpowiedź. To ten, który odnajduje poprawne dowody, respektuje uprawnienia, łączy każde ważne twierdzenie z oryginalnym dokumentem i przyznaje, gdy dostępne pliki nie pozwalają na wiarygodne wnioski.

FAQ

Czy mogę przeszukiwać prywatne pliki PDF za pomocą AI bez przesyłania ich do chmury?

Tak. OCR, parsowanie, osadzanie, wyszukiwanie i inferencja modelu mogą działać lokalnie, jeśli wybrane oprogramowanie i sprzęt to obsługują.

Sprawdź każdy komponent dokładnie. Niektóre interfejsy self-hosted mogą nadal wywoływać chmurowe API do osadzania lub modeli językowych, chyba że są skonfigurowane do przetwarzania lokalnego.

Czy do przeszukiwania dokumentów wewnętrznych potrzebuję LLM?

Nie. Wyszukiwanie po nazwach plików, filtry metadanych, OCR, wyszukiwanie pełnotekstowe i semantyczne mogą działać bez generatywnego modelu językowego.

LLM staje się przydatny, gdy użytkownicy chcą wyjaśnień, streszczeń, porównań lub odpowiedzi konwersacyjnych opartych na odnalezionych fragmentach.

Czy Paperless-ngx to system AI do pytań i odpowiedzi na dokumenty?

Paperless-ngx to przede wszystkim system zarządzania dokumentami, OCR, metadanymi, przepływem pracy i wyszukiwaniem. Może stanowić podstawę archiwum i wyszukiwania pełnotekstowego dla dokumentów prywatnych.

Konwersacyjny RAG zwykle wymaga dodatkowej warstwy osadzania, wyszukiwania i LLM połączonej z wybranymi dokumentami.

Czy baza wektorowa jest wymagana?

Nie zawsze. Małe archiwum może działać z wyszukiwaniem pełnotekstowym, lokalnymi osadzeniami lub prostszym indeksem.

Baza wektorowa staje się bardziej przydatna, gdy wymagane jest semantyczne wyszukiwanie, filtrowanie metadanych, większe kolekcje lub bardziej zaawansowane sterowanie wyszukiwaniem.

Co się stanie, jeśli OCR błędnie odczyta dokument?

Niepoprawny tekst może zostać zindeksowany i później odnaleziony jakby był poprawny. Może to wpłynąć na wyniki wyszukiwania i generowane odpowiedzi.

Ważne daty, sumy, nazwy, klauzule i wartości tabel powinny być sprawdzane względem oryginalnej strony.

Czy 16 GB RAM wystarczy do prywatnego wyszukiwania dokumentów?

Może to wystarczyć do zarządzania dokumentami, OCR, wyszukiwania pełnotekstowego, osadzania, bazy wektorowej i małego lokalnego modelu, w zależności od obciążenia i konfiguracji oprogramowania.

Większe modele, wielu użytkowników, długie okna kontekstowe lub kilka kontenerów działających jednocześnie mogą wymagać więcej pamięci.

Czy RAG powinien działać bezpośrednio na NAS?

Może działać na NAS, gdy obciążenie jest umiarkowane, a wydajność pamięci masowej pozostaje stabilna.

Oddzielna maszyna AI może być lepsza, gdy indeksowanie, OCR, osadzanie lub lokalne wnioskowanie modelu spowalnia NAS lub utrudnia jego utrzymanie.

Czy RAG może całkowicie zapobiec halucynacjom?

Nie. RAG może dostarczyć odpowiedni kontekst źródłowy, ale model nadal może błędnie interpretować ten kontekst, łączyć sprzeczne dokumenty lub odpowiadać mimo niepełnych dowodów.

Używaj fragmentów źródłowych, nazw plików, odniesień do stron, obsługi niepewności oraz weryfikacji ludzkiej.

Którym dokumentom nie można ufać bez ręcznej weryfikacji?

Generowane odpowiedzi dotyczące informacji medycznych, prawnych, finansowych, ubezpieczeniowych, podatkowych, tożsamościowych lub umownych powinny być zawsze weryfikowane z oryginalnymi dokumentami i, w razie potrzeby, przez wykwalifikowanego specjalistę.

Bibliografia

• Wprowadzenie do RAG
• Podstawowe użycie - Paperless-ngx
• Konfiguracja - Paperless-ngx
• Docling
• Raport techniczny Docling
• Filtrowanie - Qdrant
• Retrieval Augmented Generation (RAG) - Open WebUI
• Wsparcie sprzętowe - Ollama
• Retrieval-Augmented Generation dla zadań NLP wymagających intensywnej wiedzy
• Tworzenie systemów LLM opartych na Retrieval Augmented Generation (RAG) z plików PDF: raport z doświadczeń
• Praca wymaga ode mnie opracowania silnika wyszukiwania RAG dla dokumentów wewnętrznych