Warum ändert sich das Ranking der Vektorsuche, wenn mehrere Indexsegmente gemeinsam abgefragt werden?
Die Vektorrangfolge kann sich über mehrere Segmente hinweg ändern, da die ungefähre Kandidatensuche separat erfolgt, bevor ein globaler Top-k-Merge unvollständige Ergebnismengen vergleicht.
Ein privater Index kann ein großes Basissegment sowie kleinere Segmente für aktuelle Dokumentaktualisierungen enthalten. Die Abfrage wird gegen jede Struktur ausgeführt, sammelt eine begrenzte Anzahl von Kandidaten und führt deren Bewertungen zusammen. Segmentgröße, Qualität von Graphen oder Partitionen, Suchbudget, gelöschte Datensätze, Bewertungsnormalisierung und die Verteilung der Aktualisierungen bestimmen, welche Nachbarn bestehen bleiben - selbst wenn jeder Vektor dasselbe Embedding-Modell verwendet.
Jedes Segment erzeugt eine lokal unvollständige Kandidatenmenge
Die ungefähre Suche nach den nächsten Nachbarn untersucht nur einen Teil eines Index. Wenn der Korpus aufgeteilt ist, erhält jedes Segment seine eigene Strahlbreite, Sondenanzahl oder Top-k-Grenze, und der globale Merge kann nur die Kandidaten einordnen, die von diesen lokalen Suchen zurückgegeben werden.
mehrstufige Vektorsuche kombiniert hierarchische Graphindizierung mit logstrukturierten Ebenen für dynamische Vektoraktualisierungen. Das Design zeigt, dass die Suchstrategie berücksichtigen muss, wo sich Vektoren über die Ebenen hinweg befinden, anstatt die segmentierte Speicherung wie einen einzigen exakten Distanzscan zu behandeln.
Ein kleines aktuelles Segment kann schwache Kandidaten zurückgeben, weil ihm ein festgelegtes Kontingent zugewiesen wurde, während ein großes Basissegment einen tatsächlichen Nachbarn auslassen kann, weil sein lokales Budget zu knapp bemessen ist. Eine Erhöhung des endgültigen Top-k kann ein Element nicht zurückholen, das von keinem Segment offengelegt wurde.
Partitionsqualität und Aktualität unterscheiden sich zwischen Segmenten
Ältere Segmente können gut optimierte Graphen oder Cluster besitzen, während frische Segmente Einfügungen und Löschmarkierungen enthalten, die unter einer anderen Datenverteilung entstanden sind. Ihre Trefferquote, Traversierungskosten und Kandidatendichte können sich daher unterscheiden, bevor die Bewertungen den globalen Merge erreichen.
Streaming-Graphaktualisierungen halten Graphen in Echtzeit aktuell, bewahren dabei eine hohe Trefferquote und vermeiden regelmäßige vollständige Neuaufbauten. Die Arbeit zeigt, warum die dynamische Vektorsuche explizite Aktualisierungsregeln erfordert, statt davon auszugehen, dass ein statischer Graph weiterhin repräsentativ ist.
Doppelte Dokumentversionen können sich ebenfalls in unterschiedlichen Segmenten befinden und im Top-k miteinander konkurrieren. Nach der ANN-Suche angewendete Versionsfilter verschwenden lokale Kandidatenplätze; wenn Einschränkungen für aktive Versionen und Berechtigungen bereits in die Kandidatengenerierung einfließen, wird dieser verborgene Rangordnungsdruck reduziert.
Der globale Bewertungs-Merge kann fehlende oder nicht vergleichbare Informationen nicht korrigieren
Cosinus-, Skalarprodukt- oder Distanzwerte sind mathematisch nur dann vergleichbar, wenn Vektoren und Normalisierung übereinstimmen. Quantisierung, segmentspezifische Transformationen oder eine uneinheitliche Bewertungsumrechnung können dazu führen, dass scheinbar gleiche Zahlen unterschiedliche Approximationsfehler darstellen. Dieser Unterschied bleibt auch bei späteren Tests im Haushalt sichtbar.
lokales Neuausbalancieren von Partitionen ersetzt teure globale Neuaufbauten durch lokales Neuausbalancieren von Partitionen, während sich die Daten verschieben. Die Evaluation berichtet Schwankungen bei Suchlatenz und Genauigkeit in Ansätzen, die auf Neuaufbauten ausgerichtet sind, und veranschaulicht damit, warum die Konsolidierungsstrategie das beobachtbare Rangordnungsverhalten verändert. Das Zwischenergebnis muss überprüfbar bleiben, bevor die Automatisierung darauf aufbaut.
Die Fehlergrenze liegt in der Erwartung einer deterministischen Reihenfolge bei nahezu gleichen Ergebnissen. Gleitkomma-Kernels, gleichzeitige Aktualisierungen und ungefähre Traversierung können Nachbarn mit fast identischen Bewertungen vertauschen, selbst innerhalb eines Segments. Betrachte eine Rangordnungsänderung nur dann als Fehler, wenn Trefferquote, Qualität der Belege oder Versionskorrektheit eine definierte Toleranz überschreiten.
Segmentbeitrag vor der Konsolidierung messen
Erstelle einen eingefrorenen Abfragesatz mit exakt ermittelten nächsten Nachbarn und Bewertungen relevanter Dokumente. Führe jedes Segment einzeln und alle Segmente gemeinsam aus und variiere dabei lokales Top-k, Graph-Strahlbreite, Sonden, Löschfilter und den Anteil neuer Vektoren.
Vergleiche die Ergebnisse mit dem Verhalten nach der Komprimierung bei Nachbarn nach der Komprimierung. Zeichne auf, welches Segment jeden endgültigen Kandidaten beigetragen hat, einschließlich lokalem Rang, Rohdistanz, normalisierter Bewertung, später herausgefilterten Kandidaten, globaler Trefferquote, Rangkorrelation, Latenz und Versionskorrektheit. Diese Grenze sollte unter realistischen Betriebsbedingungen separat gemessen werden.
Erhöhe lokale Budgets nur dort, wo ausgelassene relevante Nachbarn die Kosten rechtfertigen. Wenn Segmente inkompatible Embeddings oder Bewertungsumformungen verwenden, erstelle sie neu oder trenne sie; ein globaler Merge kann eine fehlerhafte Repräsentation nach der Kandidatengenerierung nicht wegkalibrieren.
Empfohlene Produkte
Tech- & KI-Zentrum
Mehr zum Lesen
Warum steigt die GPU-Leistung zu Beginn einer lokalen Inferenzanfrage sprunghaft an?
Sehen Sie, wie das Hochfahren des GPU-Takts, das Vorfüllen des Modells, die Kernel-Initialisierung, die Speicherzuweisung und die Sampling-Intervalle zu Leistungsspitzen beim Start der Inferenz...
Warum werden Gruppen zur Fotodublettenbereinigung nach der Bearbeitung von Metadaten aufgeteilt?
Erfahren Sie, wie exakte Hashes, perzeptuelle Hashes, die EXIF-Ausrichtung, Zeitstempel, Schwellenwerte und Pipeline-Versionen dazu führen, dass private Fotoduplikatgruppen aufgeteilt werden.
Warum unterbricht sich ein lokaler Sprachassistent in einem hallenden Raum selbst?
Erfahren Sie, wie akustische Echopfade, Nachhall, nichtlineare Lautsprecher, Double-Talk und Barge-in-Schwellenwerte dazu führen, dass ein lokaler Sprachassistent sich selbst hört.
