Hur minskar maximal marginalrelevans redundant RAG-evidens?
Maximal marginal relevans minskar överflödiga RAG-belägg genom att välja textavsnitt utifrån både relevans för frågan och nyhetsvärde i förhållande till redan valda belägg.
Ett privat RAG-system hemma kan hämta flera textblock från samma stycke i en manual, en överlappande skanning, en duplicerad anteckning eller ett angränsande avsnitt eftersom alla liknar frågan starkt. Ren top-k-likhet behandlar dessa nästan identiska träffar som individuellt starka resultat. MMR lägger till en andra relation: varje nästa resultat måste fortfarande besvara frågan, men jämförs också med de textavsnitt som redan har valts ut till beläggsmängden.
MMR börjar efter att en hämtare har skapat en kandidatpool
MMR söker normalt inte igenom hela vektorsamlingen från grunden. Först producerar en snabb lexikal hämtare, vektorhämtare eller hybridhämtare en större kandidatmängd vars medlemmar är tillräckligt plausibla för att övervägas.
Målfunktionen för maximal marginal relevans balanserar relevansen för frågan mot överlappning med redan valda objekt, vilket gör att rankningen beror på den växande resultatmängden snarare än på isolerade kandidatscorer.
Om den initiala poolen aldrig innehåller rätt textavsnitt kan MMR inte skapa det. Kandidatdjupet sätter därför fortfarande en gräns för återkallningen: en bredare pool ger mångfaldssteget fler alternativ, medan en alltför bred pool tillför svagt material som senare måste avvisas.
Varje urval balanserar frågepassning mot likhet med valda belägg
Det första valda textavsnittet styrs vanligtvis främst av relevans eftersom inget har valts ännu. Därefter utvärderas varje återstående kandidat utifrån två krafter: hur väl den matchar frågan och hur mycket den liknar redan valda belägg.
I en iterativ urvalsprocess förändrar varje accepterat textavsnitt överlappningsstraffet för de återstående kandidaterna, så nästa val beror både på frågepassning och på vad som redan finns i kontexten.
Detta förändrar rankningsuppgiften från oberoende poängsättning till konstruktion av en mängd. Ett textavsnitt kan ha en utmärkt frågescore och ändå flyttas ned när det upprepar samma fakta som det första resultatet.
För ett hemmaarkiv kan det innebära att man väljer ett stycke som beskriver säkerhetskopieringspolicyn, ett annat som listar undantaget från lagringsperioden och ett tredje från återställningsrutinen, i stället för att returnera tre överlappande kopior av policytexten.
Mångfaldsvikten styr hur kraftigt nästan identiska träffar flyttas ned
MMR behöver en avvägningsparameter eftersom relevans och nyhetsvärde kan stå i konflikt. En inställning nära den relevansdominerade änden beter sig mer som vanlig top-k-rankning, medan en mångfaldsdominerad inställning i högre grad kan byta bort en del direkt likhet mot andra typer av belägg.
En justerbar avvägning mellan relevans och mångfald avgör hur villigt urvalet avstår från en del direkt likhet i utbyte mot belägg som bidrar med annan information.
Den lämpliga inställningen beror på frågan. En fråga som efterfrågar ett exakt serienummer gynnas av relevansdominans, medan en fråga om varför en säkerhetskopiering på en hemmaserver misslyckades kan behöva oberoende belägg från loggar, konfiguration, lagringstillstånd och schemaläggarhistorik.
För mycket mångfald kan flytta ned ett andra textavsnitt som faktiskt förstärker eller kvalificerar det första, så målet är inte maximal olikhet. Det handlar om tillräcklig olikhet för att använda det begränsade kontextutrymmet till ytterligare information.
MMR fungerar bäst när duplicerade textblock fortfarande innehåller meningsfulla likhetssignaler
Överlappande textindelning, kopierade filer, upprepade rubriker och versionshanterade dokument kan skapa kandidater som är nästan semantiskt identiska. Det är gynnsamma förhållanden för MMR eftersom överlappningen syns direkt i likheten mellan kandidaterna.
MMR-baserad diversifiering kan omrankera en befintlig kandidatmängd utan att varje nästan identisk träff först måste tas bort fysiskt från vektorindexet.
Två textavsnitt kan dock upprepa samma fakta med olika ordval eller format. En tabellrad och en prosamening kan vara överflödiga för en människa trots att deras vektorlikhet bara är måttlig. Därför kompletterar MMR källmedveten deduplicering i stället för att ersätta den. Dokument-ID:n, versionsmetadata, överordnad gruppering och spårning av överlappningar kan ta bort strukturella dubbletter innan semantisk mångfald tillämpas.
Mer varierade belägg ger generatorn en bättre kontextbudget
Lokala svarsmodeller har begränsat kontextutrymme och begränsad uppmärksamhet. Att fylla sex hämtningsplatser med nästan identiska textavsnitt slösar token utan att öka antalet självständigt användbara fakta som modellen kan granska.
Eftersom RAG-beläggenheter bestäms vid inläsningen kan MMR bara skapa mångfald bland de textblock som parsern och textindelaren faktiskt har gjort tillgängliga för hämtning.
En mer varierad mängd kan synliggöra ett undantag, ett andra dokument, en nyare version eller en stödjande tabell som vanlig likhetsrankning placerade under upprepade textblock.
Generatorn behöver fortfarande proveniens och disciplin kring källhänvisningar. Mångfald gör beläggsmängden mindre repetitiv, men bevisar inte att varje valt textavsnitt är korrekt, aktuellt eller auktoritativt.
MMR kan inte reparera saknade, inaktuella eller felaktigt tolkade belägg
MMR arbetar med den representation som den får. Om OCR plattade till en tabell, textindelningen separerade ett förbehåll, ett metadatafilter uteslöt den aktuella filen eller inbäddningsmodellen misslyckades med att representera frågan, har mångfaldssteget inga tillförlitliga belägg att lyfta fram.
Att använda sökning med maximal marginal relevans ändrar vilka tillgängliga kandidater som kommer med i den slutliga mängden, men reparerar inte extraktionsfel och skapar inte saknade belägg.
Utvärdera funktionen med hämtningsmått som inkluderar dubblettfrekvens och beläggstäckning, inte bara relevans på första plats. En användbar testmängd bör innehålla överlappande textblock, upprepade versioner och frågor vars svar kräver mer än ett oberoende textavsnitt.
MMR är framgångsrikt när den slutliga kontexten bevarar de starkaste relevanta beläggen och ersätter överflödiga platser med textavsnitt som tillför genuint nytt stöd.
Rekommenderade produkter
Teknik- och AI-hubb
Mer att läsa
Kan hemkameror synkronisera händelser utan molnbaserade tidstjänster?
En mekanismorienterad förklaring av kameratid utan moln, dess avvägningar kring delade resurser, tre vanliga frågor om frågefanout och ett praktiskt verifieringsprotokoll.
Kan en lokal AI-tjänst upptäcka skadade modellager före inferens?
En mekanismfokuserad förklaring av detektering av korruption i modellagret, dess avvägningar kring delade resurser, tre vanliga frågor om frågefan-out och ett praktiskt verifieringsprotokoll.
Kan ett RAG-system återställas utan att generera om alla embeddingar?
En mekanismförst förklaring av RAG-återställning utan ombäddning, dess avvägningar kring delade resurser, tre vanliga frågor om frågefanout och ett praktiskt verifieringsprotokoll.
