Hoe vermindert maximale marginale relevantie redundante RAG-bewijsstukken?

Maximale marginale relevantie vermindert redundant RAG-bewijsmateriaal door passages te selecteren op basis van zowel relevantie voor de zoekopdracht als nieuwheid ten opzichte van al geselecteerd bewijsmateriaal.

Een privé-RAG-systeem voor thuis kan meerdere fragmenten uit dezelfde alinea van een handleiding, overlappende scan, dubbele notitie of aangrenzende sectie ophalen, omdat ze allemaal sterk op de zoekopdracht lijken. Zuivere top-k-similariteit behandelt die bijna-duplicaten als afzonderlijk sterke resultaten. MMR voegt een tweede relatie toe: elk volgend resultaat moet de zoekopdracht nog steeds beantwoorden, maar wordt ook vergeleken met passages die al een plaats in de bewijzenset hebben verdiend.

MMR begint nadat een retriever een kandidatenpool heeft samengesteld

MMR doorzoekt normaal gesproken niet vanaf nul de volledige vectorcollectie. Eerst produceert een snelle lexicale, vector- of hybride retriever een grotere kandidatenverzameling waarvan de leden plausibel genoeg zijn om te overwegen.

Het doel van maximale marginale relevantie brengt relevantie voor de zoekopdracht in balans met redundantie ten opzichte van al geselecteerde items. Daardoor hangt de rangschikking af van de zich ontwikkelende resultatenset en niet van afzonderlijke kandidaatscores.

Als de initiële pool nooit de juiste passage bevat, kan MMR die niet verzinnen. De kandidaatdiepte blijft daarom een grens voor de recall: een bredere pool geeft de diversiteitsstap meer alternatieven, terwijl een te brede pool zwak materiaal toevoegt dat later moet worden afgewezen.

Elke selectie weegt aansluiting op de zoekopdracht af tegen overeenkomst met het gekozen bewijsmateriaal

De eerste geselecteerde passage wordt meestal vooral door relevantie bepaald, omdat er nog niets is geselecteerd. Daarna wordt elke overgebleven kandidaat beoordeeld op basis van twee factoren: hoe goed de kandidaat bij de zoekopdracht past en hoeveel deze lijkt op al gekozen bewijsmateriaal.

In een iteratief selectieproces verandert elke geaccepteerde passage de redundantieboete voor de overgebleven kandidaten. Daardoor hangt de volgende keuze af van zowel de aansluiting op de zoekopdracht als van wat al in de context staat.

Hierdoor verandert de rangschikkingstaak van onafhankelijke scoring in het samenstellen van een set. Een passage kan een uitstekende score voor de zoekopdracht hebben en toch lager eindigen wanneer deze hetzelfde feit herhaalt als het eerste resultaat.

Voor een thuisarchief kan dat betekenen dat één alinea die het back-upbeleid beschrijft wordt gekozen, een andere die de uitzondering op de bewaartermijn vermeldt en een derde uit de herstelprocedure, in plaats van drie overlappende kopieën van de beleidstekst.

De diversiteitsweging bepaalt hoe sterk bijna-duplicaten omlaag worden geduwd

MMR heeft een afwegingsparameter nodig omdat relevantie en nieuwheid met elkaar kunnen botsen. Een instelling aan de kant die zwaar op relevantie leunt, gedraagt zich meer als een gewone top-k-rangschikking, terwijl een diversiteitsgerichte instelling eerder bereid is wat directe overeenkomst op te offeren voor ander bewijsmateriaal.

Een instelbare afweging tussen relevantie en diversiteit bepaalt hoe gemakkelijk de selector wat directe overeenkomst opgeeft in ruil voor bewijsmateriaal dat andere informatie toevoegt.

De juiste instelling hangt af van de vraag. Een zoekopdracht naar één exact serienummer profiteert van een dominantie van relevantie, terwijl een vraag waarom een back-up van een thuisserver is mislukt mogelijk onafhankelijk bewijsmateriaal nodig heeft uit logboeken, configuratie, opslagstatus en de geschiedenis van de planner.

Te veel diversiteit kan een tweede passage lager plaatsen die de eerste daadwerkelijk versterkt of nuanceert. Het doel is dus niet maximale verscheidenheid, maar voldoende verschil om de schaarse context aan extra informatie te besteden.

Featured

ZimaCube 2 Persoonlijke Cloud Home NAS

ZimaCube2

$799.00 - $2,499.00

Buy Now

MMR werkt het best wanneer dubbele fragmenten nog betekenisvolle similariteitssignalen bevatten

Overlappende fragmentering, gekopieerde bestanden, herhaalde kopteksten en documenten met verschillende versies kunnen kandidaten opleveren die semantisch vrijwel identiek zijn. Dat zijn gunstige omstandigheden voor MMR, omdat redundantie direct zichtbaar wordt in de overeenkomst tussen kandidaten.

Diversificatie op basis van MMR kan een bestaande kandidatenverzameling opnieuw rangschikken zonder dat elk bijna-duplicaat vooraf fysiek uit de vectorindex hoeft te worden verwijderd.

Twee passages kunnen hetzelfde feit echter met een andere woordkeuze of indeling herhalen. Een tabelrij en een zin in lopende tekst kunnen voor een persoon redundant zijn, terwijl hun vectorsimilariteit slechts matig is. Daarom vormt MMR een aanvulling op, en geen vervanging van, bronbewuste deduplicatie. Document-ID's, versie- metadata, bovenliggende groepen en registratie van overlap kunnen structurele duplicaten verwijderen voordat semantische diversiteit wordt toegepast.

Meer divers bewijsmateriaal geeft de generator een beter contextbudget

Lokale antwoordmodellen hebben een beperkte context en beperkte aandachtscapaciteit. Zes retrievalplaatsen vullen met vrijwel identieke passages verspilt tokens zonder het aantal onafhankelijk bruikbare feiten dat het model kan bekijken te vergroten.

Omdat RAG-bewijseenheden tijdens de ingestie worden bepaald, kan MMR alleen diversifiëren binnen de fragmenten die de parser en fragmenter daadwerkelijk beschikbaar hebben gemaakt voor retrieval.

Een gevarieerdere set kan een uitzondering, een tweede document, een nieuwere revisie of een ondersteunende tabel zichtbaar maken die bij een gewone rangschikking op basis van similariteit onder herhaalde fragmenten verborgen bleef.

De generator heeft nog steeds herkomstinformatie en zorgvuldige bronvermelding nodig. Diversiteit maakt de bewijzenset minder repetitief, maar bewijst niet dat elke geselecteerde passage correct, actueel of gezaghebbend is.

MMR kan ontbrekend, verouderd of slecht geparseerd bewijsmateriaal niet herstellen

MMR werkt met de representatie die het ontvangt. Als OCR een tabel heeft afgevlakt, fragmentering een kwalificatie heeft afgescheiden, een metadat filter het actuele bestand heeft uitgesloten of het embeddingmodel de zoekopdracht niet goed heeft weergegeven, beschikt de diversiteitsstap niet over betrouwbaar bewijsmateriaal om naar voren te halen.

Het gebruik van zoeken met maximale marginale relevantie verandert welke beschikbare kandidaten in de uiteindelijke set terechtkomen, maar herstelt geen extractiefouten en creëert geen ontbrekend bewijsmateriaal.

Evalueer dit met retrievalmetrics waarin zowel het duplicaatpercentage als de dekking van het bewijsmateriaal is opgenomen, en niet alleen relevantie op de eerste plaats. Een bruikbare testset moet overlappende fragmenten, herhaalde versies en vragen bevatten waarvan het antwoord meer dan één onafhankelijke passage vereist.

MMR is succesvol wanneer de uiteindelijke context het sterkste relevante bewijsmateriaal behoudt en redundante plaatsen vervangt door passages die daadwerkelijk nieuwe ondersteuning bieden.