In che modo la massima rilevanza marginale riduce le prove ridondanti nel RAG?
La massima rilevanza marginale riduce le prove ridondanti nel RAG selezionando i passaggi in base sia alla rilevanza rispetto alla query sia alla novità rispetto alle prove già scelte.
Un sistema RAG domestico privato può recuperare diversi frammenti dello stesso paragrafo di un manuale, della stessa scansione sovrapposta, della stessa nota duplicata o della sezione adiacente, perché tutti sono molto simili alla query. La pura similarità top-k tratta questi quasi duplicati come risultati singolarmente validi. MMR aggiunge una seconda relazione: ogni risultato successivo deve continuare a rispondere alla query, ma viene anche confrontato con i passaggi che hanno già ottenuto un posto nell'insieme delle prove.
MMR inizia dopo che un retriever ha creato un insieme di candidati
Di norma, MMR non cerca da zero nell'intera raccolta di vettori. Un retriever lessicale, vettoriale o ibrido veloce produce prima un insieme più ampio di candidati, i cui elementi sono sufficientemente plausibili da poter essere presi in considerazione.
L'obiettivo della massima rilevanza marginale bilancia la rilevanza rispetto alla query con la ridondanza rispetto agli elementi già selezionati, facendo dipendere il ranking dall'insieme dei risultati in evoluzione anziché dai punteggi isolati dei candidati.
Se l'insieme iniziale non contiene mai il passaggio corretto, MMR non può inventarlo. La profondità dei candidati rimane quindi un limite al recall: un insieme più ampio offre al passaggio di diversificazione più alternative, mentre un insieme eccessivamente esteso aggiunge materiale debole che dovrà essere rifiutato in seguito.
Ogni selezione bilancia l'aderenza alla query con la similarità rispetto alle prove scelte
Il primo passaggio selezionato è solitamente determinato soprattutto dalla rilevanza, perché non è ancora stato scelto nulla. In seguito, ogni candidato rimanente viene valutato in base a due fattori: quanto bene corrisponde alla query e quanto assomiglia alle prove già selezionate.
In un processo di selezione iterativa, ogni passaggio accettato modifica la penalità di ridondanza applicata ai candidati rimanenti, quindi la scelta successiva dipende sia dall'aderenza alla query sia da ciò che è già presente nel contesto.
Questo trasforma il compito di ranking: dalla valutazione indipendente si passa alla costruzione di un insieme. Un passaggio può avere un punteggio eccellente rispetto alla query e comunque scendere in classifica quando ripete lo stesso fatto del primo risultato.
Per un archivio domestico, ciò può significare scegliere un paragrafo che descrive la politica di backup, un altro che elenca l'eccezione relativa alla conservazione e un terzo tratto dalla procedura di ripristino, invece di restituire tre copie sovrapposte del paragrafo sulla politica.
Il peso della diversità controlla quanto vengono penalizzati i quasi duplicati
MMR ha bisogno di un parametro di compromesso perché rilevanza e novità possono entrare in conflitto. Un'impostazione vicina all'estremo dominato dalla rilevanza si comporta più come un normale ranking top-k, mentre un'impostazione orientata alla diversità è più disposta a scambiare parte della similarità diretta con prove differenti.
Un compromesso regolabile tra rilevanza e diversità determina quanto facilmente il selettore rinunci a una parte della similarità diretta in cambio di prove che apportano informazioni diverse.
L'impostazione utile dipende dalla domanda. Una query che richiede un numero di serie preciso beneficia della predominanza della rilevanza, mentre una domanda sul motivo per cui un backup del server domestico non è riuscito può richiedere prove indipendenti provenienti dai log, dalla configurazione, dallo stato dello storage e dalla cronologia dello scheduler.
Una diversità eccessiva può declassare un secondo passaggio che rafforza o qualifica realmente il primo, quindi l'obiettivo non è la massima differenza. È una differenza sufficiente per utilizzare il contesto limitato a favore di informazioni aggiuntive.
MMR funziona meglio quando i frammenti duplicati conservano segnali di similarità significativi
La suddivisione in frammenti sovrapposti, i file copiati, le intestazioni ripetute e i documenti versionati possono creare candidati semanticamente quasi identici. Queste sono condizioni favorevoli per MMR, perché la ridondanza emerge direttamente dalla similarità tra i candidati.
La diversificazione basata su MMR può riordinare un insieme di candidati esistente senza richiedere che ogni quasi duplicato venga rimosso fisicamente dall'indice vettoriale in anticipo.
Tuttavia, due passaggi possono ripetere lo stesso fatto usando un vocabolario o un formato diverso. Una riga di tabella e una frase in prosa possono essere ridondanti per una persona, mentre la loro similarità vettoriale è solo moderata. Per questo MMR integra, anziché sostituire, la deduplicazione basata sulla fonte. Gli ID dei documenti, i metadati delle versioni, il raggruppamento per documento principale e il tracciamento delle sovrapposizioni possono rimuovere i duplicati strutturali prima di applicare la diversità semantica.
Prove più diversificate offrono al generatore un budget di contesto migliore
I modelli locali per la generazione delle risposte hanno un contesto e un'attenzione limitati. Riempire sei slot di recupero con passaggi quasi identici spreca token senza aumentare il numero di fatti utili e indipendenti che il modello può esaminare.
Poiché le unità di prova del RAG vengono determinate durante l'acquisizione, MMR può diversificare solo tra i frammenti che il parser e il processo di suddivisione hanno effettivamente reso disponibili al recupero.
Un insieme più vario può far emergere un'eccezione, un secondo documento, una revisione più recente o una tabella di supporto che il normale ranking per similarità aveva relegato al di sotto di frammenti ripetuti.
Il generatore ha comunque bisogno di provenienza e disciplina nelle citazioni. La diversità rende l'insieme delle prove meno ripetitivo, ma non dimostra che ogni passaggio selezionato sia corretto, aggiornato o autorevole.
MMR non può correggere prove mancanti, obsolete o analizzate male
MMR opera sulla rappresentazione che riceve. Se l'OCR ha appiattito una tabella, la suddivisione ha separato una precisazione, un filtro sui metadati ha escluso il file corrente o il modello di embedding non ha rappresentato correttamente la query, il passaggio di diversificazione non dispone di prove affidabili da promuovere.
Utilizzare la ricerca con massima rilevanza marginale modifica i candidati disponibili che entrano nell'insieme finale, ma non corregge gli errori di estrazione né crea prove mancanti.
Valutatela con metriche di recupero che includano il tasso di duplicazione e la copertura delle prove, non solo la rilevanza top-1. Un set di test utile dovrebbe contenere frammenti sovrapposti, versioni ripetute e domande la cui risposta richieda più di un passaggio indipendente.
MMR ha successo quando il contesto finale conserva le prove più rilevanti e solide, sostituendo gli slot ridondanti con passaggi che aggiungono un supporto realmente nuovo.
Prodotti consigliati
Hub Tecnologico e AI
Altro da leggere
Le telecamere domestiche possono sincronizzare gli eventi senza servizi di sincronizzazione dell’ora nel cloud?
Una spiegazione basata prima di tutto sul meccanismo del tempo della fotocamera senza cloud, dei compromessi legati alle risorse condivise, tre domande frequenti sulla...
Un servizio di IA locale può rilevare i livelli del modello danneggiati prima dell'inferenza?
Una spiegazione della rilevazione della corruzione a livello del modello basata innanzitutto sul meccanismo, dei compromessi legati alle risorse condivise, di tre FAQ sull'amplificazione...
È possibile ripristinare un sistema RAG senza rigenerare ogni embedding?
Una spiegazione di RAG Restore senza re-embedding, incentrata sui meccanismi, dei compromessi legati alle risorse condivise, tre FAQ sull'espansione delle query e un protocollo...
