Comment la pertinence marginale maximale réduit-elle les éléments de preuve redondants dans le RAG ?
La pertinence marginale maximale réduit les éléments redondants dans les preuves RAG en sélectionnant des passages selon leur pertinence pour la requête et leur nouveauté par rapport aux éléments de preuve déjà choisis.
Un système RAG privé à domicile peut récupérer plusieurs segments issus du même paragraphe de manuel, d’un scan qui se chevauche, d’une note dupliquée ou d’une section voisine, car tous sont très similaires à la requête. La simple similarité top-k considère ces quasi-doublons comme des résultats individuellement pertinents. La MMR ajoute une seconde relation : chaque résultat suivant doit toujours répondre à la requête, mais il est également comparé aux passages qui ont déjà été retenus dans l’ensemble de preuves.
La MMR intervient après la constitution d’un ensemble de candidats par un récupérateur
La MMR n’effectue généralement pas de recherche dans toute la collection de vecteurs depuis zéro. Un récupérateur lexical, vectoriel ou hybride rapide produit d’abord un ensemble de candidats plus large, dont les éléments sont suffisamment plausibles pour être pris en compte.
L’objectif de pertinence marginale maximale équilibre la pertinence par rapport à la requête et la redondance avec les éléments déjà sélectionnés. Le classement dépend ainsi de l’ensemble de résultats en cours de constitution plutôt que de scores isolés attribués aux candidats.
Si l’ensemble initial ne contient jamais le passage correct, la MMR ne peut pas l’inventer. La profondeur des candidats reste donc une limite de rappel : un ensemble plus large offre davantage d’alternatives à l’étape de diversification, tandis qu’un ensemble excessivement vaste ajoute du contenu faible qui devra ensuite être écarté.
Chaque sélection équilibre l’adéquation à la requête et la similarité avec les éléments de preuve retenus
Le premier passage sélectionné dépend généralement surtout de sa pertinence, puisque rien n’a encore été choisi. Ensuite, chaque candidat restant est évalué selon deux critères : sa correspondance avec la requête et sa ressemblance avec les éléments de preuve déjà sélectionnés.
Dans un processus de sélection itératif, chaque passage accepté modifie la pénalité de redondance appliquée aux candidats restants. Le choix suivant dépend donc à la fois de l’adéquation à la requête et de ce qui se trouve déjà dans le contexte.
La tâche de classement passe ainsi d’une évaluation indépendante à la construction d’un ensemble. Un passage peut obtenir un excellent score pour la requête et néanmoins être rétrogradé lorsqu’il répète le même fait que le premier résultat.
Pour une archive domestique, cela peut conduire à sélectionner un paragraphe énonçant la politique de sauvegarde, un autre présentant l’exception de conservation et un troisième extrait de la procédure de restauration, plutôt que trois copies similaires du paragraphe sur la politique.
Le poids de la diversité détermine avec quelle intensité les quasi-doublons sont rétrogradés
La MMR nécessite un paramètre d’équilibre, car pertinence et nouveauté peuvent entrer en conflit. Un réglage proche de l’extrémité privilégiant la pertinence se comporte davantage comme un classement top-k classique, tandis qu’un réglage privilégiant la diversité accepte plus volontiers de sacrifier une partie de la similarité directe au profit d’éléments de preuve différents.
Un compromis ajustable entre pertinence et diversité détermine dans quelle mesure le sélecteur renonce à une partie de la similarité directe en échange d’éléments de preuve apportant des informations différentes.
Le réglage utile dépend de la question. Une requête demandant un numéro de série précis bénéficie d’une forte priorité accordée à la pertinence, tandis qu’une question portant sur les raisons d’un échec de sauvegarde d’un serveur domestique peut nécessiter des éléments indépendants issus des journaux, de la configuration, de l’état du stockage et de l’historique du planificateur.
Trop de diversité peut rétrograder un second passage qui renforce ou nuance réellement le premier. L’objectif n’est donc pas d’obtenir une différence maximale, mais une différence suffisante pour consacrer le contexte disponible à des informations supplémentaires.
La MMR est particulièrement efficace lorsque les segments dupliqués conservent des signaux de similarité significatifs
Le découpage en segments qui se chevauchent, les fichiers copiés, les en-têtes répétés et les documents versionnés peuvent créer des candidats presque identiques sur le plan sémantique. Ce sont des conditions favorables à la MMR, car la redondance apparaît directement dans la similarité entre les candidats.
La diversification fondée sur la MMR peut réordonner un ensemble de candidats existant sans nécessiter la suppression physique préalable de chaque quasi-doublon de l’index vectoriel.
Toutefois, deux passages peuvent répéter le même fait avec un vocabulaire ou un format différent. Une ligne de tableau et une phrase en prose peuvent sembler redondantes pour une personne, alors que leur similarité vectorielle n’est que modérée. C’est pourquoi la MMR complète, sans la remplacer, la déduplication tenant compte de la source. Les identifiants de document, les métadonnées de version, le regroupement parent et le suivi des chevauchements peuvent éliminer les doublons structurels avant l’application de la diversité sémantique.
Des éléments de preuve plus diversifiés offrent au générateur un meilleur budget de contexte
Les modèles locaux de génération de réponses disposent d’un contexte et d’une capacité d’attention limités. Remplir six emplacements de récupération avec des passages presque identiques gaspille des jetons sans augmenter le nombre de faits indépendamment utiles que le modèle peut examiner.
Comme les unités de preuve RAG sont déterminées lors de l’ingestion, la MMR ne peut diversifier que les segments effectivement mis à disposition de la récupération par l’analyseur et le segmenteur.
Un ensemble plus varié peut faire ressortir une exception, un second document, une révision plus récente ou un tableau complémentaire que le classement fondé uniquement sur la similarité avait relégué sous des segments répétés.
Le générateur a toujours besoin de la provenance des sources et d’une discipline de citation. La diversité rend l’ensemble de preuves moins répétitif, mais elle ne prouve pas que chaque passage sélectionné est exact, à jour ou faisant autorité.
La MMR ne peut pas corriger des éléments de preuve manquants, obsolètes ou mal analysés
La MMR fonctionne sur la représentation qu’elle reçoit. Si l’OCR a aplati un tableau, si le découpage a séparé une précision importante, si un filtre de métadonnées a exclu le fichier actuel ou si le modèle d’embeddings n’a pas correctement représenté la requête, l’étape de diversification ne dispose d’aucun élément fiable à promouvoir.
L’utilisation de la recherche par pertinence marginale maximale modifie les candidats disponibles qui intègrent l’ensemble final, mais elle ne corrige pas les échecs d’extraction et ne crée pas les éléments de preuve manquants.
Évaluez-la avec des métriques de récupération incluant le taux de doublons et la couverture des éléments de preuve, et pas uniquement la pertinence du premier résultat. Un jeu de test utile doit contenir des segments qui se chevauchent, des versions répétées et des questions dont la réponse nécessite plusieurs passages indépendants.
La MMR est efficace lorsque le contexte final conserve les éléments de preuve les plus pertinents tout en remplaçant les emplacements redondants par des passages apportant véritablement de nouveaux éléments.
Produits recommandés
Centre Tech & IA
Plus à lire
Les caméras domestiques peuvent-elles synchroniser les événements sans services horaires cloud ?
Une explication axée sur les mécanismes de l’heure de la caméra sans cloud, ses compromis liés aux ressources partagées, trois FAQ sur la diffusion...
Un service d’IA local peut-il détecter les couches de modèle corrompues avant l’inférence ?
Une explication axée sur les mécanismes de la détection des couches de modèle corrompues, de ses compromis en matière de ressources partagées, de trois...
Un système RAG peut-il être restauré sans régénérer chaque embedding ?
Une explication de la restauration RAG sans réencodage, axée sur le mécanisme, de ses compromis en matière de ressources partagées, trois FAQ sur la...
