Dernier blog

Un jeu de données d’évaluation RAG utilise des requêtes reproductibles et des éléments de preuve attendus ou un comportement de réponse attendu afin de détecter les régressions de la récupération et de la génération dans la...

Le décodage contraint réduit l’ensemble des prochains jetons autorisés du modèle au fur et à mesure de la génération du texte, en imposant la structure avant qu’une sortie non valide puisse être échantillonnée.

Le partitionnement du modèle répartit l’état requis entre plusieurs appareils, de sorte qu’un seul accélérateur n’a pas besoin de contenir l’intégralité du modèle, au prix d’une surcharge de coordination en échange d’une utilisation mémoire plus raisonnable.

La dégradation du contexte désigne la baisse de fiabilité de l’utilisation des informations à mesure que le contexte actif s’allonge, même lorsque les jetons pertinents restent dans la fenêtre du modèle.

Un marqueur de suppression vectoriel est un indicateur logique de suppression qui maintient les enregistrements supprimés exclus des résultats jusqu’à ce que l’index puisse nettoyer ou reconstruire en toute sécurité la structure sous-jacente.

Les estimations de confiance de l’ancrage évaluent si les éléments probants récupérés étayent suffisamment une réponse, plutôt que de considérer un score élevé de récupération comme une preuve d’exactitude.

Un budget d’exécution est une enveloppe de ressources imposée pour une exécution d’agent, qui combine des compteurs logiques, des échéances et des limites de l’hôte, avec une politique d’arrêt définie.

Le découpage défini par le contenu ancre les limites sur des octets locaux, ce qui permet aux sauvegardes de se resynchroniser après des modifications et de réutiliser les blocs inchangés entre les versions d’un fichier.