Recuperation Eparse
La recuperation eparse est une approche de recherche qui utilise des representations vectorielles eparses, des vecteurs de grande dimension ou la plupart des dimensions sont nulles, pour trouver des documents bases sur la correspondance des termes et la pertinence statistique. La forme la plus courante de recuperation eparse est BM25, une fonction de classement probabiliste qui note les documents en fonction de la frequence des termes de la requete dans chaque document, ajustee en fonction de la longueur du document et de la frequence des termes dans l'ensemble du corpus. Contrairement a la recuperation dense qui capture le sens semantique, la recuperation eparse excelle dans la correspondance exacte des termes, ce qui la rend ideale pour les requetes necessitant de la precision sur des termes specifiques, des identifiants ou des phrases. Les methodes de recuperation eparse representent les documents sous forme de vecteurs epars ou chaque dimension correspond a un terme unique dans le vocabulaire, et la valeur represente l'importance du terme dans le document. Cette representation est appelee modele sac-de-mots car elle ignore l'ordre des mots et la grammaire, traitant chaque document comme une collection de termes independants. L'avantage cle de la recuperation eparse est son efficacite, elle peut etre implementee en utilisant des index inverses qui font correspondre les termes aux documents, permettant une recuperation rapide meme sur de tres grands corpus. La recuperation eparse est egalement hautement interpretable car le score de pertinence peut etre explique par les termes specifiques qui ont correspond. La recuperation eparse moderne a evolue au-dela du BM25 traditionnel avec des approches de recuperation eparse apprises comme SPLADE et uniCOIL, qui utilisent des reseaux de neurones pour apprendre quels termes sont importants pour la recuperation et peuvent etendre les requetes avec des termes apparentes. Ces methodes eparses apprises combinent la precision de la correspondance des termes avec une certaine comprehension semantique, atteignant des performances qui approchent la recuperation dense sur de nombreux referentiels tout en maintenant l'interpretabilite et l'efficacite des methodes eparses. Dans les systemes de production, la recuperation eparse est souvent combinee a la recuperation dense dans une approche de recherche hybride qui pondere et fusionne les resultats des deux methodes pour atteindre des performances optimales sur differents types de requetes.
Dans les services financiers
Exemple concret
Une equipe de conformite d'une banque mondiale utilise la recuperation eparse dans le cadre de son systeme de recherche hybride pour surveiller les communications des employes. Le systeme maintient une liste de plus de 50 000 termes reglementes, listes de sanctions et mots-cles de conformite. Lorsqu'un responsable de la conformite recherche des communications mentionnant 'PEP' (personne politiquement exposee) ou 'OFAC' (Office of Foreign Assets Control), le composant de recuperation eparse garantit la detection de correspondance exacte, trouvant tous les documents contenant ces termes specifiques. Le systeme utilise egalement le scoring BM25 pour classer les communications par pertinence, avec des scores plus eleves pour les documents qui mentionnent les termes de conformite plusieurs fois. Le composant de recuperation eparse traite 10 millions de communications par jour avec une latence inférieure a la seconde, fournissant la precision necessaire pour la conformite reglementaire tandis que le composant de recuperation dense du systeme hybride gere les recherches conceptuelles.
Pourquoi c'est important en Finance
La recuperation eparse reste un composant essentiel des systemes de recherche financiere car la precision sur les termes exacts est non negociable dans les environnements financiers reglementes. Lorsqu'un responsable de la conformite doit trouver tous les documents qui mentionnent une clause reglementaire specifique, ou qu'un trader doit verifier les termes exacts d'un instrument financier, les approximations semantiques ne sont pas acceptables. La recuperation eparse fournit la precision, l'interpretabilite et l'auditabilite que les applications de recherche financiere necessitent. Cependant, les limites de la recuperation eparse dans le traitement des synonymes et des relations conceptuelles signifient qu'elle doit etre combinee a la recuperation dense pour une couverture de recherche complete.
Termes associés
Explorer dans Finatune
Questions fréquentes
Qu'est-ce que la recuperation eparse en RAG ?
La recuperation eparse est une approche de recherche utilisant des vecteurs epars pour trouver des documents par correspondance exacte de termes, la forme la plus courante etant BM25.
Quand la recuperation eparse est-elle meilleure que la dense pour le texte financier ?
Elle est meilleure lorsque la correspondance exacte des termes est critique, comme la recherche d'identifiants reglementaires, de codes CUSIP ou de numeros de depot SEC.
Comment fonctionne BM25 pour les documents financiers ?
BM25 note les documents en calculant la frequence des termes de la requete dans chaque document, ajustee par la longueur du document et la rarete des termes.