Glossaire FintechIA & LLM

Recuperation Eparse

La recuperation eparse est une approche de recherche qui utilise des representations vectorielles eparses, des vecteurs de grande dimension ou la plupart des dimensions sont nulles, pour trouver des documents bases sur la correspondance des termes et la pertinence statistique. La forme la plus courante de recuperation eparse est BM25, une fonction de classement probabiliste qui note les documents en fonction de la frequence des termes de la requete dans chaque document, ajustee en fonction de la longueur du document et de la frequence des termes dans l'ensemble du corpus. Contrairement a la recuperation dense qui capture le sens semantique, la recuperation eparse excelle dans la correspondance exacte des termes, ce qui la rend ideale pour les requetes necessitant de la precision sur des termes specifiques, des identifiants ou des phrases. Les methodes de recuperation eparse representent les documents sous forme de vecteurs epars ou chaque dimension correspond a un terme unique dans le vocabulaire, et la valeur represente l'importance du terme dans le document. Cette representation est appelee modele sac-de-mots car elle ignore l'ordre des mots et la grammaire, traitant chaque document comme une collection de termes independants. L'avantage cle de la recuperation eparse est son efficacite, elle peut etre implementee en utilisant des index inverses qui font correspondre les termes aux documents, permettant une recuperation rapide meme sur de tres grands corpus. La recuperation eparse est egalement hautement interpretable car le score de pertinence peut etre explique par les termes specifiques qui ont correspond. La recuperation eparse moderne a evolue au-dela du BM25 traditionnel avec des approches de recuperation eparse apprises comme SPLADE et uniCOIL, qui utilisent des reseaux de neurones pour apprendre quels termes sont importants pour la recuperation et peuvent etendre les requetes avec des termes apparentes. Ces methodes eparses apprises combinent la precision de la correspondance des termes avec une certaine comprehension semantique, atteignant des performances qui approchent la recuperation dense sur de nombreux referentiels tout en maintenant l'interpretabilite et l'efficacite des methodes eparses. Dans les systemes de production, la recuperation eparse est souvent combinee a la recuperation dense dans une approche de recherche hybride qui pondere et fusionne les resultats des deux methodes pour atteindre des performances optimales sur differents types de requetes.

Dans les services financiers

Dans les services financiers, la recuperation eparse reste un outil essentiel pour de nombreux cas d'utilisation de recherche ou la correspondance exacte des termes est critique. Les professionnels de la finance doivent frequemment rechercher des identifiants specifiques, des references reglementaires, des instruments financiers et des clauses juridiques ou la precision est primordiale. Par exemple, la recherche d'un numero CUSIP specifique, d'un identifiant ISIN ou d'un numero de depot SEC necessite des capacites de correspondance exacte que la recuperation eparse fournit naturellement. La recuperation eparse est egalement precieuse pour les applications de conformite ou des termes ou phrases specifiques doivent etre detectes dans les communications. Les systemes de lutte contre le blanchiment d'argent utilisent la recuperation eparse pour signaler les communications contenant des termes specifiques lies aux sanctions, aux entites sous embargo ou aux activites suspectes. Les systemes de conformite reglementaire utilisent la recuperation eparse pour analyser les documents a la recherche d'exigences de divulgation specifiques, garantissant que les depots contiennent tout le langage requis. La recuperation eparse est particulierement efficace pour les types de documents financiers qui utilisent une terminologie standardisee, comme les conventions de pret, les polices d'assurance et les depots reglementaires, ou les memes termes et clauses apparaissent dans tous les documents. L'interpretabilite de la recuperation eparse est un avantage significatif dans les services financiers, ou les exigences de gestion des risques de modele exigent que les resultats de recherche soient explicables. Lorsqu'un responsable de la conformite recherche des documents contenant une clause reglementaire specifique, la recuperation eparse peut clairement montrer quels termes ont correspond, fournissant une piste d'audit pour la recherche. Cette explicabilite est plus difficile a atteindre avec la recuperation dense, ou la pertinence est basee sur des embeddings semantiques opaques. Cependant, la recuperation eparse a des limites en finance. Elle ne peut pas bien gerer le probleme de decalage de vocabulaire, une recherche pour 'actions' ne recuperera pas les documents qui ne mentionnent que 'titres' ou 'valeurs.' Elle a egalement du mal avec le vocabulaire specialise de la finance, ou le meme terme peut avoir des significations differentes dans des contextes differents.

Exemple concret

Une equipe de conformite d'une banque mondiale utilise la recuperation eparse dans le cadre de son systeme de recherche hybride pour surveiller les communications des employes. Le systeme maintient une liste de plus de 50 000 termes reglementes, listes de sanctions et mots-cles de conformite. Lorsqu'un responsable de la conformite recherche des communications mentionnant 'PEP' (personne politiquement exposee) ou 'OFAC' (Office of Foreign Assets Control), le composant de recuperation eparse garantit la detection de correspondance exacte, trouvant tous les documents contenant ces termes specifiques. Le systeme utilise egalement le scoring BM25 pour classer les communications par pertinence, avec des scores plus eleves pour les documents qui mentionnent les termes de conformite plusieurs fois. Le composant de recuperation eparse traite 10 millions de communications par jour avec une latence inférieure a la seconde, fournissant la precision necessaire pour la conformite reglementaire tandis que le composant de recuperation dense du systeme hybride gere les recherches conceptuelles.

Pourquoi c'est important en Finance

La recuperation eparse reste un composant essentiel des systemes de recherche financiere car la precision sur les termes exacts est non negociable dans les environnements financiers reglementes. Lorsqu'un responsable de la conformite doit trouver tous les documents qui mentionnent une clause reglementaire specifique, ou qu'un trader doit verifier les termes exacts d'un instrument financier, les approximations semantiques ne sont pas acceptables. La recuperation eparse fournit la precision, l'interpretabilite et l'auditabilite que les applications de recherche financiere necessitent. Cependant, les limites de la recuperation eparse dans le traitement des synonymes et des relations conceptuelles signifient qu'elle doit etre combinee a la recuperation dense pour une couverture de recherche complete.

Termes associés

Recuperation DenseRecherche HybrideRecherche SémantiqueBase de Données Vectorielle

Explorer dans Finatune

WeaviateQdrant

Questions fréquentes

Qu'est-ce que la recuperation eparse en RAG ?

La recuperation eparse est une approche de recherche utilisant des vecteurs epars pour trouver des documents par correspondance exacte de termes, la forme la plus courante etant BM25.

Quand la recuperation eparse est-elle meilleure que la dense pour le texte financier ?

Elle est meilleure lorsque la correspondance exacte des termes est critique, comme la recherche d'identifiants reglementaires, de codes CUSIP ou de numeros de depot SEC.

Comment fonctionne BM25 pour les documents financiers ?

BM25 note les documents en calculant la frequence des termes de la requete dans chaque document, ajustee par la longueur du document et la rarete des termes.

Terme précédent: Recuperation Dense
Terme suivant: Réseau de Neurones
Voir tous les termes Fintech