FinMistral est une variante de Mistral 7B affinée par QLoRA, adaptée spécifiquement aux tâches NLP financières. Construit par la communauté open-source, il combine l'efficacité de l'architecture Mistral à 7 milliards de paramètres avec une spécialisation dans le domaine financier grâce à un affinage efficace des paramètres.
Le modèle a été entraîné sur un ensemble de données organisé d'actualités financières, de transcriptions d'appels résultats et de rapports d'analystes en utilisant QLoRA (Quantized Low-Rank Adaptation), ce qui réduit les besoins en mémoire tout en préservant la qualité du modèle. Cela fait de FinMistral l'un des LLMs financiers les plus accessibles pour les organisations disposant d'une infrastructure GPU limitée.
Pour les institutions financières européennes, FinMistral offre une option particulièrement intéressante. Son modèle de base (Mistral 7B) a été développé par une entreprise française d'IA, et la licence Apache 2.0 permet une utilisation commerciale sans restriction. Combiné à la possibilité de fonctionner entièrement sur site, FinMistral permet des déploiements d'IA financière conformes au RGPD, où les données ne quittent jamais le contrôle de l'institution.