Glossaire FintechDonnées & Infrastructure

Apache Iceberg

Apache Iceberg est un format de table ouvert pour les ensembles de donnees analytiques volumineux. Il est concu pour gerer des tables a l'echelle du petabyte dans les lacs de donnees tout en offrant des transactions ACID, le voyage dans le temps, l'evolution de schemas et l'evolution de partitionnement. Iceberg suit les instantanes de table dans une architecture basee sur des manifests qui permet une planification efficace des requetes sans analyser la table entiere.

Dans les services financiers

Les institutions financieres adoptent Apache Iceberg pour construire des lacs de donnees fiables et evolutifs qui supportent plusieurs charges de travail analytiques. L'evolution de partitionnement d'Iceberg permet aux equipes de donnees de modifier les strategies de partitionnement a mesure que les volumes de donnees augmentent, sans reecrire les donnees existantes. L'evolution de schema permet d'ajouter de nouveaux champs aux enregistrements de transactions financieres sans casser les requetes existantes, essentiel pour s'adapter aux nouvelles exigences reglementaires. Le voyage dans le temps permet aux auditeurs d'interroger les donnees historiques.

Exemple concret

Une banque d'investissement mondiale migre son lac de donnees de reporting de transactions vers Apache Iceberg sur AWS S3. La banque traite 50 millions de transactions par jour. Le partitionnement cache d'Iceberg permet aux analystes d'interroger par date de transaction, desk ou type d'instrument avec des performances optimales. La banque utilise le voyage dans le temps pour repondre aux demandes reglementaires d'instantanés de donnees.

Pourquoi c'est important en Finance

Apache Iceberg devient le format de table ouvert standard pour les lacs de donnees financiers, offrant une gestion de table auparavant reservee aux entrepots de donnees. La capacite d'Iceberg a gerer l'evolution de schemas, l'evolution de partitionnement et le voyage dans le temps dans un format ouvert evite le verrouillage fournisseur.

Termes associés

Delta LakeArchitecture LakehouseLac de DonnéesApache ParquetPipeline de Données

Explorer dans Finatune

SnowflakeDatabricks

Questions fréquentes

Qu'est-ce qu'Apache Iceberg dans la finance ?

Apache Iceberg est un format de table ouvert pour les lacs de donnees financiers qui offre des transactions ACID, le voyage dans le temps et l'evolution de schemas pour les tables a l'echelle du petabyte.

Comment Iceberg beneficie-t-il aux lacs de donnees financiers ?

Iceberg permet l'evolution de partitionnement, l'evolution de schemas pour ajouter des champs reglementaires, et le voyage dans le temps pour les requetes d'audit.

Quelle est la difference entre Iceberg et Delta Lake ?

Les deux sont des formats de table ouverts. Iceberg offre un support plus large de moteurs et une meilleure evolution de partitionnement, tandis que Delta Lake est mieux integre a Databricks.

Terme suivant: Apache Parquet
Voir tous les termes Fintech