+45 XP

Data lineage & metadata management : savoir où vos données sont nées

Vous pouvez disposer de la meilleure infrastructure analytique au monde et ne toujours pas savoir si vos données sont fiables. Le data lineage est ce qui comble cet écart.

Pourquoi le data lineage compte

Conformité réglementaire : les régulateurs financiers (BCBS 239, Bâle III, MiFID II) exigent des banques qu'elles démontrent que leurs données de risque sont traçables de la source jusqu'au rapport. Si vous ne pouvez pas montrer d'où vient un chiffre, chaque transformation, chaque jointure, chaque agrégation, vous échouez à l'audit. La conformité BCBS 239 sans data lineage est littéralement impossible.

Confiance métier : quand le chiffre de revenu du CFO ne correspond pas à celui du CMO, quelqu'un doit expliquer pourquoi. Sans data lineage, cette investigation prend des semaines d'analyse manuelle. Avec le lineage, elle prend quelques minutes. Le data lineage est le fondement de la confiance dans les données.

Analyse d'impact : quand vous devez modifier le schéma d'un système source, vous devez savoir quels rapports et modèles en aval vont casser. Sans lineage, vous faites la modification et découvrez la casse en production. Avec le lineage, vous voyez l'impact avant de toucher à quoi que ce soit.

Debugging : quand un dashboard affiche un chiffre qui semble faux, le lineage vous permet de retracer exactement quelle transformation a introduit l'erreur. Sans lui, vous fouillez des dizaines de pipelines en espérant trouver le bug.

Technical lineage vs. business lineage

Le technical lineage retrace le flux de données au niveau système : Table A → transformation SQL → Table B → job ETL → Data warehouse → Rapport. Il est généré automatiquement par les outils modernes et sert surtout aux ingénieurs et aux architectes.

Le business lineage traduit le technical lineage en termes métier : « Le chiffre de revenu du dashboard du CFO provient des données de transaction de l'ERP, ajustées du traitement des retours, et exclut les transactions intragroupe telles que définies dans la Policy FIN-047. » C'est ce dont les dirigeants et les auditeurs ont réellement besoin.

Le défi du CDO : le technical lineage est auto-généré (des outils comme Collibra, Alation ou OpenLineage le capturent depuis vos pipelines). Le business lineage exige une curation humaine : quelqu'un qui comprend à la fois le processus métier et l'implémentation technique doit l'écrire. C'est typiquement le rôle du Data Steward.

Data Lineage & Metadata Management Complete Guide

Watch on YouTube

Vérification des acquis

1. Quel est l'objectif fondamental du data lineage ?

2. Quelle est la distinction clé entre technical lineage et business lineage ?

3. Pourquoi le data lineage est-il considéré comme essentiel pour l'analyse d'impact ?

CHOIX MULTIPLES

4. Sélectionnez TOUTES les raisons données par la leçon expliquant pourquoi le data lineage compte.

Sélectionnez toutes les réponses correctes.

CHOIX MULTIPLES

5. Sélectionnez TOUTES les affirmations qui décrivent correctement le business lineage.

Sélectionnez toutes les réponses correctes.

Metadata : la taxonomie

Les metadata sont souvent décrites comme « des données sur les données ». C'est techniquement correct mais d'une abstraction peu utile. En pratique, les metadata sont le contexte qui rend les données exploitables :

Technical metadata : définitions de schéma, types de données, relations entre tables, contrats d'API, fréquences de mise à jour. Capturées automatiquement par vos plateformes de données.

Business metadata : définitions métier (« client » signifie une personne ayant effectué au moins un achat, hors utilisateurs en essai et employés), propriétaires métier, règles de qualité des données, classification de sensibilité.

Operational metadata : fraîcheur des données, horodatages de dernière mise à jour, historique d'exécution des pipelines, tendances de volume. Critique pour surveiller la santé des données.

Social metadata : qui utilise ce dataset ? Combien de fois ce dashboard a-t-il été consulté ? Quels assets de données sont les plus interrogés ? Qui a validé ces données comme fiables ? De plus en plus important pour favoriser l'adoption de données bien gouvernées.

Le data catalog : le Google de votre organisation

Un data catalog est l'interface qui rend le lineage et les metadata utiles. Voyez-le comme un Google pour vos données internes : vous cherchez « revenu client », le catalog fait remonter les tables, dashboards et rapports pertinents, vous montre qui en est propriétaire, à quel point ils sont frais, ce qu'ils signifient et d'où ils viennent.

Sans catalog, les équipes data perdent un temps énorme à répondre à « où est la donnée dont j'ai besoin et puis-je m'y fier ? ». Avec un catalog, ces questions prennent quelques secondes.

Comparaison des outils :

  • Collibra : de niveau entreprise, workflows de gouvernance solides, coûteux, exige un investissement d'implémentation significatif. Idéal pour les grands secteurs régulés.
  • Alation : fort sur la découverte et l'analyse des usages, metadata active. Populaire dans le mid-market et les entreprises tech.
  • DataHub (open-source LinkedIn) : gratuit, très personnalisable, lineage solide. Exige un investissement d'ingénierie pour la maintenance.
  • Atlan : stack moderne, intégrations solides, fonctionnalités collaboratives. En forte croissance dans les organisations data-mesh.

L'outil est secondaire. Le défi de l'adoption est primordial. Un data catalog que personne n'utilise est un accessoire de théâtre de la gouvernance. Construisez l'adoption par l'intégration (exposer le catalog dans Slack, dans les outils de BI, dans l'interface du data warehouse), la curation (s'assurer que les assets les plus utilisés sont documentés en premier) et la reconnaissance (récompenser les équipes qui contribuent des metadata de qualité).

À faire, tiré de cette leçon

Ces actions sont compilées dans le plan d'action du rôle.

  • Déployer un data catalog intégré aux workflows existants, en documentant d'abord les assets les plus utilisés
Voir le plan d'action complet →

Articles liés

Les articles récents du blog qui s'appuient sur cette leçon.