DataAnalytics & BI

Une couche sémantique suffit-elle quand un agent se trompe de 3,5 millions de dollars ?

Tout le monde s'accorde à faire de la couche sémantique la condition d'une BI en langage naturel fiable, et les benchmarks de 2026 confirment ce choix sur les questions déjà modélisées. Le reste du travail consiste à arbitrer, tester et maintenir les définitions, et il transforme le métier d'analyste plus profondément que le discours dominant ne l'admet.

Des points d'interrogation entrent dans une tour de cubes de données ; quelques-uns rebondissent, une analyste en rattrape un.

Cette semaine, The New Stack a publié une tribune au titre sans détour : les couches sémantiques deviendraient indispensables à l'IA d'entreprise. Il faut noter qu'il s'agit d'une contribution sponsorisée par Precisely. L'argument tient pourtant debout. Les agents IA accèdent déjà au CRM, à l'entrepôt de données et à l'ERP, et des standards comme MCP allongent la liste chaque mois. L'accès est réglé, la compréhension ne l'est pas. Les agents privés de sémantique échouent en silence : ils livrent des réponses assurées à une question qui n'était pas la bonne. Le texte avance aussi que seules 12 % des organisations jugent leurs données prêtes pour l'IA, et seules 31 % savent rattacher leurs initiatives IA à des KPI clairs.

Le sujet occupe les comités de direction parce que l'interface a déjà changé. Chez Databricks, éditeur dont l'intérêt commercial est évident, les interfaces en langage naturel laissent les métiers poser leurs questions ad hoc sans ouvrir de ticket ni attendre dans une file. Ma thèse est la suivante. La couche sémantique règle la précision sur les questions qu'une équipe a déjà modélisées, et uniquement sur celles-là. Tout le reste retombe sur un travail que presque personne n'a budgété (arbitrer les définitions, les tester, les maintenir), et c'est ce travail qui devient le métier de l'analyste, bien plus que le rôle de « conseiller stratégique libéré du SQL » promis partout.

Pourquoi la couche sémantique fait consensus dans la BI en langage naturel

Ce consensus s'appuie sur des mesures. Dans son benchmark 2026, dbt Labs, qui commercialise une couche sémantique (chiffres à croiser avec des sources indépendantes), fait passer la précision de 90,0 % à 98,2 % avec Claude Sonnet 4.6 et de 84,1 % à 100 % avec GPT-5.3-Codex quand l'agent passe par la couche sémantique au lieu d'écrire son SQL. AtScale, autre éditeur du secteur, a soumis sept LLM à 410 questions métier : changer de modèle a fait varier la précision de 17,6 points au plus, alors que la couche sémantique a ajouté entre 20 et 31 points à chacun d'eux. Côté analystes, Gartner prévoit que d'ici 2027, les organisations qui donnent la priorité à la sémantique dans leurs données prêtes pour l'IA amélioreront la précision de l'IA agentique de 80 % au plus et réduiront leurs coûts de 60 % au plus.

Les cas concrets vont dans le même sens. Au dbt Summit 2026, deux architectes d'AWS ont présenté, selon le blog de dbt Labs, une architecture où l'agent interroge Redshift sans jamais écrire son propre SQL. Ils ont recensé les modes d'échec : des jointures erronées qui comptent des lignes deux fois sans bruit, des définitions de métriques inventées par l'agent, une mauvaise granularité de date, et toujours une réponse qui paraît sûre d'elle. Chez Okta, toujours d'après dbt Labs, la solution a pris la forme d'un cadre de contexte en trois couches, construit entièrement dans dbt et livré par des pull requests classiques.

Le volet humain du consensus est tout aussi cohérent. Pour Databricks, l'analyste moderne n'écrit plus le SQL : il dirige les agents qui l'écrivent. Côté académique, l'iSchool de Syracuse décrit un rôle qui remonte vers l'amont : choisir la question qui vaut d'être posée et juger si la réponse tient. Cette position est solide. Elle laisse pourtant de côté quatre problèmes.

Ce que les benchmarks de couche sémantique ne mesurent pas

La précision à 100 % ne vaut que sur le périmètre couvert

Il faut lire la phrase de dbt Labs jusqu'au bout : pour les requêtes couvertes par une couche sémantique bien modélisée, la précision approche ou atteint 100 %. Sur l'ensemble des questions, le text-to-SQL non modélisé est passé de 32,7 % en 2023 à 64,5 % en 2026. Upsolve, autre éditeur, l'écrit plus crûment : une couche sémantique est exacte sur ce qui a été modélisé et muette sur tout le reste, et la plupart des questions posées aux agents pendant les premiers mois tombent dans ce reste.

Le benchmark d'AtScale le confirme sans le dire. Même avec la couche, la précision allait de 44,6 % à 62,2 % sur des questions métier plus larges. Le meilleur modèle se trompait donc encore sur plus d'une question sur trois. Un travail académique publié sur arXiv atteint 94,15 % d'exactitude d'exécution sur les 547 tâches du benchmark Spider2-snow avec une couche sémantique intermédiaire, et ses auteurs désignent le vrai chantier restant : maintenir la qualité de la couche sémantique sans la surajuster au jeu d'évaluation.

Les erreurs viennent de règles métier jamais tranchées

Fivetran (fusionné avec dbt Labs, avec des offres commerciales communes encore en évolution après la fusion de juin 2026, ce qui appelle la prudence) a mesuré ce qui se passe quand plusieurs agents interrogent un même projet dbt. Le résultat le plus instructif porte sur la nature des erreurs, plus que sur les scores. Les 11 erreurs d'Opus en SQL brut venaient d'une décision de politique métier : il excluait les commandes annulées du chiffre d'affaires total, du chiffre d'affaires électronique et du panier moyen. Une fois total_revenue défini une seule fois dans la couche sémantique, Opus n'a plus donné aucune mauvaise réponse sur 75 exécutions.

Le modèle ne posait aucun problème technique. Une règle n'avait simplement jamais été écrite. Chez Okta, les documents de contexte consignent des faits comme celui-ci : l'exercice fiscal d'Okta commence le 1er février. Quelqu'un doit décider de ces règles, les signer et les défendre devant la finance. La technologie ne fournit pas ce quelqu'un.

Une couche sémantique se maintient comme un logiciel

Sigma vend une couche sémantique et applique à la sienne ce qu'elle vend. Selon dbt Labs, chez Sigma, 63 jobs Dagster construisent et déploient en continu 2 883 modèles dbt sur 6 régions de données. C'est un produit logiciel, avec sa chaîne de déploiement et ses régressions. MotherDuck, éditeur d'un entrepôt bâti sur DuckDB, va plus loin. L'équipe a réussi à faire générer la couche par des agents, et le résultat le plus intéressant a été que la couche elle-même devenait jetable. Leur conclusion : « vos tests de données prennent plus de valeur que votre couche sémantique ». Que l'on suive MotherDuck ou dbt Labs, l'actif qui dure est le même : des définitions arbitrées et des tests vérifiés, quel que soit le format qui les porte.

L'analyste relecteur perd son jugement

Selon le discours dominant, l'analyste « supervise » les réponses de l'agent. MIT Sloan Management Review a publié le 2 novembre 2026 une mise en garde qui s'applique directement à ce cas. Shefali Patil y montre que les cadres de gouvernance qui rendent les « humains dans la boucle » réactifs aux alertes générées par l'IA, au lieu de les laisser repérer eux-mêmes les menaces, érodent peu à peu des comportements humains importants. Un analyste qui relit cent réponses par jour sans posséder les définitions finit par valider ce qu'il voit.

Le marché du travail suit déjà cette ligne de partage. D'après l'analyse d'Extern, le profil le plus exposé est l'analyste reporting et tableaux de bord : rapports standards, rafraîchissements, demandes de « chiffre rapide ». Les moins exposés sont l'analytics engineer et les analystes qui possèdent les définitions de métriques et conseillent ceux qui décident. Les fiches de poste n'ont pas encore suivi : sur 3 891 offres d'analyste examinées en mai 2026 par InterviewStack, seules 6,9 % exigeaient explicitement des compétences en IA générative.

Quel rôle donner à l'analyste quand la BI répond en langage naturel ?

L'analyste doit devenir le propriétaire nommé des définitions de métriques et l'auteur des tests qui vérifient les réponses des agents. Relire les réponses une par une ne suffit pas. C'est ce qu'Okta prépare : des tests de régression automatiques qui rejouent des requêtes vérifiées contre les agents à chaque modification du contexte, pour passer de « faire confiance mais vérifier » à un score de précision mesurable. Dans ce modèle, un analytics engineer fusionne une modification de la couche de contexte dans dbt, et tous les agents qui la lisent en profitent immédiatement.

La règle fréquence × coût de l'erreur

Voici la règle à écrire au tableau :la fréquence d'une question et le coût d'une erreur décident qui y répond.

  • Question fréquente et erreur coûteuse (chiffre d'affaires, marge, effectifs) : métrique gouvernée dans la couche sémantique, propriétaire nommé, test de régression. L'agent n'écrit jamais le SQL.
  • Question fréquente et erreur peu coûteuse : paires question/réponse validées, servies en libre-service. MotherDuck a constaté que les paires question/réponse captent l'intention métier avec une efficacité inattendue.
  • Question rare et erreur coûteuse : l'analyste répond, avec l'agent comme outil, et la question entre dans le backlog de modélisation si elle revient.
  • Question rare et erreur peu coûteuse : text-to-SQL libre, avec une réponse étiquetée « non certifiée ».

La couche sémantique devient la voie par défaut, et le SQL brut ne sert que de repli explicite. Un exemple cité par MotherDuck décrit un fichier d'instructions d'agent qui pose la couche sémantique comme chemin obligatoire pour toute question de données, le SQL brut n'intervenant qu'une fois démontré que la couche ne couvre pas la demande.

Exemple chiffré : où se trouve l'argent

Dans la démonstration d'AWS, une requête de type agent qui additionnait les montants bruts de commande renvoyait 14,86 millions de dollars, pour un chiffre d'affaires réel de 11,36 millions, soit une surestimation de 30,8 %. Le calcul : 14,86 − 11,36 = 3,50 millions d'écart, et 3,50 / 11,36 = 30,8 %. Une source secondaire note qu'on ignore si la requête a été exécutée par un vrai agent ou si elle était illustrative.

Les éditeurs mettent volontiers en avant les économies de jetons. Fivetran rapporte qu'un petit modèle derrière la couche sémantique a égalé un modèle plus puissant écrivant son SQL pour un treizième du coût par réponse : 0,0054 dollar contre 0,0707. Prenons une hypothèse, purement arithmétique : 5 000 questions par mois. Cela donne 27 dollars d'un côté et 353,50 dollars de l'autre. L'écart de 326,50 dollars mensuels pèse peu face à une seule erreur de 3,5 millions dans un reporting de direction. L'argument économique de la couche sémantique tient donc au coût des erreurs évitées. Les jetons économisés comptent peu à côté. Pour cette raison, le budget doit financer d'abord des propriétaires de définitions et des tests, avant les licences.

La règle a une limite : elle exige deversionner les définitions de métriques comme du code, ce que peu d'équipes BI font aujourd'hui. Il faut aussi éviter de viser une couche unique. Cindi Howson, de ThoughtSpot, juge que les clients ne devraient pas chercher une couche sémantique unique pour tout gouverner, et devraient plutôt viser l'interopérabilité entre ses composants.

Ce qu'il faut faire lundi

  • Extraire des journaux de l'outil conversationnel, ou de la file de tickets, les 30 questions les plus posées depuis septembre, et marquer celles qui alimentent un comité de direction.
  • Pour les dix métriques les plus coûteuses en cas d'erreur, nommer un propriétaire et écrire en une phrase chaque règle d'arbitrage : annulations incluses ou non, montants bruts ou nets, date de début d'exercice.
  • Rédiger 20 paires question/réponse vérifiées et les rejouer contre l'agent en place. Mesurer le taux de réponses fiables au sens de Fivetran : une réponse juste, ou l'aveu correct que les données ne permettent pas de répondre.
  • Configurer l'agent pour qu'il passe d'abord par la couche sémantique, avec un repli SQL étiqueté « non certifié ».
  • Réécrire une fiche de poste d'analyste reporting autour de la propriété des définitions et de l'écriture de tests, et l'intégrer auplan de montée en compétences de l'équipe.
  • Demander à chaque éditeur en lice le nombre de questions et de jeux de données de son benchmark. Upsolve rappelle à propos de l'un d'eux : 11 questions, un seul jeu de données, un test conduit par l'éditeur.

Dans la démonstration d'AWS, l'écart de 3,5 millions de dollars vient d'une règle que personne n'avait écrite : fallait-il compter les montants bruts de commande dans le chiffre d'affaires ? Si chaque règle de ce type a un analyste nommé comme propriétaire et un test qui tourne à chaque modification, la BI en langage naturel devient fiable sur ce périmètre précis, et seulement sur celui-là.

Questions fréquentes

Une couche sémantique rend-elle le text-to-SQL inutile ?

Non. Une couche sémantique garantit des réponses exactes sur les métriques déjà modélisées, mais elle ne dit rien des questions hors périmètre. dbt Labs recommande lui-même le text-to-SQL pour l'analyse ad hoc et réserve la couche sémantique aux usages où la précision prime. Le bon montage passe d'abord par la couche, avec un repli SQL étiqueté « non certifié ».

Pourquoi un agent IA se trompe-t-il sur le chiffre d'affaires ?

Un agent IA se trompe sur le chiffre d'affaires surtout quand une règle métier n'a jamais été écrite. Dans le test de Fivetran, Opus excluait de lui-même les commandes annulées. Dans la démonstration d'AWS, l'addition des montants bruts de commande surestimait le chiffre de 30,8 %. Une définition unique et gouvernée a supprimé ces erreurs.

Les analystes de données vont-ils être remplacés par la BI en langage naturel ?

Le profil le plus exposé est l'analyste reporting, qui produit des rapports standards et des chiffres rapides. Les analytics engineers et les analystes qui possèdent les définitions de métriques sont les moins exposés. Le rôle qui se dessine consiste à arbitrer les règles métier, à les versionner et à écrire les tests qui vérifient les réponses des agents.

Comment mesurer la fiabilité d'un assistant BI conversationnel ?

On mesure la fiabilité d'un assistant BI conversationnel en rejouant des paires question/réponse vérifiées à chaque modification des définitions. Okta prépare ce type de tests de régression pour obtenir un score de précision mesurable. Fivetran compte comme fiable une réponse juste ou l'aveu correct que les données ne permettent pas de répondre.

Pour aller plus loin

Les leçons qui prolongent cet article, en accès libre.

  1. 1La couche de métriques et la couche sémantiqueAnalytics, BI & decision intelligence
  2. 2BI moderne : outils, maturité et couche sémantiqueAnalytics, BI & decision intelligence
  3. 3Self-serve analytics : architecture, data catalog et data literacyAnalytics, BI & decision intelligence
  4. 4L'IA génerative en entreprise : RAG, risques et gouvernanceStratégie IA & machine learning
  5. 5Parcours de carrière et upskillingCulture data & organisation

Sources

Vous avez lu cet article ?

Validez votre lecture pour gagner de l’XP et alimenter votre radar.