Là où l'IA casse vraiment dans le conseil

En juin 2023, deux avocats ont déposé devant une cour fédérale un mémoire citant six affaires qui n'existaient pas. Leur outil de recherche, ChatGPT, avait inventé des précédents crcrLe pourcentage de visiteurs ou de prospects qui réalisent une action attendue (achat, inscription, formulaire de contact), calculé en divisant les conversions par le nombre total d'opportunités.Voir la définition complète →édibles, numéros de rôle fictifs à l'appui. Un juge du district sud de New York les a sanctionnés, eux et leur cabinet. Cette affaire, *Mata v. Avianca*, est devenue la diapositive d'ouverture de tous les supports de formation à l'IA juridique. Mais le mode de défaillance sous-jacent n'est pas resté cantonné au droit. C'est le même que l'on retrouve dans les mémos de due diligence, les modèles de valorisation et les dossiers de travail d'audit, partout dans les services professionnels en 2026.

Cette leçon décortique là où l'IA casse précisément dans les livrables de conseil, et quels contrôles l'attrapent avant que le document n'arrive chez le client.

Pourquoi les services professionnels sont un cas de risque à part

Les cabinets de conseil, d'avocats, d'audit et d'advisory vendent du jugement, pas seulement de la production. Un client industriel n'achète pas un tableur, il achète la conclusion de votre cabinet selon laquelle une cible d'acquisition vaut 340 millions de dollars et non 410 millions. Quand l'IA corrompt silencieusement un input, l'erreur hérite de la crédibilité de la marque du cabinet. C'est différent de l'erreur d'un chatbot retail : le client n'a aucun moyen indépendant de vérifier votre raisonnement, puisqu'il vous a justement engagé parce qu'il n'a pas cette expertise.

On parle parfois de problème d'asymétrie d'information : le client ne peut pas vérifier le travail aussi bien que le cabinet, et c'est exactement pour cela que les obligations professionnelles existent (devoir fiduciaire, normes de responsabilité professionnelle). Les erreurs d'IA exploitent cette asymétrie sans bruit.

Mode de défaillance 1 : citations et sources hallucinées

L'hallucinationhallucinationUne hallucination, c'est lorsqu'un modèle d'IA produit une réponse fluide et assurée mais factuellement fausse, inventée, ou non étayée par ses données sources.Voir la définition complète → désigne le fait qu'un modèle génère un contenu fluide et assuré mais factuellement faux, sans aucun signal indiquant à l'utilisateur qu'il s'agit d'une fabrication. Dans le conseil, cela prend la forme de :

• Jurisprudence fictive dans les mémos juridiques (le schémamaUtiliser un logiciel pour automatiser les tâches et campagnes marketing répétitives, afin de personnaliser à grande échelle sur des canaux comme l'email, le web et le social.Voir la définition complète → *Mata v. Avianca*, qui continue de générer des sanctions judiciaires en 2025-2026)
• Études académiques inventées, citées dans des décks de market sizing
• Textes réglementaires inexistants cités dans des rapports de conformité

Le danger n'est pas que le modèle se trompe parfois. C'est que le texte halluciné est stylistiquement indiscernable du texte exact. Un associé qui survole un projet de 40 pages ne repérera pas une note de bas de page fabriquée, à moins que quelqu'un n'ouvre réellement la source.

Le contrôle qui l'attrape : une passe obligatoire de vérification des sources, où chaque citation, arrarrL'Annual Recurring Revenue (ARR) est le revenu normalisé et prévisible qu'une entreprise par abonnement attend de ses contrats actifs sur une année.Voir la définition complète →êt ou statistique d'un document assisté par IA est retrouvé et confirmé indépendamment avant que le document ne sorte du cabinet. Certains cabinets exigent désormais un « journal d'audit des citations » comme livrable à part entière, pas seulement comme étape de QA.

Mode de défaillance 2 : hypothèses de modèle silencieusement fausses

Les modèles financiers construits avec l'aide de l'IA (remplissage de templates DCFDCFLe Discounted Cash Flow (DCF) est une méthode de valorisation qui estime la valeur d'un actif en projetant ses cash flows futurs et en les actualisant à leur valeur présente au moyen d'un taux de rendement exigé.Voir la définition complète →, génération de comparables, rédaction de tables de sensibilité) échouent autrement que par hallucination. Le résultat paraît numériquement plausible et cohérent en interne, mais repose sur une hypothèse fausse que le modèle n'a jamais signalée comme incertaine.

Exemple : un outil d'IA à qui l'on demande de construire un modèle de flux de trésorerie actualisés pour une société cible reprend un taux de croissance terminal ou un taux d'actualisation « standard » issu des régularités de ses données d'entraînement, plutôt que du secteur et de la géographie réels du client. Le tableur calcule correctement. Les formules sont justes. L'input est silencieusement périmé ou générique.

Illustrative only:
Terminal growth rate used by AI draft: 3.0% (generic US long-run GDP proxy)
Correct assumption for target's niche market (per analyst research): 1.2%

Enterprise value impact (illustrative, simplified Gordon Growth sensitivity):
EV = FCF / (WACC - g)
At g = 3.0%: EV = $50M / (0.09 - 0.03) = $833M
At g = 1.2%: EV = $50M / (0.09 - 0.012) = $641M

Difference: ~23% valuation swing from one unflagged assumption

C'est le model risk : le risque qu'un résultat de modèle soit utilisé avec une confiance qu'il ne mérite pas, parce que les erreurs de structure, de données ou d'hypothèses ne se voient pas dans le résultat seul. Les régulateurs bancaires américains ont formalisé ce concept dans SR 11-7 (guidance de la Fed sur la gestion du model risk), et il structure aujourd'hui de façon informelle la manière dont les cabinets abordent la modélisation assistée par IA, y compris hors du secteur bancaire.

Le contrôle qui l'attrape : une revue indépendante des hypothèses, où une deuxième personne (ni l'IA, ni le préparateur initial) énonce en langage clair chaque hypothèse matérielle et la source, avant la finalisation du modèle.

Mode de défaillance 3 : screening biaisé en due diligence

Les outils d'IA trient de plus en plus la due diligence : classement des contrats par risque, signalement des clauses « red flag », hiérarchisation des cibles d'acquisition, ou notation des équipes dirigeantes à partir de LinkedIn et de données publiques. Quand ces outils sont entraînés sur des données historiques de deals, ils peuvent encoder les biais passés dans des scores prétendument objectifs.

Cas concret : un outil de screening entraîné sur d'anciennes participations « réussies » peut implicitement favoriser des équipes de direction ressemblant aux dirigeants antérieurs (souvent démographiquement homogènes), et pénaliser des équipes tout aussi qualifiées mais de composition différente. Ce n'est pas hypothétique, cela reproduit des cas bien documentés de biais d'algorithmes de recrutement, comme l'outil de recrutement par IA abandonné par Amazon, qui déclassait les CV mentionnant des universités ou des activités féminines.

En due diligence, un screening biaisé crée une exposition à la fois éthique et commerciale : vous déclassez peut-être systématiquement de bonnes cibles ou de bons profils sans jamais le savoir, parce que l'outil n'explique jamais sa logique de classement dans des termes qu'un associé identifierait comme biaisés.

Le contrôle qui l'attrape : des tests d'impact disparate sur les sorties de screening avant qu'elles n'influencent une recommandation, plus une règle selon laquelle les classements générés par IA ne sont que des inputs consultatifs, jamais le filtre final, avec obligation pour un humain de revoir ce que l'outil exclut, et pas seulement ce qu'il retient.

Pourquoi ces risques se cumulent dans le conseil

Chacun de ces modes de défaillance est déjà mauvais isolément. Ils se cumulent parce que les livrables de services professionnels circulent vite le long d'une chaîne de confiance : analyste vers manager vers associé vers client vers conseil d'administration du client. À chaque passage, l'hypothèse est « la personne précédente a vérifié ». Le contenu généré par IA casse cette chaîne parce qu'il peut passer un contrôle de fluidité (est-ce que ça se lit bien ?) tout en échouant à un contrôle d'exactitude (est-ce vrai ?), et la plupart des relecteurs sous pression de délai ne font que le premier.

Les régulateurs commencent à réagir. L'AI Act européen (entré en vigueur en 2024, obligations échelonnées jusqu'en 2026-2027) classe certains usages de l'IA en contexte professionnel, dont des screenings liés au crédit et à l'emploi, comme « à haut risque », ce qui déclenche des exigences obligatoires de gestion des risques, de documentation et de supervision humaine. Aux États-Unis, il n'existe pas de loi fédérale unique sur l'IA en 2026 ; ce sont les régulateurs sectoriels (la SEC pour les conseillers en investissement, les barreaux d'État pour la pratique du droit) qui publient des guidances et appliquent les règles déontologiques existantes aux erreurs causées par l'IA. La FTC (Federal Trade Commission) a également indiqué qu'elle traiterait toute présentation trompeuse liée à l'IA auprès des clients comme une pratique déceptive au titre de ses pouvoirs existants en protection des consommateurs.

Garde-fousGarde-fousRègles et contrôles qui maintiennent un système d'IA dans des limites sûres, légales et conformes à la marque, en bloquant les sorties et actions hors cadre.Voir la définition complète → avant déploiement : la checklist minimale

Avant qu'un outil d'IA ne touche un livrable client, un cabinet doit avoir la réponse à ces questions :

1. Provenance : chaque affirmation factuelle ou citation peut-elle être tracée jusqu'à une source vérifiable, indépendamment de l'outil d'IA ?
2. Explicitation des hypothèses : l'outil fait-il remonter (au lieu de les enfouir) les hypothèses clés qui pilotent un résultat financier ?
3. Test de biais : tout outil de screening ou de classement a-t-il été testé pour des résultats disparates selon les caractéristiques protégées, sur un échantillon représentatif, avant la mise en production ?
4. Validation humaine : y a-t-il une personne nommément identifiée, pas « l'équipe », responsable de vérifier les sections assistées par IA avant la livraison au client ?
5. Piste d'audit : le cabinet peut-il reconstituer, des mois plus tard, ce que l'IA a généré par rapport à ce qu'un humain a modifié, si un régulateur ou un client conteste le travail ?

Points clés

• Les citations hallucinées sont une défaillance documentée et récurrente (voir *Mata v. Avianca*, 2023) et exigent une vérification indépendante obligatoire des sources avant que tout document assisté par IA ne quitte le cabinet.
• Les erreurs de modèle financier issues de l'IA sont dangereuses parce qu'elles sont silencieuses : le calcul est juste, l'hypothèse est fausse, et seule une revue indépendante des hypothèses les attrape.
• Les outils de due diligence et de screening pilotés par IA peuvent encoder des biais historiques dans des scores prétendument neutres ; traitez les classements IA comme un input consultatif seulement, jamais comme le filtre unique, et testez l'impact disparate.
• Ces risques se cumulent dans les services professionnels parce que le client s'appuie sur le jugement du cabinet comme produit en soi ; une erreur d'IA non vérifiée hérite de la crédibilité du cabinet.
• Garde-fous minimaux avant déploiement : contrôles de provenance, explicitation des hypothèses, test de biais, validation humaine nommée et piste d'audit reconstituable.