La citation hallucinée et le devoir de compétence

En 2023, un avocat new-yorkais nommé Steven Schwartz a déposé devant une cour fédérale un mémoire citant six décisions. Aucune n'existait. Il avait demandé à ChatGPT de faire ses recherches juridiques, et le chatbot avait inventé des décisions plausibles, avec de fausses citations et de fausses références internes. Quand l'avocat adverse n'a pas retrouvé ces affaires, Schwartz est retourné voir ChatGPT pour lui demander si elles étaient réelles. L'outil a répondu oui. Elles ne l'étaient pas.

L'affaire s'appelait *Mata v. Avianca*, et elle est devenue l'exemple par lequel s'ouvre aujourd'hui toute formation à l'IA juridique. Le juge P. Kevin Castel a sanctionné les avocats et leur cabinet. La leçon n'était pas « l'IA est dangereuse ». Elle était plus étroite et plus tranchante : l'outil ne signe pas le mémoire. C'est vous.

Ce qui s'est réellement passé dans Mata v. Avianca

Le litige de fond était banal : un passager attaquait la compagnie Avianca pour une blessure au genou causée par un chariot de service. La compagnie demandait le rejet pour cause de prescription. Schwartz, dont le cabinet n'avait pas accès en cour fédérale à la base de données privilégiée par la compagnie, s'est tourné vers ChatGPT pour trouver des décisions appuyant la position de son client.

ChatGPT en a produit. Des affaires comme « Varghese v. China Southern Airlines », avec citations complètes et raisonnement. Toutes fabriquées.

C'est ce qu'on appelle une hallucinationhallucinationUne hallucination, c'est lorsqu'un modèle d'IA produit une réponse fluide et assurée mais factuellement fausse, inventée, ou non étayée par ses données sources.Voir la définition complète → : lorsqu'un modèle d'IA générative produit une réponse assurée et fluide, mais factuellement fausse. Les grands modèles de langage prédisent le mot suivant le plus probable, pas le fait vrai. Une citation qui « semble juste » statistiquement peut être entièrement inventée.

Le juge Castel a infligé une sanction de 5 000 dollars aux avocats et leur a imposé d'informer chaque juge faussement désigné comme auteur d'une décision fictive. Vous pouvez lire l'ordonnance de sanction elle-même, courte et lisible, ici sur CourtListener.

La cour a été directe : le problème n'était pas d'utiliser un nouvel outil. Le problème était de soumettre un contenu fictif puis de le défendre sans vérification.

Le devoir de compétence : votre socle

Tout avocat américain est tenu par des règles de déontologie, calquées sur les Model Rules de l'American Bar Association (ABA). Ce sont les standards éthiques adoptés, avec des variations, par chaque barreau d'État.

La Règle 1.1 (Compétence) exige de l'avocat une représentation compétente, c'est-à-dire la connaissance juridique, la mamaUtiliser un logiciel pour automatiser les tâches et campagnes marketing répétitives, afin de personnaliser à grande échelle sur des canaux comme l'email, le web et le social.Voir la définition complète →îtrise, la rigueur et la préparation raisonnablement nécessaires.

En 2012, l'ABA a ajouté le Commentaire 8 à la Règle 1.1. Il précise que la compétence inclut de se tenir informé des « bénéfices et risques associés aux technologies pertinentes ». C'est ce qu'on appelle souvent le devoir de compétence technologique.

Lisez-le attentivement. Il coupe dans les deux sens.

• Vous ne pouvez pas ignorer une technologie utile par méconnaissance.
• Vous ne pouvez pas déployer une technologie dont vous ne comprenez pas les risques.

Un avocat qui utilise un outil d'IA générative a le devoir positif de comprendre que cet outil peut fabriquer des citations. « Je ne savais pas qu'il pouvait faire ça » n'est pas une défense. C'est la violation.

Vous pouvez consulter les ABA Model Rules of Professional Conduct ici.

Pourquoi c'est l'associé qui répond, pas l'outil

C'est là que les jeunes avocats et les non-juristes se perdent souvent. C'est l'IA qui a commis l'erreur. Pourquoi l'humain est-il en cause ?

Parce qu'un outil n'a pas de licence à perdre. La responsabilité passe par la personne qui a signé.

La Règle 11 et la signature

Devant les juridictions fédérales, la Federal Rule of Civil Procedure 11 encadre les signatures sur les actes déposés. En signant un document, l'avocat certifie que les arguments juridiques sont fondés en droit existant et qu'il a mené une enquête raisonnable.

Une « enquête raisonnable » signifie que vous avez vérifié. Citer six décisions que vous n'avez jamais lues, parce qu'un chatbot les a listées, est l'exact contraire d'une enquête raisonnable. La signature est une garantie personnelle. L'IA ne peut pas la donner à votre place.

Règles 5.1 et 5.3 : la supervision

Deux autres règles rattachent la responsabilité aux avocats seniors.

La Règle 5.1 (Supervision des avocats) rend les associés et les responsables comptables du respect des règles déontologiques par leur cabinet et par les avocats qui leur sont subordonnés.

La Règle 5.3 (Responsabilités concernant l'assistance non juriste) visait à l'origine les paralegals et les secrétaires. Les autorités ordinales traitent aujourd'hui largement les outils d'IA comme une « assistance non juriste ». L'avocat superviseur est donc responsable du travail produit par l'IA au même titre que de celui d'un paralegal.

Mettez tout cela bout à bout. Si un collaborateur utilise l'IA, il est responsable au titre de la Règle 1.1. L'associé superviseur est responsable du collaborateur au titre de la Règle 5.1. Et au titre de la Règle 5.3, le cabinet est responsable de l'outil lui-même.

Il n'y a aucune place à la table où l'IA endosse la faute. La faute n'a nulle part où aller, sinon en remontant la chaîne humaine.

Le workflow concret qui évite un Mata

La compétence en 2026, ce n'est pas « éviter l'IA ». Les tribunaux et les barreaux acceptent aujourd'hui, en général, le travail assisté par IA. Le standard, c'est la vérification. Voici un protocole pratique que les cabinets adoptent.

1. Ne citez jamais ce que vous n'avez pas lu. Chaque décision remontée par un outil doit être extraite et lue dans une source primaire : Westlaw, Lexis, ou la recherche jurisprudentielle gratuite de Google Scholar. Si la décision ne s'y trouve pas, elle n'existe pas.

2. Vérifiez séparément la référence, la solution retenue et la citation. Une décision réelle peut être invoquée pour une proposition qu'elle n'a jamais posée. Vérifiez que l'affaire existe, puis qu'elle dit bien ce que vous affirmez.

3. Privilégiez les outils fermés et ancrés pour la recherche juridique. Les chatbots généralistes inventent librement. Les outils de recherche juridique conçus pour cet usage, qui reposent sur la retrieval-augmented generation (RAG : l'IA ne répond qu'à partir d'une base vérifiée de décisions réelles), hallucinent beaucoup moins. Mais même eux ne sont pas parfaits. Des tests indépendants ont montré que même les outils spécifiquement juridiques produisent des erreurs : la vérification reste donc de mise.

4. Consignez vos prompts et vos sorties. Si un acte déposé est contesté, vous voudrez disposer d'une trace de ce que vous avez demandé et de ce que l'outil a renvoyé.

Voici à quoi ressemble une checklist de vérification sous forme de pseudocode simple. C'est un modèle mental, pas un logiciel à exécuter.

for each citation in brief:
    case = pull_from_primary_source(citation)   # Westlaw, Lexis, Google Scholar
    if case is None:
        REJECT("citation may be hallucinated")
    if not case.supports(claimed_proposition):
        REJECT("case exists but does not stand for this")
    if quoted_text not in case.full_text:
        REJECT("quote fabricated or altered")
    mark_verified(citation)

Si une citation échoue, elle ne figure pas dans le mémoire. Point final.

Ce qu'attendent les tribunaux aujourd'hui

Depuis *Mata*, des dizaines de juges ont émis des standing orders (des règles qu'un juge donné applique à toutes les affaires portées devant lui) exigeant des avocats qu'ils déclarent leur usage de l'IA ou certifient que toutes les citations ont été vérifiées par un humain.

La tendance n'est pas à l'interdiction de l'IA. Elle est à l'exigence de responsabilité. Certains tribunaux imposent une certification spécifique. D'autres appliquent simplement la Règle 11 avec plus de sévérité, sachant que les citations hallucinées sont désormais un risque connu qu'un conseil compétent doit filtrer.

Cela change le calcul de l'ignorance. En 2023, un juge pouvait voir l'hallucinationhallucinationUne hallucination, c'est lorsqu'un modèle d'IA produit une réponse fluide et assurée mais factuellement fausse, inventée, ou non étayée par ses données sources.Voir la définition complète → d'une IA comme une surprise inédite. En 2026, c'est un risque documenté, médiatisé, prévisible. Un avocat qui dépose aujourd'hui une citation fabriquée a une excuse plus faible que celle de Schwartz, car le risque relève désormais du savoir commun de la profession.

La dimension client

Deux autres règles méritent d'être mentionnées.

La Règle 1.6 (Confidentialité) compte parce que saisir des faits relatifs à un client dans un chatbot public peut exposer des informations confidentielles à un tiers. Beaucoup d'outils d'IA généralistes utilisent les entrées pour entraîner leurs futurs modèles. Alimenter un tel outil en détails couverts par le secret professionnel peut constituer en soi un manquement déontologique, indépendamment de toute hallucinationhallucinationUne hallucination, c'est lorsqu'un modèle d'IA produit une réponse fluide et assurée mais factuellement fausse, inventée, ou non étayée par ses données sources.Voir la définition complète →.

La Règle 1.5 (Honoraires) devient une question vive. Si l'IA accélère la recherche, l'avocat peut-il facturer les heures qu'aurait exigées un travail manuel ? La réponse générale est non : on facture la valeur et le temps réellement passé, pas le temps économisé par l'automatisation.

Points clés

• L'outil ne signe jamais le mémoire. Au titre de la Règle 11 et des Règles ABA 1.1, 5.1 et 5.3, la responsabilité de chaque citation remonte à l'humain qui a signé et à l'associé qui a supervisé. L'IA ne peut pas absorber la faute.

• L'hallucination est un risque prévisible, pas une surprise. Après *Mata v. Avianca*, « je ne savais pas que l'IA pouvait inventer des décisions » est un aveu d'incompétence au regard du devoir de compétence technologique, pas une défense.

• Vérifiez dans une source primaire, toujours. Extrayez chaque décision remontée par l'IA depuis Westlaw, Lexis ou Google Scholar. Confirmez que l'affaire existe, qu'elle soutient votre proposition et que toute citation est réelle.

• Protégez la confidentialité et facturez honnêtement. N'alimentez pas les chatbots publics avec des faits clients couverts par le secret (Règle 1.6), et facturez le temps réellement passé, pas le temps que l'IA vous a fait gagner (Règle 1.5).

• La compétence en 2026, c'est bien utiliser l'IA, pas l'éviter. Le standard professionnel, c'est une vérification disciplinée et une supervision claire, pas la peur.