Quand l'IA aide et quand elle n'aide pas

En 2023, un avocat a demandé à ChatGPT de trouver des précédents juridiques pour un dossier. L'outil lui a fourni six affaires parfaitement présentées, citations à l'appui. Le juge a découvert plus tard que les six étaient inventées. L'avocat a été condamné à une amende et l'affaire a fait la une nationale.

L'IA a fait exactement ce pour quoi elle a été conçue : produire un texte fluide et assuré. Le problème venait de la tâche. Il avait besoin de faits vérifiés. Il a obtenu un brouillon convaincant.

Cette leçon vous donne une règle simple pour distinguer ces deux situations, afin que vous ne commettiez jamais cette erreur.

Le problème de fond en une phrase

Un grand modèle de langage (la technologie derrière ChatGPT, Claude et Gemini) prédit du texte qui a l'air plausible. Il ne « sait » pas les choses comme le fait une base de données.

Autrement dit, il excelle à produire du langage plausible et n'est pas fiable pour garantir la vérité exacte. Quand plausible et vrai coïncident, tant mieux. Quand ce n'est pas le cas, vous obtenez une réponse fausse et assurée, ce qu'on appelle une « hallucination » (l'IA invente quelque chose tout en ayant l'air certaine).

La question n'est donc jamais « L'IA est-elle assez intelligente ? ». La question est « Cette tâche récompense-t-elle le plausible, ou exige-t-elle du vérifié ? »

La règle de décision en deux questions

Avant de faire confiance à une sortie d'IA, posez-vous deux questions :

1. S'agit-il d'un brouillon ou d'une réponse finale ?

Un brouillon est quelque chose que vous allez relire et corriger. Une réponse finale part telle quelle, avec votre nom dessus.

2. Est-ce facilement vérifiable ?

Pouvez-vous le contrôler en quelques secondes, ou une erreur passerait-elle inaperçue ?

Voici la règle :

• Feu vert : c'est un brouillon, OU vous pouvez le vérifier rapidement. Utilisez l'IA librement.
• Feu orange : c'est une réponse finale mais facile à contrôler. Utilisez l'IA, puis vérifiez chaque affirmation.
• Feu rouge : c'est une réponse finale ET difficile à vérifier ET quelqu'un est responsable de son exactitude. Ne sous-traitez pas cela à l'IA.

Tâches au feu vert : laissez l'IA travailler

Elles jouent sur les forces du modèle : le langage, la structure et les premiers jets.

Reformater et remettre en forme

Vous fournissez le contenu. L'IA ne change que la forme. Risque faible, puisque les faits viennent de vous.

• TransformerTransformerUn Transformer est une architecture de réseau de neurones qui utilise le self-attention pour traiter des séquences en parallèle. Elle est au cœur de la plupart des modèles de langage et d'IA générative actuels.Voir la définition complète → des notes désordonnées en un e-mail propre.
• Convertir un paragraphe en puces.
• Réécrire un message abrupt sur un ton plus chaleureux.

Reformat these rough notes into a polite client email.
Do not add any facts I didn't provide:

- project delayed 1 week
- waiting on their logo files
- new delivery date March 12

Premiers jets de n'importe quoi

Une page blanche coûte cher. Un brouillon que vous pouvez corriger coûte peu.

• Rédiger une fiche de poste, puis la corriger pour l'exactitude.
• Structurer une présentation.
• Écrire trois propositions d'objet pour une newsletter.

Brainstorming et explications

• « Donne-moi 10 angles pour un article de blog sur le télétravail. »
• « Explique-moi comment fonctionnent les intérêts composés, comme si j'avais 15 ans. »

Si une idée de brainstorming est un peu à côté, vous ne l'utilisez pas. Aucun dommage.

Tâches au feu rouge : ne faites pas confiance à la sortie seule

Elles exigent des faits exacts, des données à jour ou une vraie responsabilité. L'erreur de l'avocat se situe ici.

Faits et chiffres exacts

• Citations juridiques, dosages médicaux, règles fiscales, statistiques précises.
• « Quel a été le chiffre d'affaires exact d'Apple au T3 2024 ? »

Le modèle peut produire un nombre qui a l'air juste et qui est faux de plusieurs milliards.

Informations actuelles ou en temps réel

La connaissance de base d'un modèle a une « date de coupure d'entraînement » (la date à laquelle s'arrarrL'Annual Recurring Revenue (ARR) est le revenu normalisé et prévisible qu'une entreprise par abonnement attend de ses contrats actifs sur une année.Voir la définition complète →ête son savoir intégré). Seul, il ne connaît pas l'actualité du jour, les prix du jour, ni ce qui s'est passé ce matin.

En 2026, la plupart des outils (ChatGPT, Gemini, Claude) peuvent chercher sur le web quand vous le demandez, ce qui aide beaucoup. Mais « peut chercher » n'est pas « a cherché », et les résultats de recherche peuvent encore être mal interprétés. Vérifiez toujours le lien de la source réelle.

Tout ce dont quelqu'un est responsable

• Envoyer un conseil médical à un patient.
• Déposer des documents officiels.
• Des déclarations publiques que votre entreprise assumera.

Si un humain est responsable de l'exactitude, un humain doit vérifier.

Calculs et comptages précis

Les modèles ont progressé, mais ils trébuchent encore sur l'arithmétique en plusieurs étapes. Pour de vrais calculs, utilisez une calculatrice ou un tableur, ou demandez à l'IA d'écrire du code qui fait le calcul plutôt que de le faire de tête.

La zone orange : vérifier, pas faire confiance

L'essentiel du travail réel se situe ici. L'astuce est de rendre la vérification rapide.

Un bon réflexe : demander à l'IA de montrer ses sources pour que vous puissiez les contrôler.

Summarize the main causes of the 2008 financial crisis.
For each cause, give one specific source I can look up to verify it.

Ensuite, vous cliquez réellement sur les sources. Si elle ne peut pas produire une source réelle et vérifiable, considérez l'affirmation comme non vérifiée.

Autre tactique : lui demander de signaler ses propres incertitudes.

Answer my question below. At the end, list any part of your
answer you are NOT confident about or could not verify.

Question: What are the visa requirements for a US citizen
traveling to Brazil in 2026?

Cela ne détectera pas tout, mais fait remonter les affirmations les plus risquées pour que vous sachiez où regarder.

Pour une introduction claire et gratuite au fonctionnement de ces systèmes de génération de texte (et aux raisons pour lesquelles ils inventent), voir l'Introduction to Large Language Models de Google.

Un workflow réel : rédiger un e-mail client

Combinons tout. Supposons que vous devez écrire à un client au sujet d'une politique de remboursement.

Étape 1 (vert) : rédiger la structure.

Draft a friendly email to a customer asking about our refund window.
Leave a [PLACEHOLDER] anywhere a specific policy detail should go.
Don't invent any policy numbers.

Notez l'instruction : n'invente aucun détail. Vous forcez l'IA à laisser des trous au lieu de deviner. Les trous sont honnêtes. Une « politique de 30 jours » fabriquée est dangereuse.

Étape 2 (rouge, donc c'est vous qui le faites) : remplir les faits.

Vous consultez votre politique de remboursement réelle et remplacez vous-même chaque [PLACEHOLDER]. C'est la partie avec une vraie responsabilité, donc un humain l'assume.

Étape 3 (vert) : peaufiner.

Here's my completed email with real policy details.
Tighten the wording and keep the tone warm. Don't change any numbers.

L'IA a fait le gros du travail sur le langage. Vous avez assumé les faits. Cette répartition des rôles, c'est tout l'enjeu.

Quand l'IA passe discrètement du vert au rouge

Surveillez le glissement sournois. Une tâche commence comme un brouillon anodin et devient une réponse finale sans que vous le remarquiez.

Vous demandez un « brouillon » de rapport, les chiffres vous plaisent, vous les collez dans un vrai document et vous l'envoyez. Ces chiffres générés par l'IA sont désormais une réponse finale dont vous êtes responsable, et personne ne les a vérifiés.

La solution : décidez d'emblée quelles parties sont du langage à rédiger et quelles parties sont des faits que vous devez vérifier. Marquez les faits. Ne laissez jamais un nombre non contrôlé accéder au statut de « final ».

Une check-list mentale rapide

Avant d'envoyer quoi que ce soit auquel l'IA a touché :

1. Ai-je ajouté ou vérifié chaque fait, chiffre, nom et date précis ?
2. Ai-je cliqué sur les liens de sources fournis par l'IA ?
3. Si cela nécessitait une information à jour, l'outil a-t-il réellement cherché, et ai-je contrôlé le résultat ?
4. Serais-je à l'aise si une erreur ici portait mon nom ?

Si une réponse est « non », vous n'avez pas fini.

À retenir

• Posez deux questions avant de faire confiance à une sortie d'IA : est-ce un brouillon ou une réponse finale, et puis-je le vérifier rapidement ? Les brouillons et les tâches vérifiables sont au vert. Les réponses finales difficiles à vérifier sont au rouge.
• Feu vert : reformater, premiers jets, brainstorming, expliquer. Le risque est faible parce que vous fournissez et contrôlez les faits.
• Feu rouge : faits exacts, données actuelles, calculs précis, et tout ce dont un humain est responsable. Vérifiez cela vous-même, chaque fois.
• Rendez la vérification rapide : demandez à l'IA des sources contrôlables, dites-lui de signaler les affirmations peu sûres, et demandez-lui de laisser des marqueurs [PLACEHOLDER] plutôt que de deviner.
• Surveillez le glissement silencieux du brouillon au final. Dès qu'un chiffre d'IA non contrôlé atterrit dans un document que vous envoyez, il devient votre réponse, sous votre responsabilité. Vérifiez avant qu'il ne soit promu.