Hallucination
Aussi : AI hallucination, confabulation, fabrication
Une hallucination, c'est lorsqu'un modèle d'IA produit une réponse fluide et assurée mais factuellement fausse, inventée, ou non étayée par ses données sources.
De quoi il s'agit
Une hallucination se produit lorsqu'un modèle d'IA génératif (un large language model ou un générateur d'images, par exemple) produit un contenu qui paraît plausible mais qui est faux, inventé, ou fondé sur aucune source réelle. Le modèle ne ment pas au sens humain : il prédit des séquences de tokens probables, et la sortie la plus probable statistiquement ne correspond pas toujours à la réalité.
Les hallucinations prennent plusieurs formes :
- Erreurs factuelles : une date, une statistique ou une attribution incorrecte.
- Sources fabriquées : des citations, URL, décisions de justice ou études qui n'existent pas.
- Incohérence logique : contredire dans une même réponse ce qui a été affirmé plus haut.
- Affirmations non étayées : répondre avec assurance sur des sujets qui sortent du contexte fourni.
Pourquoi c'est important
Les hallucinations sont l'un des principaux obstacles à un déploiement fiable de l'IA. Dans les domaines à fort enjeu, les conséquences sont sérieuses :
- Finance : un résultat inventé ou une réglementation mal citée peut conduire à de mauvaises décisions.
- Santé et juridique : des références fabriquées peuvent causer un préjudice réel ou des sanctions.
- Marketing : de fausses allégations produit exposent une marque à un risque de conformité et de réputation.
Comme les modèles présentent les hallucinations avec le même ton fluide et assuré que les réponses correctes, les utilisateurs ne peuvent pas se fier au style pour les détecter. La vérification relève donc de l'humain.
Comment on traite le problème en pratique
Les équipes réduisent les hallucinations par plusieurs techniques :
- Retrieval Augmented Generation (RAG) : ancrer les réponses dans des documents de confiance pour que le modèle cite un contexte réel.
- Prompt design : demander au modèle de répondre « je ne sais pas » en cas d'incertitude.
- Guardrails et validation : confronter les sorties à des bases de données, des schémas ou des règles.
- Revue humaine : garder une personne dans la boucle pour les sorties critiques.
- Évaluation : mesurer les taux d'hallucination avec des benchmarks avant la mise en production.
Exemple concret
Vous demandez à un chatbot : « Quelle étude a prouvé que ce complément guérit l'insomnie ? » Le modèle répond avec assurance en citant « Journal of Sleep Medicine, 2019, Dr. Lena Park ». La citation a l'air sérieuse, mais ni l'article, ni l'auteur, ni le résultat n'existent. Le modèle a fabriqué une référence crédible en apparence. Un relecteur qui vérifie la source repère l'hallucination avant qu'elle n'arrive chez les clients.
Voir aussi
Questions fréquentes
Qu'est-ce qu'une hallucination d'IA ?
Une hallucination d'IA est une réponse d'un modèle génératif qui paraît fluide et assurée mais qui est fausse, inventée ou sans appui dans une source réelle. Le modèle ne ment pas : il prédit des séquences de tokens probables, et la sortie la plus probable statistiquement ne correspond pas toujours au réel. Les formes courantes sont les erreurs factuelles, les sources fabriquées, les contradictions internes et les affirmations non étayées.
Pourquoi le ton d'une réponse ne permet-il pas de repérer une hallucination ?
Parce que les modèles formulent leurs hallucinations dans le même registre fluide et assuré que leurs réponses justes. Le style ne dit rien de l'exactitude factuelle : un paragraphe bien écrit ne prouve pas que le contenu est vrai. C'est pour cette raison que la vérification reste une responsabilité humaine.
Quelle différence entre une erreur factuelle et une source fabriquée ?
Une erreur factuelle porte sur un élément réel mal restitué : une date, une statistique, une attribution incorrecte. Une source fabriquée est une citation, une URL, une décision de justice ou une étude entièrement inventée, sans équivalent réel. La seconde est plus dangereuse car elle a l'air vérifiable et passe souvent les contrôles, notamment en droit et en santé où une référence fictive peut entraîner des sanctions ou un préjudice.
Comment les équipes réduisent-elles concrètement les hallucinations ?
Cinq techniques sont utilisées en pratique : le Retrieval Augmented Generation (RAG) pour ancrer les réponses dans des documents de confiance, un prompt qui autorise le modèle à répondre qu'il ne sait pas, des guardrails qui valident les sorties contre une base, un schéma ou des règles, une relecture humaine sur les sorties critiques, et une évaluation qui mesure le taux d'hallucination sur des benchmarks avant mise en production. Elles se cumulent, et aucune n'annule totalement le risque.
Un exemple concret de citation fabriquée ?
Demandez à un chatbot quelle étude prouve qu'un complément guérit l'insomnie : il peut répondre avec assurance en citant « Journal of Sleep Medicine, 2019, Dr Lena Park ». La référence a l'air sérieuse, mais ni l'article, ni l'auteur, ni le résultat n'existent. Un relecteur qui ouvre la source repère l'hallucination avant qu'elle n'atteigne les clients : c'est précisément le rôle de la relecture humaine dans le workflow.