+130 XP

Ce que fait réellement un modèle : prédire, pas comprendre

Tapez « La capitale de la France est » dans n'importe quel outil d'IA et il répondra « Paris ». On a l'impression que le modèle *sait*. Ce n'est pas le cas. Il a simplement calculé que « Paris » est le mot le plus probable pour la suite, à partir des patterns repérés dans les milliards de phrases sur lesquelles il a été entraîné. La réponse est juste, mais le mécanisme est la prédiction, pas la connaissance.

Cette seule idée explique presque tout ce qui déroute quand on travaille avec l'IA : pourquoi les prompts comptent autant, pourquoi une même question donne des réponses différentes, et à quel moment vérifier avant de faire confiance.

Une autocomplétion qui a énormément lu

Vous utilisez déjà la prédiction tous les jours. Votre téléphone suggère le mot suivant quand vous écrivez un message. Tapez « J'arrive dans cinq » et il propose « minutes ». C'est une minuscule autocomplétion entraînée sur des phrases courantes.

Un large language model (LLM, la technologie derrière ChatGPT, Claude et Gemini) repose sur la même idée, à une échelle sans commune mesure. Il a lu une part énorme d'internet, de livres et de code, et en a appris les patterns statistiques de l'enchaînement du langage.

Quand vous lui posez une question, il ne va pas chercher une réponse dans une base de données. Il génère une réponse un token à la fois. Un token est un fragment de texte, en général un mot ou une partie de mot (« walking » peut devenir « walk » + « ing »). Pour chaque token, le modèle se demande : *compte tenu de tout ce qui précède, qu'est-ce qui vient ensuite ?*

Il choisit un token probable, l'ajoute, puis recommence. Un essai entier n'est rien d'autre que ce jeu de devinettes répété des milliers de fois.

Pourquoi le fait d'avoir « beaucoup lu » compte

Parce qu'il a vu énormément de texte, les prédictions du modèle sont souvent réellement utiles. Il a intégré la façon dont on rédige un contrat, dont on structure une fonction Python, dont on ouvre un e-mail poli. C'est du pattern-matching réel, et précieux.

Mais cela reste du pattern-matching. **Le modèle n'a aucune notion de *vrai* ou de *faux***. Il a une notion de *probable* ou d'*improbable*. La plupart du temps, les deux se recoupent. Parfois non, et c'est dans cet écart que les choses tournent mal.

Pourquoi une même question donne des réponses différentes

Demandez trois fois à ChatGPT « Trouve-moi un nom pour mon café » et vous obtiendrez trois listes différentes. Cela surprend. Un ordinateur ne devrait-il pas être constant ?

Voici pourquoi il ne l'est pas. À chaque étape, le modèle ne choisit pas seulement le token le plus probable. Il pioche parmi un éventail d'options probables, avec une part d'aléatoire. Ce comportement est réglé par un paramètre appelé temperature.

  • Temperature basse (proche de 0) : le modèle choisit presque toujours le token le plus probable. Le résultat est répétitif et prévisible.
  • Temperature plus élevée (autour de 0,7 à 1,0) : le modèle prend plus de risques. Le résultat est plus créatif et plus varié.

La plupart des outils de chat tournent par défaut à une temperature moyenne, d'où des réponses nouvelles à chaque fois. Si vous utilisez l'API (l'interface développeur qui permet d'envoyer des requêtes directement au modèle), vous pouvez la régler vous-même :

python
from openai import OpenAI
client = OpenAI()

response = client.chat.completions.create(
    model="gpt-4.1-mini",
    temperature=0.2,  # basse = réponses plus constantes et ciblées
    messages=[
        {"role": "user", "content": "Name 3 ideas for a coffee shop."}
    ]
)
print(response.choices[0].message.content)

Réglez temperature=0.2 et lancez le code deux fois : les réponses seront très proches. Passez à 1.0 et les listes divergeront fortement. Même prompt, autre coup de dés.

Une réserve : les modèles de raisonnement comme GPT-5 et la série o d'OpenAI n'acceptent pas de temperature personnalisée dans l'API. Envoyer temperature=0.2 à gpt-5 renvoie une erreur. Ces modèles « réfléchissent » en plusieurs étapes avant de répondre, et OpenAI fixe leurs paramètres d'échantillonnage. Si vous devez contrôler directement l'aléatoire, utilisez un modèle standard comme celui ci-dessus.

À retenir en pratique : pour un brainstorming créatif, profitez de la variation. Pour les tâches qui exigent de la constance (extraction de données, classification, mise en forme), baissez la temperature sur un modèle qui le permet et imposez au modèle un format de sortie strict.

Pourquoi la prédiction explique les hallucinations

On parle d'hallucination quand le modèle affirme quelque chose de faux avec une assurance totale. Il invente une décision de justice, un article scientifique, une citation ou une statistique qui n'existe pas.

Une fois la prédiction comprise, il n'y a plus de mystère. Le travail du modèle est de produire un texte *plausible*. Une fausse référence comme « Smith et al., 2019, *Journal of Applied Linguistics* » ressemble trait pour trait à une vraie. Elle correspond au pattern. Le modèle n'a aucun vérificateur interne qui se demanderait « attends, cet article existe-t-il vraiment ? ». Il prolonge simplement la séquence la plus probable.

C'est pourquoi les hallucinations sont les plus dangereuses quand :

  • Vous demandez des faits précis sur lesquels le modèle n'est pas sûr (dates exactes, noms, chiffres, références juridiques).
  • Le sujet est pointu et peu représenté dans ses données d'entraînement.
  • Vous formulez une question comme si une prémisse fausse était vraie. Demandez « Pourquoi Einstein a-t-il reçu deux prix Nobel ? » et le modèle risque d'inventer un second prix, parce que « répondre à la question » est le pattern probable, alors qu'Einstein n'en a reçu qu'un.

Le modèle préférera vous donner une réponse fausse, fluide et assurée plutôt que de dire « je ne sais pas », parce que ce sont des réponses fluides qu'il a été entraîné à produire.

Ce que cela change dans votre façon de rédiger un prompt

Si le modèle prédit à partir du contexte, le contexte que vous lui donnez est votre volant. Meilleure entrée, meilleures prédictions.

Donnez-lui le bon pattern de départ

Le modèle prolonge le pattern que vous installez. Installez-en donc un bon.

Prompt faible :

Écris sur le marketing.

Prompt solide :

Tu es conseiller marketing pour une petite boulangerie. Rédige 3 idées précises de posts Instagram pour promouvoir un nouveau pain au levain. Moins de 40 mots chacune.

Le second prompt donne au modèle un rôle, un sujet, un format et une contrainte. Cela resserre la prédiction sur exactement ce que vous voulez.

Fournissez vous-même les faits

Ne comptez pas sur le modèle pour se souvenir de détails obscurs. Collez-les. Si vous voulez la synthèse d'un rapport précis, donnez-lui le rapport. Cette technique, qui consiste à fournir au modèle le matériau source, réduit fortement les hallucinations, car le modèle prédit alors à partir de *votre* texte et non de sa mémoire floue.

Voici nos données de ventes du T3 : [coller]. Résume les 3 principales tendances en langage simple.

Demandez-lui d'exprimer son incertitude

Vous pouvez demander au modèle de signaler quand il devine :

Réponds à cette question. Si tu n'es pas sûr ou si tu n'as pas l'information, dis-le explicitement au lieu de deviner.

Cela ne rend pas le modèle parfait, mais oriente le texte prédit vers davantage d'honnêteté. Pour un guide gratuit et plus approfondi sur la rédaction de prompts efficaces, le guide de prompt engineering d'OpenAI est un bon point de départ.

Vérification des acquis

1. Quand un outil d'IA répond correctement que la capitale de la France est Paris, que se passe-t-il réellement selon la leçon ?

2. La leçon indique que le modèle a une notion de « probable » ou d'« improbable », mais pas de « vrai » ou de « faux ». Pourquoi cette distinction compte-t-elle ?

3. Pourquoi poser trois fois la même question sur un nom de café produit-il trois listes différentes ?

CHOIX MULTIPLES

4. Sélectionnez TOUTES les affirmations qui décrivent correctement la façon dont un large language model génère une réponse.

Sélectionnez toutes les réponses correctes.

CHOIX MULTIPLES

5. Sélectionnez TOUTES les affirmations correctes sur l'analogie entre un LLM et l'autocomplétion d'un téléphone.

Sélectionnez toutes les réponses correctes.

Quand lui faire confiance, et quand vérifier

La prédiction est fiable pour certaines tâches et risquée pour d'autres. Voici une règle simple, fondée sur ce que fait réellement le modèle.

En général sans risque (le modèle transforme un texte que vous lui avez donné) :

  • Réécrire, résumer ou traduire un texte que vous avez fourni.
  • Trouver des idées (là où se « tromper » n'a pas d'importance).
  • Poser une structure : plans, modèles d'e-mails, premiers jets.
  • Expliquer des concepts connus et largement documentés.

À vérifier soigneusement (le modèle se souvient de faits ou les invente) :

  • Statistiques, dates, noms et citations précis.
  • Points précis d'ordre juridique, médical ou financier.
  • Références et sources (vérifiez toujours qu'elles existent).
  • Événements récents, proches ou postérieurs à la date limite d'entraînement du modèle.

Un raccourci mental utile : le modèle est le plus fort quand il *traite* une information que vous lui avez transmise, et le plus faible quand il *récupère* une information de mémoire.

À propos des outils qui cherchent sur le web

Les versions récentes de ChatGPT, Claude et Gemini peuvent désormais naviguer sur le web ou utiliser des outils connectés. Quand un modèle fait une recherche et cite une source en ligne, il est bien plus fiable, car il prédit à partir d'un texte réel récupéré et non de sa mémoire. Cliquez quand même sur le lien. Il arrive que le modèle résume mal une source ou cite une page qui ne dit pas ce qu'il prétend.

Le changement d'état d'esprit

Cessez de traiter l'IA comme un moteur de recherche ou un oracle. Traitez-la comme un stagiaire brillant, rapide, un peu trop sûr de lui, qui a tout lu mais se souvient mal des détails.

Vous n'enverriez pas le premier jet d'un stagiaire à un client sans le relire. Vous ne vous fieriez pas à son souvenir d'une clause juridique précise sans vérifier le document. Mais vous le feriez volontiers rédiger, trouver des idées, remettre en forme et expliquer.

C'est exactement la bonne relation avec un LLM. Il prédit ; vous vérifiez et vous décidez.

Points clés

  • Le modèle prédit le token suivant, il ne « connaît » pas les faits. Fluide et assuré ne veut pas dire juste. Traitez chaque affirmation précise comme un brouillon à vérifier.
  • Des réponses différentes à une même question, c'est normal. L'aléatoire (temperature) est intégré. Baissez-la pour plus de constance sur les modèles qui le permettent ; les modèles de raisonnement comme GPT-5 n'acceptent pas de temperature personnalisée dans l'API.
  • Les hallucinations viennent de la recherche de plausibilité du modèle. Il préfère produire une réponse fausse mais crédible plutôt qu'admettre qu'il ne sait pas. Soyez particulièrement sceptique sur les faits pointus, les dates, les chiffres et les références.
  • Pilotez par le contexte. Donnez au modèle un rôle clair, un format et le matériau source réel. Il prédit à partir de ce que vous fournissez : une bonne entrée produit une bonne sortie.
  • Faites-lui confiance pour transformer, vérifiez-le quand il se souvient. Résumer votre document ne pose pas de problème ; réciter une statistique de mémoire, si.

À faire, tiré de cette leçon

Ces actions sont compilées dans le plan d'action du rôle.

  • Vérifier toutes les citations, chiffres, dates, noms et affirmations sensibles auprès des sources
  • Ancrez le modèle en collant le texte source et en limitant les réponses à ce texte
  • Rédigez des prompts précis, avec exemples, rôle et contraintes de format
  • Réglez une température basse pour le factuel, haute pour le brainstorming créatif
  • Traitez chaque réponse de l'IA comme un brouillon que vous éditez
Voir le plan d'action complet →

Articles liés

Les articles récents du blog qui s'appuient sur cette leçon.