Donner à l'IA le bon contexte, pas plus de contexte

Il y a une erreur très répandue dans la façon dont les professionnels interagissent avec les modèles de langage : ils confondent la quantité de contexte avec sa qualité. Face à un résultat décevant, le réflexe naturel est d'ajouter de l'information. On précise davantage, on explique plus, on colle un bloc de texte supplémentaire. Et souvent, le résultat empire ou, au mieux, ne s'améliore pas.

Le concept à comprendre ici est simple à formuler, mais difficile à appliquer : ce qui compte, c'est la pertinence du contexte fourni, pas son volume.

Pourquoi cela change concrètement la qualité du travail

Pour un professionnel qui utilise ChatGPT, Claude ou Gemini dans son activité quotidienne, la gestion du contexte n'est pas une question technique abstraite. C'est directement ce qui détermine si l'IA produit une sortie utilisable ou une sortie qu'il faut réécrire à 80 %.

Le temps perdu à reformuler, corriger ou recommencer un prompt raté est réel. Dans une étude publiée en 2023 par Nielsen Norman Group, les utilisateurs professionnels d'outils d'IA générative passaient en moyenne plus de temps à reformuler leurs requêtes qu'à exploiter les réponses. Ce chiffre date, mais le problème qu'il décrit s'est aggravé à mesure que les prompts sont devenus plus longs et plus touffus.

Il y a aussi un effet moins visible : quand on noie un modèle sous un contexte dense et mal structuré, on dilue le signal. Le modèle ne sait plus quoi prioriser. Il produit une réponse qui couvre tout sans rien traiter vraiment.

Comment cela fonctionne, dans le détail

Les grands modèles de langage traitent le contexte via un mécanisme d'attention. Sans entrer dans les mathématiques, l'idée pratique est la suivante : le modèle attribue un poids à chaque fragment d'information dans le prompt pour décider ce qui compte. Quand le prompt est court et précis, le signal fort ressort facilement. Quand le prompt est long et hétérogène, les éléments importants se noient dans le bruit.

Ce phénomène a un nom dans la littérature technique : "lost in the middle". Des chercheurs de l'Université Stanford et de l'Université de Berkeley ont montré en 2023 que les modèles tendent à accorder moins d'attention aux informations placées au milieu d'un long contexte, privilégiant ce qui apparaît au début et à la fin. Autrement dit, ajouter de l'information au milieu d'un prompt déjà long peut littéralement réduire l'influence de cette information sur la réponse.

Prenons un exemple concret. Supposons qu'un responsable marketing veuille générer un résumé exécutif d'une analyse concurrentielle.

Version courante (trop chargée) : coller l'intégralité du rapport de 15 pages en contexte, ajouter une description de son rôle, de l'entreprise, du secteur, des concurrents, des objectifs stratégiques de l'année, puis demander un résumé.

Version ciblée : identifier les trois points que le résumé doit absolument communiquer, préciser le lecteur cible (le comité de direction), indiquer le format souhaité (cinq lignes maximum), et ne coller que la section du rapport qui contient les données clés.

La deuxième version produit presque systématiquement un résultat plus utilisable, même si elle contient moins d'informations. Parce que chaque élément du contexte sert une fonction claire.

Les quatre questions à se poser avant d'écrire un prompt

Avant d'ajouter quoi que ce soit à un prompt, il vaut la peine de vérifier quatre points :

• Pourquoi est-ce que j'inclus cette information ? Si la réponse est "au cas où", c'est un signal pour la retirer.
• Le modèle peut-il déduire ce que j'omets ? Les grands modèles ont une connaissance générale étendue. Inutile d'expliquer ce qu'est un P&L à Claude.
• Quel est le lecteur ou l'utilisateur final de la sortie ? Le préciser change radicalement le registre et le niveau de détail de la réponse.
• Y a-t-il des contraintes concrètes à respecter ? Longueur, format, ton, langue. Ces éléments sont du contexte utile.

Quand donner beaucoup de contexte reste justifié, et quand ça ne l'est pas

Il existe des cas où un contexte dense est légitime. Quand on demande à un modèle d'analyser un contrat spécifique, les clauses du contrat sont du contexte nécessaire. Quand on travaille sur un document technique avec une terminologie propriétaire, il faut fournir cette terminologie. Quand le ton ou le style de l'entreprise est très particulier, un ou deux exemples concrets ("few-shot promptingpromptingPrompt engineering is the practice of designing and refining text inputs to guide large language models toward accurate, relevant, and reliable outputs.Voir la définition complète →") valent mieux que trois paragraphes d'explication.

Ce qui ne justifie jamais un contexte long : l'incertitude sur ce qu'on veut. C'est la vraie cause de la plupart des prompts surchargés. Quand on n'a pas clarifié son propre objectif, on compense en ajoutant de l'information dans l'espoir que le modèle "comprendra". Il ne comprendra pas mieux, il extrapolera différemment.

Il y a aussi un piège spécifique aux professionnels expérimentés : le réflexe de tout expliciter parce qu'on est habitué à déléguer à des humains qui ont besoin du tableau complet. Un modèle de langage n'a pas besoin du tableau complet. Il a besoin de la question précise et des données directement nécessaires pour y répondre.

La règle pratique qui fonctionne est celle-ci : construire le prompt minimal qui pourrait produire la réponse souhaitée, tester, puis ajouter du contexte uniquement si la sortie manque d'un élément spécifique et identifiable. C'est l'inverse de la démarche naturelle, mais c'est celle qui fait gagner du temps.

Un prompt de cent mots qui définit clairement l'objectif, le format et le destinataire bat presque toujours un prompt de cinq cents mots qui accumule les informations sans hiérarchie. La discipline de sélectionner le bon contexte, plutôt que le contexte complet, est l'une des compétences les plus directement rentables dans l'usage quotidien des LLMs.