Confidentialité des données quand tout transite par un modèle : le vrai problème n'est pas celui qu'on croit

Depuis que ChatGPT a franchi le cap des cent millions d'utilisateurs en quelques semaines début 2023, les équipes juridiques et DSI du monde entier ont produit des notes de service, des politiques d'usage acceptable, des clauses additionnelles dans les contrats fournisseurs. Le sujet de la confidentialité des données dans les modèles d'IA occupe désormais un point fixe à l'ordre du jour des comités exécutifs. Tout le monde s'accorde sur le diagnostic : les LLMLLMUn Large Language Model est un système d'IA entraîné sur d'énormes volumes de texte pour prédire et générer du langage, ce qui permet de rédiger, résumer ou répondre à des questions.Voir la définition complète → posent un problème de fuite de données. La question est de savoir si ce diagnostic est le bon.

Ce que dit le consensus, et pourquoi il tient la route

La position dominante est cohérente et repose sur des faits réels. Quand un employé colle un contrat client, une feuille de paie ou un rapport financier dans un modèle commercial comme GPT-4o ou Claude 3.5, ces données quittent le périmètre de l'organisation. L'éditeur les traite, les stocke temporairement, et selon les conditions d'utilisation en vigueur, peut les utiliser pour améliorer ses modèles. OpenAI, Anthropic et Google ont tous modifié leurs conditions plusieurs fois depuis 2023, ce qui rend le suivi contractuel difficile pour une équipe juridique moyenne.

Les régulateurs ont emboîté le pas. La CNIL française a publié plusieurs délibérations sur le sujet entre 2023 et 2025. L'autorité italienne Garante avait temporairement suspendu l'accès à ChatGPT en avril 2023. Le RGPD impose des garanties précises dès lors que des données personnelles transitent vers un sous-traitant hors Union européenne, et la plupart des déploiements LLM en entreprise franchissent ce seuil.

La réponse organisationnelle standard découle logiquement de ce constat : interdire ou restreindre les LLM publics, déployer des modèles en interne ou dans un environnement cloud privé, rédiger une politique d'usage, former les équipes. C'est raisonnable. C'est aussi insuffisant.

Les angles morts du consensus

Le premier problème est que la politique d'usage ne change pas grand-chose au comportement réel. Selon une étude publiée par Cyberhaven en 2024, environ 11 % des données collées dans ChatGPT par des employés en entreprise étaient classées comme confidentielles, et cela six mois après que la majorité des grandes entreprises avaient déployé des politiques d'usage. Les politiques existent ; le comportement, lui, ne suit pas. Un professionnel pressé qui cherche à accélérer la rédaction d'une note pour un client n'a pas la politique de sécurité en tête au moment où il colle son texte.

Le deuxième angle mort touche au modèle de menace lui-même. Les équipes sécurité se concentrent sur la transmission de données vers les serveurs de l'éditeur, ce qui est visible et traçable. Elles sous-estiment deux vecteurs moins visibles. D'abord, les plugins et intégrations tierces : quand une organisation connecte un LLM à son CRMCRMCustomer Relationship Management : logiciel et stratégie pour gérer et analyser les interactions clients tout au long de leur cycle de vie.Voir la définition complète →, son ERP ou ses outils de gestion de projet via des connecteurs, les données ne passent plus seulement par l'éditeur principal mais par une chaîne d'intermédiaires dont les garanties de sécurité sont souvent inférieures. Ensuite, les modèles fine-tunés sur des données internes : si une organisation entraîne ou ajuste un modèle sur ses propres documents, ce modèle peut restituer des fragments de ces données dans des contextes inattendus, y compris à des utilisateurs qui n'auraient pas dû y avoir accès. Ce phénomène de mémorisation involontaire a été documenté par des chercheurs de Google et de l'Université de Princeton dès 2022, et il reste sous-estimé en pratique.

Le troisième problème tient à la focalisation excessive sur le risque externe. Les organisations investissent dans des contrôles pour éviter que leurs données partent chez OpenAI, mais elles négligent ce que les LLM font circuler en interne. Un assistant IA connecté à la base documentaire d'une entreprise peut, selon la façon dont les droits d'accès sont configurés, répondre à un analyste junior avec des informations normalement réservées à la direction. Ce n'est pas de la fuite vers l'extérieur, c'est une rupture des contrôles d'accès internes, et les systèmes de prévention des pertes de données classiques ne la détectent pas.

Enfin, le débat sur la conformité RGPD masque une question plus pratique : même dans un environnement entièrement privé, les données existent désormais dans un nouveau format. Un modèle qui a ingéré des contrats, des emails et des notes internes est une représentation latente de ces données. Personne ne sait encore comment auditer cette représentation, ni comment la supprimer proprement quand un client ou un employé exerce son droit à l'effacement.

Ce qu'un opérateur averti devrait faire concrètement

La priorité n'est pas d'écrire une meilleure politique. C'est de cartographier les flux avant de déployer quoi que ce soit.

Cela signifie identifier, pour chaque usage LLM envisagé, trois éléments : quelles catégories de données vont transiter (personnelles, confidentielles, soumises au secret professionnel), vers quels systèmes (modèle externe, infrastructure cloud privée, connecteurs tiers), et avec quels droits d'accès en aval. Ce travail prend du temps mais il évite de découvrir après coup que le chatbot interne répond à tout le monde avec les données de tout le monde.

Sur le plan technique, la séparation des cas d'usage selon leur sensibilité est plus fiable qu'une politique uniforme. Un LLM public avec accès web peut traiter des recherches générales, des premières ébauches sans données client, de la veille concurrentielle sur des informations publiques. Un environnement isolé, avec un modèle comme Mistral Large déployé sur l'infrastructure propre de l'organisation, traite les documents internes sensibles. Cette segmentationsegmentationDécouper un marché en groupes distincts de clients partageant des besoins, des caractéristiques ou des comportements similaires, afin de traiter chaque groupe avec une approche dédiée.Voir la définition complète → demande un effort de gouvernance initial, mais elle réduit la surface d'exposition sans bloquer l'adoption.

Sur la question du fine-tuningfine-tuningLe fine-tuning adapte un modèle pré-entraîné à une tâche ou un domaine précis en poursuivant son entraînement sur un jeu de données plus petit et ciblé, ce qui améliore la précision et le style pour ce cas d'usage.Voir la définition complète →, il vaut mieux éviter d'entraîner directement sur des données personnelles identifiables. La technique du retrieval-augmented generation (RAG) permet d'obtenir des résultats contextualisés sans mémoriser les données dans les poids du modèle, ce qui simplifie à la fois la gestion du droit à l'effacement et l'audit.

Les directions juridiques devraient aussi arrarrL'Annual Recurring Revenue (ARR) est le revenu normalisé et prévisible qu'une entreprise par abonnement attend de ses contrats actifs sur une année.Voir la définition complète →êter de traiter les conditions d'utilisation des éditeurs LLM comme un document à signer une fois. OpenAI et Anthropic ont tous deux modifié leurs clauses de traitement des données plusieurs fois en deux ans. Un suivi trimestriel, aussi minimal soit-il, vaut mieux que de découvrir un changement lors d'un audit.

La confidentialité des données dans les LLM ne se résout pas par une politique et une formation annuelle. Elle se gère comme n'importe quel risque opérationnel : avec des contrôles techniques à la source, une révision régulière, et