+150 XP

SaaS · Consentement, limitation des finalités et le piège des fonctionnalités IA

En août 2023, Zoom a modifié ses conditions d'utilisation d'une manière qui laissait entendre que le contenu des clients pourrait servir à entraîner des modèles d'IA, puis a fait marche arrière en quelques jours face à une levée de boucliers très visible des utilisateurs. L'épisode est devenu un cas d'école. Une entreprise SaaS disposait d'une montagne de données clients, d'une nouvelle fonctionnalité IA à construire, et d'aucune voie juridique propre pour utiliser les unes au service de l'autre. Cet écart entre « nous avons les données » et « nous avons le droit d'utiliser les données » est l'endroit où beaucoup de projets de copilote IA enfreignent la loi sans bruit.

Le piège, défini

Les tickets de support, les logs de chat et les données d'usage sont en général collectés pour une finalité : faire fonctionner le produit et aider le client. C'est la finalité que vous avez annoncée aux utilisateurs lors de leur inscription.

Entraîner un copilote IA est une finalité différente. Sous le RGPD (Règlement général sur la protection des données, le texte central de l'UE en matière de vie privée), cela déclenche le principe de limitation des finalités. Ce principe dispose que des données personnelles collectées pour une finalité déterminée ne peuvent pas être réutilisées pour une nouvelle finalité incompatible sans nouvelle base légale (voir article 5(1)(b) du RGPD).

Les tickets de support sont particulièrement risqués parce qu'ils contiennent souvent :

  • Des noms, e-mails, informations de compte (données personnelles par défaut)
  • Des captures d'écran ou des logs collés contenant des secrets clients, des clés API ou des PII (informations personnelles identifiables) d'utilisateurs finaux
  • Des réclamations sensibles (santé, finance, RH) si votre SaaS sert ces secteurs

Injecter ce corpus dans un job de fine-tuning d'un grand modèle de langage (LLM) constitue une nouvelle finalité de traitement. Il en va de même pour l'utiliser en génération augmentée par récupération (RAG, où un modèle extrait en direct des extraits d'une base de données pour répondre aux questions) d'une manière qui exposerait les données d'un client à un autre. Si votre politique de confidentialité d'origine indiquait « pour fournir le support client », vous n'avez probablement pas de base pour ajouter « pour entraîner nos fonctionnalités IA ».

Pourquoi ce n'est pas seulement un problème européen

Les entreprises américaines supposent souvent qu'il s'agit d'un casse-tête européen. Ce n'est pas le cas.

  • La FTC (Federal Trade Commission) a averti en février 2024 que les entreprises qui modifient discrètement leurs conditions pour autoriser l'entraînement d'IA sur des données déjà collectées peuvent se livrer à des pratiques déloyales ou trompeuses au sens de la Section 5 du FTC Act. Lire l'article : AI (and other) Companies: Quietly Changing Your Terms of Service Could Be Unfair or Deceptive.
  • Le CCPA/CPRA californien (California Consumer Privacy Act, amendé par le California Privacy Rights Act) donne aux utilisateurs le droit de limiter l'usage de leurs informations personnelles sensibles et impose de déclarer les nouvelles finalités de traitement. Ses règles sur les technologies de décision automatisée, finalisées en 2025, ajoutent des obligations pour certains usages de l'IA.
  • Les règles sectorielles s'empilent par-dessus : HIPAA (données de santé, États-Unis) et GLBA (données financières, États-Unis) restreignent l'usage secondaire, IA ou pas.

Le fil conducteur entre l'UE, les États-Unis et la plupart des autres cadres : le problème, c'est la réaffectation silencieuse de données collectées sous une promesse plus étroite. L'IA est simplement la raison la plus fréquente pour laquelle les entreprises s'y essaient aujourd'hui.

Ce qu'exige réellement la « limitation des finalités »

Deux voies légales existent dès lors que vous voulez réutiliser des données pour une nouvelle finalité.

  1. Test de compatibilité : l'article 6(4) du RGPD autorise la réutilisation si la nouvelle finalité est « compatible » avec la finalité d'origine, en pesant le contexte, les attentes raisonnables des utilisateurs et les garanties. Entraîner un modèle sur des catégories de tickets agrégées et anonymisées pour améliorer le routage pourrait passer. Entraîner un copilote génératif susceptible de recracher le texte exact de la réclamation d'un utilisateur à un autre client ne passe presque certainement pas.
  2. Nouveau consentement ou autre base légale : si l'usage n'est pas compatible, il vous faut une nouvelle base. En pratique, cela signifie un consentement spécifique et éclairé, ou une analyse d'intérêt légitime (LIA, legitimate interest assessment) documentée.

La référence principale des régulateurs européens est l'avis 28/2024 de l'EDPB (décembre 2024). Il confirme que l'intérêt légitime peut fonctionner pour le développement de l'IA, mais seulement après un véritable test en trois étapes (finalité légitime, nécessité, mise en balance) qui pèse ce que les utilisateurs peuvent raisonnablement attendre. Meta s'est appuyé sur cette voie lorsqu'il a repris l'entraînement sur les publications publiques européennes en mai 2025, avec un opt-out. Notez que la proposition Digital Omnibus de la Commission européenne (novembre 2025) inscrirait explicitement l'intérêt légitime pour l'entraînement d'IA dans le texte du RGPD ; vérifiez son statut avant de vous y fier, car une proposition n'est pas une loi.

L'anonymisation compte, mais son effet est souvent surestimé. Une véritable anonymisation (irréversible, sans réidentification possible) fait sortir les données du champ du RGPD. La pseudonymisation (remplacement des identifiants par des jetons) ne le fait pas, car des données pseudonymisées restent des données personnelles si la réidentification est faisable. Le même avis de l'EDPB ajoute une subtilité : un modèle entraîné n'est « anonyme » que si l'on ne peut pas en extraire de données personnelles avec un effort raisonnable, ce qui fait aussi du risque de mémorisation une question juridique.

Construire le workflow de recueil de nouvelles autorisations

Quand le produit veut lancer une fonctionnalité IA sur des données existantes, déroulez cette séquence avant le moindre job d'entraînement.

Étape 1 : cartographie des données. Identifiez chaque jeu de données que la fonctionnalité touchera (tickets, transcriptions de chat, logs d'usage) et sa finalité déclarée d'origine. Un inventaire des données ou un registre des activités de traitement (RoPA, un journal imposé par le RGPD de ce que vous traitez et pourquoi) rend cela traçable.

Étape 2 : évaluation de compatibilité. Documentez par écrit si le cas d'usage IA est compatible avec la finalité d'origine. L'Information Commissioner's Office (ICO) britannique publie des recommandations pratiques qui valent d'être adaptées : ICO guidance on purpose limitation.

Étape 3 : choisir la base.

  • Compatible et à faible risque (analytics agrégés, par exemple) : avancez, avec une analyse d'impact relative à la protection des données (DPIA) si le risque n'est pas négligeable.
  • Incompatible ou à haut risque (texte brut des tickets dans un LLM) : déclenchez le recueil de nouvelles autorisations, ou documentez une LIA assez solide pour résister au test de l'EDPB.

Étape 4 : campagne de recueil de nouvelles autorisations. C'est le cœur opérationnel :

  • Mettez à jour la politique de confidentialité avec une description en langage clair du cas d'usage IA.
  • Proposez un opt-in explicite et granulaire, pas une case groupée « J'accepte les conditions mises à jour ». Les régulateurs rejettent de plus en plus le consentement groupé comme n'étant pas « librement donné ».
  • Offrez un véritable opt-out qui ne dégrade pas les fonctions essentielles du produit. Le RGPD exige que le consentement soit aussi facile à retirer qu'à donner.
  • Journalisez le consentement avec l'horodatage, la version de la notice affichée et le mécanisme, et conservez ce journal pour les audits.

Étape 5 : application technique. Les décisions de consentement doivent atteindre le pipeline de données. Un échec classique : le juridique valide un flux d'opt-in, mais l'ingénierie entraîne sur toute la table des tickets parce qu'aucun indicateur ne se propage en aval.

Une correction minimale du schéma ressemble à ceci :

sql
-- la table des tickets reçoit un indicateur de consentement que les jobs ETL/d'entraînement doivent filtrer
ALTER TABLE support_tickets
ADD COLUMN ai_training_consent BOOLEAN DEFAULT FALSE;

-- la requête d'extraction pour l'entraînement respecte l'indicateur
SELECT ticket_id, body_text
FROM support_tickets
WHERE ai_training_consent = TRUE
  AND anonymization_status = 'completed';

Sans filtre appliqué de ce type, le consentement existe dans un document de politique et nulle part ailleurs.

Audits à mener avant et après le lancement

  • DPIA avant lancement : obligatoire sous le RGPD lorsque le traitement est « susceptible d'engendrer un risque élevé », ce qui est généralement le cas de l'entraînement de modèles génératifs sur du contenu utilisateur.
  • Contrôle de minimisation des données : le modèle a-t-il besoin du texte brut des tickets, ou des résumés et des champs structurés suffiraient-ils ?
  • Test de fuite : soumettez des prompts au modèle entraîné pour voir s'il reproduit mot pour mot du texte client (un risque connu de mémorisation des LLM, qui fait désormais partie de l'analyse d'anonymat dans l'UE).
  • Audit de couverture du consentement : un contrôle trimestriel vérifiant que la part des données d'entraînement couvertes par un consentement valide et à jour correspond à ce que la conformité croit qu'elle est.
  • Répercussion sur les fournisseurs : si un fournisseur d'IA tiers (OpenAI, Anthropic, Google) traite les données, vérifiez que votre accord de traitement des données (DPA) lui interdit d'entraîner ses propres modèles sur les données de vos clients.

Vérification des acquis

1. Une entreprise SaaS a collecté des tickets de support sous une politique de confidentialité indiquant que les données servent « à fournir le support client ». Elle veut maintenant utiliser ces mêmes données pour faire du fine-tuning d'un copilote IA. Quel est le problème juridique central au regard du principe de limitation des finalités du RGPD ?

2. Pourquoi les tickets de support et les logs de chat sont-ils décrits comme une matière première particulièrement risquée pour l'entraînement d'IA, par rapport à d'autres données opérationnelles ?

3. Une équipe produit avance : « Nous ne faisons pas de fine-tuning, nous utilisons seulement du RAG pour que le copilote extraie en direct des extraits de notre base de tickets de support afin de répondre aux questions. » Du point de vue de la limitation des finalités, pourquoi ce cadrage n'évite-t-il pas le problème juridique ?

CHOIX MULTIPLES

4. Sélectionnez TOUTES les bonnes réponses expliquant pourquoi l'écart entre « nous avons les données » et « nous avons le droit d'utiliser les données » compte pour les projets de copilote IA.

Sélectionnez toutes les réponses correctes.

CHOIX MULTIPLES

5. Sélectionnez TOUTES les bonnes réponses expliquant pourquoi les entreprises SaaS américaines ne devraient pas considérer la limitation des finalités comme un sujet « purement européen ».

Sélectionnez toutes les réponses correctes.

La tension business, dite franchement

Le recueil de nouvelles autorisations crée de la friction, et la friction réduit le volume de données d'entraînement. Les équipes produit résistent : « Si on redemande, l'adoption baisse et le copilote devient moins bon. » Ce compromis est réel, mais l'historique des sanctions l'est aussi. La Garante italienne a infligé à OpenAI une amende de 15 millions d'euros en décembre 2024, en partie pour avoir entraîné ChatGPT sans base légale adéquate. Le régulateur néerlandais a infligé à Clearview AI une amende de 30,5 millions d'euros en 2024 pour avoir constitué sa base à partir de photos collectées par scraping. Meta a suspendu ses projets d'entraînement d'IA dans l'UE en 2024 sous la pression du régulateur irlandais et ne les a repris qu'une fois dotée d'une base documentée et d'un opt-out.

Un meilleur cadrage pour les équipes produit : intégrez le recueil de nouvelles autorisations à l'annonce de la fonctionnalité. « Nous lançons un assistant IA entraîné sur les tendances du support. Voici exactement ce qu'il utilise, et voici comment vous gardez la main. » Une étape de conformité devient alors un signal de confiance, ce qui compte dans les deals SaaS enterprise où les équipes achats interrogent désormais systématiquement sur la provenance des données d'entraînement de l'IA.

🎬 [VIDÉO : « GDPR and AI: Purpose Limitation Explained » - youtube.com - cherchez les vidéos explicatives des chaînes de l'IAPP (International Association of Privacy Professionals) ou de l'ICO sur la limitation des finalités et les données d'entraînement de l'IA, utiles pour une présentation visuelle du test de compatibilité]

Points clés à retenir

  • La limitation des finalités (article 5(1)(b) du RGPD) signifie que des données collectées pour le support ne peuvent pas être automatiquement réutilisées pour entraîner des fonctionnalités IA. C'est un domaine de sanctions actif dans l'UE et une préoccupation déclarée de la FTC aux États-Unis.
  • L'intérêt légitime peut justifier l'entraînement d'IA dans l'UE, mais seulement avec un test en trois étapes documenté dans l'esprit de l'avis 28/2024 de l'EDPB. Considérez les changements du Digital Omnibus comme en attente tant qu'ils ne sont pas adoptés.
  • L'anonymisation ne supprime le problème juridique que si elle est irréversible, et un modèle capable de laisser fuiter des données personnelles n'est pas anonyme. Des données pseudonymisées restent des données personnelles.
  • Le workflow compte cinq étapes : cartographie des données, évaluation de compatibilité, choix d'une base légale, campagne d'opt-in explicite, et indicateurs de consentement appliqués dans le pipeline réel.
  • Menez une DPIA avant l'entraînement, testez la mémorisation mot pour mot après, et auditez la couverture du consentement chaque trimestre.
  • Présentez le recueil de nouvelles autorisations comme un signal de confiance lors du lancement, puisque les acheteurs enterprise vérifient désormais la provenance des données d'entraînement de l'IA pendant les achats.