Auditer les fournisseurs d'IA tiers de votre stack technologique FMCG

Un outil SaaS de category management annonce à une marque de boissons que ses recommandations de prix en rayon relèvent d'une « IA propriétaire, entraînée sur vos données ». Dix-huit mois plus tard, le category manager de la marque remarque que l'outil pousse les prix vers des niveaux suspicieusement proches de la stratégie réelle d'un concurrent direct, lui aussi client du fournisseur. Une revue interne révèle que le modèle a été réentraîné sur un jeu de données mutualisé entre clients, concurrent inclus. Rien d'illégal. Rien de divulgué non plus. C'est le scénario qui devrait amener toutes les équipes achats et juridiques du FMCG (fast-moving consumer goods) à relire les contrats fournisseurs autrement avant le prochain renouvellement.

Cette leçon vous donne une routine d'audit opérationnelle : ce qu'il faut exiger dans les contrats, quelle documentation prouve qu'un modèle peut continuer à tourner sans risque, et quels signaux d'alerte justifient de partir.

Pourquoi le FMCG est particulièrement exposé

Les entreprises FMCG construisent rarement de l'IA en interne à grande échelle. Elles l'achètent : prévision de la demande auprès d'un SaaS supply chain, pricing dynamique via une plateforme de category management, chatbots pour l'engagement consommateur, reconnaissance d'images pour les audits de rayon, IA générative pour les accroches publicitaires et le design packaging.

Chacun de ces fournisseurs touche à des données sensibles : chiffres de sell-through des distributeurs, budgets de trade promotion, PII (personally identifiable information) consommateurs issues des applications de fidélité, et parfois de l'intelligence concurrentielle collectée incidemment via des flux de données retail partagés.

Le risque n'est pas seulement la fuite de données. C'est la contamination des modèles : le modèle d'un fournisseur apprend des schémas à partir des données du client A, et cet apprentissage profite discrètement au client B, un concurrent direct, via une infrastructure partagée. Contrairement à une violation de données, cela déclenche rarement une obligation de notification, puisque techniquement aucun enregistrement n'a été « exposé ». C'est un trou de gouvernance, pas (en général) une infraction légale, et c'est exactement pour cela que les contrats doivent le combler explicitement.

Ce qu'il faut interroger avant de signer un renouvellement

1. Traçabilité des données et droits d'entraînement

Posez la question directement au fournisseur : nos données servent-elles à entraîner, fine-tuner ou améliorer des modèles partagés avec d'autres clients ? Obtenez la réponse par écrit, pas au téléphone avec un commercial.

Cherchez dans le contrat une distinction entre :

• Données d'entrée (ce que vous chargez : données de ventes, planogrammes, données consommateurs)
• Données de sortie (les recommandations du modèle)
• Données dérivées / poids du modèle (le fait que vos données d'entrée façonnent un modèle également utilisé par d'autres clients)

Un contrat propre stipule que l'entraînement sur vos données au bénéfice d'autres clients exige un opt-in explicite, et non un opt-out par défaut enfoui dans une mise à jour des conditions.

2. Documentation du modèle (« model cards »)

Exigez une model card : un document technique court décrivant les données d'entraînement, l'usage prévu, les limites connues et la fréquence de mise à jour. C'est désormais une pratique standard chez les fournisseurs d'IA responsables, et explicitement recommandée par le AI Risk Management Framework du NIST, le standard volontaire mais largement adopté du gouvernement américain en matière de gouvernance de l'IA.

Si un fournisseur ne peut pas produire de model card, traitez cela comme un signal d'alerte de gouvernance, pas comme un désagrément technique.

3. Cadence de réentraînement et journaux de changements

Demandez : à quelle fréquence le modèle sous-jacent est-il réentraîné, et nous prévenez-vous quand il change de manière significative ? Un modèle de pricing réentraîné chaque mois sur des données de marché mutualisées peut modifier sa logique de recommandation sans aucun changement de code de votre côté. Il vous faut un changelog, comme vous en attendriez un pour les correctifs d'un logiciel d'entreprise.

4. Divulgation des sous-traitants

La plupart des fournisseurs SaaS ne construisent pas leurs propres modèles de fondation. Ils appellent OpenAI, Anthropic, Google, ou un modèle open-weight via une infrastructure cloud. Demandez quels modèles sous-jacents font tourner l'outil et si vos données transitent par l'APIAPIApplication Programming Interface : une interface standardisée qui permet aux applications de communiquer et d'échanger des données sans connaître leur fonctionnement interne respectif.Voir la définition complète → d'un tiers (et selon quelles conditions de conservation). Le RGPDRGPDRèglement de l'UE encadrant la collecte, le stockage et l'usage des données personnelles, avec des amendes indexées sur le chiffre d'affaires mondial.Voir la définition complète → (Règlement général sur la protection des données) européen impose la divulgation des sous-traitants qui traitent des données personnelles ; étendez la même discipline aux données non personnelles mais commercialement sensibles.

5. Droit d'audit et droit de sortie

Les contrats doivent inclure :

• Un droit de demander un audit ou une attestation par un tiers (SOC 2 Type II est courant et vérifiable)
• Une clause de portabilité et de suppression des données à la résiliation, incluant la suppression de tout corpus d'entraînement, pas seulement des bases actives
• Une répartition claire des responsabilités si les sorties du modèle causent un préjudice commercial (erreur de prix, ciblage discriminatoire, prévisions de demande biaisées)

Le contexte réglementaire à connaître

Vous n'auditez pas dans le vide. Plusieurs cadres définissent aujourd'hui ce à quoi ressemble une gouvernance « suffisante » :

• AI Act européen (entré en vigueur en 2024, obligations échelonnées jusqu'en 2027) : classe les systèmes d'IA par niveau de risque. La plupart des cas d'usage FMCG (pricing, prévision, personnalisation marketing) relèvent du « risque limité » ou ne sont pas directement régulés, mais tout système prenant des décisions automatisées lourdes de conséquences pour des individus (scoring consommateur de type crcrLe pourcentage de visiteurs ou de prospects qui réalisent une action attendue (achat, inscription, formulaire de contact), calculé en divisant les conversions par le nombre total d'opportunités.Voir la définition complète →édit, usages proches de l'emploi) peut déclencher des obligations plus élevées. Application assurée par les autorités nationales, coordonnées via la Commission européenne.
• RGPD : reste le texte le plus lourd de conséquences pour les fournisseurs d'IA FMCG traitant des données de consommateurs européens, en particulier les restrictions de l'article 22 sur les décisions exclusivement automatisées ayant des effets juridiques ou significatifs.
• FTC (Federal Trade Commission) américaine : a engagé des actions pour « AI washing » (surestimation des capacités d'IA) et contre des entreprises ayant discrètement réutilisé des données consommateurs pour entraîner des modèles au-delà de l'usage déclaré, au titre de la section 5 du FTC Act (pratiques déloyales ou trompeuses).
• NIST AI RMF : volontaire aux États-Unis, mais de plus en plus utilisé comme standard de référence dans les questionnaires de due diligence fournisseurs, y compris par des entreprises sans obligation réglementaire américaine.

Aucune de ces lois ne dit spécifiquement « vous devez divulguer l'entraînement de modèles inter-clients » pour les outils de pricing FMCG. C'est précisément ce vide qui fait des clauses contractuelles, et non de la loi, votre principal levier aujourd'hui.

Une checklist d'audit minimale

Avant le renouvellement, déroulez ceci avec le fournisseur :

[ ] Model card fournie et à jour (description des données d'entraînement, date de dernière mise à jour)
[ ] Confirmation écrite : nos données sont-elles utilisées dans des modèles partagés entre clients ?
[ ] Sous-traitants / modèle de fondation sous-jacent divulgués
[ ] Attestation SOC 2 Type II ou équivalent disponible
[ ] Cadence de réentraînement et processus de notification des changements définis
[ ] La clause de suppression des données couvre les corpus d'entraînement, pas seulement les bases actives
[ ] La clause de responsabilité couvre les préjudices issus des sorties du modèle (erreur de prix, prévision biaisée)
[ ] Droit d'audit ou d'inspection inscrit au contrat

Si plus de deux cases restent vides, faites monter le sujet au juridique avant le renouvellement, pas après.

À quoi ressemble le « bon » niveau : un signal de terrain

Les grands distributeurs et les entreprises CPG (consumer packaged goods) exigent de plus en plus que leurs fournisseurs remplissent des questionnaires de due diligence IA standardisés, calqués sur des cadres comme celui du NIST. Certains acheteurs de logiciels d'entreprise demandent désormais que les fournisseurs participent à des services d'audit de modèles par des tiers (une niche en croissance, encore fragmentée, avec des prestataires proposant des tests de biais et de la traçabilité des données). C'est la direction que prennent les achats : traiter le risque fournisseur IA comme le risque fournisseur cybersécurité, avec des audits récurrents, pas une signature unique.

🎬 [VIDEO: "How to Audit Third-Party AI Vendors" - youtube.com - chercher des explications récentes (2024-2025) sur la gouvernance de l'IA et la gestion du risque fournisseur, publiées par des chaînes de risk management ou de conformité en entreprise, utiles pour un déroulé pratique des questionnaires fournisseurs et des checklists d'audit]

Points clés

• La contamination des modèles inter-clients (vos données améliorant les sorties d'un concurrent) est un trou de gouvernance, pas une violation de données au sens habituel : elle doit donc être comblée par des clauses contractuelles explicites, et non balayée par présomption.
• Exigez une model card, la divulgation des sous-traitants et les journaux de changements de réentraînement avant chaque renouvellement ; traitez leur absence comme un signal d'alerte équivalent à une attestation SOC 2 manquante.
• Distinguez données d'entrée, données de sortie et poids du modèle dans les contrats : « nous ne vendons pas vos données » ne signifie pas « nous n'entraînons pas sur vos données ».
• Les cadres réglementaires (AI Act européen, RGPD, actions de la FTC, NIST AI RMF) fixent le vocabulaire de base, mais dans les outils de pricing et de prévision du FMCG, ce sont aujourd'hui les clauses contractuelles qui font le plus de travail de gouvernance, pas la loi.
• Intégrez un audit récurrent des fournisseurs d'IA dans les cycles achats, à la même cadence et avec la même rigueur que vos revues fournisseurs cybersécurité.