+150 XP

Pourquoi la régulation de l'IA dicte désormais les termes des contrats SaaS

En 2026, la responsable achats d'un assureur de taille intermédiaire ouvre le questionnaire de sécurité d'un fournisseur et y trouve une nouvelle section : « Votre produit intègre-t-il un modèle d'IA à usage général ? Si oui, indiquez le fournisseur, la classification de risque de chaque fonctionnalité d'IA au titre de l'AI Act européen, et joignez votre dernière documentation de modèle. » Il y a trois ans, cette question n'existait pas. Aujourd'hui, elle peut bloquer pendant des semaines un deal à six chiffres.

Pour les éditeurs SaaS (Software as a Service), la régulation de l'IA n'est plus un sujet de conformité traité après coup. Elle figure désormais ligne par ligne dans les Data Processing Agreements (DPA) et les questionnaires de risque fournisseur, et elle détermine qui porte la responsabilité quand un modèle intégré se trompe.

Le contexte réglementaire, en bref

Deux régimes comptent avant tout aujourd'hui.

L'AI Act européen est entré en vigueur en août 2024 et s'applique par étapes. Les interdictions visant les pratiques à risque inacceptable s'appliquent depuis février 2025. Les obligations des fournisseurs de modèles d'IA à usage général (GPAI) ont suivi en août 2025. Le texte classe les systèmes d'IA par niveaux de risque :

  • Risque inacceptable : interdiction pure et simple (notation sociale, collecte non ciblée d'images faciales, reconnaissance des émotions au travail).
  • Risque élevé : obligations strictes, comme l'évaluation de conformité, la documentation technique, la gestion des risques et le contrôle humain. Cela couvre l'IA utilisée pour le recrutement, le scoring de crédit, l'accès aux services essentiels et les dispositifs médicaux.
  • Risque limité : obligations de transparence. Les chatbots doivent indiquer aux utilisateurs qu'ils échangent avec une IA, et les contenus synthétiques doivent être signalés.
  • Risque minimal : quasiment pas réglementé (filtres anti-spam, IA dans les jeux vidéo, la plupart des outils de productivité internes).

Le texte fixe aussi des règles pour les modèles GPAI, c'est-à-dire les modèles de fondation derrière des produits comme GPT-5, Claude ou Gemini. Les modèles considérés comme présentant un « risque systémique » (le seuil par défaut est une puissance de calcul d'entraînement supérieure à 10^25 FLOPs) sont soumis à des obligations supplémentaires. La plupart des grands fournisseurs ont signé le Code de bonnes pratiques GPAI de la Commission, publié en juillet 2025. Source : EU AI Act overview, European Commission.

Le calendrier du risque élevé évolue. La date initiale pour la plupart des obligations à risque élevé était août 2026. En novembre 2025, la Commission a proposé un paquet « Digital Omnibus » qui lierait ces obligations à la disponibilité des normes et des outils d'accompagnement. Selon cette proposition, les dates limites seraient décembre 2027 pour des cas d'usage comme le recrutement et le crédit, et août 2028 pour l'IA intégrée à des produits réglementés. Vérifiez où en est le texte avant de citer une date dans un contrat. Les acheteurs grands comptes n'attendent pas : ils posent dès maintenant la question de la classification.

Aux États-Unis, il n'existe toujours pas de loi fédérale globale sur l'IA. Les États comblent le vide. L'AI Act du Colorado couvre les systèmes de décision automatisée à risque élevé et a été reporté au 30 juin 2026. La Californie a adopté SB 53 en 2025, une loi de transparence visant les développeurs de modèles de pointe, en plus de ses règles sur la prise de décision automatisée. La FTC (Federal Trade Commission) continue de poursuivre les allégations trompeuses sur l'IA. Un décret présidentiel de décembre 2025 a demandé aux agences fédérales de contester les lois des États sur l'IA jugées trop contraignantes, ce qui ajoute de l'incertitude juridique sans supprimer pour l'instant aucune obligation étatique. Pour un éditeur qui vend dans tout le pays, le résultat pratique est le même : les informations à fournir peuvent varier d'un État à l'autre, et elles peuvent changer.

Comment cela se traduit dans les contrats

Les acheteurs grands comptes, en particulier dans la banque, l'assurance et la santé, imposent désormais des clauses spécifiques à l'IA dans les DPA et les Master Service Agreements. Les ajouts courants en 2026 :

  • Divulgation de la provenance du modèle : nommer le fournisseur du modèle sous-jacent (OpenAI, Anthropic, Google, Mistral, ou un modèle open-weight comme Llama hébergé par l'éditeur lui-même).
  • Attestation du niveau de risque : une déclaration écrite indiquant où se situe chaque fonctionnalité d'IA au regard de l'AI Act. Les clients uniquement américains la demandent aussi, car beaucoup opèrent à l'international.
  • Droit de demander la documentation : model cards, résultats d'évaluation, limites connues et, pour les fonctionnalités à risque élevé, la notice d'utilisation exigée par le texte.
  • Restrictions sur les flux de données, comme l'interdiction d'utiliser les données clients pour entraîner le modèle de fondation, ou un opt-out confirmé.
  • Répartition de la responsabilité : si la fonctionnalité d'IA produit une recommandation de recrutement discriminatoire ou une réponse de conformité hallucinée, qui paie, l'éditeur SaaS ou le fournisseur du modèle en amont ?

C'est sur ce dernier point que la plupart des éditeurs sont pris au dépourvu.

Ce dont un éditeur hérite en intégrant un modèle tiers

Si votre produit SaaS appelle l'API d'OpenAI ou d'Anthropic pour alimenter une fonctionnalité de « résumé intelligent », vous ne pouvez pas dire « c'est leur modèle, pas notre problème ».

L'AI Act distingue trois rôles, et ces qualifications comptent dans les contrats :

  • Le fournisseur de modèle GPAI (OpenAI, Anthropic, Google) est responsable du modèle de base : documentation technique, résumé des données d'entraînement, politique en matière de droit d'auteur et obligations liées au risque systémique le cas échéant.
  • Le fournisseur du système d'IA est l'entreprise qui intègre le modèle dans un produit et le met sur le marché sous son propre nom. En général, c'est vous, l'éditeur SaaS.
  • Le déployeur est l'organisation qui utilise le système dans ses opérations. En général, c'est votre client, l'assureur ou la DRH.

Beaucoup d'éditeurs se considèrent comme de « simples déployeurs ». Quand la fonctionnalité est livrée dans votre produit, vous êtes normalement le fournisseur de ce système d'IA, et pour une fonctionnalité à risque élevé, les obligations les plus lourdes vous reviennent. Concrètement :

  1. Classification. C'est à vous d'évaluer si votre cas d'usage précis relève d'une catégorie à risque élevé. Le modèle de base, pris dans l'abstrait, n'en décide pas. Un assistant de rédaction généraliste relève du risque limité ; le même modèle branché sur le tri de CV relève du risque élevé.
  2. Travaux de conformité pour les fonctionnalités à risque élevé : gestion des risques, gouvernance des données, documentation technique, journalisation, tests d'exactitude et de robustesse, puis évaluation de conformité et marquage CE avant la mise sur le marché.
  3. Transparence. Les utilisateurs doivent savoir qu'ils ont affaire à une IA, et les contenus générés doivent être signalés.
  4. Conception permettant le contrôle humain, pour que votre client, en tant que déployeur, puisse réellement vérifier et corriger les résultats.
  5. Gouvernance des données : savoir quelles données clients parviennent au fournisseur du modèle, combien de temps elles sont conservées et si elles pourraient servir à l'entraînement.

Vos clients ont ensuite leurs propres obligations de déployeur, comme confier la supervision du système à du personnel formé et conserver des journaux. Ils attendront de votre produit et de votre documentation qu'ils le rendent possible, et c'est pour cela que ces clauses apparaissent dans leurs redlines.

Une façon simple de visualiser l'exposition

Une checklist interne rapide qu'une équipe produit et juridique peut adapter :

Feature: "AI resume screener" in an HR SaaS product

1. Underlying model: third-party LLM via API
2. Our role (EU AI Act): provider of the AI system
3. Use case risk tier: HIGH (employment decision)
4. Obligations triggered:
   - Technical documentation + conformity assessment: REQUIRED
   - Human oversight built into the workflow: REQUIRED
   - Bias/accuracy testing on outputs: REQUIRED
   - Instructions for use for the customer (deployer): REQUIRED
5. Contract clauses needed:
   - upstream: model provider commitments on data and documentation
   - downstream: customer duties as deployer, liability split

Ce n'est pas du code exécutable. C'est le tri structuré des risques à faire avant de livrer toute fonctionnalité d'IA, et avant de signer le DPA que l'équipe achats d'un client vous renvoie annoté.

Pourquoi cela concerne aussi le SaaS « ordinaire »

On est tenté de croire que cela ne vise que le recrutement ou le crédit. Pourtant, des fonctionnalités banales peuvent basculer dans le risque élevé ou déclencher des obligations de transparence : un bot de support qui finit par donner des conseils financiers, un outil de planification qui décide qui accède à un service public, un modèle de modération qui façonne ce que voient les utilisateurs. La classification doit se faire fonctionnalité par fonctionnalité. Une étiquette posée au niveau du produit ne tiendra pas.

Vérification des acquis

1. Un éditeur SaaS intègre un modèle de fondation tiers dans son produit de présélection de candidats. Selon la logique de classification par niveaux de risque de l'AI Act, pourquoi cela déclencherait-il probablement des obligations plus strictes que le même modèle intégré dans un chatbot de support client ?

2. Pourquoi des clauses spécifiques à l'IA apparaissent-elles désormais dans les questionnaires de risque fournisseur et les DPA, au lieu d'être traitées séparément par les canaux de conformité généraux ?

3. De quoi dépendent principalement les obligations liées au « risque systémique » pour les modèles d'IA à usage général (GPAI) au titre de l'AI Act ?

CHOIX MULTIPLES

4. Sélectionnez TOUTES les bonnes réponses concernant le système de niveaux de risque de l'AI Act.

Sélectionnez toutes les réponses correctes.

CHOIX MULTIPLES

5. Sélectionnez TOUTES les bonnes réponses expliquant pourquoi les environnements réglementaires américain et européen posent des défis différents aux éditeurs SaaS qui vendent des produits intégrant de l'IA.

Sélectionnez toutes les réponses correctes.

À quoi ressemble une bonne gouvernance en pratique

Les éditeurs qui passent sans accroc les deals grands comptes en 2026 font en général quelques choses tôt.

Ils tiennent un inventaire IA vivant : chaque fonctionnalité d'IA, le modèle qui l'alimente, les données qu'elle touche, leur rôle au titre de l'AI Act et son niveau de risque. Ce document est joint aux questionnaires de sécurité, et personne ne reconstruit la réponse de zéro à chaque fois.

Ils lisent leurs conditions amont avant de promettre quoi que ce soit en aval. Si les conditions d'API de votre fournisseur de modèle prévoient 30 jours de conservation pour la détection d'abus, vous ne pouvez pas promettre à un client une conservation nulle. Votre contrat client ne peut pas promettre plus que ce que votre contrat amont permet.

Et ils prévoient un circuit human-in-the-loop pour tout ce qui touche à l'emploi, au crédit, à la santé ou à la sécurité, même si la fonctionnalité semble peu sensible aujourd'hui. Ajouter un contrôle humain avant le lancement coûte bien moins cher que de l'ajouter après un incident ou une reclassification.

Le NIST AI Risk Management Framework (américain, volontaire mais largement cité) complète bien les règles contraignantes de l'UE si vous voulez un processus de gouvernance interne unique qui satisfasse les deux.

Points clés

  • La régulation de l'IA prend désormais la forme de clauses contractuelles. Les DPA et les questionnaires de sécurité portent sur la provenance des modèles, la classification des risques et les flux de données.
  • Les niveaux de risque de l'AI Act s'appliquent aux cas d'usage. Le même LLM peut relever du risque limité dans une fonctionnalité et du risque élevé dans une autre.
  • Un éditeur SaaS qui intègre un modèle tiers dans son produit est généralement le fournisseur de ce système d'IA au sens du texte, et pas un simple déployeur. Pour les fonctionnalités à risque élevé, cela entraîne des obligations de documentation et de conformité.
  • Les échéances européennes du risque élevé pourraient glisser à fin 2027 ou 2028 avec la proposition Digital Omnibus, alors que les règles GPAI s'appliquent depuis août 2025. Aux États-Unis, les lois des États (Colorado, Californie) font face à une volonté fédérale de préemption : suivez les dates de près.
  • Un inventaire IA à jour et des conditions amont réellement lues vous font passer les achats grands comptes plus vite que des réponses improvisées à chaque questionnaire.