La gouvernance et l'AI Act européen : l'essentiel

En 2025, une entreprise a lancé un outil d'IA qui notait les candidats à l'embauche en partie sur leurs expressions faciales pendant des entretiens vidéo. Sous l'AI Act européen, ce type de reconnaissance des émotions sur le lieu de travail est interdit. Pas sanctionné d'une amende. Interdit.
L'AI Act européen est la première grande loi au monde qui encadre directement l'intelligence artificielle. Si vous concevez des outils d'IA, si vous les utilisez au travail ou si vous les achetez pour votre équipe, vous devez en connaître l'essentiel. Inutile de lire 100 pages de texte juridique. Il vous faut la structure de la loi : ce qui est interdit, ce qui est strictement encadré, et à quel moment les règles s'appliquent.
Ce que fait réellement la loi
L'AI Act classe les systèmes d'IA en niveaux de risque. Plus le risque pour les droits et la sécurité des personnes est élevé, plus les règles sont lourdes. Voyez-le comme un système de feux de signalisation à quatre niveaux.
- Risque inacceptable : interdiction pure et simple.
- Risque élevé : autorisé, mais strictement encadré (documentation, tests, supervision humaine).
- Risque limité : autorisé, avec des obligations de transparence (vous devez informer les personnes).
- Risque minimal : utilisation quasi libre (filtres anti-spam, IA dans les jeux vidéo).
Un point clé : la loi s'applique en fonction du lieu où l'IA est utilisée, pas du lieu où l'entreprise est établie. Une startup américaine dont le chatbot sert des clients européens est concernée. Le RGPDRGPDRèglement de l'UE encadrant la collecte, le stockage et l'usage des données personnelles, avec des amendes indexées sur le chiffre d'affaires mondial.Voir la définition complète → (la loi européenne sur la protection des données) a la même portée extraterritoriale, et c'est cette portée qui en a fait un standard mondial.
Deux définitions. Un « fournisseur » est celui qui conçoit ou vend le système d'IA. Un « déployeur » est celui qui l'utilise dans son organisation. Tous deux ont des obligations, et celles des fournisseurs sont les plus lourdes.
Niveau 1 : ce qui est interdit
Ces usages sont exclus dans l'UE depuis février 2025. Exemples concrets :
- La notation sociale : classer les personnes selon leur fiabilité puis leur refuser des services. (Imaginez un score national de « bonne conduite ».)
- La reconnaissance des émotions au travail ou à l'école, c'est-à-dire un logiciel qui prétend détecter à partir de votre visage ou de votre voix si vous êtes en colère, si vous vous ennuyez ou si vous mentez.
- La collecte non ciblée d'images faciales pour constituer des bases de reconnaissance faciale à partir d'images d'internet ou de vidéosurveillance.
- L'IA manipulatrice qui exploite les vulnérabilités des personnes (âge, handicap) pour altérer leur comportement et leur nuire.
- La police prédictive fondée uniquement sur le profilage d'une personne pour deviner qu'elle commettra un délit.
- La catégorisation biométrique qui déduit des caractéristiques sensibles comme l'origine ethnique, l'orientation sexuelle ou les opinions politiques.
Si votre idée de produit touche l'un de ces points, arrarrL'Annual Recurring Revenue (ARR) est le revenu normalisé et prévisible qu'une entreprise par abonnement attend de ses contrats actifs sur une année.Voir la définition complète →êtez. Aucune checklist de conformité ne la rend légale dans l'UE.
Niveau 2 : ce qui est à haut risque
C'est le niveau auquel la plupart des professionnels seront réellement confrontés. Haut risque ne veut pas dire « malveillant ». Cela signifie que l'IA est utilisée dans un contexte où une mauvaise décision affecte sérieusement la vie de quelqu'un. Exemples :
- L'IA qui trie des CV ou classe des candidats.
- Le credit scoring et les décisions d'octroi de prêt.
- L'IA dans les dispositifs médicaux et le diagnostic.
- La notation d'examens et les admissions.
- Les infrastructures critiques comme les réseaux électriques et l'eau.
- Certains usages par les forces de l'ordre, le contrôle aux frontières et la justice.
Si vous déployez un système à haut risque, vous prenez de vraies obligations. Vous devez garder des humains dans la boucle, journaliser ce que fait le système, utiliser des données de qualité, surveiller les biais et être transparent avec les personnes concernées. Les fournisseurs doivent enregistrer ces systèmes dans une base de données européenne avant de les commercialiser.
Un scénario réel
Supposons que votre équipe RH achète un outil d'IA de tri de CV. Vous êtes désormais déployeur d'un système à haut risque. Vos obligations comprennent :
- Désigner une personne pour superviser ses décisions (et les examiner réellement, pas les valider machinalement).
- Conserver les logs de ses résultats.
- Informer les candidats que l'IA intervient dans le processus.
- Vérifier que le fournisseur vous a remis des instructions adéquates et une évaluation des risques.
« Nous l'avons simplement acheté sur étagère » n'est pas une défense. Acheter une IA à haut risque vous rend responsable de la manière dont vous l'utilisez.
Niveau 3 : risque limité (le niveau transparence)
Pour un usage général, les outils du quotidien comme ChatGPT, Claude et Gemini se situent pour l'essentiel ici. La règle de base est simple : les gens doivent savoir quand ils ont affaire à une IA.
- Les chatbots doivent indiquer clairement aux utilisateurs qu'ils parlent à une machine.
- Les images, sons et vidéos générés ou fortement retouchés par IA (« deepfakes ») doivent être signalés comme artificiels.
- Les contenus générés par IA doivent porter un marquage lisible par machine lorsque c'est faisable.
Si vous déployez un chatbot de service client, une mention d'une ligne du type « Vous échangez avec notre assistant IA » suffit déjà largement.
IA à usage général : les modèles derrière vos outils
Les grands modèles derrière ChatGPT, Claude et Gemini sont appelés IA à usage général (GPAI). Ils sont assez polyvalents pour accomplir de nombreuses tâches. L'AI Act impose aux entreprises qui les développent un ensemble d'obligations distinct, applicable depuis août 2025.
Les fournisseurs de GPAI doivent publier des résumés de leurs données d'entraînement, respecter le droit d'auteur européen et fournir une documentation technique. Les modèles les plus puissants (ceux qui présentent un « risque systémique ») sont soumis à des exigences supplémentaires de tests et de sécurité. L'UE a publié un General-Purpose AI Code of Practice volontaire pour aider les fournisseurs à se mettre en conformité, et la plupart des grands éditeurs de modèles l'ont signé.
Pour vous, en tant qu'utilisateur, l'essentiel se joue en amont. C'est aussi pour cela que la documentation de votre fournisseur d'IA et ses « model cards » comptent : elles existent en partie pour satisfaire ces règles.
Le calendrier, et pourquoi il a bougé
L'AI Act est entré en vigueur en août 2024, et les règles s'appliquent par vagues. Le plan initial :
- Février 2025 : interdiction des usages prohibés, début des obligations de formation à l'IA.
- Août 2025 : application des règles pour les modèles d'IA à usage général.
- Août 2026 : application de la plupart des règles sur le haut risque et la transparence.
- Août 2027 : application des règles sur le haut risque pour l'IA intégrée à des produits réglementés (dispositifs médicaux, machines).
Les deux premières échéances ont été tenues. Celles du haut risque, non. En novembre 2025, la Commission européenne a proposé un paquet « Digital Omnibus », en partie parce que les normes techniques dont les entreprises ont besoin pour se conformer prenaient du retard. Il conditionne les règles sur le haut risque à la disponibilité de ces normes, avec des dates butoirs fixées à décembre 2027 pour des usages comme le recrutement, le crcrLe pourcentage de visiteurs ou de prospects qui réalisent une action attendue (achat, inscription, formulaire de contact), calculé en divisant les conversions par le nombre total d'opportunités.Voir la définition complète →édit et l'éducation, et à août 2028 pour l'IA intégrée à des produits réglementés. Le paquet proposait aussi d'alléger certaines obligations, notamment en transférant l'obligation principale de formation à l'IA des entreprises vers les États.
Vérifiez le texte juridique en vigueur avant de planifier autour d'une date. L'Omnibus devait être adopté par le Parlement et le Conseil, et certains détails ont évolué en cours de route. La page de la Commission consacrée à l'AI Act en suit l'avancement.
Le message pratique reste le même. Les interdictions et les règles GPAI sont en vigueur. Les obligations liées au haut risque arrivent, simplement un peu plus tard. Un report vous laisse le temps de vous préparer correctement. Il ne vous dispense pas du travail, et les acheteurs comme les régulateurs posent déjà la question.
Les sanctions, en bref
Les amendes sont lourdes. Les usages interdits peuvent coûter jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial, le montant le plus élevé étant retenu. Les autres manquements sont plafonnés plus bas. Les montants sont calibrés pour que la conformité coûte moins cher que l'ignorance de la loi.
Vérification des acquis
1. Quel est le principe d'organisation central utilisé par l'AI Act européen pour déterminer le niveau d'encadrement d'un système d'IA ?
2. Une startup américaine sans bureau dans l'UE propose un chatbot qui sert des clients en France et en Allemagne. Pourquoi l'AI Act européen s'applique-t-il quand même à elle ?
3. Dans le vocabulaire de l'AI Act européen, qu'est-ce qui distingue un « fournisseur » d'un « déployeur » ?
4. Sélectionnez TOUS les usages de l'IA qui relèvent du niveau « risque inacceptable » et sont interdits dans l'UE.
Sélectionnez toutes les réponses correctes.
5. Sélectionnez TOUTES les affirmations qui décrivent correctement la différence entre les niveaux de risque de l'AI Act européen.
Sélectionnez toutes les réponses correctes.
Une méthode simple pour savoir où vous en êtes
Vous n'avez pas besoin d'un avocat pour un premier tri. Posez trois questions sur tout système d'IA que vous utilisez ou concevez :
- L'usage est-il interdit ? (Notation sociale, détection des émotions au travail, etc.) Si oui, arrêtez.
- Est-il à haut risque ? (Recrutement, crédit, santé, éducation, forces de l'ordre.) Si oui, vous avez de vraies obligations, même si l'échéance a été repoussée.
- Échange-t-il avec des personnes ou génère-t-il du contenu pour elles ? Si oui, vous leur devez de la transparence.
Voici ce tri sous forme d'un petit script que vous pourriez adapter pour une checklist interne :
def classify_ai_use(use_case):
prohibited = {"social_scoring", "workplace_emotion_recognition",
"untargeted_face_scraping", "predictive_policing"}
high_risk = {"cv_screening", "credit_scoring", "medical_diagnosis",
"exam_scoring", "border_control"}
if use_case in prohibited:
return "PROHIBITED: do not deploy in the EU."
if use_case in high_risk:
return "HIGH-RISK: human oversight, logging, bias checks required."
return "LIMITED/MINIMAL: add a clear 'this is AI' disclosure."
print(classify_ai_use("cv_screening"))
# HAUT RISQUE : supervision humaine, journalisation, contrôles de biais requis.C'est un premier filtre, pas un conseil juridique. Il oblige quand même à poser la bonne première question à chaque fois.
Ce que cela implique pour les lecteurs hors UE
Même si vous êtes aux États-Unis, au Royaume-Uni ou ailleurs, vous avez des raisons de vous y intéresser :
- Portée : si une partie de vos utilisateurs se trouve dans l'UE, l'AI Act peut s'appliquer à vous.
- Effet modèle : comme le RGPD, cette loi inspire les règles ailleurs, et beaucoup d'entreprises adoptent un standard mondial unique plutôt que d'en jongler plusieurs.
- Bonne pratique : supervision humaine, transparence et qualité des données relèvent d'une saine hygiène de l'IA, avec ou sans régulateur.
Points clés à retenir
- Retenez les quatre niveaux : interdit, haut risque, limité (transparence) et minimal. La plupart des usages quotidiens de l'IA relèvent du niveau « limité », ce qui consiste surtout à indiquer qu'il s'agit d'une IA.
- Les interdictions s'appliquent depuis février 2025. La notation sociale, la reconnaissance des émotions au travail et à l'école, la collecte non ciblée d'images faciales et la police prédictive fondée sur le profilage sont proscrites dans l'UE.
- Les règles sur les modèles GPAI s'appliquent depuis août 2025. La documentation de votre fournisseur existe en partie à cause d'elles.
- Les échéances du haut risque ont bougé. La proposition Digital Omnibus les a repoussées vers décembre 2027 (recrutement, crédit, éducation) et août 2028 (produits réglementés). Vérifiez le texte final, et traitez dès maintenant comme à haut risque l'IA utilisée pour le recrutement, le crédit, la santé et l'éducation.
- Appliquez le tri en trois questions (interdit ? haut risque ? échange avec des personnes ?) à chaque outil d'IA avant de le déployer.
À faire, tiré de cette leçon
Ces actions sont compilées dans le plan d'action du rôle.
- Ne clonez jamais la voix, le visage ou l'image d'une personne réelle sans consentement documenté
- Passez tout outil par un triage en trois questions (interdit, à haut risque, en contact avec des personnes) avant tout déploiement
Articles liés
Les articles récents du blog qui s'appuient sur cette leçon.
- IAPourquoi le piratage d'Anthropic en 12 heures a-t-il épargné Claude mais pas Slack ?Depuis deux ans, la confidentialité des données face aux LLM se résume à une consigne : ne pas coller d'informations sensibles dans un chatbot. Les événements d'octobre 2026 montrent que le risque se trouve désormais dans les connecteurs, les permissions et les fournisseurs tiers auxquels vos agents ont accès.
- IAAnthropic prévient que ses modèles pourraient tuer des gens, puis lève des fonds sur cette baseDans son dossier d'introduction en bourse, Anthropic reconnaît que ses propres modèles pourraient résister à un arrêt forcé et provoquer des dommages catastrophiques. Cette semaine, le secteur a montré qu'il accélère la mise en production pendant que les mécanismes de contrôle courent derrière.
- IAQuand l'IA agit avant que la gouvernance ne réagisseUne hallucination d'IA sur des composants nucléaires chinois a failli déclencher une frappe militaire américaine. Cette semaine illustre avec une clarté rare ce qui se passe quand les systèmes d'IA avancent plus vite que les mécanismes de contrôle.