Compliance, explicabilité et gouvernance des modèles

La lettre d'examen arrive un mardi

Un examinateur de la SEC écrit à votre société pour demander la documentation relative à la mention « AI-driven » sur votre site et au modèle qui alimente vos allocations de robo-advisory. Vous avez 30 jours. L'examinateur veut savoir : comment le modèle décide-t-il ? Qui l'a revu ? Pouvez-vous démontrer qu'un portefeuille recommandé convenait au client qui l'a reçu ?

Si votre réponse est « l'équipe data science l'a construit et ça marche bien », vous avez un problème. Construisons le dossier que vous auriez dû avoir dès le premier jour.

Trois prismes réglementaires, un seul modèle

Un modèle déployé en asset management fait rarement face à une seule règle. Le même moteur de recommandation peut être examiné simultanément sous trois cadres différents.

1. la marketing rule de la SEC

La Marketing Rule (SEC Rule 206(4)-1, en vigueur depuis 2021) encadre la façon dont les conseillers en investissement enregistrés font de la publicité. Elle interdit les déclarations fausses ou trompeuses et exige que toute affirmation soit étayée.

Le piège de l'IA : présenter votre produit comme « AI-powered » ou « machine learning optimized » alors que le modèle est une simple régression linéaire, ou revendiquer une performance que le modèle n'a pas réellement délivrée nette de frais. Si le marketing affirme que l'IA « surperforme », vous devez pouvoir l'appuyer sur des documents.

Exemple concret : votre site indique « notre IA s'adapte à la volatilité de marché en temps réel ». Un examinateur demande les logs de réentraînement et la définition de « temps réel ». Si le modèle est réentraîné chaque mois, cette affirmation est trompeuse.

Le résumé de la SEC vaut la peine d'être mis en favori : SEC Marketing Rule resources.

2. suitability et reg BIBITechnologies et processus qui transforment des données brutes en insights actionnables via du reporting, des dashboards et de l'analyse, pour que les équipes décident sur des faits plutôt qu'à l'intuition.Voir la définition complète →

La suitability signifie qu'une recommandation doit correspondre au client précis (tolérance au risque, horizon de temps, situation financière). Pour les broker-dealers, la Regulation Best Interest (Reg BI) relève le niveau : les recommandations doivent servir le meilleur intérêt du client, pas seulement être « appropriées ».

Le piège de l'IA : un modèle qui optimise une métrique maison (revenus de frais, collecte sur les fonds) plutôt que les résultats clients. Si votre moteur d'allocation oriente systématiquement les clients vers des fonds maison à frais plus élevés, il vous faut une raison documentée liée au bénéfice client, pas à l'économie de la société.

3. gestion du risque de modèle : SR 11-7

SR 11-7 est la guidance de la Federal Reserve et de l'OCC sur la gestion du risque de modèle, publiée en 2011. Bien qu'écrite pour les banques, elle est devenue le standard de fait dans la finance, et les gérants d'actifs y sont de plus en plus soumis. Son idée centrale : un modèle est une simplification de la réalité, il porte donc un risque, et ce risque doit être géré sur tout le cycle de vie du modèle.

SR 11-7 repose sur trois piliers :

• Développement et implémentation : conception rigoureuse, hypothèses documentées, données de qualité.
• Validation : revue indépendante par des personnes qui n'ont pas construit le modèle.
• Gouvernance : politiques, rôles et supervision de haut en bas.

Lisez la source primaire, elle est courte et lisible : SR 11-7 guidance.

Constituer le dossier du modèle

Voici ce que les régulateurs (et, de plus en plus, les clients institutionnels avertis en due diligence) s'attendent à voir.

Un inventaire des modèles

Chaque modèle a une entrée dans un registre central. Au minimum :

• Ce qu'il fait (allocation de portefeuille, signal de trading, scoring de risque client).
• Owner et développeur.
• Inputs et sources de données.
• Date de dernière validation et prochaine revue programmée.
• Niveau de matérialité (un modèle qui dimensionne des trades compte plus qu'un modèle qui met en forme des rapports).

Si vous ne pouvez pas lister vos modèles, vous ne pouvez pas les gouverner. Beaucoup de sociétés découvrent lors d'un examen que des shadow models construits dans des tableurs n'ont jamais rejoint l'inventaire.

Hypothèses et limites documentées

Écrivez ce que le modèle suppose et où il casse. Exemple : « Cet optimiseur moyenne-variance suppose que les rendements suivent une loi normale. Il sous-estime le risque de queue pendant les crises de liquidité. » Cette seule phrase montre à un examinateur que vous comprenez les angles morts du modèle.

Validation indépendante

La personne qui valide ne doit pas être celle qui a construit. La validation couvre :

• Solidité conceptuelle : la méthode est-elle adaptée au problème ?
• Analyse des résultats : performe-t-il sur des données out-of-sample (des données sur lesquelles le modèle ne s'est jamais entraîné) ?
• Benchmarking : comment se compare-t-il à une alternative plus simple ?

L'explicabilité : le cœur du problème IA

Les modèles traditionnels étaient transparents. Un modèle linéaire vous donne le poids de chaque facteur. Les modèles de machine learning modernes (gradient boosting, réseaux de neurones) sont des black boxes : précis mais difficiles à interpréter.

Les régulateurs n'interdisent pas les black boxes. Ils exigent que vous puissiez expliquer chaque décision individuelle. Si un client demande « pourquoi le modèle a-t-il réduit mon allocation actions ? », « l'algorithme en a décidé ainsi » n'est pas une réponse acceptable.

Explicabilité globale vs locale

• Explicabilité globale : quels facteurs comptent le plus sur l'ensemble des décisions.
• Explicabilité locale : pourquoi un client précis a reçu une recommandation précise.

La suitability se joue dans la vue locale. Vous devez expliquer la décision pour *ce* client, à *cette* date.

SHAP : un outil pratique

SHAP (SHapley Additive exPlanations) décompose une prédiction unique en contributions de chaque feature d'entrée, sur la base de la théorie des jeux coopératifs. Il transforme « le modèle a dit 40 pour cent d'obligations » en « l'âge a contribué +8 pour cent aux obligations, la tolérance au risque déclarée +15 pour cent, et l'horizon de temps court +12 pour cent ».

import shap

# model = un modèle d'allocation entraîné
# X_client = la ligne de features d'un client
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(X_client)

# Produit les contributions par feature que vous pouvez logger et montrer à un client
shap.plots.waterfall(shap_values[0])

La sortie est auditable. Loggez-la avec la recommandation. Ainsi, quand l'examinateur interroge sur le client 4471, vous récupérez les contributions exactes des features qui ont produit le conseil. Ce log est votre preuve de suitability.

La piste d'audit

Une piste d'audit est un enregistrement horodaté et infalsifiable de ce qui s'est passé et pourquoi. Pour un moteur de conseil IA, capturez :

• Version du modèle utilisée pour la décision (v3.2, pas « le modèle »).
• Snapshot des inputs : les données client et de marché exactes fournies en entrée.
• Output : la recommandation.
• Explication : la décomposition SHAP ou équivalente.
• Action humaine : un conseiller a-t-il revu, écrasé ou accepté la recommandation ?

Le point sur la version est critique. Si vous réentraînez chaque mois, vous pouvez avoir douze modèles différents dans l'année. Quand un client conteste un conseil de mars, vous devez reproduire le modèle de mars, pas celui de décembre. Stockez des artefacts de modèle versionnés, pas seulement le dernier.

Human in the loop

Les régulateurs considèrent le conseil entièrement automatisé avec plus de prudence que le conseil assisté par IA. Documenter où un conseiller humain revoit et peut écraser le modèle réduit le risque et renforce votre position au regard de Reg BIBITechnologies et processus qui transforment des données brutes en insights actionnables via du reporting, des dashboards et de l'analyse, pour que les équipes décident sur des faits plutôt qu'à l'intuition.Voir la définition complète →. Loggez aussi les overrides : ils révèlent où le modèle et le jugement humain divergent.

Biais et traitement équitable

La suitability a une dimension d'équité. Si votre modèle de scoring de risque client a été entraîné sur des données historiques qui desservaient certains groupes, il peut leur recommander systématiquement de moins bons produits. C'est à la fois un risque de compliance et un risque réputationnel.

Testez-le. Comparez les recommandations entre segmentssegmentsDécouper un marché en groupes distincts de clients partageant des besoins, des caractéristiques ou des comportements similaires, afin de traiter chaque groupe avec une approche dédiée.Voir la définition complète → de clients à profil financier constant. Si deux clients aux finances et objectifs identiques reçoivent des conseils sensiblement différents, vous devez savoir pourquoi. Documentez le test, même si le résultat est propre. « Nous avons testé et n'avons trouvé aucune disparité » est une ligne solide lors d'un examen.

Constituer le dossier avant d'en avoir besoin

Le fil conducteur des trois prismes réglementaires est le même : documentez avant qu'on vous le demande, pas après. Une explication reconstruite a l'air défensive. Un log contemporain a l'air d'un contrôle.

Un package de gouvernance minimal viable pour un modèle déployé :

1. Entrée d'inventaire avec niveau de matérialité.

2. Documentation de développement : objet, données, hypothèses, limites.

3. Rapport de validation indépendante.

4. Logs d'explicabilité par décision (SHAP ou équivalent).

5. Piste d'audit versionnée reliant inputs, outputs, version du modèle et revue humaine.

6. Résultats des tests de biais et de traitement équitable.

7. Justificatifs pour chaque affirmation marketing sur le modèle.

Ceci ne constitue pas un conseil en investissement ni un conseil juridique ; consultez vos équipes compliance et juridique sur la façon dont ces cadres s'appliquent à votre société et à votre juridiction.

Points clés

• Un seul modèle IA peut relever simultanément de la SEC Marketing Rule, de la suitability/Reg BIBITechnologies et processus qui transforment des données brutes en insights actionnables via du reporting, des dashboards et de l'analyse, pour que les équipes décident sur des faits plutôt qu'à l'intuition.Voir la définition complète → et de SR 11-7 ; construisez une documentation qui satisfait les trois d'un coup.
• Les régulateurs n'interdisent pas les modèles black-box, mais ils exigent que vous puissiez expliquer chaque décision unique ; les outils d'explicabilité locale comme SHAP transforment des sorties opaques en preuves auditables, client par client.
• Tenez une piste d'audit versionnée : version du modèle, snapshot des inputs, output, explication et tout override humain, afin de pouvoir reproduire le conseil exact donné à n'importe quelle date passée.
• Ne laissez jamais le marketing devancer le modèle ; toute affirmation « AI-powered » ou « surperforme » doit être étayée par des documents.
• La posture gagnante est la documentation contemporaine. Un dossier constitué avant l'arrivée de la lettre d'examen signale le contrôle ; un dossier reconstruit après signale le risque.