Gestion d'actifs · Compliance, explainability et gouvernance des modèles

La lettre de contrôle arrive un mardi

Un examinateur de la SEC écrit à votre société pour demander la documentation du terme « AI-driven » affiché sur votre site et du modèle qui alimente vos allocations de robo-advisory. Vous avez 30 jours. L'examinateur veut savoir : comment le modèle décide-t-il ? Qui l'a revu ? Pouvez-vous démontrer qu'un portefeuille recommandé était adapté au client qui l'a reçu ?

Si votre réponse est « l'équipe data science l'a construit et ça fonctionne bien », vous avez un problème. Construisons le dossier que vous auriez dû avoir dès le premier jour.

Trois prismes réglementaires, un seul modèle

Un modèle déployé en asset management se heurte rarement à une seule règle. Le même moteur de recommandation peut être examiné sous trois frameworks différents en même temps.

1. la SEC Marketing Rule

La Marketing Rule (SEC Rule 206(4)-1, en vigueur depuis 2021) encadre la façon dont les conseillers en investissement enregistrés font leur publicité. Elle interdit les déclarations fausses ou trompeuses et exige que toute affirmation soit étayée.

Le piège de l'IA : qualifier votre produit d'« AI-powered » ou de « machine learning optimized » alors que le modèle est une simple régression linéaire, ou revendiquer une performance que le modèle n'a pas réellement délivrée nette de frais. Si le marketing affirme que l'IA « surperforme », vous devez pouvoir le prouver par des enregistrements.

Exemple concret : votre site indique « notre IA s'adapte à la volatilité des marchés en temps réel ». Un examinateur demande les logs de réentraînement et la définition de « temps réel ». Si le modèle est réentraîné mensuellement, cette affirmation est trompeuse.

Le résumé publié par la SEC mérite d'être mis en favori : SEC Marketing Rule resources.

2. suitability et Reg BIBITechnologies et processus qui transforment des données brutes en insights actionnables via du reporting, des dashboards et de l'analyse, pour que les équipes décident sur des faits plutôt qu'à l'intuition.Voir la définition complète →

La suitability signifie qu'une recommandation doit correspondre au client précis (tolérance au risque, horizon de temps, situation financière). Pour les broker-dealers, la Regulation Best Interest (Reg BI) relève le niveau : les recommandations doivent servir l'intérêt supérieur du client, et pas seulement être « adaptées ».

Le piège de l'IA : un modèle qui optimise une métrique maison (revenus de frais, collecte sur les fonds) plutôt que les résultats du client. Si votre moteur d'allocation orient1e systématiquement les clients vers des fonds propriétaires à frais élevés, il vous faut une raison documentée liée au bénéfice client, pas à l'économie de la société.

3. model risk management : SR 11-7

SR 11-7 est la guidance de la Federal Reserve et de l'OCC sur le model risk management, publiée en 2011. Bien qu'écrite pour les banques, elle est devenue le standard de fait dans la finance, et les asset managers y sont de plus en plus tenus. Son idée centrale : un modèle est une simplification de la réalité, il porte donc un risque, et ce risque doit être géré sur tout le cycle de vie du modèle.

SR 11-7 repose sur trois piliers :

• Développement et implémentation : conception solide, hypothèses documentées, données de qualité.
• Validation : revue indépendante par des personnes qui n'ont pas construit le modèle.
• Gouvernance : politiques, rôles et supervision du haut vers le bas.

Lisez la source primaire, elle est courte et lisible : SR 11-7 guidance.

Constituer le dossier du modèle

Voici ce que les régulateurs (et, de plus en plus, les clients institutionnels sophistiqués en due diligence) attendent de voir.

Un inventaire des modèles

Chaque modèle a une entrée dans un registre central. Au minimum :

• Ce qu'il fait (allocation de portefeuille, signal de trading, scoring du risque client).
• Owner et développeur.
• Inputs et sources de données.
• Date de dernière validation et prochaine revue programmée.
• Niveau de matérialité (un modèle qui dimensionne des ordres compte plus qu'un modèle qui met en forme des rapports).

Si vous ne pouvez pas lister vos modèles, vous ne pouvez pas les gouverner. Beaucoup de sociétés découvrent pendant un contrôle que des shadow models construits dans des tableurs n'ont jamais rejoint l'inventaire.

Hypothèses et limites documentées

Écrivez ce que le modèle suppose et où il casse. Exemple : « Cet optimiseur moyenne-variance suppose que les rendements sont distribués normalement. Il sous-estime le risque de queue pendant les crises de liquidité. » Cette seule phrase montre à un examinateur que vous comprenez les angles morts du modèle.

Validation indépendante

La personne qui valide ne doit pas être celle qui a construit. La validation couvre :

• Solidité conceptuelle : la méthode est-elle adaptée au problème ?
• Analyse des résultats : le modèle performe-t-il sur des données out-of-sample (des données sur lesquelles il ne s'est jamais entraîné) ?
• Benchmarking : comment se compare-t-il à une alternative plus simple ?

L'explainability : le cœur du problème IA

Les modèles traditionnels étaient transparents. Un modèle linéaire vous donne le poids de chaque facteur. Les modèles de machine learning modernes (gradient boosting, réseaux de neurones) sont des black boxes : précis mais difficiles à interpréter.

Les régulateurs n'interdisent pas les black boxes. Ils exigent que vous puissiez expliquer chaque décision individuelle. Si un client demande « pourquoi le modèle a-t-il réduit mon allocation actions ? », « l'algorithme a décidé » n'est pas une réponse acceptable.

Explainability globale vs locale

• Explainability globale : quels facteurs comptent le plus sur l'ensemble des décisions.
• Explainability locale : pourquoi un client précis a reçu une recommandation précise.

La suitability se joue dans la vue locale. **Vous devez expliquer la décision pour *ce* client, à *cette* date.**

SHAP : un outil pratique

SHAP (SHapley Additive exPlanations) décompose une prédiction unique en contributions de chaque feature d'entrée, sur la base de la théorie des jeux coopératifs. Cela transforme « le modèle a dit 40 % d'obligations » en « l'âge a contribué +8 % aux obligations, la tolérance au risque déclarée +15 %, et l'horizon de temps court +12 % ».

import shap

# model = un modèle d'allocation entraîné
# X_client = la ligne de features d'un client
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(X_client)

# Produit les contributions par feature que vous pouvez logger et montrer à un client
shap.plots.waterfall(shap_values[0])

La sortie est auditable. Loggez-la avec la recommandation. Ainsi, quand l'examinateur interroge sur le client 4471, vous retrouvez les contributions exactes des features qui ont motivé le conseil. Ce log est votre preuve de suitability.

L'audit trail

Un audit trail est un enregistrement horodaté et infalsifiable de ce qui s'est passé et pourquoi. Pour un moteur de conseil IA, capturez :

• Version du modèle utilisée pour la décision (v3.2, pas « le modèle »).
• Snapshot des inputs : les données client et les données de marché exactes injectées.
• Output : la recommandation.
• Explication : la décomposition SHAP ou équivalente.
• Action humaine : un conseiller a-t-il revu, outrepassé ou accepté la recommandation ?

Le point sur la version est critique. Si vous réentraînez mensuellement, vous pouvez avoir douze modèles différents sur une année. Quand un client contexte un conseil de mars, vous devez reproduire le modèle de mars, pas celui de décembre. Stockez des artefacts de modèle versionnés, pas seulement le dernier.

Human in the loop

Les régulateurs regardent le conseil entièrement automatisé avec plus de prudence que le conseil assisté par IA. Documenter où un conseiller humain revoit le modèle et peut l'outrepasser réduit le risque et renforce votre position Reg BI. Loggez aussi les overrides : ils révèlent où le modèle et le jugement humain divergent.

Biais et traitement équitable

La suitability a une dimension d'équité. Si votre modèle de scoring du risque client a été entraîné sur des données historiques qui desservaient certains groupes, il peut leur recommander systématiquement de moins bons produits. C'est à la fois un risque de compliance et un risque réputationnel.

Testez-le. Comparez les recommandations entre segmentssegmentsDécouper un marché en groupes distincts de clients partageant des besoins, des caractéristiques ou des comportements similaires, afin de traiter chaque groupe avec une approche dédiée.Voir la définition complète → de clients à profil financier constant. Si deux clients aux finances et objectifs identiques reçoivent des conseils sensiblement différents, vous devez savoir pourquoi. Documentez le test, même si le résultat est propre. « Nous avons testé et n'avons trouvé aucune disparité » est une phrase forte dans un contrôle.

Monter le dossier avant d'en avoir besoin

Le thème commun aux trois prismes réglementaires est le même : documentez avant qu'on vous le demande, pas après. Une explication reconstruite a l'air défensive. Un log contemporain a l'air d'un contrôle.

Un package de gouvernance minimum viable pour un modèle déployé :

1. Entrée à l'inventaire avec niveau de matérialité.
2. Documentation de développement : finalité, données, hypothèses, limites.
3. Rapport de validation indépendante.
4. Logs d'explainability par décision (SHAP ou équivalent).
5. Audit trail versionné reliant inputs, outputs, version du modèle et revue humaine.
6. Résultats des tests de biais et de traitement équitable.
7. Justificatifs pour chaque affirmation marketing portant sur le modèle.

Ceci ne constitue ni un conseil en investissement ni un conseil juridique ; consultez vos équipes compliance et juridique sur la façon dont ces frameworks s'appliquent à votre société et à votre juridiction.

Points clés

• Un seul modèle d'IA peut relever simultanément de la SEC Marketing Rule, de la suitability/Reg BI et de SR 11-7 ; construisez une documentation qui satisfait les trois d'un coup.
• Les régulateurs n'interdisent pas les modèles black-box, mais ils exigent que vous puissiez expliquer chaque décision unique ; les outils d'explainability locale comme SHAP transforment des outputs opaques en preuves auditables, client par client.
• Tenez un audit trail versionné : version du modèle, snapshot des inputs, output, explication et tout override humain, afin de pouvoir reproduire le conseil exact donné à n'importe quelle date passée.
• Ne laissez jamais le marketing devancer le modèle ; chaque affirmation « AI-powered » ou « surperforme » doit être étayée par des enregistrements.
• La posture gagnante est la documentation contemporaine. Un dossier constitué avant l'arrivée de la lettre de contrôle signale la mamaUtiliser un logiciel pour automatiser les tâches et campagnes marketing répétitives, afin de personnaliser à grande échelle sur des canaux comme l'email, le web et le social.Voir la définition complète →îtrise ; un dossier reconstruit après signale le risque.