2/4+150 XP

Construire des modèles de décision de crédit qui résistent au contrôle du fair lending

# Construire des modèles de décision de crédit qui résistent au contrôle du fair lending

Un modèle de machine learning rejette une demande de prêt. Le code motif indique « historique de crédit insuffisant ». Mais en creusant les feature importances, vous découvrez que le modèle s'est largement appuyé sur le code postal du demandeur, lequel recoupe un quartier historiquement soumis au redlining. Personne n'a saisi « race » dans le modèle. Le modèle en a trouvé un proxy quand même.

C'est le problème central de la décision de crédit par l'IA. Votre modèle peut être statistiquement excellent et rester illégal. Reconstruisons-en un correctement.

Les règles auxquelles vous vous confrontez réellement

Deux notions juridiques encadrent tout modèle de crédit aux États-Unis.

ECOA (Equal Credit Opportunity Act) : une loi fédérale qui interdit la discrimination en matière de crédit fondée sur des critères protégés, dont la race, la couleur, la religion, l'origine nationale, le sexe, la situation matrimoniale, l'âge et la perception d'aides publiques. Elle ne se soucie pas de votre intention. Elle se soucie des résultats.

Disparate impact : une théorie juridique selon laquelle une politique neutre en apparence produit malgré tout un effet discriminatoire sur une classe protégée. Si votre score « objectif » approuve 80 % d'un groupe et 50 % d'un autre à solvabilité comparable, vous avez un problème de disparate impact, même si vous n'avez jamais utilisé de variable protégée.

Le piège principal : retirer les variables protégées ne supprime pas le biais. Cela le dissimule.

Pourquoi les proxys font entrer le biais en contrebande

Les modèles de machine learning sont des machines à découvrir des proxys. Donnez-leur assez de features et ils reconstruiront une classe protégée à partir de données corrélées.

Proxys courants dans les données de crédit :

Code postal et census tract : fortement corrélés à la race du fait de la ségrégation résidentielle historique.
Prénom : corrélé au sexe et parfois à l'origine ethnique.
Type d'employeur ou profession : peut servir de proxy pour l'âge ou l'origine nationale.
Catégories d'achats et de transactions : peuvent révéler la situation matrimoniale, la religion ou un handicap.

Un modèle qui utilise le code postal pour prédire le défaut ne modélise pas le risque. Il modélise souvent qui habite où, ce qui revient souvent à modéliser la race. Le Consumer Financial Protection Bureau (CFPB) a mis en garde les prêteurs à plusieurs reprises sur exactement ce point. Voir ses orientations sur l'adverse action et les modèles complexes.

La reconstruction : un workflow discipliné

Voici comment une équipe consciente des enjeux de fair lending construit un modèle de crédit. L'ordre compte.

Étape 1 : isoler les attributs protégés, ne pas les supprimer

Contre-intuitif mais essentiel. Vous avez besoin des données de classe protégée pour *tester* le biais, même si vous ne pouvez pas les utiliser pour *décider*.

Stockez la race, le sexe et l'âge séparément de vos features de modélisation. Vous ne les utiliserez que pour l'analyse d'équité, jamais comme entrées du modèle.

Pour le crédit immobilier, les données HMDA (Home Mortgage Disclosure Act) vous imposent déjà d'en collecter une partie. Pour les autres produits de crédit, les prêteurs recourent souvent à la méthode BISG (Bayesian Improved Surname Geocoding) pour *estimer* la classe protégée à des fins de test, puisqu'ils n'ont pas le droit de la demander.

Étape 2 : auditer chaque feature au regard du risque de proxy

Avant l'entraînement, posez la question pour chaque variable : peut-elle reconstruire une classe protégée ?

Un test simple : essayez de prédire l'attribut protégé *à partir* de vos features candidates. Si un modèle devine la race depuis votre jeu de features avec une forte précision, ces features portent un risque de proxy.

python

# Détection de proxy : peut-on prédire un attribut protégé à partir des features du modèle ?
from sklearn.ensemble import RandomForestClassifier
from sklearn.model_selection import cross_val_score

# X = features candidates du modèle (AUCUN attribut protégé)
# race_proxy = classe protégée estimée, pour test uniquement
proxy_model = RandomForestClassifier(n_estimators=200, random_state=42)
scores = cross_val_score(proxy_model, X, race_proxy, cv=5, scoring='roc_auc')

print(f"Proxy leakage AUC: {scores.mean():.3f}")
# AUC proche de 0,5 = les features révèlent peu. Proche de 1,0 = forte fuite par proxy.

Si le code postal produit ici une AUC élevée, c'est votre signal d'alerte. Vous devrez peut-être le retirer, l'agréger à un niveau plus grossier, ou le remplacer par une variable directement pertinente (par exemple, un revenu vérifié plutôt que le revenu du quartier).

Étape 3 : mesurer le disparate impact avec la bonne métrique

Le filtre classique est l'adverse impact ratio, parfois rattaché à la « four-fifths rule » : si le taux d'approbation d'un groupe protégé est inférieur à 80 % de celui du groupe favorisé, les régulateurs peuvent le signaler.

Exemple. Votre modèle approuve :

Groupe A : 70 % d'approbation
Groupe B : 49 % d'approbation

Ratio = 49 / 70 = 0,70. C'est en dessous de 0,80. À investiguer.

La four-fifths rule est un filtre grossier, pas un refuge juridique. Un ratio supérieur à 0,80 ne garantit pas la conformité, et un ratio inférieur ne signifie pas automatiquement une infraction. Il vous indique seulement où regarder.

Étape 4 : chercher une alternative moins discriminatoire

C'est l'étape que beaucoup d'équipes sautent et que les régulateurs attendent de plus en plus. Si deux modèles ont des performances comparables en précision mais que l'un présente moins de disparate impact, vous pouvez être juridiquement tenu de choisir le plus équitable.

En pratique, vous réentraînez avec différents jeux de features, différentes régularisations ou des contraintes d'équité, puis vous comparez. L'objectif : trouver un modèle qui maintient la performance business tout en réduisant l'écart d'approbation. Documentez chaque alternative testée. En cas de poursuite ou d'examen, « nous avons cherché un modèle moins discriminatoire et voici nos preuves » est une position solide.

Adverse action notices : l'explication que vous devez légalement

Quand vous refusez un crédit (ou proposez des conditions moins favorables), l'ECOA et le Fair Credit Reporting Act vous imposent de dire au demandeur *pourquoi*. C'est l'adverse action notice.

La règle : les motifs doivent être spécifiques et exacts. « Votre score était trop bas » ne suffit pas. « Notre algorithme vous a refusé » non plus.

Le CFPB a indiqué clairement que le recours à un modèle complexe ou « black box » n'est pas une excuse pour s'en dispenser. Si votre modèle est trop opaque pour être expliqué, c'est votre problème, pas un bouclier juridique.

À quoi ressemble un motif conforme

Les codes motifs acceptables renvoient aux véritables déterminants de la décision :

« Nombre d'impayés récents sur vos comptes »
« Antériorité de crédit insuffisante »
« Ratio élevé entre dette et crédit disponible »

Non acceptables :

« Score de risque propriétaire »
« Sortie d'un modèle de machine learning »
Un motif qui est en réalité un proxy (imaginez devoir écrire « votre quartier » sur une notification ; à lui seul, cela signale un problème)

Comment les équipes les génèrent à partir de modèles ML

Pour les modèles complexes, les prêteurs recourent souvent à des méthodes d'explicabilité comme SHAP (SHapley Additive exPlanations), qui attribuent une prédiction à des features individuelles. Vous prenez les features qui ont poussé un demandeur vers le refus, vous les mappez sur des codes motifs en langage clair, et vous en imprimez les principaux.

Deux précautions :

1. L'explication doit refléter ce que le modèle *a réellement fait*, pas un récit a posteriori plus présentable.

2. Si SHAP révèle qu'une variable proxy a déterminé le refus, vous n'avez pas seulement un problème d'explication, vous avez un problème de légalité. L'étape d'explicabilité fait souvent remonter des biais que vous aviez manqués.

Vérification des acquis

1. Selon la théorie du disparate impact, pourquoi un modèle de crédit peut-il être jugé illégal même s'il n'a jamais utilisé de variable protégée comme la race ?

2. Pourquoi retirer les variables protégées d'un modèle de crédit ne suffit-il pas à éliminer le biais ?

3. Un demandeur est refusé avec le code motif « historique de crédit insuffisant », mais les feature importances révèlent que le modèle s'est fortement appuyé sur un code postal recoupant une zone historiquement soumise au redlining. Qu'est-ce que cela illustre le mieux ?

CHOIX MULTIPLES

4. Sélectionnez TOUTES les bonnes réponses. Lesquelles de ces variables sont couramment citées comme proxys pouvant faire entrer une information de classe protégée dans les modèles de crédit ?

Sélectionnez toutes les réponses correctes.

CHOIX MULTIPLES

5. Sélectionnez TOUTES les bonnes réponses. Quelles affirmations décrivent correctement la façon dont l'ECOA encadre les modèles de crédit ?

Sélectionnez toutes les réponses correctes.

Gouvernance : tenir le choc lors d'un examen

Un modèle conforme au fair lending n'est pas un chantier ponctuel. Les régulateurs et les équipes internes de model risk attendent des contrôles continus.

Documentation du modèle

Tenez un dossier couvrant : les données utilisées, les features testées et écartées, les métriques d'équité au lancement, et la recherche d'alternative moins discriminatoire. Les examinateurs le demanderont. « Nous n'avons pas de documentation » revient presque à reconnaître une infraction.

Surveillance continue de la dérive

Le biais n'est pas statique. Un modèle équitable au lancement peut dériver à mesure que les populations et l'économie changent. Suivez les taux d'approbation par groupe protégé chaque mois ou chaque trimestre. Si l'adverse impact ratio passe sous votre seuil, déclenchez une revue.

Revue humaine des cas limites

Les refus entièrement automatisés sans supervision humaine sont risqués, surtout près des frontières de décision. Beaucoup de prêteurs orientent les dossiers limites ou atypiques vers un souscripteur humain capable de voir ce que le modèle a manqué.

Le problème des fournisseurs

Si vous achetez un modèle de scoring à un tiers, vous restez responsable. « C'est le fournisseur qui l'a construit » ne transfère pas votre responsabilité au titre de l'ECOA. Vous devez pouvoir expliquer et défendre le modèle que vous utilisez. Exigez de la documentation et des tests d'équité de la part des fournisseurs avant tout déploiement.

Points clés

Retirer les variables protégées ne supprime pas le biais. Les modèles de machine learning reconstruisent la race et le sexe à partir de proxys comme le code postal, le nom et les données de transaction. Auditez chaque feature en testant si elle permet de prédire une classe protégée.
Conservez les attributs protégés pour tester, jamais pour décider. Vous ne pouvez pas mesurer le disparate impact (avec des filtres comme la four-fifths rule) sans savoir qui a été affecté.
Cherchez une alternative moins discriminatoire et documentez-la. Si un modèle d'une précision comparable réduit l'écart d'approbation, on peut juridiquement attendre de vous que vous l'utilisiez. Votre trace écrite est votre défense.
Un modèle complexe n'excuse pas l'absence d'explication. Les adverse action notices doivent donner des motifs spécifiques et exacts. Si votre modèle est trop opaque pour être expliqué, ou si le motif réel est un proxy, c'est un manquement à la conformité, pas un détail technique.
Le fair lending est une gouvernance continue, pas une checklist de lancement. Surveillez la dérive, gardez des humains sur les cas limites, et rappelez-vous que les modèles de fournisseurs vous laissent la responsabilité.

Comment les banques détectent la fraude en quelques millisecondes sans bloquer les vrais clients

Déployer un service client IA sous contraintes de confidentialité bancaire