Fair housing et contrôles anti-discrimination dans les modèles de scoring

Un gestionnaire immobilier de l'Ohio a alimenté un algorithme de sélection des locataires avec dix ans de données de location. Le modèle n'a jamais vu la variable race. Il n'en avait pas besoin. Il a appris que les candidats de trois codes postaux étaient rejetés plus souvent, et que ces codes postaux comptaient plus de 70 % de résidents noirs. L'entreprise a transigé. C'est l'histoire derrière la plupart des affaires d'algorithmes en matière de fair housing : personne n'a saisi de caractéristique protégée, les données l'ont fait à leur place.

Cette leçon vous donne les contrôles que les régulateurs appliquent réellement lorsqu'ils auditent un modèle de scoring, qu'il fixe le prix d'un loyer, classe des candidats locataires ou score un risque hypothécaire.

Le socle juridique

Trois cadres comptent avant tout aux États-Unis :

• Fair Housing Act (FHA, 1968) : interdit la discrimination en matière de logement fondée sur la race, la couleur, l'origine nationale, la religion, le sexe, la situation familiale et le handicap. Appliqué par le Department of Housing and Urban Development (HUD).
• Equal Credit Opportunity Act (ECOA) : interdit la discrimination dans les décisions de crcrLe pourcentage de visiteurs ou de prospects qui réalisent une action attendue (achat, inscription, formulaire de contact), calculé en divisant les conversions par le nombre total d'opportunités.Voir la définition complète →édit, pertinent lorsque les modèles de scoring alimentent des approbations de crédit hypothécaire ou locatif. Appliqué par le Consumer Financial Protection Bureau (CFPB).
• Doctrine du disparate impact : sa applicabilité au FHA a été confirmée par la Cour suprême dans *Texas Department of Housing v. Inclusive Communities Project* (2015). C'est le moteur juridique des plaintes pour discrimination par proxy : nul besoin d'intention discriminatoire, il suffit d'un résultat qui pèse inégalement sur une classe protégée, sauf si la pratique est justifiée par une nécessité commerciale légitime sans alternative moins discriminatoire.

Dans l'UE, le Règlement général sur la protection des données (RGPD) encadre le traitement des données de « catégorie particulière » (race, origine ethnique, religion, santé) et ouvre un droit à l'explication pour les décisions automatisées au titre de l'article 22. L'AI Act européen (mise en application progressive jusqu'en 2026) classe les systèmes de scoring de crédit et de location comme « à haut risque », ce qui déclenche des obligations de tests de biais et de documentation.

Le HUD a publié en 2024 des orientations spécifiques précisant que les algorithmes de sélection des locataires utilisant les casiers judiciaires ou les antécédents d'expulsion peuvent engager une responsabilité au titre du disparate impact s'ils ne sont pas étroitement calibrés. Ces orientations sont l'ancêtre direct des contrôles ci-dessous.

Où se cache le biais : les variables proxy

Un proxy est une variable étroitement corrélée à une classe protégée alors même qu'elle paraît neutre.

Proxies courants dans l'immobilier :

Aucune de ces variables n'a besoin d'être incluse intentionnellement pour causer un préjudice. Un modèle de tarification des loyers entraîné sur des « comparables de marché » peut absorber les schémas historiques de redlining intégrés dans des données de prix vieilles de plusieurs décennies. Le redlining désignait la pratique, dans les années 1930, de refuser des prêts hypothécaires dans des quartiers cartographiés comme minoritaires, et ses effets sur les prix persistent aujourd'hui dans les jeux de données de comps.

La checklist d'audit essentielle

Les régulateurs et les auditeurs fair housing mènent en général quatre contrôles. Traitez-les comme votre checklist de travail.

1. Scan de corrélation

Testez chaque feature d'entrée contre l'appartenance à une classe protégée (lorsque celle-ci est légalement accessible, souvent via le Bayesian Improved Surname Geocoding, BISG, une méthode que le CFPB utilise lui-même pour estimer la race/l'origine ethnique quand elle n'est pas directement enregistrée). Signalez toute feature corrélée au-delà d'un seuil choisi (couramment 0,3 à 0,4 en pratique, à considérer comme indicatif et non comme une règle juridique).

2. Ratio de disparate impact (la « règle des quatre cinquièmes »)

Empruntée aux orientations de l'EEOC en matière d'emploi mais largement appliquée au logement : comparez les taux d'approbation entre groupes.

Exemple chiffré :

• Candidats blancs approuvés : 720 sur 900 → 80 %
• Candidats noirs approuvés : 320 sur 500 → 64 %
• Ratio : 64 / 80 = 0,80

Un ratio inférieur à 0,80 (80 %) déclenche couramment un examen approfondi, sans illégalité automatique, mais il fait basculer la charge de justifier la pratique.

3. Audit de l'importance des features (explicabilité post-hoc)

Même sans variable interdite, vérifiez quelles features pilotent les décisions à l'aide d'outils comme SHAP (SHapley Additive exPlanations). Si « code postal » ou « distance à un quartier donné » ressort haut dans un modèle de tarification des loyers, c'est un signal d'alerte à documenter et éventuellement à retirer ou repondérer.

import shap
explainer = shap.TreeExplainer(rent_model)
shap_values = explainer.shap_values(X_test)
# Classer les features par valeur SHAP absolue moyenne
importance = dict(zip(X_test.columns, abs(shap_values).mean(axis=0)))
sorted(importance.items(), key=lambda x: -x[1])[:10]

Cela fait apparaître exactement ce que les régulateurs demandent en phase de discovery : « montrez-nous ce que le modèle a réellement pondéré ».

4. Test contrefactuel / par paires appariées

Prenez deux candidats synthétiques, identiques à l'exception d'un nom signalant des origines ethniques différentes (une méthode classique de paired testing que le HUD utilise lui-même dans ses audits fair housing, historiquement avec des testeurs humains, aujourd'hui de plus en plus simulée). Si le score change de façon significative, le modèle utilise le nom, ou des features corrélées à celui-ci, comme proxy.

Gouvernance : qui valide

Un modèle défendable a besoin d'une piste documentaire, pas seulement d'un résultat propre.

• Documentation du modèle : sources des données d'entraînement, liste des features, exclusion des variables protégées, historique des versions.
• Tests d'équité avant déploiement : menez les quatre contrôles ci-dessus avant le lancement, pas après une plainte.
• Seuil de revue humaine : les refus automatiques doivent orienter les cas limites vers un humain, une pratique de plus en plus attendue à la fois par les exigences d'adverse action de l'ECOA et par l'obligation de supervision humaine de l'AI Act européen.
• Adverse action notices : au titre de l'ECOA/Regulation B, les candidats rejetés ont le droit de connaître les motifs principaux. Un modèle boîte noire incapable de produire un motif est un risque de conformité, pas seulement un sujet d'éthique.

Des fournisseurs de property technology comme RealPage et CoreLogic ont fait l'objet de contentieux et de contrôles réglementaires (dont une action antitrust du DOJ contre RealPage en 2024, distincte des plaintes fair housing mais voisine) portant sur leurs outils algorithmiques de sélection des locataires et de tarification. C'est pourquoi les pistes d'audit documentées sont désormais une exigence d'achat pour de nombreux grands bailleurs, et non une simple bonne pratique.

Mener le contrôle vous-même : mini workflow

1. Récupérez la liste des features du modèle. Croisez-la avec un tableau de proxies comme celui ci-dessus.
2. Calculez les résultats d'approbation ou de tarification par groupe proxy de classe protégée (via BISG ou des données auto-déclarées lorsqu'elles existent).
3. Appliquez la règle des quatre cinquièmes. Signalez les ratios inférieurs à 0,80.
4. Faites tourner SHAP ou un outil d'explicabilité équivalent sur le principal driver de décision.
5. Documentez tout. Si le HUD ou le CFPB demande, l'absence de test est en soi traitée comme une défaillance de gouvernance.

Pour une référence technique plus poussée sur les métriques d'équité applicables à tous les secteurs, le NIST AI Risk Management Framework est un point de départ solide, gratuit et non sectoriel, que les auditeurs du logement citent de plus en plus.

🎬 [VIDEO: "How Algorithms Can Discriminate (and What to Do About It)" - youtube.com/results?search_query=algorithmic+bias+housing+fair+lending - recherchez des contenus explicatifs récents du CFPB ou de chaînes académiques traitant de la discrimination par proxy dans les modèles de crédit et de logement]

Points clés

• Le droit du disparate impact (FHA, ECOA, *Inclusive Communities*) signifie que l'intention ne compte pas : un résultat qui pèse inégalement sur une classe protégée peut être illégal même si aucune variable protégée n'a jamais été utilisée.
• Code postal, nom, historique d'expulsion et casier judiciaire sont les variables proxy classiques des modèles de scoring immobilier ; chacune exige un contrôle de corrélation documenté avant déploiement.
• La règle des quatre cinquièmes (comparaison des taux d'approbation entre groupes) est le test de premier niveau le plus rapide ; tout ratio inférieur à 80 % appelle justification et documentation.
• Les outils d'explicabilité comme SHAP et les tests contrefactuels par paires appariées sont ce que les régulateurs et auditeurs demandent réellement en pratique, pas des discours abstraits sur l'équité.
• La défaillance de gouvernance est en soi un risque : modèles non documentés, motifs d'adverse action manquants ou absence de tests avant déploiement sont traités comme des signaux d'alerte, indépendamment du résultat.