Fair housing et risque de discrimination dans les décisions algorithmiques

En 2019, une société de tenant screening nommée SafeRent Solutions a généré un score pour une femme du Massachusetts candidate à la location d'un appartement avec un housing voucher. Son score était bas. Sa candidature a été refusée. Elle n'avait aucun antécédent d'expulsion et un solide historique de paiement adossé au voucher couvrant son loyer. L'algorithme ne connaissait pas sa couleur de peau. Il n'en avait pas besoin. Un accord transactionnel de 2024 dans l'affaire *Louis v. SafeRent Solutions* alléguait que le modèle de scoring s'appuyait sur des facteurs, dont l'historique de crcrLe pourcentage de visiteurs ou de prospects qui réalisent une action attendue (achat, inscription, formulaire de contact), calculé en divisant les conversions par le nombre total d'opportunités.Voir la définition complète →édit et des données de transaction non pertinentes, qui produisaient des scores disproportionnellement plus bas pour les candidats noirs et hispaniques et pour les détenteurs de vouchers en tant que groupe, alors même que les caractéristiques protégées n'étaient jamais des inputs. C'est du disparate impact, et c'est le principal piège de conformité de l'IA dans l'immobilier.

Cette leçon décortique comment cela se produit, quelles lois s'appliquent, et quels contrôles une organisation immobilière doit mener avant de laisser un modèle intervenir dans une décision de location, d'underwriting ou de pricing.

Le cadre juridique : les bases du Fair Housing Act

Le Fair Housing Act (FHA), adopté en 1968 et appliqué par le U.S. Department of Housing and Urban Development (HUD) et le Department of Justice (DOJ), interdit la discrimination en matière de logement fondée sur la race, la couleur, l'origine nationale, la religion, le sexe, la situation familiale et le handicap.

Deux théories de responsabilité comptent pour l'IA :

• Disparate treatment : discrimination intentionnelle. Rare dans les affaires d'IA modernes, car personne ne code « rejeter cette race ».
• Disparate impact : une politique ou un modèle neutre en apparence qui produit un effet défavorable statistiquement significatif sur une classe protégée, même sans intention. C'est là que vivent les algorithmes. La Cour suprême a confirmé la responsabilité pour disparate impact sous le FHA dans *Texas Department of Housing v. Inclusive Communities Project* (2015).

Les couches étatiques et locales ajoutent de la complexité : la Californie, New York et le Colorado ont chacun leurs propres lois de fair housing et leurs obligations de divulgation spécifiques à l'IA, et certaines juridictions (la loi de l'État du Colorado applicable en 2026, par exemple) exigent des assessments d'impact avant de déployer des systèmes de décision automatisée « à haut risque » dans le logement.

Comment les proxys font entrer en fraude des effets de classe protégée

Une variable proxy est un input d'apparence neutre qui corrèle fortement avec une classe protégée. Les modèles immobiliers en regorgent :

• Code postal : corrèle avec la race et l'origine nationale du fait des pratiques historiques de redlining (la pratique soutenue par l'État consistant à refuser des prêts hypothécaires dans les quartiers minoritaires, formellement abolie en 1968 mais aux effets de ségrégation résidentielle durables).
• Historique d'expulsion : corrèle avec le sexe et la race. Des travaux, dont ceux de l'Eviction Lab de Princeton, montrent que les procédures d'expulsion touchent de façon disproportionnée les locataires femmes noires, indépendamment du risque de paiement réel.
• Vérification du casier judiciaire : les lignes directrices du HUD de 2016 ont explicitement signalé les interdictions générales fondées sur les antécédents judiciaires comme relevant probablement du disparate impact, les taux d'incarcération variant fortement selon la race.
• Seuils de credit score : corrèlent avec la race en raison d'écarts de patrimoine plus larges, et non avec la fiabilité de paiement du loyer en particulier.
• Statut de détenteur de voucher (Section 8) : pas toujours une classe protégée au niveau fédéral en soi, mais de nombreux États et villes ont ajouté des protections liées à la « source de revenus », et le statut de voucher fait souvent office de proxy pour la race et la structure familiale.

Aucune de ces variables ne mentionne la race. Toutes peuvent la reconstituer statistiquement. Un modèle entraîné à minimiser le risque de défaut captera volontiers le code postal ou les signalements d'expulsion parce qu'ils sont prédictifs, sans aucune conscience qu'ils sont aussi des proxys discriminatoires.

Pourquoi c'est un problème de gouvernance, pas seulement de technique

Le risque modèle ici n'est pas « le modèle est inexact ». Le modèle peut être très précis pour prédire les retards de paiement et rester illégal, si cette précision est obtenue en s'appuyant sur des variables qui suivent l'appartenance à une classe protégée davantage que le risque réel du locataire. Précision et équité sont deux axes distincts. Un programme de gouvernance qui ne vérifie que la performance prédictive (AUC, précision, rappel) passera complètement à côté.

Les principaux risques IA dans les modèles de tenant screening et d'underwriting

1. Biais des données d'entraînement : les données historiques d'acceptation/refus intègrent déjà des décisions discriminatoires passées (humaines ou algorithmiques). S'entraîner dessus reproduit le biais.
2. Fuite par proxy : comme ci-dessus, des features neutres portent un signal de classe protégée.
3. Opacité des vendors : la plupart des bailleurs ne construisent pas leurs modèles de screening en interne. Ils les achètent auprès de vendors (SafeRent, RealPage, CoreLogic, TransUnion SmartMove sont des noms courants sur ce marché). Si le vendor refuse de divulguer la logique du modèle ou les données de validation, le bailleur reste juridiquement responsable en tant qu'entité prenant la décision de logement.
4. Rigidité des seuils de score : les coupures automatiques (« score inférieur à 500, refus automatique ») suppriment le pouvoir d'appréciation humain qui pourrait rattraper un cas limite injuste, et elles répliquent une règle défaillante à des milliers de candidats d'un coup.
5. Boucles de rétroaction : un modèle qui étouffe les candidatures venant de certains codes postaux réduit les données futures issues de ces zones, renforçant ses propres angles morts au fil du temps.

Garde-fousGarde-fousRègles et contrôles qui maintiennent un système d'IA dans des limites sûres, légales et conformes à la marque, en bloquant les sorties et actions hors cadre.Voir la définition complète → : ce qu'il faut exécuter avant le déploiement

Un contrôle fair housing pré-déploiement pour tout système d'IA touchant aux locataires ou au pricing doit comprendre :

1. Tests de disparate impact. Confrontez les résultats du modèle aux données démographiques des candidats (collectées séparément, jamais en input du modèle) via la « règle des quatre cinquièmes » : si le taux de sélection d'un groupe protégé est inférieur à 80 % du taux du groupe le mieux scoré, c'est un signal d'alerte réglementaire courant (quoique non concluant), utilisé par l'EEOC et repris dans les lignes directrices du HUD.

Exemple chiffré simple :

• Taux d'approbation des candidats blancs : 70 %
• Taux d'approbation des candidats noirs : 50 %
• Ratio : 50/70 = 0,71, soit 71 %
• 71 % < seuil de 80 % → signalement pour revue de disparate impact

2. Audits de corrélation des proxys. Testez statistiquement chaque feature d'entrée contre l'appartenance à une classe protégée (en utilisant des données indirectes comme l'imputation bayésienne nom de famille/géographie, technique courante qu'utilisent les régulateurs eux-mêmes, appelée BISG, Bayesian Improved Surname Geocoding). Une forte corrélation n'implique pas automatiquement le retrait, mais elle déclenche une revue de nécessité opérationnelle.

# Simplified proxy correlation check
import pandas as pd

# df has model_score, zip_code, and a separately-held 
# race_proxy column (never fed into the model)
corr = df.groupby('zip_code')['race_proxy_pct_minority'].mean().corr(
    df.groupby('zip_code')['model_score'].mean()
)
print(f"Zip-code to score correlation: {corr:.2f}")
# A strong correlation (e.g., > 0.5) warrants a business-necessity 
# justification and a less discriminatory alternative test

3. Test de l'alternative moins discriminatoire (LDA). Les régulateurs du fair lending (et par extension la pratique du fair housing) attendent des entreprises qu'elles vérifient s'il existe un modèle d'exactitude similaire mais de disparate impact plus faible. Si votre équipe data science peut construire une alternative avec un écart plus réduit à la règle des 80 % et un pouvoir prédictif comparable, déployer la version la plus discriminatoire constitue une exposition juridique, même si le premier modèle est techniquement « meilleur ».

4. Due diligence vendor. Avant de signer avec un vendor de screening ou de pricing, demandez : ses derniers résultats de test de disparate impact, la liste des features, et s'il accepte de vous garantir contractuellement. Le HUD et le Consumer Financial Protection Bureau (CFPB) ont tous deux signalé que les bailleurs ne peuvent pas externaliser leur responsabilité en pointant le vendor du doigt.

5. Revue humaine et voie de recours. Aucun refus entièrement automatisé sans possibilité de réexamen humain. C'est une bonne pratique et, dans certains États, cela devient une obligation légale pour les décisions automatisées « à haut risque ».

Algorithmes de pricing : un risque parallèle

Le tenant screening n'est pas la seule exposition. Les outils algorithmiques de fixation des loyers (YieldStar de RealPage est l'exemple le plus contentieux, objet d'une action antitrust du DOJ déposée en 2024 alléguant une coordination des prix entre bailleurs) soulèvent une question connexe mais distincte : le risque antitrust lié au partage de données de prix, plus un angle fair housing si les inputs du modèle de pricing corrèlent avec la démographie des locataires de manière à produire des charges de coût disparates. Les équipes de gouvernance devraient traiter le pricing et le screening comme deux catégories distinctes de risque modèle, chacune avec son propre protocole de test.

Pour approfondir la méthodologie du disparate impact, la règle du HUD de 2013 sur les effets discriminatoires est le document source de référence : HUD Discriminatory Effects Standard.

Points clés à retenir

• La responsabilité pour disparate impact sous le Fair Housing Act n'exige ni intention ni présence de données de classe protégée dans le modèle. Des proxys neutres comme le code postal, l'historique d'expulsion et le credit score peuvent déclencher des violations si les résultats sont statistiquement biaisés.
• Appliquez le test de la règle des quatre cinquièmes sur des données de résultats réelles avant et après déploiement, pas une seule fois au lancement. Des écarts d'approbation ou de scoring inférieurs à 80 % entre groupes sont un signal d'alerte réglementaire standard.
• Testez les alternatives moins discriminatoires. Les régulateurs attendent des entreprises qu'elles démontrent ne pas avoir déployé l'option la plus discriminatoire parmi des modèles d'exactitude comparable.
• Les contrats vendors ne transfèrent pas la responsabilité juridique. Bailleurs et opérateurs restent responsables des résultats en matière de fair housing, même en utilisant un outil tiers de screening ou de pricing.
• Intégrez une revue humaine obligatoire pour les refus automatisés. L'automatisation totale sans voie de recours est un risque à la fois juridique et réputationnel, à mesure que les lois étatiques de divulgation sur l'IA se multiplient d'ici 2026.