Fair-Housing- und Antidiskriminierungsprüfungen in Scoring-Modellen

# Fair-Housing- und Antidiskriminierungsprüfungen in Scoring-Modellen

Ein Immobilienverwalter in Ohio speiste einen Algorithmus zum Tenant Screening mit zehn Jahren Vermietungsdaten. Das Modell hat die Ethnie nie gesehen. Es brauchte sie nicht. Es lernte, dass Bewerber aus drei Postleitzahlgebieten häufiger abgelehnt wurden, und in diesen Gebieten waren über 70 % der Einwohner Schwarze. Das Unternehmen schloss einen Vergleich. So läuft es in den meisten Fair-Housing-Algorithmusfällen: Niemand hat ein geschütztes Merkmal eingetippt, die Daten haben es übernommen.

Diese Lektion zeigt Ihnen die Prüfungen, die Aufsichtsbehörden tatsächlich durchführen, wenn sie ein Scoring-Modell auditieren, egal ob es Mieten bepreist, Mietbewerber rankt oder Hypothekenrisiken scored.

Das rechtliche Grundgerüst

In den USA sind drei Regelwerke am wichtigsten:

• Fair Housing Act (FHA, 1968): verbietet Diskriminierung beim Wohnen aufgrund von Ethnie, Hautfarbe, nationaler Herkunft, Religion, Geschlecht, Familienstatus und Behinderung. Durchgesetzt durch das Department of Housing and Urban Development (HUD).
• Equal Credit Opportunity Act (ECOA): untersagt Diskriminierung bei Kreditentscheidungen, relevant wenn Scoring-Modelle in Hypotheken- oder Mietkreditgenehmigungen einfließen. Durchgesetzt durch das Consumer Financial Protection Bureau (CFPB).
• Disparate-Impact-Doktrin: vom Supreme Court in *Texas Department of Housing v. Inclusive Communities Project* (2015) als auf den FHA anwendbar bestätigt. Das ist der juristische Motor hinter Klagen wegen Proxy-Diskriminierung: Sie brauchen keine Absicht zu diskriminieren, nur ein Ergebnis, das eine geschützte Gruppe ungleich trifft, es sei denn, die Praxis ist durch eine legitime betriebliche Notwendigkeit ohne weniger diskriminierende Alternative gerechtfertigt.

In der EU beschränkt die Datenschutz-Grundverordnung (DSGVO) die Verarbeitung besonderer Kategorien personenbezogener Daten (Ethnie, Herkunft, Religion, Gesundheit) und gewährt nach Artikel 22 ein Recht auf Erläuterung bei automatisierten Entscheidungen. Der AI Act der EU (gestaffelt in Kraft bis 2026) klassifiziert Scoring-Systeme für Kredit und Mietverhältnisse als „hochriskant", was verpflichtende Bias-Tests und Dokumentationspflichten auslöst.

HUD veröffentlichte 2024 eine spezifische Guidance, die klarstellt, dass Tenant-Screening-Algorithmen, die Straf- oder Zwangsräumungsakten verwenden, Disparate-Impact-Haftung auslösen kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen, wenn sie nicht eng zugeschnitten sind. Diese Guidance ist der direkte Vorläufer der folgenden Prüfungen.

Wo Bias sich versteckt: Proxy-Variablen

Ein Proxy ist eine Variable, die stark mit einer geschützten Gruppe korreliert, obwohl sie neutral aussieht.

Häufige Proxys in der Immobilienwirtschaft:

| Variable | Proxy für |

|---|---|

| Postleitzahl | Ethnie, nationale Herkunft |

| Vorname | Ethnie, nationale Herkunft, Geschlecht |

| Zwangsräumungsakte | Ethnie (Räumungsquoten sind laut Eviction Lab, Princeton nicht gleichmäßig über Gruppen verteilt) |

| Vorstrafen | Ethnie (gut dokumentiert in den Disparitäten US-amerikanischer Verhaftungsdaten) |

| Einkommensquelle (Wohngutscheine) | Ethnie, Familienstatus, Behinderung |

| Lücken im Erwerbsverlauf | Geschlecht (Mutterschaft), Behinderung |

| Social Media / „soft" Daten zur Mietgeschichte | Nationale Herkunft, Religion |

Keine davon muss absichtlich einbezogen werden, um Schaden zu verursachen. Ein Modell zur Mietpreisbildung, das auf „market comparables" trainiert wurde, kann historische Redlining-Muster aufnehmen, die in Jahrzehnte alten Preisdaten eingebrannt sind. Redlining war die Praxis der 1930er Jahre, Hypotheken in kartierten Minderheitenviertel zu verweigern, und ihre Preiseffekte bestehen in heutigen Comps-Datensätzen fort.

Die zentrale Audit-Checkliste

Aufsichtsbehörden und Fair-Housing-Auditoren führen typischerweise vier Prüfungen durch. Nutzen Sie das als Ihre Arbeits-Checkliste.

1. Korrelationsscan

Testen Sie jedes Input-Feature gegen die Zugehörigkeit zu einer geschützten Gruppe (soweit rechtlich verfügbar, häufig über Bayesian Improved Surname Geocoding, BISG, eine Methode, die das CFPB selbst nutzt, um Ethnie/Herkunft zu schätzen, wenn sie nicht direkt erfasst ist). Markieren Sie jedes Feature, das über einem gewählten Schwellenwert korreliert (in der Praxis häufig 0,3 bis 0,4, zu verstehen als Orientierung, nicht als juristische Grenze).

2. Disparate-Impact-Quote (die „Four-Fifths-Rule")

Aus der EEOC-Guidance zum Arbeitsrecht übernommen, aber im Wohnbereich breit angewendet: Vergleichen Sie die Genehmigungsquoten zwischen Gruppen.

Durchgerechnetes Beispiel:

• Weiße Bewerber genehmigt: 720 von 900 → 80 %
• Schwarze Bewerber genehmigt: 320 von 500 → 64 %
• Quote: 64 / 80 = 0,80

Eine Quote unter 0,80 (80 %) ist ein häufiger Auslöser für weitere Prüfung, nicht automatisch rechtswidrig, aber sie verschiebt die Beweislast hin zur Rechtfertigung der Praxis.

3. Feature-Importance-Audit (Post-hoc-Explainability)

Auch ohne verbotene Variable sollten Sie mit Tools wie SHAP (SHapley Additive exPlanations) prüfen, welche Features die Entscheidungen treiben. Wenn „Postleitzahl" oder „Entfernung zu einem bestimmten Viertel" in einem Mietpreismodell hoch rankt, ist das ein Warnsignal, das dokumentiert und möglicherweise entfernt oder neu gewichtet werden sollte.

import shap
explainer = shap.TreeExplainer(rent_model)
shap_values = explainer.shap_values(X_test)
# Features nach mittlerem absoluten SHAP-Wert ranken
importance = dict(zip(X_test.columns, abs(shap_values).mean(axis=0)))
sorted(importance.items(), key=lambda x: -x[1])[:10]

Das legt genau offen, was Aufsichtsbehörden im Discovery-Verfahren verlangen: „Zeigen Sie uns, was das Modell tatsächlich gewichtet hat."

4. Counterfactual- / Matched-Pair-Testing

Nehmen Sie zwei synthetische Bewerber, identisch bis auf einen Namen, der auf unterschiedliche Ethnien hinweist (eine klassische Paired-Testing-Methode, die HUD selbst in Fair-Housing-Audits einsetzt, historisch mit menschlichen Testern, heute zunehmend simuliert). Ändert sich der Score merklich, nutzt das Modell den Namen oder damit korrelierte Features als Proxy.

Governance: wer freigibt

Ein belastbares Modell braucht eine Dokumentationsspur, nicht nur einen saubere Output.

• Modelldokumentation: Quellen der Trainingsdaten, Feature-Liste, Ausschluss geschützter Variablen, Versionshistorie.
• Fairness-Tests vor Deployment: die vier Prüfungen oben vor dem Launch durchführen, nicht erst nach einer Beschwerde.
• Schwelle für menschliche Prüfung: automatische Ablehnungen sollten Grenzfälle an einen Menschen weiterleiten, eine Praxis, die sowohl durch die ECOA-Anforderungen zu Adverse Action als auch durch das Human-Oversight-Gebot des EU AI Act zunehmend erwartet wird.
• Adverse Action Notices: nach ECOA/Regulation B haben abgelehnte Bewerber ein Recht darauf, die wesentlichen Gründe zu erfahren. Ein Black-Box-Modell, das keinen Grund liefern kann, ist ein Compliance-Risiko, nicht nur ein ethisches.

PropTech-Anbieter wie RealPage und CoreLogic waren wegen algorithmischer Tools zum Tenant Screening und zur Preisbildung mit Klagen und regulatorischer Prüfung konfrontiert (darunter ein Antitrust-Verfahren des DOJ gegen RealPage im Jahr 2024, getrennt von, aber angrenzend an Fair-Housing-Klagen). Deshalb sind dokumentierte Audit Trails für viele große Vermieter heute eine Beschaffungsanforderung und nicht bloß Best Practice.

Die Prüfung selbst durchführen: ein Mini-Workflow

1. Ziehen Sie die Feature-Liste des Modells. Gleichen Sie sie mit einer Proxy-Tabelle wie der oben ab.

2. Berechnen Sie Genehmigungs- oder Preisergebnisse nach Proxy-Gruppe für geschützte Merkmale (über BISG oder selbstberichtete Daten, wo verfügbar).

3. Wenden Sie die Four-Fifths-Rule an. Markieren Sie Quoten unter 0,80.

4. Führen Sie SHAP oder ein vergleichbares Explainability-Tool auf dem wichtigsten Entscheidungstreiber aus.

5. Dokumentieren Sie alles. Wenn HUD oder das CFPB fragt, gilt das Fehlen eines Tests selbst als Governance-Versagen.

Für eine tiefere technische Referenz zu Fairness-Metriken über Branchen hinweg ist das NIST AI Risk Management Framework ein solider, kostenloser und branchenunabhängiger Startpunkt, den Housing-Auditoren zunehmend zitieren.

🎬 [VIDEO: "How Algorithms Can Discriminate (and What to Do About It)" - youtube.com/results?search_query=algorithmic+bias+housing+fair+lending - suchen Sie nach aktuellen Erklärinhalten von CFPB oder akademischen Kanälen zu Proxy-Diskriminierung in Kredit- und Wohnmodellen]

Wichtigste Erkenntnisse

• Disparate-Impact-Recht (FHA, ECOA, *Inclusive Communities*) bedeutet, dass die Absicht keine Rolle spielt: Ein Ergebnis, das eine geschützte Gruppe ungleich trifft, kann rechtswidrig sein, auch wenn nie eine geschützte Variable verwendet wurde.
• Postleitzahl, Name, Räumungshistorie und Vorstrafen sind die klassischen Proxy-Variablen in Immobilien-Scoring-Modellen; für jede braucht es vor dem Deployment eine dokumentierte Korrelationsprüfung.
• Die Four-Fifths-Rule (Vergleich der Genehmigungsquoten zwischen Gruppen) ist der schnellste Erstcheck; alles unter einer Quote von 80 % braucht Rechtfertigung und Dokumentation.
• Explainability-Tools wie SHAP und Matched-Pair-Counterfactual-Tests sind das, was Aufsichtsbehörden und Auditoren in der Praxis tatsächlich verlangen, nicht abstrakte Fairness-Debatten.
• Governance-Versagen ist selbst ein Haftungsrisiko: undokumentierte Modelle, fehlende Begründungen für Adverse Action oder ausbleibende Tests vor dem Deployment gelten unabhängig vom Ergebnis als Warnsignale.