Fair Housing und Diskriminierungsrisiko bei algorithmischen Entscheidungen

# Fair Housing und Diskriminierungsrisiko bei algorithmischen Entscheidungen

2019 berechnete ein Unternehmen für Mieterprüfung namens SafeRent Solutions einen Score für eine Frau aus Massachusetts, die sich mit einem Wohngutschein um eine Mietwohnung bewarb. Ihr Score war niedrig. Sie wurde abgelehnt. Sie hatte keine Zwangsräumung in ihrer Historie und eine solide, durch den Gutschein gedeckte Zahlungshistorie für ihre Miete. Der Algorithmus kannte ihre Ethnie nicht. ErErThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → musste es auch nicht. Ein Settlement aus dem Jahr 2024 in *Louis v. SafeRent Solutions* legte dar, dass das Scoring-Modell auf Faktoren beruhte, darunter Kredithistorie und nicht relevante Transaktionsdaten, die für schwarze und hispanische Bewerber sowie für Gutscheininhaber als Gruppe überproportional niedrigere Scores erzeugten, obwohl die geschützten Merkmale selbst nie als Input dienten. Das ist Disparate Impact, und es ist die zentrale Compliance-Falle bei KI im Immobilienbereich.

Diese Lektion zeigt, wie das passiert, welche Gesetze gelten und welche Prüfungen eine Immobilienorganisation durchführen muss, bevor ein Modell eine Vermietungs-, Underwriting- oder Preisentscheidung berührt.

Der rechtliche Rahmen: Grundlagen des Fair Housing Act

Der Fair Housing Act (FHA), 1968 verabschiedet und durchgesetzt vom U.S. Department of Housing and Urban Development (HUD) und dem Department of Justice (DOJ), verbietet Diskriminierung im Wohnungswesen aufgrund von Ethnie, Hautfarbe, nationaler Herkunft, Religion, Geschlecht, Familienstatus und Behinderung.

Zwei Haftungstheorien sind für KI relevant:

• Disparate Treatment: absichtliche Diskriminierung. In modernen KI-Fällen selten, weil niemand „diese Ethnie ablehnen“ programmiert.
• Disparate Impact: eine auf den ersten Blick neutrale Regel oder ein neutrales Modell, das eine statistisch signifikante negative Wirkung auf eine geschützte Gruppe erzeugt, auch ohne Absicht. Hier sind Algorithmen zu Hause. Der Supreme Court bestätigte die Disparate-Impact-Haftung unter dem FHA in *Texas Department of Housing v. Inclusive Communities Project* (2015).

Bundesstaatliche und lokale Regelungen erhöhen die Komplexität: Kalifornien, New York und Colorado haben jeweils eigene Fair-Housing- und KI-spezifische Offenlegungsvorschriften, und manche Jurisdiktionen (etwa das ab 2026 geltende Gesetz in Colorado) verlangen Impact Assessments, bevor „hochriskante“ automatisierte Entscheidungssysteme im Wohnungswesen eingesetzt werden.

Wie Proxys Effekte geschützter Merkmale einschmuggeln

Eine Proxy-Variable ist ein neutral wirkender Input, der stark mit einem geschützten Merkmal korreliert. Immobilienmodelle sind voll davon:

• Postleitzahl: korreliert wegen historischer Redlining-Muster mit Ethnie und nationaler Herkunft (die staatlich gestützte Praxis, Hypotheken in Minderheitenvierteln zu verweigern, formal 1968 beendet, mit anhaltenden Effekten residenzieller Segregation).
• Historie von Zwangsräumungen: korreliert mit Geschlecht und Ethnie. Studien, darunter das Eviction Lab in Princeton, zeigen, dass Räumungsklagen schwarze Mieterinnen überproportional betreffen, unabhängig vom tatsächlichen Zahlungsrisiko.
• Prüfung des Vorstrafenregisters: Die HUD-Leitlinien von 2016 haben pauschale Ausschlüsse aufgrund von Vorstrafen ausdrücklich als wahrscheinlichen Disparate Impact markiert, weil Inhaftierungsraten stark nach Ethnie variieren.
• Schwellenwerte beim Credit Score: korrelieren wegen breiterer Vermögensunterschiede mit Ethnie, nicht speziell mit der Zuverlässigkeit von Mietzahlungen.
• Status als Inhaber eines Wohngutscheins (Section 8): selbst nicht immer eine bundesrechtlich geschützte Kategorie, aber viele Bundesstaaten und Städte haben Schutz nach „source of income“ ergänzt, und der Gutscheinstatus fungiert häufig als Proxy für Ethnie und Familienstruktur.

Keine dieser Variablen nennt Ethnie. Alle kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen Ethnie statistisch rekonstruieren. Ein Modell, das darauf trainiert ist, Ausfallrisiko zu minimieren, greift bereitwillig auf Postleitzahl oder Räumungsmarker zu, weil sie prädiktiv sind, ohne jedes Bewusstsein dafür, dass sie auch diskriminierende Proxys sind.

Warum das ein Governance-Problem ist und nicht nur ein technisches

Modellrisiko heißt hier nicht „das Modell ist unpräzise“. Das Modell kann Zahlungsverzug sehr genau vorhersagen und dennoch illegal sein, wenn diese Genauigkeit dadurch entsteht, dass es sich auf Variablen stützt, die stärker die Zugehörigkeit zu geschützten Gruppen abbilden als das tatsächliche Mieterrisiko. Genauigkeit und Fairness sind getrennte Achsen. Ein Governance-Programm, das nur die Prognosegüte prüft (AUC, Precision, Recall), übersieht das vollständig.

Die wichtigsten KI-Risiken bei Mieterprüfungs- und Underwriting-Modellen

1. Bias in den Trainingsdaten: historische Annahme-/Ablehnungsdaten enthalten bereits frühere diskriminierende Entscheidungen (menschlich oder algorithmisch). Ein Training darauf reproduziert den Bias.

2. Proxy-Leakage: wie oben, neutrale Features tragen Signale geschützter Merkmale.

3. Intransparenz der Anbieter: Die meisten Vermieter bauen Screening-Modelle nicht selbst. Sie kaufen bei Anbietern (SafeRent, RealPage, CoreLogic, TransUnion SmartMove sind in diesem Feld gängige Namen). Wenn der Anbieter die Modelllogik oder Validierungsdaten nicht offenlegt, trägt der Vermieter als die Stelle, die die Wohnungsentscheidung trifft, dennoch die rechtliche Haftung.

4. Starre Score-Schwellen: Automatisierte Grenzwerte („Score unter 500, automatische Ablehnung“) entfernen menschlichen Ermessensspielraum, der einen unfairen Randfall sonst auffangen kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnte, und skalieren eine einzige fehlerhafte Regel auf einmal über tausende Bewerber.

5. Feedback-Loops: Ein Modell, das Bewerbungen aus bestimmten Postleitzahlgebieten unterdrückt, reduziert kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →ünftige Daten aus diesen Gegenden und verstärkt so über die Zeit seine eigenen blinden Flecken.

Guardrails: Was vor dem Deployment laufen muss

Eine Fair-Housing-Prüfung vor dem Deployment für jedes mieter- oder preisbezogene KI-System sollte enthalten:

1. Disparate-Impact-Tests. Prüfen Sie die Modellergebnisse gegen demografische Daten der Bewerber (separat erhoben, nie als Modell-Input) anhand der „Four-Fifths-Rule“: Liegt die Auswahlquote einer geschützten Gruppe unter 80 % der Quote der Gruppe mit den höchsten Werten, ist das ein verbreitetes (wenn auch nicht abschließendes) regulatorisches Warnsignal, das die EEOC verwendet und auf das HUD-Leitlinien Bezug nehmen.

Einfaches Rechenbeispiel:

• Zustimmungsquote für weiße Bewerber: 70 %
• Zustimmungsquote für schwarze Bewerber: 50 %
• Verhältnis: 50/70 = 0,71 oder 71 %
• 71 % < 80 %-Schwelle → Kennzeichnung für Disparate-Impact-Prüfung

2. Proxy-Korrelationsaudits. Testen Sie jedes Input-Feature statistisch gegen die Zugehörigkeit zu geschützten Gruppen (über indirekte Daten wie bayessche Imputation aus Nachname und Geografie, eine Technik, die Regulierer selbst häufig nutzen, genannt BISG, Bayesian Improved Surname Geocoding). Eine hohe Korrelation bedeutet nicht automatisch Entfernung, löst aber eine Prüfung der geschäftlichen Notwendigkeit aus.

# Simplified proxy correlation check
import pandas as pd

# df has model_score, zip_code, and a separately-held 
# race_proxy column (never fed into the model)
corr = df.groupby('zip_code')['race_proxy_pct_minority'].mean().corr(
    df.groupby('zip_code')['model_score'].mean()
)
print(f"Zip-code to score correlation: {corr:.2f}")
# A strong correlation (e.g., > 0.5) warrants a business-necessity 
# justification and a less discriminatory alternative test

3. Tests auf weniger diskriminierende Alternativen (LDA). Regulierer im Fair Lending (und damit auch die Fair-Housing-Praxis) erwarten, dass Unternehmen prüfen, ob ein Modell mit ähnlicher Genauigkeit, aber geringerem Disparate Impact existiert. Wenn Ihr Data-Science-Team eine Alternative mit kleinerer Lücke bei der 80-%-Regel und vergleichbarer Prognosekraft bauen kann, ist der Einsatz der stärker diskriminierenden Version ein rechtliches Risiko, selbst wenn das erste Modell technisch „besser“ ist.

4. Due Diligence beim Anbieter. Fordern Sie vor Vertragsabschluss mit einem Screening- oder Pricing-Anbieter an: die aktuellsten Ergebnisse der Disparate-Impact-Tests, die Feature-Liste und die Frage, ob ererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → Sie freistellt. HUD und das Consumer Financial Protection Bureau (CFPB) haben beide signalisiert, dass Vermieter die Haftung nicht auslagern kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen, indem sie auf den Anbieter verweisen.

5. Menschliche Prüfung und Widerspruchsweg. Keine vollständig automatisierte Ablehnung ohne eine von Menschen prüfbare Override-Möglichkeit. Das ist Best Practice und wird in einigen Bundesstaaten zur gesetzlichen Pflicht für „hochriskante“ automatisierte Entscheidungen.

Pricing-Algorithmen: ein paralleles Risiko

Mieterprüfung ist nicht das einzige Risiko. Algorithmische Werkzeuge zur Mietfestsetzung (RealPages YieldStar ist das am häufigsten beklagte Beispiel, Gegenstand einer 2024 eingereichten Antitrust-Klage des DOJ wegen angeblich koordinierter Preisbildung unter Vermietern) werfen eine verwandte, aber eigene Frage auf: Antitrust-Risiko aus geteilten Preisdaten, plus einen Fair-Housing-Aspekt, wenn die Inputs des Pricing-Modells so mit der Demografie der Mieter korrelieren, dass ungleiche Kostenbelastungen entstehen. Governance-Teams sollten Pricing und Screening als zwei getrennte Modellrisiko-Kategorien behandeln, jede mit eigenem Testprotokoll.

Für eine tiefere Einführung in die Disparate-Impact-Methodik ist HUDs eigene Discriminatory Effects Rule von 2013 das primäre Quelldokument: HUD Discriminatory Effects Standard.

Key Takeaways

• Disparate-Impact-Haftung unter dem Fair Housing Act erfordert weder Absicht noch Daten zu geschützten Merkmalen im Modell. Neutrale Proxys wie Postleitzahl, Räumungshistorie und Credit Score kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen Verstöße auslösen, wenn die Ergebnisse statistisch verzerrt sind.
• Führen Sie den Test der Four-Fifths-Rule mit echten Ergebnisdaten vor und nach dem Deployment durch, nicht nur einmal zum Start. Lücken bei Zustimmung oder Scoring unter 80 % zwischen Gruppen sind ein übliches regulatorisches Warnsignal.
• Testen Sie auf weniger diskriminierende Alternativen. Regulierer erwarten, dass Unternehmen nachweisen, unter vergleichbar genauen Modellen nicht die diskriminierendste Option eingesetzt zu haben.
• Anbieterverträge übertragen die rechtliche Haftung nicht. Vermieter und Betreiber bleiben für Fair-Housing-Ergebnisse verantwortlich, auch wenn sie ein Screening- oder Pricing-Tool eines Dritten nutzen.
• Verankern Sie eine verpflichtende menschliche Prüfung bei automatisierten Ablehnungen. Volle Automatisierung ohne Widerspruchsweg ist ein rechtliches und ein Reputationsrisiko, während die KI-Offenlegungsgesetze auf Ebene der Bundesstaaten bis 2026 ausgeweitet werden.