Kreditentscheidungsmodelle bauen, die einer Fair-Lending-Prüfung standhalten

# Kreditentscheidungsmodelle bauen, die einer Fair-Lending-Prüfung standhalten

Ein Machine-Learning-Modell lehnt einen Kreditantrag ab. Der Ablehnungsgrund lautet „unzureichende Kredithistorie". Doch wenn Sie in die Feature Importances schauen, stellen Sie fest: Das Modell stützte sich stark auf die Postleitzahl des Antragstellers, die zufällig mit einem historisch durch Redlining benachteiligten Viertel überlappt. Niemand hat „Ethnie" ins Modell eingegeben. Das Modell hat trotzdem einen Proxy dafür gefunden.

Das ist die zentrale Herausforderung bei KI-gestützten Kreditentscheidungen. Ihr Modell kann statistisch exzellent und trotzdem illegal sein. Bauen wir eines richtig auf.

Die Regeln, gegen die Sie tatsächlich bauen

Zwei Rechtskonzepte bestimmen jedes Kreditmodell in den USA.

ECOA (Equal Credit Opportunity Act): Ein Bundesgesetz, das Kreditdiskriminierung aufgrund geschützter Merkmale verbietet, darunter Ethnie, Hautfarbe, Religion, nationale Herkunft, Geschlecht, Familienstand, Alter und Bezug von Sozialleistungen. Ihre Absicht ist irrelevant. Es geht um Ergebnisse.

Disparate Impact: Eine Rechtstheorie, nach der eine dem Anschein nach neutrale Regel dennoch eine diskriminierende Wirkung auf eine geschützte Gruppe hat. Wenn Ihr „objektiver" Score 80 % einer Gruppe und 50 % einer anderen mit vergleichbarer Kreditwürdigkeit genehmigt, haben Sie ein Disparate-Impact-Problem, selbst wenn Sie nie eine geschützte Variable verwendet haben.

Die entscheidende Falle: Das Entfernen geschützter Variablen entfernt den Bias nicht. Es versteckt ihn.

Warum Proxys Bias einschmuggeln

Machine-Learning-Modelle sind Proxy-Findungsmaschinen. Geben Sie ihnen genügend Features, und sie rekonstruieren eine geschützte Gruppe aus korrelierten Daten.

Häufige Proxys in Kreditdaten:

• Postleitzahl und Census Tract: Stark mit Ethnie korreliert, bedingt durch historische Wohnsegregation.
• Vorname: Korreliert mit Geschlecht und teilweise mit Ethnie.
• Art des Arbeitgebers oder Beruf: Kann als Proxy für Alter oder nationale Herkunft dienen.
• Einkaufs- und Transaktionskategorien: KKThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen Familienstand, Religion oder Behinderung offenlegen.

Ein Modell, das die Postleitzahl nutzt, um Zahlungsausfälle zu prognostizieren, modelliert kein Risiko. Es modelliert oft, wer wo lebt, und das modelliert oft Ethnie. Das Consumer Financial Protection Bureau (CFPB) hat Kreditgeber genau davor mehrfach gewarnt. Siehe die Guidance zu Adverse Action und komplexen Modellen.

Der Neuaufbau: ein disziplinierter Workflow

So baut ein Team mit Fair-Lending-Bewusstsein ein Kreditmodell. Die Reihenfolge ist wichtig.

Schritt 1: Geschützte Merkmale trennen, nicht löschen

Kontraintuitiv, aber entscheidend. Sie brauchen Daten zu geschützten Merkmalen, um auf Bias zu *testen*, auch wenn Sie sie nicht zum *Entscheiden* verwenden dürfen.

Speichern Sie Ethnie, Geschlecht und Alter getrennt von Ihren Modell-Features. Sie nutzen sie ausschließlich für die Fairness-Analyse, nie als Modell-Input.

Bei Immobilienkrediten verlangt HMDA (Home Mortgage Disclosure Act) bereits die Erhebung eines Teils dieser Daten. Für andere Kreditprodukte nutzen Kreditgeber häufig die Methode BISG (Bayesian Improved Surname Geocoding), um geschützte Merkmale für Testzwecke zu *schätzen*, da sie rechtlich nicht danach fragen dürfen.

Schritt 2: Jedes Feature auf Proxy-Risiko prüfen

Fragen Sie vor dem Training bei jeder Variable: KKThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnte sie ein geschütztes Merkmal rekonstruieren?

Ein einfacher Test: Versuchen Sie, das geschützte Merkmal *aus* Ihren Kandidaten-Features zu prognostizieren. Wenn ein Modell die Ethnie aus Ihrem Feature-Set mit hoher Genauigkeit erraten kann, tragen diese Features Proxy-Risiko.

# Proxy detection: can we predict a protected attribute from model features?
from sklearn.ensemble import RandomForestClassifier
from sklearn.model_selection import cross_val_score

# X = Kandidaten-Features des Modells (KEINE geschützten Merkmale)
# race_proxy = geschätztes geschütztes Merkmal, nur zum Testen
proxy_model = RandomForestClassifier(n_estimators=200, random_state=42)
scores = cross_val_score(proxy_model, X, race_proxy, cv=5, scoring='roc_auc')

print(f"Proxy leakage AUC: {scores.mean():.3f}")
# AUC nahe 0,5 = Features verraten wenig. Nahe 1,0 = starkes Proxy-Leakage.

Wenn die Postleitzahl hier eine hohe AUC treibt, ist das Ihr Warnsignal. Sie müssen sie möglicherweise streichen, gröber fassen oder durch eine direkt relevante Variable ersetzen (zum Beispiel verifiziertes Einkommen statt Einkommensniveau des Viertels).

Schritt 3: Disparate Impact mit der richtigen Metrik messen

Der klassische Screen ist die Adverse Impact Ratio, oft verknüpft mit der „Four-Fifths Rule": Liegt die Genehmigungsquote einer geschützten Gruppe unter 80 % der Quote der bevorzugten Gruppe, kann das bei Aufsichtsbehörden auffallen.

Beispiel. Ihr Modell genehmigt:

• Gruppe A: 70 % Genehmigungsquote
• Gruppe B: 49 % Genehmigungsquote

Ratio = 49 / 70 = 0,70. Das liegt unter 0,80. Nachforschen.

Die Four-Fifths Rule ist ein grober Screen, kein rechtlicher Safe Harbor. Eine Ratio über 0,80 garantiert keine Compliance, und eine Ratio darunter bedeutet nicht automatisch einen Verstoß. Sie zeigt Ihnen nur, wo Sie hinschauen sollten.

Schritt 4: Nach einer weniger diskriminierenden Alternative suchen

Diesen Schritt überspringen viele Teams, und Aufsichtsbehörden erwarten ihn immer stärker. Wenn zwei Modelle bei der Genauigkeit ähnlich abschneiden, eines aber weniger Disparate Impact aufweist, sind Sie möglicherweise rechtlich verpflichtet, das fairere zu wählen.

Praktisch trainieren Sie mit unterschiedlichen Feature-Sets, Regularisierungen oder Fairness-Constraints neu und vergleichen. Das Ziel: ein Modell finden, das die Business-Performance hält und gleichzeitig die Genehmigungslücke verkleinert. Dokumentieren Sie jede getestete Alternative. Im Fall einer Klage oder Prüfung ist „wir haben nach einem weniger diskriminierenden Modell gesucht, hier sind die Belege" eine starke Position.

Adverse Action Notices: die Erklärung, die Sie rechtlich schulden

Wenn Sie einen Kredit ablehnen (oder schlechtere Konditionen anbieten), verlangen ECOA und der Fair Credit Reporting Act, dass Sie dem Antragsteller sagen, *warum*. Das ist der Adverse Action Notice.

Die Regel: Die Gründe müssen spezifisch und korrekt sein. „Ihr Score war zu niedrig" reicht nicht. „Unser Algorithmus hat Sie abgelehnt" auch nicht.

Das CFPB hat klar festgestellt, dass ein komplexes oder „Black Box"-Modell kein Grund ist, das zu umgehen. Wenn Ihr Modell zu intransparent ist, um es zu erklären, ist das Ihr Problem und kein rechtlicher Schutzschild.

Wie ein konformer Grund aussieht

Akzeptable Ablehnungsgründe knüpfen an tatsächliche Treiber der Entscheidung an:

• „Anzahl kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →ürzlicher Zahlungsverzüge auf Ihren Konten"
• „Zu kurze Kredithistorie"
• „Hohes Verhältnis von Schulden zu verfügbarem Kreditrahmen"

Nicht akzeptabel:

• „Proprietärer Risiko-Score"
• „Output eines Machine-Learning-Modells"
• Ein Grund, der eigentlich ein Proxy ist (stellen Sie sich vor, Sie müssten „Ihr Wohnviertel" auf einen Bescheid schreiben; allein das ist ein Warnsignal)

Wie Teams diese aus ML-Modellen erzeugen

Für komplexe Modelle nutzen Kreditgeber häufig Explainability-Methoden wie SHAP (SHapley Additive exPlanations), die eine Prognose einzelnen Features zuordnen. Sie nehmen die Features, die einen Antragsteller in Richtung Ablehnung gedrückt haben, ordnen sie verständlichen Ablehnungsgründen zu und geben die wichtigsten davon aus.

Zwei Warnungen:

1. Die Erklärung muss widerspiegeln, was das Modell *tatsächlich getan hat*, nicht eine nachträglich konstruierte Geschichte, die schöner klingt.

2. Wenn SHAP zeigt, dass eine Proxy-Variable die Ablehnung getrieben hat, haben Sie nicht nur ein Erklärungsproblem, sondern ein Legalitätsproblem. Der Explainability-Schritt bringt oft Bias zutage, den Sie übersehen haben.

Governance: damit es eine Prüfung übersteht

Ein Fair-Lending-Modell ist kein einmaliger Build. Aufsichtsbehörden und interne Model-Risk-Teams erwarten laufende Kontrollen.

Modelldokumentation

Halten Sie fest: welche Daten verwendet wurden, welche Features getestet und verworfen wurden, die Fairness-Metriken zum Launch und die Suche nach der weniger diskriminierenden Alternative. Prüfer werden danach fragen. „Wir haben keine Dokumentation" kommt einem Eingeständnis des Verstoßes nahe.

Laufendes Monitoring auf Drift

Bias ist nicht statisch. Ein beim Launch faires Modell kann driften, wenn sich Bevölkerung und Wirtschaft verändern. Überwachen Sie Genehmigungsquoten nach geschützter Gruppe monatlich oder quartalsweise. Fällt die Adverse Impact Ratio unter Ihren Schwellenwert, lösen Sie ein Review aus.

Menschliche Prüfung der Grenzfälle

Vollautomatisierte Ablehnungen ohne menschliche Aufsicht sind riskant, besonders nahe der Entscheidungsgrenze. Viele Kreditgeber leiten Grenzfälle oder ungewöhnliche Fälle an einen menschlichen Underwriter weiter, der auffangen kann, was das Modell übersehen hat.

Das Vendor-Problem

Wenn Sie ein Scoring-Modell von einem Drittanbieter kaufen, bleiben Sie in der Haftung. „Der Vendor hat es gebaut" überträgt Ihre ECOA-Haftung nicht. Sie müssen das Modell, das Sie verwenden, erklären und verteidigen kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen. Fordern Sie Dokumentation und Fairness-Tests von Vendors, bevor Sie deployen.

Key Takeaways

• Das Entfernen geschützter Variablen entfernt den Bias nicht. Machine-Learning-Modelle rekonstruieren Ethnie und Geschlecht aus Proxys wie Postleitzahl, Name und Transaktionsdaten. Prüfen Sie jedes Feature, indem Sie testen, ob es ein geschütztes Merkmal prognostizieren kann.
• Geschützte Merkmale zum Testen behalten, nie zum Entscheiden. Sie kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen Disparate Impact nicht messen (mit Screens wie der Four-Fifths Rule), ohne zu wissen, wer betroffen war.
• Suchen Sie nach einer weniger diskriminierenden Alternative und dokumentieren Sie sie. Wenn ein ähnlich genaues Modell die Genehmigungslücke verkleinert, wird rechtlich möglicherweise erwartet, dass Sie es verwenden. Ihre Aktenlage ist Ihre Verteidigung.
• Ein komplexes Modell ist keine Entschuldigung, die Erklärung zu überspringen. Adverse Action Notices müssen spezifische, korrekte Gründe nennen. Wenn Ihr Modell zu intransparent zum Erklären ist oder der echte Grund ein Proxy ist, ist das ein Compliance-Versagen und keine Formalie.
• Fair Lending ist laufende Governance, keine Launch-Checkliste. Überwachen Sie Drift, halten Sie Menschen bei Grenzfällen im Prozess, und denken Sie daran: Bei Vendor-Modellen bleibt die Haftung bei Ihnen.