Aussagen von KI-Anbietern prüfen, bevor Sie kaufen

# Aussagen von KI-Anbietern prüfen, bevor Sie kaufen

Ein Anbieter für Betrugserkennung sagt Ihrem Risikoausschuss: „Unser Modell senkt die False Positives um 40 %.“ Die Folie zeigt ein sauberes Balkendiagramm. Der Vertriebler hat eine Logo-Wand mit Case Studies. Niemand im Raum fragt: 40 % im Vergleich wozu, wie gemessen, auf wessen Daten?

Sechs Monate später ertrinkt Ihr Fraud-Ops-Team in einer Queue, die mit dem Pitch nichts zu tun hat. Diese Lektion gibt Ihnen die Checkliste, um das zu verhindern, bevor ein Pilot überhaupt Produktivdaten berührt.

Warum die Aussage „40 % weniger False Positives“ für sich genommen fast nichts bedeutet

Ein False Positive (eine legitime Transaktion, die fälschlich als Betrug markiert wird) hat reale Kosten: verärgerte Kunden, abgebrochene Transaktionen, Volumen im Call Center. Anbieter wissen, dass die Reduktion von False Positives ein zentraler Schmerzpunkt ist, deshalb ist das die bevorzugte Headline-Kennzahl.

Aber „40 % weniger“ ist ein Verhältnis, keine Tatsache. Sie brauchen den Nenner. Fragen Sie:

• 40 % im Vergleich zu welcher Baseline? Ihrem eigenen schwächeren Modell? Ihrem aktuellen internen System? Einem Branchendurchschnitts-Benchmark, der Ihrem Portfolio vielleicht gar nicht ähnelt?
• Auf welcher Population? Ein Datensatz mit 50.000 Transaktionen einer mittelgroßen US-Regionalbank oder Millionen über mehrere Issuer und Länder hinweg?
• Bei welcher Betrugserkennungsrate? Sie kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen False Positives immer senken, indem Sie den Schwellenwert lockern, um den Preis, mehr tatsächlichen Betrug zu übersehen. Eine seriöse Aussage nennt False-Positive-Rate und True-Positive-Rate (erkannter Betrug) gemeinsam, idealerweise als vollständige Precision-Recall- oder ROC-Kurve, nicht als einzelnen Punkt.

Wenn der Anbieter die Confusion Matrix (die 2x2-Tabelle aus True/False Positives und Negatives) hinter der Headline-Zahl nicht liefern kann, behandeln Sie die Aussage als Marketing, nicht als Beleg.

Die fünf Dinge, die Sie vor einem Piloten einfordern sollten

1. Die Beschreibung des Benchmark-Datensatzes

Fragen Sie nach einem Data Sheet mit: Zeitraum, Geografie, Transaktionsarten (Card-present vs. Card-not-present, Wire, ACH), Definition des Fraud-Labels und Class Balance (wie viel % des Datensatzes tatsächlich betrügerisch waren). Betrug ist selten, oft deutlich unter 1 % der Transaktionen, also wird ein Modell, das auf einem kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →ünstlich ausbalancierten 50/50-Datensatz getestet wurde, weit besser aussehen als es live abschneidet.

2. Die exakten Metrikdefinitionen

„Accuracy“ ist bei der Erkennung seltener Ereignisse wie Betrug oder Geldwäsche (AML, das Regulierungsregime, das Banken zur Erkennung und Meldung verdächtiger Finanzaktivitäten verpflichtet) nahezu nutzlos, denn ein Modell, das jedes Mal „kein Betrug“ vorhersagt, kann 99 %+ „accurate“ sein und dabei null Betrug erkennen. Bestehen Sie auf:

• Precision (von den markierten Fällen, wie viel % waren wirklich Betrug)
• Recall / True-Positive-Rate (vom tatsächlichen Betrug, wie viel % wurde erkannt)
• False-Positive-Rate bei einem angegebenen Operating Threshold

3. Testbedingungen und Prüfung auf Data Leakage

Fragen Sie ausdrücklich: War das Test-Set zeitlich vollständig vom Trainings-Set getrennt (Out-of-Time-Validierung) oder nur ein zufälliger Split? Zufällige Splits auf Transaktionsdaten kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen Informationen leaken (spätere Transaktionen eines Kunden fließen in Vorhersagen zu seinen früheren ein) und die Ergebnisse kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →ünstlich aufblähen. Out-of-Time-Tests, also Training auf 2023er Daten und Test auf 2024er Daten, sind der realistische Standard.

4. Performance auf Daten, die Ihren ähneln

Ein Modell, das auf Kartendaten großererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → Banken gebenchmarkt wurde, kann bei dem kleineren, andersartigen Transaktionsmix einer Community Bank deutlich abbauen, oder bei grenzüberschreitenden Wires, wenn es überwiegend auf inländischen ACH trainiert wurde. Fordern Sie einen Champion-Challenger-Piloten: Lassen Sie das Anbietermodell im Shadow Mode laufen (Scoring von Live-Transaktionen, ohne darauf zu reagieren) und vergleichen Sie es über einen definierten Zeitraum mit Ihrem bestehenden System auf Ihrer tatsächlichen Population.

5. Offenlegung von Drift und Retraining-Frequenz

Betrugsmuster verschieben sich ständig, und normales Kundenverhalten ebenso. Fragen Sie, wie oft das Modell neu trainiert wird, was ein Retraining auslöst und was zwischen den Retraining-Zyklen mit der Performance passiert (das nennt sich Model Drift oder Performance Decay). Ein Anbieter ohne Antwort auf „Wie überwachen Sie Drift?“ verlangt von Ihnen, eine Momentaufnahme zu kaufen, kein System.

Ein einfaches Rechenbeispiel: warum Base Rates zählen

Angenommen, Ihre Betrugsrate liegt realistisch bei 0,3 % der Transaktionen (eine plausible Größenordnung für Kartentransaktionen; die tatsächlichen Raten variieren je nach Issuer und Kanal). Von 1.000.000 Transaktionen sind das rund 3.000 betrügerische.

Der Anbieter behauptet: 90 % Recall (erkennt 90 % des Betrugs) und eine False-Positive-Rate von 2 %.

• Erkannte True Positives: 90 % x 3.000 = 2.700
• False Positives: 2 % x 997.000 (Nicht-Betrugstransaktionen) ≈ 19.940

Ihr Fraud-Team prüft also rund 22.640 markierte Transaktionen, um 2.700 echte Betrugsfälle zu finden. Das ist eine Precision von etwa 12 %. Die Aussage „40 % weniger False Positives als unser altes Modell“ kann zutreffen und Ihnen trotzdem eine unbearbeitbare Review-Queue hinterlassen, weil die Base Rate von Betrug so niedrig ist, dass selbst kleine False-Positive-Prozentsätze riesige absolute Volumina erzeugen.

Das ist das Base-Rate-Problem, und es ist der mit Abstand häufigste Grund, warum Anbieterpiloten in der Produktion enttäuschen. Rechnen Sie Prozentaussagen immer in absolute Zahlen gegen Ihr tatsächliches Transaktionsvolumen um, bevor Sie irgendetwas unterschreiben.

Regulatorik und Governance

In den USA setzt die SR 11-7 Guidance der Federal Reserve zum Model Risk Management die aufsichtsrechtliche Erwartung, dass Banken jedes Modell unabhängig validieren, auch von Anbietern gelieferte, bevor es in Betrieb geht, und es laufend überwachen. Sie kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen die Validierungsverantwortung nicht an den Benchmark-Report des Anbieters auslagern.

In der EU stuft der AI Act (in Kraft getreten 2024, mit gestaffelten Compliance-Pflichten bis 2026 und darüber hinaus) die meisten von Banken genutzten Systeme zur Kreditwürdigkeits- und Betrugsbewertung als „Hochrisiko-KI-Systeme“ ein, was Anforderungen an Dokumentation, menschliche Aufsicht sowie Genauigkeits- und Robustheitstests auslöst, die Prüfer einsehen kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen. Europäische Banken sollten jede Anbieteraussage bereits im Beschaffungsprozess direkt auf diese Dokumentationsanforderungen abbilden, nicht erst danach.

So oder so zeigen die regulatorische Erwartung und die kommerzielle Due Diligence in dieselbe Richtung: Unabhängige Validierung auf Ihren eigenen Daten ist der Beweisstandard, nicht das Marketingmaterial des Anbieters.

Die Scorecard für die Anbieterbewertung aufbauen

Eine praxistaugliche Beschaffungs-Checkliste für Aussagen von KI-Anbietern im Banking sollte jeden Anbieter in folgenden Punkten bewerten:

1. Transparenz der Methodik: Teilen sie die Confusion Matrix, nicht nur das Headline-Verhältnis?

2. Datenrelevanz: Wurde der Benchmark auf Daten aufgebaut, die Ihrem Portfolio ähneln (Geografie, Kanal, Kundensegment)?

3. Verfügbarkeit eines Shadow-Mode-Piloten: Führen sie vor dem Go-live ein Live-Scoring ohne Produktivwirkung auf Ihren Daten durch?

4. Explainability: Lassen sich die markierten Entscheidungen des Modells einem Kunden oder Prüfer erklären (relevant nach Fair-Lending-Gesetzen wie dem US Equal Credit Opportunity Act und nach den Bestimmungen der DSGVO zu automatisierten Entscheidungen in der EU)?

5. Drift-Monitoring und Retraining-SLA: Was ist vertraglich für die laufende Performance garantiert, nicht nur für die Performance am Launch-Tag?

Ein einfaches Snippet, um das intern während der Anbieterbewertung zu verfolgen:

# minimal vendor claim sanity-check
fraud_rate = 0.003          # Schätzung: an Ihr tatsächliches Portfolio anpassen
total_txns = 1_000_000
recall = 0.90                # vom Anbieter angegebene True-Positive-Rate
fpr = 0.02                   # vom Anbieter angegebene False-Positive-Rate

fraud_txns = total_txns * fraud_rate
non_fraud_txns = total_txns - fraud_txns

true_positives = fraud_txns * recall
false_positives = non_fraud_txns * fpr

precision = true_positives / (true_positives + false_positives)
print(f"Flagged for review: {true_positives + false_positives:,.0f}")
print(f"Precision: {precision:.1%}")

Rechnen Sie das mit den tatsächlich behaupteten Zahlen des Anbieters und Ihrem echten Transaktionsvolumen durch, bevor irgendeine Vertragsdiskussion beginnt.

🎬 [VIDEO: "Model Risk Management Explained" - https://www.youtube.com/results?search_query=model+risk+management+banking+explained - Suchergebnisse für verständliche Erklärvideos zu Modellvalidierung und Governance-Frameworks wie SR 11-7, nützlicher Hintergrund vor Meetings zur Anbieterbewertung]

Key Takeaways

• Akzeptieren Sie nie eine Ein-Zahl-Aussage („40 % weniger False Positives“) ohne Baseline, Datensatzbeschreibung und vollständige Confusion Matrix dahinter.
• Rechnen Sie jede Prozentaussage in absolute Zahlen gegen Ihr echtes Transaktionsvolumen um; niedrige Base Rates (etwa Betrug deutlich unter 1 %) machen kleine Prozentunterschiede in der Praxis riesig.
• Fordern Sie Out-of-Time-Tests und einen Shadow-Mode-Piloten auf Ihren eigenen Daten, bevor eine Produktionsentscheidung fällt.
• Regulatorische Rahmenwerke (Fed SR 11-7 in den USA, die Hochrisiko-Kategorie des EU AI Act) verlangen unabhängige Validierung, kein Self-Reporting des Anbieters, planen Sie diese Validierung also von Tag eins an in die Beschaffungszeitpläne ein.
• Bewerten Sie Anbieter nach Transparenz, Datenrelevanz, Explainability und Drift-Monitoring, nicht nur nach der Headline-Kennzahl aus dem Pitch.