Asset Management · Die KI-Risikotaxonomie katalogisieren

2024 erfand ein Chatbot von Air Canada eine Rückerstattungsregel, die es nicht gab, und ein Gericht machte die Airline für die Aussage ihrer KI haftbar. Übertragen Sie das auf einen Wealth Manager, dessen LLM-Copilot einem Kunden erzählt, ein strukturiertes Wertpapier sei „kapitalgeschützt“, obwohl es das nicht ist. Gleicher Fehlermodus, höhere Einsätze, und ein Regulator (SEC oder FCA) schaut zu. Diese Lektion verwandelt diffuse KI-Sorgen in ein konkretes, bewertetes Risikoregister, das Sie morgen einem Chief Risk Officer übergeben könnten.

*LLM = Large Language Model, die Technologie hinter Chatbots wie ChatGPT. Copilot = ein KI-Assistent, der in einen Workflow eingebettet ist, etwa zum Entwerfen von Kunden-E-Mails oder zum Zusammenfassen von Research.*

Warum eine Taxonomie und keine Sorgenliste

Eine Taxonomie zwingt Sie, jedes Risiko zu benennen, zu lokalisieren, wo es in Ihrem Book sitzt, und es konsistent zu bewerten. Regulatoren erwarten das inzwischen. Der EU AI Act (in Kraft seit 2024, mit Pflichten, die bis 2026 und 2027 gestaffelt greifen) verlangt eine Risikoklassifizierung für KI-Systeme. In den USA ist die SEC gegen „AI Washing“ (das Übertreiben von KI-Fähigkeiten gegenüber Investoren) vorgegangen, und das NIST AI Risk Management Framework liefert eine kostenlose, herstellerneutrale Struktur, die viele US-Firmen freiwillig übernehmen.

*Book = das Portfolio und die Kundenbasis, die eine Firma verwaltet. Ein „live“ Book bedeutet echtes Kundengeld, keine Sandbox.*

Wir bewerten jedes Risiko auf zwei Achsen, 1 bis 5:

Likelihood: wie häufig das plausibel passieren könnte.
Impact: Kundenschaden, regulatorische Exponierung und finanzieller Verlust zusammengenommen.

Risk Score = Likelihood x Impact. Alles mit 15 oder mehr braucht einen namentlichen Owner und eine Mitigation vor dem Deployment.

Die vier Hauptrisiken

1. Halluzinierende LLM-Copilots

Eine Halluzination liegt vor, wenn ein LLM flüssigen, selbstbewussten Text produziert, der faktisch falsch ist. Im Asset Management zeigt sich das im Kundenchat, beim Erstellen von RFPs (Request For Proposal) und beim Zusammenfassen von Research.

Konkrete Szene: Eine Privatbank setzt einen Copilot ein, um Fonds-Factsheets zusammenzufassen. Er gibt die laufenden Kosten eines Fonds mit 0,45 % an, während der echte Wert 0,95 % beträgt. Ein Relationship Manager kopiert das in eine Kunden-E-Mail. Das ist eine Mis-Selling-Exponierung unter MiFID II (die EU-Richtlinie über Märkte für Finanzinstrumente, die Geeignetheit und Offenlegung regelt).

Likelihood: 4 (Halluzination ist heutigen LLMs inhärent)
Impact: 4 (direkter Kundenschaden, Regelverstoß)
Score: 16

Guardrail: Retrieval-Augmented Generation (RAG), bei der das Modell ein Quelldokument zitieren muss, plus eine Regel, dass jede genannte Zahl auf die Quellzeile zurückverlinkt. Lassen Sie einen Copilot niemals frei Zahlen generieren.

2. Korreliertes Model Herding

Das ist das stille, systemische Risiko. Wenn viele Manager dasselbe Foundation Model oder denselben Signalanbieter lizenzieren, können ihre Portfolios beginnen, auf dieselben Prompts gleich zu reagieren. Wenn die KI bei allen gleichzeitig „Duration reduzieren“ sagt, entstehen Crowded Trades und Liquiditätslücken.

Die Bank of England und das Financial Stability Board haben beide auf dieses Konzentrationsrisiko hingewiesen. Es ist nicht hypothetisch: Quant-Strategien haben Crowding schon gezeigt (der „Quant Quake“ vom August 2007 ist das klassische Beispiel aus der Zeit vor KI).

Likelihood: 3 (steigend, da sich die Adoption konzentriert)
Impact: 5 (systemisch, trifft in gestressten Märkten das ganze Book)
Score: 15

Guardrail: Anbieter- und Modellvielfalt als überwachte Metrik führen. Stresstesten Sie das Book unter der Annahme, dass ein korreliertes KI-getriebenes Signal in Ihrer Peer Group gleichzeitig auslöst.

3. Data Leakage

Zwei Varianten. Erstens, **vertrauliche Daten (Kunden-PII, Positionen, Deal-Informationen), die *in* ein öffentliches Modell gelangen, wenn Mitarbeiter sie in einen Consumer-Chatbot kopieren**. Zweitens Modell-Outputs, die Informationen offenlegen, die sie nicht offenlegen sollten, etwa ein Copilot, der auf dem Mandat eines Kunden trainiert wurde und Details an einen anderen weitergibt.

*PII = Personally Identifiable Information, in Europa durch die DSGVO und in den USA durch verschiedene Landesgesetze geschützt.*

Konkrete Szene: Ein Analyst kopiert eine M&A-Position vor der Ankündigung in ein öffentliches LLM, um „beim Schreiben des Memos zu helfen“. Diese Daten liegen nun möglicherweise auf einem Drittserver. Unter der DSGVO können Bußgelder 4 % des globalen Jahresumsatzes erreichen. Nach den Marktmissbrauchsregeln (der EU-Marktmissbrauchsverordnung, MAR) ist die Position selbst eine Insiderinformation.

Likelihood: 4 (der Mensch ist das schwache Glied)
Impact: 5 (regulatorisch, reputativ, potenziell strafrechtlich)
Score: 20

Guardrail: Consumer-KI-Tools auf Firmengeräten blockieren, eine Enterprise-Instanz mit vertraglichem Datenschutz bereitstellen (kein Training auf Ihren Daten) und jeden Prompt loggen.

4. Vendor-Konzentration

Die meisten Firmen bauen keine Foundation Models. Sie mieten sie bei einer Handvoll Anbieter (OpenAI, Anthropic, Google, Microsoft, dazu die Cloud-Hosts AWS und Azure). Wenn ein Anbieter die Preise ändert, eine Modellversion abkündigt oder einen Ausfall hat, bricht Ihr Workflow.

Konkrete Szene: Eine Modellversion, von der Ihr Compliance-Workflow abhängt, wird mit 90 Tagen Vorlauf abgeschaltet, und der Ersatz verhält sich bei Ihren Prompts anders. Sie müssen alles neu validieren.

Likelihood: 3
Impact: 4 (operativ, nicht unmittelbar kundenseitig)
Score: 12

Guardrail: Multi-Vendor-Abstraktion (Prompts über eine Schicht routen, die Anbieter wechseln kann) und vertragliche Kündigungsfristen. Das ist klassische operative Resilienz, in Europa inzwischen von DORA abgedeckt (dem Digital Operational Resilience Act, der seit Januar 2025 für Finanzunternehmen gilt), der kritische IKT-Drittanbieter ausdrücklich erfasst.

Das Risikoregister, zusammengesetzt

Risiko	Likelihood	Impact	Score	Owner
Data Leakage	4	5	20	CISO
Halluzinierender Copilot	4	4	16	Head of Advice
Model Herding	3	5	15	CIO
Vendor-Konzentration	3	4	12	COO

Alles ab 15 (drei von vier) braucht eine Mitigation vor dem Go-live. Data Leakage steht nicht deshalb oben, weil es exotisch ist, sondern weil menschliches Verhalten die Likelihood nach oben treibt.

🎬 [VIDEO: „The Air Canada Chatbot Case“ - youtube.com - eine kurze Erklärung der Gerichtsentscheidung, die ein Unternehmen für die Falschaussagen seiner KI haftbar macht, direkt relevant für die Copilot-Haftung]

Scoring im Code

Wenn Sie dieses Register in einer Tabelle oder einer Data Pipeline führen, ist die Logik trivial und lohnt die Automatisierung, damit sich die Scores mit Ihren Schätzungen aktualisieren:

python

risks = [
    {"name": "Data leakage",        "likelihood": 4, "impact": 5},
    {"name": "Hallucinating copilot","likelihood": 4, "impact": 4},
    {"name": "Model herding",       "likelihood": 3, "impact": 5},
    {"name": "Vendor concentration","likelihood": 3, "impact": 4},
]

THRESHOLD = 15
for r in risks:
    r["score"] = r["likelihood"] * r["impact"]
    r["action"] = "MITIGATE PRE-DEPLOY" if r["score"] >= THRESHOLD else "monitor"

for r in sorted(risks, key=lambda x: -x["score"]):
    print(f'{r["name"]:24} {r["score"]:>2}  {r["action"]}')

Es geht nicht um den Code. Es geht darum, dass die Schwelle explizit, prüfbar und über jeden KI-Use-Case, den Sie prüfen, konsistent ist.

Wissenscheck

1. Warum plädiert die Lektion für eine bewertete Taxonomie statt für eine informelle „Sorgenliste“ von KI-Risiken?

2. Ein Risiko wird mit Likelihood 4 und Impact 4 bewertet. Was verlangt die Methodik der Lektion vor dem Deployment?

3. Der Fall des Air-Canada-Chatbots illustriert welches allgemeine Prinzip, das für Wealth Manager relevant ist?

MEHRFACHAUSWAHL

4. Wählen Sie ALLE korrekten Antworten dazu, wie die Lektion die Impact-Achse des Risk Scores definiert.

Wählen Sie alle richtigen Antworten aus.

MEHRFACHAUSWAHL

5. Wählen Sie ALLE korrekten Antworten zu Halluzinationen in LLM-Copilots, wie die Lektion sie beschreibt.

Wählen Sie alle richtigen Antworten aus.

Vom Register zu den Guardrails

Ein Score ist eine Diagnose. Der Guardrail ist die Behandlung. Ordnen Sie jedem hoch bewerteten Risiko eine Prüfung zu, die Sie *vor* dem Deployment durchführen, und eine Kontrolle, die Sie danach *laufend* betreiben.

Prüfungen vor dem Deployment

Modellvalidierung: Testen Sie den Copilot gegen einen festen Satz von Fragen mit bekannten Antworten. Messen Sie die Halluzinationsrate. Wenn er häufiger als in einem winzigen Bruchteil der Fälle Zahlen erfindet, geht er nicht an den Kunden.
Red Teaming: Versuchen Sie bewusst, das Modell dazu zu bringen, Daten offenzulegen oder etwas Non-Compliantes zu sagen. Dokumentieren Sie, was bricht.
Human in the Loop: Für jeden Output, der einen Kunden erreicht oder einen Trade auslöst, definieren Sie, wer abzeichnet. Der EU AI Act schreibt menschliche Aufsicht für Systeme mit höherem Risiko vor.

Laufende Kontrollen

Prompt- und Output-Logging: Führen Sie eine prüffähige Spur. Wenn ein Regulator fragt „Was hat Ihre KI diesem Kunden gesagt?“, müssen Sie antworten können.
Drift-Monitoring: Das Modellverhalten ändert sich, wenn der Anbieter es aktualisiert. Führen Sie Ihre Tests mit bekannten Antworten planmäßig erneut aus.
Konzentrations-Dashboard: Verfolgen Sie, wie viel Ihres Workflows von einem einzigen Modell oder Anbieter abhängt.

Wer das verantwortet

Governance ist nicht „das Problem des KI-Teams“. Modellrisiko liegt beim CRO und CIO, Data Leakage beim CISO, Vendor-Resilienz beim COO und kundenseitige Genauigkeit beim Head of Advice. Der Vorstand zeichnet den Risikoappetit ab. Das spiegelt das Modell der „drei Verteidigungslinien“, das Risikoexperten ohnehin nutzen: Das Business besitzt das Risiko, Risk und Compliance hinterfragen es, und die interne Revision prüft das Ganze.

Wichtigste Erkenntnisse

Bewerten, nicht nach Gefühl gehen. Likelihood x Impact, mit einer veröffentlichten Schwelle (wir haben 15 genutzt), verwandelt KI-Sorgen in ein prüffähiges Register mit namentlichen Ownern.
Data Leakage steht meist ganz oben, weil menschliches Verhalten die Likelihood treibt. Consumer-KI-Tools blockieren, eine vertraglich geschützte Enterprise-Instanz bereitstellen und alles loggen.
Lassen Sie einen Copilot niemals Zahlen erfinden. Nutzen Sie Retrieval mit verpflichtender Quellenangabe und behalten Sie eine menschliche Abzeichnung für alles, was zum Kunden geht oder einen Trade auslöst.
Model Herding ist der systemische Schläfer. Überwachen Sie Anbieter- und Modellvielfalt und stresstesten Sie das Szenario, in dem die KI jedes Peers gleichzeitig dasselbe Signal auslöst.
Die Regulierung ist real und hat Namen. EU AI Act, DSGVO, MiFID II, MAR und DORA in Europa; SEC und NIST AI RMF in den USA. Ordnen Sie jedem Guardrail die Regel zu, die er erfüllt.

Zurück

Model Risk Management für Investment-KI

Weiter

Guardrails vor dem Deployment und Go-live-Checks