Wo KI in der Beratungsarbeit tatsächlich scheitert

# Wo KI in der Beratungsarbeit tatsächlich scheitert

Im Juni 2023 reichten zwei Anwälte bei einem US-Bundesgericht einen Schriftsatz ein, in dem sechs Fälle zitiert wurden, die es nicht gab. Ihr Recherchewerkzeug, ChatGPT, hatte plausibel klingende Präzedenzfälle erfunden, samt erfundener Aktenzeichen. Ein Richter im Southern District of New York verhängte eine Geldstrafe gegen sie und ihre Kanzlei. Dieser Fall, *Mata v. Avianca*, ist heute die Standard-ErErThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen →öffnungsfolie in jedem Schulungsdeck zu KI im Rechtsbereich. Der zugrunde liegende Fehlermodus blieb aber nicht auf die Rechtspraxis beschränkt. Es ist derselbe Fehlermodus, der 2026 in Due-Diligence-Memos, Bewertungsmodellen und Prüfungsarbeitspapieren quer durch die Professional Services auftaucht.

Diese Lektion zerlegt, wo KI speziell in Beratungsdeliverables scheitert und welche Kontrollen das abfangen, bevor es beim Klienten landet.

Warum Professional Services ein besonderer Risikofall sind

Beratungen, Kanzleien, Wirtschaftsprüfer und Advisory-Firmen verkaufen Urteilsvermögen, nicht nur Output. Ein Industrieklient kauft keine Tabelle, ererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → kauft die Schlussfolgerung Ihrer Firma, dass ein Akquisitionsziel 340 Millionen Dollar wert ist und nicht 410 Millionen. Wenn KI stillschweigend einen Input verfälscht, erbt der Fehler die Glaubwürdigkeit der Firmenmarke. Das unterscheidet sich vom Fehler eines Retail-Chatbots: Der Klient hat keine unabhängige Möglichkeit, Ihre Argumentation zu prüfen, denn ererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → hat Sie genau deshalb beauftragt, weil ihm diese Expertise fehlt.

Das wird manchmal als Informationsasymmetrie-Problem bezeichnet: Der Klient kann die Arbeit nicht so gut verifizieren wie die Firma selbst, und genau darum existieren berufsrechtliche Pflichten (Treuepflicht, Standards der Berufshaftung). KI-Fehler nutzen diese Asymmetrie unbemerkt aus.

Fehlermodus 1: Halluzinierte Zitate und Quellen

Halluzination bedeutet, dass ein Modell flüssige, selbstbewusste Inhalte erzeugt, die sachlich falsch sind, ohne dass der Nutzer ein Signal erhält, dass sie erfunden sind. In der Beratungsarbeit zeigt sich das als:

• Erfundene Rechtsprechung in juristischen Memos (das Muster *Mata v. Avianca*, das 2025-2026 weiterhin zu Gerichtssanktionen führt)
• Erfundene wissenschaftliche Studien, die in Market-Sizing-Decks zitiert werden
• Nicht existierende regulatorische Leitlinien, die in Compliance-Berichten zitiert werden

Die Gefahr liegt nicht darin, dass das Modell manchmal falsch liegt. Sie liegt darin, dass halluzinierter Text stilistisch nicht von korrektem Text zu unterscheiden ist. Ein Partner, der einen 40-seitigen Entwurf querliest, wird eine erfundene Fußnote nicht bemerken, solange nicht jemand die Quelle tatsächlich aufruft.

Kontrolle, die das abfängt: ein verpflichtender Quellenverifizierungsdurchgang, bei dem jedes Zitat, jeder Fall und jede Statistik in einem KI-gestützten Entwurf unabhängig aufgerufen und bestätigt wird, bevor das Dokument das Haus verlässt. Manche Firmen verlangen inzwischen ein „Citation Audit Log" als Deliverable-Artefakt, nicht nur als QA-Schritt.

Fehlermodus 2: Stillschweigend falsche Modellannahmen

Finanzmodelle, die mit KI-Unterstützung gebaut werden (Ausfüllen von DCFDCFDiscounted Cash Flow (DCF) is a valuation method that estimates an asset's value by projecting future cash flows and discounting them to present value using a required rate of return.Vollständige Definition ansehen →-Templates, Erzeugen von Comps, Entwerfen von Sensitivitätstabellen), scheitern anders als Halluzinationen. Der Output sieht zahlenmäßig plausibel und intern konsistent aus, beruht aber auf einer falschen Annahme, die das Modell nie als unsicher markiert hat.

Beispiel: Ein KI-Tool, das ein Discounted-Cash-Flow-Modell für ein Zielunternehmen bauen soll, zieht eine „Standard"-Terminal-Growth-Rate oder einen Standard-Diskontierungssatz aus Mustern in den Trainingsdaten, statt aus dem tatsächlichen Sektor und der Geografie des Klienten. Die Tabelle rechnet korrekt. Die Formeln sind richtig. Der Input ist stillschweigend veraltet oder generisch.

Illustrative only:
Terminal growth rate used by AI draft: 3.0% (generic US long-run GDP proxy)
Correct assumption for target's niche market (per analyst research): 1.2%

Enterprise value impact (illustrative, simplified Gordon Growth sensitivity):
EV = FCF / (WACC - g)
At g = 3.0%: EV = $50M / (0.09 - 0.03) = $833M
At g = 1.2%: EV = $50M / (0.09 - 0.012) = $641M

Difference: ~23% valuation swing from one unflagged assumption

Das ist Modellrisiko: das Risiko, dass der Output eines Modells mit einem Vertrauen verwendet wird, das ererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → nicht verdient, weil Fehler in Struktur, Daten oder Annahmen am Output allein nicht sichtbar sind. Die US-Bankenaufsicht hat dieses Konzept in SR 11-7 formalisiert (Leitlinien der Federal Reserve zum Model Risk Management), und es prägt heute informell, wie Professional-Services-Firmen über KI-gestützte Modellierung denken, auch außerhalb des Bankensektors.

Kontrolle, die das abfängt: eine unabhängige Annahmenprüfung, bei der eine zweite Person (nicht die KI, nicht der ursprüngliche Ersteller) jede wesentliche Annahme in klarer Sprache benennt und mit einer Quelle belegt, bevor das Modell finalisiert wird.

Fehlermodus 3: Verzerrtes Screening in der Due Diligence

KI-Tools übernehmen zunehmend die Triage in der Due Diligence: Verträge nach Risiko sortieren, „Red Flag"-Klauseln markieren, Akquisitionskandidaten ranken oder Managementteams anhand von LinkedIn und öffentlichen Daten bewerten. Wenn diese Tools auf historischen Deal-Daten trainiert sind, kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen sie vergangene Bias in angeblich objektive Scores einbauen.

Konkretes Muster: Ein Screening-Tool, das auf früheren „erfolgreichen" Portfoliounternehmen trainiert wurde, kann implizit Managementteams bevorzugen, die früheren (oft demografisch engen) Führungsriegen ähneln, und ebenso qualifizierte, aber anders zusammengesetzte Teams benachteiligen. Das ist nicht hypothetisch, es spiegelt gut dokumentierte Fälle von Bias in Recruiting-Algorithmen, etwa Amazons eingestelltes KI-Recruiting-Tool, das Lebensläufe abwertete, in denen Frauenhochschulen oder entsprechende Aktivitäten erwähnt wurden.

In der Due Diligence erzeugt verzerrtes Screening sowohl ein ethisches als auch ein kommerzielles Risiko: Sie priorisieren möglicherweise systematisch gute Targets oder gute Kandidaten herunter und erfahren es nie, weil das Tool seine Ranking-Logik nie in Begriffen erklärt, die ein Partner als verzerrt erkennen würde.

Kontrolle, die das abfängt: Disparate-Impact-Tests der Screening-Outputs, bevor sie eine Empfehlung beeinflussen, plus eine Regel, dass KI-generierte Rankings nur beratende Inputs sind, nie der finale Filter, mit der Pflicht, dass ein Mensch alles prüft, was das Tool ausschließt, nicht nur das, was es einschließt.

Warum sich diese Risiken im Beratungskontext verstärken

Jeder Fehlermodus oben ist schon allein schlecht. Sie verstärken sich, weil Deliverables in Professional Services schnell durch eine Vertrauenskette laufen: Analyst zu Manager zu Partner zu Klient zum Board des Klienten. Bei jeder Übergabe gilt die Annahme „der Vorgänger hat das geprüft". KI-generierte Inhalte brechen diese Kette, weil sie einen Flüssigkeitstest bestehen kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen (liest sich das gut?), während sie einen Genauigkeitstest nicht bestehen (ist es wahr?), und die meisten Prüfer führen unter Termindruck nur den ersten Test durch.

Regulierer beginnen zu reagieren. Der AI Act der EU (2024 in Kraft getreten, Pflichten treten bis 2026-2027 gestaffelt in Kraft) klassifiziert bestimmte KI-Anwendungen in beruflichen Kontexten, darunter einige Screenings im Kredit- und Beschäftigungsbereich, als „hochriskant", was verpflichtendes Risikomanagement, Dokumentation und menschliche Aufsicht auslöst. In den USA gibt es Stand 2026 kein einheitliches Bundes-KI-Gesetz; stattdessen geben Sektoraufseher (SEC für Anlageberater, staatliche Anwaltskammern für die Rechtspraxis) Leitlinien heraus und setzen bestehende Berufsregeln gegen KI-verursachte Fehler durch. Die FTC (Federal Trade Commission) hat ebenfalls signalisiert, dass sie KI-bezogene Falschdarstellungen gegenüber Klienten als irreführende Praktik unter ihrer bestehenden Verbraucherschutzkompetenz behandeln wird.

Guardrails vor dem Rollout: eine Minimal-Checkliste

Bevor ein KI-Tool ein Klienten-Deliverable berührt, sollten Professional-Services-Firmen Antworten auf Folgendes haben:

1. Provenienz: Lässt sich jede sachliche Aussage oder jedes Zitat auf eine verifizierbare Quelle zurückführen, unabhängig vom KI-Tool?

2. Annahmen-Offenlegung: Zeigt das Tool die zentralen Annahmen hinter einem Finanz-Output sichtbar an (statt sie zu verstecken)?

3. Bias-Tests: Wurde jedes Screening- oder Ranking-Tool vor dem Go-live auf einer repräsentativen Stichprobe auf ungleiche Ergebnisse über geschützte Merkmale hinweg getestet?

4. Menschliche Freigabe: Gibt es eine namentlich benannte Person, nicht „das Team", die für die Verifizierung KI-gestützter Abschnitte vor der Lieferung an den Klienten verantwortlich ist?

5. Audit Trail: Kann die Firma Monate später rekonstruieren, was die KI erzeugt hat und was ein Mensch bearbeitet hat, wenn ein Regulierer oder Klient die Arbeit in Frage stellt?

Key Takeaways

• Halluzinierte Zitate sind ein dokumentierter, wiederkehrender Fehler (siehe *Mata v. Avianca*, 2023) und erfordern eine verpflichtende unabhängige Quellenverifizierung, bevor ein KI-gestütztes Dokument die Firma verlässt.
• Fehler in Finanzmodellen durch KI sind gefährlich, weil sie stillschweigend auftreten: Die Mathematik ist richtig, die Annahme ist falsch, und nur eine unabhängige Annahmenprüfung fängt das ab.
• KI-gestützte Due-Diligence- und Screening-Tools kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen historische Bias in angeblich neutrale Scores einbauen; behandeln Sie KI-Rankings nur als beratenden Input, nie als einzigen Filter, und testen Sie auf Disparate Impact.
• Diese Risiken verstärken sich in Professional Services, weil Klienten auf das Urteilsvermögen der Firma als eigentliches Produkt vertrauen; ein unverifizierter KI-Fehler erbt die Glaubwürdigkeit der Firma.
• Minimale Guardrails vor dem Rollout: Provenienzprüfungen, Annahmen-Offenlegung, Bias-Tests, namentliche menschliche Freigabe und ein rekonstruierbarer Audit Trail.