Wer trägt die Verantwortung, wenn KI sich irrt

# Wer trägt die Verantwortung, wenn KI sich irrt

Eine mittelgroße Wirtschaftsprüfungsgesellschaft nutzte Anfang 2024 ein KI-Recherchetool, um ein Mandantenmemo zu einer steuerlichen Position zu entwerfen. Das Tool zitierte Rechtsprechung, die nicht existierte. Ein Junior Associate vertraute dem Output und schickte das Memo an einen Partner, der ohne Prüfung der Fundstellen abzeichnete. Der Mandant verließ sich darauf. Das ist kein Gedankenspiel: US-Gerichte haben seit 2023 mehrfach Anwälte für genau dieses Muster sanktioniert, am prominentesten in *Mata v. Avianca* (Southern District of New York, 2023), wo Anwälte ein Bußgeld zahlten, weil sie von ChatGPT erzeugte Fake-Zitate eingereicht hatten. Professional-Services-Firmen stehen heute bei jedem Mandat, das KI berührt, vor einer Variante dieses Risikos: Bewertungen, Audit-Arbeitspapiere, Steuergutachten, aktuarielle Modelle, Due-Diligence-Berichte.

Die Frage, die diese Lektion beantwortet: Wenn KI zu einem beruflichen Urteil beiträgt, das sich als falsch erweist, wer haftet, und welche Struktur hält die Firma verteidigungsfähig.

Warum das anders ist als ein gewöhnlicher Werkzeugfehler

Berufshaftung (Malpractice-Exposure, gebunden an den gegenüber dem Mandanten geschuldeten Sorgfaltsmaßstab) hat immer unterstellt, dass ein menschlicher Experte ein Urteil gefällt hat. KI verändert drei Dinge:

• Opazität: Viele KI-Outputs (besonders von Large Language Models, LLMs) zeigen ihre Herleitung nicht, Prüfer kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen den Fehler also nicht so leicht erkennen wie den Rechenfehler eines Juniors.
• Confidence without competence: KI-Tools produzieren flüssigen, autoritativ klingenden Text, unabhängig von der Richtigkeit. Das wird oft „Halluzination" genannt, die Erzeugung plausibler, aber falscher Inhalte.
• Skalierung: Ein schlechtes Prompt-Template oder ein fehlerhaftes Modell kann denselben Fehler über hunderte Mandantenakten verbreiten, bevor es jemandem auffällt.

Aufsichtsbehörden und Gerichte haben keine separate „KI-Verteidigung" oder „KI-Haftungsbefreiung" geschaffen. Der bestehende Sorgfaltsmaßstab gilt weiter: Von einem Berufsträger wird dieselbe Kompetenz erwartet, ob ererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → KI genutzt hat oder nicht. Die Formal Opinion 512 (2024) der American Bar Association zu generativer KI hat das für Anwälte ausdrücklich festgehalten: Pflichten zu Kompetenz, Vertraulichkeit und Aufsicht gelten für KI-gestützte Arbeit vollständig. Von Berufsverbänden der Wirtschaftsprüfer (AICPA) sowie von Aktuar- und Bewertungsverbänden ist bis 2026 eine entsprechend nachziehende Verschärfung zu erwarten.

Die Haftungskette abbilden

Wenn etwas schiefgeht, kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen vier Parteien in der Haftungskette stehen, und Firmen sollten das vor dem Deployment abbilden, nicht nach einem Vorfall.

1. Die Firma und der zeichnende Berufsträger. Malpractice-Klagen richten sich gegen die Person oder Firma, die das Gutachten, die Einreichung oder die Bewertung geliefert hat, unabhängig davon, welches Tool den Entwurf erzeugt hat. Abzeichnen heißt Verantwortung übernehmen.

2. Der KI-Anbieter. Verträge mit Anbietern wie Microsoft (Copilot), Thomson Reuters (CoCounsel) oder Workiva schließen die Haftung für die Richtigkeit des Outputs über die Nutzungsbedingungen typischerweise aus. Anbieter verkaufen „unterstützende" Tools, keine Gutachten.

3. Der Mandant, wenn ererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → das Tool selbst falsch eingesetzt oder offengelegte Einschränkungen ignoriert hat.

4. Versicherer, deren Berufshaftpflicht-Policen (errors and omissions, E&O) beim Underwriting zunehmend explizite Fragen zur KI-Nutzung stellen.

Das praktische Ergebnis: Die Haftung fällt fast immer auf die Firma zurück. Anbieter-Haftungsausschlüsse sind breit formuliert und weitgehend ungetestet, für Fehler auf Tool-Ebene aber in der Regel durchsetzbar. Das heißt: Die internen Kontrollen der Firma, nicht die Versprechen des KI-Anbieters, sind die eigentliche Risikominderung.

Das menschliche Sign-off: was tatsächlich als eines zählt

„Ein Mensch hat es geprüft" ist für sich genommen keine Verteidigung. Aufsichtsbehörden und Gerichte fragen inzwischen nach Belegen für eine *substanzielle* Prüfung. Bauen Sie das Sign-off um drei Tests:

• Nachvollziehbarkeit: Kann der Prüfer sehen, was die KI erzeugt hat und was ein Mensch ergänzt oder geändert hat?
• Unabhängige Verifikation: Wurden Fundstellen, Zahlen oder Berechnungen gegen eine Primärquelle geprüft, nicht bloß auf Plausibilität?
• Kompetenz, den Fehler zu finden: War der Prüfer senior genug und hatte ererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → genug Zeit, um die Fehlerklasse tatsächlich zu finden, für die das Tool bekannt ist?

Ein Partner, der fünf Minuten über einen 40-seitigen, KI-entworfenen Bewertungsbericht schaut, bevor ererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → zeichnet, erfüllt diese Schwelle nicht. Eine strukturierte Checkliste, an konkrete bekannte Fehlermodi gebunden (erfundene Zahlen, veraltete regulatorische Fundstellen, unpassende Comparables in einer Bewertung), erfüllt sie.

Der Dokumentationspfad: was aufzubewahren ist

Wenn zwei Jahre später ein Anspruch entsteht, muss die Firma exakt rekonstruieren, was passiert ist. Mindestdokumentation:

• Welches KI-Tool und welche Modellversion genutzt wurde (Modellversionen ändern sich stillschweigend; GPT-4-Outputs aus 2024 unterscheiden sich von GPT-4o oder späteren Versionen).
• Welcher Prompt oder Input gegeben wurde.
• Der rohe KI-Output, unbearbeitet.
• Was der menschliche Prüfer geändert hat und warum.
• Wer abgezeichnet hat und zu welchem Datum.

engagement_id: 2026-0417
tool: CoCounsel_v3
task: precedent_summary
raw_output_hash: 8f2a1c...
human_edits: 3 citations removed (unverifiable), 1 paragraph rewritten
reviewer: J. Alvarez, Senior Associate
signoff: M. Chen, Partner, 2026-03-11
verification_method: manual check against Westlaw

So ein Audit-Log macht aus „wir haben KI genutzt" statt eines Haftungseingeständnisses den Nachweis eines kontrollierten Prozesses. Der EU AI Act (Verordnung 2024/1689), der ab 2025 und 2026 gestaffelt in Kraft tritt, drückt für „hochriskante" KI-Systeme in dieselbe Richtung: ErErThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → verlangt Dokumentation, Logging und menschliche Aufsicht mit Eingriffsmöglichkeit, besonders relevant für KI in Kredit-, Beschäftigungs- oder rechtsnahen Entscheidungen, die manche Professional-Services-Bereiche berühren.

Das Gespräch mit der Versicherung

Berufshaftpflichtversicherer haben sich schnell bewegt. Bis 2025 hatten große E&O-Underwriter (darunter Spezialversicherer wie Beazley und Chubb) explizite Fragebögen zur KI-Nutzung in die Verlängerungsanträge aufgenommen, mit Fragen wie:

• Nutzen Sie generative KI in Mandantenlieferungen?
• Haben Sie eine Richtlinie zur KI-Nutzung und zur menschlichen Prüfung?
• Hatten Sie KI-bezogene Vorfälle oder Beinahe-Vorfälle?

Firmen, die vage antworten oder einräumen, keine Richtlinie zu haben, riskieren höhere Prämien oder Ausschlüsse. Eine Firma mit dokumentierten Guardrails (im Wesentlichen die Checkliste dieser Lektion) ist ein deutlich besseres Underwriting-Risiko. Manche Versicherer behandeln laut Branchenkommentaren von Maklern wie Marsh „keine KI-Governance-Richtlinie" inzwischen so, wie sie früher „keine Cybersecurity-Richtlinie" behandelt haben: als Warnsignal, das strengere Prüfung oder einen Aufschlag auslöst.

Praktischer Schritt: Vor der Verlängerung die tatsächliche KI-Nutzung der Firma inventarisieren und dem Makler eine einseitige Governance-Richtlinie vorlegen. Das verändert die Verhandlungsposition.

Guardrails vor dem Deployment

Eine Checkliste vor dem Deployment, übertragbar auf Audit, Steuer, Recht, Aktuariat und Bewertung:

1. Den Use Case nach Risiko klassifizieren. Eine interne Zusammenfassung zu entwerfen ist niedriges Risiko. Zahlen zu erzeugen, die in einen gezeichneten Bewertungsbericht eingehen, ist hohes Risiko. Prüfen Sie letzteres proportional intensiver.

2. Einschränken, welche Aufgaben KI unbeaufsichtigt berühren darf. Keine KI-erzeugte Rechtsfundstelle, Finanzzahl oder regulatorische Referenz geht ohne unabhängige Verifikation gegen eine Primärquelle an einen Mandanten.

3. Modellversion fixieren und loggen. Wissen Sie genau, welche Modellversion welchen Output erzeugt hat; Modelle werden aktualisiert und ihr Verhalten verschiebt sich ohne Vorwarnung.

4. Prüfer auf bekannte Fehlermodi trainieren, nicht auf allgemeine KI-Kompetenz. Ein Steuerprüfer muss wissen, dass KI-Tools IRS-Revenue-Ruling-Nummern erfinden; ein Bewertungsprüfer muss wissen, dass KI-Tools Multiples von Vergleichsunternehmen falsch anwenden.

5. Die Sign-off-Kette schriftlich festlegen, mit Namen, wer auf welcher Stufe verantwortlich ist, vor Beginn des Mandats, nicht nachdem ein Problem auftaucht.

6. Versicherer und General Counsel einbeziehen bei jedem neuen hochriskanten KI-Use-Case, vor dem Rollout, nicht danach.

Für eine breitere regulatorische Grundlage ist das NIST AI Risk Management Framework (USA, freiwillig, aber breit referenziert) eine solide kostenlose Basis, um genau so ein Guardrail-Programm zu strukturieren.

🎬 [VIDEO: „AI and the Law: Liability, Ethics, and Legal Risks" - youtube.com - ein Durchgang durch reale sanktionierte Fälle, in denen generative KI erfundene Rechtsfundstellen produziert hat, und was Gerichte danach verlangt haben]

Key Takeaways

• Die Haftung fällt standardmäßig auf die Firma und den zeichnenden Berufsträger; Haftungsausschlüsse von KI-Anbietern übertragen die Verantwortung für das abschließende Gutachten nicht.
• Bestehende Sorgfaltsmaßstäbe gelten bereits für KI-gestützte Arbeit (siehe ABA Formal Opinion 512, 2024); es gibt keine separate, mildere Verteidigung „die KI hat den Fehler gemacht".
• Ein verteidigungsfähiges menschliches Sign-off braucht Nachvollziehbarkeit, unabhängige Verifikation gegen Primärquellen und einen Prüfer, der kompetent genug ist, bekannte KI-Fehlermodi zu finden, nicht einen flüchtigen Blick.
• Führen Sie einen Dokumentationspfad (Tool-Version, Prompt, Roh-Output, Änderungen, Prüfer, Datum), damit ein Vorfall zwei Jahre später rekonstruiert und verteidigt werden kann.
• Gehen Sie das Versicherungsgespräch proaktiv an: Versicherer preisen KI-Governance im Berufshaftpflicht-Underwriting bereits ein, und eine schriftliche Richtlinie verbessert die Verhandlungsposition der Firma.