Die Pre-Deployment-Checkliste, die Partner einfordern sollten

# Die Pre-Deployment-Checkliste, die Partner einfordern sollten

Ein Junior Associate einer mittelgroßen Kanzlei hat den Merger Agreement eines Mandanten in einen öffentlichen Chatbot eingegeben, um eine Zusammenfassung zu „beschleunigen". Der Anbieter des Chatbots hat diese vertraulichen Deal-Daten nun in einem Training-Log liegen, möglicherweise für immer. Das ist kein hypothetischer Fall: Die Anwaltskammern in New York, Kalifornien und Florida haben seit 2023 allesamt Hinweise veröffentlicht, die genau vor diesem Szenario warnen. Keine böse Absicht, kein Skandal in den Schlagzeilen, nur eine Abkürzung im Workflow, aus der ein Bruch des Mandatsgeheimnisses und ein Problem in der Mandantenbeziehung wurde.

Diese Lektion gibt Ihnen die Gate-Sequenz an die Hand, die ein Partner (oder ein Äquivalent: Audit Partner, Principal, Managing Director) durchlaufen sollte, bevor ein KI-Tool abrechenbare Mandantenarbeit berührt. Betrachten Sie das als Pre-Flight-Checkliste, nicht als Vorschlagsbox.

Warum es ein formales Gate braucht und nicht „gesunden Menschenverstand"

Professional-Services-Firmen (Recht, Wirtschaftsprüfung, Beratung, Audit) verkaufen Vertrauen als Produkt. Die Kernrisiken, die KI mitbringt, sind nicht exotisch: Es sind alte Risiken (Vertraulichkeitsbruch, schlechte Beratung, Interessenkonflikte) in neuer Geschwindigkeit und Größenordnung.

Die Regulierung zieht nach. Der EU AI Act (seit 2024 in Kraft, mit gestaffelten Pflichten bis 2027) stuft bestimmte KI-Systeme im professionellen Einsatz als „hochriskant" ein, darunter solche für Rechtsauslegung oder Kreditwürdigkeitsprüfung, was Dokumentations- und Aufsichtspflichten durch Menschen auslöst. In den USA gibt es bislang kein einheitliches Bundesgesetz zu KI; die Aufsicht kommt stattdessen von Sektorregulierern (SEC für Anlageberater, Anwaltskammern der Bundesstaaten für Juristen, PCAOB für Audit), die Leitlinien auf Basis bestehender Regeln herausgeben. Die Formal Opinion 512 (2024) der American Bar Association zu generativer KI ist ein guter Referenzpunkt: ABA Opinion 512 summary.

Der Punkt: „Die KI hat einen Fehler gemacht" ist keine Verteidigung. Die Haftung bleibt beim Professional. Genau deshalb gibt es die folgende Checkliste.

Die Gate-Check-Sequenz

Behandeln Sie das als aufeinanderfolgende Gates. Ein „Nein" an einem beliebigen Gate stoppt den Einsatz in diesem Mandat, es ist kein Vermerk für später.

Gate 1: Nachvollziehbarkeit der Quellen

Bevor Sie einem Output vertrauen, müssen Sie wissen, worauf das Modell trainiert oder gegroundet wurde.

• Bei Allzweck-LLMs (Large Language Models) wie GPT-4, Claude oder Gemini: Gehen Sie von null Einblick in die Trainingsdaten aus. Behandeln Sie jede Tatsachenbehauptung als ungeprüft, bis sie gegen eine Primärquelle abgeglichen ist.
• Bei firmenintern betriebenen Tools (RAG-Systeme, Retrieval-Augmented Generation, die vor der Antwortgenerierung aus Ihrer Dokumentenbibliothek ziehen): Fordern Sie einen Citation Trail. Jeder Output sollte auf die konkrete Vertragsklausel, das Präzedenzdokument oder das Filing zurückverlinken, aus dem ererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → stammt.
• Red Flag: jedes Tool, das seine Quellen nicht zeigen kann oder das Firmenwissen mit offenen Internetinhalten „vermischt", ohne zu kennzeichnen, was woher kommt.

Gate 2: Output-Validierung gegen ein Set bekannter Antworten

Das ist der mit Abstand am wenigsten genutzte Check. Bevor ein Tool in echten Mandaten live geht, lassen Sie es gegen einen Benchmark aus Fällen laufen, deren richtige Antwort Sie bereits kennen.

Beispiel für eine Steuerpraxis: Nehmen Sie 20 frühere Mandantenerklärungen mit bekannten, vom Partner freigegebenen Ergebnissen. Lassen Sie das KI-Tool auf denselben Sachverhalt los. Vergleichen Sie.

Eine einfache Berechnung der Trefferquote:

Accuracy rate = (correct outputs / total test cases) x 100

Example: AI tool tested on 20 known tax scenarios
18 correct, 2 materially wrong (wrong deduction category)
Accuracy = 18/20 x 100 = 90%

90 % klingt hoch. Aber fragen Sie: Was kosten die 2 Fehler? Wenn es die Sorte ist, die einen Bescheid der IRS (Internal Revenue Service) oder eine Prüfungsanpassung auslöst, kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen 90 % für den unbeaufsichtigten Einsatz inakzeptabel sein. Setzen Sie die Schwelle nach Fehlerschwere, nicht nur nach Fehleranzahl.

Wiederholen Sie das quartalsweise. Modelle werden von den Anbietern (OpenAI, Anthropic, Google) ohne Freigabe Ihrer Firma aktualisiert, und die Performance auf Ihren spezifischen Dokumenttypen kann driften.

Gate 3: Prüfung von Vertraulichkeit und Mandatsgeheimnis

Das ist das Gate, das die meisten Firmen falsch machen, weil es wie eine IT-Frage aussieht, obwohl es eine juristische ist.

Zentrale Fragen, die vor jeder Tool-Freigabe beantwortet sein müssen:

1. Trainiert der Anbieter auf Ihren Eingaben? Enterprise-Verträge von OpenAI, Microsoft (Copilot) und Anthropic enthalten für Business-Tarife üblicherweise No-Training-Klauseln. Kostenlose Consumer-Tarife in der Regel nicht. Lassen Sie sich das schriftlich geben, nicht über ein Sales-Deck.

2. Wo werden Daten verarbeitet und gespeichert? Unter der DSGVO (Datenschutz-Grundverordnung) brauchen personenbezogene Mandantendaten, die außerhalb der EU/des EWR verarbeitet werden, einen gültigen Übermittlungsmechanismus (Standardvertragsklauseln oder einen Angemessenheitsbeschluss). Das ist für jedes EU-Mandat relevant.

3. Überlebt das Mandatsgeheimnis die Übermittlung? In den USA kann das Attorney-Client-Privilege entfallen, wenn vertrauliche Kommunikation ohne angemessenen Vertraulichkeitsschutz an Dritte weitergegeben wird. Das Hochladen eines Entwurfs eines Rechtsmemos in ein ungeprüftes KI-Tool ist rechtlich vergleichbar damit, es einem Fremden zu mailen. Mehrere Stellungnahmen von Anwaltskammern der Bundesstaaten (California COPRAC, 2023) behandeln es genau so.

4. Gibt es einen unterzeichneten Auftragsverarbeitungsvertrag (DPA)? Kein DPA, kein Einsatz auf Mandantendaten. Das ist bei EU-Mandaten nicht verhandelbar und wird in den USA zunehmend Standard.

Gate 4: Bias- und Fairness-Check (wo relevant)

Bei Tools, die Recruiting, kreditnahe Beratung oder Inhalte zur Leistungsbeurteilung berühren, führen Sie einen Disparate-Impact-Check durch: Variiert der Output des Tools systematisch nach geschützten Merkmalen, obwohl ererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → das nicht sollte? Die EEOC (Equal Employment Opportunity Commission) hat signalisiert, dass KI-Recruiting-Tools denselben Disparate-Impact-MaMaUsing software to automate repetitive marketing tasks and campaigns, enabling personalisation at scale across channels like email, web, and social.Vollständige Definition ansehen →ßstäben unterliegen wie jedes andere Auswahlinstrument. Das gilt auch für Beratungsfirmen, die HR-Tools für Mandanten bauen.

Freigabeschwellen: Wer genehmigt was

Nicht jeder Use Case braucht die Unterschrift eines Partners. Kalibrieren Sie nach Risiko:

| Risikostufe | Beispielnutzung | Erforderliche Freigabe |

|---|---|---|

| Niedrig | Zusammenfassung interner Meeting-Notizen | Team Lead |

| Mittel | Erstentwurf eines Mandantenmemos (vor Versand menschlich geprüft) | Prüfung durch Senior Associate/Manager |

| Hoch | Output, der direkt in ein Mandantendeliverable, ein Filing oder ein Gutachten einfließt | Dokumentierte Freigabe durch Partner/Principal |

| Kritisch | Alles, was privilegiertes Material, regulierte Beratung (Steuerpositionen, Prüfungsurteile, Rechtsgutachten) oder Mandanten-PII berührt | Partnerfreigabe plus Prüfung durch Risk/Compliance |

Die kritische Stufe sollte einen namentlich benannten Menschen erfordern, der beruflich und persönlich für den finalen Output verantwortlich ist, genau so, als wäre keine KI beteiligt gewesen. Das ist das „Human in the Loop"-Prinzip, das Regulierer immer wieder betonen, und es ist keine Dekoration: Es erhält den Haftungsschutz des Professionals und die Möglichkeit des Mandanten, sich auf die Beratung zu verlassen.

Eine einseitige Checkliste zum tatsächlichen Gebrauch

Vor dem Go-live in einem Mandat:

• [ ] Nachvollziehbarkeit der Quellen bestätigt (Zitate verfügbar oder ausdrücklich als nicht überprüfbar gekennzeichnet)
• [ ] Tool in diesem Quartal gegen Known-Answer-Benchmark getestet, Accuracy dokumentiert
• [ ] DPA und No-Training-Klausel mit dem Anbieter unterzeichnet
• [ ] Data Residency als konform bestätigt (DSGVO/EU AI Act, soweit anwendbar)
• [ ] Prüfung des Mandatsgeheimnisses durch Juristen abgeschlossen, nicht nur durch die IT
• [ ] Risikostufe zugeordnet und passende Freigabe eingeholt
• [ ] Mandatsvereinbarung legt KI-Einsatz offen, wo wesentlich (zunehmend erwartete Praxis und nach einigen Kammerregeln vorgeschrieben)

🎬 [VIDEO: „AI Governance for Law Firms: What Partners Need to Know" - youtube.com - suchen Sie nach aktuellen kanzleispezifischen AI-Governance-Panels aus CLE-Programmen von Anwaltskammern, die Mechanik von Mandatsgeheimnis und Vertraulichkeit praxisnah durchgehen]

Key Takeaways

• Behandeln Sie den KI-Einsatz als gestufte Sequenz (Quellencheck, Benchmark-Validierung, Vertraulichkeitsprüfung, Freigabe), nicht als einen einzelnen Genehmigungsmoment.
• Bauen Sie ein Known-Answer-Testset speziell für Ihr Fachgebiet und lassen Sie es quartalsweise erneut laufen; Modell-Updates der Anbieter kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen die Accuracy still verändern.
• Die Prüfung von Vertraulichkeit und Mandatsgeheimnis ist eine juristische Frage, keine IT-Frage: Bestätigen Sie No-Training-Klauseln, Data Residency und einen unterzeichneten DPA, bevor Mandantendaten ein Tool berühren.
• Kalibrieren Sie die Freigabebefugnis nach Risikostufe; reservieren Sie die Freigabe auf Partnerebene für alles, was privilegiertes Material oder regulierte Fachgutachten berührt.
• Regulatorische Grundlagen existieren bereits (EU AI Act, Stellungnahmen von Anwaltskammern, EEOC-Leitlinien): Nutzen Sie diese als Basislinie, nicht als Obergrenze.