Kanzleien · Die halluzinierte Fundstelle und die Pflicht zur Kompetenz

2023 reichte ein New Yorker Anwalt namens Steven Schwartz einen Schriftsatz bei einem Bundesgericht ein, der sechs Entscheidungen zitierte. Keine davon existierte. ErErDas Verhältnis von Interaktionen (Likes, Kommentare, Shares) zur Reichweite eines Inhalts. Zeigt, wie stark die Zielgruppe reagiert, gemessen an der Zahl der Personen, die den Inhalt gesehen haben.Vollständige Definition ansehen → hatte ChatGPT gebeten, die Rechtslage zu recherchieren, und der Chatbot erfand plausibel klingende Urteile mit erfundenen Zitaten und erfundenen internen Fundstellen. Als die Gegenseite die Entscheidungen nicht finden konnte, fragte Schwartz bei ChatGPT nach, ob sie echt seien. Das Tool sagte ja. Sie waren es nicht.

Der Fall war *Mata v. Avianca*, und er wurde zur Warngeschichte, mit der heute jede Schulung zu Legal AI beginnt. Richter P. Kevin Castel verhängte Sanktionen gegen die Anwälte und ihre Kanzlei. Die Lehre war nicht „KI ist gefährlich“. Die Lehre war enger und schärfer: Das Tool unterschreibt den Schriftsatz nicht. Sie tun es.

Was in Mata v. Avianca tatsächlich passierte

Der zugrunde liegende Streit war banal: Ein Passagier verklagte die Fluggesellschaft Avianca wegen einer Knieverletzung durch einen Servierwagen. Die Airline beantragte die Abweisung wegen Verjährung. Schwartz, dessen Kanzlei keinen Zugang zur bevorzugten Datenbank der Airline für Bundesgerichte hatte, nutzte ChatGPT, um Entscheidungen zu finden, die die Position seines Mandanten stützten.

ChatGPT lieferte sie. Fälle wie „Varghese v. China Southern Airlines“ mit vollständigen Fundstellen und Begründungen. Alles erfunden.

Man nennt das eine Halluzination: Ein generatives KI-Modell erzeugt selbstbewussten, flüssigen Output, der sachlich falsch ist. Large Language Models sagen das nächste wahrscheinliche Wort voraus, nicht die wahre Tatsache. Eine Fundstelle, die statistisch „richtig aussieht“, kann vollständig erfunden sein.

Richter Castel verhängte eine Sanktion von 5.000 Dollar gegen die Anwälte und verpflichtete sie, jeden Richter zu benachrichtigen, der fälschlich als Verfasser einer erfundenen Entscheidung genannt worden war. Die eigentliche Sanktionsentscheidung, kurz und gut lesbar, finden Sie hier auf CourtListener.

Das Gericht wurde deutlich: Das Problem war nicht die Nutzung eines neuen Tools. Das Problem war, gefälschtes Material einzureichen und es dann ungeprüft zu verteidigen.

Die Pflicht zur Kompetenz: Ihr Fundament

Jeder US-Anwalt ist an Berufsregeln gebunden, die den American Bar Association (ABA) Model Rules nachgebildet sind. Das sind die ethischen Standards, die jede einzelne Anwaltskammer mit Abweichungen übernommen hat.

Rule 1.1 (Competence) verlangt von einem Anwalt kompetente Vertretung, also das juristische Wissen, die Fähigkeit, die Gründlichkeit und die Vorbereitung, die vernünftigerweise erforderlich sind.

2012 ergänzte die ABA Comment 8 zu Rule 1.1. Darin heißt es, Kompetenz umfasse es, sich über „the benefits and risks associated with relevant technology“ auf dem Laufenden zu halten. Das wird oft als duty of technology competence bezeichnet.

Lesen Sie das genau. Es wirkt in beide Richtungen.

• Sie dürfen nützliche Technologie nicht aus Unwissenheit ignorieren.
• Sie dürfen keine Technologie einsetzen, deren Risiken Sie nicht verstehen.

Ein Anwalt, der ein generatives KI-Tool nutzt, hat die aktive Pflicht zu verstehen, dass das Tool Fundstellen erfinden kann. „Ich wusste nicht, dass es das kann“ ist keine Verteidigung. Es ist der Verstoß.

Die ABA Model Rules of Professional Conduct finden Sie hier.

Warum der Partner haftet und nicht das Tool

Hier kommen Berufseinsteiger und Nichtjuristen oft durcheinander. Die KI hat den Fehler gemacht. Warum steht der Mensch dafür gerade?

Weil ein Tool keine Zulassung verlieren kann. Verantwortung fließt über die Person, die unterschrieben hat.

Rule 11 und die Unterschrift

Vor Bundesgerichten regelt Federal Rule of Civil Procedure 11 die Unterschrift unter Eingaben. Wenn ein Anwalt ein Dokument unterschreibt, versichert er, dass die rechtlichen Ausführungen durch geltendes Recht gedeckt sind und dass er eine angemessene Prüfung vorgenommen hat.

„Angemessene Prüfung“ heißt: Sie haben nachgesehen. Sechs Entscheidungen zu zitieren, die Sie nie gelesen haben, weil ein Chatbot sie aufgelistet hat, ist das Gegenteil einer angemessenen Prüfung. Die Unterschrift ist eine persönliche Garantie. Die KI kann sie nicht für Sie abgeben.

Rules 5.1 und 5.3: Aufsicht

Zwei weitere Regeln binden die Verantwortung an die leitenden Anwälte.

Rule 5.1 (Supervision of Lawyers) macht Partner und Führungskräfte dafür verantwortlich, dass ihre Kanzlei und die ihnen unterstellten Anwälte die Berufsregeln einhalten.

Rule 5.3 (Responsibilities Regarding Nonlawyer Assistance) betraf ursprünglich Paralegals und Sekretariat. Kammern behandeln KI-Tools inzwischen weithin als „nonlawyer assistance“. Das heißt: Der aufsichtsführende Anwalt ist für das Arbeitsergebnis der KI genauso verantwortlich wie für das eines Paralegals.

Nehmen Sie das zusammen. Nutzt ein Associate KI, ist der Associate nach Rule 1.1 verantwortlich. Der aufsichtsführende Partner ist nach Rule 5.1 für den Associate verantwortlich. Und nach Rule 5.3 ist die Kanzlei für das Tool selbst verantwortlich.

Es gibt keinen Platz am Tisch, an dem die KI die Schuld übernimmt. Die Schuld kann nirgendwo hin außer die menschliche Kette nach oben.

Der konkrete Workflow, der ein zweites Mata verhindert

Kompetenz 2026 heißt nicht „KI vermeiden“. Gerichte und Anwaltskammern akzeptieren KI-gestützte Arbeit inzwischen weitgehend. Der MaMaEinsatz von Software, um wiederkehrende Marketingaufgaben und Kampagnen zu automatisieren und Personalisierung in großem Maßstab über Kanäle wie E-Mail, Web und Social zu ermöglichen.Vollständige Definition ansehen →ßstab ist Verifikation. Hier ein praktisches Protokoll, das Kanzleien einführen.

1. Zitieren Sie nie, was Sie nicht gelesen haben. Jede Entscheidung, die ein Tool ausspuckt, wird in einer Primärquelle geöffnet und gelesen: Westlaw, Lexis oder die kostenlose Google Scholar Case Law Search. Wenn es die Entscheidung dort nicht gibt, gibt es sie nicht.

2. Prüfen Sie Fundstelle, Kernaussage und Zitat getrennt. Eine echte Entscheidung kann für einen Satz zitiert werden, den sie nie hergegeben hat. Prüfen Sie, dass der Fall existiert, und dann, dass er tatsächlich das sagt, was Sie behaupten.

3. Bevorzugen Sie geschlossene, geerdete Tools für die juristische Recherche. Allgemeine Chatbots erfinden frei. Speziell gebaute Legal-Research-Tools mit retrieval-augmented generationretrieval-augmented generationVerfahren, mit dem ein KI-Modell aus Ihren eigenen Dokumenten antwortet, indem es relevante Passagen abruft, bevor es eine Antwort erzeugt.Vollständige Definition ansehen → (RAG, die KI antwortet also nur aus einer geprüften Datenbank echter Entscheidungen) halluzinieren deutlich seltener. Aber auch sie sind nicht perfekt. Unabhängige Tests haben gezeigt, dass selbst juristische Spezialtools Fehler produzieren, die Verifikation bleibt also Pflicht.

4. Protokollieren Sie Ihre Prompts und Outputs. Wenn eine Eingabe angegriffen wird, wollen Sie belegen kkDie durchschnittliche Zahl neuer Nutzer, die jeder bestehende Nutzer über Empfehlungen generiert. Über 1,0 verstärkt sich das Wachstum selbst und wird exponentiell.Vollständige Definition ansehen →önnen, was Sie gefragt und was das Tool geliefert hat.

So sieht eine Prüf-Checkliste als einfacher Pseudocode aus. Das ist ein Denkmodell, keine Software, die Sie laufen lassen müssen.

for each citation in brief:
    case = pull_from_primary_source(citation)   # Westlaw, Lexis, Google Scholar
    if case is None:
        REJECT("citation may be hallucinated")
    if not case.supports(claimed_proposition):
        REJECT("case exists but does not stand for this")
    if quoted_text not in case.full_text:
        REJECT("quote fabricated or altered")
    mark_verified(citation)

Fällt eine Fundstelle durch, kommt sie nicht in den Schriftsatz. Punkt.

Was Gerichte heute erwarten

Seit *Mata* haben Dutzende Richter standing orders erlassen (Regeln, die ein bestimmter Richter auf alle bei ihm anhängigen Verfahren anwendet), die Anwälte verpflichten, die Nutzung von KI offenzulegen oder zu bestätigen, dass alle Fundstellen von Menschen geprüft wurden.

Der Trend geht nicht zum Verbot von KI. Er geht zur Rechenschaftspflicht. Manche Gerichte verlangen eine ausdrückliche Bestätigung. Andere setzen Rule 11 einfach schärfer durch, weil sie wissen, dass halluzinierte Fundstellen inzwischen ein bekanntes Risiko sind, auf das kompetente Anwälte prüfen müssen.

Das verändert die Rechnung mit der Unwissenheit. 2023 mochte ein Richter KI-Halluzinationen noch als neuartige Überraschung sehen. 2026 sind sie ein dokumentiertes, öffentlich bekanntes, vorhersehbares Risiko. Wer heute eine erfundene Fundstelle einreicht, hat eine schwächere Ausrede als Schwartz damals, weil das Risiko im Berufsstand allgemein bekannt ist.

Die Mandantendimension

Zwei weitere Regeln verdienen Erwähnung.

Rule 1.6 (Confidentiality) ist relevant, weil das Eintippen von Mandantendaten in einen öffentlichen Chatbot vertrauliche Informationen gegenüber Dritten offenlegen kann. Viele allgemeine KI-Tools nutzen Eingaben zum Training künftiger Modelle. Geschützte Mandantendetails in ein solches Tool zu füttern, kann für sich genommen ein Berufsrechtsverstoß sein, unabhängig von jeder Halluzination.

Rule 1.5 (Fees) wird gerade zur offenen Frage. Wenn KI die Recherche beschleunigt, darf ein Anwalt die Stunden abrechnen, die sie manuell gedauert hätte? Die allgemeine Antwort lautet nein: Sie rechnen Wert und tatsächlich aufgewendete Zeit ab, nicht durch Automatisierung eingesparte Zeit.

Die wichtigsten Punkte

• Das Tool unterschreibt den Schriftsatz nie. Nach Rule 11 und den ABA Rules 1.1, 5.1 und 5.3 fließt die Verantwortung für jede Fundstelle zu dem Menschen, der unterschrieben hat, und zum aufsichtsführenden Partner. KI kann keine Schuld absorbieren.

• Halluzination ist ein vorhersehbares Risiko, keine Überraschung. Nach *Mata v. Avianca* ist „Ich wusste nicht, dass KI Fälle erfinden kann“ ein Eingeständnis von Inkompetenz im Sinne der duty of technology competence, keine Verteidigung.

• Immer in einer Primärquelle prüfen. Ziehen Sie jede von der KI gelieferte Entscheidung aus Westlaw, Lexis oder Google Scholar. Bestätigen Sie, dass der Fall existiert, dass er Ihre Aussage trägt und dass jedes Zitat echt ist.

• Vertraulichkeit schützen und ehrlich abrechnen. Füttern Sie keine geschützten Mandantendaten in öffentliche Chatbots (Rule 1.6) und rechnen Sie tatsächlich aufgewendete Zeit ab, nicht die Zeit, die KI Ihnen gespart hat (Rule 1.5).

• Kompetenz 2026 heißt, KI gut zu nutzen, nicht sie zu meiden. Der Berufsstandard ist disziplinierte Verifikation und klare Aufsicht, nicht Angst.