Der Anwalt, der ChatGPT vor Gericht vertraute und dafür zahlte

Der Antrag war eingereicht. Die Zitate sahen sauber aus. Die Zeugen hatten Namen, Aussagen, augenscheinliche Glaubwürdigkeit. Es gab nur ein Problem: Keiner von ihnen existierte.

Ein Strafverteidiger aus New Mexico nutzte ChatGPT, um in einem Strafverfahren Teile des Prozessmaterials aufzubauen, und reichte Dokumente ein, die auf erfundene Aussagen von Zeugen verwiesen, die es nie gegeben hat. Als das Gericht der Sache nachging, war die Erklärung des Anwalts direkt und auf ihre Weise vielsagend: „Ich wusste nicht, dass KI Fakten halluzinieren kann.“ Ars Technica berichtete 2026 über den Fall, der mit einer formellen Sanktion des Gerichts endete.

Was tatsächlich passiert ist

Die Details sind hier wichtig, denn es ging nicht um einen unaufmerksamen Profi, der bei einer kleinen Verwaltungsaufgabe abkürzt. Es ging um Zeugenaussagen, namentlich zugeordnet, eingereicht in einer Strafverteidigung. Der Anwalt hat ChatGPT offenbar genutzt, um Inhalte zu erzeugen oder zu recherchieren, nahm das Ergebnis des Modells für wahr und reichte es ein.

Gerichte haben null Toleranz für erfundene Zitate. Anwälte sind berufsrechtlich verpflichtet, jede Tatsachenbehauptung zu prüfen, die sie einreichen. Die Sanktion war die direkte Folge davon, ein generatives KI-System als verlässliche Quelle für Aktenmaterial zu behandeln statt als Schreibassistenz, die Aufsicht braucht.

Was diesen Fall im Gedächtnis hält, ist die Aussage des Anwalts selbst. Das Eingeständnis „Ich wusste nicht“ ist keine Verteidigung, aber es ist ehrlich, und es verweist auf eine Lücke, die es derzeit in vielen Berufen gibt. Viele Menschen, die diese Werkzeuge 2026 nutzen, haben noch ein intuitives Bild von KI als einer Art sehr schneller Suchmaschine: Man gibt eine Frage ein, korrekte Informationen kommen heraus. Dieses Bild ist falsch, und zwar auf eine ganz bestimmte, folgenreiche Weise.

Warum das weiterhin zählt

ChatGPT, Claude, Gemini und vergleichbare Modelle rufen keine Fakten ab. Sie sagen anhand des Inputs und ihres Trainings das statistisch plausibelste nächste TokenTokenA token is the basic unit of text that language models process, often a word fragment, whole word, or punctuation mark rather than a single character.Vollständige Definition ansehen → voraus. Läuft das gut, liest sich das Ergebnis wie eine fundierte Antwort. Läuft es schief, liest es sich genau gleich. Das Modell hat kein internes Signal, das sagt: „Hier bin ich unsicher.“ Es erzeugt weiter flüssige, überzeugte Prosa, unabhängig davon, ob der Inhalt korrekt, ungefähr richtig oder erfunden ist.

Das ist Halluzination in der Praxis. Das Modell lügt nicht. Es ist nicht defekt. Es tut genau das, wofür es gebaut wurde, nämlich plausiblen Text vorhersagen, und unter bestimmten Bedingungen erzeugt dieser Prozess Inhalte, die sachlich falsch, syntaktisch und stilistisch aber nicht von wahren Inhalten zu unterscheiden sind.

Juristische Arbeit ist das deutlichste Beispiel für ein Feld, in dem dieser Fehlermodus katastrophal ist, aber längst nicht das einzige. Denken Sie an medizinische Zusammenfassungen, Due-Diligence-Memos, Compliance-Dokumentation, Research-Berichte für Kunden. Jeder berufliche Kontext, in dem ein erfundener Fakt, belegt mit einer nicht existierenden Studie oder einem erdachten Präzedenzfall, materiellen Schaden anrichten kann, gehört in diese Kategorie.

Der Fall in New Mexico war nicht der erste seiner Art. 2023 reichten die New Yorker Anwälte Steven Schwartz und Peter LoDuca einen von ChatGPT erzeugten Schriftsatz mit gefälschten Fallzitaten ein und wurden vom Gericht sanktioniert. Dass sich Jahre später, 2026, ein vergleichbarer Vorfall wiederholt, mit einem Anwalt, der noch nicht wusste, dass Halluzinationen möglich sind, sagt etwas darüber aus, wie langsam sich praktische KI-Kompetenz verbreitet, während die Nutzung der Werkzeuge beschleunigt.

Unter der Einzelgeschichte liegt ein strukturelles Problem. KI-Produkte sind so gebaut, dass der Einstieg leicht ist. Die Hürde ist minimal. Nichts im Interface warnt Sie, dass der überzeugend klingende Absatz, den Sie gerade erhalten haben, erfundene Namen oder nicht existierende Quellen enthalten kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnte. Das Risiko selbstbewusst falscher Antworten wächst mit dem Einsatz im jeweiligen Feld, und das Werkzeug weiß nicht, in welchem Feld Sie arbeiten.

Was Sie daraus mitnehmen

Die Lehre ist nicht „Nutzen Sie keine KI“. Sie ist enger und praktischer: Behandeln Sie den Output eines Modells nicht als Endpunkt, sondern als ersten Entwurf, der eine fachlich angemessene Prüfung braucht.

Wie das aussieht, hängt vom Kontext ab. Für einen Anwalt heißt das: Jeder Name, jedes Zitat, jede Tatsachenbehauptung aus einer KI muss vor der Einreichung gegen Primärquellen geprüft werden. Für einen Finanzanalysten heißt es: Jede Zahl, jeder Firmenname, jeder regulatorische Verweis muss mit offiziellen Unterlagen abgeglichen werden. Für medizinisches Personal heißt es: Klinische Details aus einem Modell sind der Ausgangspunkt für eigenes Nachschlagen, nicht das Ergebnis.

Einige praktische Prinzipien, die über Rollen hinweg tragen:

• Nutzen Sie KI-Output nie als Primärquelle. ErErThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → hilft beim Entwerfen, Strukturieren und Erkunden, aber die Belegpflicht bleibt bei Ihnen.
• Seien Sie bei konkreten Details skeptischer als bei allgemeinen Zusammenfassungen. Modelle halluzinieren am häufigsten bei Eigennamen: Namen, Daten, Aktenzeichen, Zitate, Statistiken.
• Wenn der Prüfschritt mühsam erscheint, ist das ein Hinweis darauf, dass die Aufgabe für KI-gestütztes Entwerfen in diesem Stadium vielleicht nicht geeignet ist.
• Bauen Sie die Prüfung in Ihren Workflow ein, bevor Sie einreichen, nicht erst, wenn jemand das Dokument anzweifelt.

Ein letzter Punkt, der Beachtung verdient: Die Sanktion gegen den Anwalt aus New Mexico betraf nicht primär die Nutzung von KI. Sie betraf das Einreichen ungeprüfter Informationen bei einem Gericht. Die Berufspflicht zur Prüfung ist Jahrhunderte älter als KI. Geändert hat sich, dass KI es schneller und einfacher macht, plausibel aussehende ungeprüfte Inhalte zu erzeugen, womit der Abstand zwischen „entworfen“ und „geprüft“ größer ist als früher und mehr wiegt.

Das Werkzeug ist nicht das Problem. Die Annahme, Entwerfen sei gleich Prüfen, ist es. Wer diese Lücke schließt, indem er KI-Output als zu prüfendes Material behandelt statt als einzureichende Ergebnisse, wird diese Werkzeuge gut nutzen. Wer das nicht tut, erlebt irgendwann seine eigene Version dieser Geschichte.