Warum LLMs weiterhin konfabulieren und was Sie konkret dagegen tun sollten

Ein Anwalt reicht einen Schriftsatz mit sechs Präzedenzfällen ein. Die Gegenseite prüft sie. Keiner existiert. Die Fälle haben plausible Namen, realistische Aktenzeichen und stimmige Zusammenfassungen, alle von ChatGPT generiert, keiner davon echt. Dieser Vorfall aus 2023 wurde zum Lehrstück, aber drei Jahre später ist die zugrunde liegende Dynamik technisch nicht beseitigt. Die Modelle sind besser geworden, Retrieval-Mechanismen wurden angebaut, Context Windows wurden größererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen →. Die Neigung, flüssigen, autoritativ klingenden Text zu erzeugen, der sachlich falsch ist, bleibt ein strukturelles Merkmal dieser Systeme.

Das betrifft nicht nur Anwälte, sondern jeden, der LLMs nutzt, um Berichte zu entwerfen, Recherchen zu verdichten oder Entscheidungen zu stützen, bei denen die zugrunde liegenden Fakten tragend sind.

Warum Konfabulation kein Kalibrierungsproblem ist, das man einfach wegtunen kann

Sprachmodelle werden darauf trainiert, das nächste TokenTokenA token is the basic unit of text that language models process, often a word fragment, whole word, or punctuation mark rather than a single character.Vollständige Definition ansehen → auf Basis der vorangegangenen TokensTokensA token is the basic unit of text that language models process, often a word fragment, whole word, or punctuation mark rather than a single character.Vollständige Definition ansehen → vorherzusagen. Dieses Ziel, in großem MaMaUsing software to automate repetitive marketing tasks and campaigns, enabling personalisation at scale across channels like email, web, and social.Vollständige Definition ansehen →ßstab angewendet, erzeugt außergewöhnlich leistungsfähige Systeme. Es bedeutet aber auch: Die Hauptaufgabe des Modells ist Kohärenz und Plausibilität, nicht Wahrheit. Wenn ein Modell etwas nicht im eigentlichen Sinne „weiß“, gibt es keine Leerstelle zurück. Es generiert, was plausibel als Nächstes kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →äme, und das sieht oft wie eine selbstbewusste, konkrete Antwort aus.

Retrieval-Augmented Generation (RAG) hilft deutlich. Indem Sie das Modell zur Inferenzzeit an abgerufene Dokumente binden, verkleinern Sie die Angriffsfläche für Konfabulation bei Faktenfragen, die im Retrieval-Korpus gut abgedeckt sind. OpenAIs GPT-4o mit Websuche, Anthropics Claude mit Dokumentanhängen, Googles Gemini mit Anbindung an Workspace-Daten: Diese Architekturen gehen alle in die richtige Richtung. Aber RAG beseitigt das Problem nicht. Es verschiebt es. Das Modell kann abgerufene Dokumente falsch lesen, Inhalte aus mehreren Quellen falsch vermischen oder konfabulieren, wenn keine abgerufene Passage die gestellte Frage wirklich abdeckt.

Das tiefer liegende Problem: Konfabulationsraten sind nicht über alle Domänen hinweg gleich. Modelle schneiden deutlich besser bei Themen ab, die in den Trainingsdaten stark vertreten waren, wo Muster dicht und konsistent sind. Fragen Sie ein Modell nach der Struktur eines Standard-Gewerbemietvertrags oder nach der Mechanik eines Discounted-Cash-Flow-Modells, und die Antwort wird wahrscheinlich korrekt sein. Fragen Sie nach einer Nischen-Regulierungsänderung von vor 18 Monaten, einer obskuren Steuerregel eines einzelnen Landes oder den internen Kennzahlen eines bestimmten Privatunternehmens, bewegen Sie sich in weit riskanterem Gebiet. Die meisten Profis, die LLMs in der echten Arbeit einsetzen, sind routinemäßig in dieser zweiten Kategorie unterwegs.

Was das für den AI-Nutzer bedeutet

Die praktische Konsequenz lautet nicht „LLMs weniger nutzen“. Sie lautet: „Nutzen Sie sie mit einer expliziten Verifikationslogik, die von Anfang an im Workflow steckt und nicht nachträglich angeklebt wird.“

Als Erstes sollten Sie verinnerlichen, dass der Ton kein Zuverlässigkeitssignal ist. Modelle formulieren genauso flüssig, wenn sie richtig liegen, wie wenn sie falsch liegen. Der selbstbewusste, gut strukturierte Absatz ist kein Beleg für Korrektheit. Genau daran scheitern erfahrene Profis, die zu Recht gelernt haben, Formatierung und Ton bei menschlichen Texten als Qualitätsproxy zu lesen. Diese Heuristik bricht bei LLMs vollständig zusammen.

Zweitens sollte der Verifikationsaufwand mit dem Risiko und der Obskurität der Domäne skalieren. Bei breit dokumentierten Themen, bei denen Fehler jedem Leser sofort auffallen würden, ist das Risiko geringer. Bei domänenspezifischen, aktuellen oder numerisch präzisen Aussagen braucht jeder Kernfakt eine unabhängige Quelle. Bauen Sie diesen Schritt explizit in den Workflow ein. Wenn Sie ein LLMLLMA Large Language Model is an AI system trained on vast text data to predict and generate language, enabling tasks like writing, summarizing, and answering questions.Vollständige Definition ansehen → nutzen, um Analystenberichte zusammenzufassen, prüfen Sie, ob zitierte Statistiken tatsächlich im Quelldokument stehen. Wenn Sie einen Marktüberblick entwerfen, stellen Sie sicher, dass Unternehmenszahlen aus Geschäftsberichten oder geprüften Drittdatenbanken stammen und nicht aus dem Gedächtnis des Modells.

Drittens verändert die gewählte Architektur das Risikoprofil. Ein roher Prompt an ein Allzweckmodell ohne Retrieval trägt bei Faktenaufgaben das höchste Konfabulationsrisiko. Eine gut gebaute RAG-PipelinePipelineAll active sales opportunities across the stages of the sales process, together with their combined potential value and probability of closing.Vollständige Definition ansehen → mit hochwertigen, kuratierten Quelldokumenten und expliziten Zitationsanforderungen im Prompt senkt es erheblich. Wenn Ihr Use Case wirklich kritisch und domänenspezifisch ist, ist die Investition in eine ordentliche Retrieval-Schicht nicht optional.

Prompten auf Unsicherheit, nicht nur auf Antworten

Eine unterschätzte Technik: Weisen Sie das Modell explizit an, seine Unsicherheit zu kennzeichnen. Prompts wie „Wenn Sie sich bei einer der folgenden Aussagen nicht sicher sind, sagen Sie es ausdrücklich“ oder „Listen Sie alle Behauptungen in Ihrer Antwort auf, die auf Informationen beruhen, die Sie anhand der bereitgestellten Dokumente nicht überprüfen können“ erzeugen besser kalibrierte Outputs. Das beseitigt Konfabulation nicht, aber es macht das Zögern des Modells sichtbar und erzeugt eine kürzere Liste zu prüfender Punkte.

Manche Teams haben daraus einen zweistufigen Workflow gemacht. Der erste Durchgang erzeugt den Entwurf. Der zweite Durchgang fordert das Modell über einen separaten Prompt auf, jede konkrete Faktenaussage im Entwurf zu identifizieren und die eigene Sicherheit dazu einzuschätzen. Der zweite Durchgang findet regelmäßig Dinge, die der erste mit unbegründeter Sicherheit präsentiert hat.

Was konkret zu tun ist

• Trennen Sie Ihre LLM-Use-Cases nach Verifikationskosten. Aufgaben, bei denen Fehler korrigierbar oder unkritisch sind (Tonalität entwerfen, Texte umstrukturieren, Brainstorming), brauchen weniger Overhead. Aufgaben, bei denen Faktenfehler in Entscheidungen, Verträge oder Kundenlieferungen durchschlagen können, brauchen einen im Prozess verankerten Prüfschritt, der nicht dem guten Willen überlassen bleibt.
• Verlassen Sie sich nicht auf die selbstberichtete Sicherheit des Modells, wenn der Output zählt. Fordern Sie Quellenangaben und prüfen Sie sie. Wenn das Modell keine überprüfbare Quelle liefern kann, gilt die Aussage als nicht verifiziert.
• Investieren Sie bei wiederkehrenden kritischen Workflows in Retrieval-Architektur statt in PromptingPromptingPrompt engineering is the practice of designing and refining text inputs to guide large language models toward accurate, relevant, and reliable outputs.Vollständige Definition ansehen →-Tricks. Ein RAG-System auf Basis Ihrer tatsächlichen internen Dokumente und geprüfter externer Quellen schlägt bei der faktischen Genauigkeit in dieser Domäne jedes Mal den cleveren Prompt an ein Allzweckmodell.
• Schulen Sie alle im Team, die LLMs nutzen, darauf, dass Flüssigkeit und Korrektheit orthogonal sind. Diese Kalibrierungsverschiebung zu verinnerlichen, erfordert bewusste Anstrengung.
• Wenn die Antwort eines Modells auf eine Nischenfrage sofort und ohne jede Einschränkung kommt, ist das ein Warnsignal, keine Freigabe. Echte Fachexpertise kommt mit Vorbehalten.

Die Geschichte vom Schriftsatz wird immer wieder zitiert, weil sie den Fehlermodus sauber abbildet. Ein Profi vertraute einem flüssigen Output und sparte sich die Prüfung. Das Modell tat genau das, wofür es gebaut wurde. Verlässliche LLM-Workflows zu bauen heißt, um diese Realität herum zu konstruieren, statt zu hoffen, das nächste Modell-Release mache sie irrelevant.