Was ein Modell wirklich tut: Vorhersage, nicht Verstehen

# Was ein Modell wirklich tut: Vorhersage, nicht Verstehen

Tippen Sie „Die Hauptstadt von Frankreich ist“ in ein beliebiges KI-Tool, und es antwortet „Paris“. Es wirkt, als *wüsste* das Modell das. Tut es nicht. Es hat lediglich berechnet, dass „Paris“ das wahrscheinlichste nächste Wort ist, auf Basis von Mustern aus Milliarden Sätzen, mit denen es trainiert wurde. Die Antwort ist richtig, aber der Mechanismus ist Vorhersage, nicht Wissen.

Diese eine Idee erklärt fast alles, was im Umgang mit KI seltsam erscheint: warum Prompts so wichtig sind, warum dieselbe Frage unterschiedliche Antworten liefert und wann Sie besser nachprüfen, bevor Sie vertrauen.

Die extrem belesene Autovervollständigung

Sie nutzen Vorhersage längst jeden Tag. Ihr Handy schlägt beim Schreiben das nächste Wort vor. Tippen Sie „Ich bin in fünf“, schlägt es „Minuten“ vor. Das ist eine kleine Autovervollständigung, trainiert auf häufigen Formulierungen.

Ein Large Language ModelLarge Language ModelA Large Language Model is an AI system trained on vast text data to predict and generate language, enabling tasks like writing, summarizing, and answering questions.Vollständige Definition ansehen → (LLMLLMA Large Language Model is an AI system trained on vast text data to predict and generate language, enabling tasks like writing, summarizing, and answering questions.Vollständige Definition ansehen →, die Technologie hinter ChatGPT, Claude und Gemini) ist dieselbe Idee, nur massiv hochskaliert. Es hat einen enormen Teil des Internets, Bücher und Code gelesen und die statistischen Muster gelernt, nach denen Sprache fließt.

Wenn Sie etwas fragen, sucht es die Antwort nicht in einer Datenbank. Es erzeugt eine Antwort TokenTokenA token is the basic unit of text that language models process, often a word fragment, whole word, or punctuation mark rather than a single character.Vollständige Definition ansehen → für TokenTokenA token is the basic unit of text that language models process, often a word fragment, whole word, or punctuation mark rather than a single character.Vollständige Definition ansehen →. Ein TokenTokenA token is the basic unit of text that language models process, often a word fragment, whole word, or punctuation mark rather than a single character.Vollständige Definition ansehen → ist ein Textstück, meist ein Wort oder Wortteil („laufend“ kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnte „lauf“ + „end“ sein). Für jedes TokenTokenA token is the basic unit of text that language models process, often a word fragment, whole word, or punctuation mark rather than a single character.Vollständige Definition ansehen → fragt das Modell: *Was folgt, gegeben alles bisher?*

Es wählt ein wahrscheinliches TokenTokenA token is the basic unit of text that language models process, often a word fragment, whole word, or punctuation mark rather than a single character.Vollständige Definition ansehen →, hängt es an und wiederholt das. Ein ganzer Aufsatz ist nur dieses Ratespiel, tausendfach ausgeführt.

Warum „belesen“ zählt

Weil es so viel Text gesehen hat, sind die Vorhersagen des Modells oft wirklich nützlich. Es hat aufgenommen, wie Verträge formuliert sind, wie Python-Funktionen aufgebaut sind, wie eine höfliche E-Mail beginnt. Das ist echtes, wertvolles Pattern-Matching.

Aber es bleibt Pattern-Matching. Das Modell hat kein Konzept von *wahr* oder *falsch*. Es hat ein Konzept von *wahrscheinlich* oder *unwahrscheinlich*. Meist überschneidet sich das. Manchmal nicht, und in dieser Lücke geht es schief.

Warum dieselbe Frage unterschiedliche Antworten liefert

Fragen Sie ChatGPT dreimal „Gib mir einen Namen für mein Café“, und Sie erhalten drei verschiedene Listen. Das überrascht viele. Sollte ein Computer nicht konsistent sein?

Deshalb ist ererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → es nicht: Bei jedem Schritt wählt das Modell nicht einfach das einzige wahrscheinlichste TokenTokenA token is the basic unit of text that language models process, often a word fragment, whole word, or punctuation mark rather than a single character.Vollständige Definition ansehen →. Es wählt aus einer Reihe wahrscheinlicher Optionen, mit einem Anteil Zufall. Gesteuert wird das über eine Einstellung namens Temperature.

• Niedrige Temperature (nahe 0): Das Modell wählt fast immer das wahrscheinlichste TokenTokenA token is the basic unit of text that language models process, often a word fragment, whole word, or punctuation mark rather than a single character.Vollständige Definition ansehen →. Der Output ist repetitiv und vorhersehbar.
• Höhere Temperature (etwa 0,7 bis 1,0): Das Modell riskiert mehr. Der Output ist kreativer und abwechslungsreicher.

Die meisten Chat-Tools laufen standardmäßig bei mittlerer Temperature, weshalb Sie jedes Mal neue Antworten bekommen. Wenn Sie die APIAPIApplication Programming Interface: a standardised interface that lets applications communicate and exchange data without knowing each other's internal workings.Vollständige Definition ansehen → nutzen (die Entwicklerschnittstelle, um Anfragen direkt an das Modell zu senden), kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen Sie das selbst setzen:

from openai import OpenAI
client = OpenAI()

response = client.chat.completions.create(
    model="gpt-5",
    temperature=0.2,  # niedrig = konsistentere, fokussiertere Antworten
    messages=[
        {"role": "user", "content": "Name 3 ideas for a coffee shop."}
    ]
)
print(response.choices[0].message.content)

Setzen Sie temperature=0.2 und führen es zweimal aus: Die Antworten werden sehr ähnlich sein. Setzen Sie es auf 1.0, und die Listen gehen stark auseinander. Gleicher Prompt, anderer Würfelwurf.

Praktische Konsequenz: Beim kreativen Brainstorming nutzen Sie die Variation. Bei Aufgaben, die Konsistenz brauchen (Datenextraktion, Klassifikation, Formatierung), senken Sie die Temperature oder führen die Aufgabe über die APIAPIApplication Programming Interface: a standardised interface that lets applications communicate and exchange data without knowing each other's internal workings.Vollständige Definition ansehen → aus, wo Sie sie kontrollieren.

Warum Vorhersage Halluzinationen erklärt

Eine Halluzination liegt vor, wenn das Modell etwas Falsches mit vollem Selbstbewusstsein behauptet. Es erfindet einen Gerichtsfall, ein Paper, ein Zitat oder eine Statistik, die es nicht gibt.

Sobald Sie das Prinzip Vorhersage verstanden haben, ist das nicht mehr mysteriös. Die Aufgabe des Modells ist, *plausiblen* Text zu erzeugen. Eine erfundene Quellenangabe wie „Smith et al., 2019, *Journal of Applied Linguistics*“ sieht genauso aus wie eine echte. Sie passt ins Muster. Das Modell hat keinen internen Fact-Checker, der sagt: „Moment, existiert dieses Paper überhaupt?“ Es setzt einfach die wahrscheinlichste Sequenz fort.

Deshalb sind Halluzinationen am gefährlichsten, wenn:

• Sie nach konkreten Fakten fragen, bei denen das Modell unsicher ist (exakte Daten, Namen, Zahlen, juristische Fundstellen).
• Das Thema nischig und in den Trainingsdaten unterrepräsentiert ist.
• Sie eine Frage so formulieren, als sei eine falsche Prämisse wahr. Fragen Sie „Warum hat Einstein zwei Nobelpreise gewonnen?“, erfindet das Modell möglicherweise einen zweiten Preis, weil „die Frage beantworten“ das wahrscheinliche Muster ist, obwohl Einstein nur einen erhielt.

Das Modell gibt Ihnen lieber eine selbstsichere, flüssige falsche Antwort, als „Ich weiß es nicht“ zu sagen, denn flüssige Antworten sind das, worauf es trainiert wurde.

Wie das Ihre Art zu prompten verändert

Wenn das Modell auf Basis von Kontext vorhersagt, dann ist der Kontext, den Sie geben, Ihr Lenkrad. Besserer Input heißt bessere Vorhersagen.

Geben Sie das richtige Ausgangsmuster

Das Modell setzt fort, welches Muster Sie auch aufbauen. Bauen Sie also ein gutes auf.

Schwacher Prompt:

> Schreibe über Marketing.

Starker Prompt:

> Du bist Marketingberater für eine kleine Bäckerei. Schreibe 3 konkrete Ideen für Instagram-Posts, um ein neues Sauerteigbrot zu bewerben. Jede unter 40 Wörtern.

Der zweite Prompt gibt dem Modell eine Rolle, ein Thema, ein Format und eine Einschränkung. Das verengt die Vorhersage auf genau das, was Sie wollen.

Liefern Sie die Fakten selbst

Verlassen Sie sich nicht darauf, dass das Modell obskure Details erinnert. Fügen Sie sie ein. Wenn Sie die Zusammenfassung eines bestimmten Reports wollen, geben Sie ihm den Report. Diese Technik, dem Modell das Quellmaterial zu liefern, reduziert Halluzinationen drastisch, weil das Modell nun aus *Ihrem* Text vorhersagt und nicht aus seiner nebeligen Erinnerung.

> Hier sind unsere Q3-Verkaufszahlen: [einfügen]. Fasse die 3 wichtigsten Trends in einfacher Sprache zusammen.

Bitten Sie es, Unsicherheit zu zeigen

Sie kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen das Modell dazu prompten, zu markieren, wenn es rät:

> Beantworte diese Frage. Wenn du nicht sicher bist oder die Information nicht hast, sage das ausdrücklich, statt zu raten.

Das macht das Modell nicht perfekt, schiebt den vorhergesagten Text aber in Richtung Ehrlichkeit. Für einen tiefergehenden, kostenlosen Leitfaden zum Schreiben effektiver Prompts ist OpenAIs Prompt-Engineering-Guide ein solider Startpunkt.

Wann Sie vertrauen kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen und wann Sie prüfen sollten

Vorhersage ist für manche Aufgaben verlässlich und für andere riskant. Hier eine einfache Daumenregel, ausgehend davon, was das Modell tatsächlich tut.

In der Regel unproblematisch (das Modell transformiert Text, den Sie geliefert haben):

• Umschreiben, Zusammenfassen oder Übersetzen von Text, den Sie bereitgestellt haben.
• Ideen sammeln (wo „falsch“ keine Rolle spielt).
• Struktur entwerfen: Outlines, E-Mail-Vorlagen, erste Entwürfe.
• Erklären bekannter, breit dokumentierter Konzepte.

Sorgfältig prüfen (das Modell erinnert oder erfindet Fakten):

• Konkrete Statistiken, Daten, Namen und Zitate.
• Juristische, medizinische oder finanzielle Details.
• Quellenangaben und Referenzen (immer prüfen, ob sie existieren).
• Aktuelle Ereignisse nahe oder nach dem Trainings-Cutoff des Modells.

Eine nützliche mentale Abkürzung: Das Modell ist am stärksten, wenn es Informationen *verarbeitet*, die Sie ihm gegeben haben, und am schwächsten, wenn es Informationen aus dem Gedächtnis *abruft*.

Eine Anmerkung zu Tools mit Websuche

Aktuelle Versionen von ChatGPT, Claude und Gemini kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen inzwischen im Web recherchieren oder angebundene Tools nutzen. Wenn ein Modell sucht und eine live abgerufene Quelle zitiert, ist es deutlich vertrauenswürdiger, weil es aus echtem abgerufenem Text vorhersagt und nicht aus dem Gedächtnis. Klicken Sie trotzdem auf den Link. Manchmal fasst das Modell eine Quelle falsch zusammen oder zitiert eine Seite, die nicht das sagt, was behauptet wird.

Der Perspektivwechsel

Behandeln Sie die KI nicht länger wie eine Suchmaschine oder ein Orakel. Behandeln Sie sie wie einen brillanten, schnellen, etwas zu selbstsicheren Praktikanten, der alles gelesen hat, aber Details unvollkommen erinnert.

Sie würden den ersten Entwurf eines Praktikanten nicht ungelesen an einen Kunden schicken. Sie würden sich nicht ungeprüft auf dessen Erinnerung an eine bestimmte Vertragsklausel verlassen. Aber Sie würden ihn absolut zum Entwerfen, Brainstormen, Umformatieren und Erklären einsetzen.

Genau das ist die richtige Beziehung zu einem LLMLLMA Large Language Model is an AI system trained on vast text data to predict and generate language, enabling tasks like writing, summarizing, and answering questions.Vollständige Definition ansehen →. Es sagt vorher; Sie prüfen und entscheiden.

Wichtigste Erkenntnisse

• Das Modell sagt das nächste Token vorher, es „weiß“ keine Fakten. Flüssig und selbstsicher heißt nicht korrekt. Behandeln Sie jede konkrete Aussage als Entwurf, den Sie prüfen.
• Unterschiedliche Antworten auf dieselbe Frage sind normal. Zufall (Temperature) ist eingebaut. Senken Sie ihn für Konsistenz, lassen Sie ihn höher für Kreativität.
• Halluzinationen entstehen aus dem Drang des Modells, plausibel zu sein. Es erzeugt lieber eine glaubwürdige falsche Antwort, als zuzugeben, dass es etwas nicht weiß. Seien Sie bei Nischenfakten, Daten, Zahlen und Quellenangaben besonders skeptisch.
• Steuern Sie über Kontext. Geben Sie dem Modell eine klare Rolle, ein Format und das tatsächliche Quellmaterial. Es sagt aus dem vorher, was Sie liefern, guter Input erzeugt guten Output.
• Vertrauen beim Transformieren, prüfen beim Erinnern. Ihr Dokument zusammenzufassen ist unproblematisch; eine Statistik aus dem Gedächtnis aufzusagen nicht.