+160 XP

ChatGPT · Die OpenAI-Modellfamilie: GPT, Reasoning-Modelle und wann Sie welches einsetzen

OpenAI liefert zwei verschiedene Verhaltensweisen unter einem Dach: schnelles allgemeines Antworten und bewusstes Reasoning, bei dem das Modell nachdenkt, bevor es antwortet. Wer den falschen Modus wählt, verschwendet entweder Geld oder Genauigkeit. In dieser Lektion geht es um Routing: die Aufgabe dem passenden Modell (oder Reasoning-Level) zuzuordnen, damit Sie für triviale Arbeit nicht zu viel bezahlen und schwierige Arbeit nicht unterversorgen.

Zwei Verhaltensweisen, die zu einem Produkt zusammenwachsen

Früher hat OpenAI diese auf zwei benannte Modellreihen verteilt: die GPT-„Chat“-Modelle (GPT-4o und Verwandte) und die Reasoning-Modelle der „o“-Serie (o3, o4-mini). Die GPT-5-Familie (GPT-5 im August 2025, danach GPT-5.1 und GPT-5.2) hat diese Trennung aufgehoben. Ein einziges Modell entscheidet jetzt, wie intensiv es nachdenkt, und Sie können das Level selbst festlegen. Der zugrunde liegende Tradeoff bleibt derselbe, deshalb gilt die folgende Routing-Logik weiterhin.

Schnelles Antworten ist auf Breite und Latenz optimiert. Sie senden einen Prompt, und die Tokens kommen fast sofort zurück. Schreiben, Zusammenfassen, Klassifizieren, Formatieren, Code-Vervollständigung und Konversation erledigt es gut.

Reasoning setzt zusätzliche verborgene Rechenleistung für ein Problem ein, bevor die endgültige Antwort kommt. Diese verborgene Arbeit besteht aus *Reasoning-Tokens*: internen Schritten, die Sie bezahlen und nie sehen. Es tauscht Latenz und Kosten gegen Genauigkeit bei mehrstufigen Problemen: Mathematik, schwieriges Debugging, Planung, wissenschaftliche Analyse und alles, wo ein falscher Zwischenschritt das Ergebnis ruiniert.

Die Familie gibt es auch in kleineren Varianten (mini- und nano-Stufen). Sie haben dasselbe allgemeine Profil bei geringeren Kosten und geringerer Latenz, mit etwas weniger Tiefe. Ein mini-Modell mit hochgestelltem Reasoning denkt trotzdem nach, nur günstiger.

Die offizielle Übersicht der aktuellen Modelle finden Sie in der Modelldokumentation. Alle paar Monate erscheinen Point Releases, prüfen Sie die Übersicht also, wenn sich Namen ändern. Die Routing-Logik ändert sich dadurch nicht.

Die Routing-Entscheidung in einer Frage

Fragen Sie: Hat diese Aufgabe eine überprüfbare Kette von Schritten, bei der ein früher Fehler das Ergebnis zerstört?

  • Nein: schnell antworten lassen. Umformulierungen, Tonänderungen, Entwürfe, Extraktion, Zusammenfassungen, einfache Q&A, lockerer Chat.
  • Ja: Reasoning hochstellen. Analysen mit mehreren Constraints, mathematische Beweise, unklare Fehlersuche, Synthese mehrerer Dokumente mit Logik, Planung einer Abfolge von Aktionen.

Stellen Sie dann eine zweite Frage zu den Kosten: Ist das hohes Volumen oder latenzkritisch? Wenn ja, wechseln Sie zu einer `mini`/`nano`-Variante.

Konkretes Beispiel: Umformulierung vs. Analyse

Aufgabe A: „Formuliere diesen Absatz prägnanter und selbstbewusster.“

Das ist eine einmalige Transformation ohne Kette, in der etwas schiefgehen kann. Schalten Sie Reasoning aus und lassen Sie das Modell schnell antworten.

python
from openai import OpenAI
client = OpenAI()

resp = client.responses.create(
    model="gpt-5.2",
    reasoning={"effort": "none"},
    input="Rewrite to be concise and confident:\n\n" + paragraph,
)
print(resp.output_text)

Aufgabe B: „Hier sind drei Lieferantenverträge. Finde jede Klausel, bei der sich die Verlängerungsbedingungen widersprechen, und sag mir, welcher Vertrag nach den Vorrangregeln in Abschnitt 12 gilt.“

Diese Aufgabe ist mehrstufig. Das Modell muss Klauseln extrahieren, sie vergleichen, die Vorranglogik anwenden und die Konflikte auflösen. Ein früher Lesefehler zieht sich durch alles Weitere, also stellen Sie Reasoning hoch und lassen Sie das Modell Tokens verbrauchen.

python
resp = client.responses.create(
    model="gpt-5.2",
    reasoning={"effort": "high"},
    input=contracts_text + "\n\nFind conflicting renewal clauses and resolve per section 12.",
)
print(resp.output_text)

Drei Dinge fallen auf:

  • Beide Aufrufe nutzen die Responses API (responses.create), die primäre Schnittstelle von OpenAI.
  • reasoning.effort ist Ihr wichtigster Hebel: dasselbe Modell, unterschiedlich viel Nachdenken. Die zulässigen Werte hängen vom Modell ab. GPT-5.1 und neuer akzeptieren none, low, medium und high, GPT-5.2 ergänzt xhigh für die schwierigsten Probleme. Das ursprüngliche GPT-5 nutzte minimal statt none.
  • Wenn Sie ein älteres Modell fest einstellen (gpt-5, o3, o4-mini), prüfen Sie dessen unterstützte Werte in der Dokumentation, bevor Sie Code übernehmen. Ein nicht unterstützter effort-Wert führt zu einem Fehler.

In ChatGPT: die Modellauswahl einfach erklärt

In den ChatGPT-Apps ist Auto voreingestellt. Es entscheidet intern, ob schnell geantwortet oder intensiver nachgedacht wird, und Sie können das übersteuern:

  • Auto erledigt die meiste tägliche Arbeit, ohne dass Sie etwas einstellen müssen.
  • Instant erzwingt schnelle Antworten. Nutzen Sie es für Entwürfe und Umformulierungen, wenn Sie Tempo wollen.
  • Thinking erzwingt bewusstes Reasoning. Wechseln Sie dorthin, wenn eine schnelle Antwort immer wieder oberflächlich oder subtil falsch ausfällt.
  • Pro (in höheren Tarifen) setzt die meiste Rechenleistung ein und ist für die schwierigsten Fragen mit dem höchsten Einsatz gedacht.

Auf Auto ist auch Ihr Prompt ein Hebel. Wenn Sie „denk sorgfältig nach und prüfe jeden Schritt“ schreiben, signalisieren Sie dem Modell, mehr Reasoning einzusetzen. Ältere Modelle finden sich in manchen Tarifen noch in einem Legacy-Menü, sind aber nicht mehr der Standardweg.

Eine praktische Gewohnheit: Starten Sie schnell und wechseln Sie erst zu Thinking, wenn Sie merken, dass das Modell Logik überspringt. Thinking ist langsamer und unterliegt in bezahlten Tarifen engeren Nutzungslimits.

Wo das die ChatGPT-Funktionen berührt

Die Modellwahl, also wie intensiv Sie es nachdenken lassen, verändert, wie sich der Rest des ChatGPT-Toolsets verhält.

Datenanalyse. Wenn Sie eine CSV hochladen und eine Analyse anfordern, schreibt und führt das Modell Python in einer Sandbox aus. Hohes Reasoning plant eine korrekte mehrstufige Analyse (bereinigen, verknüpfen, aggregieren, validieren) deutlich besser, bevor es den Code schreibt. Für „mach schnell ein Balkendiagramm“ reicht eine schnelle Antwort.

Canvas. Bei längeren Texten und Code, die Sie nebeneinander bearbeiten, hält schnelles Antworten den Arbeitszyklus kurz. Stellen Sie Reasoning nur hoch, wenn der *Inhalt selbst* harte Logik erfordert, etwa wenn ein Algorithmus hergeleitet werden muss.

Custom GPTs und Projects. Ihre Anweisungen und die Memory prägen das Verhalten in beiden Fällen, aber ein Modell, das intensiver nachdenkt, befolgt mehrteilige Anweisungen zuverlässiger, weil es um sie herum planen kann. Wenn Ihr Custom GPT ständig Constraint Nr. 4 von 6 ignoriert, ist womöglich das Reasoning-Level der Engpass.

Der ChatGPT-Agent und geplante Aufgaben. Autonome Arbeit (browsen, klicken, synthetisieren) stützt sich bewusst auf stärkeres Reasoning, weil jeder Schritt vom vorherigen abhängt.

Choosing Between GPT and Reasoning Models

Watch on YouTube

Kosten und Latenz: der eigentliche Tradeoff

Preisdetails ändern sich, denken Sie also qualitativ. Die aktuellen Zahlen stehen auf der Preisseite.

  • Reasoning kostet pro Aufgabe mehr, als der Token-Preis vermuten lässt, weil zusätzlich zur sichtbaren Antwort unsichtbare Reasoning-Tokens entstehen. Hoher effort bei einem schwierigen Problem kann ein Mehrfaches einer schnellen Antwort auf ein einfaches Problem kosten.
  • mini/nano-Varianten gibt es, damit Sie im großen Maßstab arbeiten können, ohne dass die Kosten explodieren. Für die Batch-Klassifizierung von 100k Support-Tickets ist ein mini-Modell fast immer die richtige Wahl gegenüber dem Flaggschiff.
  • Die Latenz folgt derselben Achse. Hoher effort fühlt sich langsam an, weil das Modell nachdenkt, und das ist erwartetes Verhalten. Setzen Sie es nicht hinter eine UI, die Antworten unter einer Sekunde braucht, es sei denn, Sie stellen effort auf none oder low.

Eine einfache interne Regel für Teams: Standardmäßig schnell antworten, hohen Reasoning-effort nur für eine explizite Allowlist von Aufgabentypen zulassen, und das Flaggschiff auf high oder xhigh für Arbeit mit geringem Volumen und hohem Einsatz reservieren.

Wissenscheck

1. Was ist der grundlegende Unterschied zwischen allgemeinen GPT-Modellen und Reasoning-Modellen?

2. Welche einzelne Frage entscheidet laut der Lektion am besten, ob eine Aufgabe an ein Reasoning-Modell geroutet werden sollte?

3. Was sind „Reasoning-Tokens“, wie sie in der Lektion beschrieben werden?

MEHRFACHAUSWAHL

4. Wählen Sie ALLE Aufgaben aus, für die sich ein allgemeines GPT-Modell besser eignet als ein Reasoning-Modell.

Wählen Sie alle richtigen Antworten aus.

MEHRFACHAUSWAHL

5. Wählen Sie ALLE zutreffenden Aussagen über die Varianten „mini“ und „nano“ aus.

Wählen Sie alle richtigen Antworten aus.

Reasoning verändert, wie Sie prompten

Sobald Sie Reasoning hochstellen, sollten Sie auch Ihren Prompting-Stil ändern, sonst verschenken Sie seine Stärke.

Hören Sie auf, die Schritte vorzugeben. Bei schnellem Antworten ergänzen Sie oft „denk Schritt für Schritt“. Ein Modell, das bereits Reasoning betreibt, tut das von sich aus, und ausformulierte Schritte können es einschränken. Nennen Sie das Ziel, die Constraints und die Erfolgskriterien, und lassen Sie das Modell dann arbeiten.

Schwacher Prompt bei hohem Reasoning:

Liste zuerst die Klauseln auf. Vergleiche sie dann. Wende dann Abschnitt 12 an. Ziehe dann ein Fazit.

Stärker:

Löse alle Konflikte bei den Verlängerungsbedingungen in diesen Verträgen auf. Erfolg = jeder Konflikt ist identifiziert, mit dem maßgeblichen Vertrag und der Regel aus Abschnitt 12, die ihn entscheidet. Markiere Unklares, statt zu raten.

Geben Sie ihm Raum und eine klare Ziellinie. Ein Reasoning-Modell arbeitet am besten mit einer klaren Definition von „fertig“ und expliziten Anweisungen zum Umgang mit Unsicherheit („markieren, nicht raten“). Es kommt auch gut mit Structured Outputs zurecht, kombinieren Sie es also mit einem JSON-Schema, wenn die Antwort in ein anderes System fließt.

python
schema = {
    "name": "conflict_report",
    "schema": {
        "type": "object",
        "properties": {
            "conflicts": {
                "type": "array",
                "items": {
                    "type": "object",
                    "properties": {
                        "clause": {"type": "string"},
                        "winning_contract": {"type": "string"},
                        "rule": {"type": "string"},
                    },
                    "required": ["clause", "winning_contract", "rule"],
                    "additionalProperties": False,
                },
            }
        },
        "required": ["conflicts"],
        "additionalProperties": False,
    },
    "strict": True,
}

resp = client.responses.create(
    model="gpt-5.2",
    reasoning={"effort": "high"},
    input=contracts_text + "\n\nReturn the conflict report.",
    text={"format": {"type": "json_schema", **schema}},
)

strict: True sorgt dafür, dass das Modell genau diese Struktur zurückgibt. Das ist vor allem wichtig, wenn der Output in nachgelagerten Code fließt.

Reasoning in Agents

Wenn Sie mit dem Agents SDK bauen oder Function Calling einrichten, lässt sich der Tradeoff auf Rollen abbilden:

  • Der Planner entscheidet, welche Tools in welcher Reihenfolge aufgerufen werden. Er profitiert von hohem Reasoning-effort, weil die Tool-Auswahl genau die Art mehrstufiger Entscheidung ist, die Reasoning gut beherrscht.
  • Die Worker erledigen eng umrissene, einmalige Aufgaben: eine abgerufene Seite zusammenfassen, ein Ergebnis formatieren, eine Antwort entwerfen. Sie können auf none oder auf einem günstigeren mini-Modell laufen.

Diese Aufteilung hält einen Agent klug und bezahlbar: intensiv darüber nachdenken, *was zu tun ist*, und *jeden Schritt* günstig ausführen. Ein häufiges Anti-Pattern ist, das Flaggschiff bei jedem Tool-Aufruf mit hohem effort laufen zu lassen. Das macht Agents langsam und teuer, ohne Gewinn an Genauigkeit.

Eine kurze mentale Checkliste

Gehen Sie vor jeder nicht trivialen Aufgabe diese Punkte durch:

  1. Kette abhängiger Schritte? Reasoning-effort erhöhen. Einzelne Transformation? Schnell bleiben.
  2. Hohes Volumen oder Tempo gefragt? Auf mini/nano wechseln.
  3. Output fließt in Code oder ein anderes Tool? Structured Outputs ergänzen.
  4. Reasoning hochgestellt? Ziel, Constraints und „fertig“ nennen, nicht die Schritte.
  5. Bauen Sie einen Agent? Intensiv nachdenken beim Planen, schnell handeln beim Ausführen.

Key Takeaways

  • Routen Sie nach Struktur, nicht nach Hype. Eine einzelne Transformation sollte schnell beantwortet werden. Eine Kette abhängiger Schritte, bei der ein Fehler das Ergebnis zerstört, braucht mehr Reasoning. In der GPT-5-Familie ist das der Regler reasoning.effort, kein separates Modell.
  • Die effort-Werte unterscheiden sich je nach Modell: none bis high bei GPT-5.1 und neuer, zusätzlich xhigh bei GPT-5.2, während das ursprüngliche GPT-5 minimal nutzte. Prüfen Sie die Dokumentation, bevor Sie Code wiederverwenden.
  • In ChatGPT routet Auto für Sie. Instant, Thinking und Pro sind manuelle Übersteuerungen.
  • mini/nano-Varianten sind Ihr Kostenhebel. Bei hohem Volumen oder latenzkritischer Arbeit schlägt ein kleineres Modell mit dem richtigen effort das Flaggschiff.
  • Reasoning kostet wegen der unsichtbaren Reasoning-Tokens mehr, als der Token-Preis vermuten lässt. Prompten Sie es mit Ziel, Constraints und einer Definition von „fertig“, und behalten Sie hohen effort in Agents nur für die Planung.

Häufige Fragen

Was ist bei OpenAI der Unterschied zwischen einem GPT-Modell und einem Reasoning-Modell?

Ein GPT-Modell antwortet schnell: Sie senden einen Prompt, und die Tokens kommen fast sofort zurück. Das passt zum Schreiben, Zusammenfassen, Klassifizieren und für Konversation. Ein Reasoning-Modell verwendet vor der Antwort verdeckte Rechenleistung und erzeugt interne Reasoning-Tokens, die Sie bezahlen, aber nie sehen. Dafür bekommen Sie mehr Genauigkeit bei mehrstufigen Problemen wie Mathematik, Debugging oder Planung. Seit der GPT-5-Familie (August 2025) sind beide Modellreihen in einem Modell zusammengeführt, dessen Denkstufe Sie selbst festlegen.

Woran erkenne ich, ob eine Aufgabe Reasoning oder eine schnelle Antwort braucht?

Stellen Sie sich eine Frage: Besteht die Aufgabe aus einer Kette voneinander abhängiger Schritte, bei der ein früher Fehler das Ergebnis ruiniert? Wenn nein (Umformulierungen, Tonänderungen, Extraktion, Zusammenfassungen, einfache Fragen und Antworten), lassen Sie schnell antworten. Wenn ja (Analyse mit mehreren Bedingungen, unklare Fehlersuche, Synthese mehrerer Dokumente mit logischen Zusammenhängen, Planung einer Abfolge von Aktionen), erhöhen Sie den Reasoning-Aufwand.

Welche Werte kann ich in der OpenAI API an reasoning.effort übergeben?

Das hängt vom Modell ab. GPT-5.1 und neuere Modelle akzeptieren none, low, medium und high; GPT-5.2 ergänzt xhigh für die schwierigsten Probleme; das ursprüngliche GPT-5 verwendete minimal statt none. Ein nicht unterstützter Wert führt zu einer Fehlermeldung. Prüfen Sie deshalb die Modelldokumentation, bevor Sie Code von einem Modell auf ein anderes übertragen.

Wann sollte ich ein mini- oder nano-Modell statt des Flaggschiffs verwenden?

Verwenden Sie mini oder nano immer dann, wenn es um hohe Volumen geht oder die Latenz wichtig ist. Sie haben im Wesentlichen dasselbe Profil bei geringeren Kosten und geringerer Latenz, mit etwas weniger Tiefe. Ein mini-Modell mit hochgestelltem Reasoning denkt trotzdem, nur günstiger. Für die Batch-Klassifizierung von 100k Support-Tickets ist mini fast immer die richtige Wahl gegenüber dem Flaggschiff.

Was bewirken Auto, Instant, Thinking und Pro in ChatGPT?

Auto ist die Standardeinstellung und entscheidet intern, ob schnell geantwortet oder gründlicher nachgedacht wird. Das deckt den Großteil der täglichen Arbeit ab. Instant erzwingt schnelle Antworten für Entwürfe und Umformulierungen. Thinking erzwingt bewusstes Reasoning, wenn schnelle Antworten oberflächlich oder unterschwellig falsch ausfallen. Pro (in höheren Tarifen) setzt die meiste Rechenleistung für die schwierigsten Fragen ein. Eine gute Gewohnheit: schnell anfangen und erst auf Thinking wechseln, wenn Sie merken, dass das Modell logische Schritte überspringt, denn Thinking ist langsamer und unterliegt engeren Nutzungslimits.

Sollte ich bei hohem Reasoning-Aufwand noch „denke Schritt für Schritt“ schreiben?

Nein. Ein Modell, das bereits Reasoning betreibt, tut das von selbst, und wenn Sie die Schritte vorgeben, kann das es einschränken. Nennen Sie das Ziel, die Rahmenbedingungen und eine explizite Definition von „fertig“, dazu Anweisungen zum Umgang mit Unsicherheit, etwa „Markiere alles Unklare, statt zu raten“. Wenn die Ausgabe in nachgelagerten Code einfließt, kombinieren Sie das mit einem JSON-Schema im strict mode, damit die Struktur garantiert ist.

Was Sie aus dieser Lektion umsetzen

Diese Maßnahmen sind im Playbook der Rolle zusammengefasst.

  • Reasoning-Modelle für die Planung und günstige, schnelle Modelle für die Ausführung der Schritte einsetzen
  • Reasoning Models mit Ziel, Constraints und Definition of Done prompten
  • Reasoning Effort begrenzen und standardmäßig schnelle Modelle nutzen, Eskalation nur bewusst
Vollständiges Action Playbook ansehen →

Verwandte Artikel

Aktuelle Blogartikel, die auf dieser Lektion aufbauen.