Das Context Window: das Arbeitsgedächtnis des Modells

Fügen Sie ein 40-seitiges PDF in Claude ein und bitten Sie um eine Zusammenfassung. Das klappt sofort. Fügen Sie einen 900-seitigen Roman ein, und Sie stoßen womöglich an eine Grenze: „This message exceeds the maximum length.“ Gleiches Tool, gleicher Prompt, völlig anderes Ergebnis. Der Unterschied ist das Context WindowContext WindowDas Context Window ist die maximale Textmenge (gemessen in Tokens), die ein Sprachmodell auf einmal verarbeiten kann, einschließlich Input-Prompt und generiertem Output.Vollständige Definition ansehen →, und sobald Sie es verstehen, ergibt die Hälfte des seltsamen Verhaltens von KI-Chatbots plötzlich Sinn.

Das Erste, was Sie verstehen müssen

Ein LLMLLMEin Large Language Model ist ein KI-System, das auf riesigen Textmengen trainiert wurde, um Sprache vorherzusagen und zu erzeugen. Damit sind Aufgaben wie Schreiben, Zusammenfassen und Beantworten von Fragen möglich.Vollständige Definition ansehen → (Large Language Model, die Technologie hinter ChatGPT, Claude und Gemini) hat kein Gedächtnis zwischen Unterhaltungen. Wenn Sie einen neuen Chat starten, weiß das Modell nichts über den letzten. Es „erinnert“ sich nicht an Sie, wie es ein Kollege tun würde.

Alles, was das Modell während eines Chats „weiß“, befindet sich an einem Ort: im Context Window.

Stellen Sie sich das Context Window als Arbeitsgedächtnis des Modells vor, wie die Fläche auf Ihrem Schreibtisch. Was auf den Tisch passt, kann das Modell sehen und nutzen. Was über die Kante fällt, ist weg.

Dazu gehören:

• Ihre Nachrichten
• Die Antworten des Modells
• Alle Dateien oder Texte, die Sie eingefügt haben
• Versteckte Systemanweisungen, die die App im Hintergrund hinzufügt

All das liegt auf demselben Schreibtisch. Und der Schreibtisch hat eine feste Größe.

TokensTokensEin Token ist die grundlegende Texteinheit, die Sprachmodelle verarbeiten, oft ein Wortfragment, ein ganzes Wort oder ein Satzzeichen und nicht ein einzelnes Zeichen.Vollständige Definition ansehen →: das Budget, das Sie ausgeben

Die Größe des Context Window wird in Tokens gemessen, nicht in Wörtern.

Ein Token ist ein Textstück. Grob gerechnet entspricht 1 Token etwa 4 Zeichen oder einem Dreiviertelwort. 100 Tokens sind also rund 75 Wörter.

Kurze Beispiele:

• „cat“ = 1 Token
• „unbelievable“ = oft 3 oder 4 Tokens (in Stücke zerlegt)
• Eine typische Textseite = etwa 500 bis 700 Tokens

Sie kkDie durchschnittliche Zahl neuer Nutzer, die jeder bestehende Nutzer über Empfehlungen generiert. Über 1,0 verstärkt sich das Wachstum selbst und wird exponentiell.Vollständige Definition ansehen →önnen das selbst mit dem kostenlosen Tokenizer-Tool von OpenAI ausprobieren. Fügen Sie einen beliebigen Text ein und sehen Sie zu, wie ererDas Verhältnis von Interaktionen (Likes, Kommentare, Shares) zur Reichweite eines Inhalts. Zeigt, wie stark die Zielgruppe reagiert, gemessen an der Zahl der Personen, die den Inhalt gesehen haben.Vollständige Definition ansehen → in farbige Tokens zerfällt. So verstehen Sie das Konzept am schnellsten.

Warum ist das wichtig? Weil das Context Window ein Budget ist, und Tokens sind die Währung.

Im Jahr 2026 sehen typische Grenzen ungefähr so aus (sie ändern sich häufig, prüfen Sie also die Dokumentation des Anbieters):

• ChatGPT (GPT-5-Familie): von etwa 32.000 Tokens in der kostenlosen und den niedrigeren Stufen bis zu rund 200.000 in den höheren Stufen in der App und bis zu 400.000 über die APIAPIApplication Programming Interface: eine standardisierte Schnittstelle, über die Anwendungen kommunizieren und Daten austauschen, ohne die interne Funktionsweise der jeweils anderen zu kennen.Vollständige Definition ansehen →
• Claude (Sonnet und Opus 4.x): standardmäßig 200.000 Tokens, mit einer Option auf 1.000.000 Tokens für Sonnet über die API
• Gemini (3 Pro und 2.5 Pro): rund 1.000.000 Tokens

Eine Million Tokens klingt unendlich. Ist es aber nicht. Rechnen wir nach.

Warum das 40-seitige PDF funktioniert (und der Roman nicht)

Ein 40-seitiges PDF umfasst grob 20.000 bis 28.000 Tokens. Legen Sie das in ein Window mit 200.000 Tokens, und Sie haben vielleicht 12 Prozent des Schreibtischs belegt. Es bleibt reichlich Platz für Ihre Fragen und die Antworten des Modells.

Ein 900-seitiger Roman umfasst grob 400.000 bis 500.000 Tokens. Das sprengt ein Window mit 200.000 Tokens. Die App lehnt ihn ab, weil er nicht auf den Schreibtisch passt. In einem Gemini-Window mit einer Million Tokens passt er hinein, und es bleibt noch Platz für Fragen.

Das ist die praktische Regel:

Passt Ihr Inhalt ins Window, kann das Modell alles auf einmal verarbeiten. Passt er nicht, müssen Sie ihn aufteilen.

Wenn etwas zu groß ist, haben Sie folgende Optionen:

1. In Chunks aufteilen und diese nacheinander verarbeiten.
2. Unterwegs zusammenfassen und Zusammenfassungen statt des vollständigen Textes weitergeben.
3. Ein Modell mit größerem Window verwenden (genau deshalb sind Windows mit einer Million Tokens für riesige Dokumente nützlich).

Warum lange Chats den Anfang „vergessen“

Das ist das Verhalten, das die meisten Leute verwirrt.

Sie sind 50 Nachrichten tief in einem langen Brainstorming-Chat. Sie bitten das Modell, ein Detail zu wiederholen, das Sie ganz am Anfang erwähnt haben. Es liegt falsch oder erfindet etwas.

Das Modell ist nicht faul. Jede Nachricht, Ihre und die des Modells, verbraucht Token-Budget, und eine lange Unterhaltung fügt ständig mehr hinzu. Nähert sich die Summe dem Limit, muss die App etwas tun. Verschiedene Apps gehen unterschiedlich damit um:

• Die ältesten Nachrichten verwerfen, damit die neuesten noch hineinpassen. Das Modell sieht buchstäblich nicht mehr, was Sie vor einer Stunde gesagt haben.
• Den Verlauf automatisch komprimieren. Claude und ChatGPT können frühere Teile eines langen Chats im Hintergrund zusammenfassen. Der Kern bleibt erhalten, aber konkrete Details (eine exakte Zahl, eine genaue Formulierung) können verloren gehen.
• Den Chat beenden und Sie bitten, einen neuen zu starten.

So oder so liegt der frühe Teil der Unterhaltung nicht mehr in seiner ursprünglichen Form auf dem Schreibtisch.

Ein einfaches mentales Modell:

[ CONTEXT WINDOW = 200,000 tokens ]

Earliest messages  -->  dropped or summarized when full
   ...
Recent messages    -->  always visible
Your latest prompt -->  always visible

Deshalb kann sich das Modell in langen Sessions auch selbst widersprechen. Die Anweisung, die Sie in Nachricht 3 gegeben haben („antworte immer in britischem Englisch“), ist bei Nachricht 80 vielleicht weg oder in einer Zusammenfassung verwischt.

„Aber ChatGPT erinnert sich über Chats hinweg an meinen Namen?“

Gut beobachtet. Moderne Apps setzen Funktionen auf das eigentliche Context Window:

• Memory (ChatGPT, Claude, Gemini): Die App speichert Fakten über Sie oder durchsucht Ihre früheren Chats und fügt dann die relevanten Teile unauffällig in neue Unterhaltungen ein.
• Projects (Claude, ChatGPT): ein gemeinsamer Bereich, in dem Anweisungen und Dateien über Unterhaltungen hinweg erhalten bleiben.

Das ist kein Erinnern des Modells. Die App speist die Informationen jedes Mal erneut in das Context Window ein. Das Window ist weiterhin das Einzige, was das Modell tatsächlich sieht.

Wie Sie mit dem Window arbeiten statt dagegen

Sobald Sie Tokens als Budget betrachten, treffen Sie bessere Entscheidungen. Hier die praktische Denkweise.

1. Für neue Themen neu beginnen

Lassen Sie nicht Ihre ganze Woche durch einen endlosen Chat laufen. Ein aufgeblähter Chat verschwendet Budget für irrelevanten Verlauf und erhöht das Risiko von Verwirrung. Neue Aufgabe, neuer Chat.

2. Das Wichtige nach vorn holen

Platzieren Sie Ihre wichtigsten Anweisungen und Referenzmaterialien nah an Ihrer eigentlichen Frage, nicht vergraben 40 Nachrichten weiter oben. Wenn eine Regel wichtig ist, wiederholen Sie sie.

3. Den relevanten Teil einfügen, nicht alles

Sie müssen keinen vollständigen 200-seitigen Vertrag einfügen, um nach der Kündigungsklausel zu fragen. Fügen Sie die Klausel und etwas umgebenden Kontext ein. Weniger Rauschen, präzisere Antworten, geringere Kosten.

4. Zusammenfassen, um einen langen Chat zu „sichern“

Wenn eine lange Unterhaltung träge oder vergesslich wird, fragen Sie:

„Fasse alles, was wir bisher entschieden haben, als Stichpunktliste zusammen, die ich in einen neuen Chat einfügen kann.“

Starten Sie dann einen sauberen Chat mit dieser Zusammenfassung am Anfang. Sie haben Stunden an Arbeit auf ein paar hundert Tokens komprimiert, und Sie bestimmen, was die Zusammenfassung behält.

5. Projects für laufende Arbeit nutzen

Wenn Sie immer wieder auf dasselbe Material zurückgreifen (einen Buchentwurf, eine Produktspezifikation, einen Kunden-Account), legen Sie es in einem Project ab, damit es immer geladen ist, ohne dass Sie es erneut einfügen müssen.

Ein konkretes Beispiel: Ihr Budget zählen

Wenn Sie mit der API arbeiten (der Entwicklerschnittstelle zu diesen Modellen), wird Ihnen der Token-Verbrauch direkt gemeldet. Auch Nicht-Entwickler profitieren davon, das einmal gesehen zu haben.

# pip install anthropic
import anthropic

client = anthropic.Anthropic()  # verwendet Ihren API-Key

response = client.messages.create(
    model="claude-sonnet-4-5",
    max_tokens=300,
    messages=[
        {"role": "user", "content": "Summarize the causes of WWI in 5 bullets."}
    ],
)

print(response.content[0].text)

# Das Modell sagt Ihnen genau, wie viel Budget Sie verbraucht haben:
print("Input tokens:", response.usage.input_tokens)
print("Output tokens:", response.usage.output_tokens)

input_tokens ist das, was Sie gesendet haben (Ihr Prompt plus eingefügte Dateien). output_tokens ist das, was das Modell zurückgeschrieben hat. Beides zählt gegen die Limits und bei kostenpflichtigen Plänen auch gegen die Kosten. Wenn Sie diese Zahlen verfolgen, wird das ganze Konzept greifbar.

Verbreitete Irrtümer, ausgeräumt

„Ein größeres Context Window bedeutet ein klügeres Modell.“ Nein. Ein größeres Window ist ein größerer Schreibtisch. Ein Modell mit riesigem Window kann trotzdem falsch lesen, was darauf liegt.

„Das Modell liest mein ganzes Dokument jedes Mal sorgfältig.“ Nicht ganz. Bei sehr großen Inputs können Modelle Details übersehen, die in der Mitte vergraben sind, ein bekanntes Muster, das manchmal „lost in the middle“ genannt wird. Wichtige Anweisungen gehören an den Anfang oder das Ende Ihres Inputs.

„Wenn ich ihm einmal etwas sage, weiß es das für immer.“ Nur innerhalb dieses Chats und nur, solange es vollständig im Window bleibt. Über Chats hinweg tragen es nur Memory oder Projects weiter.

Key Takeaways

• Das Context Window ist das Arbeitsgedächtnis des Modells. Alles, was das Modell „sehen“ kann (Ihre Nachrichten, seine Antworten, eingefügte Dateien), befindet sich dort, und es hat eine feste Größe, gemessen in Tokens.
• Tokens sind ein Budget: grob 75 Wörter pro 100 Tokens. Ein 40-seitiges PDF passt problemlos in ein Window mit 200.000 Tokens; ein ganzer Roman braucht ein Modell mit einer Million Tokens oder eine Aufteilung in Chunks.
• Lange Chats verlieren den Anfang, weil alte Nachrichten verworfen oder zu Zusammenfassungen komprimiert werden, wenn sich das Window füllt. Wiederholen Sie wichtige Anweisungen und starten Sie für neue Themen neue Chats.
• Zusammenfassen, um Arbeit zu sichern: Lassen Sie das Modell Ihre Entscheidungen als Stichpunkte auflisten und fügen Sie diese in einen sauberen Chat ein.
• Memory und Projects sind kein echtes Gedächtnis. Sie speisen Informationen in jeder Session erneut ins Window ein. Nutzen Sie sie also für Material, das Sie wiederverwenden, und fügen Sie für alles andere nur die relevanten Teile ein.