ChatGPT, Claude, Gemini, sie alle werben mit immer größeren Kontextfenstern. Claude Opus 4.8 und Sonnet 5 verarbeiten bis zu einer Million Token, manche Open-Source-Modelle werben sogar mit zehn Millionen. Das klingt nach einem simplen Ablauf. Buch hochladen, Frage stellen, fertig.
Aber ganz so einfach ist es doch (noch) nicht.
Sobald man ernsthaft mit langen Dokumenten arbeitet, Manuskripten, Recherchen, ganzen Ordnern voller Unterlagen, zeigt sich ein anderes Bild. Manche Dinge funktionieren erstaunlich gut. Andere scheitern auf eine Weise, die man nicht erwartet. Was dahintersteckt, klärt sich schnell, wenn man sich die aktuellen Forschungsergebnisse und Benchmarks ansieht.
Inhaltsverzeichnis
Was ist ein Kontextfenster?
Das Kontextfenster ist, vereinfacht gesagt, der Arbeitsspeicher einer KI. Alles, was das Modell gleichzeitig sehen kann, deine Frage, hochgeladene Dateien, die bisherige Unterhaltung, die versteckte Systemanweisung, muss dort hineinpassen. Was nicht hineinpasst, kann das Modell nicht berücksichtigen. Es ist dann schlicht nicht da.
Gemessen wird in Token. Ein Token ist ein Stück Text, manchmal ein Wort, manchmal nur ein Wortteil. Im Deutschen braucht man für 1.000 Wörter ungefähr 1.300 bis 1.500 Token. Eine Million Token entsprechen also grob 600.000 bis 700.000 Wörtern. Das sind ungefähr 1.200 bis 1.500 Buchseiten, drei dicke Romane, zwei komplette Jahrgänge einer Wochenzeitung oder ein mittelgroßes Software-Projekt.
Übrigens, deutsche Texte verbrauchen mehr Token als englische. Das liegt nicht an der Länge unserer Wörter, sondern daran, dass die Tokenizer der meisten Modelle überwiegend auf Englisch trainiert wurden. Deutsche Komposita und Deklinationen werden deshalb in mehr Einzelteile zerlegt. Das Kontextfenster ist für uns also etwas kleiner, als die Hersteller versprechen. Wer schon einmal ein Auge auf seinen Token-Verbrauch geworfen hat, kennt den Effekt.
Und wie viel passt rein?
Die Zahlen klingen erstmal beeindruckend. Claude Opus 4.8 und Sonnet 5 bieten eine Million Token, sowohl über die Schnittstelle als auch in den Bezahltarifen. GPT-5.6, seit Juli 2026 das neue Standardmodell von OpenAI, arbeitet in allen drei Varianten (Sol, Terra, Luna) ebenfalls mit rund 1,05 Millionen Token; ab 272.000 Token pro Anfrage greift allerdings ein höherer Long-Context-Tarif. Gemini 3.1 Pro liegt bei einer Million, auf der Enterprise-Plattform Vertex AI sogar bei zwei Millionen. Manche Open-Source-Modelle werben mit bis zu zehn Millionen Token, in der Praxis ist das kaum nutzbar. Solche Fenster wollen befüllt und im Speicher gehalten werden, und der Speicherbedarf wächst mit der Länge des Kontexts. Wer zehn Millionen Token wirklich ausreizen will, braucht mehrere zusammengeschaltete Rechenzentrums-GPUs mit hunderten Gigabyte Speicher. Auf dem eigenen Rechner läuft das nicht, und eine fertige App, die es anbietet, gibt es für Privatnutzer ohnehin nicht.
Kontextfenster im Vergleich — Stand Juli 2026
| Modell | Kontextfenster | Grobe Textmenge |
|---|---|---|
| Claude Opus 4.8 / Sonnet 5 | 1 Mio. Token | ca. 600.000–700.000 Wörter |
| GPT-5.6 (Sol / Terra / Luna) | 1,05 Mio. Token | ca. 650.000–730.000 Wörter |
| Gemini 3.1 Pro | 1 Mio. Token, Vertex AI bis 2 Mio. | ca. 750.000 Wörter, rund 1.500 Buchseiten |
| Open-Source-Modelle | teils bis 10 Mio. Token beworben | in der Praxis kaum nutzbar |
Kontextfenster nach Herstellerangaben. In der Gratis-App sind die nutzbaren Fenster meist kleiner. Die beworbene Kapazität sagt nichts darüber, wie gut das Modell den Inhalt tatsächlich verarbeitet.
Eines ist dabei wichtig. Die vollen Kontextfenster stehen längst nicht überall gleich zur Verfügung. In der kostenlosen App sind die Fenster spürbar kleiner, bei Gemini etwa reicht die Spanne vom knappen Gratis-Kontingent bis zur vollen Million in den höheren Google-AI-Tarifen. Wer regelmäßig große Dokumente verarbeiten will, kommt um ein Abo kaum herum.
Kontextfenster im Zeitverlauf: von 4.000 Token (2022) bis zu einer Million und mehr (2026). Eigene Darstellung nach Herstellerangaben.
Aber die beworbene Kapazität und die nutzbare Qualität sind zwei verschiedene Dinge. In meinen eigenen Tests wurde es bei Claude ab etwa 100 Seiten wacklig, nicht weil das Modell den Text nicht laden konnte, sondern weil die Antworten bei analytischen Fragen zu konkreten Details an Präzision verloren. Die KI hatte den Text noch gesehen, aber nicht mehr alles gleich gut verarbeitet.
Das ist kein Einzelfall. Google setzt bei Gemini auf maximale Kapazität, Anthropic dagegen betont die Konsistenz, also dass Claude über den gesamten Text hinweg gleich aufmerksam bleibt. Weniger Platz, aber zuverlässiger. In der Praxis ist das womöglich der bessere Deal.
Was tatsächlich funktioniert
Trotz der Einschränkungen eröffnen die großen Kontextfenster Möglichkeiten, die es vor zwei Jahren nicht gab.
Ein Buch zusammenfassen. Ein Roman, ein Sachbuch, eine Forschungsarbeit. Hochladen und zusammenfassen lassen funktioniert bei den meisten Modellen gut, solange das Dokument nicht über 200 bis 300 Seiten hinausgeht. Darüber hinaus wird es lückenhaft. Ich habe ein 400-Seiten-Manuskript hochgeladen und nach einem bestimmten Nebenstrang gefragt. Die erste Hälfte wurde sauber erfasst, ab der Mitte fehlten ganze Handlungsteile, das ist nicht hilfreich.
Verträge und juristische Texte prüfen. Mietvertrag, Arbeitsvertrag, die AGB eines Anbieters. Man lädt das Dokument hoch und lässt gezielt nach Kündigungsfristen, Haftungsklauseln oder Widersprüchen suchen. Anwaltskanzleien tun im großen Stil dasselbe. Funktioniert, braucht aber immer eine menschliche Endkontrolle. Ein übersehener Absatz kostet im Zweifel Geld.
Code analysieren. Entwickler laden nicht mehr einzelne Dateien hoch, sondern ganze Projekte. Die KI sieht Abhängigkeiten, die tausende Zeilen auseinanderliegen, und findet den Fehler, der aus dem Zusammenspiel zweier weit entfernter Stellen entsteht. Das verändert die Art, wie Software entsteht.
Eine Materialsammlung befragen. Das ist der Fall, der mir im Alltag am meisten bringt. Zehn PDFs zu einem Thema, ein paar Mitschriften, zwei Interviews, alles zusammen in einen Chat. Dann Fragen quer über den ganzen Stapel. Für Studenten in der Prüfungsvorbereitung oder bei der Arbeit an einer Hausarbeit ist das ein echter Hebel, solange man die Antworten gegen die Originale prüft.
Lange Gesprächsverläufe. Wer ein komplexes Projekt über viele Nachrichten hinweg mit der KI bearbeitet, profitiert davon, dass das Modell den Anfang der Unterhaltung noch kennt. Jedenfalls bis zu einem gewissen Punkt.
Das Problem mit der Mitte
Und hier kommt die Ernüchterung. Sprachmodelle haben eine Schwäche, die »Lost in the Middle« heißt. Sie gewichten Informationen am Anfang und am Ende eines Textes stärker als alles, was dazwischen steht.
»Lost in the Middle« bezeichnet die Tendenz von Sprachmodellen, Informationen am Anfang und Ende eines langen Textes zuverlässig zu finden, Inhalte in der Mitte dagegen häufig zu übersehen. Der Effekt wurde von Liu et al. empirisch nachgewiesen (arXiv 2023, publiziert in TACL 2024) und tritt weitgehend unabhängig von der Größe des Kontextfensters auf.
Das kennt man von sich selbst. In einer langen Liste erinnert man sich an den Anfang und das Ende, die Mitte verschwimmt. Bei Sprachmodellen ist der Effekt messbar. Ein Detail, das auf Seite 3 von 200 steht, wird mit hoher Wahrscheinlichkeit gefunden. Dasselbe Detail auf Seite 100, und die Trefferquote kann auf ein Drittel einbrechen.
Lost in the Middle: Was am Anfang und Ende steht, wird zuverlässig gefunden. Die Mitte geht oft verloren. Eigene Darstellung nach Liu et al. (2024) und Herstellerbenchmarks.
Der Standardtest dafür heißt »Needle in a Haystack«, Nadel im Heuhaufen. Ein einzelner Fakt wird in einer riesigen Textmenge versteckt, und das Modell muss ihn finden. Die aktuellen Spitzenmodelle schaffen das bei reinem Text mit über 99 Prozent Trefferquote. Anspruchsvoller wird es bei Multi-Needle-Tests, in denen mehrere Fakten gleichzeitig gefunden und auseinandergehalten werden müssen. Da liegen die Werte selbst bei den besten Modellen deutlich niedriger, je nach Testaufbau irgendwo zwischen zwei Dritteln und drei Vierteln auf einer Million Token. Reiner Faktenabruf funktioniert inzwischen sehr zuverlässig, das Verknüpfen vieler verstreuter Stellen noch nicht.
Interessant ist, dass der Effekt schon am Verschwinden sein könnte. Eine Untersuchung von Google-Forscher Max McKinnon aus dem November 2025 zeigt, dass Gemini 2.5 Flash einfache Faktenfragen unabhängig von der Position im Text zuverlässig beantwortet, selbst nahe an der Kontextgrenze. Bei einfachem Nachschlagen ist »Lost in the Middle« für dieses Modell also kaum noch nachweisbar. Bei komplexeren Aufgaben, die mehrere Stellen verknüpfen, bleibt die Schwäche bestehen. Man sollte sich also nicht darauf verlassen, dass die Mitte zuverlässig gelesen wird.
Bei Bildern sieht es ohnehin anders aus. Wer eine PDF mit vielen Grafiken, Tabellen oder Diagrammen hochlädt, muss damit rechnen, dass die KI visuelle Informationen merklich schlechter verarbeitet als Text. In Benchmarks wie dem MultiModal Needle-Test sinkt die Genauigkeit bei komplexen Bildstrukturen teils auf unter 30 Prozent. Die KI übersieht Beschriftungen, verwechselt Daten aus Diagrammen oder ignoriert Abbildungen komplett. Reiner Text bleibt vorerst das zuverlässigere Format.
Was kostet das?
Für die meisten Nutzer von ChatGPT, Claude oder Gemini sind die Kosten im Abo-Preis enthalten. Wer aber über die Schnittstelle arbeitet, also als Entwickler oder für automatisierte Prozesse, zahlt pro Token. Und da wird es bei großen Kontexten schnell teuer.
Die Preisunterschiede zwischen den Anbietern sind groß. Eine Anfrage mit 200.000 Token Kontext kann bei einem Premiummodell wie Claude Opus mehrere Dollar kosten. Bei günstigeren Modellen wie DeepSeek ist dieselbe Menge für einen Bruchteil zu haben. Faktor 20 bis 50 zwischen den Extremen, je nach Anbieter und Modellklasse. Die Preise ändern sich allerdings laufend, meist nach unten. Wer die Rechnung im Blick behalten will, findet in unserem Beitrag zum KI-Kosten sparen die wichtigsten Hebel.
Ein zusätzlicher Kostenpunkt lauert dort, wo man ihn nicht vermutet. Manche Modelle bepreisen lange Kontexte gestaffelt. GPT-5.6 etwa verlangt oberhalb von 272.000 Token pro Anfrage den doppelten Input-Preis für die gesamte Anfrage, nicht nur für den überschreitenden Teil. Ein einziges dickes Dokument kann die Anfrage so in eine teurere Klasse heben. Und die neuen Tokenizer mancher Modelle erzeugen für denselben Text mehr Token als früher, was den Effektivpreis zusätzlich anhebt.
Ein wichtiger Hebel dagegen ist das Prompt Caching. Wer denselben Grundkontext für viele Anfragen nutzt, etwa eine Codebasis oder eine juristische Sammlung, zahlt ab der zweiten Anfrage nur noch einen Bruchteil. Bis zu 90 Prozent Ersparnis sind möglich.
Was davon ist für dich relevant?
Wenn du ChatGPT, Claude oder Gemini ganz normal im Chat nutzt, musst du dir über Token-Limits selten Gedanken machen. Die Modelle können heute problemlos ein längeres Dokument, ein PDF oder ein Manuskript verarbeiten. Das ist eine echte Verbesserung gegenüber dem Stand von 2023. Sechs Dinge helfen, das Beste herauszuholen.
Nicht alles auf einmal. Wenn dein Dokument über 100 Seiten hat, arbeite lieber kapitelweise. Die KI liefert bei überschaubaren Abschnitten bessere Ergebnisse als beim Versuch, alles gleichzeitig zu erfassen. Ein Fachbuch geht schneller durch, wenn du es Kapitel für Kapitel fütterst und die Teilergebnisse am Ende zusammensetzt.
Text schlägt Bild. PDFs mit vielen Grafiken, Tabellen oder eingescannten Seiten sind problematisch. Wenn möglich, lieber reinen Text hochladen oder die KI gezielt auf den Textteil hinweisen. Ein eingescanntes Dokument ohne Texterkennung ist für das Modell im Zweifel ein Bild und damit Glückssache.
Wichtiges nach oben oder nach unten. Wenn du der KI ein langes Dokument gibst und eine Frage stellst, stelle die Frage am Anfang oder am Ende, nicht dazwischen. Und wenn ein bestimmter Absatz besonders zählt, benenne ihn ausdrücklich, statt zu hoffen, dass die KI ihn in der Mitte von selbst findet.
Ergebnisse prüfen. Je länger das Dokument, desto höher die Chance, dass die KI Details übersieht oder etwas hinzuerfindet. Bei wichtigen Texten wie Lektorat, Analyse oder Faktenprüfung immer gegenlesen. Eine gute Frageformulierung senkt die Fehlerquote spürbar, ersetzt die Kontrolle aber nicht.
Das richtige Modell wählen. Nicht jedes Modell eignet sich gleich gut für lange Texte. Claude gilt als besonders konsistent bei großen Kontexten. Gemini bietet viel Platz und starke multimodale Fähigkeiten. GPT-5.6 ist ein solider Allrounder mit dem größten Ökosystem.
Kein Stress mit Zahlen. Ob ein Modell 200.000 oder eine Million Token fasst, für den Alltag spielt das kaum eine Rolle. Die Qualität der Verarbeitung zählt mehr als die Kapazität. Ein Modell, das 200.000 Token zuverlässig verarbeitet, ist nützlicher als eines, das bei einer Million den Faden verliert.
Und Datenschutz? Ja, die Server stehen überwiegend in den USA. Wer vertrauliche Dokumente hochlädt, sollte sich das überlegen. Allerdings bieten alle großen Anbieter inzwischen Optionen, bei denen hochgeladene Daten nicht fürs Training verwendet werden. Die reflexhafte DSGVO-Panik, mit der in Deutschland jede KI-Nutzung abgewürgt wird, hilft niemandem weiter. Wer sich informiert, kann verantwortungsvoll arbeiten.
Die riesigen Kontextfenster sind eine echte Errungenschaft, aber keine Magie. Sie machen die KI nicht schlauer; sie geben ihr nur mehr zu lesen. Was sie daraus macht, hängt immer noch davon ab, wie gut die Frage ist. (lk)
