32 · Nutzung & Prompting

Kontextfenster (Context Window)

wie viel Text das Modell gleichzeitig „im Kopf“ hat.

Das Arbeitsgedächtnis des Modells: alles, was es in einem Durchgang gleichzeitig sehen kann. Was nicht hineinpasst, existiert für die Antwort nicht. Große Fenster erlauben ganze Verträge oder Codebasen am Stück — aber Aufmerksamkeit verteilt sich: Was in der Mitte langer Kontexte steht, geht gern verloren. Auswahl bleibt wichtiger als Menge.

Ein Beispiel

Ein Modell mit 200.000 Token Kontext fasst rund 300 Seiten. Also kippt ein Team den kompletten Vertragsordner hinein und fragt nach einer Klausel. Das Ergebnis ist schlechter als erwartet: Was in der Mitte eines sehr langen Kontexts steht, wird messbar schlechter berücksichtigt als das, was am Anfang oder Ende steht. Dieselbe Frage mit den vier tatsächlich relevanten Seiten beantwortet dasselbe Modell zuverlässig — und für ein Fünfzigstel des Preises.

Genauer betrachtet

Alles, was das Modell für eine Antwort berücksichtigt, muss hineinpassen: System-Prompt, Verlauf, angehängte Dokumente und die Antwort selbst. Ist das Fenster voll, fällt der Anfang heraus. Das Modell weist nicht darauf hin.

Warum das zählt

Ein großes Kontextfenster ist eine Möglichkeit, keine Strategie. Es kostet linear mehr Geld, überproportional mehr Rechenzeit und bringt die Qualität nicht mit. Die belastbare Bauweise bleibt: gezielt heraussuchen, was zur Frage gehört, und nur das mitgeben. Das große Fenster ist dann der Puffer für die Fälle, in denen die Auswahl mehr Material braucht als gedacht — nicht die Erlaubnis, auf Auswahl zu verzichten. Wer Anbieterangaben zur Kontextlänge als Qualitätsmerkmal liest, vergleicht die falsche Zahl.

Häufig missverstanden

Ein großes Fenster ersetzt keine Auswahl. In der Mitte langer Kontexte sinkt die Trefferquote messbar, und jedes zusätzliche Token kostet Geld und Zeit.

Nachbarschaft

Verwandte Begriffe

Der Brief.