Kontextfenster
Das Kontextfenster bezeichnet die maximale Textmenge – gemessen in Tokens – die ein Large Language Model (LLM) in einer einzelnen Anfrage gleichzeitig verarbeiten kann. Es umfasst Eingabe, Gesprächsverlauf und Ausgabe.
Ausführliche Erklärung
Das Kontextfenster lässt sich als Arbeitsgedächtnis eines Sprachmodells verstehen. Alles, was in dieses Fenster passt – Ihre Eingabe, angehängte Dokumente, der bisherige Gesprächsverlauf und die entstehende Antwort – kann das Modell einbeziehen. Informationen, die nicht hineinpassen, werden abgeschnitten oder „vergessen". Diese technische Begrenzung ist keine Fehlfunktion, sondern ein fundamentales architektonisches Merkmal von Large Language Models.
Die Größe des Kontextfensters wird in Tokens angegeben, nicht in Wörtern oder Zeichen. Ein Token ist ein Textbaustein – häufig ein Wortteil, manchmal ein ganzes kurzes Wort oder ein Satzzeichen. Als grobe Faustregel entspricht ein Token im Deutschen etwa vier Zeichen, wobei die tatsächliche Anzahl je nach Sprache, Fachvokabular und Modell variiert. Aktuelle kommerzielle Modelle bieten Kontextfenster von rund 128.000 Tokens bis zu über einer Million Tokens – die konkreten Werte ändern sich mit jeder Modellgeneration und sollten beim jeweiligen Anbieter nachgeschlagen werden.
Für KMU ist das Kontextfenster ein entscheidender Faktor bei der Auswahl eines KI-Systems. Je größer das Fenster, desto umfangreichere Dokumente können auf einmal analysiert werden – etwa Verträge, technische Handbücher oder mehrseitige Spezifikationen. Bei langen Chat-Verläufen bestimmt das Kontextfenster, wie viel Vorgeschichte das Modell noch berücksichtigen kann. Ein zu kleines Kontextfenster führt zu Informationsverlust, was die Qualität der Antworten beeinträchtigt und die Wahrscheinlichkeit von Fehlern erhöht.
Das Kontextfenster unterscheidet sich klar vom Training eines Modells. Das Training legt fest, welches allgemeine Wissen ein Modell besitzt – dieser Wissensstand ist dauerhaft. Das Kontextfenster hingegen ist das kurzfristige Arbeitsgedächtnis für die aktuelle Anfrage und wird nach jeder Interaktion neu gefüllt. Konkrete Unternehmensregeln, aktuelle Prozesse oder spezifische Produktdaten müssen zur Laufzeit über das Kontextfenster eingebracht werden, sofern sie nicht durch Fine-Tuning oder Retrieval-Augmented Generation (RAG) bereitgestellt werden.
Praxisbeispiel
Eine österreichische Steuerberatungskanzlei mit 12 Mitarbeitenden nutzt ein KI-System zur Analyse von Jahresabschlüssen. Ein typischer Jahresabschluss mit Anhang umfasst 60 Seiten und etwa 25.000 Wörter, was rund 32.000 Tokens entspricht. Mit einem gängigen Modell mit einem Kontextfenster von 128.000 Tokens passt der gesamte Jahresabschluss samt Eingabeanweisung und Antwort bequem in eine einzige Anfrage. Die KI kann damit übergreifende Zusammenhänge erkennen und konsistente Auswertungen liefern.
Quellen
Diese Definition verlinken
Sie dürfen diese Definition gern zitieren oder verlinken — mit Quellenangabe.
„Kontextfenster“ — Definition im Strukturaflow IT Glossar: https://begriffe.strukturaflow.com/begriff/kontextfenster <a href="https://begriffe.strukturaflow.com/begriff/kontextfenster">Kontextfenster</a> — Definition im Strukturaflow IT Glossar