Prompt-Historien

Ausführliche Erklärung

Wenn Sie mit einem KI-Chatbot wie ChatGPT, Claude oder Gemini arbeiten, entsteht mit jeder Anfrage eine Prompt-Historie. Sie umfasst nicht nur die aktuelle Eingabe, sondern die gesamte Abfolge von Fragen und Antworten innerhalb einer Sitzung. Die Historie dient als Arbeitsgedächtnis des Modells: Bei jeder neuen Anfrage wird der bisherige Verlauf in das Kontextfenster geladen, damit das Modell zusammenhängende Antworten liefern kann. Dessen Größe reicht je nach Modell von etwa 128.000 bis zu rund zwei Millionen Token; wie viel Text das ist, hängt von der Sprache ab – für deutsche Texte sind es grob einige hundert bis mehrere tausend Seiten.

Für Unternehmen ist die Verwaltung von Prompt-Historien aus drei Gründen relevant. Erstens beeinflusst die Länge der Historie direkt die Kosten: KI-Anbieter rechnen nach verarbeiteten Token ab, und ein umfangreicher Verlauf verteuert jede weitere Anfrage. Zweitens können gespeicherte Verläufe sensible Geschäftsinformationen enthalten. Wer darauf zugreifen kann, hängt vom Tarif ab: In Enterprise-Tarifen – etwa ChatGPT Enterprise oder Claude Enterprise – können Administratoren über eine Compliance-Schnittstelle auch auf Inhalte zugreifen, während in Team-Tarifen in der Regel nur Metadaten wie Nutzung und Anmeldungen sichtbar sind. Klären Sie diese Frage vor dem Rollout und schreiben Sie das Ergebnis in die interne KI-Richtlinie, statt es den Beschäftigten zu überlassen. Drittens kann eine zu lange Historie die Antwortqualität verschlechtern: Das als „Context Rot“ beschriebene Phänomen besagt, dass Modelle bei überfülltem Kontextfenster relevante Informationen übersehen.

Professionelle Nutzerinnen und Nutzer arbeiten daher strukturiert: Sie speichern bewährte Prompts außerhalb des Chats, legen für getrennte Themen eigene Projekte oder Ordner an und nutzen Komprimierungsfunktionen, bei denen das System frühere Gesprächsabschnitte automatisch zusammenfasst. Viele Plattformen bieten inzwischen persistente Gedächtnisfunktionen, die wichtige Informationen über Sitzungsgrenzen hinweg behalten, ohne den gesamten Verlauf im Kontextfenster zu halten.

Aus österreichischer Rechtsperspektive gilt: Prompt-Historien, die personenbezogene Daten oder Geschäftsgeheimnisse enthalten, unterliegen der DSGVO und können Geheimhaltungspflichten berühren. Unternehmen müssen die Speicherdauer kontrollieren, Löschfristen festlegen und bei cloudbasierten KI-Diensten einen Auftragsverarbeitungsvertrag abschließen. Prüfen Sie zusätzlich, ob und wie lange der Anbieter Eingaben zur Missbrauchserkennung speichert.