Was ist ein Kontextfenster?

Das Kontextfenster ist das Arbeitsgedächtnis der KI: die Menge an Text, die das Modell gleichzeitig sehen kann, wenn es seine Antwort verfasst. Alles zählt mit: deine Frage, die Dokumente, die du angehängt hast, vorherige Nachrichten im Gespräch und die Anweisungen, die der Dienst hinzugefügt hat.

Das Fenster ist groß, aber nicht unendlich, und was nicht hineinpasst, existiert für das Modell einfach nicht. Deshalb fühlt es sich bei langen Gesprächen manchmal so an, als würde die KI den Anfang "vergessen": Sie tut es nicht aus Nachlässigkeit, der Text hat einfach nicht mehr reingepasst.

Es gibt gute technische Lösungen dafür. EuroWork fasst ältere Teile langer Konversationen laufend zusammen, sodass das Wichtige mitkommt, ohne dass alles wortwörtlich Platz finden muss, und wählt die relevantesten Abschnitte aus großen Dokumenten aus, statt alles zu senden. Du merkst das vor allem daran, dass lange Threads weiterhin funktionieren und dass die Kosten niedrig bleiben: weniger Text rein bedeutet weniger Tokens, für die du bezahlen musst.