Kontextfenster

Stellt euch das Kontextfenster wie den Schreibtisch vor, auf dem eine KI gerade arbeitet: Nur was darauf liegt, kann sie lesen und verarbeiten. Passt ein langes Vertragsdokument nicht komplett auf den Tisch, fallen die ältesten Seiten herunter – ihr Inhalt geht für den Rest des Gesprächs verloren. Das Kontextfenster ist also kein Langzeitgedächtnis, sondern der Arbeitsspeicher für die aktuelle Anfrage.

Gemessen wird das Kontextfenster in Token, kleinen Text-Bruchstücken. GPT-4o von OpenAI verarbeitet laut Hersteller-Doku 128.000 Token gleichzeitig, das neuere GPT-4.1 schafft laut derselben Dokumentation bis zu 1 Million Token – herstellerseitig als „1M“-Kontextfenster bezeichnet. Claude 2.1 von Anthropic bot bei seiner Einführung 2023 ein 200.000-Token-Fenster; laut Anthropics eigener Ankündigung war die volle Nutzung dieses Fensters aber den zahlenden Claude-Pro-Nutzern vorbehalten, nicht dem kostenlosen Zugang.

Ein großes Kontextfenster klingt komfortabel, ersetzt aber keine saubere Vorbereitung: Nach unserer Erfahrung sinkt die Treffsicherheit, wenn sehr viel unstrukturierter Text ins Fenster gepresst wird. Für Betriebe lohnt sich deshalb oft, wichtige Informationen gezielt aufzubereiten, statt ganze Aktenordner auf einmal hochzuladen – etwa über ein RAG-System, das nur die relevanten Ausschnitte einreicht.

Ein großes Kontextfenster spart Zeit, wenn ihr lange Dokumente auf einmal einreichen wollt: Ein 50-seitiges Angebot, ein Fragenkatalog oder ein komplettes Protokoll passt bei Modellen mit großem Fenster wie GPT-4.1 in einem einzigen Durchlauf, ohne dass ihr den Text erst händisch in Häppchen zerlegen müsst.

Das senkt vor allem den Vorbereitungsaufwand: Statt Texte manuell zu kürzen oder aufzuteilen, ladet ihr das Dokument komplett hoch, und die KI behält alle Details im Blick – etwa bei der Prüfung von Verträgen oder der Auswertung von Kundenfeedback über mehrere Monate. Das Risiko sinkt, dass wichtige Informationen aus früheren Abschnitten unbemerkt verloren gehen, weil sie aus dem Fenster gefallen sind.

Ein größeres Kontextfenster bedeutet in der Regel: mehr Token pro Anfrage, mehr Rechenaufwand, höhere laufende Kosten bei Modellen, die pro Token abgerechnet werden. Wie stark sich das bei euch auswirkt, hängt vom gewählten Modell und der Textmenge ab, die ihr regelmäßig verarbeiten wollt.

Wer ein komplettes KI-System mit fest eingerichteten Abläufen sucht, bekommt bei uns ein erstes KI-System zum Festpreis ab 3.500 € (AI READY) – die Wahl des passenden Kontextfensters ist dabei Teil der technischen Konzeption, nicht des Preisschilds.

Ein Steuerberatungsbüro mit 25 Mitarbeitenden nutzt eine KI, um Mandantenverträge zu prüfen. Ein einzelner Vertrag samt Anhängen umfasst oft 80 bis 100 Seiten – mehr, als in ein kleines Kontextfenster passt. Mit einem Modell wie GPT-4.1, das laut Hersteller-Doku bis zu 1 Million Token verarbeitet, reicht das Büro den kompletten Vertrag in einem Durchgang ein, statt ihn erst in Abschnitte zu zerlegen. So erkennt die KI Widersprüche zwischen Anhang und Hauptvertrag, die bei häppchenweiser Prüfung leicht übersehen würden.