Kontext-Engineering

Als Kontext wird die Gesamtheit der Informationen bezeichnet, die ein Sprachmodell bei einer Anfrage verarbeitet. Gemeint ist die Menge an Tokens, die beim Abruf einer Antwort aus einem großen Sprachmodell einbezogen wird. Dazu zählen nicht nur die eigentliche Frage, sondern auch Systemanweisungen, mitgelieferte Dokumente, frühere Nachrichten und Daten aus angebundenen Werkzeugen.

Prompt-Engineering und Kontext-Engineering werden häufig verwechselt, meinen aber Unterschiedliches. Prompt-Engineering bezeichnet Methoden zum Formulieren und Organisieren von Anweisungen für optimale Ergebnisse, während Kontext-Engineering die Strategien umfasst, mit denen die optimale Menge an Tokens während der gesamten Modellnutzung zusammengestellt und aktuell gehalten wird – inklusive aller Informationen, die zusätzlich zum eigentlichen Prompt einfließen.

Vergleichbar ist das mit der Einarbeitung einer neuen Mitarbeiterin: Es reicht nicht, eine Aufgabe zu nennen. Relevante Unterlagen, Vorwissen und Werkzeuge müssen in der richtigen Reihenfolge bereitstehen – sonst entstehen Missverständnisse oder falsche Ergebnisse.

Besondere Bedeutung bekommt Kontext-Engineering bei KI-Agenten, die über mehrere Schritte hinweg arbeiten. Gerade bei agentenbasierten KI-Systemen oder mehrstufigen Denkaufgaben ist Kontext-Engineering wichtig, weil das Modell seinen Kontext mehrfach lesen und aktualisieren muss, bevor es eine Ausgabe liefert.

Für mittelständische Unternehmen wirkt sich Kontext-Engineering direkt auf die Qualität von KI-Anwendungen aus: Ein Kundenservice-Chatbot, der nur mit einem allgemeinen Prompt arbeitet, kennt weder aktuelle Produktinformationen noch interne Richtlinien. Erst wenn relevante Dokumente, FAQ-Einträge und Gesprächsverlauf strukturiert eingebunden werden, sinkt das Risiko falscher oder erfundener Antworten spürbar.

In der Praxis bedeutet das weniger Nacharbeit: Statt Prompts immer wieder manuell anzupassen, übernimmt ein gut konzipiertes Kontext-System die Auswahl passender Informationen automatisch – etwa über eine Anbindung an die interne Wissensdatenbank. Das verkürzt Reaktionszeiten im Kundenservice und entlastet Mitarbeitende, die sonst Rückfragen manuell beantworten müssten.

Kontext-Engineering ist keine separate Software, sondern eine Methodik innerhalb der KI-Entwicklung – es entstehen daher keine eigenständigen Lizenzkosten. Der Aufwand hängt vor allem von der Zahl und Komplexität der Datenquellen ab, die eingebunden werden sollen: Ein einzelnes Dokumentenarchiv lässt sich schneller anbinden als mehrere Systeme mit unterschiedlichen Formaten und Zugriffsrechten.

Nach unserer Erfahrung (Faustregel) steigt der Aufwand stärker mit der Zahl der angebundenen Werkzeuge und Datenquellen als mit der reinen Wahl des Sprachmodells. Ein fertiges KI-System mit durchdachtem Kontext-Design bietet AI READY zum Festpreis ab 3.500 € an.

Ein Maschinenbauunternehmen mit 60 Mitarbeitenden führt einen internen Assistenten für den technischen Support ein. Zunächst beantwortet das System Fragen nur auf Basis des allgemeinen Sprachmodells und liefert ungenaue Antworten zu firmenspezifischen Ersatzteilen. Nach Einführung von Kontext-Engineering werden Montageanleitungen, Ersatzteillisten und frühere Supportfälle strukturiert eingebunden, sodass der Assistent die passenden Dokumente automatisch heranzieht. Die Fehlerquote bei Antworten sinkt spürbar, während Technikerinnen und Techniker schneller fundierte Hinweise erhalten.