Grundbegriffe

RAG (Retrieval-Augmented Generation)

RAG (Retrieval-Augmented Generation) verbindet ein KI-Sprachmodell mit euren eigenen Dokumenten: Vor jeder Antwort sucht das System die passenden Textstellen aus eurem Wissensbestand heraus und formuliert die Antwort auf dieser Grundlage — mit Quellenangabe, die jede Aussage prüfbar macht.

Das Wichtigste in Kürze

Die KI antwortet aus EUREN Unterlagen (Handbücher, Verträge, Protokolle) — nicht aus ihrem Allgemeinwissen
Antworten werden belegbar: RAG-Systeme zeigen, aus welchem Dokument eine Aussage stammt
Kein Modell-Training nötig: neue Dokumente sind sofort nutzbar, Zugriffsrechte bleiben steuerbar

Was ist das?

Ein Sprachmodell allein kennt euer Unternehmen nicht: Es weiß nichts von eurer Preisliste, euren Wartungsprotokollen oder dem Vertrag mit Kunde X. RAG schließt diese Lücke in zwei Schritten. Erst durchsucht das System euren Wissensbestand nach den Stellen, die zur Frage passen (Retrieval) — dann formuliert das Sprachmodell die Antwort ausschließlich auf Basis dieser Fundstellen (Generation).

Der Unterschied zum bloßen „Dokument hochladen" liegt im Maßstab und in der Kontrolle: Ein RAG-System erschließt tausende Dokumente gleichzeitig, hält sie aktuell (neue Datei = sofort verfügbar, ohne Training) und respektiert Zugriffsrechte — die Lohnbuchhaltung sieht andere Quellen als der Vertrieb. Und weil jede Antwort auf konkrete Fundstellen zeigt, lässt sie sich prüfen, statt geglaubt werden zu müssen.

RAG ist damit das Standard-Muster hinter „Chat mit dem Firmenwissen" — vom Service-Assistenten, der Handbücher kennt, bis zur Angebots-Hilfe, die aus alten Projekten schöpft.

Was bringt das eurem Betrieb?

Der Klassiker im Mittelstand: Wissen steckt in Ordnern, Laufwerken und den Köpfen weniger erfahrener Kollegen — und jede Suche kostet Minuten bis Stunden. Ein RAG-System macht diesen Bestand abfragbar wie einen kundigen Kollegen: „Welche Wartungsintervalle gelten für Anlage 7?", „Was haben wir Kunde Meier 2024 angeboten?" Besonders wertvoll bei Generationswechseln, wenn Erfahrungswissen den Betrieb sonst verlassen würde.

Was kostet das?

Die Preisfrage hängt an drei Faktoren: Wo liegen die Dokumente (ein sauberes DMS ist der einfache Fall, verstreute Laufwerke der aufwendige), wie sensibel sind die Daten (Cloud mit AVV vs. lokal betrieben) und wer soll zugreifen. Ein fokussiertes RAG-System für einen klaren Wissensbereich bauen wir bei AI READY zum Festpreis ab 3.500 €; laufend fallen KI-Nutzungskosten an, die bei typischer Team-Nutzung im zweistelligen bis niedrigen dreistelligen Euro-Bereich pro Monat liegen.

Beispiel aus dem Mittelstand

Ein Anlagenbauer mit 90 Mitarbeitenden hat 20 Jahre Serviceberichte, Handbücher und Schaltpläne im DMS. Ein RAG-Assistent beantwortet Technikern im Außendienst Fragen direkt vom Tablet: „Fehlercode E-42 an Baureihe K — bekannte Ursachen?" Die Antwort nennt die drei passenden Serviceberichte als Quelle. Ersteinsätze wurden messbar kürzer, und das Wissen des Kollegen, der 2027 in Rente geht, bleibt nutzbar.

Häufige Fragen

Was ist der Unterschied zwischen RAG und dem Training einer eigenen KI?

Training verändert das Modell selbst — teuer, langsam, und jedes neue Dokument erfordert einen neuen Durchlauf. RAG lässt das Modell unverändert und gibt ihm zur Laufzeit die passenden Textstellen aus euren Unterlagen mit. Für Firmenwissen ist RAG fast immer der richtige erste Weg.

Halluziniert ein RAG-System nicht mehr?

Deutlich seltener, weil es aus euren Dokumenten antwortet und Quellen nennt — aber nicht null. Gute Systeme sagen „dazu finde ich nichts", statt zu raten, und kritische Antworten bleiben prüfbar, weil die Fundstelle verlinkt ist.

Müssen unsere Dokumente dafür in die Cloud?

Nein. RAG funktioniert auch mit lokal betriebenen Modellen und einer Wissensdatenbank im eigenen Haus — sinnvoll bei sensiblen Beständen. Für weniger kritische Bereiche ist eine EU-Cloud mit Auftragsverarbeitungsvertrag der pragmatische Weg.

Quellen

AWS: Was ist Retrieval-Augmented Generation? ↗