Grundbegriffe
KI-Halluzination
Eine KI-Halluzination ist eine Ausgabe eines KI-Sprachmodells, die überzeugend klingt, aber falsch oder erfunden ist — etwa ein ausgedachtes Urteil oder eine falsche Produktangabe. Für Betriebe ist sie der Hauptgrund, KI-Ausgaben mit Außenwirkung immer prüfen zu lassen.
Das Wichtigste in Kürze
- Halluzinationen sind kein Defekt einzelner Tools, sondern eine Grundeigenschaft von Sprachmodellen
- Gefährlich, weil falsche Antworten genauso souverän formuliert sind wie richtige
- Wirksame Gegenmittel: Quellen-Pflicht (RAG), menschliche Prüfung an kritischen Stellen, klare Einsatzgrenzen
Was ist das?
Ein Sprachmodell beantwortet Fragen nicht durch Nachschlagen, sondern durch Fortsetzen: Es berechnet, welche Wörter am wahrscheinlichsten auf eure Eingabe folgen — auf Basis der Muster aus seinem Training. Meistens deckt sich das mit der Wahrheit. Wo dem Modell Wissen fehlt, produziert derselbe Mechanismus aber flüssige, plausibel klingende Erfindungen: erfundene Paragraphen, ausgedachte Studien, falsche Zahlen.
Das Tückische ist der Ton: Halluzinierte Antworten kommen mit derselben Selbstsicherheit daher wie korrekte. Wer KI-Ausgaben ungeprüft in Angebote, Verträge oder Kundenkommunikation übernimmt, macht sich diese Schwäche zu eigen — die Fehlerverantwortung bleibt beim Betrieb, nicht beim Tool.
Halluzinationen lassen sich nicht abschalten, aber wirksam eindämmen: Systeme, die aus geprüften Dokumenten antworten und Quellen nennen (RAG), reduzieren die Rate deutlich; klare Regeln, wofür KI-Ausgaben ungeprüft verwendet werden dürfen und wofür nie, fangen den Rest ab.
Was bringt das eurem Betrieb?
Wer Halluzinationen versteht, kann KI entspannt und trotzdem sicher einsetzen — das ist die eigentliche Kompetenz. Die Faustregel für euer Team: KI-Ausgaben sind Entwürfe, keine Auskünfte. Für Brainstorming, Rohtexte und Zusammenfassungen ist das Risiko gering; bei Zahlen, Rechtsaussagen und allem, was den Betrieb nach außen vertritt, gilt Vier-Augen-Prinzip — eines davon menschlich. Diese eine Regel verhindert die teuersten KI-Fehler und gehört in jede KI-Richtlinie.
Was kostet das?
Das Eindämmen kostet vor allem Klarheit, kaum Geld: eine Team-Schulung, die den Mechanismus einmal begreifbar macht (Bestandteil unseres Workshops), eine Prüf-Regel für kritische Ausgaben, und für wissensintensive Anwendungsfälle ein RAG-System mit Quellenangabe statt eines frei antwortenden Chatbots. Teuer wird es umgekehrt ohne diese Bausteine — ein einziger halluzinierter Preis in einem verbindlichen Angebot kann den Schaden eines ganzen Projekts übersteigen.
Beispiel aus dem Mittelstand
Ein Elektrogroßhandel mit 35 Mitarbeitenden ließ Produktanfragen testweise von einem frei antwortenden Chatbot beantworten — der bei Lücken im Katalog kurzerhand Lieferzeiten erfand. Die Lösung war kein Verzicht, sondern Umbau: Der Bot antwortet seit dem Umstieg auf ein RAG-System nur noch aus dem echten Katalog, nennt die Quelle und übergibt bei fehlenden Daten an einen Menschen statt zu raten.
Häufige Fragen
Warum erfinden KI-Modelle Fakten?
Weil sie Sprache vervollständigen statt Wissen nachzuschlagen: Das Modell wählt die statistisch wahrscheinlichste Fortsetzung eurer Eingabe. Fehlt echtes Wissen, erzeugt derselbe Mechanismus eine plausible Erfindung — ohne dass das Modell „merkt", dass es rät.
Kann ich Halluzinationen komplett verhindern?
Nein — aber drastisch reduzieren: Systeme mit Dokumenten-Anbindung und Quellenangabe (RAG), Anweisungen wie „antworte nur aus den bereitgestellten Unterlagen" und menschliche Freigabe an kritischen Stellen bringen das Risiko auf ein beherrschbares Maß.
Wer haftet, wenn die KI einen Fehler macht?
Im Außenverhältnis euer Unternehmen — ihr könnt euch gegenüber Kunden nicht auf das Tool berufen. Genau deshalb gehören Prüfprozesse für KI-Ausgaben mit Außenwirkung in jede KI-Richtlinie. Haftungsdetails im Einzelfall sind Sache eurer Rechtsberatung.
Quellen
Verwandte Begriffe
Ihr wollt herausfinden, wo das in eurem Betrieb Wirkung entfaltet?
AI Use Case Workshop ansehen