Human-in-the-Loop

Human-in-the-Loop beschreibt ein Betriebsprinzip für KI-gestützte Abläufe: Eine Person bleibt fester Bestandteil des Prozesses und prüft, korrigiert oder gibt eine KI-Ausgabe frei, bevor sie wirksam wird – etwa bevor eine E-Mail verschickt, eine Rechnung gebucht oder eine Bewerbung aussortiert wird. Vergleichbar ist das mit der Zweitunterschrift bei einer Überweisung: Die Vorarbeit erledigt die Maschine, die Freigabe bleibt bei einer Person.

In der Praxis unterscheiden sich mehrere Kontrollstufen. Beim Human-in-the-Loop gibt eine Person kritische Schritte vor der Ausführung frei. Beim Human-on-the-Loop überwacht sie den laufenden Betrieb und greift nur bei Auffälligkeiten ein. Beim Human-after-the-Loop erfolgt die Prüfung nachträglich, etwa per Stichprobe oder Audit. Je autonomer ein KI-Agent agiert, desto wichtiger wird die Wahl der passenden Stufe.

Für Hochrisiko-KI-Systeme ist menschliche Aufsicht keine Option, sondern Pflicht: Artikel 14 der EU-KI-Verordnung verlangt, dass solche Systeme so gestaltet sind, dass sie während der Nutzung von Menschen wirksam beaufsichtigt werden können. Die Hochrisiko-Pflichten treten nach Artikel 113 gestaffelt in Kraft, nicht bereits zum allgemeinen Anwendungsbeginn der Verordnung. Bei Systemen zur biometrischen Fernidentifizierung sieht die Verordnung zusätzlich vor, dass ein Ergebnis erst wirksam wird, nachdem mindestens zwei Personen es unabhängig voneinander überprüft und bestätigt haben.

Menschliche Aufsicht wirkt nur, wenn sie tatsächlich ausgeübt wird. Artikel 14 der EU-KI-Verordnung benennt dieses Risiko ausdrücklich als „Automatisierungsbias“ – die Neigung, Ausgaben eines Hochrisiko-KI-Systems automatisch oder übermäßig zu vertrauen – und verlangt, dass Aufsichtspersonen sich dieser Tendenz bewusst bleiben.

Human-in-the-Loop senkt das Risiko von Fehlentscheidungen, die ein KI-System unbemerkt automatisch ausführen würde – etwa eine falsch kategorisierte Rechnung, eine fehlerhafte Vertragsklausel oder eine verzerrte Vorauswahl im Bewerbungsprozess. Die Schlussprüfung bleibt bei einer Person mit Fachwissen, während repetitive Vorarbeit entfällt.

Zeitersparnis entsteht vor allem bei der Vorbereitung – Sichten, Sortieren, Vorschläge formulieren –, nicht bei der gesamten Bearbeitung. Die Kontrolle selbst braucht weiterhin Zeit, fällt aber kürzer aus als eine komplette manuelle Bearbeitung. Gleichzeitig sinkt das Haftungsrisiko, weil nachvollziehbar bleibt, wer eine Entscheidung zuletzt verantwortet hat.

Die Kosten für Human-in-the-Loop-Workflows hängen davon ab, wie viele Kontrollpunkte ein Prozess braucht und wie tief sie in bestehende Software eingebunden werden. Einfache Freigabeschritte – etwa eine Bestätigung per Klick vor dem Versand einer KI-generierten E-Mail – lassen sich oft mit geringem Aufwand einbauen. Aufwendiger wird es, wenn mehrere Rollen, Protokollierung und Eskalationswege definiert werden müssen, etwa bei Hochrisiko-Anwendungen nach der EU-KI-Verordnung. Ein individuell eingerichtetes KI-System mit eingebauten Freigabeschritten ist bei AI READY zum Festpreis ab 3.500 Euro verfügbar; der tatsächliche Preis richtet sich nach Anzahl der Kontrollpunkte, Schnittstellen und Dokumentationsaufwand.

Ein Personaldienstleister mit 35 Mitarbeitenden nutzt ein KI-System zur Vorsortierung eingehender Bewerbungen. Das System ordnet Unterlagen nach Qualifikation und erstellt Kurzprofile, trifft aber keine Absage- oder Zusageentscheidung. Jede Vorauswahl geht an eine Recruiterin, die die Einschätzung prüft, bei Unklarheiten den Lebenslauf selbst liest und erst dann freigibt. Die KI übernimmt die Sichtung großer Mengen, die eigentliche Personalentscheidung bleibt beim Menschen – inklusive Dokumentation, warum eine Bewerbung weiterverfolgt oder aussortiert wurde.