DSGVO & Vertrauen
Betroffenenrechte bei KI
Betroffenenrechte bei KI sind Ansprüche von Personen gegenüber Unternehmen, wenn ihre Daten durch KI verarbeitet oder für automatisierte Entscheidungen genutzt werden – relevant wegen Transparenz- und Eingriffspflichten nach DSGVO und EU AI Act.
Das Wichtigste in Kürze
- Art. 22 DSGVO: Recht, nicht ausschließlich automatisiert entschieden zu werden, wenn rechtliche Wirkung entsteht
- Art. 86 EU AI Act: Recht auf Erläuterung bei Entscheidungen durch Hochrisiko-KI-Systeme nach Anhang III
- Betroffen sind u.a. Auskunft (Art. 15), Löschung (Art. 17), Widerspruch (Art. 21) DSGVO
- Pflicht zu menschlicher Überprüfung (Human Review) bei rein automatisierten KI-Entscheidungen
Was ist das?
Betroffenenrechte bei KI fassen zusammen, welche Ansprüche eine Person hat, wenn ein Unternehmen ihre personenbezogenen Daten mit KI verarbeitet – etwa bei einer automatisierten Bonitätsprüfung oder einer KI-gestützten Bewerbervorauswahl. Kern ist Art. 22 DSGVO: Die betroffene Person hat das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt.
Konkret zählen dazu die Informationspflicht (Art. 13, 14 DSGVO), das Auskunftsrecht (Art. 15), das Recht auf Löschung (Art. 17), das Widerspruchsrecht (Art. 21) und der Schutz vor rein automatisierten Entscheidungen (Art. 22). Wird KI etwa bei Kreditvergabe, automatisierter Vertragsprüfung oder Bewerbervorauswahl eingesetzt und entfaltet die Entscheidung rechtliche Wirkung, ist eine rein automatisierte Verarbeitung ohne menschliche Prüfung unzulässig.
Der EU AI Act ergänzt dies um Art. 86: Personen, die von einer Entscheidung eines Hochrisiko-KI-Systems nach Anhang III betroffen sind und dadurch rechtliche oder ähnlich erhebliche Auswirkungen auf Gesundheit, Sicherheit oder Grundrechte erfahren, haben das Recht auf eine klare und aussagekräftige Erläuterung zur Rolle des KI-Systems und zu den wichtigsten Entscheidungselementen. Vergleichbar mit einem Bankmitarbeiter, der eine Kreditablehnung erklären muss – nur dass hier ein Algorithmus im Hintergrund steht.
Was bringt das im Betrieb?
Für Unternehmen bedeutet das: Überall dort, wo KI über Menschen entscheidet oder mitentscheidet – CV-Screening im Recruiting, automatisierte Preis- oder Bonitätsprüfung, Chatbot-Ablehnungen im Kundenservice – muss eine qualifizierte menschliche Stelle die Entscheidung ergebnisoffen überprüfen können, wenn sie rechtliche Wirkung entfaltet.
Das senkt das Risiko unwirksamer Entscheidungen und Beschwerden bei der Aufsichtsbehörde, weil Betroffene sonst Widerspruch einlegen oder die Entscheidung anfechten können. Für HR- und Vertriebsprozesse heißt das in der Praxis: Human-in-the-Loop fest einplanen, Entscheidungslogik dokumentieren und Betroffene aktiv informieren, statt KI-Ausgaben ungeprüft weiterzureichen.
Was kostet das?
Der Aufwand hängt stark davon ab, wie viele Prozesse personenbezogene Daten für automatisierte Entscheidungen nutzen. Nach unserer Erfahrung braucht die Einrichtung eines Human-Review-Schritts plus kurzer Dokumentation der Entscheidungslogik für einen einzelnen Prozess meist wenige Personentage – deutlich mehr, wenn mehrere Systeme (Recruiting-Tool, Scoring, Chatbot) gleichzeitig betroffen sind.
Eine Möglichkeit, Betroffenenrechte von vornherein zu entschärfen, ist Datenminimierung: Wo Trainings- oder Analysedaten anonymisiert statt personenbezogen verarbeitet werden, greifen viele DSGVO-Pflichten gar nicht erst. Hierfür bietet sich unser Partner anymize (https://anymize.ai/partner/ai-ready) als Werkzeug an. Für ein erstes, auf den Prozess zugeschnittenes KI-System gilt bei AI READY ein Festpreis ab 3.500 €.
Beispiel aus dem Mittelstand
Ein Personaldienstleister mit 35 Mitarbeitenden setzt ein KI-Tool ein, das Bewerbungen vorsortiert und unpassende Profile automatisch ablehnt. Weil die Ablehnung rechtliche Wirkung für Bewerbende hat, greift Art. 22 DSGVO: Die rein automatisierte Entscheidung ohne menschliche Prüfung ist unzulässig. Das Unternehmen ergänzt daher einen Schritt, in dem eine Personalerin jede automatisierte Absage stichprobenartig gegenprüft und Bewerbenden auf Anfrage die wesentlichen Gründe erläutert.
Häufige Fragen
Muss ich bei jeder KI-Entscheidung einen Menschen einschalten?
Nur wenn die Entscheidung ausschließlich automatisiert getroffen wird und rechtliche oder vergleichbar erhebliche Wirkung für die betroffene Person hat (Art. 22 DSGVO). Bleibt ein Mensch tatsächlich in der Entscheidung involviert, greift die Vorschrift nicht.
Was ist der Unterschied zwischen Art. 22 DSGVO und Art. 86 EU AI Act?
Art. 22 DSGVO schützt generell vor rein automatisierten Entscheidungen mit Rechtswirkung, Art. 86 AI Act gibt zusätzlich ein Recht auf Erläuterung speziell bei Hochrisiko-KI-Systemen nach Anhang III. Beide Rechte können parallel greifen, etwa bei einer KI-gestützten Kreditentscheidung.
Gilt das auch für einen einfachen Chatbot im Kundenservice?
Ja, wenn der Chatbot eigenständig Anfragen kategorisiert und abweist und das für den Kunden spürbare Folgen hat. Entscheidend ist nicht die Technik, sondern ob die Entscheidung rechtliche oder ähnlich erhebliche Wirkung entfaltet.
Quellen
Verwandte Begriffe
In der Praxis: Lösungen dazu
E-Mail-Automatisierung mit KI
Posteingangs-Agent
Morgens ist das Postfach sortiert, die Belege liegen in der Buchhaltung, unter jeder Anfrage wartet ein Entwurf.
Zur Lösung →5 h
pro Person und Woche
Meeting-Protokoll mit KI
Meeting-Agent
Nach jedem Meeting liegt das Protokoll mit klaren Aufgaben vor, nichts verschwindet mehr in Notizen.
Zur Lösung →1,25 h
pro Person und Woche
KI im Recruiting
Bewerbungs-Agent
Jede Bewerbung liegt mit Abgleich und begründeter Einschätzung vor, die Entscheidung bleibt beim HR-Team.
Zur Lösung →4 h
pro Person und Woche
Hinweis: Dieser Beitrag informiert allgemein und ersetzt keine Rechtsberatung. Verbindliche Aussagen für den Einzelfall klärt die eigene Rechts- oder Datenschutzberatung.
Ihr wollt wissen, wo ihr steht und welcher KI-Baustein zu euch passt?
Kostenlosen Kurz-Check startenGeprüft von Rocco Busch, Automation Manager. Stand: 13. November 2026.