KI-Risikoklassen

Der EU AI Act (Verordnung (EU) 2024/1689) ordnet jedes KI-System nach seinem Gefährdungspotenzial einer von vier Risikoklassen zu: unannehmbares Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. Je höher die Klasse, desto umfangreicher die Pflichten – vergleichbar mit Gefahrstoffklassen, bei denen Kennzeichnung und Lagerung mit der Gefährlichkeit steigen. Entscheidend ist dabei nicht die Technologie, sondern der Einsatzzweck: Dieselbe KI kann je nach Anwendung unterschiedlich eingestuft werden.

KI-Systeme mit unannehmbarem Risiko, etwa Social Scoring oder unterschwellige Manipulation, sind seit dem 2. Februar 2025 EU-weit verboten. Hochrisiko-Systeme – etwa zur Bewerbervorauswahl, Kreditvergabe oder in Medizinprodukten – dürfen eingesetzt werden, müssen aber Anforderungen wie Risikomanagement, Dokumentation und menschliche Aufsicht erfüllen. Begrenztes Risiko betrifft Systeme, die mit Menschen interagieren oder Inhalte erzeugen, etwa Chatbots: Hier reicht eine Kennzeichnungspflicht. Minimales Risiko – die größte Gruppe, etwa Spamfilter oder Empfehlungssysteme – bringt keine zusätzlichen Pflichten mit sich.

Die Fristen für Hochrisiko-Pflichten wurden durch den Digital Omnibus (Verordnung (EU) 2026/1744) verschoben: Sie gelten ab 2. Dezember 2027 für Systeme nach Anhang III und ab 2. August 2028 für Systeme nach Anhang I. Verstöße gegen die Verbote können mit Bußgeldern bis 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes geahndet werden.

Die Einordnung in eine Risikoklasse zeigt, wie viel Prüf- und Dokumentationsaufwand ein KI-Tool tatsächlich verursacht – statt pauschal alles als riskant oder unkritisch zu behandeln. Für die meisten im Alltag genutzten Werkzeuge wie Schreibassistenten oder interne Chatbots reicht eine kurze Einstufung und gegebenenfalls ein Hinweis an Nutzende.

Relevanter Zusatzaufwand entsteht nur bei Systemen, die über Zugang zu Arbeit, Kredit oder Gesundheit mitentscheiden. Das senkt das Risiko, entweder unnötig in Compliance-Prozesse zu investieren oder umgekehrt ein tatsächlich hochriskantes System ungeprüft einzuführen. Eine dokumentierte Einstufung – auch wenn das Ergebnis 'kein Hochrisiko' lautet – schützt zudem im Fall einer Prüfung durch Marktaufsichtsbehörden.

Der Aufwand hängt davon ab, wie viele KI-Systeme ein Unternehmen einsetzt und in welche Klasse sie fallen. Eine Ersteinschätzung anhand eines einfachen Entscheidungsbaums – Wofür wird das System eingesetzt? Werden Personen dadurch bewertet oder ausgeschlossen? – lässt sich für die meisten Standardwerkzeuge intern und ohne nennenswerte Kosten durchführen.

Aufwändiger wird es bei Systemen, die in Richtung Hochrisiko tendieren, etwa bei HR- oder Kreditprozessen: Hier kommen Dokumentation, Risikomanagement und gegebenenfalls externe Beratung hinzu, deren Umfang je nach System stark variiert. Eine pauschale Preisangabe wäre hier unseriös. Nach unserer Erfahrung lohnt sich eine strukturierte Erstbewertung aller eingesetzten KI-Tools, bevor einzelne Systeme vertieft geprüft werden.

Ein Maschinenbauer mit 60 Mitarbeitenden setzt einen Chatbot für Kundenanfragen und ein KI-gestütztes Tool zur Vorauswahl von Bewerbungen ein. Der Chatbot fällt unter begrenztes Risiko: Es genügt ein Hinweis, dass Kundinnen und Kunden mit einer KI kommunizieren. Das Bewerbungstool zählt dagegen zu den Hochrisiko-Systemen, weil es über den Zugang zu einer Arbeitsstelle mitentscheidet. Die Personalabteilung muss daher Kriterien und Datenbasis dokumentieren, eine menschliche Prüfung der Vorschläge sicherstellen und die Einstufung schriftlich festhalten – unabhängig davon, ob die vollen Pflichten bereits greifen oder erst ab den gestaffelten Fristen 2027/2028 verbindlich werden.