Verbotene KI-Praktiken (Art. 5)

Artikel 5 der Verordnung (EU) 2024/1689 bildet Kapitel II der EU-KI-Verordnung. Die KI-Verordnung listet laut Bundesnetzagentur insgesamt acht verbotene Praktiken in Artikel 5 Absatz 1 – sie gelten EU-weit seit dem 2. Februar 2025, ohne Ausnahme oder Übergangsfrist. Anders als bei Hochrisiko-Systemen macht keine Dokumentation oder Konformitätsbewertung ein verbotenes System nachträglich zulässig: Es muss eingestellt oder so umgebaut werden, dass es außerhalb des Verbots liegt.

Für den Mittelstand sind vor allem vier der acht Praktiken relevant: manipulative oder täuschende Systeme, die Menschen zu Entscheidungen gegen ihre eigenen Interessen verleiten; das gezielte Ausnutzen von Schwächen bestimmter Gruppen, etwa Alter, Behinderung oder wirtschaftliche Notlage; Social Scoring, also die Bewertung von Personen anhand sachfremder Merkmale mit benachteiligenden Folgen; sowie Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen außerhalb enger medizinischer oder sicherheitsbezogener Ausnahmen.

Die übrigen vier Verbote betreffen vor allem Strafverfolgung und öffentliche Überwachung: vorhersagende Polizeiarbeit allein auf Basis von Profiling, ungezieltes Scraping von Gesichtsbildern zum Aufbau von Datenbanken, biometrische Kategorisierung sensibler Merkmale sowie biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum. Die Anwendung von Art. 5 erfordert laut Bundesnetzagentur stets eine individuelle Prüfung des Einzelfalls; die Voraussetzungen eines Verbots müssen dabei kumulativ erfüllt sein, bevor ein System tatsächlich darunterfällt.

Die Kenntnis von Art. 5 schützt vor einem konkreten operativen Risiko: Viele am Markt verkaufte HR- und Vertriebstools enthalten Funktionen, die unter ein Verbot fallen können – etwa Video-Interview-Software mit Emotionsanalyse oder Chatbot-Flows, die Kaufentscheidungen gezielt verzerren. Wer solche Features ungeprüft übernimmt, haftet als Betreiber mit, auch wenn der Hersteller das System entwickelt hat.

Der praktische Nutzen liegt in einer frühen Einordnung bei der Tool-Auswahl: Eine kurze Prüfung geplanter oder bereits genutzter KI-Systeme gegen die acht Fallgruppen verhindert, dass ein Projekt später gestoppt oder umgebaut werden muss. Das senkt vor allem das Risiko ungeplanter Nacharbeit und rechtlicher Auseinandersetzungen mit Lieferanten oder Beschäftigtenvertretungen.

Konkrete Marktpreise für eine Art.-5-Prüfung lassen sich pauschal nicht beziffern, da der Aufwand stark davon abhängt, wie viele KI-Tools im Unternehmen bereits im Einsatz sind und wie klar deren Funktionsumfang dokumentiert ist. Nach unserer Erfahrung reicht bei den meisten KMU eine strukturierte Bestandsaufnahme der eingesetzten Systeme aus, um Grenzfälle zu identifizieren – aufwendiger wird es nur bei Systemen mit Emotions- oder Verhaltensanalyse, die eine vertiefte rechtliche Einschätzung erfordern.

Ein strukturierter KI-Check ordnet vorhandene oder geplante Systeme den Risikoklassen zu und zeigt, ob eine Praxis in die Nähe eines Verbots nach Art. 5 rückt – bevor daraus ein Bußgeldrisiko wird.

Ein Personaldienstleister mit 60 Mitarbeitenden nutzt ein Video-Interview-Tool, das Bewerbende per KI anhand von Mimik und Tonfall emotional bewertet. Dieses Feature fällt unter das Verbot der Emotionserkennung am Arbeitsplatz nach Art. 5 Abs. 1 und muss deaktiviert werden, bevor das Tool weiter eingesetzt wird. Das Unternehmen klärt dies mit dem Softwareanbieter und ersetzt die automatische Bewertung durch eine strukturierte, von Menschen geführte Interviewauswertung.