AI-Act & Pflichten
KI-Dokumentationspflichten
KI-Dokumentationspflichten verpflichten Anbieter von Hochrisiko-KI-Systemen und GPAI-Modellen, Aufbau, Trainingsdaten und Testergebnisse schriftlich festzuhalten. Mittelständler als Nutzer müssen diese Nachweise bei Prüfungen oder Kundenanfragen vorlegen können.
Das Wichtigste in Kürze
- Art. 11 EU AI Act: technische Dokumentation nach Anhang IV – vor Markteinführung erstellt, danach laufend aktuell gehalten
- Anhang IV verlangt mindestens Systembeschreibung, Entwicklungsprozess, Risikomanagement und Testergebnisse
- GPAI-Anbieter (z. B. große Sprachmodelle) müssen seit 2. August 2025 nach Art. 53 Dokumentation nach Anhang XI/XII vorhalten
- KMU dürfen nach Art. 11 Abs. 1 ein vereinfachtes Dokumentationsformular der EU-Kommission nutzen
Was ist das?
Der EU AI Act verlangt von Anbietern bestimmter KI-Systeme einen schriftlichen Nachweis darüber, wie ihr System aufgebaut ist und funktioniert. Für Hochrisiko-KI-Systeme regelt das Art. 11: Die technische Dokumentation muss vor dem Inverkehrbringen erstellt und danach auf dem neuesten Stand gehalten werden – vergleichbar mit der technischen Akte, die ein Maschinenbauer für die CE-Kennzeichnung führt.
Was genau hineingehört, legt Anhang IV fest: eine allgemeine Beschreibung des Systems (Zweck, Version, Benutzerschnittstelle), eine detaillierte Beschreibung von Architektur und Entwicklungsprozess einschließlich der verwendeten Trainings-, Validierungs- und Testdaten sowie Angaben zu Risikomanagement, Testverfahren und Überwachung nach der Markteinführung.
Eine zweite Ebene betrifft KI-Modelle mit allgemeinem Verwendungszweck (GPAI), etwa große Sprachmodelle. Seit dem 2. August 2025 müssen deren Anbieter nach Art. 53 technische Dokumentation (Anhang XI) sowie Informationen für nachgelagerte Anbieter (Anhang XII) bereithalten. Für frei zugängliche Open-Source-Modelle ohne systemisches Risiko entfällt diese Pflicht teilweise.
Für kleinere Unternehmen sieht Art. 11 Abs. 1 eine Erleichterung vor: Sie können die Angaben aus Anhang IV in vereinfachter Form liefern, wofür die EU-Kommission ein eigenes Formular für Klein- und Kleinstunternehmen bereitstellt.
Was bringt das im Betrieb?
Für die meisten mittelständischen Unternehmen entsteht die Dokumentationspflicht nicht selbst, sondern beim Anbieter des KI-Systems oder -Modells. Als Betreiber – etwa beim Einsatz einer KI-gestützten Bewerberauswahl oder eines Qualitätsprüfungssystems – reicht es in der Regel, die vom Anbieter bereitgestellte Dokumentation anzufordern, zu prüfen und aufzubewahren.
Relevant wird die Pflicht direkt, sobald ein Unternehmen ein bestehendes KI-Modell für den eigenen Zweck anpasst oder als eigenes Produkt weitergibt: Wer ein Open-Source-Modell fine-tuned und in ein eigenes Angebot integriert, kann dadurch selbst zum Anbieter werden und muss dann eigene technische Unterlagen führen.
Der praktische Nutzen liegt in der Vorbereitung: Wer die relevanten Unterlagen von Softwareanbietern systematisch einsammelt, kann Kundenanfragen zur Compliance, interne Audits oder eine mögliche Behördenprüfung ohne Zeitdruck beantworten, statt im Ernstfall Dokumente nachträglich zusammenzusuchen.
Was kostet das?
Der Aufwand hängt stark davon ab, welche Rolle ein Unternehmen einnimmt. Als reiner Betreiber eines zugekauften KI-Systems beschränkt sich der Aufwand meist auf das Einholen, Sichten und Ablegen der Anbieter-Dokumentation – nach unserer Erfahrung eine Aufgabe von wenigen Stunden pro System, sofern der Anbieter seine Pflichten erfüllt.
Wird ein Unternehmen selbst zum Anbieter, etwa durch Fine-Tuning eines Modells für ein eigenes Produkt, steigt der Aufwand deutlich: Die Erstellung einer vollständigen technischen Dokumentation nach Anhang IV erfordert strukturierte Angaben zu Architektur, Daten und Tests und bindet typischerweise interne Fachressourcen über mehrere Tage bis Wochen – konkrete Marktpreise lassen sich dafür mangels einheitlicher Angebote nicht seriös beziffern.
Entscheidende Kostentreiber sind die Systemkomplexität, ob bereits Entwicklungsunterlagen vorliegen und ob externe Unterstützung für die rechtssichere Formulierung nötig ist.
Beispiel aus dem Mittelstand
Eine Personalvermittlung mit 35 Mitarbeitenden setzt ein KI-gestütztes Bewerber-Screening-Tool eines externen Softwareanbieters ein. Da automatisierte Bewerberauswahl im EU AI Act als hochriskanter Anwendungsfall gilt, fordert die Geschäftsführung beim Softwareanbieter die technische Dokumentation sowie die Betriebsanleitung an, legt beides im internen Compliance-Ordner ab und dokumentiert zusätzlich, wie das Tool im eigenen Bewerbungsprozess tatsächlich genutzt wird. Damit kann das Unternehmen bei einer Rückfrage von Kunden oder Behörden nachweisen, dass es seiner Sorgfaltspflicht als Betreiber nachgekommen ist.
Häufige Fragen
Müssen auch kleine Unternehmen eine KI-Dokumentation erstellen?
Nur wenn sie selbst Anbieter eines Hochrisiko-KI-Systems oder eines GPAI-Modells sind. Die meisten KMU setzen KI-Systeme lediglich als Betreiber ein und müssen vor allem die Dokumentation des Anbieters anfordern und aufbewahren.
Was muss in der technischen Dokumentation stehen?
Nach Anhang IV mindestens eine Systembeschreibung, Angaben zum Entwicklungsprozess, zu Trainings- und Testdaten, zum Risikomanagement sowie zur Überwachung nach der Markteinführung. Bei GPAI-Modellen kommen nach Anhang XI zusätzlich Angaben zu Rechenressourcen und Trainingsmethodik hinzu.
Ab wann gelten die Dokumentationspflichten?
Für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck gelten die Pflichten aus Art. 53 seit dem 2. August 2025. Für Hochrisiko-KI-Systeme nach Art. 11 richtet sich der genaue Zeitpunkt nach der jeweiligen Risikokategorie des Systems.
Wer muss die Dokumentation führen – Hersteller oder Nutzer des KI-Tools?
In erster Linie der Anbieter, der das System entwickelt oder wesentlich verändert hat. Das nutzende Unternehmen (Betreiber) muss die erhaltenen Informationen aufbewahren und seinen eigenen Einsatz dokumentieren, trägt aber nicht die volle Dokumentationspflicht des Anbieters.
Quellen
Verwandte Begriffe
In der Praxis: Lösungen dazu
Hinweis: Dieser Beitrag informiert allgemein und ersetzt keine Rechtsberatung. Verbindliche Aussagen für den Einzelfall klärt die eigene Rechts- oder Datenschutzberatung.
Ihr wollt wissen, wo ihr steht und welcher KI-Baustein zu euch passt?
Kostenlosen Kurz-Check startenGeprüft von Rocco Busch, Automation Manager. Stand: 13. November 2026.