KI-Dokumentationspflicht

Aktualisiert: Mai 2026 · Lesezeit: 1 Min.

Die KI-Dokumentationspflicht verpflichtet Anbieter und Betreiber von Hochrisiko-KI-Systemen zur umfassenden technischen Dokumentation. Sie umfasst Systembeschreibung, Daten-Governance, Testverfahren und Leistungskennzahlen und muss vor der Markteinführung vorliegen.

Einschätzung der ComplianceWerkstatt

Dokumentation klingt nach Bürokratie. Ist es auch (teilweise). Aber die Dokumentationspflicht nach AI Act hat einen konkreten Nutzen: Sie zwingt Unternehmen dazu, ihre KI-Systeme zu verstehen. Welche Daten fließen ein? Wie wurden die Modelle trainiert? Welche Leistungskennzahlen gibt es? Viele Betreiber können diese Fragen heute nicht beantworten, weil sie die KI als Black Box vom Anbieter übernommen haben. Meine Empfehlung: Fordern Sie die technische Dokumentation aktiv bei Ihren KI-Anbietern ein. Das ist Ihr gutes Recht als Betreiber, und Anbieter sind verpflichtet, sie bereitzustellen. Wer das frühzeitig klärt, vermeidet böse Überraschungen bei einer Prüfung.

Was muss dokumentiert werden?

Die technische Dokumentation nach Art. 11 und Anhang IV des EU AI Act muss vor der Inbetriebnahme eines Hochrisiko-KI-Systems erstellt werden. Sie richtet sich primär an Anbieter (Provider), hat aber direkte Auswirkungen auf Betreiber: Ohne ausreichende Dokumentation des Anbieters können Betreiber ihre eigenen Pflichten (Einsatz gemäß Gebrauchsanweisung, Monitoring, Incident Reporting) nicht erfüllen.

Für Betreiber gilt zudem eine eigene Aufbewahrungspflicht: Automatisch generierte Protokolle (Logs) von Hochrisiko-KI-Systemen müssen mindestens sechs Monate gespeichert werden.

Dokumentationsumfang (Anhang IV)

  • Allgemeine Beschreibung des KI-Systems und seines Verwendungszwecks
  • Detaillierte Beschreibung der Systemkomponenten und des Entwicklungsprozesses
  • Informationen über Trainingsdaten, Validierungs- und Testdaten (Daten-Governance)
  • Leistungskennzahlen (Genauigkeit, Robustheit, Cybersicherheit)
  • Beschreibung des Risikomanagementsystems
  • Beschreibung der Maßnahmen zur menschlichen Aufsicht
  • Informationen über erwartete Lebensdauer und Wartungsmaßnahmen

Quellen

  • EU AI Act Art. 11 und Anhang IV – Technische Dokumentation(2024)
  • EU AI Act Art. 19 – Aufbewahrung von Protokollen(2024)

Stand: Mai 2026. Dieser Glossar-Eintrag dient der Wissensvermittlung und stellt keine Rechtsberatung dar. Regulatorische Änderungen vorbehalten.

Warenkorb (0)

Ihr Warenkorb ist leer

Zum Shop →