technische Dokumentation
Die technische Dokumentation ist ein verpflichtender Nachweis für Anbieter von Hochrisiko-KI-Systemen, der vor dem Inverkehrbringen erstellt werden muss. Sie belegt gemäß Artikel 11 und Anhang IV des EU AI Act die Einhaltung aller Anforderungen und ermöglicht Behörden die Konformitätsprüfung.
Ausführliche Erklärung
Die technische Dokumentation stellt das zentrale Compliance-Instrument des EU AI Act für Hochrisiko-KI-Systeme dar. Artikel 11 der Verordnung verpflichtet Anbieter, vor dem Inverkehrbringen oder der Inbetriebnahme eine vollständige, klare und verständliche Dokumentation zu erstellen, die während des gesamten Lebenszyklus des Systems aktuell gehalten werden muss. Sie dient zwei Zielen: erstens dem Nachweis, dass das System die Anforderungen von Kapitel III, Abschnitt 2 der Verordnung erfüllt, und zweitens der Bereitstellung nachvollziehbarer Informationen für nationale Behörden und benannte Stellen zur Bewertung der Konformität.
Anhang IV des EU AI Act definiert neun verbindliche Dokumentationsbereiche. Diese umfassen eine allgemeine Systembeschreibung mit Zweckbestimmung und Architektur, detaillierte Angaben zum Entwicklungsprozess und zu verwendeten Algorithmen, Informationen zu Trainings-, Validierungs- und Testdaten samt Herkunft und Qualitätssicherung, Metriken zur Genauigkeit, Robustheit und Cybersicherheit, Beschreibungen des Risikomanagementsystems und der menschlichen Aufsichtsmechanismen, Validierungs- und Testergebnisse sowie Dokumentation von Änderungen über den Lebenszyklus. Hinzu kommen Angaben zu angewandten harmonisierten Standards und ein Post-Market-Monitoring-Plan. Die Dokumentation ist für zehn Jahre nach Inverkehrbringen aufzubewahren.
Für kleine und mittlere Unternehmen sieht Artikel 11 Absatz 1 ausdrücklich die Möglichkeit vor, die technische Dokumentation in vereinfachter Weise bereitzustellen. Die EU-Kommission soll dazu ein vereinfachtes Formular für Kleinst- und Kleinunternehmen bereitstellen, das von benannten Stellen im Konformitätsbewertungsverfahren akzeptiert werden muss. Diese Erleichterung ändert nichts an den inhaltlichen Anforderungen, ermöglicht jedoch eine pragmatischere Aufbereitung für ressourcenlimitierte Betriebe.
Die technische Dokumentation ist kein einmaliges Dokument, sondern ein lebender Prozess. Bei jeder wesentlichen Änderung am KI-System ist eine Aktualisierung und unter Umständen eine erneute Konformitätsbewertung erforderlich. Marktüberwachungsbehörden können die Dokumentation jederzeit anfordern und haben das Recht, auch Zugang zu Datensätzen und Quellcode zu verlangen. Fehlende oder unvollständige Dokumentation stellt einen eigenständigen Verstoß dar und kann mit Bußgeldern bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden.
Praxisbeispiel
Eine Wiener IT-Beratung mit 45 Mitarbeitenden entwickelt für einen Kunden ein KI-gestütztes System zur automatisierten Vorauswahl von Bewerbungen. Da das System unter Anhang III Nummer 4 des AI Act (Personalverwaltung) fällt, gilt es als Hochrisiko-System. Die Beratung wird zum Anbieter im Sinne der Verordnung und muss vor Auslieferung eine technische Dokumentation nach Anhang IV erstellen. Diese umfasst unter anderem eine Beschreibung des verwendeten Machine-Learning-Modells, Angaben zur Herkunft und Zusammensetzung der Trainingsdaten, Testergebnisse zur Vermeidung diskriminierender Verzerrungen, Metriken zur Genauigkeit sowie eine Dokumentation der vorgesehenen menschlichen Aufsicht. Da es sich um ein KMU handelt, kann die Dokumentation in vereinfachter Form erstellt werden, muss aber alle geforderten Bereiche abdecken und für zehn Jahre aufbewahrt werden.