Eintrittspforte 2 — Anhang III (Hochrisiko-KI-Systeme im EU AI Act)

Ausführliche Erklärung

Der EU AI Act verfolgt einen risikobasierten Ansatz und definiert in Artikel 6 Absatz 2 zwei Wege zur Einstufung als Hochrisiko-KI-System. Die zweite dieser sogenannten Eintrittspforten führt über Anhang III der Verordnung, der unabhängig von der technischen Beschaffenheit des Systems allein anhand des Einsatzzwecks die Hochrisiko-Klassifikation festlegt. Entscheidend ist nicht die verwendete Technologie, sondern der Kontext, in dem die KI Entscheidungen beeinflusst.

Anhang III listet acht Anwendungsbereiche: Biometrie (Fernidentifizierung, Kategorisierung, Emotionserkennung), kritische Infrastruktur (Straßenverkehr, Energie- und Wasserversorgung), Bildung (Zulassung, Bewertung), Beschäftigung und Personalmanagement (Bewerbungsfilterung, Leistungsbewertung, Kündigungsentscheidungen), Zugang zu wesentlichen Diensten (Kreditwürdigkeit, Sozialleistungen, Notfalldienste), Strafverfolgung, Migration und Asyl sowie Rechtspflege. Diese Bereiche wurden bewusst gewählt, da KI-Systeme hier besonders stark in Grundrechte und die Sicherheit natürlicher Personen eingreifen können.

Für KMU sind insbesondere die Bereiche Beschäftigung (Punkt 4) und wesentliche Dienste (Punkt 5) relevant. Ein KI-gestütztes Bewerbermanagement-Tool, das Kandidaten automatisch vorsortiert oder ranked, fällt ebenso unter die Hochrisiko-Anforderungen wie ein System zur Bonitätsprüfung in einer Sparkasse. Die Größe des Unternehmens oder des Tools spielt dabei keine Rolle. Artikel 6 Absatz 3 sieht zwar eine Ausnahme vor, wenn ein System trotz Einsatz in einem der acht Bereiche kein erhebliches Risiko birgt – diese Ausnahme greift jedoch nicht bei Systemen, die ein Profiling natürlicher Personen durchführen.

Die Pflichten für Hochrisiko-Systeme nach Anhang III sollten ursprünglich ab 2. August 2026 greifen. Im Rahmen des Digital Omnibus wurde diese Frist politisch auf den 2. Dezember 2027 verschoben, die formale Verabschiedung wird für Mitte 2026 erwartet. Unternehmen, die betroffene Systeme einsetzen, müssen umfangreiche Anforderungen erfüllen: Risikomanagementsystem, Datenverwaltung mit Bias-Prüfung, technische Dokumentation, Protokollierung, Transparenz, menschliche Aufsicht sowie Genauigkeit und Robustheit. Verstöße können mit Bußgeldern bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden.