Menschliche Aufsicht

Ausführliche Erklärung

Die menschliche Aufsicht ist in Artikel 14 der Verordnung (EU) 2024/1689 (AI Act) als verbindliche Anforderung an Hochrisiko-KI-Systeme verankert. Sie soll sicherstellen, dass trotz weitgehender Automatisierung ein Mensch den Betrieb des Systems versteht, überwacht und im Zweifel beendet. Artikel 14 Absatz 4 verlangt dafür ausdrücklich, dass die aufsichtführenden Personen die Fähigkeiten und Grenzen des Systems verstehen, dessen Betrieb beobachten, Anomalien und Fehlfunktionen erkennen, die Ausgabe richtig interpretieren und sie verwerfen, übergehen oder korrigieren können — und dass sie in der Lage sind, den Betrieb über eine Stopp-Funktion zu unterbrechen.

Die Pflichten verteilen sich auf zwei Rollen. Anbieter müssen das System technisch so konzipieren und entwickeln, dass eine wirksame Aufsicht überhaupt möglich ist: durch geeignete Mensch-Maschine-Schnittstellen, durch Angaben zu den Grenzen des Systems in der Betriebsanleitung und durch Eingriffs- und Abschaltmöglichkeiten. Betreiber müssen die Aufsicht nach Artikel 26 Absatz 2 AI Act natürlichen Personen übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen, und diesen die nötige Unterstützung gewähren — in der Praxis also Zuständigkeiten, Zeitbudget und Qualifikation festlegen (siehe auch Schulungspflicht).

Ein zentrales Risiko benennt die Verordnung selbst: den Automatisierungsbias, also die Neigung, Systemausgaben unkritisch zu übernehmen, weil sie technisch erzeugt wurden. Die Aufsichtsmaßnahmen müssen diesem Effekt entgegenwirken. Ein bloßes Abzeichnen von Vorschlägen erfüllt die Anforderung nicht. Umfang und Strenge der Aufsicht müssen dem Risiko, dem Grad der Autonomie und dem Nutzungskontext des Systems angemessen sein; das Risikomanagementsystem nach Artikel 9 liefert dafür die Grundlage.

Eine verschärfte Sonderregel gilt nur für einen engen Bereich: Bei Systemen zur biometrischen Fernidentifizierung nach Anhang III Nummer 1 Buchstabe a darf der Betreiber nach Artikel 14 Absatz 5 keine Maßnahme oder Entscheidung allein auf das Identifizierungsergebnis stützen, solange dieses nicht von mindestens zwei natürlichen Personen mit der nötigen Kompetenz, Ausbildung und Befugnis getrennt überprüft und bestätigt wurde. Für Systeme in den Bereichen Strafverfolgung, Migration, Grenzkontrolle und Asyl kann diese Zwei-Personen-Anforderung nach Unionsrecht oder nationalem Recht entfallen, wenn sie unverhältnismäßig wäre. Außerhalb der biometrischen Fernidentifizierung schreibt der AI Act kein Vier-Augen-Prinzip vor.

Zur Fristenlage: Artikel 14 gehört zu den Hochrisiko-Anforderungen in Kapitel III Abschnitt 2. Diese gelten nach der Digital-Omnibus-Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026, für eigenständige Systeme nach Anhang III erst ab 2. Dezember 2027 und für in regulierte Produkte eingebettete Systeme nach Anhang I ab 2. August 2028. Nicht verschoben wurden die Verbote nach Artikel 5, die seit 2. Februar 2025 gelten, und die Transparenzpflichten nach Artikel 50, die seit 2. August 2026 gelten. Die in Österreich für den AI Act zuständige Marktüberwachungsbehörde war mit Stand Oktober 2026 noch nicht benannt; die Pflichten selbst gelten dennoch unmittelbar, weil es sich um eine EU-Verordnung handelt.

Die menschliche Aufsicht ist der Rechtsbegriff — die betrieblichen Umsetzungsmuster dazu sind im Glossar eigene Einträge: menschliche Bestätigung, Vier-Augen-Prinzip, Human-in-the-Loop für irreversible Aktionen und Least Agency. Wer die Aufsicht nicht wirksam organisiert, riskiert Geldbußen; der Rahmen dafür steht unter Sanktionen im EU AI Act.