Vier-Augen-Prinzip
Das Vier-Augen-Prinzip bei KI-Systemen bedeutet, dass kritische Entscheidungen oder Ausgaben eines KI-Systems von mindestens einer menschlichen Person geprüft und freigegeben werden müssen, bevor sie wirksam werden.
Ausführliche Erklärung
Das klassische Vier-Augen-Prinzip aus der Organisationslehre wird im KI-Kontext neu interpretiert: Während traditionell zwei unabhängige Personen eine Entscheidung gemeinsam treffen, bedeutet es bei KI-Systemen, dass mindestens ein Mensch die Ausgaben der KI kontrolliert, bevor diese umgesetzt werden. Dieser Ansatz wird auch als Human-in-the-Loop-Prinzip bezeichnet und entwickelt sich zunehmend vom optionalen Sicherheitsfeature zur fundamentalen Compliance-Voraussetzung.
Für KMU ist das Vier-Augen-Prinzip relevant, weil die EU-KI-Verordnung für Hochrisiko-KI-Anwendungen menschliche Aufsicht gesetzlich verpflichtend macht. Hochrisiko-Systeme umfassen etwa Anwendungen in der Personalauswahl, Kreditvergabe, biometrischen Identifikation oder bei der Verarbeitung sensibler personenbezogener Daten. Bei biometrischer Identifikation schreibt die Verordnung sogar ausdrücklich vor, dass mindestens zwei Personen das KI-Ergebnis bestätigen müssen. Die praktische Umsetzung kann von einfachen Freigabe-Workflows über definierte Schwellenwerte bis hin zu stichprobenartigen Kontrollen reichen.
Das Vier-Augen-Prinzip schützt nicht nur vor KI-Fehlern und Halluzinationen, sondern auch vor Compliance-Risiken. Es stellt sicher, dass ein Mensch die Verantwortung für kritische Entscheidungen trägt und diese bei Bedarf korrigieren oder übersteuern kann. Wichtig ist dabei, dass die kontrollierenden Personen kompetent und informiert sind, die KI-Funktionsweise verstehen und technisch in der Lage sind einzugreifen. Ein bloßes Abnicken maschineller Vorschläge erfüllt die regulatorischen Anforderungen nicht.
Die Implementierung sollte risikobasiert erfolgen: Je kritischer eine Entscheidung, desto strenger die menschliche Kontrolle. Mit wachsendem Vertrauen in ein KI-System können Kontrollpunkte gezielt reduziert werden, während bei neuen oder risikobehafteten Anwendungsfällen engmaschigere Prüfungen angebracht sind.
Praxisbeispiel
Eine Wiener Steuerberatungskanzlei mit 12 Mitarbeitenden setzt ein KI-System zur Vorsortierung von Belegen und Vorschlägen für Buchungskategorien ein. Das System schlägt Zuordnungen vor, doch jede Buchung wird vor der Übernahme in die Buchhaltungssoftware von einer fachkundigen Person geprüft und manuell freigegeben. Bei Unsicherheiten oder ungewöhnlichen Beträgen markiert das System die Vorgänge automatisch für eine intensivere Prüfung. So profitiert die Kanzlei von der Zeitersparnis durch KI, während gleichzeitig die fachliche Qualität und rechtliche Absicherung gewährleistet bleiben.
Quellen
Diese Definition verlinken
Sie dürfen diese Definition gern zitieren oder verlinken — mit Quellenangabe.
„Vier-Augen-Prinzip“ — Definition im Strukturaflow IT Glossar: https://begriffe.strukturaflow.com/begriff/vier-augen-prinzip <a href="https://begriffe.strukturaflow.com/begriff/vier-augen-prinzip">Vier-Augen-Prinzip</a> — Definition im Strukturaflow IT Glossar