menschliche Bestätigung
Eine menschliche Bestätigung liegt vor, wenn eine automatisierte oder KI-gestützte Entscheidung vor ihrer Umsetzung von einer Person geprüft und aktiv freigegeben werden muss. Dadurch bleibt die Verantwortung beim Menschen und kritische Fehler werden vor ihrer Wirkung erkannt.
Ausführliche Erklärung
Die menschliche Bestätigung ist ein zentraler Bestandteil des sogenannten Human-in-the-Loop-Ansatzes. Sie stellt sicher, dass KI-Systeme zwar Vorschläge erstellen oder Vorentscheidungen treffen, die finale Entscheidungsgewalt jedoch bei einem Menschen verbleibt. Die KI übernimmt dabei die zeitaufwändige Datenanalyse und Mustererkennung, während der Mensch die Ergebnisse auf Plausibilität prüft, Kontext einbezieht und die ethische sowie rechtliche Vertretbarkeit bewertet. Besonders relevant ist dies bei Entscheidungen mit rechtlichen, finanziellen oder persönlichen Konsequenzen für Dritte.
Im KMU-Kontext wird die menschliche Bestätigung vor allem dort erforderlich, wo Automatisierung auf Hochrisiko-Bereiche trifft: bei Finanztransaktionen über definierten Schwellenwerten, bei der Versendung rechtsverbindlicher Dokumente an externe Empfänger, bei Personalentscheidungen oder bei der Bewertung von Kreditwürdigkeit. Der EU AI Act schreibt für solche Hochrisiko-KI-Systeme menschliche Aufsicht sogar gesetzlich vor und fordert ausdrücklich, dass Personen das System verstehen, übersteuern und im Zweifel gänzlich deaktivieren können.
Die praktische Umsetzung erfordert klare Prozesse: Wer ist für die Bestätigung verantwortlich? Nach welchen Kriterien wird geprüft? Wie wird dokumentiert, dass eine Prüfung tatsächlich stattgefunden hat? Ein bloßes Durchwinken ohne echte Prüfung erfüllt die regulatorischen Anforderungen nicht. Gleichzeitig muss die menschliche Aufsicht realistisch bleiben: Steht zu wenig Zeit zur Verfügung, wird die Prüfung zur Formsache. Eine sinnvolle Implementierung setzt daher voraus, dass Mitarbeitende geschult, mit ausreichend Zeit ausgestattet und durch nachvollziehbare KI-Erklärungen unterstützt werden.
Die menschliche Bestätigung schafft Vertrauen, reduziert Haftungsrisiken und ermöglicht es, auch in kritischen Bereichen von den Effizienzgewinnen der KI zu profitieren – ohne dabei die Kontrolle und Verantwortung abzugeben.
Praxisbeispiel
Eine Steuerberatungskanzlei mit 12 Mitarbeitenden nutzt KI zur automatischen Erstellung von Jahresabschlüssen. Das System analysiert Buchungen, identifiziert Abschreibungen und erstellt Bilanzentwürfe. Bevor ein Abschluss an Mandanten oder Behörden übermittelt wird, muss jedoch eine der drei verantwortlichen Steuerberater:innen das Dokument prüfen, auf Plausibilität kontrollieren und digital freigeben. Erst nach dieser menschlichen Bestätigung wird der Abschluss versendet. Der Prüfschritt wird im System protokolliert und erfüllt damit die Dokumentationspflicht.