Kritische Prüfpflicht
Die kritische Prüfpflicht bezeichnet die Sorgfaltspflicht von Unternehmen – abgeleitet aus Haftungsrisiken und den Transparenzpflichten des Art. 50 EU AI Act –, KI-generierte Inhalte vor deren Veröffentlichung durch fachkundige Mitarbeitende prüfen zu lassen. Sie dient der Qualitätssicherung, Haftungsvermeidung und Erfüllung von Transparenzpflichten.
Ausführliche Erklärung
Die kritische Prüfpflicht ist eine zentrale Sorgfaltspflicht beim Einsatz von KI-Systemen im Unternehmenskontext. Sie bedeutet in der Praxis, dass KI-generierte Texte, Bilder, Videos oder andere Inhalte nicht automatisiert veröffentlicht werden, sondern zuvor von einer sachkundigen Person geprüft und freigegeben werden müssen. Diese Pflicht ergibt sich aus mehreren rechtlichen Grundlagen: der allgemeinen unternehmerischen Sorgfaltspflicht, den Anforderungen der DSGVO bei Verarbeitung personenbezogener Daten sowie den Transparenzpflichten der EU-KI-Verordnung.
Im Kontext der KI-Verordnung ist die menschliche Prüfung besonders relevant. Wird ein KI-generierter Text zu Themen von öffentlichem Interesse ohne menschliche Prüfung veröffentlicht, greift ab August 2026 eine Kennzeichnungspflicht. Wird der Inhalt jedoch von einem Menschen geprüft und verantwortet, kann auf diese Kennzeichnung verzichtet werden. Die Prüfpflicht erfüllt damit eine doppelte Funktion: Sie sichert die inhaltliche Qualität und kann gleichzeitig rechtliche Auflagen reduzieren.
Für KMU bedeutet dies, klare interne Prozesse zu etablieren: Wer darf KI einsetzen, wer prüft die Ergebnisse, und wie wird die Prüfung dokumentiert? Ohne Nachweis der menschlichen Kontrolle haftet das Unternehmen bei Fehlern vollumfänglich. Die Verantwortung liegt dabei nicht beim KI-System, sondern stets beim Unternehmen als Betreiber. Eine dokumentierte Prüfung durch geschulte Mitarbeitende ist daher nicht nur eine rechtliche Anforderung, sondern auch ein Haftungsschutz im Schadensfall.
Praxisbeispiel
Ein Steuerberatungsbüro mit 12 Mitarbeitenden nutzt ChatGPT, um Mandanten-Newsletter zu Steueränderungen zu erstellen. Die Geschäftsführung legt fest, dass alle KI-generierten Texte vor dem Versand durch einen Steuerberater geprüft werden müssen. Die Prüfung umfasst fachliche Richtigkeit, Aktualität der Rechtsgrundlagen und Vollständigkeit. Jede Freigabe wird im internen Dokumentationssystem vermerkt. So kann das Büro bei Rückfragen nachweisen, dass eine sachkundige Person die Verantwortung übernommen hat.