Personalentscheidungen
Personalentscheidungen bezeichnen im Kontext von KI-Systemen Entscheidungen über Einstellung, Beförderung, Aufgabenzuweisung oder Kündigung, die durch algorithmische Verfahren vorbereitet oder unterstützt werden. Der EU AI Act stuft solche Systeme als Hochrisiko-KI ein.
Ausführliche Erklärung
Künstliche Intelligenz wird zunehmend in Personalabteilungen eingesetzt, um Bewerbungen zu sichten, Kandidatenprofile zu bewerten oder Leistungsbeurteilungen zu unterstützen. KI-Tools analysieren dabei Lebensläufe, erstellen Rankings von Bewerbenden oder prognostizieren, ob eine Person zur Unternehmenskultur passt. Die EU-KI-Verordnung (AI Act) stuft diese Anwendungen grundsätzlich als Hochrisiko-KI-Systeme ein, da sie direkte Auswirkungen auf Grundrechte und berufliche Chancen von Menschen haben können.
Für KMU bedeutet die Hochrisiko-Einstufung konkrete Pflichten: KI-Systeme im Recruiting dürfen keine vollautomatisierten Entscheidungen treffen. Es muss stets eine menschliche Aufsicht gewährleistet sein – das sogenannte Human-in-the-Loop-Prinzip. Bewerbende und Mitarbeitende müssen transparent darüber informiert werden, dass und wie KI eingesetzt wird. Zudem müssen Unternehmen die Entscheidungslogik dokumentieren und sicherstellen, dass die verwendeten Trainingsdaten frei von Diskriminierung sind.
Bestimmte KI-Praktiken sind im Personalbereich seit Februar 2025 komplett verboten: Dazu zählen Emotionserkennung am Arbeitsplatz, biometrische Kategorisierung nach sensiblen Merkmalen sowie Social Scoring auf Basis unverwandter Datenquellen. Parallel zur KI-Verordnung bleibt die DSGVO vollständig gültig und verbietet nach Artikel 22 automatisierte Einzelentscheidungen mit erheblicher Auswirkung.
Die rechtlichen Anforderungen sollen sicherstellen, dass KI im Personalwesen Menschen unterstützt, aber nicht ersetzt. Unternehmen, die KI-gestützte Recruiting- oder HR-Systeme einsetzen möchten, sollten eine Bestandsaufnahme ihrer Tools durchführen, die Risikoeinstufung prüfen, Schulungen für HR-Mitarbeitende anbieten und eine klare Dokumentation der Prozesse etablieren. Bei Verstößen gegen Hochrisiko-Anforderungen drohen Bußgelder bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes.
Praxisbeispiel
Ein 25-Mitarbeiter-Steuerberatungsunternehmen in Linz nutzt ein Bewerbermanagementsystem mit KI-gestütztem CV-Screening. Das System analysiert eingegangene Lebensläufe und erstellt eine Vorschlagsliste mit den fünf besten Kandidatinnen und Kandidaten. Die Geschäftsführung stellt sicher, dass alle Bewerbungen auch manuell vom HR-Verantwortlichen geprüft werden, dokumentiert die Auswahlentscheidungen und informiert Bewerbende in der Datenschutzerklärung über den KI-Einsatz. So wird die menschliche Letztentscheidung gewährleistet und die Anforderungen des EU AI Act erfüllt.