Modell-Outputs mit personenbezogenen Daten

Ausführliche Erklärung

Wenn ein KI-System in seiner Ausgabe personenbezogene Daten erzeugt oder reproduziert, liegt eine Verarbeitung im Sinne der DSGVO vor. Dies kann geschehen, wenn das Modell Informationen aus Trainingsdaten memorisiert hat oder wenn Prompts gezielt nach Angaben zu natürlichen Personen fragen. In beiden Fällen muss der Verantwortliche – also das Unternehmen, das das KI-System einsetzt – sicherstellen, dass die Verarbeitung rechtmäßig erfolgt. Die österreichische Datenschutzbehörde (DSB) stellt klar, dass die DSGVO auch beim Einsatz von KI-Systemen parallel zur KI-Verordnung gilt, sobald personenbezogene Daten verarbeitet werden.

Die datenschutzrechtliche Verantwortung knüpft insbesondere am Output an. Während über die Frage, ob ein trainiertes Modell selbst personenbezogene Daten speichert, noch diskutiert wird, besteht Einigkeit darüber, dass personenbezogene Daten in KI-Outputs den vollen Schutzumfang der DSGVO genießen. Das bedeutet: Es muss eine Rechtsgrundlage nach Art. 6 Abs. 1 DSGVO vorliegen, betroffene Personen haben Auskunfts- und unter Umständen Löschrechte, und bei besonderen Kategorien personenbezogener Daten gelten die strengeren Anforderungen des Art. 9 DSGVO.

Unternehmen sollten daher technische und organisatorische Maßnahmen ergreifen, um das Risiko zu minimieren, dass KI-Systeme ungewollt personenbezogene Daten ausgeben. Zu solchen Maßnahmen gehören Output-Filter, die automatisch prüfen, ob eine Antwort Namen, E-Mail-Adressen oder andere identifizierende Merkmale enthält, sowie Schulungen für Anwenderinnen und Anwender, keine Prompts zu formulieren, die gezielt nach Personendaten fragen. Unabhängig davon verlangt Art. 50 Abs. 2 der KI-Verordnung von Anbietern generativer KI-Systeme, synthetisch erzeugte Inhalte maschinenlesbar zu kennzeichnen; diese Pflicht gilt seit 2. August 2026.

Besonders kritisch wird es, wenn Outputs falsche oder veraltete Angaben über Personen enthalten. Hier greifen die Berichtigungspflichten der DSGVO. Technisch ist eine Berichtigung im Modell selbst oft nicht oder nur mit unverhältnismäßigem Aufwand möglich, weshalb Verantwortliche alternative Maßnahmen wie manuelle Nachbearbeitung oder Output-Blockierungen implementieren müssen. Die Verarbeitung ist im Verarbeitungsverzeichnis zu dokumentieren; für Beschwerden ist in Österreich die Datenschutzbehörde zuständig, die Verstöße mit Geldstrafen ahnden kann.