Kurz beantwortet: KI-Training mit personenbezogenen Daten unterliegt vollständig der DSGVO. Zweckbindung und Datenminimierung (Art. 5 DSGVO) begrenzen die Datenauswahl, das Training braucht eine eigene Rechtsgrundlage, und besondere Kategorien (Art. 9 DSGVO) sind grundsätzlich verboten.
Ein KI-Modell ist nur so gut wie seine Trainingsdaten, und genau da beginnt das Datenschutzproblem. Wer ein Modell mit personenbezogenen Daten trainiert oder feinjustiert, verarbeitet diese Daten im Sinne der DSGVO und muss sich an ihre Grundsätze halten. Das gilt für das eigene Fine-Tuning ebenso wie für die Auswahl von Trainingsdatensätzen. Wer hier nachlässig ist, baut ein Datenschutzrisiko dauerhaft ins Modell ein.
Das Wichtigste in Kürze
- KI-Training mit personenbezogenen Daten ist Datenverarbeitung und unterliegt vollständig der DSGVO.
- Zweckbindung und Datenminimierung nach Art. 5 DSGVO begrenzen, welche Daten ins Training dürfen.
- Das Training braucht eine eigene Rechtsgrundlage nach Art. 6 DSGVO; die Rechtsgrundlage der Ersterhebung deckt es nicht automatisch mit ab.
- Besondere Kategorien personenbezogener Daten unterliegen dem grundsätzlichen Verarbeitungsverbot des Art. 9 DSGVO.
Gelten die Grundsätze des Art. 5 DSGVO auch beim Training?
Training ist Datenverarbeitung und unterliegt damit den Grundsätzen des Art. 5 DSGVO. Zwei davon sind besonders relevant. Die Zweckbindung (Art. 5 Abs. 1 lit. b DSGVO): Daten, die für einen bestimmten Zweck erhoben wurden, etwa Kundendaten zur Vertragsabwicklung, dürfen nicht ohne Weiteres für das KI-Training weiterverwendet werden; das ist eine Weiterverarbeitung, deren Vereinbarkeit mit dem ursprünglichen Zweck zu prüfen ist. Und die Datenminimierung (Art. 5 Abs. 1 lit. c DSGVO): Es dürfen nur die für den Trainingszweck notwendigen Daten verwendet werden, nicht alles, was verfügbar ist. Hinzu kommt die Rechenschaftspflicht (Art. 5 Abs. 2 DSGVO), Sie müssen die Einhaltung nachweisen können.
Braucht das Training eine eigene Rechtsgrundlage?
Jede Verarbeitung braucht eine Rechtsgrundlage nach Art. 6 DSGVO. Für das KI-Training kommt selten die Einwilligung in Betracht, weil zu viele Betroffene beteiligt sind, häufiger das berechtigte Interesse (Art. 6 Abs. 1 lit. f DSGVO), dann aber nur nach dokumentierter Abwägung, die die Erwartungen der Betroffenen berücksichtigt. Die Rechtsgrundlage für die ursprüngliche Erhebung deckt das spätere Training gerade nicht automatisch mit ab.
Was gilt für besondere Kategorien personenbezogener Daten?
Enthält der Trainingsdatensatz besondere Kategorien personenbezogener Daten, Gesundheitsdaten, biometrische Daten, Angaben zu Herkunft, Religion oder sexueller Orientierung, greift das grundsätzliche Verarbeitungsverbot des Art. 9 Abs. 1 DSGVO. Eine Verarbeitung ist dann nur zulässig, wenn eine der engen Ausnahmen des Art. 9 Abs. 2 DSGVO vorliegt, in der Praxis meist die ausdrückliche Einwilligung. Besonders tückisch ist, dass solche Daten sich auch versteckt in vermeintlich harmlosen Datensätzen befinden oder aus ihnen ableitbar sein können.
Was sollten Sie sicherstellen?
| Schritt | Worauf es ankommt |
|---|---|
| Zweck klären | Ist das Training vom ursprünglichen Erhebungszweck gedeckt, oder liegt eine rechtfertigungsbedürftige Weiterverarbeitung vor? |
| Rechtsgrundlage dokumentieren | Bei berechtigtem Interesse die Abwägung schriftlich festhalten. |
| Minimieren und anonymisieren | Wo möglich anonyme oder synthetische Daten nutzen; echte Anonymisierung nimmt die Daten aus dem DSGVO-Anwendungsbereich. |
| Besondere Kategorien identifizieren | Datensätze auf Art.-9-Daten prüfen, bevor sie ins Training gehen. |
| Betroffenenrechte mitdenken | Auskunft und Löschung sind bei trainierten Modellen technisch anspruchsvoll und sollten früh bedacht werden. |
Wer den Datenschutz schon in die Trainingsphase einbaut, vermeidet, dass ein rechtswidriger Datenbestand dauerhaft im Modell fortwirkt. Für den laufenden Einsatz fertig trainierter Tools wie Copilot oder ChatGPT gelten daneben eigene Regeln, dazu der Beitrag Copilot, ChatGPT & Co. im Unternehmen: die Rechtslage.
Häufige Fragen
Darf ich vorhandene Kundendaten für das KI-Training weiterverwenden?
Nicht ohne Weiteres. Daten, die für einen bestimmten Zweck erhoben wurden, dürfen wegen der Zweckbindung nach Art. 5 Abs. 1 lit. b DSGVO nur weiterverwendet werden, wenn die Weiterverarbeitung mit dem ursprünglichen Zweck vereinbar ist.
Welche Rechtsgrundlage trägt das KI-Training?
Jede Verarbeitung braucht eine Rechtsgrundlage nach Art. 6 DSGVO. In Betracht kommt häufig das berechtigte Interesse nach Art. 6 Abs. 1 lit. f DSGVO, jedoch nur nach dokumentierter Abwägung, welche die Erwartungen der Betroffenen berücksichtigt.
Was gilt für Gesundheits- oder biometrische Daten im Trainingsdatensatz?
Für besondere Kategorien greift das grundsätzliche Verarbeitungsverbot des Art. 9 Abs. 1 DSGVO. Zulässig ist die Verarbeitung nur bei einer der engen Ausnahmen des Art. 9 Abs. 2 DSGVO, in der Praxis meist der ausdrücklichen Einwilligung.
Hilft Anonymisierung weiter?
Echte Anonymisierung nimmt die Daten aus dem Anwendungsbereich der DSGVO. Wo möglich sollten daher anonyme oder synthetische Daten genutzt und die Datenmenge auf das für den Trainingszweck Notwendige beschränkt werden.
Quellen & Rechtsgrundlagen
- Art. 5 DSGVO – Grundsätze der Verarbeitung (Zweckbindung, Datenminimierung, Rechenschaftspflicht)
- Art. 6 DSGVO – Rechtmäßigkeit der Verarbeitung, insbesondere berechtigtes Interesse (Art. 6 Abs. 1 lit. f)
- Art. 9 DSGVO – Verarbeitung besonderer Kategorien personenbezogener Daten
Sie trainieren oder fine-tunen KI mit personenbezogenen Daten? In einem 30-minütigen Erstgespräch klären wir Zweck, Rechtsgrundlage und den Umgang mit besonderen Kategorien. Vertiefend zu allen Facetten des betrieblichen KI-Einsatzes: der Leitfaden KI im Unternehmen einsetzen. Fachliche Begleitung im IT-Recht: IT-Recht als Leistung.
