Kurz beantwortet: KI im Recruiting gilt als hochriskant (Anhang III Nr. 4 KI-VO), eine rein automatisierte Absage ist grundsätzlich unzulässig (Art. 22 DSGVO), diskriminierende Effekte lösen eine Haftung nach dem AGG aus, und der Mensch muss in der Entscheidung bleiben.
KI im Recruiting verspricht, den Bewerbungsstapel zu bewältigen: Anzeigen ausspielen, Lebensläufe sichten, Kandidaten vorsortieren. Was im Marketing unkritisch ist, wird im Personalbereich jedoch schnell zur Hochrisiko-Frage, weil gleich drei Regelwerke zusammengreifen.
Das Wichtigste in Kürze
- KI-Systeme zur Auswahl oder Einstellung von Personen gelten nach Anhang III Nr. 4 KI-VO als hochriskant und lösen deutlich strengere Pflichten aus.
- Eine rein automatisierte Absage ohne menschliche Beteiligung ist nach Art. 22 DSGVO grundsätzlich unzulässig, weshalb der Mensch in der Entscheidung bleiben muss.
- Führt eine KI zu einer Benachteiligung nach geschützten Merkmalen, haftet das Unternehmen nach dem AGG, weil die Verantwortung beim Arbeitgeber bleibt.
- In der Praxis brauchen Sie menschliche Kontrolle, Transparenz gegenüber Bewerbern, dokumentierte Bias-Kontrolle und, wo vorhanden, die Mitbestimmung des Betriebsrats.
Warum stuft der AI Act Recruiting-KI als hochriskant ein?
Der EU AI Act stuft KI-Systeme, die für die Einstellung oder Auswahl von Personen eingesetzt werden, etwa zum Sichten und Filtern von Bewerbungen oder zur Bewertung von Bewerbern, ausdrücklich als hochriskant ein (Anhang III Nr. 4 KI-VO). Dasselbe gilt für KI, die über Beförderung, Kündigung oder Aufgabenzuweisung mitentscheidet. Hochrisiko bedeutet deutlich strengere Pflichten, von Risikomanagement bis menschlicher Aufsicht.
Darf die KI allein über eine Absage entscheiden?
Datenschutzrechtlich gilt: Bewerber haben das Recht, nicht einer ausschließlich automatisierten Entscheidung unterworfen zu werden, die sie erheblich beeinträchtigt (Art. 22 DSGVO), eine automatische Absage ohne menschliche Beteiligung fällt darunter. Zulässig ist ein solcher Einsatz nur unter engen Voraussetzungen und mit Schutzmaßnahmen, zu denen mindestens das Eingreifen einer Person, die Darlegung des eigenen Standpunkts und die Anfechtung der Entscheidung gehören. In der Praxis muss der Mensch deshalb in der Schleife bleiben.
Wie entsteht das Diskriminierungsrisiko?
KI lernt aus Daten und übernimmt deren Verzerrungen. Ein System, das aus historischen Einstellungsmustern lernt, kann Bewerber mittelbar nach Geschlecht, Alter, Herkunft oder anderen geschützten Merkmalen benachteiligen. Führt das zu einer Benachteiligung, haftet das Unternehmen nach dem Allgemeinen Gleichbehandlungsgesetz, denn die Verantwortung bleibt beim Arbeitgeber, unabhängig davon, dass die KI entschieden hat. Wie die Beweislast dabei zu Ihren Lasten verläuft, ordnet der Beitrag KI und Diskriminierung: das AGG-Risiko vertiefend ein.
Was heißt das für die Praxis?
| Anforderung | Was sie bedeutet |
|---|---|
| Mensch in der Entscheidung | Absagen und Auswahl nie vollständig der KI überlassen. |
| Transparenz | Bewerber über den KI-Einsatz informieren. |
| Bias-Kontrolle | Das System auf diskriminierende Effekte prüfen und dokumentieren. |
| Betriebsrat | Wo vorhanden, ist seine Mitbestimmung zu beachten. Vertiefend: KI und Betriebsrat. |
So nutzen Sie die Effizienz, ohne in die Hochrisiko-Falle zu tappen.
Häufige Fragen
Warum stuft der AI Act KI im Recruiting als hochriskant ein?
Der EU AI Act stuft KI-Systeme, die für die Einstellung oder Auswahl von Personen eingesetzt werden, etwa zum Sichten und Filtern von Bewerbungen, nach Anhang III Nr. 4 KI-VO ausdrücklich als hochriskant ein. Dasselbe gilt für KI, die über Beförderung, Kündigung oder Aufgabenzuweisung mitentscheidet. Hochrisiko bedeutet deutlich strengere Pflichten von Risikomanagement bis menschlicher Aufsicht.
Darf eine KI allein über eine Absage entscheiden?
Grundsätzlich nicht. Bewerber haben nach Art. 22 DSGVO das Recht, nicht einer ausschließlich automatisierten Entscheidung unterworfen zu werden, die sie erheblich beeinträchtigt, worunter eine automatische Absage ohne menschliche Beteiligung fällt. Zulässig ist ein solcher Einsatz nur unter engen Voraussetzungen und mit Schutzmaßnahmen, sodass der Mensch in der Schleife bleiben muss.
Wer haftet, wenn eine Recruiting-KI diskriminiert?
Das Unternehmen. KI übernimmt die Verzerrungen ihrer Trainingsdaten und kann Bewerber mittelbar nach geschützten Merkmalen benachteiligen. Führt das zu einer Benachteiligung, haftet der Arbeitgeber nach dem AGG, unabhängig davon, dass die KI entschieden hat.
Welche Pflichten gelten beim KI-Einsatz im Recruiting?
Der Mensch muss in der Entscheidung bleiben, Auswahl und Absage dürfen nie vollständig der KI überlassen werden. Hinzu kommen Transparenz gegenüber den Bewerbern, eine dokumentierte Kontrolle des Systems auf diskriminierende Effekte und, wo ein Betriebsrat besteht, dessen Mitbestimmung.
Quellen & Rechtsgrundlagen
- Anhang III Nr. 4 KI-VO – Hochrisiko-KI in Beschäftigung und Personalauswahl
- Art. 22 DSGVO – automatisierte Entscheidungen im Einzelfall
- AGG – Allgemeines Gleichbehandlungsgesetz (Benachteiligungsverbot)
Sie setzen KI im Recruiting ein oder planen es? In einem 30-minütigen Erstgespräch klären wir Einstufung, Pflichten und die nötigen Leitplanken. Vertiefend zu allen Facetten des betrieblichen KI-Einsatzes: der Leitfaden KI im Unternehmen einsetzen. Fachliche Begleitung im IT-Recht: IT-Recht als Leistung.
