Hochrisiko-KI: Ist mein System betroffen? Der Anhang-III-Check

Kurz beantwortet: Ihr KI-System gilt als hochriskant, wenn es entweder als Sicherheitsbauteil eines Produkts eingesetzt wird, das ohnehin einer Konformitätsbewertung durch Dritte unterliegt, oder wenn sein Einsatzzweck in einen der acht besonders regulierten Anwendungsbereiche fällt, zu denen für Softwareunternehmen vor allem KI im Personalwesen und in der Kreditwürdigkeitsprüfung gehört. Selbst bei einem solchen Bezug kann die Einstufung entfallen, sofern das System nur eine eng begrenzte oder rein vorbereitende Aufgabe erfüllt, was Sie dann allerdings vor dem Einsatz dokumentieren müssen.

Die strengsten Pflichten des EU AI Act treffen Hochrisiko-KI-Systeme. Bevor Sie über Risikomanagement, Dokumentation und menschliche Aufsicht nachdenken, steht deshalb eine Frage: Ist mein System überhaupt betroffen? Die Verordnung (EU) 2024/1689 beantwortet sie in zwei Stufen.

Der Prüfpfad in fünf Schritten

Ob ein System hochriskant ist, lässt sich anhand der folgenden Schritte grob einordnen. Sie ersetzen keine rechtliche Prüfung im Einzelfall, geben aber eine erste, belastbare Richtung vor.

1. Rolle klären: Sind Sie für dieses System Anbieter oder Betreiber? Die Prüfpflichten unterscheiden sich (vertiefend: Anbieter oder Betreiber? Die zwei Rollen im AI Act).
2. Ersten Weg prüfen (Art. 6 Abs. 1 KI-VO): Dient das System als Sicherheitsbauteil eines Produkts, das ohnehin einer Konformitätsbewertung durch Dritte unterliegt, etwa im Maschinen- oder Medizinproduktebereich? Dann ist es hochriskant.
3. Zweiten Weg prüfen (Art. 6 Abs. 2 i. V. m. Anhang III KI-VO): Fällt der Einsatzzweck in einen der acht Anhang-III-Bereiche (siehe unten)? Dann liegt der Verdacht auf Hochrisiko nahe.
4. Ausnahme prüfen (Art. 6 Abs. 3 KI-VO): Erledigt das System nur eine eng gefasste Verfahrensaufgabe, verbessert es lediglich ein menschliches Ergebnis oder übernimmt es eine vorbereitende Aufgabe, ohne Profiling natürlicher Personen vorzunehmen? Dann kann die Einstufung trotz Anhang-III-Bezug entfallen.
5. Bewertung dokumentieren (Art. 6 Abs. 4 KI-VO): Wer sich auf die Ausnahme beruft, muss die Bewertung vor dem Einsatz dokumentieren und auf Verlangen der Behörde vorlegen.

Die Anhang-III-Bereiche, die Unternehmen betreffen

Anhang III listet acht Felder. Für Software- und SaaS-Unternehmen sind vor allem diese relevant:

• Beschäftigung und Personalmanagement (Nr. 4): KI für Einstellung und Auswahl, zum Sichten und Filtern von Bewerbungen, zur Bewertung von Bewerbern sowie für Entscheidungen über Beförderung, Kündigung, Aufgabenzuweisung oder Leistungsbewertung.
• Grundlegende private und öffentliche Dienste (Nr. 5): unter anderem die Kreditwürdigkeits- und Bonitätsprüfung natürlicher Personen sowie die Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen.
• Biometrie (Nr. 1): Fernidentifizierung, biometrische Kategorisierung nach sensiblen Merkmalen und Emotionserkennung.
• Kritische Infrastruktur (Nr. 2): KI als Sicherheitsbauteil in Verkehr, Wasser-, Gas-, Wärme- oder Stromversorgung sowie digitaler Infrastruktur.
• Allgemeine und berufliche Bildung (Nr. 3): Zugang und Zulassung, Bewertung von Lernergebnissen, Prüfungsüberwachung.

Zwei Praxisbeispiele aus der Software-Welt, generisch gehalten: Ein HR-Screening-Tool, das Bewerbungen automatisiert vorsortiert oder Kandidaten bewertet, fällt regelmäßig unter Nr. 4 und ist damit vermutlich hochriskant. Eine Kredit-Scoring-Anwendung, die die Bonität natürlicher Personen bewertet, fällt regelmäßig unter Nr. 5. Beide Beispiele zeigen: Was im Marketing unkritisch ist, kann im Recruiting oder in der Kreditvergabe eine erhebliche Compliance-Frage sein.

Abgrenzung: Hochrisiko, Transparenzpflicht oder minimal?

Nicht jedes KI-System, das mit Menschen zu tun hat, ist hochriskant. Der AI Act kennt drei Kategorien, die häufig verwechselt werden:

• Hochrisiko bedeutet den vollen Pflichtenkreis aus Risikomanagement, Dokumentation, menschlicher Aufsicht und Konformitätsbewertung, ausgelöst durch die zwei Wege aus Art. 6 KI-VO.
• Nur Transparenzpflicht greift bei Systemen, die zwar mit Menschen interagieren oder Inhalte erzeugen, aber keinen Anhang-III-Bezug haben, etwa ein einfacher Support-Chatbot ohne Entscheidungsfunktion (dazu im Detail: Transparenzpflichten im AI Act).
• Minimales Risiko betrifft Systeme ohne besondere Pflichten aus dem AI Act, etwa interne Analyse-Tools ohne Personenbezug.

Was jetzt zählt

Die Einstufung lässt sich heute klären, unabhängig davon, dass die konkreten Hochrisiko-Pflichten gestaffelt in den kommenden Jahren greifen. Die aktuellen Fristen finden Sie in der Fristen-Referenz zum EU AI Act. Wer früh weiß, ob und wo er betroffen ist, gewinnt die Zeit, die Anforderungen ohne Druck aufzubauen. Eine dauerhafte Einordnung statt Einzelprüfung bietet die laufende KI-Compliance-Begleitung.

Häufige Fragen

Woran erkenne ich, ob mein KI-System hochriskant ist?

Maßgeblich sind die zwei Wege des Art. 6 KI-VO. Hochriskant ist ein System, das entweder als Sicherheitsbauteil eines Produkts dient, das ohnehin einer Konformitätsbewertung durch Dritte unterliegt, oder dessen Einsatzzweck in einen der acht in Anhang III genannten Bereiche fällt. Trifft keiner dieser beiden Wege zu, greift der volle Hochrisiko-Pflichtenkreis nicht.

Ist jedes KI-Tool im Personalwesen automatisch hochriskant?

Nein. Zwar erfasst Anhang III Nr. 4 KI im Personalwesen, etwa zum Sichten, Filtern und Bewerten von Bewerbungen sowie für Entscheidungen über Beförderung oder Kündigung. Erfüllt ein System jedoch nur eine eng begrenzte oder rein vorbereitende Aufgabe, ohne Profiling natürlicher Personen, kann die Einstufung nach der Ausnahme des Art. 6 Abs. 3 KI-VO entfallen.

Wann greift die Ausnahme trotz Anhang-III-Bezug?

Die Ausnahme des Art. 6 Abs. 3 KI-VO greift, wenn das System lediglich eine eng gefasste Verfahrensaufgabe erledigt, allein ein menschliches Ergebnis verbessert oder eine vorbereitende Aufgabe übernimmt, jeweils ohne Profiling natürlicher Personen. In diesen Fällen entfällt die Hochrisiko-Einstufung, obwohl der Einsatzzweck grundsätzlich einem Anhang-III-Bereich zuzuordnen ist.

Muss ich die Einstufung dokumentieren?

Wer sich auf die Ausnahme beruft, muss die zugrunde liegende Bewertung nach Art. 6 Abs. 4 KI-VO vor dem Einsatz dokumentieren und der Behörde auf Verlangen vorlegen. Auch ohne Ausnahme empfiehlt sich eine nachvollziehbare Dokumentation der Einordnung, damit Sie Ihre Einschätzung im Zweifel belegen können.

Sie wollen den Prüfpfad für Ihr KI-System konkret durchgehen? In einem 30-minütigen Erstgespräch ordnen wir Ihr System anhand der Kriterien oben ein.

→ Erstgespräch anfragen