Hochrisiko-KI: Ist mein System betroffen? Der Anhang-III-Check

Kurz beantwortet: Ihr KI-System gilt als hochriskant, wenn es entweder als Sicherheitsbauteil eines Produkts nach Anhang I eingesetzt wird oder selbst ein solches Produkt ist und das Produkt einer Konformitätsbewertung durch Dritte unterliegt, oder wenn sein Einsatzzweck in einen der acht besonders regulierten Anwendungsbereiche fällt, zu denen für Softwareunternehmen vor allem KI im Personalwesen und in der Kreditwürdigkeitsprüfung gehört. Selbst bei einem solchen Bezug kann die Einstufung entfallen, sofern das System kein erhebliches Risiko birgt, etwa weil es nur eine eng begrenzte oder rein vorbereitende Aufgabe erfüllt; als Anbieter müssen Sie diese Bewertung dann vor dem Inverkehrbringen dokumentieren und das System registrieren. Die Hochrisiko-Pflichten gelten ab dem 2. Dezember 2027 (Anhang III) beziehungsweise ab dem 2. August 2028 (Anhang I).

Die strengsten Pflichten des EU AI Act treffen Hochrisiko-KI-Systeme. Bevor Sie über Risikomanagement, Dokumentation und menschliche Aufsicht nachdenken, steht deshalb eine Frage: Ist mein System überhaupt betroffen? Die Verordnung (EU) 2024/1689 beantwortet sie in zwei Stufen.

Der Prüfpfad in fünf Schritten

Ob ein System hochriskant ist, lässt sich anhand der folgenden Schritte grob einordnen. Sie ersetzen keine rechtliche Prüfung im Einzelfall, geben aber eine erste, belastbare Richtung vor.

1. Rolle klären: Sind Sie für dieses System Anbieter oder Betreiber? Die Prüfpflichten unterscheiden sich (vertiefend: Anbieter oder Betreiber? Die zwei Rollen im AI Act).
2. Ersten Weg prüfen (Art. 6 Abs. 1 KI-VO): Dient das System als Sicherheitsbauteil eines Produkts nach Anhang I oder ist es selbst ein solches Produkt, und muss das Produkt einer Konformitätsbewertung durch Dritte unterzogen werden, etwa im Medizinproduktebereich? Dann ist es hochriskant. Seit dem KI-Omnibus gelten Systeme, die ausschließlich nicht sicherheitsrelevante Aufgaben wie Nutzerunterstützung, Leistungsoptimierung oder Automatisierung übernehmen, nicht als Sicherheitsbauteile; anders ist es, wenn ihr Ausfall Gesundheit und Sicherheit gefährden würde (Art. 6 Abs. 1a, 1b KI-VO). Für KI in Maschinen gilt ein Sonderweg über die Maschinenverordnung (EU) 2023/1230, die jetzt in Anhang I Abschnitt B steht.
3. Zweiten Weg prüfen (Art. 6 Abs. 2 i. V. m. Anhang III KI-VO): Fällt der Einsatzzweck in einen der acht Anhang-III-Bereiche (siehe unten)? Dann liegt der Verdacht auf Hochrisiko nahe.
4. Ausnahme prüfen (Art. 6 Abs. 3 KI-VO): Birgt das System kein erhebliches Risiko, weil es nur eine eng gefasste Verfahrensaufgabe erledigt (lit. a), das Ergebnis einer abgeschlossenen menschlichen Tätigkeit verbessert (lit. b), Entscheidungsmuster oder Abweichungen erkennt, ohne die menschliche Bewertung ohne angemessene Überprüfung zu ersetzen oder zu beeinflussen (lit. c), oder eine vorbereitende Aufgabe für eine Bewertung übernimmt (lit. d)? Dann kann die Einstufung trotz Anhang-III-Bezug entfallen, außer das System nimmt ein Profiling natürlicher Personen vor.
5. Bewertung dokumentieren und registrieren (Art. 6 Abs. 4, Art. 49 Abs. 2 KI-VO): Ein Anbieter, der sich auf die Ausnahme beruft, dokumentiert die Bewertung vor dem Inverkehrbringen oder der Inbetriebnahme, registriert das System in der EU-Datenbank und legt die Dokumentation auf Verlangen der Behörde vor.

Die Anhang-III-Bereiche, die Unternehmen betreffen

Anhang III listet acht Felder. Für Software- und SaaS-Unternehmen sind vor allem diese relevant:

• Beschäftigung und Personalmanagement (Nr. 4): KI für Einstellung und Auswahl, zum Sichten und Filtern von Bewerbungen, zur Bewertung von Bewerbern sowie für Entscheidungen über Beförderung, Kündigung, Aufgabenzuweisung oder Leistungsbewertung.
• Grundlegende private und öffentliche Dienste (Nr. 5): unter anderem die Kreditwürdigkeits- und Bonitätsprüfung natürlicher Personen sowie die Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen.
• Biometrie (Nr. 1): Fernidentifizierung, biometrische Kategorisierung nach sensiblen Merkmalen und Emotionserkennung.
• Kritische Infrastruktur (Nr. 2): KI als Sicherheitsbauteil in Verkehr, Wasser-, Gas-, Wärme- oder Stromversorgung sowie digitaler Infrastruktur.
• Allgemeine und berufliche Bildung (Nr. 3): Zugang und Zulassung, Bewertung von Lernergebnissen, Prüfungsüberwachung.

Zwei Praxisbeispiele aus der Software-Welt, generisch gehalten: Ein HR-Screening-Tool, das Bewerbungen automatisiert vorsortiert oder Kandidaten bewertet, fällt regelmäßig unter Nr. 4 und ist damit vermutlich hochriskant. Eine Kredit-Scoring-Anwendung, die die Bonität natürlicher Personen bewertet, fällt regelmäßig unter Nr. 5. Beide Beispiele zeigen: Was im Marketing unkritisch ist, kann im Recruiting oder in der Kreditvergabe eine erhebliche Compliance-Frage sein.

Abgrenzung: Hochrisiko, Transparenzpflicht oder minimal?

Nicht jedes KI-System, das mit Menschen zu tun hat, ist hochriskant. Der AI Act kennt drei Kategorien, die häufig verwechselt werden:

• Hochrisiko bedeutet den vollen Pflichtenkreis aus Risikomanagement, Dokumentation, menschlicher Aufsicht und Konformitätsbewertung, ausgelöst durch die zwei Wege aus Art. 6 KI-VO.
• Nur Transparenzpflicht greift bei Systemen, die zwar mit Menschen interagieren oder Inhalte erzeugen, aber keinen Anhang-III-Bezug haben, etwa ein einfacher Support-Chatbot ohne Entscheidungsfunktion (dazu im Detail: Transparenzpflichten im AI Act).
• Minimales Risiko betrifft Systeme ohne besondere Pflichten aus dem AI Act, etwa interne Analyse-Tools ohne Personenbezug.

Bei Personalentscheidungen greifen Hochrisiko-Einstufung nach dem AI Act und das datenschutzrechtliche Verbot vollautomatisierter Entscheidungen häufig zusammen, dazu der Beitrag zu automatisierten Entscheidungen nach Art. 22 DSGVO.

Was jetzt zählt

Die Einstufung lässt sich heute klären, auch wenn die konkreten Hochrisiko-Pflichten erst ab dem 2. Dezember 2027 (Anhang III) beziehungsweise dem 2. August 2028 (Anhang I) gelten (Art. 113 Abs. 3 lit. c KI-VO). Die aktuellen Fristen finden Sie in der Fristen-Referenz zum EU AI Act. Wer früh weiß, ob und wo er betroffen ist, gewinnt die Zeit, die Anforderungen ohne Druck aufzubauen. Eine dauerhafte Einordnung statt Einzelprüfung bietet die laufende KI-Compliance-Begleitung. Wer ein neues Hochrisiko-System vor dem Markteintritt unter behördlicher Aufsicht erproben will, findet die Voraussetzungen im Beitrag zu den KI-Reallaboren als Innovationsinstrument des AI Act. Welcher Bußgeldrahmen bei einer Fehleinstufung droht, ordnet der Beitrag zu den Bußgeldern der KI-Verordnung ein.

Den Gesamtrahmen, in den diese Einstufung gehört, von den Rollen über die Fristen bis zu den Pflichtenkreisen, ordnet der Leitfaden zum EU AI Act ein.

Wie das in der Praxis aussieht

Ein Beispiel, wie es in dieser Form häufig vorkommt: Ein Anbieter von Leitsystemen für kommunale Wasserversorger mit rund 70 Mitarbeitenden plant drei KI-Funktionen. Die erste soll Pumpen und Druckzonen regeln, die zweite Wartungsbedarf vorhersagen und dem Wassermeister zur Entscheidung vorlegen, die dritte als Chatbot Störungsmeldungen von Bürgern annehmen. Ein Stadtwerk fragt nach der Einstufung. Zu klären ist je Funktion der Bezug zu Anhang III, der KI als Sicherheitsbauteil in der Wasserversorgung erfasst; selbst bei einem Bezug kann die Einstufung entfallen, wenn das System nur eine vorbereitende Aufgabe übernimmt und kein Profiling vornimmt.

Danach trennen sich die Wege. Die Pumpenregelung wird als mögliches Sicherheitsbauteil hochriskant behandelt; die Pflichten gelten ab dem 2. Dezember 2027. Soweit die Wartungsprognose überhaupt unter Anhang III fällt, kommt die Ausnahme in Betracht, wenn der Wassermeister jeden Vorschlag selbst bewertet; der Anbieter dokumentiert diese Bewertung vor dem Inverkehrbringen und registriert das System in der EU-Datenbank. Der Chatbot hat keinen Anhang-III-Bezug, für ihn greift die Transparenzpflicht. Am Ende steht eine begründete Einstufung je Funktion für das Stadtwerk. Welche KI-Systeme sonst noch einzuordnen sind, erfasst das Rechtliche Audit.

Häufige Fragen

Woran erkenne ich, ob mein KI-System hochriskant ist?

Maßgeblich sind die zwei Wege des Art. 6 KI-VO. Hochriskant ist ein System, das entweder als Sicherheitsbauteil eines Anhang-I-Produkts dient oder selbst ein solches Produkt ist, sofern eine Konformitätsbewertung durch Dritte erforderlich ist (Art. 6 Abs. 1 KI-VO), oder dessen Einsatzzweck in einen der acht in Anhang III genannten Bereiche fällt. Trifft keiner dieser beiden Wege zu, greift der volle Hochrisiko-Pflichtenkreis nicht.

Ist jedes KI-Tool im Personalwesen automatisch hochriskant?

Nein. Zwar erfasst Anhang III Nr. 4 KI im Personalwesen, etwa zum Sichten, Filtern und Bewerten von Bewerbungen sowie für Entscheidungen über Beförderung oder Kündigung. Birgt ein System jedoch kein erhebliches Risiko, etwa weil es nur eine eng begrenzte oder rein vorbereitende Aufgabe erfüllt, und nimmt es kein Profiling natürlicher Personen vor, kann die Einstufung nach der Ausnahme des Art. 6 Abs. 3 KI-VO entfallen.

Wann greift die Ausnahme trotz Anhang-III-Bezug?

Die Ausnahme des Art. 6 Abs. 3 KI-VO greift, wenn das System kein erhebliches Risiko birgt und lediglich eine eng gefasste Verfahrensaufgabe erledigt, das Ergebnis einer abgeschlossenen menschlichen Tätigkeit verbessert, Entscheidungsmuster erkennt, ohne die menschliche Bewertung ohne angemessene Überprüfung zu ersetzen, oder eine vorbereitende Aufgabe übernimmt, jeweils ohne Profiling natürlicher Personen. In diesen Fällen entfällt die Hochrisiko-Einstufung, obwohl der Einsatzzweck grundsätzlich einem Anhang-III-Bereich zuzuordnen ist.

Muss ich die Einstufung dokumentieren?

Ein Anbieter, der sich auf die Ausnahme beruft, muss die zugrunde liegende Bewertung nach Art. 6 Abs. 4 KI-VO vor dem Inverkehrbringen oder der Inbetriebnahme dokumentieren, das System nach Art. 49 Abs. 2 KI-VO in der EU-Datenbank registrieren und die Dokumentation der Behörde auf Verlangen vorlegen. Auch ohne Ausnahme empfiehlt sich eine nachvollziehbare Dokumentation der Einordnung, damit Sie Ihre Einschätzung im Zweifel belegen können.

Ob ein KI-System als hochriskant gilt, prüft die Geschäftsführung oft erst, wenn ein Kunde danach fragt. Das Rechtliche Audit erfasst Ihren KI-Einsatz vollständig und ordnet offene Punkte nach Risiko in einen Maßnahmenplan. Rechtliches Audit: Bestandsaufnahme Ihrer KI-Systeme

Sie wollen den Prüfpfad für Ihr KI-System konkret durchgehen? In einem 60-minütigen Strategiegespräch ordnen wir Ihr System anhand der Kriterien oben ein.