Kurz beantwortet: Vollautomatisierte Entscheidungen mit erheblichen Folgen für Personen sind grundsätzlich verboten (Art. 22 Abs. 1 DSGVO). Zulässig sind sie nur in drei eng begrenzten Ausnahmen, und selbst dann mit Pflicht zu Schutzmaßnahmen wie einer echten menschlichen Kontrolle.

KI entscheidet zunehmend über Menschen: Sie sortiert Bewerbungen vor, bewertet Kreditanträge, erkennt vermeintlichen Missbrauch und sperrt Konten. Für Unternehmen ist das effizient, rechtlich aber heikel, denn die DSGVO stellt vollautomatisierte Entscheidungen über Personen unter einen besonderen Vorbehalt. Wer das ignoriert, baut ein Compliance-Risiko direkt in sein Produkt ein.

Das Wichtigste in Kürze

  • Vollautomatisierte Entscheidungen mit erheblichen Folgen für Personen sind nach Art. 22 Abs. 1 DSGVO grundsätzlich verboten.
  • Zulässig sind sie nur in den drei Ausnahmen des Art. 22 Abs. 2 DSGVO: Vertragserforderlichkeit, gesetzliche Erlaubnis und ausdrückliche Einwilligung.
  • Selbst dann verlangt Art. 22 Abs. 3 DSGVO Schutzmaßnahmen, mindestens das Recht auf Eingreifen einer Person, auf Darlegung des eigenen Standpunkts und auf Anfechtung der Entscheidung.
  • Der wichtigste Hebel liegt im Wort „ausschließlich“: Eine echte, inhaltliche menschliche Prüfung nimmt der Entscheidung den Charakter der ausschließlichen Automatisierung.
Passend dazuRechtssystem

Was besagt der Grundsatz: ein Verbot mit Vorbehalt?

Nach Art. 22 Abs. 1 DSGVO hat die betroffene Person das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung, einschließlich Profiling, beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlich erheblicher Weise beeinträchtigt. Die herrschende Auffassung liest das als grundsätzliches Verbot: Vollautomatisierte Entscheidungen mit erheblichen Folgen sind im Ausgangspunkt unzulässig. Ausschlaggebend sind zwei Merkmale: Die Entscheidung muss ausschließlich automatisiert erfolgen, ohne echte menschliche Beteiligung, und sie muss erhebliche Folgen haben, etwa Ablehnung, Kündigung, Sperre oder Kreditverweigerung. Schon die Erstellung eines Scores kann selbst eine solche Entscheidung sein, wenn ein Dritter, dem der Wert übermittelt wird, maßgeblich darauf abstellt, ob er einen Vertrag schließt, durchführt oder beendet (EuGH, Urt. v. 07.12.2023, C-634/21 – SCHUFA). Das Urteil betraf eine Auskunftei, die den Wert selbst erstellt. Ob Art. 22 DSGVO auch Anbieter von Scoring-Software trifft, deren Kunden den Wert selbst berechnen, ist höchstrichterlich nicht geklärt.

Welche drei Ausnahmen lässt die DSGVO zu?

Art. 22 Abs. 2 DSGVO lässt die vollautomatisierte Entscheidung nur in drei Fällen zu:

  • Vertragserforderlichkeit (lit. a): wenn die Entscheidung für Abschluss oder Erfüllung eines Vertrags erforderlich ist;
  • gesetzliche Erlaubnis (lit. b): wenn Unions- oder mitgliedstaatliches Recht sie mit Schutzmaßnahmen zulässt, in Deutschland ab dem 20. November 2026 insbesondere § 37a BDSG für Scoring;
  • ausdrückliche Einwilligung (lit. c): der betroffenen Person.

Selbst in den Fällen von lit. a und c verlangt Art. 22 Abs. 3 DSGVO angemessene Schutzmaßnahmen, mindestens das Recht auf Eingreifen einer Person, auf Darlegung des eigenen Standpunkts und auf Anfechtung der Entscheidung. Besondere Datenkategorien, etwa Gesundheit oder Herkunft, dürfen solchen Entscheidungen nach Abs. 4 nur unter engen Voraussetzungen zugrunde liegen.

Wie sieht der praktische Ausweg aus?

Der wichtigste Hebel steckt im Wort ausschließlich: Wird die KI-Entscheidung durch eine echte, inhaltliche menschliche Prüfung überlagert, nicht bloß ein formales Durchwinken, greift Art. 22 Abs. 1 DSGVO nicht. Ein Human in the Loop, der die Entscheidung tatsächlich bewerten und ändern kann, nimmt der Konstellation die Schärfe. Diese Kontrolle muss real sein: Wer den KI-Vorschlag nur abnickt, erfüllt die Anforderung nicht. Dieselbe Anforderung an eine echte menschliche Letztentscheidung stellt sich verschärft, wenn zugleich ein Diskriminierungsrisiko besteht: KI und Diskriminierung: das AGG-Risiko.

Weiterlesen

Wie dokumentieren Sie die menschliche Prüfung nachweisbar?

Das Prinzip, nach dem ein Mensch die KI-Entscheidung inhaltlich prüft und ändern kann, heißt in der Praxis Human in the Loop. Ob es in Ihrem Prozess tatsächlich greift, müssen Sie im Zweifel belegen können. Nach Art. 5 Abs. 2 DSGVO sind Sie für die Einhaltung der Grundsätze verantwortlich und müssen sie nachweisen können. Ein Prüfschritt, der nur im Prozesshandbuch steht, zeigt noch keine echte Prüfung. Halten Sie deshalb fest:

  • Prüfpunkt: An welcher Stelle prüft wer den KI-Vorschlag, bevor die Entscheidung wirkt.
  • Befugnis: Dass die prüfende Person vom Vorschlag abweichen darf, und welche Rolle und Qualifikation sie dafür hat.
  • Informationsgrundlage: Welche Daten und Gründe die Person neben dem Ergebnis der KI sieht.
  • Einzelfall: KI-Vorschlag, endgültige Entscheidung, prüfende Person, Zeitpunkt und bei einer Abweichung eine kurze Begründung.
  • Auswertung: Wie oft die Prüfenden vom Vorschlag abweichen. Wird über lange Zeit nie abgewichen, sollten Sie prüfen, ob noch inhaltlich geprüft oder nur abgenickt wird.

Die Verarbeitung gehört außerdem in das Verzeichnis von Verarbeitungstätigkeiten. Dient eine systematische und umfassende automatisierte Bewertung persönlicher Aspekte als Grundlage für solche Entscheidungen, ist eine Datenschutz-Folgenabschätzung erforderlich (Art. 35 Abs. 3 lit. a DSGVO). Ist das System ein Hochrisiko-System nach der KI-Verordnung, müssen Sie als Betreiber die menschliche Aufsicht kompetenten Personen übertragen und die Protokolle aufbewahren (Art. 26 KI-VO), für Systeme nach Anhang III ab dem 2. Dezember 2027. Mehr dazu im Beitrag Eingekaufte KI-Tools: Ihre Pflichten als Betreiber.

Was sollten Sie konkret umsetzen?

Schritt Worauf es ankommt
Automatisierte Entscheidungen identifizieren Wo trifft Ihre KI Entscheidungen mit erheblichen Folgen für Personen?
Menschliche Kontrolle einbauen Ein echter Prüf- und Eingriffspunkt statt Scheinkontrolle.
Rechtsgrundlage und Schutzmaßnahmen Falls doch vollautomatisiert, die Ausnahme sauber dokumentieren und die Rechte aus Abs. 3 umsetzen.
Transparenz Betroffene Personen über die Logik und Tragweite informieren (Art. 13 bis 15 DSGVO).

Die Transparenzpflicht reicht weit. Verlangt eine betroffene Person Auskunft über die involvierte Logik einer automatisierten Entscheidung, müssen Sie ihr in präziser, transparenter, verständlicher und leicht zugänglicher Form die Verfahren und Grundsätze erläutern, die bei der Verarbeitung ihrer Daten zur Gewinnung des konkreten Ergebnisses tatsächlich angewandt wurden (EuGH, Urt. v. 27.02.2025 – C-203/22, Art. 15 Abs. 1 lit. h DSGVO). Enthalten diese Informationen nach Ihrer Ansicht Geschäftsgeheimnisse oder geschützte Daten Dritter, schließt das die Auskunft nicht pauschal aus: Sie haben die Informationen dann der zuständigen Aufsichtsbehörde oder dem Gericht zu übermitteln, die die widerstreitenden Interessen abwägen.

So bleibt der Effizienzgewinn der KI erhalten, ohne die Rechte der Betroffenen und Ihre Compliance zu opfern.

Scoring nach § 37a BDSG ab dem 20. November 2026

Ab dem 20. November 2026 regelt § 37a BDSG das Scoring neu; der bisherige § 31 BDSG entfällt (Art. 3 des Gesetzes vom 12. Mai 2026, BGBl. 2026 I Nr. 139). Werden Wahrscheinlichkeitswerte über ein künftiges Verhalten einer Person erstellt oder verwendet, um über Abschluss, Durchführung oder Beendigung eines Vertrags mit ihr zu entscheiden, ist eine automatisierte Entscheidung darauf zulässig. Für die Berechnung dürfen keine besonderen Kategorien personenbezogener Daten, kein Alter, Geschlecht oder Name, keine Daten aus sozialen Netzwerken, keine Kontobewegungen und keine Anschriftendaten genutzt werden. Minderjährige dürfen nicht betroffen sein, und das Verfahren muss wissenschaftlich anerkannt sein (§ 37a Abs. 1 und 2 BDSG). Auf Antrag müssen Sie die genutzten Daten und Kriterien, deren Gewichtung, die Aussagekraft des Werts und die Empfänger mitteilen und die Informationen ein Jahr speichern (Abs. 4). Die betroffene Person kann die Entscheidung anfechten, ihren Standpunkt darlegen und eine Entscheidung durch einen Menschen verlangen (Abs. 5). Wer Neukunden vor Vertragsschluss automatisiert bewertet, sollte sein Verfahren bis zum Stichtag daran ausrichten.

Wie das in der Praxis aussieht

Ein Beispiel, wie es in dieser Form häufig vorkommt: Ein Vermieter von Baumaschinen mit rund 45 Mitarbeitenden und Online-Buchung will Neukunden künftig von einem KI-Modell bewerten lassen. Unterhalb eines Schwellenwerts soll das System die Buchung ablehnen oder eine Kaution verlangen, ohne dass eine Person den Fall ansieht. Viele Kunden buchen als Einzelunternehmer. Zu klären ist, ob eine ausschließlich automatisierte Entscheidung mit rechtlicher Wirkung oder ähnlich erheblicher Beeinträchtigung vorliegt; eine Ablehnung kann darunter fallen. Solche Entscheidungen sind nur in drei Ausnahmen zulässig, darunter die Erforderlichkeit für einen Vertrag und die ausdrückliche Einwilligung.

Danach trennen sich die Wege. Prüft eine Mitarbeiterin jeden Ablehnungsvorschlag inhaltlich, mit den nötigen Informationen und der Befugnis, ihn zu ändern, entscheidet nicht mehr ausschließlich das System; bloßes Abnicken genügt nicht. Soll die Ablehnung vollautomatisch bleiben, muss die Ausnahme dokumentiert sein, und der Kunde braucht das Recht auf Eingreifen einer Person, auf Darlegung seines Standpunkts und auf Anfechtung. Auf Nachfrage sind dann auch die Verfahren und Grundsätze hinter dem Ergebnis zu erläutern. Am Ende steht ein Buchungsprozess mit festgelegtem Prüfpunkt. Den Freigabeweg dafür legt das Rechtssystem fest.

Häufige Fragen

Sind vollautomatisierte Entscheidungen über Personen erlaubt?

Im Ausgangspunkt nein. Nach Art. 22 Abs. 1 DSGVO hat die betroffene Person das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlich erheblicher Weise beeinträchtigt. Die herrschende Auffassung liest das als grundsätzliches Verbot.

Welche Ausnahmen lässt Art. 22 DSGVO zu?

Art. 22 Abs. 2 DSGVO lässt die vollautomatisierte Entscheidung nur zu, wenn sie für Abschluss oder Erfüllung eines Vertrags erforderlich ist, wenn Unions- oder mitgliedstaatliches Recht sie mit Schutzmaßnahmen zulässt oder wenn die betroffene Person ausdrücklich eingewilligt hat.

Was bedeutet „ausschließlich automatisiert“?

Ausschließlich automatisiert ist eine Entscheidung, die ohne echte, inhaltliche menschliche Beteiligung ergeht. Wird die KI-Entscheidung durch eine tatsächliche Prüfung überlagert, bei der eine Person sie bewerten und ändern kann, greift Art. 22 Abs. 1 DSGVO nicht. Ein bloßes formales Durchwinken des Vorschlags genügt dafür nicht.

Welche Rechte haben Betroffene bei automatisierten Entscheidungen?

In den Fällen der Vertragserforderlichkeit und der Einwilligung verlangt Art. 22 Abs. 3 DSGVO angemessene Schutzmaßnahmen, mindestens das Recht auf Eingreifen einer Person, auf Darlegung des eigenen Standpunkts und auf Anfechtung der Entscheidung. Ergänzend sind die Betroffenen nach Art. 13 bis 15 DSGVO über Logik und Tragweite zu informieren.

Wie genau muss die Auskunft über die Logik einer automatisierten Entscheidung sein?

Nach dem Urteil des EuGH vom 27. Februar 2025 (C-203/22) sind die Verfahren und Grundsätze zu erläutern, die bei der Verarbeitung der Daten der betroffenen Person konkret angewandt wurden. Berufen Sie sich auf Geschäftsgeheimnisse, entscheiden Aufsichtsbehörde oder Gericht nach einer Abwägung über den Umfang der Auskunft.

Wie heißt das Prinzip, nach dem KI personenbezogene Entscheidungen nicht vollautomatisiert treffen darf?

In der Praxis heißt es Human in the Loop. Gemeint ist, dass ein Mensch die Entscheidung inhaltlich prüft und ändern kann. Rechtlich steht dahinter Art. 22 DSGVO zu automatisierten Entscheidungen im Einzelfall einschließlich Profiling, der ausschließlich automatisierte Entscheidungen mit erheblichen Folgen grundsätzlich untersagt. Für Hochrisiko-KI-Systeme verlangt zusätzlich die KI-Verordnung eine menschliche Aufsicht.

Wie dokumentiere ich Human-in-the-Loop-Entscheidungen DSGVO-konform?

Halten Sie den Prüfpunkt, die Befugnis der prüfenden Person zur Abweichung und deren Informationsgrundlage fest, und für jeden Fall den KI-Vorschlag, die endgültige Entscheidung, die prüfende Person, den Zeitpunkt und die Begründung einer Abweichung. So erfüllen Sie die Nachweispflicht aus Art. 5 Abs. 2 DSGVO. Werten Sie zusätzlich aus, wie oft vom Vorschlag abgewichen wird, um bloßes Abnicken zu erkennen.

Wie dokumentieren wir vollautomatisierte Entscheidungen prüfungsfest?

Halten Sie fest, auf welche Ausnahme des Art. 22 Abs. 2 DSGVO Sie sich stützen und wie Sie die Rechte aus Art. 22 Abs. 3 DSGVO umsetzen, also das Eingreifen einer Person, die Darlegung des eigenen Standpunkts und die Anfechtung. Dazu gehören die Informationen über Logik und Tragweite nach Art. 13 bis 15 DSGVO. Bei systematischer und umfassender automatisierter Bewertung ist zudem eine Datenschutz-Folgenabschätzung nach Art. 35 Abs. 3 lit. a DSGVO erforderlich.

Quellen & Rechtsgrundlagen

  • Art. 22 Abs. 1 DSGVO – Verbot ausschließlich automatisierter Entscheidungen mit erheblichen Folgen
  • Art. 22 Abs. 2 DSGVO – Ausnahmen (Vertrag, gesetzliche Erlaubnis, Einwilligung)
  • Art. 22 Abs. 3 DSGVO – angemessene Schutzmaßnahmen
  • Art. 22 Abs. 4 DSGVO – besondere Datenkategorien
  • Art. 13 bis 15 DSGVO – Informationspflichten über Logik und Tragweite
  • Art. 5 Abs. 2 DSGVO – Rechenschaftspflicht
  • Art. 35 Abs. 3 lit. a DSGVO – Datenschutz-Folgenabschätzung bei automatisierter Bewertung als Entscheidungsgrundlage
  • Art. 26 KI-VO – Pflichten der Betreiber von Hochrisiko-KI-Systemen
  • EuGH, Urt. v. 07.12.2023 – C-634/21 – SCHUFA-Scoring als automatisierte Entscheidung i.S.v. Art. 22 DSGVO, NZA 2024, 45
  • EuGH, Urt. v. 27.02.2025 – C-203/22 – Dun & Bradstreet Austria, Auskunft über die involvierte Logik (Art. 15 Abs. 1 lit. h DSGVO), NJW 2025, 1471
  • § 37a BDSG – Scoring, eingefügt durch Art. 3 des Gesetzes vom 12. Mai 2026 (BGBl. 2026 I Nr. 139), in Kraft am 20. November 2026

Wo im Unternehmen KI über Menschen mitentscheidet, ist oft nirgends festgehalten. Das Rechtssystem legt KI-Richtlinie und Freigabeweg fest, damit solche Prozesse vor dem Einsatz geprüft werden und eine menschliche Kontrolle vorgesehen ist. Rechtssystem: KI-Entscheidungen mit klaren Regeln

Sie setzen KI für Entscheidungen über Personen ein? In einem 60-minütigen Strategiegespräch prüfen wir Art. 22 DSGVO für Ihren konkreten Prozess. Vertiefend zu allen Facetten des betrieblichen KI-Einsatzes: der Leitfaden KI im Unternehmen einsetzen. Fachliche Begleitung im IT-Recht: IT-Recht als Leistung.