„Am Ende entscheidet ja ein Mensch." Dieser Satz fällt in fast jedem Gespräch über KI im Recruiting, in der Leistungsbeurteilung oder bei der Schichtvergabe. Er ist richtig gemeint – und rechtlich oft nicht ausreichend. Denn weder die DSGVO noch der EU AI Act fragen nur, ob ein Mensch beteiligt ist, sondern wie.
Was Art. 22 DSGVO eigentlich schützt
Art. 22 DSGVO gibt Betroffenen das Recht, keiner Entscheidung unterworfen zu werden, die
- eine Entscheidung ist,
- ausschließlich automatisiert zustande kommt und
- sie rechtlich oder ähnlich erheblich beeinträchtigt.
Eine Absage auf eine Bewerbung, eine verweigerte Beförderung oder eine Kündigungsauswahl erfüllen Punkt 3 ohne Weiteres. Die spannende Frage ist Punkt 2.
Das SCHUFA-Urteil hat die Messlatte verschoben
Lange galt: Solange ein Mensch formal unterschreibt, ist Art. 22 nicht einschlägig. Der EuGH hat das im SCHUFA-Urteil (C-634/21) deutlich relativiert. Entscheidend ist die tatsächliche Steuerungswirkung des automatisierten Ergebnisses – nicht, wo der Mensch im Prozess formal steht. Wenn ein Score in der Praxis maßgeblich bestimmt, was passiert, kann schon dieser Score die automatisierte Entscheidung sein.
Übertragen auf HR: Ein System, das 400 Bewerbungen auf eine Top-20-Liste reduziert, von der die Personalabteilung dann auswählt, hat die Entscheidung für 380 Menschen bereits getroffen – auch wenn am Ende jemand „Einladen" klickt.
„Rubber Stamping" zählt nicht
Eine menschliche Prüfung, die in Wirklichkeit ein Durchwinken ist, erfüllt die Anforderungen nicht. Wirksame Aufsicht setzt voraus, dass die prüfende Person:
- Zugang zu allen relevanten Informationen hat – nicht nur zum Ergebnis, sondern auch zu den Grundlagen
- fachlich kompetent ist, das Ergebnis selbst zu bewerten
- die tatsächliche Befugnis hat, vom Vorschlag abzuweichen – ohne Rechtfertigungsdruck
- genug Zeit dafür hat (wer 200 Vorschläge pro Stunde bestätigen soll, prüft nicht)
- ihre Prüfung dokumentiert
Wo der AI Act ergänzt
Der AI Act setzt eine Ebene früher an, beim System selbst. KI-Systeme für Recruiting, Bewerberauswahl, Beförderung, Kündigung, Aufgabenzuweisung und Leistungsüberwachung sind in Anhang III als Hochrisiko eingestuft. Art. 14 AI Act verlangt, dass solche Systeme so gebaut sind, dass Menschen sie wirksam beaufsichtigen können – also Ergebnisse verstehen, Automatisierungsgläubigkeit erkennen und eingreifen können.
Kurz: Die DSGVO schützt den einzelnen Menschen vor der Entscheidung, der AI Act sorgt dafür, dass das System überhaupt beaufsichtigbar ist.
Die praktische Konsequenz: vorbereiten statt vorsortieren
Die sauberste Architektur für den Mittelstand ist eine klare Trennung:
 KI bereitet vor |
 KI entscheidet (mit) |
|---|---|
| Unterlagen strukturieren, Daten extrahieren | Bewerbende ranken oder aussortieren |
| Anforderungsprofil und Lebenslauf nebeneinanderstellen | „Passungs-Score" als Auswahlkriterium |
| Zeugnisentwurf aus Beurteilungsbogen | Leistungsbewertung aus Verhaltensdaten |
| Rückfragen und Termine vorbereiten | Absagen automatisch versenden |
Links ist Assistenz, rechts beginnt Hochrisiko. Beides ist möglich – aber rechts braucht Konformitätsbewertung, Dokumentation, Aufsichtskonzept und in aller Regel den Betriebsrat.
Checkliste für bestehende Prozesse
- Gibt es irgendwo im HR-Prozess einen Score, eine Ampel oder ein Ranking, das die Auswahl vorstrukturiert?
- Könnte die verantwortliche Person begründen, warum sie einem Vorschlag gefolgt ist – ohne auf das System zu verweisen?
- Wie oft wird tatsächlich abgewichen? (Nie ist ein Warnsignal.)
- Werden Bewerbende über den KI-Einsatz informiert?
Ihr wollt einen HR-Prozess mit KI aufsetzen, der von Anfang an auf der grünen Seite bleibt? Wir unterstützen bei Architektur und Einordnung: office@avantgar.de. Verwandt: Bewerbungseingang mit KI strukturieren · EU AI Act: Was der Mittelstand jetzt tun sollte
Hinweis: Dieser Beitrag ist eine fachliche Einordnung und keine individuelle Rechtsberatung.
Wie stellt ihr sicher, dass die „menschliche Prüfung" bei euch mehr ist als ein Klick?