KI im Personalwesen und HR-Technologie

KI-gestützte HR-Software sortiert Bewerbungen, wertet Video-Interviews aus, schlägt Beförderungen vor und bewertet Leistung. Kaum ein Einsatzbereich ist in der KI-Verordnung so eindeutig als hochriskant eingestuft. Diese Seite richtet sich an Anbieter von HR-Technologie und an Unternehmen, die solche Systeme im Recruiting und in der Personalentwicklung einsetzen.

Hochrisiko-Einstufung nach Anhang III Nr. 4 KI-VO

Nach Anhang III Nr. 4 der KI-Verordnung (EU) 2024/1689 sind Hochrisiko-Systeme:

KI-Systeme für die Einstellung oder Auswahl natürlicher Personen, insbesondere zur Schaltung gezielter Stellenanzeigen, zur Sichtung oder Filterung von Bewerbungen und zur Bewertung von Bewerbern (lit. a)
KI-Systeme für Entscheidungen über Arbeitsbedingungen, Beförderung und Kündigung, zur Zuweisung von Aufgaben auf Grundlage individuellen Verhaltens oder persönlicher Merkmale sowie zur Beobachtung und Bewertung von Leistung und Verhalten (lit. b)

Die Hochrisiko-Pflichten für Anhang III gelten nach dem Digital Omnibus (Verordnung (EU) 2026/1744) ab dem 2. Dezember 2027. Eine Ausnahme nach Art. 6 Abs. 3 KI-VO kommt nur in Betracht, wenn das System lediglich eine eng begrenzte verfahrenstechnische Aufgabe erfüllt oder eine menschliche Bewertung nur vorbereitet, ohne sie zu beeinflussen. Sobald ein System ein Profiling natürlicher Personen vornimmt, gilt es stets als Hochrisiko-System. Bei Ranking- und Matching-Funktionen im Recruiting ist das regelmäßig der Fall.

Bereits seit dem 2. Februar 2025 verboten ist die Emotionserkennung am Arbeitsplatz, außer aus medizinischen oder Sicherheitsgründen (Art. 5 Abs. 1 lit. f KI-VO). Video-Interview-Tools, die aus Mimik oder Stimme auf Begeisterung, Stress oder Ehrlichkeit schließen, sind damit unzulässig. Mehr dazu unter Verbotene KI-Praktiken.

Pflichten von Anbietern und Anwendern

Anbieter der HR-Software	Arbeitgeber als Betreiber
Risikomanagementsystem (Art. 9 KI-VO)	Einsatz gemäß Gebrauchsanweisung (Art. 26 Abs. 1 KI-VO)
Daten-Governance und Bias-Prüfung der Trainingsdaten (Art. 10 KI-VO)	Menschliche Aufsicht durch kompetente Personen (Art. 26 Abs. 2 KI-VO)
Technische Dokumentation, Protokollierung (Art. 11, 12 KI-VO)	Relevanz und Repräsentativität eigener Eingabedaten (Art. 26 Abs. 4 KI-VO)
Gebrauchsanweisung mit Leistungsgrenzen (Art. 13 KI-VO)	Überwachung, Meldung von Risiken und Vorfällen, Protokollaufbewahrung mindestens sechs Monate (Art. 26 Abs. 5, 6 KI-VO)
Konformitätsbewertung, CE-Kennzeichnung, Registrierung (Art. 43, 48, 49 KI-VO)	Information der Arbeitnehmervertreter und betroffenen Beschäftigten vor Inbetriebnahme (Art. 26 Abs. 7 KI-VO)
Qualitätsmanagement und Beobachtung nach dem Inverkehrbringen (Art. 17, 72 KI-VO)	Information betroffener Personen über den Einsatz (Art. 26 Abs. 11 KI-VO)

Vorsicht bei Anpassungen: Ein Arbeitgeber, der ein allgemeines KI-System für die Bewerberauswahl umfunktioniert oder ein HR-System unter eigenem Namen anbietet, wird nach Art. 25 KI-VO selbst zum Anbieter mit allen Anbieterpflichten. Das betrifft auch Konzerne, die eine eigene Recruiting-Lösung entwickeln und an Tochtergesellschaften weitergeben.

Praxistipp für Anbieter: Kunden werden ab 2027 Gebrauchsanweisung, Konformitätserklärung und Nachweise zur Bias-Prüfung im Einkauf verlangen. Wer diese Unterlagen früh aufbaut, verkürzt Vertragsverhandlungen und verringert Haftungsrisiken.

Diskriminierungsschutz nach dem AGG

Das Allgemeine Gleichbehandlungsgesetz verbietet Benachteiligungen wegen Rasse oder ethnischer Herkunft, Geschlecht, Religion oder Weltanschauung, Behinderung, Alter oder sexueller Identität (§§ 1, 7 AGG). Es gilt bereits für Bewerber (§ 6 Abs. 1 Satz 2 AGG). Eine KI, die mit historischen Einstellungsdaten trainiert wurde, kann bestehende Muster fortschreiben, etwa über Merkmale wie Wohnort, Lücken im Lebenslauf oder Sprachmuster, die mittelbar mit geschützten Merkmalen zusammenhängen (mittelbare Benachteiligung, § 3 Abs. 2 AGG).

Der Arbeitgeber haftet gegenüber dem Bewerber, auch wenn die Benachteiligung von einer zugekauften Software ausgeht. Bewerber können Entschädigung nach § 15 Abs. 2 AGG verlangen, bei Nichteinstellung bis zu drei Monatsgehältern, wenn sie auch bei benachteiligungsfreier Auswahl nicht eingestellt worden wären. Die Beweislastregel des § 22 AGG verschärft das Risiko: Legen Bewerber Indizien vor, muss der Arbeitgeber beweisen, dass keine Benachteiligung vorlag. Ohne Dokumentation der Funktionsweise und der Bias-Tests ist dieser Beweis kaum zu führen. Die Frist zur Geltendmachung beträgt zwei Monate (§ 15 Abs. 4 AGG).

Transparenz gegenüber Bewerbern und Art. 22 DSGVO

Bewerber sind nach Art. 13 DSGVO bei der Datenerhebung über den Einsatz von KI zu informieren. Bei automatisierten Entscheidungen einschließlich Profiling sind zusätzlich aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und die angestrebten Auswirkungen anzugeben (Art. 13 Abs. 2 lit. f DSGVO). Art. 26 Abs. 11 KI-VO verlangt ab Geltung der Hochrisiko-Pflichten ebenfalls, dass Betroffene über den Einsatz des Systems informiert werden.

Nach Art. 22 DSGVO darf eine Absage nicht ausschließlich auf einer automatisierten Verarbeitung beruhen. Das gilt auch, wenn ein Personaler die Rangliste einer KI ungeprüft übernimmt und nur die oberen Plätze einlädt. Nach der Rechtsprechung des EuGH (Urteil vom 7. Dezember 2023, C-634/21) kann bereits ein automatisiert ermittelter Wert eine Entscheidung im Sinne von Art. 22 DSGVO sein, wenn er für das Ergebnis maßgeblich ist. Die menschliche Prüfung muss deshalb echt sein: Der Prüfer braucht Zugang zu den Bewerbungsunterlagen, Zeit, Kompetenz und die Befugnis, abweichend zu entscheiden.

Rechtsgrundlage der Verarbeitung ist in der Regel Art. 6 Abs. 1 lit. b DSGVO; § 26 Abs. 1 BDSG ist nach der Rechtsprechung des EuGH nur noch eingeschränkt als eigenständige Grundlage tragfähig. Eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO ist bei KI-gestützter Bewerberauswahl regelmäßig erforderlich.

Betriebsrat

Die Einführung von KI im Personalbereich berührt die Mitbestimmung, insbesondere nach § 87 Abs. 1 Nr. 6 BetrVG (technische Überwachungseinrichtungen) und § 95 BetrVG (Auswahlrichtlinien). Nach § 90 Abs. 1 Nr. 3 BetrVG ist der Betriebsrat über den Einsatz von KI rechtzeitig zu unterrichten, nach § 80 Abs. 3 BetrVG kann er einen Sachverständigen hinzuziehen. Einzelheiten finden Sie unter KI im Arbeitsverhältnis.

Checkliste für die Einführung von HR-KI

Anwendungsfall beschreiben und nach Anhang III Nr. 4 KI-VO sowie Art. 5 Abs. 1 lit. f KI-VO prüfen
Rolle klären: Betreiber oder durch Anpassung Anbieter (Art. 25 KI-VO)
Vom Anbieter Gebrauchsanweisung, Dokumentation und Nachweise zur Bias-Prüfung verlangen
Datenschutz-Folgenabschätzung durchführen, Datenschutzhinweise für Bewerber anpassen
Menschliche Prüfung im Prozess verankern und dokumentieren
Betriebsrat frühzeitig beteiligen, Betriebsvereinbarung abschließen
Personaler schulen (Art. 4 KI-VO) und Protokolle aufbewahren

So unterstützen wir Sie

Für Anbieter: Einstufung, Konformitätsbewertung, technische Dokumentation, Gebrauchsanweisung und Kundenverträge
Für Anwender: Prüfung von HR-Software vor dem Einkauf, Verträge mit Anbietern, Datenschutz-Folgenabschätzung
Gestaltung AGG-sicherer Auswahlprozesse und Dokumentation der Bias-Prüfung
Bewerberinformationen nach DSGVO und KI-VO
Betriebsvereinbarungen zu KI im Personalbereich
Vertretung bei AGG-Ansprüchen und Auskunftsverlangen

Häufige Fragen

Ist ein KI-Tool zum Formulieren von Stellenanzeigen Hochrisiko-KI?

In der Regel nicht. Anhang III Nr. 4 lit. a KI-VO erfasst die gezielte Schaltung von Stellenanzeigen, also die Auswahl, wer eine Anzeige sieht. Ein Textassistent für die Formulierung fällt nicht darunter, solange er keine Auswahl unter Personen trifft.

Dürfen wir Video-Interviews mit KI auswerten?

Eine Auswertung der Gesprächsinhalte kann zulässig sein, ist aber Hochrisiko-KI und unterliegt Art. 22 DSGVO. Eine Auswertung von Emotionen aus Mimik oder Stimme ist nach Art. 5 Abs. 1 lit. f KI-VO verboten.

Haftet der Softwareanbieter, wenn das System diskriminiert?

Gegenüber Bewerbern haftet nach dem AGG der Arbeitgeber. Ob er beim Anbieter Rückgriff nehmen kann, hängt vom Vertrag ab. Gewährleistung, Freistellung und Mitwirkungspflichten sollten daher ausdrücklich geregelt sein.

Gilt die KI-VO auch für Personaldienstleister?

Ja. Personalvermittler und Plattformen, die KI zur Auswahl von Kandidaten einsetzen, sind Betreiber, gegebenenfalls auch Anbieter, eines Hochrisiko-Systems.