KI im Recruiting und bei Personalentscheidungen

KI im Recruiting und im Personalwesen: der Rechtsrahmen in Kürze

KI im Recruiting ist inzwischen auf mehreren Ebenen zugleich reguliert. Die EU-KI-Verordnung (KI-VO, „AI Act“, Verordnung (EU) 2024/1689) stuft KI-Systeme, die zur Einstellung oder Auswahl von Bewerbern sowie für Entscheidungen über Beförderung, Kündigung, Aufgabenzuweisung oder die Überwachung und Bewertung von Beschäftigten eingesetzt werden, nach Anhang III Nr. 4 als Hochrisiko-Systeme ein. Nach dem Digital Omnibus zur KI, der am 27. Juli 2026 in Kraft getreten ist, gelten die Pflichten für Hochrisiko-Systeme nach Anhang III ab dem 2. Dezember 2027.

Gleichzeitig verbietet das Allgemeine Gleichbehandlungsgesetz (AGG) bereits heute diskriminierende Einstellungsentscheidungen, Art. 22 DSGVO beschränkt ausschließlich auf automatisierter Verarbeitung beruhende Entscheidungen, und das Betriebsverfassungsgesetz gibt Betriebsräten weitreichende Rechte bei KI-Systemen. Arbeitgeber, die KI-Werkzeuge im Personalbereich einsetzen, unterliegen daher schon jetzt rechtlichen Anforderungen und nicht erst, wenn die Hochrisiko-Regeln greifen. Wer mit der Umsetzung bis Ende 2027 wartet, übersieht diese bereits geltenden Pflichten.

Dieser Beitrag fasst die Pflichten von Arbeitgebern als Betreiber von KI-Systemen, die Diskriminierungs- und Datenschutzrisiken sowie die Rolle des Betriebsrats zusammen und schlägt einen Governance-Ansatz für Personalabteilungen vor, die CV-Screening, Chatbots, Videointerview-Analysen, Matching-Plattformen oder Leistungsanalysen einsetzen.

KI im Recruiting nach der KI-Verordnung

Anhang III Nr. 4 der KI-Verordnung nennt zwei Anwendungsfälle aus dem Beschäftigungsbereich als hochriskant: KI-Systeme, die bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet werden sollen, insbesondere um gezielte Stellenanzeigen zu schalten, Bewerbungen zu analysieren und zu filtern und Bewerber zu bewerten; sowie KI-Systeme, die bestimmungsgemäß für Entscheidungen über die Bedingungen von Arbeitsverhältnissen, Beförderungen und Kündigungen, für die Zuweisung von Aufgaben auf der Grundlage des individuellen Verhaltens oder persönlicher Merkmale oder für die Beobachtung und Bewertung von Leistung und Verhalten verwendet werden sollen. Die meisten kommerziellen KI-Recruiting-Werkzeuge, die Bewerber reihen oder filtern, fallen in die erste Kategorie.

Die KI-Verordnung unterscheidet zwischen Anbietern, die das System entwickeln und in Verkehr bringen, und Betreibern, die es verwenden. Arbeitgeber sind in der Regel Betreiber. Für sie kommt es deshalb vor allem auf die Pflichten des Art. 26 an. Wer KI im Recruiting einsetzt, ohne sie selbst entwickelt zu haben, trägt also dennoch eigene Verantwortung für den rechtmäßigen Einsatz.

Nach Art. 26 KI-Verordnung müssen Betreiber von Hochrisiko-Systemen diese entsprechend der Betriebsanleitung verwenden, die menschliche Aufsicht kompetenten Personen übertragen, soweit sie die Eingabedaten kontrollieren sicherstellen, dass diese relevant und hinreichend repräsentativ sind, den Betrieb überwachen, automatisch erzeugte Protokolle für einen angemessenen Zeitraum aufbewahren und die Arbeitnehmervertreter sowie die betroffenen Arbeitnehmer informieren, bevor sie ein Hochrisiko-System am Arbeitsplatz in Betrieb nehmen. Trifft das System Entscheidungen über natürliche Personen oder unterstützt es solche Entscheidungen, sind diese Personen darüber zu informieren, dass sie ihm unterliegen, und in bestimmten Fällen haben sie nach Art. 86 ein Recht auf Erläuterung der Entscheidung im Einzelfall.

Manche Praktiken sind ganz verboten. Seit dem 2. Februar 2025 untersagt die KI-Verordnung KI-Systeme, die Emotionen natürlicher Personen am Arbeitsplatz ableiten, sofern dies nicht aus medizinischen oder Sicherheitsgründen geschieht, sowie die biometrische Kategorisierung zur Ableitung sensibler Merkmale. Videointerview-Werkzeuge, die vorgeben, aus der Mimik von Bewerbern Emotionen oder Persönlichkeitsmerkmale herauszulesen, sind daher höchst problematisch und sollten abgeschaltet oder ersetzt werden.

Über die Einstellung hinaus: KI im Leistungsmanagement und bei Kündigungen

Der zweite Anwendungsfall in Anhang III Nr. 4 wird oft übersehen. Werkzeuge, die Schichten oder Aufgaben auf Grundlage individuellen Verhaltens zuweisen, Produktivität bewerten, Beschäftigte für Leistungsverbesserungspläne markieren oder Auswahlentscheidungen in Personalabbauprogrammen unterstützen, sind ebenfalls Hochrisiko-Systeme. Ihr rechtliches Risiko ist wohl noch höher als im Recruiting, weil betroffene Beschäftigte stärkere Rechte haben: Kündigungsschutz, Mitbestimmung bei Überwachung und datenschutzrechtliche Ansprüche.

Eine Sozialauswahl bei einer Massenentlassung, die sich auf ein intransparentes Scoring-Werkzeug stützt, ist beispielsweise schwer zu verteidigen, wenn Beschäftigte die Gewichtung der gesetzlichen Kriterien angreifen. Arbeitgeber sollten daher für KI im Leistungsmanagement dieselben Governance-Schritte anwenden wie für KI im Recruiting und bei automatisierten Entscheidungen mit unmittelbaren Folgen für Vergütung oder Beschäftigung besonders vorsichtig sein.

Diskriminierungsrisiken nach dem AGG

KI-Recruiting-Werkzeuge lernen aus historischen Daten, und historische Einstellungsentscheidungen spiegeln oft Voreingenommenheit wider. Ein Modell, das mit früheren erfolgreichen Einstellungen trainiert wurde, kann Frauen, ältere Bewerber, Menschen mit Behinderung oder Bewerber mit fremd klingenden Namen systematisch benachteiligen, selbst wenn diese Merkmale nicht als Eingaben verwendet werden. Stellvertretermerkmale wie Lücken im Lebenslauf, Postleitzahl, Sprachmuster oder Hochschule können zu mittelbarer Diskriminierung führen.

Das AGG gilt unabhängig davon, ob ein Mensch oder ein Algorithmus entschieden hat. Ein abgelehnter Bewerber, der Indizien für eine Benachteiligung wegen eines geschützten Merkmals beweist, verlagert die Beweislast nach § 22 AGG auf den Arbeitgeber, der dann beweisen muss, dass kein Verstoß vorlag. Kann der Arbeitgeber nicht erklären, wie das KI-Werkzeug zu seinem Ranking gelangt ist, wird ihm dieser Nachweis schwerfallen. Bewerber können eine Entschädigung verlangen, die auf drei Monatsgehälter begrenzt ist, wenn sie auch bei benachteiligungsfreier Auswahl nicht eingestellt worden wären (§ 15 Abs. 2 AGG), und müssen Ansprüche innerhalb von zwei Monaten nach der Ablehnung schriftlich geltend machen (§ 15 Abs. 4 AGG). Einen Anspruch auf Einstellung haben Bewerber nicht.

Arbeitgeber sollten Anbieter daher um eine Dokumentation von Bias-Tests bitten, soweit die Daten es zulassen eigene Analysen nachteiliger Auswirkungen auf die Ergebnisse nach Geschlecht, Alter und anderen Merkmalen durchführen und eine menschliche Überprüfung von Ablehnungen beibehalten, insbesondere bei Bewerbern, die die formalen Anforderungen erfüllen. So lässt sich im Streitfall nachvollziehbar darlegen, auf welcher Grundlage entschieden wurde.

Art. 22 DSGVO und Datenschutz

Art. 22 DSGVO gibt betroffenen Personen das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Die automatische Ablehnung von Bewerbern auf Grundlage eines KI-Scores ohne sinnvolle menschliche Beteiligung ist das klassische Beispiel. Ausnahmen bestehen, wenn die Entscheidung für den Abschluss eines Vertrags erforderlich, gesetzlich zugelassen oder auf eine ausdrückliche Einwilligung gestützt ist, doch im Beschäftigungskontext sind sie eng, und es müssen angemessene Garantien einschließlich des Rechts auf Eingreifen einer Person vorgesehen werden.

Der EuGH legt Art. 22 DSGVO weit aus und behandelt einen Score, der für eine von einem Dritten getroffene Entscheidung maßgeblich ist, bereits selbst als mögliche automatisierte Entscheidung. In der Praxis führt ein menschlicher Prüfer, der das KI-Ranking lediglich bestätigt, den Vorgang nicht aus dem Anwendungsbereich des Art. 22 heraus. Eine sinnvolle menschliche Überprüfung erfordert Befugnis, Kompetenz und Zeit, um von der Empfehlung abzuweichen, und sie sollte dokumentiert werden.

Über Art. 22 hinaus gelten die allgemeinen Regeln der DSGVO: eine Rechtsgrundlage nach Art. 6 für jeden Verarbeitungszweck, Transparenz gegenüber Bewerbern, Datenminimierung, Speicherbegrenzung, eine Datenschutz-Folgenabschätzung für Verarbeitungen mit hohem Risiko nach Art. 35 und Auftragsverarbeitungsverträge mit Anbietern. Den Beschäftigtendatenschutz nach der Rechtsprechung des EuGH zu § 26 BDSG erörtern wir in unserem Beitrag zum Beschäftigtendatenschutz.

Rechte des Betriebsrats bei KI im Personalwesen

Das Betriebsverfassungsgesetz enthält ausdrückliche Bezüge zur künstlichen Intelligenz. Der Arbeitgeber hat den Betriebsrat über die Planung von Arbeitsverfahren und Arbeitsabläufen einschließlich des Einsatzes von KI rechtzeitig unter Vorlage der erforderlichen Unterlagen zu unterrichten (§ 90 Abs. 1 Nr. 3 BetrVG). Muss der Betriebsrat die Einführung oder Anwendung von KI beurteilen, gilt die Hinzuziehung eines externen Sachverständigen als erforderlich, sodass der Arbeitgeber die Kosten trägt (§ 80 Abs. 3 BetrVG). Auswahlrichtlinien für Einstellungen, Versetzungen und Kündigungen bedürfen der Zustimmung des Betriebsrats, auch wenn sie unter Einsatz von KI erstellt werden (§ 95 Abs. 2a BetrVG).

Darüber hinaus ist nahezu jedes KI-Werkzeug im Personalbereich eine technische Einrichtung, die zur Überwachung von Verhalten oder Leistung der Arbeitnehmer geeignet ist, sodass der Betriebsrat bei Einführung und Anwendung nach § 87 Abs. 1 Nr. 6 BetrVG mitbestimmt. Jede einzelne Einstellung bedarf in Unternehmen mit mehr als 20 Arbeitnehmern zudem der Zustimmung des Betriebsrats nach § 99 BetrVG, und der Betriebsrat kann fragen, welche Rolle ein KI-Werkzeug gespielt hat. Eine Rahmenbetriebsvereinbarung zu KI, die Grundsätze für neue Werkzeuge mit Anlagen für jedes einzelne System festlegt, beschleunigt Einführungen erheblich.

Governance für KI im Recruiting

Ein praxistaugliches Governance-Modell für den Personalbereich umfasst folgende Elemente:

1. Bestandsaufnahme: Erfassen Sie alle im Personalbereich eingesetzten KI-Werkzeuge, einschließlich der in Bewerbermanagementsysteme und Jobplattformen eingebetteten Funktionen, und ordnen Sie jedes nach der KI-Verordnung ein.
2. Prüfung der Anbieter: Prüfen Sie Konformitätsunterlagen, Betriebsanleitungen, Bias-Tests, Datenquellen und die vertragliche Verteilung der Verantwortlichkeiten.
3. Menschliche Aufsicht: Benennen Sie geschulte Prüfer mit der Befugnis, das System zu übersteuern, und dokumentieren Sie deren Entscheidungen.
4. Transparenz: Informieren Sie Bewerber und Beschäftigte in verständlicher Sprache über den Einsatz von KI, ihren Zweck und ihre Rechte.
5. Überwachung: Werten Sie die Ergebnisse regelmäßig auf nachteilige Auswirkungen und Genauigkeit aus, bewahren Sie Protokolle auf und melden Sie Vorfälle an den Anbieter.
6. KI-Kompetenz: Schulen Sie Personalverantwortliche und Führungskräfte zu den Möglichkeiten und Grenzen der eingesetzten Werkzeuge.
7. Kollektive Vereinbarung: Schließen Sie eine Betriebsvereinbarung, die Zwecke, Daten, Aufsicht und Evaluation regelt.

Illustration: Ein Einzelhändler führt ein Werkzeug ein, das Bewerber für Filialleiterstellen reiht. Das Personalteam übernimmt die zehn bestplatzierten Bewerber und lehnt die übrigen automatisch ab. Ein älterer Bewerber mit langjähriger Erfahrung wird abgelehnt, erfährt vom Einsatz der KI und macht eine Altersdiskriminierung geltend. Ohne Dokumentation der Funktionsweise des Rankings und ohne menschliche Überprüfung hat der Einzelhändler Schwierigkeiten, die Vermutung nach § 22 AGG zu widerlegen, und die automatische Ablehnung kann zudem gegen Art. 22 DSGVO verstoßen. Ein Verfahren, in dem eine Recruiterin jeden Bewerber geprüft hätte, der die formalen Kriterien erfüllt, hätte beide Risiken verringert.

KI im Recruiting und das regulatorische Gesamtbild

KI im Recruiting ist ein Teil eines umfassenderen Pflichtenkatalogs für Unternehmen, die KI einsetzen. Unsere Seite zur KI-Verordnung behandelt Anbieter- und Betreiberpflichten in anderen Bereichen, und unsere Seite zu Betriebsräten erläutert Mitbestimmungsverfahren und die Einigungsstelle. Werden KI-Werkzeuge zur Leistungsüberwachung eingesetzt, stellen sich auch Fragen der Arbeitszeit und des Arbeitsschutzes; siehe unseren Beitrag zur Arbeitszeitreform.

So unterstützt TRW & Co

Wir beraten Arbeitgeber zum Einsatz von KI im Recruiting und im Personalwesen: bei der Einordnung von Werkzeugen nach der KI-Verordnung, der Prüfung von Anbieterverträgen und -dokumentation, der Gestaltung von Prozessen für menschliche Aufsicht und Transparenz sowie der Bewertung von Diskriminierungs- und Datenschutzrisiken. Wir verhandeln Rahmen- und systemspezifische Betriebsvereinbarungen zu KI und vertreten Arbeitgeber vor Einigungsstellen sowie in AGG- und DSGVO-Verfahren vor den Arbeitsgerichten. Wenn Sie Ihre Pläne für HR-Technologie besprechen möchten, kontaktieren Sie uns. Dieser Beitrag dient der allgemeinen Information und ist keine Rechtsberatung.