Der rechtliche Rahmen für den KI-Einsatz im Recruiting-Prozess

Der Einsatz von Künstlicher Intelligenz (KI) im Recruiting verspricht vor allem Effizienz. KI kann etwa berufliche Netzwerke nach passenden Bewerbern durchstöbern und so eine gezielte Direktansprache ermöglichen, das zeitraubende Sichten und Auswerten von Bewerbungsunterlagen übernehmen, einen Abgleich mit den Stellenanforderungen vornehmen und auf dieser Basis die Eignung der Kandidaten mit übersichtlichen Bewertungen versehen oder sogar konkrete Empfehlungen aussprechen. Der Einsatz von KI-Anwendungen unterliegt im Recruiting jedoch strengen rechtlichen Anforderungen, die es bei der Planung und Anwendung derartiger Prozesse zu berücksichtigen gilt. Wer KI-gestützte Tools zur Bewerberauswahl nutzen möchte, sollte hierbei die folgenden zentralen Aspekte beachten:

1.            Automatisierte Entscheidungen – Art. 22 DSGVO

Die Datenschutzgrundverordnung (DSGVO) verbietet vollautomatisierte Entscheidungen, die für die betroffene Person rechtliche Auswirkungen haben oder sie erheblich beeinträchtigen. Da die Ablehnung eines Bewerbers für dessen berufliche Möglichkeiten von erheblicher Relevanz ist, fallen auch vollautomatisierte Entscheidungen über die Ablehnung von Bewerbern unter das Verbot von Art. 22 DSGVO.

Zulässig ist der Einsatz von KI aber, wenn die Entscheidung nicht ausschließlich automatisiert getroffen wird, wenn also ein Mensch die finale Entscheidung trifft. Der EuGH hat im sogenannten SCHUFA-Urteil (C-634/21) allerdings klargestellt, dass bereits eine weitgehend durch eine Software vorbereitete Entscheidung als automatisiert gelten kann – wenn der Mensch die von der Software errechneten Wahrscheinlichkeitswerte nur noch „abnickt“ oder sich für seine Entscheidung wesentlich darauf stützt, ohne die von der Software gefundenen Wertungen nachzuvollziehen bzw. kritisch zu prüfen.

Praxis-Tipp: Die KI darf im Recruiting also Empfehlungen aussprechen und etwa die Übereinstimmung des Bewerbers mit den Anforderungen an die jeweilige Stelle als Prozentwert ermitteln. Recruiter müssen aber bei ihrer Entscheidung solche Empfehlungen und Entscheidungshilfen inhaltlich nachvollziehen und kritisch prüfen. Diese Vorgehensweise sollte in internen Handlungsanweisungen/Richtlinien klar vorgegeben werden. Die Prüfung durch den Recruiter sollte bei jedem Auswahlverfahren ebenso dokumentiert werden wie die darauf beruhende Entscheidung.

2.            EU-KI-Verordnung (KI-VO) – Hochrisiko-Systeme im Recruiting

Die neue EU-KI-Verordnung stuft KI-Systeme im Bereich Beschäftigung und Personalmanagement grundsätzlich als Hochrisiko-KI‑Systeme ein (Art. 6 Abs. 2 i.V.m. Anhang III, Nr. 4 KI-VO). Werden KI-Systeme also im Recruiting eingesetzt, sind die besonderen Vorgaben für Hochrisiko-Systeme zu beachten. Arbeitgeber, die KI-Systeme im Recruiting einsetzen, gelten als Betreiber solcher Systeme im Sinne von Art. 3 Nr. 4 KI-VO und müssen ab dem 2. August 2026 umfangreiche Pflichten gemäß Art. 26 KI-VO erfüllen, insbesondere:

• Technische und organisatorische Maßnahmen, um sicherzustellen, dass das System entsprechend der Betriebsanleitung verwendet wird (Abs. 1);
• Übertragung der menschlichen Aufsicht auf natürliche Personen, die über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen (Abs. 2);
• Kontrolle der Eingabedaten auf Übereinstimmung mit dem Zweck des Systems und Repräsentativität (Abs. 4);
• Überwachung des Betriebs (Abs. 5);
• Aufbewahrung der automatisch erzeugten Protokolle für einen angemessenen Zeitraum von mindestens sechs Monaten (Abs. 6);
• Information der betroffenen Arbeitnehmer (Abs. 7);
• Datenschutz-Folgenabschätzung unter Verwendung der Informationen des Anbieters über das KI-System nach Art. 13 der KI-Verordnung (Abs. 9);
• Information der natürlichen Personen, dass sie der Verwendung des Hochrisiko-KI-Systems unterliegen (Abs. 11).

In der Praxis stellt sich bei der Planung und Einführung von KI-Tools im Recruiting die Frage, wie weit genau die in der KI-VO lediglich abstrakt umrissenen Pflichten reichen und welche Maßnahmen konkret, z. B. in technischer und organisatorischer Hinsicht zu ergreifen sind. Weil sich erst in der Anwendung der KI-VO zeigen muss, wie zuständige Aufsichtsbehörden und Gerichte die Regelungen der KI-VO im Detail verstehen, ist es ratsam, die entsprechenden internen Regeln und Prozesse nicht nur bei der Einführung der Anwendung zu bewerten und zu planen, sondern auch im Nachgang regelmäßig kritisch zu überprüfen, ob aufgrund neuer Entwicklungen Anpassungen vorzunehmen sind.

Achtung: Wer KI-Systeme etwa unter eigenem Namen betreibt oder selbst entwickelt und in den Verkehr bringt, kann nach der KI-VO als Anbietervon KI-Systemen im Sinne von Art. 3 Nr. 3 KI-VO gelten – mit nochmals deutlich erweitertem Pflichtenprogramm. Wer also nicht nur die Verwendung eines bereits vom Anbieter vorgefertigten Systems, sondern eine eigene Gestaltung mit anschließendem Weitervertrieb, Inbetriebnahme unter eigenem Namen o. ä. plant, sollte ein besonderes Augenmerk auf die Abgrenzung zum Anbieter-Begriff und die ggf. damit einhergehenden zusätzlichen Pflichten legen.

3.            Allgemeine rechtliche Anforderungen

Neben den spezifischen Anforderungen an KI-Anwendungen im Recruiting-Bereich darf zuletzt nicht vergessen werden, dass die allgemeinen Grundsätze, die beim herkömmlichen Recruiting zu beachten sind, in einer entsprechenden KI-Anwendung ebenfalls wieder abgebildet werden müssen. Dies betrifft etwa folgende Bereiche:

• AGG und Diskriminierungsschutz: Die KI darf Bewerbergruppen nicht aufgrund diskriminierender Kriterien benachteiligen. Dies bedingt, dass die KI keinerlei diskriminierende Kriterien heranziehen darf, wenn sie Recruiting-Entscheidungen vorbereitet – eine Anforderung, die einfach klingt, aber in der Praxis häufig nicht ohne Weiteres umgesetzt werden kann, weil die Funktionsweise von KI-Anwendungen komplex und schwer nachvollziehbar ist. 
• Fragerecht des Arbeitgebers: Auch digitale Bewerbungsformulare dürfen nur zulässige Fragen enthalten.
• Datenschutz: Für die von der KI vorzunehmenden Datenverarbeitungen sind etwa Löschkonzepte und Datenschutzerklärungen entsprechend anzupassen und es ist eine Datenschutzfolgenabschätzung vorzunehmen. Auch die vertragliche Beziehung zum Tool-Anbieter sollte sorgfältig ausgestaltet werden – so wird es in vielen Fällen sinnvoll oder auch erforderlich sein, Auftragsverarbeitungsverträge mit Tool-Anbietern abzuschließen und – wenn der Anbieter Server in Drittländern verwendet – dafür zu sorgen, dass die notwendigen Voraussetzungen für eine Drittlandübermittlung geschaffen werden.

4.            Fazit

KI im Recruiting verspricht Zeitersparnis und eine zielgenauere Auswahl der Bewerber. Das Recht verbietet zwar den Einsatz von KI im Recruiting nicht, es macht Arbeitgebern, die innovative Lösungen einführen wollen, aber strenge Vorgaben. Diese Vorgaben können nur mit klaren Prozessen, menschlicher Kontrolle und ausreichender Dokumentation erfolgreich umgesetzt werden. Arbeitgeber, die die Vorteile von KI im Recruiting fruchtbar machen möchten, sollten sich daher schon zu Beginn eines solchen Projektes einen soliden Überblick über den rechtlichen Rahmen verschaffen und diesen in der weiteren Umsetzung stets mitdenken.