KI & Arbeitsrecht – Diese Regeln müssen berücksichtigt werden

Künstliche Intelligenz ("KI") ist seit geraumer Zeit in aller Munde – sei es in Fach-, Sozialen oder anderen Medien, bei (Fach)Tagungen oder andernorts. Im Arbeitsverhältnis und im HR-Bereich dürfte "KI" ebenfalls zunehmend an Bedeutung gewinnen (z.B. im Recruiting, aber beispielsweise auch bei der Erstellung von Einsatzplänen oder Leistungskontrollen).

Doch welche grundlegenden Regeln müssen beim Einsatz von "KI" arbeitsrechtlich berücksichtigt werden?

Wesentlicher Rechtsrahmen

Bereits vor Inkrafttreten des weltweit ersten "KI-Gesetzes" ("AI Act") galten im Zusammenhang mit der "KI"-Nutzung insbesondere die Regelungen des Allgemeinen Gleichbehandlungsgesetzes, des Betriebsverfassungsgesetzes, der Datenschutz-Grundverordnung und des Bundesdatenschutzgesetzes bzw. der Landesdatenschutzgesetze, die neben dem "AI Act" weiterhin zu beachten sind.

Anbahnungs- und Bewerbungsphase

Eine sehr praxisrelevante Einsatzmöglichkeit für "KI" stellt das Recruiting dar. Dieser Einsatz muss sich vor allem an Art. 22 Abs. 1 DS-GVO messen lassen. Hiernach ist eine automatisierte Entscheidung unzulässig. Die letzte Entscheidung muss von einem Menschen getroffen werden. Die Anwendung komplexer IT-Systeme fällt in den Anwendungsbereich des Art. 22 Abs. 1 DS-GVO, wenn mit selbstlernenden Algorithmen finale Entscheidungen getroffen werden; jedenfalls dann, wenn die Entscheidungsfindung letztlich nicht mehr nachvollziehbar ist. Es geht um die Schaffung eines mehr oder weniger finalen Zustandes mittels automatisierter Entscheidungsfindung. Das wäre bei Vorauswahl mittels "KI" möglicherweise der Fall im Sinne einer Negativauswahl. Allerdings wird es häufig als ausreichend erachtet, wenn ein Mensch das Ergebnis nochmals stichprobenartig oder auf Plausibilität überprüft. Dieses Vorgehen sollte gründlich dokumentiert werden, um in möglichen Streitigkeiten die Beteiligung eines Menschen nachweisen zu können. Ausnahmen von Art. 22 Abs. 1 DS-GVO werden lediglich für eine besonders große Anzahl von Bewerbungen ("tausende") diskutiert.

Weiter spielt der Diskriminierungsschutz nach dem Allgemeinen Gleichbehandlungsgesetz eine wichtige Rolle. Der Einsatz "KI"-gestützter Tools in der Anbahnungs- bzw. Bewerbungsphase birgt Diskriminierungsrisiken, die teilweise schwer zu identifizieren sind, vor allem bei sogenannten selbstlernenden Anwendungen. Wenn eine "KI"-gestützte Anwendung Entscheidungen trifft bzw. Vorschläge macht, die unmittelbar oder mittelbar aus einem in § 1 AGG pönalisierten Grund erfolgt, können sich Diskriminierungsrisiken realisieren. Diese Risiken bzw. eine gewisse Voreingenommenheit der "KI" kann auf fehlerhaften Datensätzen oder Programmierungsfehlern basieren. Die Mängel und vor allem auch die Qualität des Datenbestands, insbesondere der Trainingsdaten, können eine Diskriminierung im Bewerbungsverfahren verursachen. Sind bestimmte Gruppen in den Trainingsdaten des Algorithmus unterrepräsentiert, kann es zu einer Verzerrung und zu einer Diskriminierung kommen. Insofern ist dringend zu empfehlen, dass Arbeitgeber vor dem Einsatz "KI"-gestützter Anwendungen die Qualität des Datenbestands kritisch hinterfragen und auch einen Nachweis von Qualitätskontrollen vom Anbieter einfordern. Auch dies sollte dokumentiert werden. Eine bewusst diskriminierend programmierte "KI" dürfte eher selten sein. Praxisrelevanter ist das Risiko der mittelbaren Benachteiligung, die beispielsweise entstehen kann, wenn die dem Algorithmus vorgelegten Bewerbungen zwar keine Angabe zu einem Geschlecht beinhalten, die Anwendung allerdings die Dauer der Berufsjahre bei gleichem Alter als vermeintlich neutrales Bewertungskriterium berücksichtigt. Frauen können mittelbar benachteiligt werden, da sie durch Geburten durchschnittlich weniger Berufsjahre aufweisen. Häufig findet die "KI" auch andere Ersatzvariablen, die die geschlechtsspezifische Diskriminierung indirekt fördern (z.B. Studienort, Hobbys, die mehrheitlich ein Geschlecht ausübt).

Durchführung des Arbeitsverhältnisses

Arbeitsleistungen sind persönlich zu erbringen (§ 613 BGB), wobei der Einsatz von "KI" arbeitsrechtlich nicht generell ausgeschlossen ist. Arbeitgeber können aber (und sollten auch) im Rahmen ihres Weisungsrechts die "KI"-Nutzung regulieren. Eine entsprechende Weisung nebst Vorgaben zur Nutzung ist mitbestimmungsfrei (ArbG Hamburg v. 16.01.2024 – 24 BVGa 1/24). Je nach Branche, Einsatzgebiet und Tätigkeit kann eine "KI"-Nutzung einerseits geradezu gewünscht sein und gefördert werden, anderseits unerwünscht und zu untersagen sein. Die Nutzung von "KI" birgt verschiedene rechtliche Risiken. Insbesondere können unter Umständen Unternehmensdaten und Geschäftsgeheimnisse offenbart werden oder Arbeitsergebnisse, die durch "KI" geschaffen wurden, nicht schutzfähig sein im Sinne des Urhebergesetzes. Dies kann wiederum zu Haftungsansprüchen des Unternehmens gegenüber Kunden führen.

Beteiligung des Betriebsrats

Durch das Betriebsrätemodernisierungsgesetz hat "KI" 2021 ausdrückliche Erwähnung im Betriebsverfassungsgesetz gefunden, allerdings nicht im Katalog des § 87 Abs. 1 BetrVG, sondern in den Informations- bzw. Mitwirkungsrechten nach § 80 Abs. 3 Satz 2 BetrVG (Hinzuziehung eines Sachverständigen bei Fragen der Einführung und Anwendung von "KI" im Betrieb), nach § 90 Abs. 1 Nr. 3 BetrVG (Information bei Einsatz von "KI") und nach § 95 Abs. 2a BetrVG (Zustimmung bei Aufstellung von Auswahlrichtlinien durch "KI").

Hierneben kommt auch ohne ausdrückliche Erwähnung die erzwingbare Mitbestimmung des Betriebsrats nach "allgemeinen" Regeln gemäß § 87 Abs. 1 Nr. 1 (Ordnung und Verhalten im Betrieb) und Nr. 6 (Einführung und Anwendung technischer Überwachungseinrichtungen) in Betracht. Von den Regelungen zur Ordnung und zum Verhalten nach § 87 Abs. 1 Nr. 1 BetrVG sind Weisungen abzugrenzen, die das Arbeitsverhalten betreffen und keiner Mitbestimmung nach vorgenannter Nr. 1 unterliegen (z.B. Vorgaben zur Nutzung von ChatGPT und vergleichbarer Tools in Richtlinien, Handbüchern etc.). Im Rahmen des § 87 Abs. 1 Nr. 6 BetrVG ist genau zu prüfen, ob der Arbeitgeber die Möglichkeit der Überwachung des Verhaltens oder der Leistung der Arbeitnehmer hat. Hieran fehlt es beispielsweise, wenn der Arbeitgeber keinen Zugriff auf die von der "KI" gespeicherten Daten hat. Zudem kommt der Mitbestimmungstatbestand des § 87 Abs. 1 Nr. 7 BetrVG (Gesundheitsschutz) in Betracht. Die Verwendung von "KI" kann – je nach Art der "KI" – zu psychischen Belastungen für die Arbeitnehmer führen.

"AI Act"

Nachdem das Europäische Parlament den "AI Act" im März 2024 verabschiedet und der Europäische Rat im Mai 2024 seine Zustimmung erteilt hat, wird das Gesetz am 20. Tag nach seiner Veröffentlichung im Amtsblatt der Europäischen Union in Kraft treten. Es wird mit Ausnahme einiger Teile, die bereits früher bzw. später gelten, 24 Monate nach seinem Inkrafttreten vollumfänglich anwendbar sein.

Die Inhalte des "AI Act" werden in der aktuell in 3. Auflage von ADVANT Beiten herausgegebenen Broschüre "Recht der Künstlichen Intelligenz" (Recht der Künstlichen Intelligenz | Advant Beiten (advant-beiten.com)) rechtsgebietsübergreifend erläutert.

Fazit

"KI" wird für Arbeitsverhältnisse zunehmend von Bedeutung sein, sei es bei der Arbeitsleistung oder im HR-Bereich. Eine besondere Herausforderung der gesetzlichen Rahmenbedingungen einerseits und der tatsächlichen Handhabung andererseits dürfte die rasche Entwicklung der "KI" und ihrer Möglichkeiten sein. Der Einsatz von "KI" bietet Chancen und Nutzen und birgt zugleich Risiken. Er unterliegt zudem (auch) arbeitsrechtlichen Anforderungen und Grenzen. Arbeitgeber sollten sich daher frühzeitig die Frage stellen, ob, zu welchen Zwecken und unter welchen Vorgaben "KI" zum Einsatz kommen soll, bevor sich infolge einer unklaren betrieblichen Regelungslage die Nutzung unkontrolliert verselbständigt, Risiken nicht minimiert, ebenso aber auch Chancen und Nutzen möglicherweise nicht bestmöglich ausgeschöpft werden.

Dr. Sebastian Kroll