Künstliche Intelligenz im HR-Bereich: Chancen und rechtliche Risiken

KI im Personalwesen: Das müssen Sie zu Datenschutz, Urheberrecht und Diskriminierung wissen

Die digitale Transformation und neue Technologien verändern den Personalbereich grundlegend und prägen dessen Zukunft. Künstliche Intelligenz im HR-Bereich ist längst nicht mehr nur ein Schlagwort, sondern in vielen Prozessen gelebte Realität: von der automatisierten Bewerberauswahl über adaptive Lernsysteme und Sprachmodelle wie ChatGPT bis hin zur datengestützten Personalentwicklung und zu fundierten Entscheidungen über Mitarbeitereinsätze. Für Arbeitgeber bedeutet dies enorme Vorteile und Effizienzpotenziale wegen einer Vielzahl an möglichen Einsatzmöglichkeiten und Use Cases, aber auch erhebliche rechtliche Herausforderungen.

Typische Einsatzfelder von KI im HR-Bereich

Exemplarische Beispiele für Use-Cases (Einsatzgebiete bzw.
Anwendungsfelder für den Einsatz von KI im Personalbereich bzw. HR-Bereich sind z.B.:

• Bewerbermanagement / Talent Management und Auswahlentscheidungen
• Mitarbeitergewinnung / Recruiting
• Employer Branding
• Digitale Personalakte
• Mitarbeiterbindung / Retention
• Strategische Personalplanung und Personalentwicklung
• Verbesserung der Arbeitserfahrung (z.B. wiederkehrende KI-gestützte Umfragen)
• Weiterbildung und Qualifizierung
• Arbeitsschutz / Arbeitssicherheit
• Arbeitszeiterfassung und Arbeitszeitsteuerung
• Prozessoptimierung und Überwachung

Im Rekrutierungs- und Auswahlprozess (Recruiting) und bei Auswahlentscheidungen unterstützt künstliche Intelligenz im HR Unternehmen dabei, Bewerbungen auf z.B. Stellenausschreibungen automatisiert auszuwerten, Kandidaten zu vergleichen und Rankings zu erstellen. Das spart Zeit, wirft aber gleichzeitig rechtliche Fragen auf, insbesondere mit Blick auf das Diskriminierungsverbot nach dem Allgemeinen Gleichbehandlungsgesetz (AGG).

Auch z.B. im Bereich Mitarbeiterbindung und Retention Management wird KI eingesetzt. Durch Datenanalysen lassen sich Wechselabsichten von Beschäftigten frühzeitig erkennen, sodass gezielt Gegenmaßnahmen ergriffen werden können. Hier ist jedoch besonderes Fingerspitzengefühl erforderlich, da sensible Mitarbeiterdaten verarbeitet werden und deshalb insbesondere auch die datenschutzrechtlichen Vorgaben nach der Datenschutzgrundverordnung (DSGVO) beachtet werden müssen.

Ein weiterer Anwendungsbereich ist das Employer Branding. KI-gestützte Chatbots und andere Tools im Bewerbungsprozess oder Analysen von Social-Media-Daten können das Arbeitgeberimage stärken und Bewerber ansprechen. Damit dies rechtssicher gelingt, müssen Transparenz und die Einhaltung datenschutzrechtlicher Vorgaben jederzeit gewährleistet sein.

Bei der Personalentwicklung und Weiterbildung sowie bei der Zuweisung neuer Aufgaben kommen zunehmend adaptive Lernsysteme oder Learning Analytics zum Einsatz. Sie ermöglichen eine individuelle Förderung von Mitarbeitenden und helfen, Qualifikationen gezielt aufzubauen. Gleichzeitig müssen Unternehmen sicherstellen, dass nur zulässige Daten erhoben werden, die in der Verwendung rechtmäßig sind.

Auch die Prozessoptimierung in der Personalverwaltung ist ein typisches Einsatzfeld. KI-Systeme zur Arbeitszeiterfassung oder zur Automatisierung der Dienstplanung können den administrativen Aufwand erheblich reduzieren. Allerdings können solche Systeme schnell Mitbestimmungsrechte des Betriebsrats berühren.

Schließlich bildet die digitale Personalakte mit KI-gestützter Stammdatenpflege die Grundlage für viele weitere Anwendungen. Arbeitgeber müssen hier verhindern, dass Daten ohne klare Zweckbindung gesammelt oder übermäßig lange gespeichert werden.

Diese exemplarischen Beispiele machen deutlich: KI im Personalwesen bzw. in der Personalabteilung durchzieht den gesamten Lebenszyklus eines Arbeitsverhältnisses und sämtliche Abteilungen der Personalverwaltung, von der Bewerbung über die Entwicklung bis hin zur Beendigung.

Gesetzliche Anforderungen und Leitplanken für Arbeitgeber

Damit die Nutzung von KI im HR-Bereich nicht zum rechtlichen Risiko wird, gilt es ein engmaschiges Netz an Vorschriften zu beachten. Dieses „Rechtskorsett“ und seine Regelungen reichen vom Datenschutz i.V.m. der IT-Sicherheit, u.a. beim Einsatz von Informations- und Kommunikationstechnologien (IKT) über das Urheberrecht bis hin zur neuen EU-KI-Verordnung (AI Act). Für Arbeitgeber bedeutet das: Die Spielräume sind groß, aber die rechtlichen Grenzen sind eng gesteckt.

Datenschutz (DSGVO)
Fast alle HR-Anwendungen verarbeiten personenbezogene Daten. Arbeitgeber müssen die Grundsätze der DSGVO – Transparenz, Zweckbindung und Datenminimierung – konsequent umsetzen (Art. 5 DSGVO). Die Verarbeitung braucht eine klare Rechtsgrundlage (Art. 6 DSGVO) und Beschäftigte haben umfassende Auskunftsrechte (Art. 15 DSGVO). Verstöße können zu erheblichen Schadensersatzforderungen führen (Art. 82 DSGVO), ebenso wie zu erhebliche Bußgeldern von bis zum 20 Mio. Euro oder 4 Prozent vom Jahresvorumsatz, wobei regelmäßig auch der gesamte Konzernumsatz als Bemessungsgrundlage von den Datenschutzbehörden herangezogen und dem Bußgeld zugrunde gelegt wird..

Urheberrecht
KI-generierte Inhalte werfen neue Fragen auf. Beispielsweise: Wer ist Urheber, wenn die Maschine schreibt oder gestaltet? Klar ist: Nur Menschen können Urheber im Sinne des § 7 UrhG sein. Für Unternehmen heißt das, dass sie prüfen müssen, ob durch KI erstellte Inhalte frei genutzt werden dürfen oder ob Rechte Dritter betroffen sind. Andernfalls drohen Unterlassungs- und Schadensersatzansprüche (§ 97 UrhG). Hier stellen sich viele Grenzfragen, die rechtlich im Einzelfall zu prüfen sind.

EU-KI-Verordnung (AI Act)
Die Verordnung schafft erstmals einen einheitlichen Rechtsrahmen für Künstliche Intelligenz in Europa. Neben gänzlich verbotenen Praktiken, bei denen der Einsatz von KI-Tools insgesamt untersagt ist, können – je nach Use Case – besonders auch HR-Anwendungen wie z.B. Bewerberauswahl oder Leistungsbewertung als hochriskant (Art. 6, 7 AI Act) und damit als sog. Hochrisiko-KI-Systeme gelten. Arbeitgeber trifft daher eine umfangreiche Pflicht zu Dokumentation, Transparenz und menschlicher Kontrolle (Art. 13, 14 AI Act). Verstöße gegen verbotene KI-Praktiken können gemäß Art. 99 AI Act mit Bußgeldern von bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes geahndet werden. Es besteht  daher im Rahmen des AI-Acts bei Verstößen gegen die Vorschriften der KI-Verordnung ein noch höheres finazielles Risiko für Unternehmen als im Berech des Datenschutzes nach der DSGVO.

Diskriminierung durch KI – ein unterschätztes Risiko

Ein zentrales Risiko beim Einsatz von KI im HR-Bereich ist insbesondere die Gefahr unbewusster Diskriminierung durch KI. Algorithmen lernen aus Daten und wenn diese Trainingsdaten Vorurteile enthalten, können diskriminierende Muster ungewollt fortgeschrieben werden. Beispiele sind die Bevorzugung bestimmter Geschlechter, Altersgruppen oder Herkunftsländer bei der Bewerberauswahl. Für Arbeitgeber ist das heikel, denn Verstöße gegen das Allgemeine Gleichbehandlungsgesetz können zu Schadensersatzansprüchen führen, während gleichzeitig ein erheblicher Reputationsschaden droht. Auch die DSGVO und der AI Act verlangen, dass Daten unter dem Gesichtspunkt der Fairness und diskriminierungsfrei verarbeitet werden.

Wir werden das Thema Diskriminierung durch KI im Arbeitsrecht in einem weiteren Beitrag noch vertiefen. An dieser Stelle sei nur betont: Arbeitgeber dürfen sich nicht blind auf technische Lösungen wie etwas Algorithmen verlassen, sondern müssen deren Ergebnisse laufend kritisch hinterfragen und kontrollieren.

Mitbestimmung des Betriebsrats – wichtig, aber hier nur am Rande

Auch wenn der Schwerpunkt dieses Beitrags auf DSGVO, Urheberrecht und der EU-KI-Verordnung liegt, darf die Rolle des Betriebsrats nicht übersehen werden. Sobald KI-Systeme im HR geeignet sind, Verhalten oder Leistung von Arbeitnehmern zu beeinflussen, entstehen Mitbestimmungsrechte etwa bei der Einführung technischer Systeme oder bei der Festlegung von Auswahlrichtlinien im Recruiting.

Da dieses Thema für Unternehmen von hoher praktischer Bedeutung ist, haben wir es in einem eigenen Beitrag über Mitbestimmungsrechte beim Einsatz von KI ausführlich aufgearbeitet.

Fazit: Nutzen Sie die Vorteile von KI rechtssicher und handeln Sie, bevor es teuer wird

KI im HR-Bereich und Personalwesen bietet enorme Chancen für Effizienz, Mitarbeiterbindung und Wettbewerbsfähigkeit. Gleichzeitig ist sie rechtlich äußerst anspruchsvoll und kann gerade in der Praxis häufig vor enorme Herausforderungen stellen.

Arbeitgeber sollten ihre HR-Prozesse frühzeitig prüfen und an die Vorgaben der DSGVO, des Urheberrechts und der EU-KI-Verordnung anpassen, um sie rechtssicher zu gestalten. Frühzeitige Schulungen erleichtern die rechtssichere Implementierung von KI im HR-Bereich. Hier sollten Unternehmen sich gesetzeskonform aufstellen, z.B. durch interne KI-Guidlines, KI-Checklisten und das Aufsetzen und Anpassen von internen KI-Prozessen, um rechtliche und finanzielle Nachteile zu vermeiden, insbesondere aufgrund der hohen Bußgeldrisiken und Schadensersatzrisiken bei Verstößen gegen den AI Act.

Denn:

Wer untätig bleibt, riskiert nicht nur hohe Bußgelder bis zu 20 Mio. Euro oder 4 % des Jahresumsatzes nach Art. 83 DSGVO, bzw. bis zu 35 Mio. Euro oder 7 % nach Art. 99 AI Act, sondern auch Schadensersatzforderungen und Reputationsschäden.

Unser Tipp:

Prüfen Sie Ihre HR-Prozesse und Anbieter Ihrer KI-Tools rechtzeitig auf Datenschutz- und Compliance-Risiken durch einen spezialisierten Rechtsanwalt bzw. Rechtsbeistand.

Als spezialisierte Kanzlei für IT- und Datenschutzrecht unterstützen wir Sie bei der rechtssicheren Implementierung von KI-Systemen im HR-Bereich samt begleitender und praxisnaher Schulung für Mitarbeitende, von der Vertragsgestaltung bis zur Begleitung von Betriebsvereinbarungen und internen Richtlinien sowie der Beantwortung von Spezialfragen rund um die KI-Verordnung.