In einer Welt, die von kontinuierlichen technologischen Fortschritten geprägt ist, rückt das Thema künstliche Intelligenz (KI) immer stärker in den Mittelpunkt. Die Integration von KI-Systemen in verschiedene Aspekte des Arbeitslebens verspricht Effizienzsteigerungen, Automatisierung von Routineaufgaben und neue Möglichkeiten der Innovation. Doch während die Vorteile offensichtlich sind, werfen die Auswirkungen von KI auf das Arbeitsrecht zunehmend Fragen und Bedenken auf.
In diesem Beitrag blicken wir darauf, wie sich KI und Arbeitsrecht beeinflussen und welche Rolle das KI-Gesetz der Europäischen Union in diesem Kontext spielt. Von der Automatisierung von Arbeitsabläufen bis hin zum Schutz persönlicher Daten werden wir beleuchten, wie Unternehmen diesen Herausforderungen begegnen können.
Versuch einer Europäischen Regulierung: Was ist der EU-AI-Act?
Anfang Dezember 2023 haben sich EU Parlament und EU Rat darauf geeinigt, ein Europäisches KI-Gesetz auf den Weg zu bringen. Der European Artificial Act – kurz EU-AI-Act – markiert damit einen bedeutenden Schritt in Richtung Regulierung im Aufstreben der KI in der Arbeitswelt. Die Initiative reflektiert die wachsende Sensibilität gegenüber den potenziellen Risiken und Herausforderungen, denen sich Gesellschaften stellen müssen, wenn sie KI in ihren Arbeitsalltag integrieren. Der EU-AI-Act zielt darauf ab, ein ausgewogenes Verhältnis zwischen der Förderung von Innovationen im Bereich KI und dem Schutz sowie der Sicherheit der Bürger, Arbeitnehmer und Verbraucher zu schaffen. Es geht darum, das Vertrauen in die KI zu stärken, Grundrechte zu sichern und Haftungsfragen zu klären.
DIE WICHTIGSTEN PUNKTE DES EU-AI-ACTS UMFASSEN:
Der Act unterteilt KI-Systeme in verschiedene Kategorien basierend auf ihrem Risikopotenzial, von verbotenen Systemen über Hochrisiko- bis hin zu Niedrigrisiko-Anwendungen:
Der Gesetzentwurf zum European AI-Act vom 9. Dezember 2023 soll nach seiner endgültigen Finalisierung und Verabschiedung in EU Parlament und Rat noch in diesem Frühjahr in Kraft treten und voraussichtlich nach zwei Jahren, also 2026 zur Anwendung kommen.
Wie ist KI in HR Software nach dem EU-AI-Act einzuordnen?
KI in Ihren HR Softwaresystemen kann je nach ihren Merkmalen und potenziellen Risiken in unterschiedliche Kategorien nach der Klassifizierung des EU-AI-Act eingestuft werden. Typischerweise handelt es sich bei HR-Softwaresystemen um Anwendungen, die Datenverarbeitung und Entscheidungsunterstützung im Personalwesen ermöglichen. Viele HR-Softwaresysteme könnten als Niedrigrisiko-KI-Systeme eingestuft werden. Hier sind insbesondere administrative Aufgaben, wie die Verwaltung von Mitarbeiterdaten, die Abwicklung von Bewerbungsprozessen oder die Organisation von Schulungen und Weiterbildungsveranstaltungen zu nennen. Aber auch KI-Systeme, die Lebensläufe nach bestimmten Qualifikationsanforderungen scannen, Mitarbeiter motivieren, coachen oder schulen sowie KI-Systeme zur Messung von Mitarbeiterzufriedenheit und -Engagement, sind im Bereich begrenzter und minimal riskanter KI-Anwendungen einzuordnen.
Diese Systeme unterstützen, treffen jedoch keine finalen Entscheidungen und haben in der Regel einen begrenzten Einfluss auf individuelle Rechte und Freiheiten von Mitarbeitern und Kandidaten. Sie tragen daher ein niedriges Risiko für die Sicherheit und den Schutz von Personen.
In einigen Fällen könnten HR-Softwaresysteme als Hochrisiko-KI-Systeme eingestuft werden, insbesondere wenn sie für automatisierte Entscheidungen im Einstellungsprozess oder zur Leistungsbeurteilung von Mitarbeitern eingesetzt werden. Solche Systeme könnten potenziell schwerwiegende Auswirkungen auf die Rechte und Interessen der Mitarbeiter haben, wie etwa Diskriminierung oder unfaire Beurteilungen.
PFLICHTEN DER HR ABTEILUNG
Personalabteilungen sind beim Einsatz von Hochrisiko-KI-Anwendungen in der Pflicht, dass ihr Unternehmen den Anforderungen des EU-AI-Acts für diese Kategorie nachkommt. Das betrifft vor allem die Risikobewertung der Systeme und die Transparenz der KI-Anwendung hinsichtlich ihrer Nachvollziehbarkeit von Zielen und Grenzen, Funktionsweise und Risiken für ihre Nutzer. HR muss für die Datenqualität und -sicherheit der KI Sorge tragen und diese dokumentieren. Eine menschliche Überwachung der KI, die rechtzeitig eingreifen und korrigieren kann, wenn es erforderlich ist, muss sichergestellt sein. Zudem ist die technische Robustheit zu gewährleisten, das heißt sicherzustellen, dass die KI unter verschiedenen Bedingungen zuverlässig, störungs- und fehlerfrei funktioniert.
Doch bereits beim Einsatz von Niedrigrisiko-Systemen existieren grundlegende Sorgfaltspflichten, wie Transparenz durch Informationen über die KI und die Wahlfreiheit für ihre Nutzer, sich von den KI-Systemen abmelden können.
KI und Arbeitsrecht im Unternehmen: Aktuelle Gesetzeslage und Anwendungsfälle
Der Einsatz von KI am Arbeitsplatz berührt bereits die aktuelle Gesetzgebung und Rechtsprechung durch die Datenschutzgrundverordnung (DSGVO) und das Bundesdatenschutzgesetz (BDSG), durch die Vorgaben des Allgemeinen Gleichbehandlungsgesetzes (AGG) sowie den Arbeitsschutz. Gibt es im Unternehmen einen Betriebsrat, bestehen außerdem unterschiedliche Beteiligungsrechte. Unternehmen sind dazu verpflichtet, diese zu beachten, um die Rechte und Interessen ihrer Mitarbeiter zu schützen:
Bereits heute nutzen viele Unternehmen KI im Bewerbungsprozess. Zum Beispiel für die Onlinesuche nach geeigneten Kandidaten, für die Optimierung der Stellenausschreibung und Jobbezeichnungen, zur Aufbereitung und Sortieren der Unterlagen, für personalisierte Bewerberkommunikation, zur Prüfung formaler Voraussetzungen oder auch für die Anonymisierung von Bewerberdaten. Wie verhält es sich dabei mit den Persönlichkeitsrechten?
Eine KI lernt. Zum Beispiel auch, welche Bewerbungen bisher erfolgreich waren. Sie kann immer wieder bestimmte Personen auswählen, die sie aufgrund verschiedenster Merkmale verschiedenen Gruppen zuordnet. Dadurch könnte der Diskriminierungsgrundsatz bei Auswahlentscheidungen verletzt werden. Unternehmen müssen sicherstellen, dass KI-Algorithmen im Bewerbungsprozess nicht zu diskriminierenden Entscheidungen führen. Würde die KI eine Bewerbung so aufbereiten, dass ein Bewerber unmittelbar oder mittelbar wegen bestimmter Merkmale aus § 1 AGG abgelehnt wird, liegt ein Verstoß gegen das Benachteiligungsverbot gemäß § 7 I AGG vor. In der Folge entstünde ein grundsätzlicher Schadenersatzanspruch eines Bewerbers, der wegen eines nach § 1 AGG bestimmten Merkmals abgelehnt wird.
Kein Mensch darf also der alleinigen Entscheidung einer Maschine unterworfen sein. KI kann in der Praxis helfen, unter vorgegebenen Kriterien Kandidaten zu analysieren und eine Vorauswahl zu treffen. Entscheidend ist jedoch, dass der Arbeitgeber selbst diese Entscheidungsgrundlage prüft und die Letztentscheidung darüber trifft, ob und welcher Bewerber in Betracht kommt.
ANWENDUNGSFALL: CHATGPT AM ARBEITSPLATZ
Der Einsatz von Künstlicher Intelligenz am Arbeitsplatz ist in Deutschland unter Berücksichtigung oben bereits erwähnter Gesetze und Vorschriften grundsätzlich erlaubt. Und viele Unternehmen setzen bereits KI-gestützte Technologien ein, um verschiedene Aspekte ihrer Geschäftstätigkeit zu verbessern, einschließlich der Arbeitsprozesse. Wie steht es aber konkret um ChatGPT?
ChatGPT ist eine KI-Plattform, die auf natürliche Weise mit Benutzern interagiert. Diese KI nutzt ein breites Wissen und Verständnis, um auf vielfältige Anfragen zu antworten und sich an den Kontext der Konversation anzupassen. ChatGPT lernt kontinuierlich aus neuen Daten und Interaktionen, um seine Fähigkeiten zu verbessern und bessere Antworten zu generieren.
Der Arbeitgeber könnte daher die Nutzung erlauben oder untersagen (§ 106 GewO). Ist dies nicht geregelt, ist die Sachlage schwieriger. Die Lösung liegt eher in der Einzelfallbetrachtung und es stellt sich vor allem die Frage der persönlichen Leistungserbringung.
ANWENDUNGSFALL: KI-GESTÜTZTE SYSTEME ZUR ARBEITSLEISTUNGSBEWERTUNG
KI-Algorithmen können auch für die Leistungsbewertung der Mitarbeiter eingesetzt werden, z.B. basierend auf der Analyse von Produktivitätsdaten, Qualität der Arbeit oder Anwesenheitszeiten. Arbeitgeber müssen sicherstellen, dass solche Systeme den arbeitsschutzrechtlichen Anforderungen entsprechen, um die Rechte und die Privatsphäre der Mitarbeiter zu schützen.
So müssen Arbeitgeber ihre Mitarbeiter umfassend darüber informieren, dass KI-gestützte Systeme zur Leistungsbewertung eingesetzt werden und wie diese Systeme funktionieren. Die Mitarbeiter sollten das Recht haben zu wissen, welche Daten über sie gesammelt werden, wie diese verwendet werden und welche Auswirkungen dies auf ihre Arbeit haben kann. Darüber hinaus müssen Arbeitgeber sicherstellen, dass die Verarbeitung personenbezogener Daten durch KI im Einklang mit den Datenschutzbestimmungen steht und die Sicherheit und Vertraulichkeit der Daten gewährleistet ist. Die Mitarbeiter sollten das Recht haben, der Verwendung von KI-gestützten Leistungsbewertungssystemen zu widersprechen, wenn sie Bedenken hinsichtlich ihrer Auswirkungen auf ihre Rechte und ihre Privatsphäre haben. Arbeitgeber müssen die Mitbestimmungsrechte der Mitarbeiter gemäß dem Betriebsverfassungsgesetz (BetrVG) berücksichtigen, die Arbeitnehmervertretung muss daher in den Entscheidungsprozess einbezogen werden.
ANWENDUNGSFALL: KI UND ARBEITSRECHT IN DER PRODUKTION UND FERTIGUNG
Der Einsatz von KI automatisiert insbesondere in Produktions- und Fertigungsunternehmen viele Herstellungsabläufe. Vor allem KI-Roboter können repetitive oder gefährliche Aufgaben in der Fertigung übernehmen, wie z.B. das Zusammenbauen von Bauteilen, das Verpacken von Produkten oder das Bedienen von Maschinen. Dabei kommen auch kollaborative Roboter, so genannte Cobots zum Einsatz, die speziell für die Zusammenarbeit mit Menschen entwickelt wurden. Um die Gesundheit und Sicherheit der Arbeitnehmer zu gewährleisten, müssen Arbeitgeber sicherstellen, dass die KI-Roboter sicher und zuverlässig funktionieren.
Arbeitgeber müssen eine umfassende Risikobewertung durchführen, um potenzielle Gefahren zu identifizieren, die von den Robotern ausgehen könnten. Dies umfasst Aspekte wie Kollisionen mit den menschlichen Arbeitern, unerwartete Bewegungen oder Fehler im Betrieb.
Basierend auf der Risikobewertung müssen geeignete Sicherheitsvorkehrungen getroffen werden, um die Risiken zu minimieren. Arbeitgeber müssen im Rahmen des Arbeitsschutzes ihre Mitarbeiter zur sichere Nutzung der KI-Roboter schulen und regelmäßig unterweisen. Dies umfasst die Einweisung in die Bedienung der Maschinen, das Verhalten im Falle von Notfällen und die Sensibilisierung für potenzielle Gefahren. Und selbstverständlich müssen die Cobots regelmäßig gewartet und überprüft werden, um sicherzustellen, dass sie ordnungsgemäß funktionieren und den Sicherheitsstandards entsprechen.
Einführung von KI-Systemen: Mitbestimmungsrechte der Arbeitnehmervertretung
Der Betriebsrat in Deutschland hat verschiedene Rechte im Zusammenhang mit der Einführung von KI im Unternehmen. Diese Rechte sind im Betriebsverfassungsgesetz (BetrVG) festgelegt und dienen dazu, die Mitbestimmung der Arbeitnehmer zu gewährleisten und ihre Interessen zu schützen.
So ist der Arbeitgeber ist nach § 80 BetrVG verpflichtet, den Betriebsrat rechtzeitig und umfassend über die Einführung von KI im Unternehmen zu informieren. Dies umfasst Informationen über den Zweck, die Funktionsweise, die Auswirkungen und die geplante Umsetzung von KI-Systemen. Insbesondere, wenn die KI-Anwendung objektiv dazu geeignet ist, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen (siehe oben, Anwendungsfall KI und Arbeitsleistungsbewertung), kann bei der Einführung von KI-Anwendungen ein Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG bestehen.
Bevor der Arbeitgeber eine Entscheidung über die Einführung von KI trifft, muss er den Betriebsrat gemäß § 90 BetrVG anhören und seine Stellungnahme dazu einholen. Der Betriebsrat hat das Recht, Vorschläge zu machen und Bedenken zu äußern, die er im Zusammenhang mit der Einführung von KI hat. Ferner kann der Betriebsrat nach § 80 BetrVG die Einführung und Nutzung von KI im Unternehmen überwachen und sicherstellen, dass dabei die Rechte der Arbeitnehmer gewahrt bleiben und die gesetzlichen Vorschriften eingehalten werden.
Vorteile bei der Regulierung von KI im Sinne des Arbeitsrechts
Arbeitsrechtliche Regelungen und auch das zukünftige KI-Gesetz der EU bieten Unternehmen eine klare Orientierung und fördern einen verantwortungsvollen Umgang mit Künstlicher Intelligenz, was langfristig zu einer positiven Entwicklung im Unternehmen führen kann. Der rechtliche Rahmen definiert die Spielregeln zur Nutzung von KI. Das erhöht eine vertrauensvolle Nutzung, reduziert vielleicht sogar die Furcht vor der Technologie und verbessert somit die Akzeptanz. Gleichzeitig werden Unternehmen klare Leitlinien für den Umgang mit KI-gestützten Systemen am Arbeitsplatz, einschließlich Datenschutz, Diskriminierungsschutz und Mitbestimmungsrechten mitgegeben, um Risiken beim Einsatz von KI zu minimieren. Klare rechtliche Regelungen schaffen ein Umfeld, damit sich Unternehmen auf die Entwicklung und Implementierung innovativer KI-Lösungen konzentrieren können, ohne sich über unsichere rechtliche Konsequenzen Sorgen machen zu müssen. Das fördert Innovationen und Wettbewerbsfähigkeit.
Eigene Richtlinien im Umgang mit KI definieren
Unternehmen sind heute schon angehalten, ihre KI-Anwendungen genauer unter die Lupe zu nehmen und deren Standards nach bereits geltenden Gesetzesvorschriften zu bewerten. Das bietet zahlreiche Vorteile und Orientierung im Umgang mit KI. Fortschrittliche Unternehmen sollten sich nicht der KI verschließen, um wettbewerbsfähig zu bleiben. So kann ein Verbot, bspw. von ChatGPT, den Mitarbeitern gegenüber auch fehlendes Vertrauen oder Missbrauch suggerieren. Deshalb ist es ratsam, auch eigene, firmenspezifische Richtlinien im Umgang mit der KI zu definieren, anstatt es aus Sicherheitsgründen ganz zu verbieten.
KI bewegt in Zukunft weiter das Arbeitsrecht
Das Thema KI und Arbeitsrecht wird immer mehr Beachtung finden. Bereits jetzt müssen Unternehmen in Deutschland wichtige Anforderungen zum Datenschutz, zur Antidiskriminierung oder im Arbeitsschutz berücksichtigen, die auch auf den Einsatz von KI Anwendung finden. Zudem hat auch die Arbeitnehmervertretung in den Unternehmen bestimmte Mitbestimmungs- und Informationsrechte. In Zukunft kommen weitere Arbeitsrechtsthemen im Zusammenhang mit der Künstlichen Intelligenz auf Unternehmen zu. Neben dem EU-AI-Act, dem Gesetzentwurf der EU zu den Regeln und Standards für den Einsatz von KI auf europäischer Ebene, will auch die Bundesregierung mit dem neuen Bundesdatenschutzgesetz den Einsatz von KI weiter regulieren. Hiermit soll vor allem mehr Transparenz für die Beschäftigten geschaffen werden. Ein konkreter Gesetzentwurf liegt bisher noch nicht vor, Bundesministerium für Arbeit (BMAS) und Bundesinnenministerium (BMI) haben sich aber bereits auf ein gemeinsames Eckpunktepapier geeinigt.
Es bleibt spannend abzuwarten wann und wie sich die vorgestellten Vorhaben in der Praxis darstellen. Darüber hinaus werden sicherlich auch arbeitsrechtliche Entscheidungen zukünftig eine wichtige Rolle bei der Gestaltung entstehender Grenzen und Freiräume der KI Anwendung in Unternehmen spielen.
In diesem Beitrag blicken wir darauf, wie sich KI und Arbeitsrecht beeinflussen und welche Rolle das KI-Gesetz der Europäischen Union in diesem Kontext spielt. Von der Automatisierung von Arbeitsabläufen bis hin zum Schutz persönlicher Daten werden wir beleuchten, wie Unternehmen diesen Herausforderungen begegnen können.
Versuch einer Europäischen Regulierung: Was ist der EU-AI-Act?
Anfang Dezember 2023 haben sich EU Parlament und EU Rat darauf geeinigt, ein Europäisches KI-Gesetz auf den Weg zu bringen. Der European Artificial Act – kurz EU-AI-Act – markiert damit einen bedeutenden Schritt in Richtung Regulierung im Aufstreben der KI in der Arbeitswelt. Die Initiative reflektiert die wachsende Sensibilität gegenüber den potenziellen Risiken und Herausforderungen, denen sich Gesellschaften stellen müssen, wenn sie KI in ihren Arbeitsalltag integrieren. Der EU-AI-Act zielt darauf ab, ein ausgewogenes Verhältnis zwischen der Förderung von Innovationen im Bereich KI und dem Schutz sowie der Sicherheit der Bürger, Arbeitnehmer und Verbraucher zu schaffen. Es geht darum, das Vertrauen in die KI zu stärken, Grundrechte zu sichern und Haftungsfragen zu klären.
DIE WICHTIGSTEN PUNKTE DES EU-AI-ACTS UMFASSEN:
Der Act unterteilt KI-Systeme in verschiedene Kategorien basierend auf ihrem Risikopotenzial, von verbotenen Systemen über Hochrisiko- bis hin zu Niedrigrisiko-Anwendungen:
- Verbotene KI-Systeme umfassen Praktiken, die als eine unmittelbare Bedrohung für die grundlegenden Rechte der Menschen angesehen werden. Sie zielen darauf ab, Menschen zu manipulieren oder zu täuschen, wie beispielsweise Deep Fake-Technologien für betrügerische Zwecke. Bewertungssysteme, so genannte „Social Scorings“, die Menschen anhand ihres Verhaltens oder ihrer Meinungen bewerten und daraufhin soziale oder wirtschaftliche Konsequenzen ziehen, ohne angemessene Transparenz oder Kontrolle zu gewährleisten, gehören dazu. Auch Diskriminierende Anwendungen, die aufgrund von geschützten Merkmalen wie Rasse, Geschlecht oder Religion diskriminierende Entscheidungen treffen, z.B. bei der Einstellung oder Kreditvergabe sowie KI-Systeme zur Manipulation von Wahlen, zählen ebenso zu den verbotenen KI-Systemen.
- Hochriskante KI-Systeme stellen bestimmte Risiken für die Rechte und Sicherheit der Menschen dar, wie zum Beispiel Gesundheits- oder Sicherheitsrisiken. Darunter fallen u.a. Medizinische Diagnose-Tools, die ohne menschliche Aufsicht entscheidende Gesundheitsdiagnosen stellen. Auch autonome Fahrzeuge, die im öffentlichen Verkehr eingesetzt werden, zählen dazu. Für KI-Systeme dieser Kategorie werden spezifische Anforderungen festgelegt, einschließlich Risikobewertung, Transparenz, Dokumentation, Datensicherheit, menschliche Aufsicht und Robustheit. Hersteller von Hochrisiko-KI-Systemen müssen zudem eine Konformitätsbewertung durchführen und sicherstellen, dass ihre Systeme den Anforderungen des Acts entsprechen.
- Niedrigrisiko-KI-Systeme: Begrenzt oder minimal riskante KI-Anwendungen können bestimmte Risiken mit sich bringen, aber nicht in dem Ausmaß wie hochriskante KI-Systeme. Beispiele sind KI-Systeme, die Emotionen erkennen oder manipulieren, personalisierte Werbung oder Inhalte anbieten, Chatbots für den Kundensupport, die vordefinierte Antworten auf häufig gestellte Fragen liefern oder Bilderkennungsalgorithmen, die Gesichter in Fotos markieren.
Der Gesetzentwurf zum European AI-Act vom 9. Dezember 2023 soll nach seiner endgültigen Finalisierung und Verabschiedung in EU Parlament und Rat noch in diesem Frühjahr in Kraft treten und voraussichtlich nach zwei Jahren, also 2026 zur Anwendung kommen.
Wie ist KI in HR Software nach dem EU-AI-Act einzuordnen?
KI in Ihren HR Softwaresystemen kann je nach ihren Merkmalen und potenziellen Risiken in unterschiedliche Kategorien nach der Klassifizierung des EU-AI-Act eingestuft werden. Typischerweise handelt es sich bei HR-Softwaresystemen um Anwendungen, die Datenverarbeitung und Entscheidungsunterstützung im Personalwesen ermöglichen. Viele HR-Softwaresysteme könnten als Niedrigrisiko-KI-Systeme eingestuft werden. Hier sind insbesondere administrative Aufgaben, wie die Verwaltung von Mitarbeiterdaten, die Abwicklung von Bewerbungsprozessen oder die Organisation von Schulungen und Weiterbildungsveranstaltungen zu nennen. Aber auch KI-Systeme, die Lebensläufe nach bestimmten Qualifikationsanforderungen scannen, Mitarbeiter motivieren, coachen oder schulen sowie KI-Systeme zur Messung von Mitarbeiterzufriedenheit und -Engagement, sind im Bereich begrenzter und minimal riskanter KI-Anwendungen einzuordnen.
Diese Systeme unterstützen, treffen jedoch keine finalen Entscheidungen und haben in der Regel einen begrenzten Einfluss auf individuelle Rechte und Freiheiten von Mitarbeitern und Kandidaten. Sie tragen daher ein niedriges Risiko für die Sicherheit und den Schutz von Personen.
In einigen Fällen könnten HR-Softwaresysteme als Hochrisiko-KI-Systeme eingestuft werden, insbesondere wenn sie für automatisierte Entscheidungen im Einstellungsprozess oder zur Leistungsbeurteilung von Mitarbeitern eingesetzt werden. Solche Systeme könnten potenziell schwerwiegende Auswirkungen auf die Rechte und Interessen der Mitarbeiter haben, wie etwa Diskriminierung oder unfaire Beurteilungen.
PFLICHTEN DER HR ABTEILUNG
Personalabteilungen sind beim Einsatz von Hochrisiko-KI-Anwendungen in der Pflicht, dass ihr Unternehmen den Anforderungen des EU-AI-Acts für diese Kategorie nachkommt. Das betrifft vor allem die Risikobewertung der Systeme und die Transparenz der KI-Anwendung hinsichtlich ihrer Nachvollziehbarkeit von Zielen und Grenzen, Funktionsweise und Risiken für ihre Nutzer. HR muss für die Datenqualität und -sicherheit der KI Sorge tragen und diese dokumentieren. Eine menschliche Überwachung der KI, die rechtzeitig eingreifen und korrigieren kann, wenn es erforderlich ist, muss sichergestellt sein. Zudem ist die technische Robustheit zu gewährleisten, das heißt sicherzustellen, dass die KI unter verschiedenen Bedingungen zuverlässig, störungs- und fehlerfrei funktioniert.
Doch bereits beim Einsatz von Niedrigrisiko-Systemen existieren grundlegende Sorgfaltspflichten, wie Transparenz durch Informationen über die KI und die Wahlfreiheit für ihre Nutzer, sich von den KI-Systemen abmelden können.
KI und Arbeitsrecht im Unternehmen: Aktuelle Gesetzeslage und Anwendungsfälle
Der Einsatz von KI am Arbeitsplatz berührt bereits die aktuelle Gesetzgebung und Rechtsprechung durch die Datenschutzgrundverordnung (DSGVO) und das Bundesdatenschutzgesetz (BDSG), durch die Vorgaben des Allgemeinen Gleichbehandlungsgesetzes (AGG) sowie den Arbeitsschutz. Gibt es im Unternehmen einen Betriebsrat, bestehen außerdem unterschiedliche Beteiligungsrechte. Unternehmen sind dazu verpflichtet, diese zu beachten, um die Rechte und Interessen ihrer Mitarbeiter zu schützen:
- Datenschutzrechtliche Anforderungen gemäß DSGVO und BDSG: Der Einsatz von KI-Systemen am Arbeitsplatz erfordert oft die Verarbeitung personenbezogener Daten. Arbeitgeber müssen sicherstellen, dass die Nutzung dieser Technologien den Datenschutzbestimmungen der DSGVO und des BDSG entspricht, insbesondere hinsichtlich der Datensicherheit, Transparenz und Rechtmäßigkeit der Datenverarbeitung.
- Diskriminierungsverbot nach dem AGG: Arbeitgeber müssen sicherstellen, dass KI-Systeme keine diskriminierenden Entscheidungen treffen, die auf geschützten Merkmalen wie Geschlecht, Alter, ethnische Herkunft oder Religion, Behinderung oder sexuelle Identität im Arbeitskontext basieren. Falls dennoch diskriminierende Auswirkungen auftreten, können Arbeitnehmer rechtliche Schritte gemäß dem AGG einleiten.
- Arbeitsschutzrechtliche Anforderungen: Der Einsatz von KI am Arbeitsplatz kann auch arbeitsschutzrechtliche Fragen aufwerfen. Arbeitgeber sind verpflichtet, die Gesundheit und Sicherheit ihrer Mitarbeiter am Arbeitsplatz zu gewährleisten, einschließlich des sicheren Umgangs mit neuen Technologien wie KI-Robotern oder autonomer KI-gesteuerter Ausrüstung.
- Mitbestimmung nach dem Betriebsverfassungsgesetz (BetrVG): Wenn der Einsatz von KI-Systemen am Arbeitsplatz Auswirkungen auf die Arbeitsbedingungen oder die Rechte der Arbeitnehmer hat, kann dies die Mitbestimmungsrechte der Arbeitnehmer gemäß dem BetrVG auslösen. Arbeitgeber müssen daher möglicherweise die Arbeitnehmervertretung rechtzeitig und umfassend informieren und gegebenenfalls Verhandlungen führen.
Bereits heute nutzen viele Unternehmen KI im Bewerbungsprozess. Zum Beispiel für die Onlinesuche nach geeigneten Kandidaten, für die Optimierung der Stellenausschreibung und Jobbezeichnungen, zur Aufbereitung und Sortieren der Unterlagen, für personalisierte Bewerberkommunikation, zur Prüfung formaler Voraussetzungen oder auch für die Anonymisierung von Bewerberdaten. Wie verhält es sich dabei mit den Persönlichkeitsrechten?
- Der Auswahlprozess darf nicht ausschließlich einer KI überlassen werden.
Eine KI lernt. Zum Beispiel auch, welche Bewerbungen bisher erfolgreich waren. Sie kann immer wieder bestimmte Personen auswählen, die sie aufgrund verschiedenster Merkmale verschiedenen Gruppen zuordnet. Dadurch könnte der Diskriminierungsgrundsatz bei Auswahlentscheidungen verletzt werden. Unternehmen müssen sicherstellen, dass KI-Algorithmen im Bewerbungsprozess nicht zu diskriminierenden Entscheidungen führen. Würde die KI eine Bewerbung so aufbereiten, dass ein Bewerber unmittelbar oder mittelbar wegen bestimmter Merkmale aus § 1 AGG abgelehnt wird, liegt ein Verstoß gegen das Benachteiligungsverbot gemäß § 7 I AGG vor. In der Folge entstünde ein grundsätzlicher Schadenersatzanspruch eines Bewerbers, der wegen eines nach § 1 AGG bestimmten Merkmals abgelehnt wird.
Kein Mensch darf also der alleinigen Entscheidung einer Maschine unterworfen sein. KI kann in der Praxis helfen, unter vorgegebenen Kriterien Kandidaten zu analysieren und eine Vorauswahl zu treffen. Entscheidend ist jedoch, dass der Arbeitgeber selbst diese Entscheidungsgrundlage prüft und die Letztentscheidung darüber trifft, ob und welcher Bewerber in Betracht kommt.
ANWENDUNGSFALL: CHATGPT AM ARBEITSPLATZ
Der Einsatz von Künstlicher Intelligenz am Arbeitsplatz ist in Deutschland unter Berücksichtigung oben bereits erwähnter Gesetze und Vorschriften grundsätzlich erlaubt. Und viele Unternehmen setzen bereits KI-gestützte Technologien ein, um verschiedene Aspekte ihrer Geschäftstätigkeit zu verbessern, einschließlich der Arbeitsprozesse. Wie steht es aber konkret um ChatGPT?
ChatGPT ist eine KI-Plattform, die auf natürliche Weise mit Benutzern interagiert. Diese KI nutzt ein breites Wissen und Verständnis, um auf vielfältige Anfragen zu antworten und sich an den Kontext der Konversation anzupassen. ChatGPT lernt kontinuierlich aus neuen Daten und Interaktionen, um seine Fähigkeiten zu verbessern und bessere Antworten zu generieren.
Der Arbeitgeber könnte daher die Nutzung erlauben oder untersagen (§ 106 GewO). Ist dies nicht geregelt, ist die Sachlage schwieriger. Die Lösung liegt eher in der Einzelfallbetrachtung und es stellt sich vor allem die Frage der persönlichen Leistungserbringung.
- Beispiel: Ein Journalist erstellt seine gesamten Texte mit ChatGPT:
- Beispiel: Ein Kfz Gutachter fasst seine Erkenntnisse und Aufzeichnungen mit Hilfe von ChatGPT in einem abschließenden Gutachten in Textform zusammen:
ANWENDUNGSFALL: KI-GESTÜTZTE SYSTEME ZUR ARBEITSLEISTUNGSBEWERTUNG
KI-Algorithmen können auch für die Leistungsbewertung der Mitarbeiter eingesetzt werden, z.B. basierend auf der Analyse von Produktivitätsdaten, Qualität der Arbeit oder Anwesenheitszeiten. Arbeitgeber müssen sicherstellen, dass solche Systeme den arbeitsschutzrechtlichen Anforderungen entsprechen, um die Rechte und die Privatsphäre der Mitarbeiter zu schützen.
So müssen Arbeitgeber ihre Mitarbeiter umfassend darüber informieren, dass KI-gestützte Systeme zur Leistungsbewertung eingesetzt werden und wie diese Systeme funktionieren. Die Mitarbeiter sollten das Recht haben zu wissen, welche Daten über sie gesammelt werden, wie diese verwendet werden und welche Auswirkungen dies auf ihre Arbeit haben kann. Darüber hinaus müssen Arbeitgeber sicherstellen, dass die Verarbeitung personenbezogener Daten durch KI im Einklang mit den Datenschutzbestimmungen steht und die Sicherheit und Vertraulichkeit der Daten gewährleistet ist. Die Mitarbeiter sollten das Recht haben, der Verwendung von KI-gestützten Leistungsbewertungssystemen zu widersprechen, wenn sie Bedenken hinsichtlich ihrer Auswirkungen auf ihre Rechte und ihre Privatsphäre haben. Arbeitgeber müssen die Mitbestimmungsrechte der Mitarbeiter gemäß dem Betriebsverfassungsgesetz (BetrVG) berücksichtigen, die Arbeitnehmervertretung muss daher in den Entscheidungsprozess einbezogen werden.
ANWENDUNGSFALL: KI UND ARBEITSRECHT IN DER PRODUKTION UND FERTIGUNG
Der Einsatz von KI automatisiert insbesondere in Produktions- und Fertigungsunternehmen viele Herstellungsabläufe. Vor allem KI-Roboter können repetitive oder gefährliche Aufgaben in der Fertigung übernehmen, wie z.B. das Zusammenbauen von Bauteilen, das Verpacken von Produkten oder das Bedienen von Maschinen. Dabei kommen auch kollaborative Roboter, so genannte Cobots zum Einsatz, die speziell für die Zusammenarbeit mit Menschen entwickelt wurden. Um die Gesundheit und Sicherheit der Arbeitnehmer zu gewährleisten, müssen Arbeitgeber sicherstellen, dass die KI-Roboter sicher und zuverlässig funktionieren.
Arbeitgeber müssen eine umfassende Risikobewertung durchführen, um potenzielle Gefahren zu identifizieren, die von den Robotern ausgehen könnten. Dies umfasst Aspekte wie Kollisionen mit den menschlichen Arbeitern, unerwartete Bewegungen oder Fehler im Betrieb.
Basierend auf der Risikobewertung müssen geeignete Sicherheitsvorkehrungen getroffen werden, um die Risiken zu minimieren. Arbeitgeber müssen im Rahmen des Arbeitsschutzes ihre Mitarbeiter zur sichere Nutzung der KI-Roboter schulen und regelmäßig unterweisen. Dies umfasst die Einweisung in die Bedienung der Maschinen, das Verhalten im Falle von Notfällen und die Sensibilisierung für potenzielle Gefahren. Und selbstverständlich müssen die Cobots regelmäßig gewartet und überprüft werden, um sicherzustellen, dass sie ordnungsgemäß funktionieren und den Sicherheitsstandards entsprechen.
Einführung von KI-Systemen: Mitbestimmungsrechte der Arbeitnehmervertretung
Der Betriebsrat in Deutschland hat verschiedene Rechte im Zusammenhang mit der Einführung von KI im Unternehmen. Diese Rechte sind im Betriebsverfassungsgesetz (BetrVG) festgelegt und dienen dazu, die Mitbestimmung der Arbeitnehmer zu gewährleisten und ihre Interessen zu schützen.
So ist der Arbeitgeber ist nach § 80 BetrVG verpflichtet, den Betriebsrat rechtzeitig und umfassend über die Einführung von KI im Unternehmen zu informieren. Dies umfasst Informationen über den Zweck, die Funktionsweise, die Auswirkungen und die geplante Umsetzung von KI-Systemen. Insbesondere, wenn die KI-Anwendung objektiv dazu geeignet ist, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen (siehe oben, Anwendungsfall KI und Arbeitsleistungsbewertung), kann bei der Einführung von KI-Anwendungen ein Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG bestehen.
Bevor der Arbeitgeber eine Entscheidung über die Einführung von KI trifft, muss er den Betriebsrat gemäß § 90 BetrVG anhören und seine Stellungnahme dazu einholen. Der Betriebsrat hat das Recht, Vorschläge zu machen und Bedenken zu äußern, die er im Zusammenhang mit der Einführung von KI hat. Ferner kann der Betriebsrat nach § 80 BetrVG die Einführung und Nutzung von KI im Unternehmen überwachen und sicherstellen, dass dabei die Rechte der Arbeitnehmer gewahrt bleiben und die gesetzlichen Vorschriften eingehalten werden.
Vorteile bei der Regulierung von KI im Sinne des Arbeitsrechts
Arbeitsrechtliche Regelungen und auch das zukünftige KI-Gesetz der EU bieten Unternehmen eine klare Orientierung und fördern einen verantwortungsvollen Umgang mit Künstlicher Intelligenz, was langfristig zu einer positiven Entwicklung im Unternehmen führen kann. Der rechtliche Rahmen definiert die Spielregeln zur Nutzung von KI. Das erhöht eine vertrauensvolle Nutzung, reduziert vielleicht sogar die Furcht vor der Technologie und verbessert somit die Akzeptanz. Gleichzeitig werden Unternehmen klare Leitlinien für den Umgang mit KI-gestützten Systemen am Arbeitsplatz, einschließlich Datenschutz, Diskriminierungsschutz und Mitbestimmungsrechten mitgegeben, um Risiken beim Einsatz von KI zu minimieren. Klare rechtliche Regelungen schaffen ein Umfeld, damit sich Unternehmen auf die Entwicklung und Implementierung innovativer KI-Lösungen konzentrieren können, ohne sich über unsichere rechtliche Konsequenzen Sorgen machen zu müssen. Das fördert Innovationen und Wettbewerbsfähigkeit.
Eigene Richtlinien im Umgang mit KI definieren
Unternehmen sind heute schon angehalten, ihre KI-Anwendungen genauer unter die Lupe zu nehmen und deren Standards nach bereits geltenden Gesetzesvorschriften zu bewerten. Das bietet zahlreiche Vorteile und Orientierung im Umgang mit KI. Fortschrittliche Unternehmen sollten sich nicht der KI verschließen, um wettbewerbsfähig zu bleiben. So kann ein Verbot, bspw. von ChatGPT, den Mitarbeitern gegenüber auch fehlendes Vertrauen oder Missbrauch suggerieren. Deshalb ist es ratsam, auch eigene, firmenspezifische Richtlinien im Umgang mit der KI zu definieren, anstatt es aus Sicherheitsgründen ganz zu verbieten.
KI bewegt in Zukunft weiter das Arbeitsrecht
Das Thema KI und Arbeitsrecht wird immer mehr Beachtung finden. Bereits jetzt müssen Unternehmen in Deutschland wichtige Anforderungen zum Datenschutz, zur Antidiskriminierung oder im Arbeitsschutz berücksichtigen, die auch auf den Einsatz von KI Anwendung finden. Zudem hat auch die Arbeitnehmervertretung in den Unternehmen bestimmte Mitbestimmungs- und Informationsrechte. In Zukunft kommen weitere Arbeitsrechtsthemen im Zusammenhang mit der Künstlichen Intelligenz auf Unternehmen zu. Neben dem EU-AI-Act, dem Gesetzentwurf der EU zu den Regeln und Standards für den Einsatz von KI auf europäischer Ebene, will auch die Bundesregierung mit dem neuen Bundesdatenschutzgesetz den Einsatz von KI weiter regulieren. Hiermit soll vor allem mehr Transparenz für die Beschäftigten geschaffen werden. Ein konkreter Gesetzentwurf liegt bisher noch nicht vor, Bundesministerium für Arbeit (BMAS) und Bundesinnenministerium (BMI) haben sich aber bereits auf ein gemeinsames Eckpunktepapier geeinigt.
Es bleibt spannend abzuwarten wann und wie sich die vorgestellten Vorhaben in der Praxis darstellen. Darüber hinaus werden sicherlich auch arbeitsrechtliche Entscheidungen zukünftig eine wichtige Rolle bei der Gestaltung entstehender Grenzen und Freiräume der KI Anwendung in Unternehmen spielen.
