KI im Arbeitsrecht - Was bringt der AI Act der EU?

KI im Arbeitsrecht - Was bringt der AI Act der EU?

Die künstliche Intelligenz verändert unsere Welt grundlegend und wirkt sich auf fast alle Bereiche unseres Lebens aus, von unserer Arbeitsweise bis hin zu den Technologien, die wir im Alltag verwenden. Mit dem neuen AI Act der EU ist ein umfassender Rechtsrahmen zur Regulierung von KI am 01. August 2024 in Kraft getreten. Besonders im Bereich Arbeitsrecht werfen diese Regelungen viele Fragen auf. In diesem Newsletter beleuchten wir die Schnittstellen zwischen dem neuen AI Act und dem Arbeitsrecht und zeigen auf, welche Auswirkungen die Gesetzgebung auf den Arbeitsmarkt haben könnte.

1. Inhalt der Verordnung

Der AI Act wurde entwickelt, um auf die stark zunehmende und momentan nahezu unregulierte Verwendung von KI zu reagieren (Art. 1 AI Act). Das Ziel des AI-Acts ist es, Fortschritt und Entwicklung der Technologie zu ermöglichen, gleichwohl aber bestehende Risiken zu berücksichtigen und die Interessen der Nutzenden zu wahren. 

Die KI-Verordnung richtet sich an Anbieter und Betreiber von KI-Systemen (Art. 2, 3 AI Act). Arbeitgeber nutzen KI-Systeme regelmäßig als Betreiber, da sie fremdentwickelte KI-Systeme in eigener Verantwortung verwenden.

Der AI Act sieht einen risikobasierten Ansatz zur Regulierung von KI vor. Je höher das Risiko für die Gesundheit, Sicherheit oder Grundrechte ist, desto strenger sind die Vorgaben. Dabei stuft das KI-Gesetz die KI in verschiedene Risikostufen ein: unannehmbares Risiko, Hochrisikosysteme, begrenztes und minimales Risiko.

• 1. Unannehmbares Risiko (Art 5 AI Act): KI-Systeme sind gänzlich verboten, da eine Bedrohung für die Sicherheit und Grundrechte besteht (z.B. Social Scoring).
   
• 2. Hohes Risiko (Art 6 AI Act): KI-Systeme unterliegen strengen Auflagen und müssen umfangreiche Anforderungen erfüllen (Vorgaben wie Risikobewertungen, Dokumentationspflichten, EU-Konformitätserklärungen oder Monitoring auf Betreiberseite).
   
• 3. Begrenztes Risiko: für KI-Systeme gelten besondere Transparenzanforderungen (z.B. Chatbots).
   
• 4. Minimales Risiko: Systeme unterliegen den grundlegenden Anforderungen (z.B. Spamfilter).

Der HR-Bereich ist besonders vom neuen AI Act betroffen. Insbesondere bei der Analyse und Filterungen von Bewerbungen, Veröffentlichung gezielter Stellenanzeigen, Leistungsbewertung oder der Entscheidung über Beförderungen und Kündigungen ist Vorsicht geboten. Diese Systeme gelten oft als hochriskant, weshalb Arbeitgeber strenge Compliance-Vorgaben (Art. 26 AI Act) einhalten werden müssen.
 

2. To Dos für Sie als Arbeitgeber

Der AI Act trat am 01. August 2024 mit gestaffelten Übergangsfristen in Kraft und wird grundsätzlich in zwei Jahren, bis auf einige Ausnahmen, anwendbar sein (Art. 113 AI Act). Arbeitgeber sollten sich darauf vorbereiten und folgende Fristen beachten:

• Ab sofort (ab 01.08.2024): Sie als Arbeitgeber sollten zunächst alle im Unternehmen eingesetzten KI-Systeme identifizieren und klassifizieren, um anschließend die Risikostufe festzustellen.
   
• Innerhalb von 6 Monaten (Bis 31.01.2025): Innerhalb der ersten sechs Monate muss eine umfassende Risikoanalyse unter Berücksichtigung der Auswirkungen auf Sicherheit und Grundrechte aller identifizierten KI-System durchgeführt werden.
  Besonders müssen Sie als Arbeitgeber darauf achten, dass sie keine KI-Systeme mit unannehmbarem Risiko einsetzen, da diese ab dem 01.02.2025 verboten sind.
   
• Innerhalb von 12 Monaten (Bis 31.07.2025): Sie als Arbeitgeber müssen sicherstellen, dass die hochriskanten KI-Systeme robust, sicher und frei von Diskriminierung sind. Dies erfordert regelmäßige Tests und Audits sowie Anpassungen an den neuesten Sicherheitsstandards.
   
• Innerhalb von 18 Monaten (Bis 31.01.2026): Sie als Arbeitgeber müssen Transparenz sicherstellen, indem sie Mitarbeiter und Bewerber darüber informieren, wenn KI-Systeme zum Einsatz kommen. Es sollte klar kommuniziert werden, wie diese Systeme funktionieren und welche Daten verarbeitet werden.
   
• Kontinuierlich ab dem Inkrafttreten: 
  • Schulung und Sensibilisierung: Die Mitarbeiter müssen für die Nutzung von KI-Systemen geschult werden. Dabei bedarf es sowohl technische Schulungen als auch Sensibilisierungsmaßnahmen hinsichtlich Datenschutzes und Ethik im Umgang mit KI.
     
  • Überwachung und kontinuierliche Verbesserung: Die Einhaltung der Vorschriften des AI Act muss kontinuierlich überwacht werden. Arbeitgeber sollten ein System zur laufenden Bewertung und Verbesserung der eingesetzten KI-Systeme etablieren.
     
  • Dokumentation und Nachweisführung: Alle Maßnahmen zur Einhaltung sollten sorgfältig dokumentiert werden. Dies wird bei Kontrollen der Aufsichtsbehörde von entscheidender Bedeutung sein, da ansonsten Bußgelder bis zu 35 Millionen Euro drohen.
     

3. Beteiligung des Betriebsrats 

Möchten Sie als Arbeitgeber künstliche Intelligenz im Unternehmen nutzen, sollten Sie in jedem Fall den Betriebsrat beteiligen. 

• Sie als Arbeitgeber müssen den Betriebsrat bereits bei der Planung des Einsatzes von KI unterrichten und diesen mit ihm beraten, § 90 Abs. 1 Nr. 3 BetrVG.
   
• Der Betriebsrat hat ein Mitbestimmungsrecht beim Einsatz von KI (auch bei Richtlinien über die Nutzung), nach § 87 Abs. 1 Nr. 6 BetrVG.
   
• Der Betriebsrat kann zur Durchführung seiner Aufgaben einen Sachverständigen hinzuziehen.
   
• Der Betriebsrat ist bei der Aufstellung von KI gestützten Auswahlrichtlinien zu beteiligen.
   
• Der Betriebsrat muss sicherstellen, dass eingesetzte KI-Systeme die Datenschutzrichtlinien einhalten und überprüft die Transparenzmaßnahmen mithilfe der Informationspflicht des Arbeitgebers.
   
• Der Betriebsrat kann Schulungen und Informationsveranstaltungen initiieren.

In der Praxis empfiehlt es sich mit dem Betriebsrat eine entsprechende Rahmen-BV-IT zu entwickeln und diese regelmäßig zu aktualisieren

4. Fazit

Für Sie als Arbeitgeber in Deutschland und der gesamten EU bringt die KI-Verordnung neue Herausforderungen, aber auch Chancen mit sich. Dabei ist es wichtig, dass man als Arbeitgeber sich möglichst früh mit den Anforderungen auseinandersetzt, um rechtliche Risiken zu vermeiden und Sicherheit und Rechte der Mitarbeiter zu gewährleisten. Durch die Schaffung von klaren Standards kann das Potenzial von KI verantwortungsvoll ausgeschöpft werden.

Abzuwarten bleibt auch, wie ein nationales Durchführungsgesetz zum AI Act durch die Bundesregierung ausgestaltet wird. Arbeitgeber sollten neben der Vorbereitung auf die EU-Vorgaben die Entwicklungen auf nationaler Ebene aufmerksam verfolgen.

Im Überblick

• Der AI Act trat am 01.08.2024 mit gestaffelten Übergangsfristen ein, die zu beachten sind.
• Es wird ein risikobasierter Ansatz verfolgt, wonach je nach Risikostufe bestimmte Anforderungen zu erfüllen sind.
• Wichtig ist es den Betriebsrat zu beteiligen und eine Rahmen-BV-IT zu entwickeln.
• Mit einem guten Konzept können Sie als Arbeitgeber die neuen Herausforderungen meistern, Chancen nutzen und rechtliche Risiken vermeiden.