Inhalt: Darum geht's in diesem Beitrag
Künstliche Intelligenz zieht in Büros und Werkshallen ein – und stellt damit die Unternehmen vor rechtliche Herausforderungen. Was dürfen sie von ihren Mitarbeiterinnen und Mitarbeitern verlangen, wenn sich Jobprofile ändern? Wo liegen die Grenzen? Und wo lauern juristische Stolperfallen?
Was technisch möglich ist, ist noch lange nicht erlaubt. Wer Künstliche Intelligenz (KI) im Betrieb nutzt, sollte die Spielregeln kennen. So setzt das Arbeits- aber auch das Datenschutzrecht dem Einsatz von KI Grenzen. Weitere Bestimmungen finden sich etwa im EU-AI-Act, der im Mai 2024 verabschiedet wurde und ab August 2026 uneingeschränkt gilt.
Im Folgenden findest du die wichtigsten Regeln im Überblick.
Dürfen Arbeitnehmer KI für ihre Arbeit nutzen?
KI-Tools wie ChatGPT, Gemini oder Claude sind für viele Arbeitnehmer zu beliebten Hilfsmitteln geworden. In den oft mehrere Jahre alten Arbeitsverträgen ist der Umgang mit diesen Werkzeugen jedoch meist nicht geregelt. Was gilt?
Eine Antwort bietet das Bürgerliche Gesetzbuch (BGB): Demnach sind Angestellte verpflichtet, ihre Arbeitsleistung selbst zu erbringen und nicht an Dritte zu delegieren (§ 613 BGB). „Ein Lkw-Fahrer muss seine Ladung selbst transportieren und ich als Anwalt muss einen Schriftsatz selbst verfassen“, sagt Rechtsanwalt Patrick Daniel Zimmer, Partner bei der Rechtsanwaltskanzlei Noerr in München.
Allerdings sagt der Jurist auch: „Nach dem derzeitigen Stand der Technik ist eine KI kein Dritter und somit prinzipiell erlaubt.“ KI-Systeme würden als technisches Hilfsmittel eingestuft, vergleichbar mit einem Wörterbuch oder einem Taschenrechner.
Die Mitarbeitenden dürfen KI-Ergebnisse jedoch nicht ungeprüft übernehmen: „Der Kern der Arbeitsleistung muss weiterhin bei mir liegen“, erläutert der Arbeitsrechtsexperte Zimmer. Ein Anwalt könne KI etwa für die Recherche, als Formulierungshilfe oder zur Rechtschreibprüfung nutzen – aber er dürfe keinen kompletten Schriftsatz erstellen lassen.
Können Unternehmen KI im Job verbieten?
„Arbeitgeber haben die Hand darauf, welche Arbeitsmittel im Unternehmen erlaubt sind und welche nicht“, sagt Rechtsanwalt Zimmer. Dahinter steckt der Grundsatz, dass Unternehmen ihren Mitarbeitenden gegenüber ein Weisungsrecht haben.
Geregelt ist das in der Gewerbeordnung, wonach der Arbeitgeber Inhalt, Ort und Zeit der Arbeitsleistung bestimmt (§ 106 GewO). Das gilt auch für die Wahl der Arbeitsmittel. Unternehmen können also KI auf der Arbeit generell verbieten oder auch nur den Einsatz von bestimmten KI-Tools ausschließen.
KI-PolicyKann der Arbeitgeber vom Team verlangen, dass es KI nutzt?
Im Rahmen ihres Weisungsrechts können Unternehmen von ihren Mitarbeitenden auch verlangen, dass diese KI-Tools benutzen – sofern nicht im Arbeitsvertrag, in einer Betriebsvereinbarung oder im Tarifvertrag eine andere Regelung getroffen wurde.
Allerdings muss eine Weisung auch nach „billigem Ermessen“ zumutbar sein (§ 106 GewO). Das bedeutet, dass der Arbeitgeber zum Beispiel berücksichtigen muss, wenn ein Mitarbeiter schon kurz vor dem Renteneintritt steht oder eine Behinderung hat.
„Wenn eine Weisung durch den Arbeitsvertrag gedeckt ist, kann ein Mitarbeiter, der sich weigert, KI zu verwenden, auch abgemahnt und – in letzter Konsequenz – sogar gekündigt werden“, sagt Arbeitsrechtsexperte Zimmer. Der Arbeitgeber hat dann das Recht, eine verhaltensbedingte Kündigung auszusprechen.
Was gilt für Unternehmen mit einem Betriebsrat?
Auch das Betriebsverfassungsgesetz spielt bei der Einführung von KI eine Rolle: „Alle Unternehmen, die einen Betriebsrat haben, müssen bei der Einführung von KI-Produkten doppelt aufpassen“, warnt Zimmer. Hier kommt das Kollektivarbeitsrecht ins Spiel.
Das Gesetz sieht immer dann ein Mitbestimmungsrecht vor, wenn eine „technische Einrichtung“ geeignet ist, die Leistung oder das Verhalten von Mitarbeitenden zu überwachen (§ 87 Absatz 1 BetrVG). Das ist bei Software, Clouddiensten oder KI-Systemen fast immer der Fall.
„Unternehmen müssen sich deshalb mit dem Betriebsrat auf eine Lösung einigen“, sagt Zimmer. Der Rechtsanwalt empfiehlt, zunächst eine Bestandsaufnahme zu machen, welche IT-Systeme zum Einsatz kommen sollen, und dann über das Gesamtpaket zu beraten.
Welche Pflichten haben Unternehmen, die KI verwenden?
Neben den Regelungen, die sich aus dem Individual- und Kollektivarbeitsrecht ergeben, hat der Gesetzgeber mit der KI-Verordnung (auch EU-AI-Act) Unternehmen zusätzlich besondere Pflichten im Umgang mit Künstlicher Intelligenz auferlegt.
Die Verordnung unterteilt KI-Anwendungen nach dem Risiko, das sie mit sich bringen, in KI-Systeme mit
- minimalem Risiko (unreguliert),
- begrenztem Risiko (Transparenzpflichten),
- hohem Risiko (streng reguliert) und
- inakzeptablem Risiko (verboten).
KI-Systeme mit minimalem Risiko sind zum Beispiel einfache Spam-Filter. Hier gibt es keine gesetzlichen Auflagen. Bei KI-Systemen mit begrenztem Risiko wie Chatbots besteht eine Transparenzpflicht (Art. 50 KI-VO), damit Nutzer wissen, dass sie mit einer KI interagieren.
Als Hochrisiko-Systeme stuft das Gesetz etwa Software zur Steuerung kritischer Infrastruktur ein oder solche zur Bewerberauswahl. Hier gelten besonders strenge Sicherheitsregeln und Informationspflichten gegenüber den Arbeitnehmern. Verboten sind KI-Systeme mit unannehmbar hohen Risiken – wie Bots zur Verhaltensbeeinflussung oder Social-Scoring-Modelle zur Mitarbeiterbewertung.
Außerdem sieht die Verordnung eine Pflicht zur KI-Schulung vor: Wenn Unternehmen KI einsetzen, müssen sie ihre Mitarbeitenden über Risiken aufklären und in der Anwendung ausbilden. „Dafür gibt es zahlreiche externe Dienstleister“, sagt Zimmer. Unternehmen können die Schulungen aber auch selbst organisieren.
Dürfen Unternehmen KI im Personalbereich einsetzen?
Einstellungen, Beförderungen, Kündigungen – all das sind sensible Entscheidungen im Personalbereich, die theoretisch mit der Hilfe von KI vorbereitet werden können. Doch ist das überhaupt erlaubt?
Die KI-Verordnung stuft solche KI-Anwendungen im Personalbereich als Hochrisiko-Systeme ein – Arbeitgeber müssen den Einsatz daher immer transparent machen und genau dokumentieren (Art. 11 KI-VO) und die Funktionsweise laufend kontrollieren (Art. 26 KI-VO).
Das Allgemeine Gleichbehandlungsgesetz (AGG) verbietet jegliche Form der Diskriminierung etwa wegen des Geschlechts, des Alters oder der ethnischen Herkunft (§ 1 AGG). „Besonders in der Anfangszeit der KI hat diese – aufgrund von Verzerrungen in den Daten – junge, männliche und weiße Bewerber bevorzugt“, erläutert Zimmer. Unternehmen müssen sicherstellen, dass dies nicht passiert.
Die Datenschutzgrundverordnung (DSGVO) regelt zudem, dass Entscheidungen mit erheblichen Folgen für die Betroffenen niemals ausschließlich automatisiert getroffen werden (Art. 22 Abs. 1 DSGVO). Einen Bewerber nur auf der Grundlage einer KI-Einstufung abzulehnen, wäre also unzulässig.
Gleiches gilt für andere Vorgänge im Personalbereich – wie Beförderungen oder Gehälter: „KI kann genutzt werden, um Entscheidungen vorzubereiten, aber entscheiden selbst muss immer der Mensch“, sagt Zimmer.
Welche Datenschutz-Regeln gelten für die Arbeit mit KI?
Aus der Datenschutzgrundverordnung lassen sich noch weitere Auflagen ableiten. „Eine KI-gesteuerte Datenverarbeitung muss den gleichen Anforderungen genügen, wie jede andere Form der Datenverarbeitung auch“, sagt Zimmer. Das gilt für die Daten von Mitarbeitenden, aber auch für Kundendaten.
Das bedeutet: Bei personenbezogenen Daten braucht es immer einen Grund für die Verarbeitung (Art. 6 Abs. 1 DSGVO). Betroffene müssen informiert werden, wenn ihre Daten gespeichert oder verarbeitet werden. Und: Nicht mehr benötigte Daten müssen gelöscht werden.
Es ist generell empfehlenswert, in den großen Sprachmodellen wie Gemini oder ChatGPT Daten nur anonymisiert zu verarbeiten. Eine Alternative dazu ist es, ein KI-Sprachmodell auf eigenen Servern zu betreiben oder für bestimmte Zwecke datenschutzkonforme KI-Tools zu verwenden.
Dürfen Arbeitgeber Beschäftigte kündigen, wenn KI den Job übernehmen könnte?
Künstliche Intelligenz verändert nicht nur die Art und Weise, wie Mitarbeitende ihre Aufgaben erledigen – manche Jobs werden auch komplett oder teilweise durch KI ersetzt. Können Arbeitgeber in solchen Fällen auch Kündigungen aussprechen?
Prinzipiell greift der Kündigungsschutz in allen Betrieben mit mehr als zehn Mitarbeitenden. Allerdings sieht das Kündigungsschutzgesetz die Möglichkeit vor, betriebsbedingte Kündigungen auszusprechen, wenn ein Arbeitsplatz aufgrund einer unternehmerischen Entscheidung wegfällt (§ 1 Abs. 2 KschG).
„Das gilt auch, wenn durch den Einsatz von KI künftig weniger Personal benötigt wird“, sagt der Arbeitsrechtsexperte Zimmer. Unternehmen mit einem Betriebsrat müssen allerdings auch hier die Mitbestimmungsrechte der Arbeitnehmervertreter beachten.
Auch eine Änderungskündigung ist denkbar, bei der dem gekündigtem Teammitglied eine Anschlussbeschäftigung in der Firma angeboten wird – allerdings mit einer veränderten Tätigkeitsbeschreibung im Arbeitsvertrag.
Was sollten Arbeitgeber jetzt tun?
Wenn Arbeitgeber wollen, dass Mitarbeitende KI nutzen, sollten sie den Umgang damit regeln: Wie können Geschäftsgeheimnisse bei der Arbeit mit KI geschützt werden? Wie lassen sich Urheberrechtsverletzungen oder Datenschutzverstöße vermeiden? Welche Haftungsrisiken gibt es und kann man diese begrenzen? „Das sind alles Fragen, die vom Arbeitgeber geregelt werden können und sinnvollerweise auch geregelt werden sollten“, sagt Zimmer.
Dafür sollten Unternehmen zunächst erfassen, wo Künstliche Intelligenz zum Einsatz kommt oder kommen soll, um im nächsten Schritt Richtlinien für den Umgang mit der KI zu entwickeln. Als impulse-Mitglied kannst du eine Mustervorlage mit Beispielformulierungen für eine solche KI-Policy hier herunterladen.
Patrick Daniel Zimmer ist Rechtsanwalt im Arbeitsrechtsteam der Kanzlei Noerr in München. Er berät Unternehmen unter anderem bei der Einführung von KI-Produkten – insbesondere mit Blick auf die Mitbestimmungsrechte der Arbeitnehmervertreter.
