Source: https://rechtinnovativ.online/ri-02-2019-dimartino-das-goldene-kalb-ki
Timestamp: 2020-01-25 02:12:27+00:00

Document:
Ri 02/2019: Dimartino – Das goldene Kalb KI – Recht innovativ
Das goldene Kalb KI
Herausforderungen beim Einsatz von KI in der Arbeitswelt
Maria Dimartino*
Die Arbeitswelt ist im Wandel. In allen Bereichen ist die fortscheitende Digitalisierung und Automatisierung spürbar. Veränderungen in der Arbeitswelt sind nicht unüblich, dennoch wird die Umstellung der Arbeitswelt auf das Zeitalter der Digitalisierung ein Wandel mit größeren Veränderungen und Auswirkungen – auch im Bereich Personal – sein. Doch was ist Künstliche Intelligenz (KI) und wie wirkt sich diese konkret auf die Arbeitswelt aus? Wird KI in Zukunft menschliche Entscheidungen gar ersetzen und wer überprüft das „goldene Kalb KI“? Was bedeutet KI für die arbeitenden Menschen?
Man ist sich zumindest darüber einig, dass es keine allgemeingültige Definition des Begriffs Künstliche Intelligenz (KI) oder engl. Artificial Intelligence (AI) gibt. Es wird teilweise unterschieden zwischen sog. „schwacher KI“ und sog. „starker KI“. Die schwache KI soll ein vom Menschen vorgegebenes Problem anhand von Menschenvorgaben lösen.[1] Schwache KI wird bereits vielerorts eingesetzt. Hierunter fallen: Software wie Text- und Spracherkennung, Navigationssysteme und digitale Assistenten (z.B. Alexa, Siri, Cortana und Co.). Sog. starke KI hingegen soll menschlicher Intelligenz vergleichbar sein und sowohl Problemfindung als auch -lösung selbständig vornehmen.[2] Diese Form der KI wird noch erforscht[3]. Allgemein kann man KI als Oberbegriff für Technologien verstehen, die sich aus großen Mengen gesammelter Daten speisen.
Angesichts der allgemein zu beobachtenden Betrachtung von KI als das neue „goldene Kalb“, weshalb für ihre Erforschung entsprechende Förderung diskutiert und angeboten wird,[4] liest und hört man überwiegend Positives zum Einsatz durch Beschäftigte: Körperlich anstrengende Arbeit soll einerseits reduziert werden. Andererseits soll KI Beschäftigte bei repetitiver und monotoner Tätigkeit unterstützen, v.a. um eine einheitliche Qualität sicherzustellen. Die skizzierten Anwendungsszenarien gehen jedoch weit darüber hinaus:
Bewerberauswahl und Personalverwaltungssoftware
Assessmentcenter und Recruiter sollen bald der Vergangenheit angehören. Erste Pilotprojekte führten jedoch zu unbefriedigenden Ergebnissen: So wurde beispielsweise ein Computerprogramm für die Bewerberauswahl mit Informationen über passende Kandidatinnen und Kandidaten der Vergangenheit versehen. Weil in den Vergangenheit mehr Bewerber als Bewerberinnen eingestellt wurden, bewertete die Software Frauen als weniger geeignet. Um derartige Benachteiligung zu vermeiden, wird momentan durch sog. „discrimination-aware data-mining“ (DADM) und „fairness, accountability and transparency in machine learning“ (FATML) versucht, Diskriminierungsfreiheit in technische Systeme einzupflegen.[5]
Personalakten werden darüber hinaus zunehmend elektronisch geführt, Krankentage erfasst, die Pflicht zum betrieblichen Eingliederungsmanagement (BEM, § 167 Abs. 2 SGB IX) geprüft und entsprechende BEM-Akten geführt. Doch ungeachtet der Chancen elektronischer Aktenführung sind die innewohnenden Risiken, schon aufgrund mangelnder Vertrautheit mit etablierten Informationstechnologien, kaum präsent.
(Teil-) Automatisierte Werkshallen
In der sog. Industrie 4.0 sollen Fertigungsprozesse in Werkshallen, die aktuell noch von zahlreichen Beschäftigten vorgenommen werden, in einzelne Arbeitsschritte zerlegt und automatisiert werden. Die Vorstellung geht dahin, dass etwa eine Werkshalle mit 50 Beschäftigten zukünftig, dank Automatisierung und Einsatz von Robotern, nur noch von drei Beschäftigten betrieben wird, welche die Maschinen überwachen und warten.[6] Der Wartungsaufwand vor Ort wird schon heute erkennbar reduziert und der Vorgang durch Fernwartung abgelöst.
KI soll ebenfalls zu einer Verbesserung des Leistungsangebots im medizinischen Bereich beitragen. So können neue datenbasierte Technologien die Ärztin und den Arzt bei der Diagnose sowie Therapieauswahl unterstützen. In der Pflege sollen intelligente Betten die optimale Lage für Patientinnen und Patienten vorgeben und diese aufgrund schneller erkennbarer Auffälligkeiten zügiger versorgt werden können. Intelligente Fußböden sollen sogar Stürze melden können.[7] Allerdings wird die Entlastung der Ärzte und Ärztinnen sowie Beschäftigten von neuen Anforderungen an sie selbst begleitet:
Bedeutung für Beschäftigte und Arbeitgeber
Nicht alle Anforderungen können und müssen sie selbst erfüllen. Nicht jeder muss Programmieren lernen und können. Vielmehr bringt die Digitalisierung einen Wandel der Berufswelt als Ganzes mit sich. Alte Berufsbilder verändern sich, neue kommen hinzu. Die mit den neuen Anforderungen entstehenden Berufsgruppen setzen mehr Kenntnisse in der Informationstechnik als handwerkliches Geschick voraus. Doch obwohl der Zugang zur Weiter-(Bildung) noch nie so einfach war wie heute, fehlt das Bewusstsein, dass ein lebenslanges Lernen und Flexibilität das Kapital der Beschäftigten sind. Daher ist es wichtig, Beschäftigte frühzeitig auf die Umstellungen vorzubereiten und den neuen Anforderungen entsprechend zu qualifizieren. Dieser Gedanke findet sich auch im neuen Qualifizierungschancengesetz[8] wieder. Der lebenslange Lernprozess muss aktiv durch den Arbeitgeber unterstützt werden, z.B. durch eine regelmäßige Ermittlung des Qualifizierungsbedarfs (zusammen mit dem Betriebsrat) und die Schaffung sowie Aktualisierung von Fortbildungsangeboten für Beschäftigte. Während der Arbeitszeit muss den Beschäftigten nicht zuletzt die Zeit für Fortbildung eingeräumt werden, z.B. um E-Learning-Angebote des Unternehmens nutzen zu können.
KI und Datenschutz – scheinbar unvereinbar
Die wesentliche Herausforderung ist und bleibt der Datenschutz bei dem Einsatz von datenbasierter KI: Gerade in der Arbeitswelt, Medizin und Pflege geht es um Menschen und damit um personenbezogene Daten. Die Grundsätze der Datenminimierung und Datensparsamkeit, Transparenz und Zweckbindung (vgl. Art. 5 Datenschutzgrundverordnung, DSGVO) scheinen kaum mit den Zielen der Unmengen von Daten benötigenden KI vereinbar zu sein. Zudem steht zu befürchten, dass bei hochkomplexen Systemen basierend auf sog. Machine Learning nur noch das Ergebnis überprüfbar sein wird, nicht jedoch der Weg zu diesem Ergebnis. Man spricht in diesem Zusammenhang auch von einer sog. “Blackbox KI“. Diskutiert wird derzeit die Rechtspflicht zur Schaffung sog. Nachvollziehbarkeit.[9]
Art. 35 DSGVO fordert bei der Verwendung neuer Technologien eine Datenschutz-Folgenabschätzung. Hier stellt sich die Frage, wie ein solche Folgenabschätzung realistisch durchgeführt werden kann, wenn die Einzelheiten einer Technologie nicht überprüf- und nachvollziehbar sind. Eine systematische Beschreibung der geplanten Verarbeitungsvorgänge nach Art. 35 Abs. 7 lit. a DSGVO erscheint so unmöglich.
Es bleibt festzuhalten, dass es vor dem Schritt zum datenschutzrechtskonformen Einsatz noch erheblicher Fortschritte in der Entwicklung von nachvollziehbarer KI bedarf.
Mitbestimmung und KI
Neben der Anpassung des Menschen an die Anforderungen und Bedingungen der zunehmenden Digitalisierung ist die Anpassung der Gesetze, insbesondere im Bereich des Betriebsverfassungsrechts, zu prüfen. Der mit dem Einsatz von KI verfolgten körperlichen Entlastung von Beschäftigen stehen beispielsweise die belastenden (psychischen) Auswirkungen von Dauererreichbarkeit und E-Mail-Flut entgegen. Letztere haben gezeigt, dass Beschäftige hierdurch nicht unbedingt produktiver werden.[10] Trotz Digitalisierung und vermeintlicher Entlastung der Beschäftigten stiegen die krankheitsbedingten Fehltage in 2018 sogar auf ein Rekordhoch.[11] Hier zeigt sich, dass auch der Einsatz von KI ganzheitlich betrachtet werden muss.
Dem Betriebsrat kommen bereits jetzt weitreichende Rechte bei der Einführung und Benutzung von technischen Einrichtungen zu. Seine Befugnisse ergeben sich insbesondere aus den § 80 BetrVG, § 87 Abs.1 Nr. 6, 7 BetrVG; § 111 BetrVG; § 12 ArbSchG. Damit der Betriebsrat seine Rechte ausüben kann, ist seine frühzeitige Unterrichtung und Beteiligung erforderlich. Daneben muss auch den Betriebsräten die notwendige Fortbildung ermöglicht werden.
Die Chancen und Herausforderungen von KI in der Arbeitswelt sind vielfältig, noch nicht absehbar und lassen sich nur durch Information, Fortbildung, Kommunikation und Kooperation der Akteure meistern. Auch das Recht darf der Forschung nicht hinterherhinken. Dabei ist zu berücksichtigen, dass nicht nur die KI der Erforschung und Entwicklung bedarf, sondern auch die Entwicklung des Menschen im Zusammentreffen und Zusammenwirken mit KI erforscht werden muss. KI soll schlussendlich immer dem Menschen dienen und ihm nicht schaden. Denn die Menschen sind es, die ein Unternehmen am Leben halten.
* Rechtsanwältin Maria Dimartino, Mörlenbach, berät im Bereich Arbeitsrecht und Beschäftigtendatenschutz. Dimartino ist u.a. Lehrbeauftragte an der SRH Hochschule Heidelberg und ist Mitglied in der Arbeitsgemeinschaft Arbeitsrecht des DAV.
[1] Vgl. Otto, Ri 2018, 68 (72).
[2] Vgl. Otto, Ri 2018, 68 (72).
[3] Zur Definition vgl. Vorwort „Strategie Künstliche Intelligenz der Bundesregierung“, Stand Nov. 2018 www.ki-strategie-deutschland.de.
[4] Bundesregierung stärkt die Förderung Künstlicher Intelligenz mit zusätzlichen 500 Millionen Euro, Gemeinsame Pressemitteilung der Bundesregierung vom 23. Mai 2019, https://www.bmwi.de/Redaktion/DE/Pressemitteilungen/2019/20190523-bundesregierung-staerkt-die-foerderung-kuenstlicher-intelligenz.html (zuletzt abgerufen am 11. April 2019).
[5] Vgl. https://www.wissenschaftsjahr.de/2019/neues-aus-der-wissenschaft/das-sagt-die-wissenschaft/ki-genderfragen-und-diskriminierungen/ (zuletzt abgerufen am 11. April 2019).
[6] Vgl. Diese und weitere Anwendungsszenarien auf: www.plattform-lernende-systeme.de (zuletzt abgerufen am 11. April 2019).
[7] Vgl. Publikationen: www.plattform-lernende-systeme.de/publikationen.html (zuletzt abgerufen am 11. April 2019)., Stand 3. Juli 2019.
[8] BGBl, 2018 Teil I Nr. 48, S. 2651 ff, https://www.bgbl.de/xaver/bgbl/start.xav?startbk=Bundesanzeiger_BGBl&jumpTo=bgbl118s2651.pdf#__bgbl__%2F%2F*%5B%40attr_id%3D%27bgbl118s2651.pdf%27%5D__1564836009567 (zuletzt abgerufen am 11. April 2019).
[9] Vgl. Otto, Ri 2018, 136 ff.
[10] Vgl. https://www.baua.de/DE/Angebote/Publikationen/Praxis/Gs20.html (zuletzt abgerufen am 11. April 2019).
[11] TK-Gesundheitsreport 2019: Fehlzeiten erreichen Rekordniveau, Pressemitteilung der Techniker Krankenkasse vom 18. April 2019, https://www.tk.de/presse/themen/praevention/tk-gesundheitsreport-2019-fehlzeiten-erreichen-rekordniveau-2062368 (zuletzt abgerufen am 11. August 2019).

References: § 167
 Art. 5

Art. 35
 Art. 35
 § 80
 § 87
 § 111
 § 12