Stellungnahme des Europäischen Wirtschafts- und Sozialausschusses zu „Künstliche Intelligenz: Antizipation ihrer Auswirkungen auf die Arbeit zur Gewährleistung eines gerechten Übergangs“

(Initiativstellungnahme)

(2018/C 440/01)

Berichterstatterin: Franca SALIS-MADINIER

Beschluss des Plenums 15.2.2018 Rechtsgrundlage Artikel 29 Absatz 2 der Geschäftsordnung Zuständige Fachgruppe Fachgruppe Binnenmarkt, Produktion, Verbrauch Annahme in der Fachgruppe 4.9.2018 Verabschiedung auf der Plenartagung 19.9.2018 Plenartagung Nr. 537 Ergebnis der Abstimmung (Ja-Stimmen/Nein-Stimmen/Enthaltungen) 183/1/2

1. Schlussfolgerungen und Empfehlungen

1.1. Künstliche Intelligenz (KI) und Robotik werden die Folgen der Digitalisierung der Wirtschaft für die Arbeitsmärkte ausweiten und verstärken ( 1 ) . Der technische Fortschritt hat seit jeher Auswirkungen auf Arbeit und Beschäftigung gezeitigt, wodurch neue Formen sozialer und gesellschaftlicher Rahmenbedingungen erforderlich wurden. Der Europäische Wirtschafts- und Sozialausschuss (EWSA) ist der Überzeugung, dass die technische Entwicklung einen Beitrag zum wirtschaftlichen und sozialen Fortschritt leisten kann. Es wäre jedoch falsch, die Gesamtauswirkungen auf die Gesellschaft zu vernachlässigen. In der Arbeitswelt wird die KI die Tragweite der Automatisierung von Arbeitsplätzen erhöhen und verstärken ( 2 ) . In diesem Sinne möchte der EWSA einen Beitrag zur Vorbereitung des gesellschaftlichen Wandels leisten, der mit dem zunehmenden Einsatz der KI und der Robotik einhergeht, indem er sich für eine Stärkung und Erneuerung des europäischen Sozialmodells einsetzt.

1.2. Der EWSA verweist auf das Potenzial der KI und ihrer Anwendungen, insbesondere in den Bereichen Gesundheitsversorgung, Verkehrs- und Energiesicherheit, Bekämpfung des Klimawandels oder Antizipation von Cybersicherheitsbedrohungen. Der Europäischen Union, den Regierungen und den Organisationen der Zivilgesellschaft kommt eine wichtige Rolle zu, wenn es darum geht, die potenziellen Vorteile der KI insbesondere für Menschen mit Behinderungen oder eingeschränkter Mobilität und ältere Menschen sowie chronisch Kranke in vollem Umfang zu nutzen.

1.3. Der EU mangelt es jedoch an Daten zur digitalen Wirtschaft und zum sozialen Wandel, den sie auslöst. Der EWSA empfiehlt eine Verbesserung der statistischen Instrumente und der Forschung, insbesondere zur KI, dem Einsatz von Industrie- und Dienstleistungsrobotern, dem Internet der Dinge sowie der neuen Geschäftsmodelle (Plattformwirtschaft, neue Beschäftigungs- und Arbeitsformen).

1.4. Der EWSA fordert die Europäische Kommission auf, Studien über die sektoralen Auswirkungen von KI und Robotik — und der Digitalisierung der Wirtschaft im Allgemeinen — auf der Ebene der europäischen Gremien des branchenspezifischen sozialen Dialogs zu fördern und zu unterstützen.

1.5. Es ist davon auszugehen, dass KI und Robotik zu einer Verlagerung und Veränderung von Arbeitsplätzen führen; einige Arbeitsplätze fallen weg, während andere geschaffen werden. In jedem Fall muss die EU im Einklang mit der europäischen Säule sozialer Rechte den Zugang aller Arbeitskräfte — Arbeitnehmer, Selbstständige oder Scheinselbstständige — zum Sozialschutz gewährleisten.

1.6. Die Kommission hat eine Aufstockung des Europäischen Fonds für die Anpassung an die Globalisierung vorgeschlagen, um insbesondere diejenigen Arbeitnehmer und Selbstständige zu unterstützen, die infolge der Digitalisierung der Wirtschaft entlassen wurden bzw. ihre Erwerbstätigkeit aufgegeben haben ( 3 ) . Der EWSA sieht hierin einen Schritt hin zur Schaffung eines echten Europäischen Fonds für den Übergang, der zu einer sozial verträglichen Steuerung des digitalen Wandels beitragen könnte.

1.7. integratives europäisches Programm für KI aus, das auf diesen Texten und der europäischen Säule sozialer Rechte fußt und bei dem alle Interessenträger einbezogen werden. Der EWSA empfiehlt, die in den bisher von den EU-Institutionen sowie von den Sozialpartnern angenommenen Texten genannten Grundsätze, Verpflichtungen und Auflagen in Hinblick auf die Unterrichtung und Anhörung der Arbeitnehmer insbesondere bei der Einführung neuer Technologien (u. a. KI und Robotik) ( 4 ) umzusetzen und zu stärken. Er spricht sich für einaus, das auf diesen Texten und der europäischen Säule sozialer Rechte fußt und bei dem alle Interessenträger einbezogen werden.

1.8. Der EWSA empfiehlt, in den ethischen Leitlinien für die KI, die die Kommission ausarbeiten wird, eine klare Grenze in der Interaktion Arbeitnehmer-intelligente Maschine abzustecken, sodass der Mensch nie zum Befehlsempfänger einer Maschine werden kann. Im Sinne einer integrativen KI sollten in diesen Leitlinien Grundsätze für die Beteiligung, die Zuständigkeiten und die Aneignung der Produktionsverfahren festgelegt werden, damit, wie es in der Verfassung der Internationalen Arbeitsorganisation heißt, die Arbeitnehmer bei ihrer Beschäftigung die Befriedigung haben können, ihre Fähigkeiten und Kenntnisse in vollem Umfang zu entfalten und das Beste zum Gemeinwohl beizutragen.

1.9. Der EWSA empfiehlt ferner, dass diese Leitlinien die Grundsätze der Transparenz bei der Nutzung von KI-Systemen für die Einstellung, Bewertung und Führung von Arbeitnehmern sowie im Bereich Arbeitsschutz und Arbeitsbedingungen mit einschließen. Schließlich müssen sie auch im Einklang mit den Grundsätzen der Nichtdiskriminierung den Schutz der Rechte und Freiheiten bei der Verarbeitung personenbezogener Daten von Arbeitnehmern gewährleisten.

1.10. Die Umsetzung der ethischen Leitlinien für die KI muss kontrolliert werden. Diese Aufgabe der Kontrolle oder Beaufsichtigung (auch unmittelbar in den Unternehmen) könnte eine europäische Beobachtungsstelle für Ethik in KI-Systemen übernehmen.

1.11. Der EWSA empfiehlt, für Ingenieure und Konstrukteure intelligenter Maschinen Bildungsmaßnahmen auf dem Gebiet der Ethik zu organisieren, damit sich keine neuen Formen eines digitalen Taylorismus etablieren, bei denen die Menschen bloß noch die Anweisungen intelligenter Maschinen zu befolgen haben. Die Verbreitung bewährter Verfahren und der Erfahrungsaustausch in diesem Bereich müssen gefördert werden.

1.12. Der EWSA fordert eine Klärung des Grundsatzes der gesetzlichen Haftung. In der Beziehung zwischen Mensch und Maschine neu auftretende Risiken für die Gesundheit und Sicherheit müssen mit einem ehrgeizigeren Ansatz im Rahmen der Richtlinie über Produkthaftung ( 5 ) angegangen werden.

1.13. Angesichts der Gefahr eines zunehmenden sozialen Ungleichgewichts infolge des digitalen Wandels fordert der EWSA die EU-Institutionen auf, eine Debatte über die Frage der Finanzierung der öffentlichen Haushalte und der Sozialsysteme in einer Wirtschaft einzuleiten, in der die Robotik-Dichte steigt ( 6 ) , während die Besteuerung der Arbeit nach wie vor die wichtigste Quelle für Steuereinnahmen in Europa ist. Im Sinne des Gerechtigkeitsprinzips sollte sich diese Debatte sinnvollerweise auch auf die Frage der Umverteilung der Gewinne aus der Digitalisierung beziehen.

2. Einleitung

2.1. Die KI hat sich seit dem Aufkommen dieses Konzepts im Jahr 1956 und während der gesamten zweiten Hälfte des 20. Jahrhunderts uneinheitlich entwickelt. Sie weckte immer wieder große Hoffnungen, führte aber ebenso zu großen Enttäuschungen. Seit einigen Jahren erlebt die KI jedoch einen neuen, erheblichen Aufschwung dank der Erhebung, Organisation und Speicherung einer in der Geschichte der Menschheit bisher einmaligen Menge an Daten ( Big Data ) sowie aufgrund der exponentiellen Zunahme der Rechenleistung der Computer und der Leistungsfähigkeit der Algorithmen.

2.2. Der EWSA hat 2017 eine umfassende Stellungnahme zum Thema KI ( 7 ) erarbeitet, in der darauf hingewiesen wird, dass es keine genaue Definition der KI gibt. Für die Zwecke dieser Stellungnahme wird die KI als Disziplin betrachtet, die darauf abzielt, die digitalen Technologien zur Schaffung von Systemen einzusetzen, die die kognitiven Fähigkeiten des Menschen eigenständig reproduzieren können. Dazu gehört insbesondere die Erfassung von Daten, eine Art von Verständnis und Anpassung (maschinelle Problemlösung, maschinelles Nachdenken und Lernen).

2.3. Die Systeme der KI können heute Probleme lösen, die so komplex sind, dass sie mitunter die menschliche Intelligenz überfordern. Es scheint potenziell unendlich viele Anwendungen zu geben, sowohl im Bank- und Versicherungswesen, in den Bereichen Verkehr, Gesundheitsversorgung, Bildung, Energie, Marketing und Verteidigung als auch in der Industrie, im Bauwesen, in der Landwirtschaft, im Handwerk usw ( 8 ) . Von der KI wird erwartet, dass sie die Effizienz der Prozesse zur Herstellung von Gütern und Erbringung von Dienstleistungen steigert, die Rentabilität der Unternehmen stimuliert und zu mehr Wirtschaftswachstum beiträgt.

2.4. Dieser neue Boom der KI wirft auch wieder viele Fragen in Bezug auf ihre potenzielle Rolle in der Gesellschaft, ihr Maß an Autonomie und ihre Interaktion mit dem Menschen auf. Wie in der Stellungnahme des EWSA von 2017 zum Thema KI ( 9 ) hervorgehoben wurde, beziehen sich diese Fragen insbesondere auf Ethik, Sicherheit, Transparenz, Privatsphäre und Arbeitsnormen, Bildung, Barrierefreiheit, Rechts- und Verwaltungsvorschriften, politische Steuerung und Demokratie.

2.5. Die verschiedenen Ansätze in der Debatte über KI müssen miteinander verwoben werden, um diese Debatte aus der rein wirtschaftlichen Perspektive herauszuholen, in der sie mitunter festgefahren ist. Ein solcher multidisziplinärer Rahmen wäre für die Analyse der Auswirkungen der KI auf die Arbeitswelt von Nutzen, da diese einer der Hauptorte der Interaktion zwischen Mensch und Maschine ist. Die Technik hat die Arbeit von jeher stark beeinflusst. Die Auswirkungen der KI auf Beschäftigung und Arbeit erfordern daher besondere Aufmerksamkeit auf politischer Ebene, da es zu den wesentlichen Aufgaben der Institutionen gehört, die Prozesse des wirtschaftlichen Wandels sozialverträglich zu gestalten ( 10 )

2.6. Mit dieser Initiativstellungnahme soll die Problematik der KI in Bezug auf die Arbeit beleuchtet werden, insbesondere ihre Beschaffenheit und Organisation sowie die Arbeitsbedingungen. Wie vom EWSA bereits unterstrichen ( 11 ) , bedarf es einer Verbesserung der Statistiken und der Forschung, um exakte Prognosen hinsichtlich der Entwicklung der Arbeitsmärkte zu erstellen sowie klare Indikatoren für bestimmte Trends etwa in Bezug auf die Qualität der Arbeit, die zunehmend ungleiche Verteilung der Arbeitsplätze und der Einkommen sowie die Arbeitsbedingungen im Rahmen des digitalen Wandels zu entwickeln. Der EU mangelt es an Daten zu der sogenannten kollaborativen Wirtschaft, den Plattformen zur Vermittlung von Arbeit auf Abruf, den neuen Modellen der Vergabe von Unteraufträgen im Internet sowie dem Einsatz von Industrie- und Dienstleistungsrobotern, dem Internet der Dinge und dem Einsatz und der Verbreitung von KI-Systemen.

3. KI und die Entwicklung des Beschäftigungsvolumens

3.1. Die Frage, wie sich die Einführung der KI und der Robotik in den Produktionsverfahren auf das Beschäftigungsvolumen auswirkt, ist umstritten. In zahlreichen Studien wurde versucht, diese Frage zu beantworten, ohne dass sich ein wissenschaftlich begründeter Konsens herausbildete. Die großen Schwankungen in den Ergebnissen (je nach Untersuchung reicht der Anteil der bedrohten Arbeitsplätze von 9 % bis 54 % ( 12 ) ) spiegeln die Komplexität der methodischen Ansätze und deren bestimmenden Einfluss auf die Forschungsergebnisse wider.

3.2. Die Prognosen sind eher vage, da neben dem technischen Potenzial zur Automatisierung auch weitere Faktoren zum Tragen kommen, etwa politische, regulatorische, wirtschaftliche und demografische Entwicklungen, aber auch die Frage der sozialen Akzeptanz. Dass die Technologie zur Verfügung steht, heißt noch nicht, dass sie eingesetzt und verbreitet wird.

3.3. Schließlich ist es nach wie vor unmöglich, vorherzusagen, wie viele Arbeitsplätze in den einzelnen Branchen unterm Strich automatisiert werden können, ohne den Wandel der Berufsbilder und das Tempo der Schaffung neuer Arbeitsplätze zu berücksichtigen. Voraussetzung für die Entwicklung von KI-Systemen ist nämlich die Schaffung neuer Arbeitsplätze in den Bereichen Ingenieurswesen, Informatik und Telekommunikation (Ingenieure, Techniker und Bedienungspersonal bzw. Betreiber), ebenso wie für die Verarbeitung von Massendaten (Big Data) — Datenbeauftragte ( data officers ), Datenanalysten ( data analysts ), „Datenentdecker“ ( data miners ) usw.

3.4. Die Rolle der öffentlichen Einrichtungen wird darin bestehen, die Sozialverträglichkeit dieses digitalen Wandels sicherzustellen, der sowohl die Quantität als auch die Qualität der Arbeitsplätze betreffen könnte ( 13 ) . Ein von den Fachleuten besonders herausgestelltes Risiko ist die Gefahr eines zunehmenden Ungleichgewichts der Beschäftigung zwischen den „Superstars“ auf der einen Seite, die über die erforderlichen Qualifikationen für die digitale Wirtschaft verfügen, und den „Verlierern“ auf der anderen Seite, deren Qualifikationen, Erfahrung und Fertigkeiten durch diesen Wandel schrittweise irrelevant werden. In ihrer jüngsten Mitteilung ( 14 ) schlägt die Europäische Kommission eine Reaktion auf diese Herausforderung vor, die sich im Wesentlichen auf die Aspekte Bildung, Aus- und Weiterbildung und Verbesserung der Grundkompetenzen in den Bereichen Schreiben, Lesen und Rechnen sowie der digitalen Kompetenzen bezieht. Diese Reaktion verdient die Unterstützung wirtschaftlichen und sozialen Interessenträger, etwa im Rahmen des sozialen Dialogs auf nationaler, europäischer, sektoraler und branchenübergreifender Ebene ( 15 )

3.5. Diese Bemühungen reichen jedoch nach Auffassung der EWSA als Reaktion auf die Herausforderungen nicht aus, insbesondere nicht als Antwort auf die Unsicherheit bezüglich des Wandels der Arbeitsplätze. In diesem Zusammenhang sollten drei einander ergänzende Denkrichtungen eingeschlagen werden: die einer „inklusiven“ KI, die der Antizipation des Wandels und schließlich — wenn Sozialpläne unvermeidlich werden — die der sozial verantwortbaren und geregelten Umstrukturierungen.

4. Inklusive und intelligente KI und Robotik

4.1. Programm der inklusiven KI und Robotik umgesetzt wird. Dies bedeutet, dass es bei der Einführung neuer Verfahren unter Einsatz der neuen Technologien in den Unternehmen sinnvoll ist, die Arbeitnehmer in die Funktionsweise dieser Verfahren entsprechend einzubinden. Wie der WRR Der EWSA befürwortet den Grundsatz, dass einumgesetzt wird. Dies bedeutet, dass es bei der Einführung neuer Verfahren unter Einsatz der neuen Technologien in den Unternehmen sinnvoll ist, die Arbeitnehmer in die Funktionsweise dieser Verfahren entsprechend einzubinden. Wie der WRR ( 16 ) vermerkt, kann die „inklusive und intelligente“ Einführung neuer Technologien, bei der die Arbeitnehmer weiterhin im Mittelpunkt der Prozesse stehen und an deren Verbesserung mitwirken, zur Verbesserung der Herstellungsverfahren beitragen ( 17 )

4.2. Da Algorithmen bei der Festlegung der Bedingungen für die Einstellung, Beschäftigung und Bewertung der Arbeitsleistung eine wichtige Rolle spielen, unterstützt der EWSA den Grundsatz der algorithmischen Transparenz . Dabei geht es nicht darum, die Codes zu enthüllen, sondern die Parameter und Kriterien, nach denen die Entscheidungen getroffen werden, verständlich zu machen. Ein menschliches Eingreifen muss jedoch noch möglich sein.

4.3. Eine arbeitnehmerzentrierte KI sorgt dafür, dass die Meinungen derer berücksichtigt werden, die im Rahmen der neuen technischen Verfahren arbeiten sollen, dass die Aufgaben und Verantwortlichkeiten, die in den Händen der Arbeitnehmer bleiben, klar festgelegt sind und dass sich den Arbeitnehmern weiterhin Möglichkeiten bieten, sich Formen der Arbeit anzueignen, damit sie nicht lediglich zu Ausführenden werden.

4.4. Haftung muss geklärt werden. Industrie- bzw. Dienstleistungsroboter arbeiten zunehmend mit dem Menschen zusammen. Die KI sorgt dafür, dass Roboter „aus ihren Käfigen herauskommen“, was zu Unfällen führen kann Der Grundsatz der rechtlichenmuss geklärt werden. Industrie- bzw. Dienstleistungsroboter arbeiten zunehmend mit dem Menschen zusammen. Die KI sorgt dafür, dass Roboter „aus ihren Käfigen herauskommen“, was zu Unfällen führen kann ( 18 ) . Daher müssen die Verantwortlichkeiten für autonome Systeme bei Unfällen klar festgelegt sein, und die Risiken für die Gesundheit und Sicherheit der Arbeitnehmer müssen gedeckt sein. Die Europäische Kommission stellt derzeit im Rahmen der Richtlinie über die Produkthaftung ( 19 ) Überlegungen zu diesen neuen Gefahren an. In Bezug auf den Arbeitsschutz ist jedoch ein ehrgeizigerer Ansatz notwendig.

4.5. Den Grundsatz der Fairness in der Welt der Arbeit einzuhalten, bedeutet, den Arbeitnehmer nicht des Bezugs zu seiner Arbeit zu berauben. Fachleute betonen die Gefahr, dass die KI zu einer gewissen Dequalifizierung der Arbeitnehmer beitragen könnte. Aus diesem Grund muss im Einklang mit den Bestimmungen der Verfassung der IAO dafür gesorgt werden, dass die Arbeitnehmer bei ihrer Beschäftigung die Befriedigung haben können, ihre Fähigkeiten und Kenntnisse in vollem Umfang zu entfalten und das Beste zum Gemeinwohl beizutragen. Aus unternehmerischer Sicht dient dies auch der Aufrechterhaltung der Arbeitsmotivation.

5. Antizipation des Wandels

5.1. In zahlreichen Studien wird eine Schwächung des europäischen — und teilweise auch des nationalen — sozialen Dialogs konstatiert, obwohl die Kommission und der Europäische Rat ihren Willen bekundet haben, diesen Dialog wieder in Schwung zu bringen. Dabei ist dieser soziale Dialog eines der am besten geeigneten Instrumente zur Bewältigung der sozialen Herausforderungen der Digitalisierung. Deshalb plädiert der EWSA nachdrücklich dafür, dass sich dieser Dialog in den Unternehmen und auf allen relevanten Ebenen einbürgert, um die Veränderungen sozialverträglich vorzubereiten. Der EWSA bekräftigt, dass der soziale Dialog zu den Garanten des sozialen Friedens und einer Verringerung der Ungleichheiten gehört. Die Organe der EU müssen über politische Erklärungen bezüglich einer Neubelebung hinausgehen und ihrer großen Verantwortung gerecht werden, den sozialen Dialog zu fördern und mit Inhalt zu füllen.

5.2. Gerade bei der Einführung dieser Technologien müssen durch diesen Dialog die Aussichten bezüglich der Umgestaltung der Produktionsverfahren in den Unternehmen und Branchen deutlich werden, ebenso wie die neuen Qualifikationsanforderungen sowie der Aus- und Weiterbildungsbedarf. Außerdem kann man sich bereits im Vorfeld Gedanken über den Einsatz der KI zur Verbesserung der organisatorischen Abläufe und der Produktionsverfahren, zur Weiterbildung der Arbeitnehmer und zur Optimierung der dank KI freigesetzten Ressourcen machen, um neue Produkte und Dienstleistungen zu entwickeln oder die Qualität des Kundendienstes zu verbessern.

5.3. Sozial verantwortliche Umstrukturierung

5.4. Orientierungsleitfaden für die Bewältigung des Wandels und dessen sozialer Konsequenzen Für den Fall, dass Sozialpläne unvermeidlich werden, besteht die Herausforderung in der sozialverträglichen Gestaltung der Umstrukturierungen. Wie die europäischen Sozialpartner in ihrem ( 20 ) ausgeführt haben, wird in zahlreichen Fallstudien darauf hingewiesen, wie wichtig es ist, alle möglichen Alternativen zu Entlassungen, wie Aus- und Weiterbildung, Umschulung und Unterstützung bei der Firmengründung, auszuloten.

5.5. Bei Umstrukturierungen muss im Einklang mit den einschlägigen europäischen Richtlinien ( 21 ) mittels Unterrichtung und Anhörung der Arbeitnehmer die Möglichkeit gewahrt werden, Risiken frühzeitig zu erkennen, den Zugang der Arbeitnehmer zur Fortbildung im Unternehmen zu fördern und bei gleichzeitiger Gewährleistung der Sicherheit die Arbeitsorganisation flexibler zu gestalten sowie die Arbeitnehmer stärker in die Unternehmensabläufe und in die Gestaltung der Zukunft des Unternehmens einzubeziehen.

5.6. Sozialschutz gewährleisten muss, „unabhängig von der Art und Dauer ihres Arbeitsverhältnisses“. Schließlich hebt die Kommission zu Recht hervor, dass die EU im Einklang mit der europäischen Säule sozialer Rechte ( 22 ) den Zugang aller Bürger — einschließlich der Beschäftigten und Selbstständigen bzw. Scheinselbstständigen — zumgewährleisten muss, „unabhängig von der Art und Dauer ihres Arbeitsverhältnisses“.

6. KI und die Veränderung der Arbeitsbedingungen

6.1. Am 25. April 2018 hat die Europäische Kommission ein europäisches Konzept zur Förderung der Maßnahmen für Investitionen in die Entwicklung von KI und zur Formulierung von Ethik-Leitlinien vorgeschlagen. Sie verweist auf das Potenzial für Veränderungen unserer Gesellschaften durch Technologien der KI etwa in den Bereichen Verkehr, Gesundheitswesen und verarbeitendes Gewerbe.

6.2. Dieses Potenzial für den Wandel kommt in den Produktionsverfahren zum Tragen und wirkt sich auch auf den Inhalt der Arbeit aus. Diese Auswirkungen können sich als positiv erweisen, insbesondere in Bezug auf die Frage, wie die KI diese Verfahren verbessern und die Qualität der Arbeit steigern kann. Die gleichen positiven Auswirkungen kann es bezüglich „flexibler“ Beschäftigungsformen geben, bei denen die Aufteilung der Entscheidungsbefugnis von größerer Bedeutung ist, ebenso wie die Autonomie der Teams, die Multifunktionalität, die horizontale Organisation und die innovativen und partizipativen Verfahren ( 23 )

6.3. Wie der EWSA ( 24 ) und die Kommission selbst hervorgehoben haben, kann die KI den Arbeitnehmern bei repetitiven, anstrengenden oder gar gefährlichen Aufgaben helfen, während einige Anwendungen der KI zur Verbesserung des Wohlergehens der Arbeitnehmer und zur Erleichterung ihres Alltags beitragen können.

6.4. Diese Vision wirft allerdings neue Fragen auf, vor allem im Hinblick auf das Zusammenspiel zwischen KI und Arbeitnehmer und die Veränderung des Inhalts der Arbeit. Inwieweit werden intelligente Maschinen in den Fabriken, Unternehmen und Büros autonom sein und welche Arten von Komplementarität mit menschlicher Arbeit wird es geben? Der EWSA betont, dass die Definition des Verhältnisses zwischen Mensch und Maschine in der neuen Arbeitswelt von entscheidender Bedeutung ist. Dabei ist ein Ansatz, dessen Schwerpunkt auf der Kontrolle des Menschen über die Maschine liegt, von grundlegender Bedeutung ( 25 )

6.5. Grundsätzlich ist es ethisch nicht vertretbar, dass ein Mensch unter der Kontrolle künstlicher Intelligenz steht oder als Befehlsempfänger einer Maschine angesehen wird, die ihm vorschreibt, welche Aufgaben er wie und innerhalb welcher Fristen zu erfüllen hat. Diese ethische Grenze wird anscheinend jedoch manchmal überschritten ( 26 ) . Deshalb sollte sie in den ethischen Leitlinien für die KI klar abgesteckt werden.

6.6. digitalen Taylorismus durch die Entwickler intelligenter Maschinen kommt. Wie der EWSA unlängst hervorgehoben hat, ist es daher unerlässlich, dass die europäischen Forscher, Ingenieure, Konstrukteure und Unternehmer, die an der Entwicklung und Vermarktung von KI-Systemen mitwirken, nach Kriterien der ethischen und sozialen Verantwortung handeln. Durch die Einbeziehung von Ethik und Geisteswissenschaften in den Ausbildungsgang für Ingenieure lässt sich diesem Gebot Rechnung tragen Die EU sollte vor allem sicherstellen, dass es in der heutigen Zeit nicht zu einer Reproduktion neuer Formen einesdurch die Entwickler intelligenter Maschinen kommt. Wie der EWSA unlängst hervorgehoben hat, ist es daher unerlässlich, dass die europäischen Forscher, Ingenieure, Konstrukteure und Unternehmer, die an der Entwicklung und Vermarktung von KI-Systemen mitwirken, nach Kriterien der ethischen und sozialen Verantwortung handeln. Durch die Einbeziehung von Ethik und Geisteswissenschaften in den Ausbildungsgang für Ingenieure lässt sich diesem Gebot Rechnung tragen ( 27 )

6.7. Eine weitere Frage betrifft die Überwachung und die Kontrolle durch das Management. Alle sind sich darin einig, dass es einer angemessenen Überwachung der Produktionsverfahren und damit auch der geleisteten Arbeit bedarf. Heute ermöglichen neue technische Instrumente potenziell den Einsatz intelligenter Systeme zur lückenlosen Echtzeitkontrolle der Arbeitnehmer, was die Gefahr einer unverhältnismäßigen Beaufsichtigung und Kontrolle birgt.

6.8. Die Frage nach der Angemessenheit und Verhältnismäßigkeit der Überwachung der zu leistenden Arbeit und der Leistungsindikatoren sowie nach der Vertrauensbeziehung zwischen dem Manager und dem kontrollierten Mitarbeiter ist ein Thema, das ebenfalls auf der Tagesordnung des sozialen Dialogs auf nationaler, europäischer, branchenübergreifender und sektoraler Ebene stehen sollte.

6.9. Die Frage voreingenommener Algorithmen und von „Trainingsdaten“ sowie die potenziell negativen Diskriminierungseffekte sind nach wie vor umstritten. Einerseits gibt es die Meinung, dass die Prognosealgorithmen und -software für die Rekrutierung von Personal die Diskriminierung bei der Einstellung verringern und „intelligentere“ Einstellungsverfahren fördern können. Andere sind der Ansicht, dass bei Rekrutierungssoftware stets die Gefahr besteht, dass diese „Rekrutierungsroboter“ — selbst unbeabsichtigt — die Voreingenommenheit der Entwickler widerspiegeln. Einige Fachleute sind der Ansicht, dass algorithmische Modelle nichts anderes sind und sein werden als mathematisch ausgedrückte Meinungen ( 28 ) . Daher muss dafür Sorge getragen werden, dass stets ein Einspruch bei einem menschlichen Ansprechpartner erhoben werden kann (im Einklang mit dem vorstehend genannten Grundsatz der Transparenz der Entscheidungskriterien) und dass die Erfassung und Verarbeitung von Daten den Grundsätzen der Verhältnismäßigkeit und der Zweckgebundenheit entspricht. In jedem Fall dürfen die Daten nicht zu anderen Zwecken verwendet werden als denen, für die sie erhoben wurden ( 29 )

6.10. Die den Mitgliedstaaten durch die Datenschutz-Grundverordnung eingeräumte Möglichkeit, per Gesetz oder durch Kollektivvereinbarungen spezifischere Vorschriften zur Gewährleistung des Schutzes der Rechte und Freiheiten hinsichtlich der Verarbeitung personenbezogener Beschäftigtendaten im Kontext eines Arbeitsverhältnisses vorzusehen, ist ein kräftiger Hebel, den die Mitgliedstaaten und die Sozialpartner nutzen sollten ( 30 )

6.11. An dieser Stelle ist darauf hinzuweisen, dass diese Gefahren nicht nur abhängig Beschäftige betreffen. Mit dem Aufkommen der elektronischen Vergabe von Unteraufträgen, des Arbeitens auf einer Plattform und der verschiedenen Formen der Schwarmarbeit (crowdworking) gehen ebenfalls neue Systeme der automatisierten Verwaltung von Leistung und Einsatzbereitschaft einher, bei denen allem Anschein nach bisweilen die ethischen Grenzen überschritten werden (Einschalten der Webcam des Arbeitnehmers durch die Plattform, ferngesteuerte Erstellung von Bildschirmfotos usw.).

6.12. Die Algorithmen dieser Plattformen, die unter anderem die Entlohnung des Selbstständigen, seinen Ruf im Netz und seine Möglichkeiten des Zugangs zu Aufträgen bestimmen, sind oftmals nicht transparent. Ihre Funktionsweisen werden den Arbeitnehmern nicht erläutert, die keinen Einblick in die Funktionskriterien haben, die auf sie angewandt werden.

7. Einen gerechten Übergang vorbereiten

7.1. Mittelfristig erfordert die von vielen Experten hervorgehobene Gefahr eines zunehmenden sozialen Ungleichgewichts eine Grundsatzdebatte über die Zukunft unserer Sozialmodelle sowie ihrer Finanzierung. Der EWSA fordert die Kommission zur Lancierung einer Debatte über die Frage der Besteuerung und der Finanzierung der öffentlichen Haushalte und der kollektiven Sozialschutzsysteme in einer Wirtschaft auf, in der die Robotik-Dichte rasant steigt ( 31 ) , während die Besteuerung der Arbeit nach wie vor die wichtigste Quelle für Steuereinnahmen in Europa ist. In dieser Debatte sollte auch die Frage der Umverteilung der Dividenden der Digitalisierung behandelt werden.

7.2. Die Kommission schlägt eine Aufstockung des Europäischen Fonds für die Anpassung an die Globalisierung (EGF) vor, um damit u. a. diejenigen Arbeitnehmer und Selbstständigen zu unterstützen, deren Arbeitsplatz infolge der Digitalisierung der Wirtschaft verloren geht bzw. die ihre Erwerbstätigkeit aufgegeben haben ( 32 ) . Der EWSA sieht hierin einen Schritt hin zur Schaffung eines echten Europäischen Fonds für den Übergang, der zu einer Antizipation und sozial verträglichen Steuerung des digitalen Wandels und der damit einhergehenden Umstrukturierungen beitragen könnte.

7.3. Die sozialen — und im weiteren Sinne gesellschaftlichen — Aspekte der KI sind in zunehmendem Maße Gegenstand von Debatten in den Mitgliedstaaten. Die jüngsten Diskussionen im britischen Parlament ( 33 ) und im französischen Senat haben gezeigt, dass es einer ethischen Herangehensweise an KI bedarf, die auf einer Reihe von Grundsätzen wie Lauterkeit, Transparenz, Nachvollziehbarkeit der algorithmischen Systeme, Ethik und Verantwortlichkeit für Anwendungen der KI sowie Sensibilisierung der Wissenschaftler, Sachverständigen und Fachleute hinsichtlich eines möglichen Missbrauchs der Ergebnisse ihrer Untersuchungen beruht. In Frankreich bemüht man sich im Villani-Bericht, der KI „einen Sinn zu verleihen“ ( 34 ) . Zahlreiche Experten der Universitäten Yale, Stanford, Cambridge und Oxford warnen vor „ungelösten Schwachstellen“ der KI und verweisen auf die zwingende Notwendigkeit, diese Probleme vorherzusehen, zu vermeiden bzw. abzuschwächen ( 35 ) . Auch der Forschungsfonds von Québec (FRQ) beschäftigt sich seit einigen Monaten in Zusammenarbeit mit der Universität Montreal mit einem Projekt für eine weltweite Beobachtungsstelle für die gesellschaftlichen Auswirkungen der KI und der Digitalisierung ( 36 )

7.4. All diese Initiativen zeigen, dass die Debatte über KI aus der rein wirtschaftlichen und technischen Perspektive herausgeholt werden muss. Die öffentlichen Diskussionen über die Rolle, die die Gesellschaft der KI insbesondere auch in der Arbeitswelt zuweisen will, müssen ausgeweitet werden. Durch solche Überlegungen kann vermieden werden, der „falschen Dichotomie“ zwischen einer völlig naiven und optimistischen Vision der KI und ihrer Auswirkungen und einer Schreckensvision zu erliegen ( 37 ) . Auch wenn die Lancierung dieser Debatte auf nationaler Ebene ein sinnvoller erster Schritt ist, kommt der EU jedoch ebenfalls eine Rolle zu, insbesondere bei der Entwicklung ethischer Leitlinien, mit der die Kommission bereits begonnen hat.

7.5. Mit der Umsetzung dieser Leitlinien sollte eine Beobachtungsstelle für die Ethik von KI-Systemen beauftragt werden. Es geht darum, die KI und ihre Anwendungen im Rahmen der Grundrechte in den Dienst des Wohlergehens und der Selbstbestimmung der Bürger und der Arbeitnehmer zu stellen und zu verhindern, dass sie direkt oder indirekt zum Verlust der Eigenverantwortung und Selbstständigkeit, zum Verlernen und zur Dequalifizierung der Arbeitnehmer beitragen. Der Grundsatz, dass der Mensch in allen Kontexten und eben auch im Rahmen der Arbeit an den „Schalthebeln“ sitzen sollte, muss konkrete Anwendung finden.

7.6. Dieser Grundsatz muss auch für andere Branchen wie die Gesundheitsberufe gelten, die Dienstleistungen erbringen, die einen starken Bezug zum Leben sowie zur Gesundheit, Sicherheit und Lebensqualität der Menschen haben. Nur durch strenge ethische Regeln kann sichergestellt werden, dass nicht nur die Arbeitnehmer, sondern auch die Verbraucher, Patienten, Kunden und diverse Dienstleister die Vorteile der neuen Anwendungen der KI in vollem Umfang nutzen können.

Brüssel, den 19. September 2018 Der Präsident des Europäischen Wirtschafts- und Sozialausschusses Luca JAHIER

(1) Acemoglu, D., Restrepo, P. (2018), „Artificial Intelligence, Automation and Work“, NBER-Arbeitspapier 24196, Januar 2018. Siehe auch: Conseil d’orientation pour l’emploi (2017), Automatisation, numérisation et emploi. (Band 1) (www.coe.gouv.fr).

(2) Acemoglu, D., op.cit.; Conseil d’orientation pour l’emploi (2017), op. cit.

(3) COM(2018) 380 final.

(4) Richtlinie 2002/14/EG; Gemeinsame Absichtserklärung der UNICE-EGB-CEEP über den sozialen Dialog und die neuen Technologien, 1985; Gemeinsamer Standpunkt der Sozialpartner zu den neuen Technologien, der Arbeitsorganisation und der Anpassungsfähigkeit des Arbeitsmarktes, 1991; Orientierungsleitfaden für die Bewältigung des Wandels und dessen sozialer Konsequenzen, 2003.

(5) COM(2018) 246 final.

(6) https://ifr.org/ifr-press-releases/news/robots-double-worldwide-by-2020.

(7) ABl. C 288 vom 31.8.2017, S. 1.

(8) Siehe insbesondere https://www.techemergence.com.

(9) ABl. C 288 vom 31.8.2017, S. 1.

(10) Eurofound (2018), Automation, digitalisation and platforms: Implications for work and employment, Amt für Veröffentlichungen der Europäischen Union, Luxemburg.

(11) ABl. C 13 vom 15.1.2016, S. 161.

(12) Frey und Osborne, 2013; Bowles, 2014; Arntz, Gregory und Zierahn, 2016; Le Ru, 2016; McKinsey, 2016; OECD, 2017; siehe auch die Sondierungsstellungnahme CCMI/136, (ABl. C 13 vom 15.1.2016, S. 161).

(13) http://www.oecd.org/employment/future-of-work/.

(14) COM(2018) 237 final.

(15) ABl. C 367 vom 10.10.2018, S. 15.

(16) Wetenschappelijke Raad voor het Regeringsbeleid (Wissenschaftlicher Beirat der niederländischen Regierung).

(17) https://english.wrr.nl/latest/news/2015/12/08/wrr-calls-for-inclusive-robot-agenda.

(18) Siehe die Arbeiten zum Thema „Aufkommende Risiken“ der Europäischen Agentur für Sicherheit und Gesundheitsschutz am Arbeitsplatz (https://osha.europa.eu/de/emerging-risks). Nach Ansicht der Agentur müssen „die aktuellen Ansätze und technischen Standards zum Schutz der Arbeitnehmer vor dem Risiko der Arbeit mit kollaborativen Robotern […] als Vorbereitung auf diese neuen Entwicklungen überprüft werden.“

(19) COM(2018) 246 final.

(20) Gemeinsamer Text von UNICE, CEEP, UEAPME und EGB, 16.10.2003.

(21) Richtlinie 2002/14/EG zur Festlegung eines allgemeinen Rahmens für die Unterrichtung und Anhörung der Arbeitnehmer in der Europäischen Gemeinschaft.

(22) ABl. C 303 vom 19.8.2016, S. 54; ABl. C 173 vom 31.5.2017, S. 15; ABl. C 129 vom 11.4.2018, S. 7; ABl. C 434 vom 15.12.2017, S. 30.

(23) ABl. C 434 vom 15.12.2017, S. 30.

(24) ABl. C 367 vom 10.10.2018, S. 15.

(25) ABl. C 288 vom 31.8.2017, S. 1, ABl. C 367 vom 10.10.2018, S. 15.

(26) In mehreren europäischen Medien wurde über die Arbeitsbedingungen in einigen Logistikzentren berichtet, in denen Arbeitnehmer in jeder Hinsicht von Algorithmen gesteuert werden, die ihnen vorgeben, welche Aufgaben sie erfüllen müssen und wieviel Zeit sie darauf verwenden dürfen, und in denen ihre Leistung in Echtzeit gemessen wird.

(27) ABl. C 367 vom 10.10.2018, S. 15.

(28) Cathy O’Neil, Harvard-Doktorandin und Datenwissenschaftlerin: „Models are opinions embedded in mathematics“ (https://www.theguardian.com/books/2016/oct/27/cathy-oneil-weapons-of-math-destruction-algorithms-big-data).

(29) Siehe u. a. die Studien der französischen Datenschutzbehörde CNIL „Comment permettre à l’homme de garder la main? Les enjeux éthiques des algorithmes et de l’intelligence artificielle“ (Wie kann der Mensch die Kontrolle behalten? Ethische Grundfragen der Algorithmen und der künstlichen Intelligenz),

https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf).

(30) Verordnung (EU) Nr. 2016/679 (Artikel 88).

(31) https://ifr.org/ifr-press-releases/news/robots-double-worldwide-by-2020.

(32) COM(2018) 380 final.

(33) https://www.parliament.uk/ai-committee.

(34) http://www.enseignementsup-recherche.gouv.fr/cid128577/rapport-de-cedric-villani-donner-un-sens-a-l-intelligence-artificielle-ia.html.

(35) https://www.eff.org/files/2018/02/20/malicious_ai_report_final.pdf.

(36) http://nouvelles.umontreal.ca/article/2018/03/29/le-quebec-jette-les-bases-d-un-observatoire-mondial-sur-les-impacts-societaux-de-l-ia/.

(37) Acemoglu, D., op. cit. Siehe auch Eurofound 2018, Automation, digitalisation and platforms: Implications for work and employment, Amt für Veröffentlichungen der Europäischen Union, Luxemburg, S. 23: „The risks comprise unwarranted optimism, undue pessimism and mistargeted insights“.