P9_TA(2022)0140

Künstliche Intelligenz im digitalen Zeitalter

Entschließung des Europäischen Parlaments vom 3. Mai 2022 zur künstlichen Intelligenz im digitalen Zeitalter (2020/2266(INI))

(2022/C 465/06)

Das Europäische Parlament,

— gestützt auf die Artikel 4, 16, 26, 114, 169, 173, 179, 180, 181 und 187 des Vertrags über die Arbeitsweise der Europäischen Union,

— unter Hinweis auf die Charta der Grundrechte der Europäischen Union,

— unter Hinweis auf das Übereinkommen der Vereinten Nationen über die Rechte des Kindes und die Allgemeine Bemerkung Nr. 25 des Ausschusses der Vereinten Nationen für die Rechte des Kindes vom 2. März 2021 zu den Rechten des Kindes in Bezug auf das digitale Umfeld,

— unter Hinweis auf die Empfehlung der Organisation der Vereinten Nationen für Erziehung, Wissenschaft und Kultur (UNESCO) zu ethischen Fragen der künstlichen Intelligenz, die durch die Generalkonferenz der UNESCO bei ihrer 41. Tagung am 24. November 2021 angenommen wurde,

— unter Hinweis auf die Interinstitutionelle Vereinbarung vom 13. April 2016 über bessere Rechtsetzung (1) und die Leitlinien der Kommission für eine bessere Rechtsetzung,

— unter Hinweis auf die Mitteilung der Kommission vom 24. März 2021 mit dem Titel „EU-Kinderrechtsstrategie“(COM(2021)0142),

— unter Hinweis auf seine Entschließung vom 7. Oktober 2021 zum Stand der Fähigkeiten der EU im Bereich der Cyberabwehr (2),

— unter Hinweis auf seine Entschließung vom 15. Dezember 2021 zu den Herausforderungen und Chancen für multilaterale Systeme der Rüstungskontrolle und Abrüstung in Bezug auf Massenvernichtungswaffen (3),

— unter Hinweis auf die Verordnung (EU) 2016/679 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten, zum freien Datenverkehr und zur Aufhebung der Richtlinie 95/46/EG („Datenschutz-Grundverordnung“ (DSGVO)) (4),

— unter Hinweis auf die Verordnung (EU) 2021/694 des Europäischen Parlaments und des Rates vom 29. April 2021 zur Aufstellung des Programms „Digitales Europa“ und zur Aufhebung des Beschlusses (EU) 2015/2240 (5),

— unter Hinweis auf die Verordnung (EU) 2021/695 des Europäischen Parlaments und des Rates vom 28. April 2021 zur Einrichtung von „Horizont Europa“, dem Rahmenprogramm für Forschung und Innovation, sowie über dessen Regeln für die Beteiligung und die Verbreitung der Ergebnisse und zur Aufhebung der Verordnungen (EU) Nr. 1290/2013 und (EU) Nr. 1291/2013 (6),

— unter Hinweis auf den Vorschlag der Kommission für eine Verordnung des Europäischen Parlaments und des Rates vom 21. April 2021 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union (COM(2021)0206),

— unter Hinweis auf den Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates vom 25. November 2020 über europäische Daten-Governance (Daten-Governance-Gesetz) (COM(2020)0767),

— unter Hinweis auf die Verordnung (EU) 2018/1807 des Europäischen Parlaments und des Rates vom 14. November 2018 über einen Rahmen für den freien Verkehr nicht-personenbezogener Daten in der Europäischen Union (7),

— unter Hinweis auf die Verordnung (EU) 2021/697 des Europäischen Parlaments und des Rates vom 29. April 2021 zur Einrichtung des Europäischen Verteidigungsfonds und zur Aufhebung der Verordnung (EU) 2018/1092 (8),

— unter Hinweis auf die Richtlinie (EU) 2019/770 des Europäischen Parlaments und des Rates vom 20. Mai 2019 über bestimmte vertragsrechtliche Aspekte der Bereitstellung digitaler Inhalte und digitaler Dienstleistungen (9),

— unter Hinweis auf die Verordnung (EU) 2021/1173 des Rates vom 13. Juli 2021 zur Gründung des Gemeinsamen Unternehmens für europäisches Hochleistungsrechnen und zur Aufhebung der Verordnung (EU) 2018/1488 (10),

— unter Hinweis auf die Mitteilung der Kommission vom 25. April 2018 mit dem Titel „Künstliche Intelligenz für Europa“ (COM(2018)0237),

— unter Hinweis auf die Mitteilung der Kommission vom 7. Dezember 2018 zu einem koordinierten Plan für künstliche Intelligenz (COM(2018)0795),

— unter Hinweis auf die Mitteilung der Kommission vom 8. April 2019 mit dem Titel „Schaffung von Vertrauen in eine auf den Menschen ausgerichtete künstliche Intelligenz“ (COM(2019)0168),

— unter Hinweis auf das Weißbuch der Kommission vom 19. Februar 2020 mit dem Titel „Künstliche Intelligenz — ein europäisches Konzept für Exzellenz und Vertrauen“ (COM(2020)0065),

— unter Hinweis auf das Grünbuch der Kommission vom 27. Januar 2021 zum Thema „Altern — Förderung von Solidarität und Verantwortung zwischen den Generationen“ (COM(2021)0050),

— unter Hinweis auf die Mitteilung der Kommission vom 19. Februar 2020 mit dem Titel „Eine europäische Datenstrategie“ (COM(2020)0066),

— unter Hinweis auf die Mitteilung der Kommission vom 19. Februar 2020 über die Gestaltung der digitalen Zukunft Europas (COM(2020)0067),

— unter Hinweis auf die Mitteilungen der Kommission vom 10. März 2020 mit dem Titel „Eine neue Industriestrategie für Europa“ (COM(2020)0102) und vom 5. Mai 2021 mit dem Titel „Aktualisierung der neuen Industriestrategie von 2020: einen stärkeren Binnenmarkt für die Erholung Europas aufbauen“ (COM(2021)0350),

— unter Hinweis auf die Mitteilung der Kommission vom 30. September 2020 mit dem Titel „Aktionsplan für digitale Bildung 2021–2027 — Neuaufstellung des Bildungswesens für das digitale Zeitalter“ (COM(2020)0624),

— unter Hinweis auf die Mitteilung der Kommission vom 9. März 2021 mit dem Titel „Digitaler Kompass 2030: der europäische Weg in die digitale Dekade“ (COM(2021)0118),

— unter Hinweis auf den Vorschlag für einen Beschluss des Europäischen Parlaments und des Rates vom 15. September 2021 über das Politikprogramm für 2030 „Weg in die digitale Dekade“ (COM(2021)0574),

— unter Hinweis auf die Studie der Kommission vom 28. Juli 2020 mit dem Titel „European enterprise survey on the use of technologies based on artificial intelligence“ (Umfrage unter europäischen Unternehmen zum Einsatz von KI-gestützten Technologien),

— unter Hinweis auf die Studie der Kommission vom 26. November 2020 mit dem Titel „Energy-efficient Cloud Computing Technologies and Policies for an Eco-friendly Cloud Market“ (Energieeffiziente Cloud-Computing-Technologien und Strategien für einen umweltfreundlichen Cloud-Markt),

— unter Hinweis auf den Bericht der Kommission vom 19. Februar 2020 an das Europäische Parlament, den Rat und den Europäischen Wirtschafts- und Sozialausschuss über die Auswirkungen künstlicher Intelligenz, des Internets der Dinge und der Robotik in Hinblick auf Sicherheit und Haftung (COM(2020)0064),

— unter Hinweis auf die Schlussfolgerungen des Rates vom 22. März 2021 zur Cybersicherheitsstrategie der EU für die digitale Dekade,

— unter Hinweis auf den von der hochrangigen Expertengruppe für künstliche Intelligenz am 8. April 2019 veröffentlichten Bericht „Ethikleitlinien für vertrauenswürdige künstliche Intelligenz“,

— unter Hinweis auf den von der hochrangigen Expertengruppe für künstliche Intelligenz am 8. April 2019 veröffentlichten Bericht „A definition of Artificial Intelligence: Main capabilities and disciplines“ (Definition der künstlichen Intelligenz: wichtigste Fähigkeiten und Wissenschaftsgebiete),

— unter Hinweis auf den von der hochrangigen Expertengruppe für künstliche Intelligenz am 26. Juni 2019 veröffentlichten Bericht „Policy and investment recommendations for trustworthy AI“ (Empfehlungen zur Politik für und zu Investitionen in vertrauenswürdige künstliche Intelligenz),

— unter Hinweis auf die Veröffentlichung der UNESCO von März 2019 mit dem Titel „I’d blush if I could: Closing gender divides in digital skills through education“ (Ich würde rot werden, wenn ich könnte: Schließen der digitalen Kluft zwischen den Geschlechtern durch Bildung),

— unter Hinweis auf den Bericht der Agentur der Europäischen Union für Grundrechte vom 14. Dezember 2020 mit dem Titel „Getting the future right — Artificial intelligence and fundamental rights“ (Der richtige Weg für die Zukunft — Künstliche Intelligenz und Grundrechte),

— unter Hinweis auf die Empfehlung des Rates der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) vom 22. Mai 2019 zu künstlicher Intelligenz,

— unter Hinweis auf die Plattform der Vereinten Nationen zum Dialog über künstliche Intelligenz: „AI for Good Global Summit“,

— unter Hinweis auf die KI-Grundsätze der G20 vom 9. Juni 2019,

— unter Hinweis auf den Bericht der Weltgesundheitsorganisation vom 28. Juni 2021 über künstliche Intelligenz im Gesundheitswesen und sechs Leitprinzipien für ihre Gestaltung und Verwendung,

— unter Hinweis auf die Initiativstellungnahme des Europäischen Wirtschafts- und Sozialausschusses vom 31. Mai 2017 zum Thema „Künstliche Intelligenz — die Auswirkungen der künstlichen Intelligenz für den (digitalen) Binnenmarkt und Produktion, Verbrauch, Beschäftigung und Gesellschaft“ (11),

— unter Hinweis auf den Bericht der Untergruppe für neue Technologien der Expertengruppe für Haftung und neue Technologien vom 21. November 2019 mit dem Titel „Liability for Artificial Intelligence and other emerging digital technologies“ (Haftung für künstliche Intelligenz und andere neue digitale Technologien),

— unter Hinweis auf die Veröffentlichung des Ad-hoc-Ausschusses für künstliche Intelligenz (CAHAI) des Europarats vom Dezember 2020 mit dem Titel „Towards Regulation of AI systems — Global perspectives on the development of a legal framework on Artificial Intelligence systems based on the Council of Europe’s standards on human rights, democracy and the rule of law“ (Auf dem Weg zur Regulierung von KI-Systemen — Globale Perspektiven auf die Entwicklung eines Rechtsrahmens für Systeme der künstlichen Intelligenz auf der Grundlage der Normen des Europarats für Menschenrechte, Demokratie und Rechtsstaatlichkeit),

— unter Hinweis auf das Arbeitsdokument des Europäischen Hochschulinstituts vom Oktober 2020 mit dem Titel „Models of Law and Regulation for AI“ (Modelle für Rechtsvorschriften für und die Regulierung von KI),

— unter Hinweis auf den gemeinsamen Bericht von Trend Micro Research, dem Internationalen Forschungsinstitut der Vereinten Nationen für Kriminalität und Rechtspflege und Europol vom 19. November 2020 mit dem Titel „Malicious Uses and Abuses of Artificial Intelligence“ (Böswillige Verwendungen und Missbrauch von künstlicher Intelligenz),

— unter Hinweis auf die politischen Leitlinien der Kommission für den Zeitraum 2019–2024 mit dem Titel „Eine Union, die mehr erreichen will — Meine Agenda für Europa“,

— unter Hinweis auf das Urteil des Gerichtshofs der Europäischen Union vom 16. Juli 2020 in der Rechtssache C-311/18 (Schrems II),

— unter Hinweis auf seine Entschließung vom 16. Februar 2017 mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik (12),

— unter Hinweis auf seine Entschließung vom 1. Juni 2017 zur Digitalisierung der europäischen Industrie (13),

— unter Hinweis auf seine Entschließung vom 6. Oktober 2021 zu dem EU-Politikrahmen für die Straßenverkehrssicherheit im Zeitraum 2021 bis 2030 — Empfehlungen für die nächsten Schritte auf dem Weg zur „Vision Null Straßenverkehrstote“ (14),

— unter Hinweis auf seine Entschließung vom 12. September 2018 zu autonomen Waffensystemen (15),

— unter Hinweis auf seine Entschließung vom 12. Februar 2019 zu einer umfassenden europäischen Industriepolitik in Bezug auf künstliche Intelligenz (KI) und Robotik (16),

— unter Hinweis auf seine Entschließung vom 12. Februar 2020 mit dem Titel „Automatisierte Entscheidungsfindungsprozesse: Gewährleistung des Verbraucherschutzes und des freien Verkehrs von Waren und Dienstleistungen“ (17),

— unter Hinweis auf seine Entschließung vom 20. Oktober 2020 mit Empfehlungen an die Kommission für eine Regelung der zivilrechtlichen Haftung beim Einsatz künstlicher Intelligenz (18),

— unter Hinweis auf seine Entschließung vom 20. Oktober 2020 zu den Rechten des geistigen Eigentums bei der Entwicklung von KI-Technologien (19),

— unter Hinweis auf seine Entschließung vom 20. Oktober 2020 mit Empfehlungen an die Kommission zu dem Rahmen für die ethischen Aspekte von künstlicher Intelligenz, Robotik und damit zusammenhängenden Technologien (20),

— unter Hinweis auf seine Entschließung vom 20. Januar 2021 zur künstlichen Intelligenz: Fragen der Auslegung und Anwendung von für die EU geltenden internationalen Rechtsvorschriften in Bezug auf die zivile und militärische Nutzung und der Zuständigkeit des Staates außerhalb des Anwendungsbereichs der Strafgerichtsbarkeit (21),

— unter Hinweis auf seine Entschließung vom 20. Mai 2021 zu der Gestaltung der digitalen Zukunft Europas: Beseitigung von Hindernissen für einen funktionierenden digitalen Binnenmarkt und Verbesserung des Einsatzes von KI für europäische Verbraucher (22),

— unter Hinweis auf seine Entschließung vom 25. März 2021 zum Thema „Eine europäische Datenstrategie“ (23),

— unter Hinweis auf seine Entschließung vom 19. Mai 2021 zu künstlicher Intelligenz in der Bildung, der Kultur und dem audiovisuellen Bereich (24),

— unter Hinweis auf seine Entschließung vom 6. Oktober 2021 zu künstlicher Intelligenz im Strafrecht und ihrer Verwendung durch die Polizei und Justizbehörden in Strafsachen (25),

— unter Hinweis auf die Studie seiner Generaldirektion Interne Politikbereiche (GD IPOL) vom Juni 2021 mit dem Titel „Artificial Intelligence diplomacy — Artificial Intelligence governance as a new European Union external policy tool“ (KI-Diplomatie — Governance der künstlichen Intelligenz als neues außenpolitischen Instrument der Europäischen Union),

— unter Hinweis auf die Studie der GD IPOL vom Mai 2021 mit dem Titel „Challenges and limits of an open source approach to Artificial Intelligence“ (Herausforderungen und Grenzen eines quelloffenen Ansatzes für künstliche Intelligenz),

— unter Hinweis auf die Studie der GD IPOL vom Mai 2021 mit dem Titel „Artificial Intelligence market and capital flows — AI and the financial sector at crossroads“ (Der Markt für künstliche Intelligenz und Kapitalströme — KI und der Finanzsektor an einem Scheidepunkt),

— unter Hinweis auf die Studie der GD IPOL vom Juni 2021 mit dem Titel „Improving working conditions using Artificial Intelligence“ (Verbesserung der Arbeitsbedingungen mithilfe künstlicher Intelligenz),

— unter Hinweis auf die Studie der GD IPOL vom Mai 2021 mit dem Titel „The role of Artificial Intelligence in the European Green Deal“ (Die Rolle der künstlichen Intelligenz im europäischen Grünen Deal),

— unter Hinweis auf die Studie der GD IPOL vom Juli 2021 mit dem Titel „Artificial Intelligence in smart cities and urban mobility“ (Künstliche Intelligenz in intelligenten Städte und in der städtischen Mobilität),

— unter Hinweis auf die Studie der GD IPOL vom Juli 2021 mit dem Titel „Artificial Intelligence and public services“ (Künstliche Intelligenz und öffentlicher Dienst),

— unter Hinweis auf die Studie der GD IPOL vom Juli 2021 mit dem Titel „European Union data challenge“ (Herausforderungen im Zusammenhang mit Daten für die Europäische Union),

— unter Hinweis auf die Studie der GD IPOL vom Juni 2020 mit dem Titel „Opportunities of Artificial Intelligence“ (Chancen der künstlichen Intelligenz),

— unter Hinweis auf die Studie der GD IPOL von Oktober 2021 mit dem Titel „Europe's Digital Decade and Autonomy“ (Digitale Dekade und Autonomie Europas),

— unter Hinweis auf die Studie der GD IPOL von Januar 2022 mit dem Titel „Identification and assessment of existing and draft legislation in the digital field“ (Ermittlung und Bewertung bestehender und in Ausarbeitung befindlicher EU-Rechtsvorschriften im digitalen Bereich),

— unter Hinweis auf die Studie des Wissenschaftlichen Dienstes des Europäischen Parlaments (EPRS) vom September 2020 mit dem Titel „Civil liability regime for artificial intelligence — European added value assessment“ (Vorschriften über die zivilrechtliche Haftung für künstliche Intelligenz — Bewertung des europäischen Mehrwerts),

— unter Hinweis auf die Studie des EPRS vom Dezember 2020 mit dem Titel „Data subjects, digital surveillance, AI and the future of work“ (Datensubjekte, digitale Überwachung, KI und die Zukunft der Arbeit),

— unter Hinweis auf die Studie des EPRS vom September 2020 mit dem Titel „European framework on ethical aspects of artificial intelligence, robotics and related technologies“ (Europäischer Rahmen für die ethischen Aspekte von künstlicher Intelligenz, Robotik und damit zusammenhängenden Technologien),

— unter Hinweis auf die Studie des EPRS vom März 2020 mit dem Titel „The ethics of artificial intelligence: Issues and initiatives“ (Ethische Aspekte der künstlichen Intelligenz: Fragen und Initiativen),

— unter Hinweis auf die Studie des EPRS vom Juni 2020 mit dem Titel „Artificial Intelligence: How does it work, why does it matter, and what can we do about it?“ (Künstliche Intelligenz: Wie funktioniert sie, warum ist sie wichtig und was können wir dagegen tun?),

— unter Hinweis auf die Studie des EPRS vom Juli 2020 mit dem Titel „Artificial Intelligence and Law enforcement — Impact on Fundamental Rights“ (Künstliche Intelligenz und Strafverfolgung — Auswirkungen auf die Grundrechte),

— unter Hinweis auf die Studie des EPRS vom Juni 2020 mit dem Titel „The impact of the General Data Protection Regulation (GDPR) on artificial intelligence“ (Auswirkungen der Datenschutz-Grundverordnung (DSGVO) auf künstliche Intelligenz),

— unter Hinweis auf die Studie des EPRS vom April 2020 mit dem Titel „The White Paper on Artificial Intelligence“ (Weißbuch zur künstlichen Intelligenz),

— unter Hinweis auf die Studie des EPRS vom September 2021 mit dem Titel „Regulating facial recognition in the EU“ (Regulierung der Gesichtserkennung in der EU),

— unter Hinweis auf die Studie des EPRS vom Februar 2021 mit dem Titel „The future of work: Trends, challenges and potential initiatives“ (Die Zukunft der Arbeit: Trends, Herausforderungen und mögliche Initiativen),

— unter Hinweis auf die Studie des EPRS vom Juni 2021 mit dem Titel „Robo-advisors: How do they fit in the existing EU regulatory framework, in particular with regard to investor protection?“ (Roboter-Berater: Wie passen sie in den Rechtsrahmen, besonders mit Blick auf den Investitionsschutz?),

— unter Hinweis auf die Studie des EPRS vom September 2021 mit dem Titel „China’s ambitions in artificial intelligence“ (Chinas Ambitionen im Bereich der künstlichen Intelligenz),

— unter Hinweis auf die Studie des EPRS vom Juni 2021 mit dem Titel „What if we chose new metaphors for artificial intelligence?“ (Was passiert, wenn neue Metaphern für künstliche Intelligenz festgelegt werden?),

— unter Hinweis auf die Studie des EPRS vom Januar 2018 mit dem Titel „Understanding artificial intelligence“ (Künstliche Intelligenz verstehen),

— unter Hinweis auf die Studie des EPRS von Juli 2021 mit dem Titel „Tackling deepfakes in European Policy“ (Bekämpfung von Deepfakes in der europäischen Politik),

— unter Hinweis auf das Arbeitsdokument des Sonderausschusses zu künstlicher Intelligenz im digitalen Zeitalter (AIDA) vom Februar 2021 mit dem Titel „Artificial Intelligence and Health“ (Künstliche Intelligenz und Gesundheit),

— unter Hinweis auf das Arbeitsdokument des AIDA-Ausschusses vom März 2021 mit dem Titel „Artificial Intelligence and the Green Deal“ (Künstliche Intelligenz und der Grüne Deal),

— unter Hinweis auf das Arbeitsdokument des AIDA-Ausschusses vom März 2021 mit dem Titel „The External Policy Dimensions of AI“ (Außenpolitische Aspekte der KI),

— unter Hinweis auf das Arbeitsdokument des AIDA-Ausschusses vom Mai 2021 mit dem Titel „AI and Competitiveness“ (Künstliche Intelligenz und Wettbewerbsfähigkeit),

— unter Hinweis auf das Arbeitsdokument des AIDA-Ausschusses vom Juni 2021 mit dem Titel „AI and the Future of Democracy“ (KI und die Zukunft der Demokratie),

— unter Hinweis auf das Arbeitsdokument des AIDA-Ausschusses vom Juni 2021 mit dem Titel „AI and the Labour Market“ (KI und der Arbeitsmarkt),

— gestützt auf Artikel 54 seiner Geschäftsordnung,

— unter Hinweis auf den Bericht des Sonderausschusses zu künstlicher Intelligenz im digitalen Zeitalter (A9-0088/2022),

(1) Einleitung

1. stellt fest, dass die Welt kurz vor der vierten industriellen Revolution steht; weist darauf hin, dass im Vergleich zu den drei vorangegangenen großen Umbrüchen, die durch die Einführung von Dampf, Elektrizität und Computern ausgelöst wurden, der vierte große Umbruch seine Energie aus einer Fülle von Daten in Verbindung mit leistungsstarken Algorithmen und Rechenkapazitäten bezieht; betont, dass die aktuelle digitale Revolution durch ihren globalen Umfang, ihre rasche Konvergenz und die enormen Auswirkungen neuer technologischer Durchbrüche auf Staaten, Volkswirtschaften, Gesellschaften, internationale Beziehungen und die Umwelt geprägt ist; stellt fest, dass ein radikaler Wandel dieser Größenordnung verschiedene Teile der Gesellschaft unterschiedlich beeinflusst, abhängig von ihren Zielen, ihrer geographischen Position oder ihrem sozioökonomischen Kontext; hebt hervor, dass der digitale Wandel unter umfassender Achtung der Grundrechte gestaltet werden muss, und derart, dass digitale Technologien der Menschheit dienen;

2. stellt fest, dass die digitale Revolution gleichzeitig einen weltweiten Wettbewerb ausgelöst hat, der auf dem enormen wirtschaftlichen Wert und den technologischen Möglichkeiten beruht, die sich in den Volkswirtschaften sammeln, die der Forschung, Entwicklung und Vermarktung von KI-Anwendungen die meisten Ressourcen widmen; stellt fest, dass digitale Wettbewerbsfähigkeit und eine offene strategische Autonomie in mehreren Ländern zu zentralen Zielen der Politik erkoren wurden; betont, dass die Entscheidungsträger zunehmend zu der Einsicht kommen, dass sich die neuen Technologien auf den geopolitischen Machtstatus ganzer Länder auswirken könnten;

3. weist darauf hin, dass Europa, das jahrhundertelang internationale Standards setzte, den technologischen Fortschritt dominierte und bei der Herstellung und dem Einsatz von Spitzentechnologie führend war, daher zurückgefallen ist, sich viel weniger an der Entwicklung des digitalen Marktes beteiligt und weniger investiert als führende Volkswirtschaften wie die USA oder China, dabei aber in Bezug auf Forschungsergebnisse zum Thema KI wettbewerbsfähig bleibt; nimmt zur Kenntnis, dass europäische Akteure Gefahr laufen, bei der Entwicklung globaler Standards und der Weiterentwicklung der Technologie an den Rand gedrängt zu werden, und dass europäische Werte in Frage gestellt werden;

4. betont erstens, dass digitale Instrumente in den Händen einiger Unternehmen sowie in den Händen autokratischer Regierungen zunehmend zu einem Instrument der Manipulation und des Missbrauchs und von ihnen genutzt werden, demokratische Systeme zu untergraben, was zu Konflikten zwischen politischen Systemen führen kann; erklärt, dass digitale Spionage, Sabotage, Kriegsführung im kleinen Maßstab und Desinformationskampagnen die demokratischen Gesellschaften herausfordern;

5. betont, dass der Charakter digitaler Geschäftsmodelle ein hohes Maß an Skalierbarkeit und Netzwerkeffekte ermöglicht; weist darauf hin, dass sich viele digitale Märkte durch eine hohe Marktkonzentration gekennzeichnet sind, sodass eine kleine Anzahl von derzeit größtenteils in den USA ansässigen Technologieplattformen die führende Rolle bei der Vermarktung bahnbrechender technologischer Innovationen spielen, die besten Ideen, Talente und Unternehmen anziehen und eine außergewöhnliche Rentabilität erreichen kann; warnt, dass marktbeherrschende Stellungen in der Datenwirtschaft vermutlich in die entstehende KI-Wirtschaft hineinreichen werden; weist darauf hin, dass nur acht der heute wichtigsten 200 digitalen Unternehmen ihren Sitz in der EU haben; betont, dass die Vollendung eines echten digitalen Binnenmarkts in diesem Zusammenhang von höchster Bedeutung ist;

6. betont, dass der weltweite Wettbewerb um die führende Rolle im Technologiebereich für die EU zu einer Priorität geworden ist; betont, dass die EU, wenn sie nicht umgehend und mutig handelt, letztlich Regeln und Standards anderer einzuhalten haben und Gefahr laufen wird, dass die politische Stabilität, die soziale Sicherheit, die Grundrechte, die individuellen Freiheiten und die wirtschaftliche Wettbewerbsfähigkeit beeinträchtigt werden;

7. vertritt die Auffassung, dass die KI in der vierten industriellen Revolution eine der wichtigsten neuen Technologien darstellt; stellt fest, dass die KI die digitale Wirtschaft antreibt, da sie die Einführung innovativer Produkte und Dienste ermöglicht sowie Verbrauchern eine größere Auswahl bieten und Produktionsverfahren effizienter gestalten kann; stellt fest, dass die KI bis 2030 voraussichtlich mehr als 11 Bio. EUR zur Weltwirtschaft beitragen wird; betont, dass die KI-Technologien gleichzeitig das Risiko mit sich bringen, die menschliche Handlungsmacht zu schwächen; betont, dass die KI eine auf den Menschen ausgerichtete vertrauenswürdige Technologie bleiben und weder die menschliche Autonomie ersetzen noch den Verlust der individuellen Freiheit voraussetzen sollte; betont, dass sichergestellt werden muss, dass diese vierte industrielle Revolution inklusiv ist und dass bei ihr niemand zurückgelassen wird;

8. legt nahe, dass ein globaler Wettbewerb um die Führungsrolle im KI-Bereich im Gange ist; hebt hervor, dass die Einführung von KI-Technologien denjenigen Volkswirtschaften, die solche Technologien gewinnbringend entwickeln, produzieren oder erfolgreich anwenden, sowie den Ländern, in denen eine solche Wertschöpfung erfolgt, einen enormen wirtschaftlichen Wert verspricht; betont, dass KI keine allmächtige Technologie ist, sondern vielmehr eine Reihe effizienter Instrumente und Techniken, die zum Wohle der Gesellschaft sinnvoll eingesetzt werden können; erklärt, dass die Funktionsweise von Technologien allgemein davon abhängt, wie wir sie gestalten; weist darauf hin, dass die EU ihre Absicht erklärt hat, den ersten KI-Rechtsrahmen überhaupt zu schaffen; betont gleichwohl, dass es für die EU ganz entscheidend ist, den Regulierungsansatz definieren zu können, einschließlich der Wahrung der Grundrechte und Grundfreiheiten, und bei der Festlegung der globalen Standards eine Führungsrolle zu übernehmen; betont daher erneut die Bedeutung der Wettbewerbsfähigkeit Europas im Bereich der KI und der Fähigkeit der EU, die Regulierungslandschaft auf internationaler Ebene zu gestalten; betont, dass bestimmte Anwendungen von KI womöglich mit Risiken für Einzelpersonen oder die Gesellschaft verbunden sind und mit einer Gefährdung von Grundrechten einhergehen, die daher von politischen Entscheidungsträgern angegangen werden sollten, sodass die KI tatsächlich zu einem Instrument werden kann, das den Menschen und der Gesellschaft dient;

9. weist darauf hin, dass ein klarer Rechtsrahmen, politisches Engagement und eine fortschrittlichere Denkweise, an denen es derzeit oft mangelt, erforderlich sind, damit die europäischen Akteure im Digitalzeitalter erfolgreich sein und eine führende Rolle in der KI-Technologie übernehmen können; kommt zu dem Schluss, dass auf der Basis eines solchen Ansatzes die Bürgerinnen und Bürger wie auch die Unternehmen der EU von KI und den damit verbundenen großen Chancen für eine gestärkte Wettbewerbsfähigkeit, auch mit Blick auf Wohlstand und Wohlergehen, profitieren können; hebt hervor, dass der Rechtsrahmen derart gestaltet werden muss, dass er keine ungerechtfertigten Hindernisse schafft, die den Erfolg europäischer Akteure im Digitalzeitalter verhindern, was insbesondere für Start-up-Unternehmen und kleine und mittlere Unternehmen (KMU) gilt; betont, dass die privaten und öffentlichen Investitionen erheblich gesteigert werden sollten, um ein Klima zu schaffen, aus dem mehr europäische Erfolgsgeschichten hervorgehen und das der Entwicklung unseres Kontinents förderlich ist;

10. hebt hervor, dass der schnelle technologische Fortschritt durch die KI aus den meisten menschlichen Tätigkeitsbereichen kaum mehr wegzudenken ist und sich auf die Existenzgrundlage all derer auswirken wird, die nicht über die Fähigkeiten verfügen, sich ausreichend schnell diesen neuen Technologien anzupassen; weist darauf hin, dass mit dem Erwerb digitaler Kompetenzen durch Weiterbildung und Umschulung zwar dazu beigetragen werden kann, viele der aufkommenden sozioökonomischen Schwierigkeiten zu bewältigen, dass den betreffenden Auswirkungen jedoch auch im Zusammenhang mit den Sozialsystemen, der städtischen und ländlichen Infrastruktur und den demokratischen Prozessen begegnet werden muss;

11. unterstreicht, dass die Ziele und Interessen von Frauen und schutzbedürftigen Gruppen beim digitalen Wandel zum Ausdruck kommen müssen; hebt in diesem Zusammenhang hervor, dass 2018 Frauen nur 22 % der KI-Fachkräfte weltweit ausmachten, ein Problem, durch das Stereotypen und Vorurteile weiter aufrechterhalten und verfestigt werden; räumt ein, dass bei der Nutzung von KI die Rechte auf Gleichheit vor dem Gesetz, Privatsphäre, Meinungsfreiheit und Teilnahme am kulturellen und politischen Leben, besonders für Minderheitengemeinschaften, gewahrt werden müssen;

(2) Potenzielle Chancen, Risiken und Hindernisse beim Einsatz von KI: Sechs vom AIDA-Ausschuss untersuchte Fallstudien

12. weist erneut darauf hin, dass KI auf Software basiert, die Wahrscheinlichkeitsmodelle und algorithmische Prognosen für eine Reihe von spezifischen Zielen verwendet; weist darauf hin, dass es sich bei KI um einen Oberbegriff handelt, der ein breites Spektrum alter und neuer Technologien abdeckt, die besser als „KI-Systeme“ zu verstehen sind, und der auf maschinelle Systeme jeder Art verweist, die oft wenig mehr gemeinsam haben als sich von einer Reihe von vom Menschen festgelegten Zielen leiten zu lassen, wobei sie über ein gewisses Maß an Autonomie in ihrem Handeln verfügen, und Prognosen und Empfehlungen abgeben oder Entscheidungen treffen können; stellt fest, dass einige dieser Technologien bereits weit verbreitet sind, andere jedoch noch in der Entwicklung sind oder sogar nur spekulative Konzepte sind, die es in Zukunft möglicherweise geben oder nicht geben wird;

13. weist darauf hin, dass es einen erheblichen Unterschied zwischen symbolischer KI, dem wichtigsten Ansatz für KI von den 1950er bis 1990er Jahren, und der seit den 2000er Jahren vorherrschenden maschinellen, datengesteuerten KI gibt; stellt klar, dass während der ersten Welle KI entwickelt wurde, indem das Wissen und die Erfahrung von Experten in eine Reihe von Regeln eingegeben wurden, die dann von einer Maschine ausgeführt wurden;

14. stellt fest, dass in der zweiten Welle die automatisierten Lernprozesse von Algorithmen, die auf der Verarbeitung großer Datenmengen beruhen, die Fähigkeit, Eingaben aus mehreren verschiedenen Quellen zusammenzubringen, um komplexe Abbildungen einer bestimmten Umwelt zu bilden, und die Identifizierung von Mustern dazu geführt haben, dass KI-Systeme komplexer, autonomer und undurchsichtiger wurden, was zu weniger erklärbaren Ergebnissen führen kann; betont, dass die derzeitige KI daher in viele verschiedene Teilbereiche und Techniken unterteilt werden kann, wobei Deep Learning beispielsweise ein Unterbereich des maschinellen Lernens ist, das selbst ein Unterbereich der KI ist;

15. stellt fest, dass die KI von heute dank der erheblichen Steigerung von Rechenkapazitäten zwar viel wirksamer und leistungsstärker geworden ist als die symbolische KI, aber immer noch nur klar definierte Aufgaben in bereichsspezifischen Nischen wie Schach oder Bilderkennung lösen kann und ihre Programmierung nicht darauf ausgelegt ist, die vom KI-System durchgeführten Maßnahmen vollständig zu erkennen; betont, dass KI-Systeme — anders als die Bezeichnung nahelegt — nicht über „Intelligenz“ im menschlichen Sinne verfügen; weist darauf hin, dass sie daher als „eng“ oder „schwach“ bezeichnet wird und immer noch nur ein Instrument darstellt, das Empfehlungen und Vorhersagen enthält; stellt fest, dass beispielsweise selbstfahrende Fahrzeuge durch eine Kombination verschiedener KI-Systeme mit je einer Aufgabe betrieben werden, die zusammen in der Lage sind, eine dreidimensionale Karte der Umgebung des Fahrzeugs zu erstellen, damit sein Betriebssystem Entscheidungen treffen kann;

16. weist darauf hin, dass viele Ängste im Zusammenhang mit KI auf hypothetischen Konzepten wie der allgemeinen KI, der künstlichen Superintelligenz und der Singularität beruhen, die theoretisch zu einer maschinellen Intelligenz führen könnten, die der menschlichen Intelligenz in vielen Bereichen überlegen ist; betont, dass Zweifel bestehen, ob diese spekulative KI mit unseren Technologien und den Gesetzen der Wissenschaft überhaupt erreicht werden kann; ist dennoch der Auffassung, dass sich die Gesetzgeber mit den derzeit von KI-gestützten Entscheidungen ausgehenden Risiken befassen müssen, da klar erwiesen ist, dass schädliche Auswirkungen wie Diskriminierung aufgrund der Rasse und des Geschlechts konkreten KI-Anwendungen ohne Schutzvorkehrungen zugeordnet werden können;

17. betont, dass die überwiegende Mehrheit der derzeit verwendeten KI-Systeme risikoarm ist; bezieht sich beispielsweise auf maschinelle Übersetzungen, „Eureka-Geräte“, Spielautomaten und Roboter, die repetitive Produktionsprozesse ausführen; kommt zu dem Schluss, dass einige Anwendungsfälle als riskant eingestuft werden können und dass solche Fälle regulatorische Maßnahmen und wirksame Schutzmaßnahmen erfordern, sofern diese nicht bereits ergriffen wurden;

18. regt eine öffentliche Debatte darüber an, wie das enorme Potenzial von KI auf der Basis der grundlegenden europäischen Werte, der Grundsätze der Transparenz, Erklärbarkeit, Fairness, Rechenschaftspflicht, Verantwortung und Vertrauenswürdigkeit sowie des Grundsatzes erkundet werden kann, dass bei der KI und der Robotik der Mensch im Mittelpunkt stehen sollte und dass ihre Entwicklung darauf gerichtet sein sollte, die menschlichen Fähigkeiten zu ergänzen; betont, dass in zahlreichen Bereichen menschlichen Lebens, von Nachhaltigkeit bis hin zur Gesundheitsversorgung, die KI Nutzern und Fachleuten als wertvolles Hilfswerkzeug dienen kann, das die Fähigkeiten von Menschen erhöht, ohne ihre Möglichkeit, frei zu handeln und zu entscheiden, zu behindern; betont, dass die vereinbarten ethischen Grundsätze und Anforderungen für KI in allen Bereichen der KI-Anwendung operationalisiert werden sollten, wobei durch die Einrichtung der notwendigen Schutzvorkehrungen das Vertrauen der Bürger gestärkt wird, sodass sie die Vorteile der KI befürworten;

19. unterstreicht, dass der Risikograd einer bestimmten KI-Anwendung entsprechend der Wahrscheinlichkeit und Schwere eines Schadens erheblich schwankt; hebt deshalb hervor, dass rechtliche Anforderungen in Übereinstimmung mit einem risikobasierten Ansatz daran angepasst werden sollten und dass dabei, wenn dies gerechtfertigt ist, dem Vorsorgeprinzip gebührend Rechnung zu tragen ist; unterstreicht, dass in derartigen aktuellen oder künftigen Fällen, in denen KI-Systeme in einem konkreten Anwendungsfall hohe Risiken für Grund- und Menschenrechte bergen, eine vollständige menschliche Aufsicht und regulatorische Eingriffe vonnöten sind, und dass die Regulierung von KI-Systemen mit hohem Risiko, vor dem Hintergrund der schnellen technologischen Entwicklung, flexibel und zukunftssicher sein muss;

20. erläutert, dass sich der vorliegende Bericht ausführlich mit sechs KI-Fallstudien befasst, in denen die Chancen, die die KI in der jeweiligen Branche bietet, die zu bewältigenden Risiken und die Hindernisse dargelegt werden, die Europa daran hindern, die Vorteile der KI in vollem Umfang zu nutzen; betont, dass die Fallstudien einige der derzeit wichtigsten KI-Anwendungsfälle darstellen und gleichzeitig einige der Hauptthemen der vom AIDA-Ausschuss während seiner Amtszeit durchgeführten öffentlichen Anhörungen widerspiegeln, nämlich Gesundheit, Grüner Deal, Außenpolitik und Sicherheit, Wettbewerbsfähigkeit, Zukunft der Demokratie und des Arbeitsmarkts;

a) KI und Gesundheit

21. stellt fest, dass die methodische Analyse großer Datenmengen, auch unter Verwendung von KI, neue Lösungen ermöglichen bzw. bestehende Techniken im Gesundheitswesen verbessern kann, wodurch die wissenschaftliche Forschung enorm beschleunigt, Menschenleben gerettet und die Patientenversorgung durch das Angebot innovativer Behandlungen und besserer Diagnosen sowie die Förderung eines unterstützenden Umfelds für eine gesunde Lebensführung verbessert werden könnten; hebt hervor, dass KI-Systeme auch einen Beitrag zur Zugänglichkeit, Widerstandsfähigkeit und Nachhaltigkeit der Gesundheitssysteme leisten und gleichzeitig dem europäischen IKT- und Gesundheitssektor Wettbewerbsvorteile verschaffen können, wenn die inhärenten Risiken angemessen gehandhabt werden;

22. hebt hervor, dass strenge ethische Anforderungen, wie gleichberechtigter Zugang zur Gesundheitsversorgung, Privatsphäre, Haftung, Transparenz, Erklärbarkeit, Verlässlichkeit, Inklusion und Repräsentanz der Datensätze sowie eine dauerhafte menschliche Aufsicht, in der Verwendung von KI im Gesundheitswesen verankert sein sollten; betont, dass dem Risiko der fehlerhaften Zuweisung von Ressourcen zu Personen basierend auf fehlerhaften oder verfälschten Kategorisierungen oder Priorisierungen oder durch die Fehlfunktion von Technologie, die zu Fehldiagnosen oder -behandlungen führt oder zu der Entscheidung, keine Behandlung durchzuführen, bei der Konstruktion von KI-Systemen Rechnung getragen werden muss; ist der Ansicht, dass die höchsten ethischen Standards für alle Gesundheitsanwendungen gelten und dass ethische Regeln in einer sehr frühen Phase ihrer Entwicklung und Konzeption, d. h. nach dem Grundsatz der integrierten Ethik („ethics by design“), eingebunden werden sollten; betont, dass die automatisierte Entscheidungsfindung bei Anwendungen im Gesundheitswesen ein Risiko für das Wohlbefinden und die Grundrechte der Patienten darstellen kann und unterstreicht, dass KI im Gesundheitswesen nur in unterstützender Funktion angewendet werden darf und stets professioneller menschlicher Aufsicht unterliegen sollte; fordert, dass KI bei medizinischen Diagnosen im Bereich der öffentlichen Gesundheitssysteme das Verhältnis zwischen Patient und Arzt wahrt und zu jeder Zeit mit dem hippokratischen Eid im Einklang steht; stellt jedoch fest, dass KI die Genauigkeit von Screenings verbessert und KI-basierte Diagnosen in manchen Fällen die von Ärzten erstellten Diagnosen bereits übertreffen; ist der Ansicht, dass die bestehenden Haftungsregelungen keine ausreichende Rechtssicherheit bieten und im Fall von KI-basierten Fehldiagnosen oder falschen Behandlungen das Rechtsschutzgebot von Patienten nicht wahren; begrüßt in dieser Hinsicht den bevorstehenden Gesetzgebungsvorschlag zur KI-Haftung; stellt fest, dass es wichtig ist, Gesundheitspersonal als Nutzer von KI-Systemen sowie Patienten als Endempfänger zu schützen und ihnen ausreichende und transparente Information zur Verfügung zu stellen;

23. betont, dass KI-gestützte Lösungen in klinischen Umgebungen bereits zur Unterstützung der Diagnose, Prognose, Behandlung und Patientenmitwirkung zum Einsatz kommen oder erprobt werden, wodurch Behandlungen beschleunigt und verbessert und unnötige Eingriffe verringert werden; stellt ferner fest, dass KI die personalisierte Medizin und Patientenversorgung optimieren kann; stellt fest, dass KI derzeit ein breites Spektrum von Gesundheitsbereichen abdeckt, darunter öffentliche Gesundheit, Pflegeleistungen, Selbstversorgung und die Gesundheitssysteme; merkt an, dass Daten von großer Bedeutung sind; stellt fest, dass es einige vielversprechende KI-Anwendungen zur Gewinnung phänotypischer Informationen aus Bildern und andere medizinische Geräte zur Weitergabe von Daten an nachgeordnete Analysen gibt und weist darauf hin, dass überdies erwartet wird, dass die Bandbreite klinischer Aufgaben durch Deep Learning-Algorithmen einen quantitativen Schub erfahren wird;

24. betont, dass KI-Technologien für die Forschung, Entwicklung und Massenproduktion von Arzneimitteln eingesetzt werden können und das Potenzial haben, die Entwicklung neuer Arzneimittel, Behandlungen und Impfstoffe zu geringeren Kosten zu beschleunigen; ist der Ansicht, dass KI dazu beitragen kann, die Ergebnisse von Reaktionen auf Behandlungen vorherzusagen, und dass sie es Ärzten ermöglichen kann, therapeutische Strategien auf der Basis individueller genetischer, physiologischer und sozialer Merkmale mit zunehmender Genauigkeit anzupassen, wenn sie sich auf hochwertige Daten und fundierte Annahmen stützt, wodurch die Wirksamkeit von präventiven Behandlungsformen erhöht wird, vorausgesetzt, dass alle ethischen Anforderungen mit Blick auf die professionelle Aufsicht über die klinische Validierung mithilfe von KI, die Privatsphäre, den Datenschutz und die Zustimmung nach vorheriger Aufklärung eingehalten werden; stellt fest, dass gesundheitsbezogene Massendaten mithilfe von KI analysiert werden können, um die Verarbeitung zu beschleunigen; hebt hervor, dass die Interoperabilität von Hochleistungsrecheninfrastrukturen mit KI-Systemen sichergestellt werden muss, da zentrale Wirtschaftssektoren, darunter die verarbeitende Industrie, das Gesundheitswesen und die Arzneimittelbranche, auf Hochleistungsrechner angewiesen sind;

25. betont, dass KI-gestützte Lösungen das Potenzial haben, Behandlungen und die Arzneimittelentwicklung auf die spezifischen Bedürfnisse der Patienten abzustimmen und die Zusammenarbeit mit interessierten Akteuren und Beteiligten aus dem Gesundheitswesen zu verstärken; ist der Ansicht, dass KI und der Zugang zu relevanten, aktualisierten und hochwertigen anonymisierten und repräsentativen Datensätzen im Einklang mit den EU-Vorschriften zum Schutz personenbezogener Daten Angehörige der Gesundheitsberufe dabei unterstützen, ihre Patienten besser zu versorgen und daher ein Feedback, eine Anleitung und Unterstützung mit stärkerer Ausrichtung auf die Patienten zu bieten, sodass die Sicherheit der Patienten und die Wirksamkeit von Therapien gefördert werden; hebt hervor, dass dies besonders hilfreich bei der Auswahl und Überprüfung der zunehmenden Mengen an wissenschaftlichem Wissen sein kann, um relevante Erkenntnisse für Angehörige der Gesundheitsberufe zu extrahieren; hebt hervor, dass Bürgerinnen und Bürger aus allen Mitgliedstaaten ihre Gesundheitsdaten an Gesundheitsdienstleister und Behörden ihrer Wahl weitergeben können sollten; unterstreicht in diesem Zusammenhang, dass Anreize für die Weiterqualifizierung, Umschulung und berufsbegleitende Fortbildung von Angehörigen der Gesundheitsberufe geschaffen werden müssen;

26. ist der Ansicht, dass die Bekämpfung von COVID-19 sowohl die Erforschung und Einführung neuer Technologien, insbesondere KI-Anwendungen, beschleunigt hat, um eine bessere Fallerkennung, klinische Versorgung und therapeutische Forschung zu erreichen, als auch die Zweckmäßigkeit der KI und die Bedeutung finanzieller Mittel und hochwertiger Daten deutlich gemacht hat, die dem Zweck dienen, die Ausbreitung von Ausbrüchen von Infektionskrankheiten unter Einhaltung der Datenschutzvorschriften effizient zu überwachen und zu modellieren; stellt jedoch fest, dass während der COVID-19-Pandemie gemachte Erfahrungen mit KI-Anwendungen einige der Grenzen des Einsatzes von KI in der medizinischen Diagnostik aufgezeigt haben ( 26 )

27. hebt hervor, dass KI-Systeme das Potenzial haben, die Gesundheitssysteme und insbesondere das medizinische Personal zu entlasten und zu Lösungen beizutragen, um die rasch alternde Bevölkerung in Europa und der Welt zu versorgen;

28. betont, dass Beschäftigte in der Gesundheitsversorgung durch den Einsatz sicherer und effizienter KI-Anwendungen für Verwaltungsaufgaben, die kein menschliches Handeln erfordern, viel Zeit einsparen können, die sie stattdessen für die Patienten aufwenden können;

29. betont, dass KI-gestützte Anwendungen für die Gesundheit der Verbraucher dazu beitragen können, den Gesundheitszustand einer Person mit Alltagsgeräten wie Smartphones zu verfolgen, sodass Nutzer freiwillig Daten bereitstellen können, die eine Basis für frühe Warnungen und Alarme im Hinblick auf lebensbedrohliche Krankheiten, wie Schlaganfälle oder Herzinfarkte, darstellen können; betont, dass KI-gestützte Anwendungen für die Gesundheit auch ein gesundes Verhalten fördern und eine verantwortungsvolle persönliche Selbstversorgung ermöglichen können, indem sie Patienten mit zusätzlichen Mitteln zur Überwachung ihrer eigenen Gesundheit und Lebensführung ausstatten und die Genauigkeit von Screenings durch Angehörige der Gesundheitsberufe verbessern; hebt jedoch die besondere Sensibilität von personenbezogenen Gesundheitsdaten und das Risiko von Datenschutzverletzungen und missbräuchlicher Verwendung von Daten in diesem Zusammenhang hervor und unterstreicht, dass für gesundheitliche Anwendungen grundsätzlich starke Cybersicherheitsstandards gelten müssen;

30. betont, dass KI im Gesundheitswesen in besonderem Maße auf große Mengen personenbezogener Daten sowie auf die gemeinsame Nutzung, hohe Qualität, Zugänglichkeit und Interoperabilität von Daten angewiesen ist, damit das Potenzial der KI im Gesundheitswesen voll ausgeschöpft werden kann; betont, dass die Verbindung von elektronischen Gesundheitsakten mit eRezept-Systemen erleichtert werden muss, um dem mit der Patientenversorgung beschäftigten Gesundheitspersonal den Zugang zu den nötigen Patienteninformationen unter Zustimmung des Patienten bzw. der Patientin zu ermöglichen;

31. begrüßt die Einrichtung eines europäischen Raums für Gesundheitsdaten für das Erstellen hochwertiger Daten für die Verwendung im Gesundheitswesen; ist der Ansicht, dass die Verbindung und Interoperabilität von Hochleistungsrecheninfrastrukturen mit dem Europäischen Gesundheitsdatenraum für die Verfügbarkeit großer, qualitativ hochwertiger Gesundheitsdatensätze sorgen würde, die für die Erforschung und Behandlung von Krankheiten, insbesondere von seltenen Erkrankungen und Erkrankungen bei Kindern, von Bedeutung sind;

32. betont, dass das Vertrauen durch die Förderung von Interoperabilität und mehr Zusammenarbeit von Gesundheitspersonal verschiedener Bereiche, das sich um denselben Patient bzw. dieselbe Patientin kümmert, aufgebaut werden muss; betont, dass dem Gesundheitspersonal eine Ausbildung zu KI-Techniken und -Ansätzen angeboten werden muss; betont, dass das Misstrauen bekämpft werden muss, indem das volle Potenzial der Datenanonymisierung und -pseudonymisierung ausgeschöpft wird, und dass Bürgerinnen und Bürger, Gesundheitspersonal und Entscheidungsträger über die Einsatzmöglichkeiten, Vorteile und Risiken von KI im Bereich der Gesundheit sowie KI-Entwickler über die Herausforderungen und Risiken der Verarbeitung sensibler Daten in diesem Bereich besser informiert werden müssen;

33. ist darüber hinaus der Ansicht, dass bindende und solide ethische und rechtliche Standards und durchsetzbare Rechtsbehelfe notwendig sind, um bei Bürgerinnen und Bürgern ein Ökosystem des Vertrauens zu fördern und die Gesundheitsdaten vor möglichem Missbrauch und unrechtmäßigem Zugriff angemessen zu schützen; stimmt mit der Kommission darin überein, dass die Bürgerinnen und Bürger über einen gesicherten Zugang zu einem umfassenden elektronischen Datensatz bezüglich ihrer Gesundheit verfügen, die Kontrolle über ihre personenbezogenen Gesundheitsdaten behalten und die Möglichkeit haben sollten, diese unter dem effektiven Schutz personenbezogener Daten und einer starken Cybersicherheit auf sicherem Wege an zugelassene Dritte weiterzugeben; betont, dass unbefugter Zugang zu und Verbreitung von Daten verboten werden sollten und dass der Schutz der personenbezogenen Daten von Patienten im Einklang mit den Datenschutzbestimmungen gewährleistet werden muss;

34. weist in diesem Zusammenhang auf das Risiko verzerrter Entscheidungen hin, die zu Diskriminierung und Menschenrechtsverletzungen führen; betont daher, dass Algorithmen und Datensätze unparteiischen Überprüfungen unterzogen werden müssen und eine weitere Erforschung der Methoden und Voreingenommenheit, die in trainierten KI-Systemen eingebettet sind, gefördert werden muss, um unethische und diskriminierende Schlussfolgerungen im Bereich von Daten zur menschlichen Gesundheit zu vermeiden;

35. betont, dass eine effiziente und einheitliche Anwendung der Datenschutz-Grundverordnung in der EU nötig ist, um Herausforderungen wie die Rechtsunsicherheit und die mangelnde Zusammenarbeit im Gesundheitssektor zu bewältigen; betont, dass solche Herausforderungen in manchen Fällen zu Verzögerungen bei wissenschaftlichen Entdeckungen und zu bürokratischem Aufwand in der Gesundheitsforschung führen; betont, dass die Einrichtung eines europäischen Raums für Gesundheitsdaten, in dem die Patientenrechte und die Datenübertragbarkeit sichergestellt werden, die Zusammenarbeit in Forschung und Innovation im europäischen Gesundheitssektor intensivieren und den Datenaustausch fördern könnte;

36. stellt fest, dass KI zu einem raschen Fortschritt bei neuen Technologien wie Verfahren zur bildlichen Darstellung des Gehirns beitragen kann, die in der Medizin bereits wichtige Anwendungen haben, jedoch auch mit erheblichen Risiken für die menschliche Handlungsmacht und die Ausübung von Grundrechten ohne Erfordernis einer Zustimmung verbunden sind; ist besorgt über die fehlenden Rechtsvorschriften in Bezug auf neurologische Daten und ist der Ansicht, dass die Europäisch Union eine weltweite Führungsposition in der Entwicklung sicherer neurologischer Technologien anstreben sollte;

b) KI und der Grüne Deal

37. betont, dass die beiden wichtigsten Prioritäten der Kommission für die kommenden Jahre „Ein Europa für das digitale Zeitalter“ und der Grüne Deal sind; unterstreicht, dass sichergestellt werden muss, dass der digitale Wandel zur Verwirklichung einer nachhaltigen Entwicklung beiträgt und den grünen Wandel fördert; stellt fest, dass dies eine Beschleunigung der mit den Klimazielen und Umweltstandards der EU vereinbaren Innovation erfordert; betont, dass KI-Anwendungen ökologische und wirtschaftliche Vorteile mit sich bringen und Prognosekapazitäten stärken können, die zur Bekämpfung des Klimawandels und zur Verwirklichung des Ziels des europäischen Grünen Deals, bis 2050 der erste klimaneutrale Kontinent zu werden, beitragen können; ist der Ansicht, dass der Einsatz von KI das Potenzial hat, die weltweiten Treibhausgasemissionen bis 2030 um bis zu 4 % zu senken ( 27 ) ; stellt fest, dass die IKT-Technologien die Treibhausgasemissionen Schätzungen zufolge um das 10fache ihres eigenen Fußabdrucks senken könnten ( 28 ) , erkennt aber an, dass es hierfür bewusster Gestaltungsentscheidungen und regulierender Maßnahmen bedarf; warnt gleichzeitig davor, dass der zunehmende Energieverbrauch, der auf die Speicherung der für das Training von KI-Systemen benötigten großen Datensatzmengen zurückzuführen ist, auch negative Folge haben kann; hebt hervor, dass der Datenverkehr und die IKT-Infrastruktur inzwischen etwa 7 % des weltweiten Stromverbrauchs ausmachen und dass dieser Wert ohne geeignete Schutzvorkehrungen bis 2030 voraussichtlich auf 13 % ansteigen wird; fügt hinzu, dass der intensive Einsatz von Rohstoffen für den Bau von Mikroprozessoren und Hightech-Geräten, die KI nutzen, zu diesen negativen Auswirkungen beitragen kann; betont, dass diese direkten und indirekten negativen Umweltauswirkungen ihrerseits berücksichtigt und KI-Systeme entsprechend konzipiert werden müssen, dass ein nachhaltiger Verbrauch gefördert, der Ressourcen- und Energieverbrauch begrenzt, unnötige Verarbeitungsverfahren vermieden und Umweltschäden verhindert werden, um den „zwar großen Handabdruck, jedoch kleinen Fußabdruck“ der KI auf die Umwelt und das Klima sicherzustellen; betont, dass einschlägige Informationen und Daten erforderlich sind, um den Umweltauswirkungen des IKT-Sektors zu begegnen;

38. ist besorgt darüber, dass nur sechs Mitgliedstaaten bei ihren Bemühungen, die Ziele des Grünen Deals zu erreichen, einen besonderen Schwerpunkt auf KI-Anwendungen gelegt haben; ist der Ansicht, dass KI genutzt werden kann, um Informationen zu sammeln und zu organisieren, die für die Umweltplanung, die Entscheidungsfindung und das Management und die Überwachung der Fortschritte der Umweltpolitik, beispielsweise für sauberere Luft, wo KI-Anwendungen die Umweltverschmutzung überwachen und vor Gefahren warnen können, maßgeblich sind; betont, dass solche KI- und digitalen Lösungen in mehreren Sektoren zum Einsatz kommen könnten, um ressourceneffiziente Lösungen auszuweiten;

39. betont, wie wichtig KI-gestützte Systeme für die Entwicklung intelligenter Städte und Dörfer durch die Optimierung der Ressourcennutzung und die Verbesserung der Widerstandsfähigkeit der Infrastruktur ist, auch durch Verkehrsprognosen und -reduzierung, intelligentes Energiemanagement, Soforthilfe und Abfallbewirtschaftung, wie es in mehreren Städten und Gemeinden in der EU bereits Realität ist; betont, dass KI-gestützte Lösungen weiter zu Stadtplanungs-, Architektur-, Bau- und Ingenieurprozessen beitragen können, um Emissionen, Bauzeiten, Kosten und Abfall zu reduzieren;

40. betont, dass die Energiewende nicht ohne Digitalisierung verwirklicht werden kann; betont, dass KI den Energieverbrauch und die Energieerzeugung überwachen, optimieren und verringern und die Integration erneuerbarer Energien in bestehende Stromnetze unterstützen kann; unterstreicht, dass intelligente Zähler, effiziente Beleuchtung, Cloud-Computing und dezentrale Software zusammen mit einer KI-Komponente das Potenzial haben, einen verantwortungsvollen Umgang mit Energie zu fördern und Nutzungsmuster zu verändern;

41. hebt hervor, dass die zunehmende Komplexität eines Systems der Energiewende mit einer zunehmenden Volatilität der Erzeugung von Energie aus erneuerbaren Quellen und Änderungen im Lastmanagement eine zunehmende automatisierte Kontrolle für die Energieversorgungssicherheit erforderlich macht; betont, dass KI von potenziellem Nutzen für die Versorgungssicherheit ist, insbesondere beim Betrieb, der Überwachung, der Wartung und der Kontrolle von Wasser-, Gas- und Stromnetzen; weist jedoch darauf hin, dass durch KI-gestützte Netztechnologien Millionen von intelligenten Komponenten eingeführt werden, die über gemeinsame Schwachstellen verfügen, wodurch die Anzahl potenzieller Angriffspunkte in den Energienetzen und die Anfälligkeit kritischer Infrastrukturen erheblich vergrößert werden, falls keine angemessenen Cybersicherheitsmaßnahmen getroffen werden; ist der Auffassung, dass intelligente Netze weitere Investitionen und zusätzliche Forschung erfordern;

42. ist der Ansicht, dass KI und andere digitale Lösungen für Mobilität und Verkehr das Potenzial haben, Verkehrsströme zu optimieren und die Straßenverkehrssicherheit zu erhöhen, auch durch eine gesteigerte Effizienz beim Zugang zu Verkehrssystemen; weist darauf hin, dass KI bei der Konstruktion und dem Energiemanagement energieeffizienter Fahrzeuge unterstützend eingesetzt werden kann; hebt hervor, dass die Möglichkeiten für App-basierte Fahrdienste, Fahrgemeinschaften und Carsharing erheblich zugenommen haben und KI häufig in solchen Mobilitätsdiensten zur effizienten Routenplanung und Auswahl von Abholstellen eingesetzt wird;

43. ist der Ansicht, dass KI eine transformative Rolle in der Landwirtschaft spielen und das Entstehen neuer Erntemethoden, einschließlich Ernteprognosen und Bewirtschaftung landwirtschaftlicher Ressourcen, fördern kann; betont, dass die Landwirtschaft ein Schlüsselsektor ist, in dem KI zur Verringerung der Emissionen und des Einsatzes von Pestiziden, Düngemitteln, Chemikalien und Wasser beitragen kann, indem ihr Einsatz auf präzise Mengen konzentriert und auf einen engeren Anwendungsbereich beschränkt wird; betont ferner, dass KI zur Wiederherstellung der biologischen Vielfalt beitragen kann, indem gefährdete Arten überwacht oder Abholzungen verfolgt werden; hebt die Notwendigkeit hervor, Leitlinien für die Einführung und standardisierte Bewertungsmethoden zu entwickeln, um „grüne KI“ in Bereichen wie intelligente Netze, Präzisionslandwirtschaft, intelligente und nachhaltige Städte und Gemeinschaften zu unterstützen; ist der Auffassung, dass KI in Gestalt von Präzisionslandwirtschaft das Potenzial besitzt, die Erzeugung von Lebensmitteln in landwirtschaftlichen Betrieben und die umfassendere Bodenbewirtschaftung zu optimieren, indem sie die Flächennutzungsplanung verbessert, Landnutzungsänderungen voraussagt und die Pflanzengesundheit überwacht, und überdies das Potenzial besitzt, die Vorhersage extremer Wetterereignisse zu verändern;

44. betont, dass KI zur Kreislaufwirtschaft beitragen kann, indem sie Produktions-, Verbrauchs- und Recyclingprozesse und -muster ressourceneffizienter macht und die Transparenz der Materialverwendung verbessert, z. B. im Hinblick auf die ethische Herkunft von Rohstoffen und die Reduzierung von Abfällen; betont, dass KI das Potenzial hat, die Nachvollziehbarkeit von Emissionen für Unternehmen zu verbessern, einschließlich von Wertschöpfungsketten, und somit zur Anpassung und Verwirklichung der einzelnen Emissionsziele beizutragen; betont, dass digitale Instrumente Unternehmen dabei helfen können, die notwendigen Schritte hin zu nachhaltigerem Verhalten umzusetzen, insbesondere KMU, die ansonsten womöglich nicht über die dafür erforderlichen Mittel verfügen;

45. hebt hervor, dass es derzeit nicht möglich ist, Umweltauswirkungen mithilfe von KI vollständig zu messen; ist der Ansicht, dass weitere Studien über die Rolle von KI mit Blick auf die Verringerung von Umweltauswirkungen vonnöten sind; betont, dass mehr Umweltdaten benötigt werden, um besseren Einblick zu gewinnen und durch KI-Lösungen mehr Fortschritte zu erzielen; betont, dass durch den Einsatz von KI, um Daten über CO 2 -Emissionen systematisch mit Daten über Produktions- und Verbrauchsmuster, Lieferketten und Logistikrouten zu verknüpfen, sichergestellt werden könnte, dass Tätigkeiten mit positiven oder negativen Auswirkungen aufgedeckt werden;

c) Außen- und sicherheitspolitische Dimension der KI

46. bekräftigt, dass die EU auf eine globale Einigung über gemeinsame Standards für den verantwortungsvollen Einsatz von KI drängt, da dies von größter Bedeutung ist; ist jedoch grundsätzlich der Ansicht, dass gleichgesinnte Demokratien das Potenzial haben, gemeinsam die internationale Debatte über einen KI-Rahmen, der die Menschenrechte und die Rechtsstaatlichkeit respektiert, zu gestalten, auf bestimmte gemeinsame Normen und Grundsätze, technische und ethische Standards und Leitlinien für verantwortungsvolles staatliches Verhalten hinzuarbeiten, insbesondere unter dem Dach zwischenstaatlicher Organisationen wie der UN und der OECD, und dadurch Multilateralismus, nachhaltige Entwicklung, Interoperabilität und Datenaustausch auf internationaler Ebene zu fördern; unterstützt die Arbeit der Offenen Arbeitsgruppe der Vereinten Nationen zu Fragen der IKT und internationalen Sicherheit; unterstreicht, dass vertrauensbildende Maßnahmen von wesentlicher Bedeutung sind, um das Niveau des Dialogs zu erhöhen und mehr Vertrauen zu schaffen; fordert daher mehr Transparenz beim Einsatz von KI, um eine bessere Rechenschaftspflicht zu gewährleisten;

47. begrüßt die jüngsten multilateralen Initiativen zur Entwicklung von Leitlinien und Standards für den ethisch verantwortungsvollen Einsatz von KI, wie die Grundsätze für KI der OECD, die Globale Partnerschaft für KI, die UNESCO-Empfehlungen zur Ethik von KI, die Plattform „AI for Good Global Summit“, die Empfehlungen des Europarates für einen möglichen Rechtsrahmen zur künstlichen Intelligenz und die politischen Leitlinien von UNICEF zu KI für Kinder; begrüßt die auf internationaler Ebene laufende Arbeit zu KI-Normen und die Fortschritte, die mit den Normen der Internationalen Organisation für Normung (ISO) zu den Auswirkungen der KI auf die Verwaltung erzielt wurden;

48. begrüßt darüber hinaus die Einrichtung und Arbeitsaufnahme des Handels- und Technologierates EU-USA (TTC); begrüßt das Ergebnis der ersten Sitzung des TTC in Pittsburgh; sieht den TTC als potenzielles Forum für eine internationale Koordinierung zwischen der Europäischen Union und den Vereinigten Staaten zur Festlegung globaler Regelungen für künstliche Intelligenz und weltweit gültiger technologischer Standards, die unsere gemeinsamen Werte schützen, zur Förderung gemeinsamer Investitionen, Forschung und Entwicklung und für eine engmaschigere politische Koordinierung in internationalen Institutionen zu Fragen im Zusammenhang mit Technologie und künstlicher Intelligenz;

49. hebt die Schlüsselrolle hervor, die die EU bei der Festlegung globaler Standards spielen kann, da sie als weltweit erster Staatenblock Rechtsvorschriften zur KI eingeführt hat; betont, dass der Rechtsrahmen der Union für KI Europa zu einem weltweit führenden Akteur in diesem Sektor machen könnte und daher weltweit gefördert werden sollte, indem mit allen internationalen Partnern zusammengearbeitet wird und der kritische und auf Ethik basierende Dialog mit Drittländern fortgesetzt wird, die alternative Governance-Modelle und Standards für künstliche Intelligenz nutzen;

50. stellt fest, dass die chinesische Regierung im Rahmen ihrer Initiative „Neue Seidenstraße“ Normen- und Kooperationsabkommen mit 52 Ländern unterzeichnet hat; weist warnend darauf hin, dass der Aktivismus Chinas mit Blick auf Normen eine Herausforderung für die EU darstellt, da mehrere dieser Normen, auch in Bezug auf KI-Technologien und insbesondere in Bezug auf die Überwachung durch die Regierung und die individuellen Freiheiten, nicht mit den Menschenrechten und den Werten der EU im Einklang stehen;

51. betont, dass KI-Technologien, insbesondere solche, die nicht mit den eingerichteten expliziten Kontrollmethoden gestaltet und entwickelt wurden und missbräuchlich und ohne Aufsicht in militärischen Kommandozentren oder in Trägerraketen eingesetzt werden, besonders signifikante Risiken darstellen und zu einer Eskalation eines automatisierten gegenseitigen Konflikts führen könnten;

52. stellt fest, dass der Einsatz von KI-Systemen in verteidigungsbezogenen Entwicklungen aufgrund der Analyse von Daten, der Möglichkeit, eine größere Komplexität von Situationen abzubilden, des Potenzials, die Zielgenauigkeit zu verbessern, die Logistik zu optimieren und sich an bewaffneten Konflikten mit einem geringeren Risiko physischer Schäden für die Zivilbevölkerung und das eigene Militär zu beteiligen, sowie aufgrund der Verwendung von Daten für die Entwicklung von Handlungsmodi, wie z. B. für Konfliktsimulationen, als Wegbereiter für militärische Operationen angesehen wird; warnt jedoch davor, dass dies zu einer niedrigeren Schwelle für den Einsatz von Gewalt führen könnte, und damit zu mehr Konflikten; bekräftigt, dass Maschinen nicht in der Lage sind, menschenähnlichen Entscheidungen zu treffen, die die Rechtsgrundsätze Unterscheidungen, Verhältnismäßigkeit und Vorsorge miteinschließen; bekräftigt, dass der Mensch die Kontrolle über die Entscheidung, Waffen einzusetzen und zu verwenden, behalten und für die Anwendung tödlicher Gewalt sowie für Entscheidungen über Leben und Tod verantwortlich bleiben sollte; ist der Auffassung, dass für KI-basierte Waffensysteme globale Standards und ein internationaler ethischer Verhaltenskodex gelten sollten, um den Einsatz von KI-Technologien bei militärischen Operationen unter umfassender Achtung des humanitären Völkerrechts und der Menschenrechte sowie im Einklang mit dem Recht und den Werten der Union zu untermauern;

53. ist besorgt über die militärische Forschung und technologische Entwicklungen, die in manchen Ländern im Hinblick auf tödliche autonome Waffensysteme ohne maßgebliche menschliche Kontrollen durchgeführt werden; stellt fest, dass tödliche autonome Waffensysteme bereits in militärischen Konflikten eingesetzt werden; weist erneut darauf hin, dass das Parlament sich wiederholt für ein internationales Verbot der Entwicklung, der Herstellung und des Einsatzes von tödlichen autonomen Waffensystemen und für die Aufnahme wirksamer Verhandlungen über deren Verbot ausgesprochen hat; betont, dass KI-gestützte Systeme unter keinen Umständen menschliche Entscheidungsfindungsprozesse ersetzen dürfen, was die Rechtsgrundsätze Unterscheidungen, Verhältnismäßigkeit und Vorsorge miteinschließt;

54. stellt insbesondere fest, dass die KI-Technologie potenzielle Risiken als Mittel für die Verfolgung verschiedener Formen hybrider Kriegsführung und ausländischer Einflussnahme bergen kann; weist darauf hin, dass sie beispielsweise mobilisiert werden könnte, um durch die Nutzung von Bots oder gefälschten Social-Media-Konten Desinformationen zu verbreiten, die Interdependenz als Waffe einzusetzen, wertvolle Informationen zu sammeln oder Wettbewerbern den Zugang zum Netz zu verwehren, Störungen in den Wirtschafts- und Finanzsystemen anderer Länder zu verursachen, die politische Debatte zu vergiften und extremistische Gruppen zu begünstigen oder Wahlen zu manipulieren, um Demokratien zu destabilisieren;

55. hebt hervor, dass KI-Technologien auch KI-gestützte Schadprogramme, Identitätsdiebstahl, Datenvergiftung oder anderen Formen des kontradiktorischen maschinellen Lernens umfassen können, was dazu führt, dass andere KI-Systeme Eingaben falsch interpretieren; weist insbesondere auf die Zunahme von Deepfakes hin, bei denen es sich nicht unbedingt um Cyberangriffe handelt, die aber Zweifel an der Authentizität aller digitalen Inhalte, einschließlich Videos, aufkommen lassen und daher im Hinblick auf die Transparenzanforderungen besondere Aufmerksamkeit verdienen; warnt davor, dass Deepfakes zu einem breiten Klima des Misstrauens in der Öffentlichkeit gegenüber KI sowie zu einer tieferen soziopolitischen Polarisierung in unseren Gesellschaften beitragen könnten;

56. weist darauf hin, dass die Verwendung von KI-Systemen in einer beträchtlichen Menge kritischer Infrastrukturen wie Energie- und Verkehrsnetze, Raumfahrt, die Lebensmittelversorgungskette, die Banken- und Finanzinfrastruktur und Krankenhauseinrichtungen zu neuen Anfälligkeiten geführt hat, die solide Cybersicherheitsmaßnahmen zur Gefahrenabwehr erfordern; weist in diesem Zusammenhang darauf hin, dass die Zusammenarbeit und der Informationsaustausch sowie Maßnahmen auf Ebene sowohl der EU als auch der Mitgliedstaaten wichtig sind; betont, dass der Förderung der Resilienz kritischer Einrichtungen gegenüber hybriden Bedrohungen eine große Bedeutung zukommt;

57. warnt davor, dass die Fähigkeiten der KI auch Sicherheitsrisiken darstellen können, da sie Menschen dazu veranlassen können, ein solches Maß an Vertrauen in KI zu entwickeln, das das Vertrauen in ihr eigenes Urteil übertrifft; stellt fest, dass der Ansatz der interaktiven Einbindung eines Menschen („Human-in-the-Loop“) als Korrekturmechanismus nicht in allen Fällen praktikabel ist; stellt fest, dass Experimente gezeigt haben, dass dadurch das Maß an Autonomie der KI über die unterstützende Rolle hinaus erhöht werden kann, für die sie ursprünglich konzipiert wurde, und dass Menschen Gelegenheiten verpassen, Erfahrungen zu sammeln und ihre Fähigkeiten und Kenntnisse über KI-Systeme zu verfeinern; betont daher, dass Auslegungssicherheit und sinnvolle menschliche Aufsicht auf der Grundlage einer geeigneten Ausbildung sowie angemessener Sicherheits- und Datenschutzvorkehrungen bei KI-Systemen mit hohem Risiko vonnöten sind, um diesen Automatisierungsbias zu überwinden;

58. betont jedoch, dass KI zur Vorhersage von Stromausfällen und zur sehr genauen Ermittlung von Wartungsbedarf verwendet werden kann; weist ferner darauf hin, dass sie verwendet werden kann, um große Datenmengen durch automatische Informationsextraktion oder automatische Informationsklassifizierung zusammenzufassen und um spezifische Muster zu erkennen; betont, dass diese Elemente eine bessere Vorhersage und Bewertung der Bedrohungslage und von Systemanfälligkeiten, schnellere Entscheidungsprozesse, eine verbesserte Reaktivität und eine wirksamere Sicherung von Endpunktgeräten ermöglichen würden;

59. hebt insbesondere das inhärente Potenzial dafür hervor, Strafverfolgungsbehörden in die Lage zu versetzen, kriminelle Aktivitäten zu erkennen und dagegen vorzugehen, wobei KI-Technologien hilfreich sind; betont, dass solche KI-gestützten Strafverfolgungsmaßnahmen jedoch die uneingeschränkte Achtung der Grundrechte, die strenge demokratische Aufsicht, klare Transparenzregeln, eine leistungsfähige IT-Infrastruktur, menschliche Aufsicht, hochqualifizierte Mitarbeiter und den Zugang zu relevanten und hochwertigen Daten erfordern;

d) KI und Wettbewerbsfähigkeit

60. stellt fest, dass in der nahen Zukunft mehr und mehr Produkte und Dienstleistungen entlang der Wertschöpfungskette miteinander verbunden sein werden, wobei KI und Automation eine wichtige Rolle in vielen Herstellungsprozessen, Tätigkeiten und Geschäftsmodellen spielen werden; betont, dass die Grundlagenforschung für die Entwicklung von KI-Ökosystemen in der Industrie sowie substantielle Investitionen zur Förderung der digitalen öffentlichen Verwaltung und zur Modernisierung der digitalen Infrastruktur von größter Bedeutung sind;

61. betont, dass trotz der signifikanten Zunahme an Risikokapital und anderen Finanzierungen von Unternehmen in der Frühphase in den letzten zwei Jahren viele europäische Wirtschaftszweige zurückbleiben und dass die aktuellen Finanzierungsniveaus in der EU weiterhin unzureichend sind und maßgeblich aufgestockt werden sollten, um der Dynamik führender KI-Ökosysteme, wie unter anderem dem Silicon Valley, zu entsprechen; hebt die besondere Clusternetzwerk-Struktur des Innovationsökosystems der EU hervor, im Gegensatz zu zentralisierten (und staatlich geförderten) Innovationsökosystemen;

62. betont, dass KI ein Wegbereiter für die Wettbewerbsfähigkeit der Industrie der EU sein kann und das Potenzial hat, die Produktivität zu erhöhen, Innovationen zu beschleunigen, Herstellungsverfahren zu verbessern und die Überwachung der Widerstandsfähigkeit europäischer Lieferketten zu unterstützen;

63. weist auf das Risiko der Unterbrechung von Lieferketten infolge der wirtschaftlichen Entkoppelung oder Katastrophen wie Pandemien oder Phänomene im Zusammenhang mit dem Klimawandel hin; betont, dass die Verwendung von KI die Aufdeckung von Mustern in der Unterbrechung von Lieferketten unterstützen kann und Informationen für die vorausschauende Instandhaltung bereitstellen kann, wodurch die Diversifizierung von Lieferanten unterstützt werden könnte;

64. stellt fest, dass Unternehmen, die digitale Störungen ausgelöst haben, oft mit erheblichen Marktanteilgewinnen belohnt wurden; stellt fest, dass aktuelle Studien darauf hindeuten, dass sich dieses Muster wahrscheinlich noch verstärken wird, da Unternehmen, die KI einsetzen, häufig große Datenmengen erfassen, wodurch ihre Wettbewerbsposition meist verbessert wird; ist besorgt über die daraus folgenden Risiken einer Marktkonzentration zum Nachteil von KMU und Start-up-Unternehmen;

65. betont, dass diese Aussichten besonders besorgniserregend sind, da die größten etablierten Technologieunternehmen, die wahrscheinlich auch im Bereich der KI-Technologien dominierend sein werden, Gatekeeper für Märkte sind, wobei sie gleichzeitig den größten Teil des generierten Werts vereinnahmen; betont, dass die Daten, die den KI-Sektor vorantreiben, mit überwältigender Mehrheit bei denselben großen Technologieunternehmen erhoben werden, die den Nutzern im Austausch für Daten und die Akzeptanz von gezielter Werbung Zugang zu Dienstleistungen bieten, weshalb ihre bestehende Marktdominanz mit großer Wahrscheinlichkeit zu einem Treiber einer weiteren Marktbeherrschung wird; weist darauf hin, dass der Hauptsitz von vielen dieser Technologieunternehmen sich außerhalb der EU befindet, dass sie aber dennoch den von europäischen Kunden generierten Wert vereinnahmen und damit einen Wettbewerbsvorteil erlangen;

66. Ex-ante- Maßnahmen, einschließlich des zukünftigen Gesetzes über digitale Märkte, für den Ausgleich der Konzentration, bevor sie auftritt; hebt darüber hinaus die Rolle hervor, die die Normung und die Zusammenarbeit bei der Regulierung bei der Lösung dieses Problems spielen können, indem sie die globale Entwicklung von Produkten und Dienstleistungen unabhängig von ihrem physischen Ort erleichtern; begrüßt, dass in der jüngsten Mitteilung der Kommission die Aktualisierung der Wettbewerbsregeln gefordert wurde, um sie für das digitale Zeitalter zu rüsten ( 29 ) , und betont die Schlüsselrolle derMaßnahmen, einschließlich des zukünftigen Gesetzes über digitale Märkte, für den Ausgleich der Konzentration, bevor sie auftritt; hebt darüber hinaus die Rolle hervor, die die Normung und die Zusammenarbeit bei der Regulierung bei der Lösung dieses Problems spielen können, indem sie die globale Entwicklung von Produkten und Dienstleistungen unabhängig von ihrem physischen Ort erleichtern;

67. betont, dass KMU und Start-up-Unternehmen eine zentrale Rolle bei der Einführung von KI-Technologien in der EU spielen, da sie den Großteil aller Unternehmen ausmachen und eine entscheidende Innovationsquelle darstellen; stellt jedoch fest, dass vielversprechende KI-Start-up-Unternehmen mit signifikanten Hindernissen für eine Expandierung in Europa konfrontiert sind, aufgrund des unvollständigen digitalen Binnenmarkts und der regulatorischen Unterschiede in vielen Mitgliedstaaten, oder dass sie, wenn sie expandieren, von großen Technologieunternehmen übernommen werden; bedauert, dass KMU häufig mit fehlenden Mitteln, komplexen Verwaltungsverfahren und dem Mangel an geeigneten Kompetenzen und dem fehlenden Zugang zu Informationen konfrontiert sind; stellt fest, dass die Wettbewerbsbehörden der EU in der Vergangenheit viele ausländische Übernahmen von europäischen KI- und Robotik-Unternehmen zugelassen haben;

68. betont, dass die intensive Nutzung von Algorithmen, z. B. für die Preisfestlegung, auch zu völlig neuen KI-spezifischen Problemen im Binnenmarkt führen könnte; stellt fest, dass es beispielsweise für Kartellbehörden schwierig sein könnte, Preisabsprachen zwischen KI-gestützten Preissetzungssystemen nachzuweisen; fügt ferner an, dass die wenigen KI-Anbieter, die bereits am Börsenhandel beteiligt sind, ein systemisches Risiko für die Finanzmärkte darstellen könnten, unter anderem durch Absprachen; betont, dass algorithmische Absprachen sehr schwer zu ermitteln sind, da KI-basierte Systeme nicht miteinander kommunizieren, wie es Menschen im Falle von kollusiven Praktiken tun, wodurch es unmöglich sein kann, kollusive Absichten nachzuweisen; betont, dass hierdurch die Marktstabilität gefährdet wird und dass die Wettbewerbsbehörden der EU und der Mitgliedstaaten geeignete Strategien und Instrumente ausarbeiten müssen; hebt darüber hinaus das systemische Risiko für Finanzmärkte aufgrund der weitverbreiteten Nutzung von algorithmischen Handelsmodellen und -systemen ohne jede menschliche Interaktion hervor, die die Marktbewegungen in der Vergangenheit außerordentlich verstärkt haben und dies wahrscheinlich in Zukunft wieder tun werden;

69. stellt fest, dass viele KI-Unternehmen in der EU derzeit mit Rechtsunsicherheit konfrontiert sind, und zwar in Bezug darauf, wie sie ihre Produkte und Dienstleistungen auf sichere Weise entwickeln können, aufgrund von bürokratischen Hürden und da sich die geltenden branchenspezifischen Rechtsvorschriften überschneiden und es keine etablierten KI-Standards und -Normen gibt;

70. hebt die Herausforderung für KI-Unternehmen im Hinblick auf Qualitätskontrolle und Verbraucherschutz hervor; kommt zu dem Schluss, dass Transparenz und Vertrauenswürdigkeit von wesentlicher Bedeutung sind, um sicherzustellen, dass Unternehmen der EU einen Wettbewerbsvorteil haben, da durch solche Überlegungen in Zukunft darüber entschieden wird, ob ein Produkt oder eine Dienstleistung letztendlich vom Markt akzeptiert wird;

71. stellt fest, dass zwar 26 % der Publikationen im Bereich der Spitzenforschung zum Thema KI aus Europa stammen, aber nur vier der 30 wichtigsten Antragsteller (13 %) und nur 7 % der Unternehmen, die weltweit KI-Patente anmelden, in Europa ansässig sind;

72. ist der Ansicht, dass die Rechtsvorschriften der EU über geistiges Eigentum harmonisiert und klar und transparent durchgesetzt werden müssen und einen ausgewogenen, durchsetzbaren und berechenbaren Rahmen erfordern, um es europäischen Unternehmen und insbesondere KMU und Start-up-Unternehmen zu ermöglichen, den Schutz des geistigen Eigentums zu gewährleisten;

73. ist besorgt darüber, dass KMU ihr geistiges Eigentum weiterhin selten schützen, was oftmals daran liegt, dass sie sich weder vollständig über ihre Rechte bewusst sind noch über ausreichende Ressourcen verfügen, um diese Rechte zu wahren; hebt hervor, wie wichtig Informationen und Statistiken über den Schutz des geistigen Eigentums bei in wissensintensiven Branchen tätigen KMU sind, und begrüßt Bemühungen, darunter vereinfachte Registrierungsverfahren und niedrigere Verwaltungsgebühren, um KMU und Start-up-Unternehmen bessere Kenntnisse zu vermitteln und ihren Zugang zum Schutz des geistigen Eigentums zu erleichtern; stellt fest, dass die Position der EU als Organisation, die globale Standards setzt. gestärkt werden sollte, um Unternehmen aus der EU dabei zu helfen, ihre KI-bezogenen Rechte des geistigen Eigentums zu schützen; betont, dass die internationale Wettbewerbsfähigkeit und Attraktivität in einem starken und widerstandsfähigen Binnenmarkt und u. a. im Schutz und in der Durchsetzung der Rechte des geistigen Eigentums verwurzelt ist;

74. stellt fest, dass die Datenanalyse sowie der Zugang zu sowie der Austausch und die Weiterverwendung von nicht personenbezogenen Daten bereits heute für viele datengesteuerte Produkte und Dienstleistungen von wesentlicher Bedeutung sind, aber für die Entwicklung und den Einsatz künftiger KI-Systeme wichtig sein werden; betont jedoch, dass die meisten nicht personenbezogenen Daten, die bisher in der EU generiert wurden, nicht genutzt werden, während ein Binnenmarkt für Daten noch in Arbeit ist;

75. weist darauf hin, wie wichtig es ist, den Datenzugang und Datenaustausch zu erleichtern sowie offene Standards und quelloffene Technologien zu ermöglichen, um hierdurch die Investitionen zu verstärken und Innovationen im Bereich der KI-Technologien in der EU zu fördern; stellt fest, dass eine bessere Harmonisierung der Auslegungen durch die nationalen Datenschutzbehörden und der Leitlinien zu gemischten Daten und zu Techniken der Depersonalisierung für KI-Entwickler von Nutzen wäre;

76. betont die Rolle, die KI bei der Unterstützung von Durchsetzungsmaßnahmen europäischer und nationaler Behörden, insbesondere in den Bereichen Zoll und Marktüberwachung, spielen kann; ist der Ansicht, dass Handels- und Zollverfahren durch KI effizienter und kostengünstiger gestaltet werden können, indem die Einhaltung der Vorschriften verbessert und sichergestellt wird, dass nur sichere Produkte auf den Binnenmarkt gelangen; weist beispielhaft auf das System für Bewertung und Einnahmeverwaltung der Canada Border Services Agency (das CARM-System) hin, das Import- und Exportverfahren erheblich vereinfacht, indem es eine qualifizierte KI-Risikobewertung und ein optimiertes digitalisiertes Informationsmanagement nutzt, um den Bedarf an langwierigen Kontrollen zu verringern;

e) KI und der Arbeitsmarkt

77. stellt fest, dass die KI den Arbeitsmarkt, den Arbeitsplatz und den sozialen Bereich zunehmend beeinflusst und dass die Auswirkungen des technologischen Wandels auf Arbeit und Beschäftigung vielschichtig sind; betont, dass der Einsatz von KI in diesem Bereich eine Reihe von ethischen, rechtlichen und beschäftigungsbezogenen Herausforderungen mit sich bringt; ist besorgt darüber, dass die Digitalisierung auf dem Arbeitsmarkt zu einer Umstrukturierung der Belegschaft und zum möglichen Verschwinden bestimmter Beschäftigungssektoren führen könnte; ist der Auffassung, dass die Einführung von KI in Verbindung mit der erforderlichen unterstützenden Infrastruktur, Bildung und Schulung die Kapital- und Arbeitsproduktivität, die Innovation und das nachhaltige Wachstum steigern und Arbeitsplätze schaffen könnte;

78. betont, dass KI zwar möglicherweise einige Aufgaben ersetzt, darunter repetitive, schwere, arbeitsintensive oder gefährliche, aber auch dazu beitragen könnte, Fähigkeiten zu verbessern, die Qualität der Arbeit zu steigern und neue Beschäftigung mit höherem Mehrwert zu schaffen, sodass mehr Zeit für anregende Aufgaben und die berufliche Weiterentwicklung bleibt; betont, dass KI derzeit bei einer Teilmenge von Aufgaben Menschen bereits ersetzt oder ergänzt, aber bislang noch keine erkennbaren signifikanten Auswirkungen auf den Gesamtarbeitsmarkt hat ( 30 ) ; betont jedoch, dass die Möglichkeit einer Zunahme der Einkommensungleichheit besteht, wenn durch KI mehr hohe Qualifikationen erfordernde Tätigkeiten entstehen und geringe Qualifikationen erfordernde Tätigkeiten ersetzt werden; fügt hinzu, dass es notwendig ist, die sich daraus ergebenden wirtschaftlichen und sozialen Auswirkungen durch geeignete Maßnahmen, Forschung und Voraussicht abzumildern und sich auf sie vorzubereiten, indem man in die Umschulung und Weiterbildung der Arbeitskräfte investiert, wobei der Schwerpunkt auf unterrepräsentierten Gruppen wie Frauen und Minderheiten liegen sollte, die von diesem Wandel wahrscheinlich am stärksten betroffen sind, und indem man Vielfalt in allen Phasen der KI-Systementwicklung fördert; befürchtet, dass die KI Prozesse der Dequalifizierung hervorrufen und niedrig bezahlte, wenig autonome Arbeit schaffen und verankern sowie atypische, flexible (oder „Gig“-)Arbeit ausweiten könnte; unterstreicht, dass algorithmisches Management zu Machtungleichgewichten zwischen Führungskräften und Arbeitnehmern und zu Unklarheit über die Entscheidungsfindung führen könnte;

79. betont, dass die Einführung von KI eine Gelegenheit zur Förderung eines erheblichen Kulturwandels in Unternehmen bietet, etwa durch verbesserte Arbeitsplatzsicherheit, eine bessere Vereinbarkeit von Beruf und Privatleben, das Recht, von der Arbeit abzuschalten, sowie wirksamere Schulungsmöglichkeiten und Anleitung für Arbeitnehmer; verweist in diesem Zusammenhang auf die Empfehlungen der OECD, in denen hervorgehoben wird, dass die Automatisierung auch eine Arbeitszeitverkürzung nach sich ziehen und damit die Lebensbedingungen und die Gesundheit der Arbeitnehmer verbessern könnte; ist der Ansicht, dass durch KI-Anwendungen, die den Menschen stärken, auch neue Beschäftigungsmöglichkeiten geschaffen werden könnten, insbesondere für diejenigen, die aufgrund von Einschränkungen wie Behinderungen oder Lebensumständen bisher an geringere Qualifikationen erfordernde Arbeitsplätze gebunden waren; betont, dass die KI-Unterstützung am Arbeitsplatz genutzt werden muss, um den Menschen Zeit zu geben, die Qualität ihrer Arbeit zu verbessern, anstatt nur die Arbeitsbelastung zu erhöhen;

80. verurteilt den zunehmenden Einsatz von KI-betriebener Überwachung am Arbeitsplatz, die häufig ohne das Wissen der Arbeitnehmer, geschweige denn ohne ihre Zustimmung erfolgt, insbesondere auch im Zusammenhang mit Telearbeit; ist der Auffassung, dass diese Praxis nicht zulässig sein sollte, da sie das Grundrecht auf Privatsphäre, Datenschutz und Menschenwürde der Arbeitnehmer sowie Sozial- und Arbeitsrechte in hohem Maße verletzt und aufgrund der Tragweite des Eingriffs, der pauschalen oder wahllosen Wirkung und des fehlenden Schutzes für die betroffenen Personen auch negative Auswirkungen auf die psychische Gesundheit der Arbeitnehmer hat;

81. ist besorgt darüber, dass eine ähnliche Gefahr der Überwachung auch im schulischen Umfeld besteht, da die zunehmende Einführung von KI-Systemen in Schulen die Grundrechte der Kinder untergräbt; stellt fest, dass die Auswirkungen der KI auf die Privatsphäre, die Sicherheit und den Schutz der Kinder ein breites Spektrum abdecken, das von Vorteilen im Zusammenhang mit der Fähigkeit, Bedrohungen für Kinder genauer und präziser zu verstehen, bis hin zu Risiken im Zusammenhang mit unbeabsichtigten Verletzungen der Privatsphäre reicht; unterstreicht, dass sowohl die positiven als auch die negativen Auswirkungen auf die Privatsphäre, die Sicherheit und den Schutz der Kinder einer genauen Prüfung und entsprechender Schutzmaßnahmen bedürfen; hebt ferner hervor, dass Kinder bei der Entwicklung von KI-Systemen besonders berücksichtigt und geschützt werden müssen, da sie besonders anfällig und gefährdet sind;

82. betont, dass es von größter Bedeutung ist, den Einzelnen in allen Lebensphasen mit umfassenden Qualifizierungsprogrammen auszustatten, um ihn in die Lage zu versetzen, in einer sich ständig weiterentwickelnden Arbeitswelt produktiv zu bleiben, und seine Ausgrenzung vom Arbeitsmarkt zu vermeiden; ist der Ansicht, dass die Anpassung der Arbeitnehmer im Hinblick auf KI-Bildung, lebenslanges Lernen und Umschulungen von entscheidender Bedeutung ist; betont, dass die derzeitigen Konzepte des Lernens und Arbeitens noch immer zu stark durch die prädigitale Welt bestimmt sind, was zu einer zunehmenden Qualifikationslücke und einer neuen digitalen Kluft für Bürger, die keinen Zugang zu einem sicheren digitalen Raum haben, beiträgt; betont, dass durch die Verbesserung der digitalen Kompetenz zur Verwirklichung der Ziele der Vereinten Nationen für nachhaltige Entwicklung, insbesondere derjenigen in den Bereichen Bildung, Humankapital und Infrastruktur, beigetragen wird; hebt den Wissenszuwachs über neue Arbeits- und Lernformen hervor, der durch die COVID-19-Krise entstanden ist und auf dem weiter aufgebaut werden könnte;

83. hebt hervor, dass die Union die Vorteile der Digitalisierung nur voll ausschöpfen kann, wenn sie digitale Kompetenz und Fähigkeiten für alle fördert; ist der Ansicht, dass digitale Kompetenz eine Voraussetzung für das Vertrauen der Bürger in die KI und das öffentliche Bewusstsein für ihre Auswirkungen ist; hebt hervor, wie wichtig es ist, eine Grundausbildung in digitalen Fähigkeiten und KI in die nationalen Bildungssysteme aufzunehmen; ist der Ansicht, dass der Einsatz und die Entwicklung der KI-Technologie im Bereich der Minderheitensprachen zur Förderung ihrer Kenntnis und Verwendung führen könnten; betont, dass mehr als 70 % der Unternehmen einen Mangel an Personal mit angemessenen digitalen Kompetenzen und KI-Kompetenzen als Investitionshindernis angeben; ist besorgt darüber, dass es im Jahr 2019 in der EU 7,8 Mio. IKT-Fachkräfte gab, was einer Steigerung um 4,2 % gegenüber dem Vorjahr entspricht, womit die Zahl deutlich unter dem Bedarf in Schlüsselbereichen wie der Datenanalyse liegt, der sich Prognosen der Kommission zufolge auf 20 Mio. Sachverständige beläuft;

84. ist besorgt über das ausgeprägte Geschlechtergefälle in diesem Bereich, da Frauen unter den IKT-Fachkräften nur ein Sechstel und unter den Absolventen in Studiengängen der Bereiche Mathematik, Informatik, Naturwissenschaften und Technik (MINT) nur ein Drittel ausmachen ( 31 ) ; stellt mit Besorgnis fest, dass die Kluft zwischen den Geschlechtern insbesondere im Bereich der Start-up-Unternehmen fortbesteht, wo 2019 92 USD von 100 USD, die in europäische Technologieunternehmen investiert wurden, an Gründerteams gingen, die ausschließlich aus Männern bestanden; empfiehlt gezielte Initiativen zur Unterstützung von Frauen im MINT-Bereich, um die allumfassende Qualifikationslücke in diesem Wirtschaftszweig zu schließen; betont, dass diese Lücke unweigerlich zu verzerrten Algorithmen führt; betont, wie wichtig es ist, Mädchen zu befähigen und zu motivieren, MINT-Berufe zu ergreifen, und die geschlechtsspezifischen Unterschiede in diesem Bereich zu beseitigen;

f) KI und die Zukunft der Demokratie

85. stellt fest, dass die KI einerseits das Potenzial hat, zum Aufbau eines transparenteren und effizienten öffentlichen Sektors beizutragen, dass andererseits jedoch die — oft von einer Wachstums- und Profitlogik getriebenen — technischen Entwicklungen im Bereich der KI sehr schnell und dynamisch sind, was es den politischen Entscheidungsträgern erschwert, ausreichend zu verstehen, wie neue KI-Anwendungen funktionieren und welche Ergebnisse diese Anwendungen hervorbringen können, obwohl sie die Pflicht haben, einen Rahmen festzulegen, um sicherzustellen, dass die KI mit den Grundrechten im Einklang steht und zum Wohle der Gesellschaft verwendet werden kann; hebt hervor, dass die Prognosen von Experten zu den zukünftigen Auswirkungen der KI auch voneinander abweichen, was darauf hindeutet, dass es selbst für sie schwierig sein könnte, die Ergebnisse der Einführung neuer KI-Technologien vorherzusagen; vertritt daher die Auffassung, dass es aufgrund dieser Unsicherheit notwendig ist, dass die Gesetzgeber bei der Regulierung der KI dem Vorsorgeprinzip gebührend Rechnung tragen; hält die Konsultation von Experten mit unterschiedlichem Fachwissen und unterschiedlichem Hintergrund für wesentlich, um solide, praktikable und zukunftssichere Rechtsvorschriften zu schaffen; gibt zu bedenken, dass Rechtsunsicherheit eines der größten Innovationshemmnisse sein kann; weist in diesem Zusammenhang darauf hin, wie wichtig es ist, die KI-Kompetenz der Bevölkerung zu fördern, einschließlich der gewählten Vertreter und nationalen Behörden;

86. warnt davor, dass legislative Zyklen daher häufig nicht mit dem Tempo des technologischen Fortschritts Schritt halten, sodass die politischen Entscheidungsträger gezwungen sind, den Rückstand aufzuholen, weshalb sie es bevorzugen, bereits auf dem Markt befindliche Anwendungsfälle zu regulieren; weist darauf hin, dass einem vernünftigen Regulierungsansatz in Bezug auf KI eine umfassende Analyse der Verhältnismäßigkeit und Notwendigkeit vorausgehen muss, um zu verhindern, dass die Innovation und die Wettbewerbsfähigkeit der Unternehmen in der EU behindert werden;

87. betont, dass der Einsatz von KI für den Erwerb biometrischer Daten für den Einzelnen sowie für die breite Öffentlichkeit sowohl übergriffig und belastend als auch vorteilhaft sein könnte;

88. stellt mit Besorgnis fest, dass solche KI-Technologien wichtige ethische und rechtliche Fragen aufwerfen; stellt fest, dass bestimmte KI-Technologien die Automatisierung der Informationsverarbeitung in einem noch nie dagewesenen Ausmaß ermöglichen, was den Weg für Massenüberwachung und andere unrechtmäßige Eingriffe ebnet und eine Bedrohung der Grundrechte darstellt, insbesondere der Rechte auf Privatsphäre und Datenschutz;

89. betont, dass viele autoritäre Regime KI-Systeme einsetzen, um ihre Bürger zu kontrollieren, massenhaft zu beobachten, auszuspionieren, zu überwachen und ihnen ein Ranking zuzuweisen oder ihre Freizügigkeit zu beschneiden; betont, dass jede Form einer normativen Bewertung der Bürger, die von Behörden, insbesondere im Bereich der Strafverfolgung, der Grenzkontrolle und der Justiz, bzw. von privaten Unternehmen oder Einzelpersonen vorgenommen wird, zum Verlust von Autonomie und Privatsphäre führt, Diskriminierungsrisiken mit sich bringt und nicht mit den europäischen Werten in Einklang steht; erinnert daran, dass Technologien wie Cyberüberwachung und biometrische Erkennung, die zu diesen Zwecken eingesetzt werden können, der Ausfuhrkontrollverordnung der EU unterliegen; ist äußerst besorgt über und verurteilt Fälle, in denen EU-Unternehmen biometrische Systeme, deren Verwendung in der EU untersagt ist, an autoritäre Regime in Nicht-EU-Ländern verkaufen;

90. stellt fest, dass marktbeherrschende Technologieplattformen heutzutage nicht nur ein erhebliches Maß an Kontrolle über den Zugang zu Informationen und deren Verbreitung ausüben, sondern auch KI-Technologien nutzen, um mehr Informationen über die Identität und das Verhalten und Kenntnisse über das zurückliegende Entscheidungsverhalten einer Person zu erhalten; ist der Ansicht, dass ein solches Profiling eine Bedrohung für die demokratischen Systeme sowie für die Wahrung der Grundrechte und der Autonomie der Bürger darstellt; betont, dass dies ein Ungleichgewicht der Macht schafft und systemische Risiken birgt, die die Demokratie beeinträchtigen könnten;

91. weist darauf hin, dass digitale Plattformen, auch durch KI-gesteuerte Marketinganwendungen, genutzt werden können, um Einfluss aus dem Ausland zu nehmen und Desinformation und Deepfakes zu verbreiten, indem sie als Netzwerke für Propaganda, den Einsatz von Trolls und Schikanen dienen, um Wahlprozesse zu untergraben; betont, dass maschinelles Lernen insbesondere die gezielte Nutzung personenbezogener Daten ermöglicht, um ahnungslose Wähler zu manipulieren, indem individuell zugeschnittene und überzeugende Botschaften kreiert werden; unterstreicht die Bedeutung strenger Transparenzpflichten, die wirksam durchgesetzt werden;

92. betont jedoch, dass KI auch genutzt werden könnte, um antidemokratische und unethische Aktivitäten auf Plattformen zu verringern und die Verbreitung von Falschmeldungen und Hetze zu begrenzen, auch wenn Tests ihrer Fähigkeiten, kontextspezifische Inhalte zu verstehen, bisher nur schwache Ergebnisse gezeigt haben; ist besorgt darüber, dass eine spalterische Sprache zu einem stärkeren Engagement der Nutzer führen könnte, weshalb ein Unterbinden solcher Äußerungen in direktem Widerspruch zum Geschäftsmodell solcher Plattformen stünde, das auf einem größtmöglichen Engagement der Nutzer beruht; ist der Auffassung, dass KI-gestützte Lösungen vor ihrer letztendlichen Anwendung auf einer uneingeschränkten Achtung der freien Meinungsäußerung und Meinungsfreiheit und auf stichhaltigen Beweisen zu ihren Gunsten beruhen müssen;

93. betont, dass Voreingenommenheit von KI-Systemen, insbesondere bei Deep-Learning-Systemen, häufig auf einen Mangel an vielfältigen und hochwertigen Schulungs- und Testdaten zurückzuführen ist, beispielsweise wenn Datensätze verwendet werden, die gefährdete Gruppen nicht hinreichend repräsentieren, oder wenn die Festlegung von Aufgaben oder Anforderungen selbst von Voreingenommenheit geprägt ist; stellt fest, dass Voreingenommenheit auch aufgrund eines möglichen Mangels an Vielfalt in den Entwicklerteams entstehen kann, was intrinsische Voreingenommenheit bekräftigt, oder aufgrund eines begrenzten Umfangs an Schulungs- und Testdaten oder wenn der Algorithmus von einem voreingenommenen KI-Entwickler beeinträchtigt wurde; weist darauf hin, dass eine begründete Differenzierung auch absichtlich geschaffen wird, um die Lernleistung der KI unter bestimmten Umständen zu verbessern;

94. betont, dass strukturelle Voreingenommenheit in unserer Gesellschaft nicht durch minderwertige Datensätze wiederholt oder gar verstärkt werden sollte; weist in diesem Zusammenhang darauf hin, dass Algorithmen so diskriminierend sind wie die Daten, mit denen sie arbeiten, und dass sie aufgrund von minderwertigen Trainingsdaten oder von in der Gesellschaft beobachteter Voreingenommenheit und Diskriminierung Entscheidungen vorschlagen könnten, die ihrem Wesen nach diskriminierend sind, was die Diskriminierung innerhalb der Gesellschaft verschärft; stellt jedoch fest, dass KI-Voreingenommenheiten manchmal korrigiert werden können; kommt daher zu dem Schluss, dass es notwendig ist, für KI-Systeme, einschließlich der Software, der Algorithmen und der von ihnen verwendeten und erzeugten Daten, technische Mittel einzusetzen und verschiedene Kontrollschichten einzurichten, um dieses Risiko zu minimieren; vertritt die Auffassung, dass KI genutzt werden kann und sollte, um in unserer Gesellschaft Vorurteile und Diskriminierung abzubauen sowie Gleichberechtigung und positiven sozialen Wandel zu fördern, auch durch normative Anforderungen an Datensätze, die zum Training von KI-Systemen verwendet werden; betont, dass eine der effizientesten Möglichkeiten zur Verringerung von Verzerrungen in KI-Systemen darin besteht, im Rahmen der unionsrechtlichen Möglichkeiten sicherzustellen, dass eine größtmögliche Menge nicht personenbezogener Daten für Trainingszwecke und maschinelles Lernen zur Verfügung steht;

g) Wiederkehrende Ergebnisse in allen sechs Fallstudien

95. stellt fest, dass sich im Zusammenhang mit der Einführung von KI-Technologien klare gesellschaftliche Vorteile und Chancen bieten, die nur genutzt werden können, wenn bereichsübergreifende Hindernisse in der EU im Einklang mit den Grundrechten und -werten und den Rechtsvorschriften beseitigt werden; stellt fest, dass insbesondere Überschneidung von Rechtsvorschriften, Marktzersplitterung, bürokratische Hürden, ein Mangel an zugänglicher digitaler Infrastruktur und an digitalen Kompetenzen in der breiteren Gesellschaft sowie unzureichende Investitionen in Forschung und Entwicklung in allen untersuchten Bereichen als Hindernisse für die erfolgreiche Anwendung von vertrauenswürdiger KI betrachtet werden können;

96. zieht aus den untersuchten Fallstudien ferner den Schluss, dass es bestimmte Anwendungsfälle gibt, die riskant oder schädlich sind, dass dies jedoch nicht unbedingt an bestimmten KI-Technologien an sich liegt, sondern an ihren Anwendungsbereichen; erkannt an, dass künftige Vorschriften berechtigten Bedenken im Zusammenhang mit diesen Risiken Rechnung tragen müssen, damit die KI-Technologien in der EU breite Anwendung finden können;

97. stellt fest, dass es zwar wichtig ist, die von KI ausgehenden potenziellen Risiken zu untersuchen und zu kategorisieren, die Fallstudien jedoch gezeigt haben, dass KI-Technologien uns wirksame Gegenmaßnahmen bieten können, mit denen diese Risiken gemindert oder beseitigt werden können; betont, dass sich die KI noch in einem sehr frühen Entwicklungsstadium im breiteren Kontext neuer Technologien befindet, weshalb ihr wahres Potenzial sowie ihre Risiken nur erahnt werden können; weist darauf hin, dass nicht nur die Risiken für den Einzelnen betrachtet werden müssen, sondern auch die umfassenderen gesellschaftlichen und nicht-materiellen individuellen Schäden; verdeutlicht die erheblichen Ungleichgewichte der Marktmacht auf den Datenmärkten und in der angrenzenden KI-Wirtschaft; betont, dass ein fairer Wettbewerb und die Beseitigung von Wettbewerbshindernissen für Start-up-Unternehmen und KMU wesentlich sind, um den potenziellen Nutzen von KI, der sowohl in der EU als auch weltweit erheblich zu sein scheint, in wirtschaftlicher und gesellschaftlicher Hinsicht gerecht zu verteilen;

3. Stellung der EU im globalen KI-Wettbewerb

98. stellt fest, dass im Bereich KI ein harter globaler Wettbewerb besteht, in dem die EU ihre Erwartungen noch nicht erfüllt hat; untersucht in den folgenden Abschnitten die globale Wettbewerbsfähigkeit der EU in Bezug auf KI, indem es sie mit der Chinas und der der Vereinigten Staaten vergleicht, wobei der Schwerpunkt auf drei zentralen Aspekten liegt, nämlich dem Regulierungsansatz, der Marktlage und den Investitionen; erkennt jedoch an, dass transnationale Märkte und Unternehmen nicht ohne Weiteres über nationale Grenzen hinweg abgegrenzt werden können, da die meisten Technologieunternehmen Kunden, Anteilseigner, Beschäftigte und Lieferanten in vielen verschiedenen Ländern haben;

a) Regulierungsansatz

99. stellt fest, dass die Vereinigten Staaten noch keine horizontalen Rechtsvorschriften im Digitalbereich eingeführt haben und sich bisher auf branchenspezifische Rechtsvorschriften und die Erleichterung von Investitionen, einschließlich durch steuerliche Maßnahmen für Innovationen in der Privatwirtschaft, konzentrieren, insbesondere für ihre Technologiegiganten und führenden Universitäten; stellt fest,