C 465/78
DE
Amtsblatt der Europäischen Union
6.12.2022
Dienstag, 3.
Mai 2022
51. betont, dass KI-Technologien, insbesondere solche, die nicht mit den eingerichteten expliziten Kontrollmethoden gestaltet und entwickelt wurden und missbräuchlich und ohne Aufsicht in militärischen Kommandozentren oder in Trägerraketen eingesetzt werden, besonders signifikante Risiken darstellen und zu einer Eskalation eines automatisierten gegenseitigen Konflikts führen könnten;
52.
stellt fest, dass der Einsatz von KI-Systemen in verteidigungsbezogenen Entwicklungen aufgrund der Analyse von Daten, der Möglichkeit, eine größere Komplexität von Situationen abzubilden, des Potenzials, die Zielgenauigkeit zu verbessern, die Logistik zu optimieren und sich an bewaffneten Konflikten mit einem geringeren Risiko physischer Schäden für die Zivilbevölkerung und das eigene Militär zu beteiligen, sowie aufgrund der Verwendung von Daten für die Entwicklung von Handlungsmodi, wie z. B. für Konfliktsimulationen, als Wegbereiter für militärische Operationen angesehen wird; warnt jedoch davor, dass dies zu einer niedrigeren Schwelle für den Einsatz von Gewalt führen könnte, und damit zu mehr Konflikten; bekräftigt, dass Maschinen nicht in der Lage sind, menschenähnlichen Entscheidungen zu treffen, die die Rechtsgrundsätze Unterscheidungen, Verhältnismäßigkeit und Vorsorge miteinschließen; bekräftigt, dass der Mensch die Kontrolle über die Entscheidung, Waffen einzusetzen und zu verwenden, behalten und für die Anwendung tödlicher Gewalt sowie für Entscheidungen über Leben und Tod verantwortlich bleiben sollte; ist der Auffassung, dass für KI-basierte Waffensysteme globale Standards und ein internationaler ethischer Verhaltenskodex gelten sollten, um den Einsatz von KI-Technologien bei militärischen Operationen unter umfassender Achtung des humanitären Völkerrechts und der Menschenrechte sowie im Einklang mit dem Recht und den Werten der Union zu untermauern;
53. ist besorgt über die militärische Forschung und technologische Entwicklungen, die in manchen Ländern im Hinblick auf tödliche autonome Waffensysteme ohne maßgebliche menschliche Kontrollen durchgeführt werden; stellt fest, dass tödliche autonome Waffensysteme bereits in militärischen Konflikten eingesetzt werden; weist erneut darauf hin, dass das Parlament sich wiederholt für ein internationales Verbot der Entwicklung, der Herstellung und des Einsatzes von tödlichen autonomen Waffensystemen und für die Aufnahme wirksamer Verhandlungen über deren Verbot ausgesprochen hat; betont, dass KI-gestützte Systeme unter keinen Umständen menschliche Entscheidungsfindungsprozesse ersetzen dürfen, was die Rechtsgrundsätze Unterscheidungen, Verhältnismäßigkeit und Vorsorge miteinschließt;
54.
stellt insbesondere fest, dass die KI-Technologie potenzielle Risiken als Mittel für die Verfolgung verschiedener Formen hybrider Kriegsführung und ausländischer Einflussnahme bergen kann; weist darauf hin, dass sie beispielsweise mobilisiert werden könnte, um durch die Nutzung von Bots oder gefälschten Social-Media-Konten Desinformationen zu verbreiten, die Interdependenz als Waffe einzusetzen, wertvolle Informationen zu sammeln oder Wettbewerbern den Zugang zum Netz zu verwehren, Störungen in den Wirtschafts- und Finanzsystemen anderer Länder zu verursachen, die politische Debatte zu vergiften und extremistische Gruppen zu begünstigen oder Wahlen zu manipulieren, um Demokratien zu destabilisieren;
55. hebt hervor, dass KI-Technologien auch KI-gestützte Schadprogramme, Identitätsdiebstahl, Datenvergiftung oder anderen Formen des kontradiktorischen maschinellen Lernens umfassen können, was dazu führt, dass andere KI-Systeme Eingaben falsch interpretieren; weist insbesondere auf die Zunahme von Deepfakes hin, bei denen es sich nicht unbedingt um Cyberangriffe handelt, die aber Zweifel an der Authentizität aller digitalen Inhalte, einschließlich Videos, aufkommen lassen und daher im Hinblick auf die Transparenzanforderungen besondere Aufmerksamkeit verdienen; warnt davor, dass Deepfakes zu einem breiten Klima des Misstrauens in der Öffentlichkeit gegenüber KI sowie zu einer tieferen soziopolitischen Polarisierung in unseren Gesellschaften beitragen könnten;
56. weist darauf hin, dass die Verwendung von KI-Systemen in einer beträchtlichen Menge kritischer Infrastrukturen wie Energie- und Verkehrsnetze, Raumfahrt, die Lebensmittelversorgungskette, die Banken- und Finanzinfrastruktur und Krankenhauseinrichtungen zu neuen Anfälligkeiten geführt hat, die solide Cybersicherheitsmaßnahmen zur Gefahrenab­ wehr erfordern; weist in diesem Zusammenhang darauf hin, dass die Zusammenarbeit und der Informationsaustausch sowie Maßnahmen auf Ebene sowohl der EU als auch der Mitgliedstaaten wichtig sind; betont, dass der Förderung der Resilienz kritischer Einrichtungen gegenüber hybriden Bedrohungen eine große Bedeutung zukommt;
57. warnt davor, dass die Fähigkeiten der KI auch Sicherheitsrisiken darstellen können, da sie Menschen dazu veranlassen können, ein solches Maß an Vertrauen in KI zu entwickeln, das das Vertrauen in ihr eigenes Urteil übertrifft; stellt fest, dass der Ansatz der interaktiven Einbindung eines Menschen („Human-in-the-Loop“) als Korrekturmechanismus nicht in allen Fällen praktikabel ist; stellt fest, dass Experimente gezeigt haben, dass dadurch das Maß an Autonomie der KI über die unterstützende Rolle hinaus erhöht werden kann, für die sie ursprünglich konzipiert wurde, und dass Menschen Gelegenheiten verpassen, Erfahrungen zu sammeln und ihre Fähigkeiten und Kenntnisse über KI-Systeme zu verfeinern; betont daher, dass Auslegungssicherheit und sinnvolle menschliche Aufsicht auf der Grundlage einer geeigneten Ausbildung sowie angemessener Sicherheits- und Datenschutzvorkehrungen bei KI-Systemen mit hohem Risiko vonnöten sind, um diesen Automatisierungsbias zu überwinden;