DE
L 300/14
Amtsblatt der Europäischen Union
21.11.2022
ANHANG
PROJEKTDOKUMENT „Förderung verantwortungsvoller Innovation auf dem Gebiet der künstlichen Intelligenz im Dienste von Frieden und Sicherheit“ 1.
HINTERGRUND
Durch die jüngsten Fortschritte auf dem Gebiet der künstlichen Intelligenz (im Folgenden „KI“) wurden neue Möglichkeiten geschaffen, Frieden und Sicherheit zu fördern und zu bewahren, beispielsweise durch technologische Verbesserungen in Bereichen wie der Konfliktfrühwarnung und der Verifizierung von Rüstungskontrolle und Ausfuhrkontrolle.
Diese Fortschritte haben andererseits auch die Entstehung neuer Mittel begünstigt, mit denen Spannungen, Konflikte und Unsicherheit zwischen und innerhalb von Staaten hervorgerufen – oder verschärft – werden können.
Die Risiken, die mit bestimmten KI-Anwendungen wie letalen autonomen Waffensystemen einhergehen, bereiten der Rüstungskontrollge­ meinschaft mittlerweile große Sorgen.
Es besteht ein Risikopfad, der mehr Aufmerksamkeit verdient und dem mit den gegenwärtigen Rüstungskontrollbemühungen und diplomatischen Bemühungen möglicherweise nicht ausreichend begegnet wird, nämlich die Umlenkung und der Missbrauch ziviler Forschung und Innovation auf dem Gebiet der KI durch verantwortungslose Akteure, einschließlich böswilliger nichtstaatlicher Akteure, beispielsweise der Missbrauch von Generative Adversarial Networks (im Folgenden „GAN“) zur Erstellung von „Deepfakes“ für Desinformationskampagnen.
KI ist eine grundlegende Technologie mit großem Potenzial für die allgemeine Nutzung.
Bestimmte Akteure könnten (relativ leicht) auf KI-Forschung und -Innovation, die für zivile Anwendungen bestimmt sind, zugreifen und sie für schädliche oder zerstörerische Zwecke, die sich auf den Weltfrieden und die internationale Sicherheit auswirken könnten, nutzen.
Die Umlenkung und der Missbrauch ziviler Technologien sind weder ein neues Phänomen noch auf die KI beschränkt.
Auf dem verwandten Gebiet der Robotertechnik wurde dies kürzlich durch die Nutzung von Freizeitdrohnen als Waffe durch Da‘esh/ISIS in Syrien vor Augen geführt.
Im Fall der KI ist die Lage aufgrund verschiedener Faktoren komplizierter: KI-Algorithmen und -daten sind immateriell und ändern sich rasch, weshalb ihre Weitergabe/Verbreitung schwer zu kontrollieren ist; der private Sektor spielt im Ökosystem der Forschung, Entwicklung und Innovation eine führende Rolle, weshalb unternehmenseigene Algorithmen geschützt werden müssen; das Humanwissen und die materiellen Ressourcen, die für die Umnutzung von KI-Technologien benötigt werden, sind weltweit verfügbar.
Derweil sind sich diejenigen, die im zivilen Sektor mit KI arbeiten, allzu oft nicht darüber im Klaren, welche Auswirkungen die Umlenkung und der Missbrauch ihrer Arbeit auf den Weltfrieden und die internationale Sicherheit haben könnten, oder sie beteiligen sich nur zögerlich an den Debatten, die in den mit Rüstungskontrolle und Nichtverbreitung befassten Kreisen über die mit KI verbundenen Risiken geführt werden.
Die zivile KI-Gemeinschaft muss dazu gebracht werden, sich stärker einzubringen, wenn es darum geht zu verstehen, welche Risiken für Frieden und Sicherheit die Umlenkung und der Missbrauch ziviler KI-Technologien durch verantwor­ tungslose Akteure mit sich bringen, und diese Risiken zu mindern.
Nach Auffassung des Stockholmer Internationalen Friedensforschungsinstituts (im Folgenden „SIPRI“) und des Büros der Vereinten Nationen für Abrüstungsfragen (im Folgenden „UNODA“) könnte dies dadurch erreicht werden, dass in der globalen zivilen KI-Gemeinschaft verstärkt für verantwortungsvolle Innovation geworben wird.
Die bisherige Arbeit des SIPRI und des UNODA hat gezeigt, das verantwortungsvolle Innovation in Form eines Selbstverwaltungsmechanismus der globalen zivilen KI-Gemeinschaft praktische Instrumente und Verfahren an die Hand geben könnte, sodass sie in der Lage wäre, die durch Umlenkung und Missbrauch ziviler KI-Forschung und -Innovation möglicherweise entstehenden Risiken für Frieden und Sicherheit zu erkennen und dazu beizutragen, dass ihnen vorgebeugt wird und sie gemindert werden.
Das SIPRI und das UNODA haben im Rahmen ihrer Arbeit zudem Methoden und mehrere laufende auf den zivilen Bereich ausgerichtete Initiativen für verantwortungsvolle KI ermittelt, auf denen aufgebaut werden könnte, um die zivile KI-Gemeinschaft für Abrüstungs- und Nichtverbreitungsfragen, für Expertendebatten und für Standpunkte von Staaten zu verantwortungsvoller Entwicklung, Verbreitung und Nutzung von KI, zu sensibilisieren, und sie haben festgestellt, welche Lehren aus der diesbezüglichen Arbeit im Verteidigungssektor gezogen werden können.
(1) Im Zuge dieser früheren Arbeit wurde eindeutig festgestellt, dass die Zusammenarbeit mit, Studierenden der Fachbereiche Mathematik, Ingenieurwesen, Naturwissenschaften und Technologie (MINT), noch während diese sich im Rahmen ihrer Ausbildung mit KI befassen, entscheidende Voraussetzung für wirksame Bemühungen um eine verantwortungsvolle Innovation ist.
2.
ZIELE
Mit den Projekten soll die zivile KI-Gemeinschaft unterstützt werden, damit sie sich stärker für eine Minderung der Risiken für den Weltfrieden und die internationale Sicherheit einsetzt, die von der Umlenkung und vom Missbrauch ziviler KI-Forschung und -Innovation durch verantwortungslose Akteure ausgehen können.
Um dies zu erreichen, wird erstens versucht, besser zu verstehen, wie Entscheidungen bezüglich der Entwicklung und der Verbreitung von Forschung und Innovation im Bereich der KI (1) Zu den Methoden zählen unter anderem die vom Berufsverband der Ingenieure für Elektrotechnik und Informationstechnik (Institute of Electrical and Electronics Engineers - IEEE) empfohlenen Verfahren zur Bewertung der Auswirkung autonomer und intelligenter Systeme auf das menschliche Wohlergehen (IEEE Std 7010-2020), sowie die von der Gruppe hochrangiger Experten für künstliche Intelligenz erstellte Liste zur Bewertung vertrauenswürdiger künstlicher Intelligenz (High-Level Expert Group on Artificial Intelligence’ Assessment list for Trustworthy Artificial Intelligence -ALTAI).
Zu den Initiativen zählen unter anderem die globale Initiative des IEEE zu ethischen Fragen bei autonomen und intelligenten Systemen (IEEE global initiative on ethics for autonomous and intelligent systems), die Partnerschaft für KI und die Globale Partnerschaft für KI.