C 465/78
SV
Europeiska unionens officiella tidning
6.12.2022
Tisdag, 3 maj 2022
51.
Europaparlamentet betonar att AI-teknik, särskilt sådan som inte har utformats och utvecklats med de uttryckliga införda kontrollförfarandena och som används felaktigt och utan tillsyn vid militära kommandocentraler eller i missilanläggningar, medför särskilt betydande risker och skulle kunna trappa upp en automatiserad ömsesidig konflikt.
52.
Europaparlamentet konstaterar att användningen av AI-system i försvarsrelaterad utveckling betraktas som en banbrytande förändring i militära operationer genom analys av data, förmågan att återspegla större situationskomplexitet, potentialen att förbättra målnoggrannheten, optimera logistiken och delta i väpnade konflikter med minskad risk för fysisk skada för civilbefolkningen och den egna militära personalen samt använda data för att utveckla insatsmetoder såsom krigsspel.
Parlamentet varnar dock för att detta skulle kunna leda till att tröskeln för användning av våld sänks, och därmed till fler konflikter.
Parlamentet bekräftar att maskiner inte kan fatta beslut på ett sätt som liknar människors beslutsfattande rörande de rättsliga principerna om urskillning, proportionalitet och försiktighet.
Parlamentet bekräftar att människor bör behålla kontrollen när det gäller beslut att sprida och använda vapen och vara fortsatt ansvariga för användningen av dödligt våld och för beslut om liv och död.
Parlamentet anser att AI-baserade vapensystem bör omfattas av globala standarder och av en internationell etisk uppförandekod för att stödja införandet av AI-teknik i militära operationer, med full respekt för internationell humanitär rätt och lagstiftningen om mänskliga rättigheter, och i överensstämmelse med EU:s lagstiftning och värderingar.
53.
Europaparlamentet är oroat över den militära forskning och tekniska utveckling som bedrivs i vissa länder när det gäller autonoma vapensystem utan meningsfull mänsklig tillsyn.
Parlamentet konstaterar att sådana dödliga autonoma vapensystem redan används i militära konflikter.
Parlamentet påminner om att det upprepade gånger har efterlyst ett internationellt förbud mot utveckling, tillverkning och användning av dödliga autonoma vapensystem samt inledande av effektiva förhandlingar om förbud mot dessa.
Parlamentet betonar att AI-baserade system inte under några omständigheter kan tillåtas ersätta mänskligt beslutsfattande rörande de rättsliga principerna om urskillning, proportionalitet och försiktighet.
54.
Europaparlamentet konstaterar att AI-teknik särskilt kan medföra potentiella risker som ett medel för olika former av hybridkrigföring och utländsk inblandning.
Parlamentet förklarar att sådan teknik till exempel skulle kunna mobiliseras för att utlösa desinformation, genom användning av botar eller falska konton på sociala medier, för att göra det ömsesidiga beroendet till ett vapen i krigföringen genom insamling av värdefull information eller nekad nätåtkomst för motståndare, eller för att skapa störningar i andra länders ekonomiska och finansiella system, för att störa den politiska debatten och gynna extremistiska grupper, eller för att manipulera val för att destabilisera demokratier.
55.
Europaparlamentet belyser att AI-teknik också skulle kunna omfatta AI-drivna sabotageprogram, identitetsstöld, dataförgiftning eller andra former av antagonistisk maskininlärning som får andra AI-system att feltolka indata.
Parlamentet pekar särskilt på ökningen av deepfake, som inte nödvändigtvis är ”cyberattacker”, utan leder till tvivel om äktheten i allt digitalt innehåll, inbegripet videor, och därför kräver särskild uppmärksamhet vad gäller insynskraven.
Parlamentet varnar för att deepfake skulle kunna bidra till en allmän misstro mot AI, liksom till en djupare sociopolitisk polarisering i våra samhällen.
56.
Europaparlamentet förklarar att användningen av AI-system i en betydande andel viktig kritisk infrastruktur, såsom energi- och transportnät, rymdsektorn, livsmedelskedjan, bank- och finansinfrastruktur och sjukhusanläggningar, skapat nya sårbarheter som kräver kraftfulla cybersäkerhetsåtgärder för att förebygga hot.
Parlamentet påpekar i detta avseende vikten av samarbete och informationsutbyte och åtgärder både på EU-nivå och bland medlemsstaterna.
Parlamentet understryker vikten av att främja kritiska enheters motståndskraft mot hybridhot.
57.
Europaparlamentet varnar för att AI:s kapacitet också kan medföra säkerhetsrisker, eftersom den kan få människor att lita mer på AI än på sitt eget omdöme.
Parlamentet noterar att det inte är möjligt att i samtliga fall använda en strategi som bygger på mänskliga resurser som en korrigerande mekanism.
Parlamentet noterar att experiment har visat att detta kan öka autonomin för AI utöver den stödjande roll som tekniken ursprungligen utformades för, vilket innebär att människor går miste om möjligheter att skaffa sig erfarenhet och förfina sin kompetens och sina kunskaper om AI-system.
Parlamentet betonar därför att det krävs inbyggd säkerhet och meningsfull mänsklig tillsyn som baseras på lämplig utbildning liksom lämpliga garantier för säkerhet och integritet i AI-system med hög risk för att komma till rätta med sådan skevhet på grund av automatisering.