C 465/78
DA
Den Europæiske Unions Tidende
6.12.2022
Tirsdag den 3. maj 2022
51. understreger, at AI-teknologier, navnlig dem, der er blevet udformet og udviklet uden eksplicitte kontrolprocedurer, og som anvendes forkert og uden tilsyn i militære kommandocentre eller i missilaffyringsanlæg, indebærer særligt betydelige risici og kan eskalere en automatiseret gensidig konflikt;
52. bemærker, at anvendelsen af AI-systemer i forsvarsrelaterede produkter betragtes som en afgørende ændring inden for militære operationer takket være deres dataanalyse, evne til at afspejle større situationskompleksitet, potentiale til at forbedre nøjagtigheden af angrebsmål, optimere logistikken og indgå i væbnede konflikter med en reduceret risiko for fysisk skade på civilbefolkningen og ens eget militære personale samt anvendelsen af data til udvikling af aktionsmetoder såsom krigsspil; understreger imidlertid, at dette kan føre til en lavere tærskel for anvendelse af magtmidler og derfor til flere konflikter; bekræfter, at maskiner og robotter ikke kan tage menneskelignende beslutninger, der omfatter retsprincipperne sondring, proportionalitet og forsigtighed; bekræfter, at mennesker bør have kontrol med beslutningen om at indsætte og anvende våben og fortsat er ansvarlige for brugen af dødbringende magt og for beslutninger om liv og død; mener, at AI-baserede våbensystemer bør være underlagt globale standarder og en international etisk kodeks som grundlag for indsættelsen af AI-teknologier i militære operationer under fuld overholdelse af den humanitære folkeret og menneskerettighedslovgivningen og i overensstemmelse med EU's love og værdier;
53. er bekymret over den militære forskning og teknologiske udvikling, som forfølges af visse lande med hensyn til dødbringende autonome våbensystemer uden meningsfuld menneskelig kontrol; konstaterer, at dødbringende våben­ systemer allerede bruges i militære konflikter; minder om, at Parlamentet gentagne gange har opfordret til et internationalt forbud mod udvikling, fremstilling og anvendelse af dødbringende autonome våbensystemer og til at indlede reelle forhandlinger om et forbud mod disse; understreger, at AI-baserede systemer under ingen omstændigheder må erstatte menneskelig beslutningstagning, der omfatter retsprincipperne sondring, proportionalitet og forsigtighed;
54. bemærker navnlig, at AI-teknologi kan indebære potentielle risici, når den anvendes som et middel til forskellige former for hybrid krigsførelse og udenlandsk indblanding; præciserer, at den f.eks. kan anvendes til at sprede desinformation ved brug af bots og falske konti på sociale medier, til at bruge gensidig afhængighed som et våben (weaponised interdependence), til at indsamle værdifulde oplysninger eller nægte modstandere netværksadgang, til at skabe forstyrrelser i andre landes økonomiske og finansielle systemer, til at forurene den politiske debat og fremme ekstremistiske grupper eller til at manipulere valg med henblik på at destabilisere demokratier;
55. fremhæver, at AI-teknologier også kan omfatte AI-baseret malware, identitetstyveri, dataforgiftning eller andre former for fjendtlig maskinlæring, som får andre AI-systemer til at fejlfortolke input; peger navnlig på fremvæksten af deepfakes, som ikke nødvendigvis er cyberangreb, men som skaber tvivl om ægtheden af alt digitalt indhold, også videoer, og derfor kræver særlig opmærksomhed for så vidt angår gennemsigtighedskrav; advarer om, at deepfakes kan bidrage til et klima af udbredt offentlig mistillid til AI samt dybere sociopolitisk polarisering i vores samfund;
56. fastslår, at brugen af AI-systemer inden for en lang række centrale kritiske infrastrukturer, f.eks.
energi- og transportnet, rumsektoren, fødevarekæder, bankvæsen og finansiel infrastruktur og hospitalsfaciliteter, har ført til nye sårbarheder, der kræver robuste cybersikkerhedsforanstaltninger for at forebygge trusler; påpeger i denne henseende betydningen af samarbejde, udveksling af oplysninger og tiltag både på EU-plan og i medlemsstaterne; understreger vigtigheden af at fremme kritiske enheders modstandsdygtighed over for hybride trusler;
57. advarer om, at de mange muligheder ved AI også kan indebære sikkerhedsrisici, idet de kan få mennesker til at nære så stor tillid til AI, at de stoler mere på den end på deres egen dømmekraft; bemærker, at det ikke i alle tilfælde er muligt at anvende en tilgang, hvor der er menneskelig medvirkning som en korrigerende mekanisme; bemærker, at eksperimenter har vist, at dette kan løfte niveauet af AI-autonomi op over den understøttende rolle, som AI'en oprindeligt blev designet til, og betyder, at mennesker forpasser muligheder for at opnå erfaring i og finpudse deres færdigheder inden for og viden om AI-systemer; understreger derfor, at konstruktionssikkerhed og meningsfuld menneskelig kontrol baseret på passende uddannelse og passende sikkerhedsforanstaltninger og foranstaltninger til privatlivsbeskyttelse er nødvendige i AI-systemer med høj risiko med henblik på at overvinde en sådan automatiseringsbias;