C 465/78
NL
Publicatieblad van de Europese Unie
6.12.2022
Dinsdag, 3 mei 2022
51. beklemtoont dat AI-technologieën, met name die welke niet zijn ontworpen en ontwikkeld met inachtneming van de uitdrukkelijke controleprocedures, en die oneigenlijk en zonder toezicht worden gebruikt in militaire commandocentra of in voorzieningen voor raketlanceringen, bijzonder grote risico’s met zich meebrengen en een geautomatiseerd wederkerig conflict kunnen doen escaleren;
52. merkt op dat het gebruik van AI-systemen in defensiegerelateerde ontwikkelingen wordt beschouwd als een revolutie voor militaire operaties door de analyse van gegevens, het vermogen om een grotere situationele complexiteit weer te geven, het potentieel om de nauwkeurigheid van doelen te verbeteren, de logistiek te optimaliseren en gewapende conflicten aan te gaan met een verminderd risico op lichamelijk letsel van de burgerbevolking en het eigen militaire personeel, alsmede het gebruik van gegevens voor de ontwikkeling van actievormen, zoals het naspelen van oorlogsscenario’s; waarschuwt evenwel dat dit kan leiden tot een lagere drempel voor het gebruik van geweld, en dus tot meer conflicten; bevestigt dat machines en robots niet in staat zijn om menselijke beslissingen te nemen en dus geen rekening kunnen houden met het onderscheid tussen militaire en burgerdoelwitten, het evenredigheidsbeginsel of het voorzorgsbeginsel; bekrachtigt dat mensen de controle moeten houden over het besluit om wapens in te zetten en te gebruiken, en dat zij verantwoordelijk moeten blijven voor het gebruik van dodelijk geweld en voor beslissingen over leven en dood; is van mening dat op AI gebaseerde wapensystemen moeten worden onderworpen aan mondiale normen en een internationale ethische gedragscode ter ondersteuning van de inzet van AI-technologieën bij militaire operaties, met volledige inachtneming van het internationaal humanitair recht en het recht inzake de mensenrechten, en in overeenstemming met het recht en de waarden van de Unie;
53. maakt zich zorgen over de militaire onderzoeks- en technologische ontwikkelingen die in sommige landen plaatsvinden met betrekking tot dodelijke autonome wapensystemen zonder reële menselijke controle; merkt op dat dodelijke autonome wapensystemen momenteel al worden gebruikt in militaire conflicten; herinnert eraan dat het Parlement herhaaldelijk heeft aangedrongen op een internationaal verbod op de ontwikkeling, de productie en het gebruik van dodelijke autonome wapensystemen en op doeltreffende onderhandelingen over het verbod ervan; benadrukt dat op AI gebaseerde systemen in geen geval de menselijke besluitvorming mogen vervangen, waarbij rekening wordt gehouden met de juridische beginselen van onderscheidingsvermogen, evenredigheid en voorzorg;
54. merkt met name op dat AI-technologie als middel om verschillende vormen van hybride oorlogvoering en buitenlandse inmenging na te streven potentiële risico’s met zich mee kan brengen; geeft aan dat AI bijvoorbeeld kan worden ingezet om desinformatie op gang te brengen door bots of nepaccounts op sociale media te gebruiken, de onderlinge afhankelijkheid als wapen te gebruiken, waardevolle informatie te verzamelen of tegenstanders toegang tot het netwerk te ontzeggen, verstoringen van de economische en financiële systemen van andere landen te veroorzaken, het politieke debat te vervuilen en extremistische groeperingen te bevoordelen, of verkiezingen te manipuleren met het oog op het destabiliseren van democratieën;
55. benadrukt dat AI-technologieën ook door AI aangedreven malware kunnen omvatten, evenals identiteitsdiefstal, datavergiftiging of andere vormen van vijandig machinaal leren waardoor andere AI-systemen input verkeerd zullen interpreteren; wijst met name op de opmars van deepfakes, die niet noodzakelijkerwijs cyberaanvallen zijn, maar die leiden tot twijfel over de authenticiteit van alle digitale inhoud, met inbegrip van video’s, en die daarom bijzondere aandacht vereisen in termen van transparantievereisten; waarschuwt dat deepfakes kunnen leiden tot een versterking van het brede klimaat van wantrouwen jegens AI bij het publiek en de politiek-maatschappelijke polarisering in onze samenleving;
56. licht toe dat het gebruik van AI-systemen in een aanzienlijk deel van de cruciale kritieke infrastructuur, zoals energieen vervoersnetwerken, de ruimtesector, de voedselketen, bancaire en financiële infrastructuur en ziekenhuisfaciliteiten, nieuwe zwakke plekken heeft doen ontstaan die solide cyberbeveiligingsmaatregelen vereisen om dreigingen te voorkomen; wijst in dit verband op het belang van samenwerking en informatie-uitwisseling en maatregelen, zowel op EU-niveau als tussen de lidstaten; onderstreept hoe belangrijk het is kritieke entiteiten beter bestand te maken tegen hybride dreigingen;
57. waarschuwt dat de mogelijkheden van AI ook veiligheidsrisico’s met zich mee kunnen brengen, omdat ze ertoe kunnen leiden dat mensen zoveel vertrouwen stellen in AI dat ze minder vertrouwen op hun eigen beoordeling; merkt op dat een “human-in-the-loop”-benadering als correctiemechanisme niet in alle gevallen haalbaar is; merkt op dat experimenten hebben aangetoond dat daardoor de autonomie van AI kan toenemen en verder kan gaan dan de ondersteunende rol waarvoor AI oorspronkelijk is bedoeld en het betekent dat mensen minder kansen hebben om ervaring op te doen en hun vaardigheden en kennis op het gebied van AI-systemen bij te schaven; benadrukt daarom dat ingebouwde veiligheid en reëel menselijk toezicht op basis van passende opleiding, alsmede passende beveiligings- en privacywaarborgen in risicovolle AI-systemen vereist zijn om een dergelijke “automation bias” te ondervangen;