C 465/78
FI
Euroopan unionin virallinen lehti
6.12.2022
Tiistai 3. toukokuuta 2022
51. korostaa, että tekoälyteknologiat, erityisesti ne, joita ei ole suunniteltu ja kehitetty noudattaen nimenomaisia valvontamenettelyjä ja joita käytetään epäasiallisesti ja ilman valvontaa sotilaallisissa komentokeskuksissa tai ohjusten laukaisujärjestelmissä, sisältävät erityisen suuria riskejä ja voivat aiheuttaa automaattisen vastavuoroisen konfliktin;
52. toteaa, että tekoälyjärjestelmien käyttöä puolustustarkoituksissa pidetään sotilaallisissa operaatioissa mullistavana, mikä perustuu tietojen analysointiin, kykyyn ottaa huomioon tilanteiden suurempi monimutkaisuus, mahdollisuuteen parantaa kohteen tarkkuuttaa, optimoida logistiikkaa ja osallistua aseellisiin konflikteihin siten, että fyysisen vahingon vaara siviiliväestölle ja omalle sotilashenkilöstölle on pienempi ja siihen, että dataa voidaan käyttää toimintamallien kehittämiseen esimerkiksi sotapelien avulla; varoittaa kuitenkin, että tämä voisi johtaa voimankäytön kynnyksen alenemiseen ja siten konfliktien lisääntymiseen; toteaa, että koneet eivät pysty ihmisen tavoin tekemään päätöksiä, joihin sisältyy erotteluun, suhteellisuuteen ja varotoimiin liittyviä oikeudellisia periaatteita; toteaa, että ihmisillä olisi oltava päätösvalta ottaa käyttöön ja käyttää aseita ja että heidän olisi edelleen oltava vastuussa tappavasta voimankäytöstä sekä elämää ja kuolemaa koskevista päätöksistä; katsoo, että tekoälypohjaisiin asejärjestelmiin olisi sovellettava maailmanlaajuisia normeja ja kansainvälisiä eettisiä käytännesääntöjä tekoälyteknologian käyttöönoton tukemiseksi sotilasoperaatioissa siten, että noudatetaan täysimääräisesti kansainvälistä humanitaarista oikeutta ja ihmisoikeuslainsäädäntöä sekä unionin oikeutta ja arvoja;
53. on huolissaan eräissä maissa harjoitettavasta sotilaallisesta tutkimuksesta ja teknologisesta kehityksestä, joka koskee tappavia, ilman mielekästä ihmisen valvontaa olevia, autonomisia asejärjestelmiä; toteaa, että tappavia autonomisia asejärjestelmiä käytetään jo sotilaallisissa konflikteissa; muistuttaa, että parlamentti on toistuvasti kehottanut kieltämään tappavien autonomisten asejärjestelmien kehittämisen, tuotannon ja käytön kansainvälisellä tasolla ja aloittamaan tehokkaat neuvottelut niiden kieltämiseksi; korostaa, että tekoälyä hyödyntävillä järjestelmillä ei missään tapauksessa voida korvata inhimillistä päätöksentekoa, johon liittyy eriyttämistä, suhteellisuutta ja varovaisuutta koskevia oikeudellisia periaatteita;
54. toteaa, että tekoälyteknologiaan voi sisältyä erityisesti mahdollisia riskejä myös hybridisodankäynnin ja ulkomaisen sekaantumisen eri muodoissa; täsmentää, että sen avulla voitaisiin esimerkiksi käynnistää disinformaatiokampanjoita käyttämällä väärennettyjä sosiaalisen median tilejä, käyttämällä aseena keskinäistä riippuvuutta, keräämällä arvokasta tietoa tai epäämällä verkkoon pääsy vastustajilta, aiheuttamalla häiriöitä muiden maiden talous- ja rahoitusjärjestelmissä, tulehduttamalla poliittinen vuoropuhelu ääriryhmien eduksi tai manipuloimalla vaaleja demokratioiden horjuttamiseksi;
55. painottaa, että tekoälyteknologiat voivat sisältää myös tekoälypohjaisia haittaohjelmia, identiteettivarkauksia, datamyrkytystä tai muita kontradiktorisen koneoppimisen muotoja, jotka saavat muut tekoälyjärjestelmät tulkitsemaan syötteitä väärin; huomauttaa erityisesti valevideoiden lisääntymisestä ja toteaa, että ne eivät välttämättä ole ”kyberhyökkäyksiä” mutta aiheuttavat epäilyksiä kaiken digitaalisen sisällön aitoudesta, aidot videot mukaan luettuina, ja että sen vuoksi niiden yhteydessä on kiinnitettävä erityistä huomiota avoimuusvaatimuksiin; varoittaa, että valevideot voivat lisätä yleistä epäluottamusta tekoälyä kohtaan ja syventää yhteiskuntiemme yhteiskunnallis-poliittista polarisoitumista;
56. toteaa, että tekoälyjärjestelmien käyttö merkittävissä osissa keskeistä kriittistä infrastruktuuria, kuten energia- ja liikenneverkoissa, avaruusalalla, elintarvikeketjussa, pankki- ja finanssi-infrastruktuurissa ja sairaaloissa, on aiheuttanut uusia haavoittuvuuksia, jotka edellyttävät voimakkaita kyberturvallisuuteen liittyviä toimenpiteitä uhkien ehkäisemiseksi; painottaa tässä yhteydessä yhteistyön, tietojenvaihdon ja toiminnan merkitystä sekä EU:n tasolla että jäsenvaltioiden kesken; korostaa, että on tärkeää edistää kriittisten yksiköiden kestävyyttä suhteessa hybridiuhkiin;
57. varoittaa, että tekoälyn voimavarat voivat aiheuttaa myös turvallisuusriskejä, koska ne voivat saada ihmiset luottamaan tekoälyyn enemmän kuin omaan harkintaansa; toteaa, että ihmisen osallistuminen korjaavana mekanismina ei ole kaikissa tapauksissa mahdollista; toteaa, että kokeet ovat osoittaneet, että tämä voi lisätä tekoälyn autonomiaa siitä tukiroolista, johon se alun perin suunniteltiin, minkä johdosta ihmiset menettävät tilaisuuksia hankkia kokemusta ja kehittää taitojaan ja tietämystään tekoälyjärjestelmistä; korostaa näin ollen, että tällaisten automaatiovinoumien poistamiseksi riskialttiissa tekoälyjärjestelmissä tarvitaan sisäänrakennettua turvallisuutta ja merkittävää ihmisen suorittamaa valvontaa, jonka perustana on asianmukainen koulutus ja asianmukaiset turvallisuutta ja yksityisyyttä koskevat suojatoimet;