L 300/14
FI
Euroopan unionin virallinen lehti
21.11.2022
LIITE
HANKEASIAKIRJA Vastuullisen tekoälyinnovoinnin edistäminen rauhaa ja turvallisuutta varten 1.
TAUSTAA
Viimeaikainen kehitys tekoälyalalla on avannut uusia mahdollisuuksia rauhan ja turvallisuuden tukemista ja säilyttämistä varten, esimerkiksi teknologisilla parannuksilla sellaisilla aloilla, kuten konfliktien varhaisvaroitus sekä aseiden ja niiden viennin valvonnan todentaminen.
Toisaalta nämä kehitysaskeleet ovat antaneet mahdollisuuden uusille tavoille luoda tai kiihdyttää jännitteitä, konflikteja ja turvattomuutta valtioissa tai niiden välillä.
Riskit, joita aiheutuu tietyistä tekoälyn soveltamistavoista, kuten tappavista autonomisista asejärjestelmistä, ovat nousseet merkittäväksi huolenaiheeksi asevalvon­ tayhteisössä.
Yksi riskien osa-alue, johon on kiinnitettävä enemmän huomiota ja jonka käsittelemiseen nykyiset asevalvonta- ja diplomaattiset toimet saattavat olla riittämättömiä, on vastuuttomien toimijoiden, myös vihamielisten valtiosta riippumattomien toimijoiden, harjoittama tekoälyalan siviilitutkimuksen ja -innovoinnin tarkoituksenvastainen käyttö ja väärinkäyttö, kuten generatiivisten kilpailevien verkkojen (GAN) väärinkäyttö syväväärennösten (deepfake) tuottamiseen disinformaatiokampanjoita varten.
Tekoäly on mahdollistava teknologia, jolla on merkittävä yleiskäyttöpotentiaali.
Tietyt toimijat voisivat (suhteellisen helposti) päästä käsiksi siviilisovelluksia varten kehitettyyn tekoälytutkimukseen ja -innovointeihin ja ottaa sen omiin haitallisiin tai häiriötä aiheuttaviin käyttötarkoituksiinsa, joilla voi olla vaikutuksia kansainväliseen rauhaan ja turvallisuuteen.
Siviiliteknologian tarkoituksenvastainen käyttö ja väärinkäyttö eivät ole uusia ilmiöitä eikä tätä tapahdu vain tekoälyalalla.
Siihen liittyvällä robotiikan alalla tästä on äskettäisenä osoituksena se, että Da’esh/Isis aseisti ja otti käyttöön virkistyskäyttöön tarkoitettuja miehittämättömiä ilma-aluksia Syyriassa.
Tekoälyn tapauksessa ongelmaa mutkistavat kuitenkin monet tekijät: tekoälyalgoritmien ja -datan aineeton ja nopeasti muuttuva luonne, minkä vuoksi niiden siirtoa tai levitystä on vaikea valvoa; yksityisen sektorin johtava rooli tutkimus-, kehitys- ja innovointiekosysteemissä ja sen tarve suojella omistusoikeuden alaisia algoritmeja; sekä maailmanlaajuinen saatavuus sellaiselle inhimilliselle asiantuntemukselle ja aineellisille resursseille, joiden avulla on mahdollista ottaa tekoälyteknologioita uusiin käyttötar­ koituksiin.
Tekoälyn parissa siviilialalla työskentelevät henkilöt ovat samaan aikaan liian usein tietämättömiä mahdollisista vaikutuksista, joita heidän työnsä tarkoituksenvastaisella käytöllä ja väärinkäytöllä voisi olla kansainväliselle rauhalle ja turvallisuudelle, tai he epäröivät osallistua käynnissä oleviin keskusteluihin tekoälystä aiheutuvista riskeistä asevalvonnassa ja asesulkualalla.
On tarpeen tukea tekoälyalan siviiliyhteisön laajempaa osallistumista sellaisten rauhaan ja turvallisuuteen liittyvien riskien ymmärtämiseen ja lieventämiseen, joita aiheutuu siitä, että vastuuttomat toimijat käyttävät siviilialan tekoälyteknologiaa tarkoituksenvastaisesti tai väärinkäyttävät sitä.
Tukholman kansainvälisen rauhantutkimuslaitoksen (SIPRI) ja Yhdistyneiden kansakuntien aseriisuntatoimiston (UNODA) osalta tämä voitaisiin saavuttaa edistämällä vastuullista innovointia maailmanlaajuisessa tekoälyalan siviiliyhteisössä.
SIPRIn ja UNODAn aiempi työ on osoittanut, että vastuullinen innovointi itsehallinnollisena mekanismina voisi tarjota maailmanlaajuiselle tekoälyalan siviiliyhteisölle käytännön välineitä ja menetelmiä sellaisten riskien tunnistamiseksi, joita tekoälyalan siviilitutkimuksen ja -innovoinnin tarkoituksenvastainen käyttö ja väärinkäyttö voisi aiheuttaa rauhalle ja turvallisuudelle, sekä auttaa ehkäisemään ja lieventämään näitä riskejä.
SIPRIn ja UNODAn työssä yksilöitiin myös menetelmiä ja useita käynnissä olevia vastuulliseen tekoälyyn keskittyviä siviililähtöisiä aloitteita, joiden pohjalta tekoälyalan siviiliyhteisöä voitaisiin valistaa asevalvontaa ja asesulkua koskevista kysymyksistä, asiantuntijakeskusteluista ja valtion kannoista tekoälyn vastuulliseen kehittämiseen, levittämiseen ja käyttöön sekä puolustusalan vastuuta koskevasta työstä saaduista kokemuksista.
(1) Keskeistä on, että aiemmassa työssä on selkeästi todettu, että yhteydet luonnontieteiden, teknologian, insinööritieteiden ja matematiikan (STEM-aineet) opiskelijoihin, jotka käyttävät tekoälyä opetusympäristössä, ovat keskeisellä sijalla kaikissa tehokkaissa vastuullisissa innovointitoimissa.
2.
TAVOITTEET
Hankkeiden tavoitteena on tukea tekoälyalan siviiliyhteisön laajempaa osallistumista niiden riskien lieventämiseen, joita vastuuttomien toimijoiden harjoittama tekoälyalan siviilitutkimuksen ja-innovoinnin tarkoituksenvastainen käyttö tai väärinkäyttö voivat aiheuttaa kansainväliselle rauhalle ja turvallisuudelle.
Tavoitteena on ensinnäkin saada parempi käsitys siitä, miten tekoälyalan tutkimuksen ja -innovoinnin kehittämistä ja levittämistä koskevat päätökset voivat vaikuttaa tarkoituksenvastaista käyttöä ja väärinkäyttöä koskeviin riskeihin sekä luoda rauhaa ja turvallisuutta koskevia riskejä tai mahdollisuuksia.
Toiseksi pyritään edistämään vastuullisia innovointiprosesseja, -menetelmiä ja -välineitä, jotka voivat auttaa varmistamaan siviili-innovaatioiden rauhanomaisen soveltamisen ja tekoälyä koskevan tietämyksen vastuullisen levittämisen.
Tätä varten hankkeilla tuetaan valmiuksien kehittämiseen, tutkimukseen ja osallistamiseen tähtääviä toimia, joilla i) parannetaan maailmanlaajuisen tekoälyalan siviiliyhteisön valmiuksia ottaa huomioon ja käsitellä vastuullisten (1) Menetelmiä ovat esimerkiksi kansainvälisen sähkö- ja elektroniikkainsinöörien järjestön (IEEE) suosittelemat käytännöt, joilla arvioidaan autonomisten ja älykkäiden järjestelmien vaikutusta ihmisten hyvinvointiin (IEEE-standardi 7010-2020), ja tekoälyä käsittelevän korkean tason asiantuntijaryhmän luotettavan tekoälyn arviointilista.
Aloitteita ovat esimerkiksi autonomisten ja älykkäiden järjestelmien eettisiä periaatteita koskeva IEEE:n maailmanlaajuinen hanke; tekoälyä koskeva kumppanuus; tekoälyä koskeva maailmanlaajuinen kumppanuus.