EUROOPAN KOMISSIO Bryssel 21.4.2021 COM(2021) 206 final 2021/0106(COD) Ehdotus EUROOPAN PARLAMENTIN JA NEUVOSTON ASETUS TEKOÄLYÄ KOSKEVISTA YHDENMUKAISTETUISTA SÄÄNNÖISTÄ (TEKOÄLYSÄÄDÖS) JA TIETTYJEN UNIONIN SÄÄDÖSTEN MUUTTAMISESTA {SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final}



PERUSTELUT 1.EHDOTUKSEN TAUSTA 1.1.Ehdotuksen perustelut ja tavoitteet Nämä perustelut liittyvät ehdotukseen asetukseksi tekoälyä koskevista yhdenmukaistetuista säännöistä (tekoälysäädös). Tekoäly on nopeasti kehittyvä teknologiakokonaisuus, joka voi tuottaa monenlaisia taloudellisia ja yhteiskunnallisia hyötyjä kaikilla teollisuudenaloilla ja kaikessa sosiaalisessa toiminnassa. Tekoälyn käyttö voi tukea yhteiskunnallisesti ja ympäristön kannalta suotuisia tuloksia ja tarjota yrityksille ja Euroopan taloudelle keskeisiä kilpailuetuja parantamalla ennakointia, optimoimalla toimintoja ja resurssien kohdentamista ja räätälöimällä palvelujen tarjoamista. Tällaisia toimia tarvitaan erityisesti vaikutuksiltaan merkittävillä aloilla, joita ovat muun muassa ilmastonmuutos, ympäristö ja terveys, julkinen sektori, rahoitusala, liikkuvuus, sisäasiat ja maatalous. Samat tekijät ja tekniikat, jotka tuottavat tekoälyn sosioekonomisia hyötyjä, voivat kuitenkin aiheuttaa myös uusia riskejä tai kielteisiä seurauksia yksilöille tai yhteiskunnalle. Teknologisen muutoksen nopeuden ja mahdollisten haasteiden vuoksi EU on sitoutunut pyrkimään tasapainoiseen lähestymistapaan. On unionin edun mukaista säilyttää EU:n teknologinen johtoasema ja varmistaa, että eurooppalaiset voivat hyötyä unionin arvojen, perusoikeuksien ja periaatteiden mukaisesti kehitetyistä ja toimivista uusista teknologioista. Tämä ehdotus vastaa poliittiseen sitoumukseen, josta puheenjohtaja Ursula von der Leyenin ilmoitti komission vuosien 2019–2024 poliittisissa suuntaviivoissaan ”Kunnianhimoisempi unioni” ja jonka mukaan komissio aikoo esittää lainsäädäntöä koordinoidusta eurooppalaisesta lähestymistavasta tekoälyn inhimillisiin ja eettisiin vaikutuksiin. Tämän ilmoituksen jälkeen komissio julkaisi 19. helmikuuta 2020 valkoisen kirjan tekoälystä ”Eurooppalainen lähestymistapa huippuosaamiseen ja luottamukseen”. Valkoisessa kirjassa esitetään toimintapoliittisia vaihtoehtoja siitä, miten voidaan saavuttaa kahtalainen tavoite eli edistää tekoälyn käyttöönottoa ja puuttua tämän teknologian tiettyihin käyttötarkoituksiin liittyviin riskeihin. Tällä ehdotuksella pyritään toteuttamaan jälkimmäinen tavoite ehdottamalla oikeudellista kehystä luotettavaa tekoälyä varten luottamuksen ekosysteemi kehittämiseksi. Ehdotus perustuu EU:n arvoihin ja perusoikeuksiin, ja sen tavoitteena on lisätä ihmisen ja muiden käyttäjien luottamusta tekoälypohjaisten ratkaisujen käyttöön ja kannustaa samalla yrityksiä kehittämään niitä. Tekoälyn olisi oltava työväline ihmisille ja hyvää tuottava voima yhteiskunnassa, jonka perimmäisenä tavoitteena on ihmisten hyvinvoinnin lisääminen. Unionin markkinoilla saatavilla olevaa tai muutoin unionissa oleviin ihmisiin vaikuttavaa tekoälyä koskevien sääntöjen olisi sen vuoksi oltava ihmiskeskeisiä, jotta ihmiset voivat luottaa siihen, että teknologiaa käytetään turvallisesti ja lainsäädännön mukaisesti, myös perusoikeuksia kunnioittaen. Komissio käynnisti valkoisen kirjan julkaisemisen jälkeen laajan sidosryhmien kuulemisen. Siihen osallistui suuri joukko sidosryhmiä, jotka kannattivat laajalti sääntelytoimia tekoälyn lisääntyvän käytön aiheuttamien haasteiden ja huolenaiheiden ratkaisemiseksi. Ehdotuksella vastataan myös Euroopan parlamentin ja Eurooppa-neuvoston nimenomaisiin pyyntöihin. Ne ovat toistuvasti esittäneet lainsäädäntötoimia, joilla varmistetaan tekoälyjärjestelmille hyvin toimivat sisämarkkinat, joilla sekä tekoälyn hyötyjä että sen riskejä käsitellään asianmukaisesti unionin tasolla. Ehdotuksella tuetaan Eurooppa-neuvoston asettamaa tavoitetta, jonka mukaan unionin olisi oltava globaali edelläkävijä turvallisen, luotettavan ja eettisen tekoälyn kehittämisessä, ja varmistetaan eettisten periaatteiden suojelu, kuten Euroopan parlamentti on erityisesti pyytänyt. Eurooppa-neuvosto totesi lokakuussa 2017, että EU:n on kiireellisesti käsiteltävä tekoälyn kaltaisia uusia suuntauksia, ”samalla kun varmistetaan tietosuojan, digitaalisten oikeuksien ja eettisten normien korkea taso”. Vuonna 2019 antamissaan päätelmissä koordinoidusta suunnitelmasta Euroopassa tuotetun tekoälyn kehittämisestä ja hyödyntämisestä neuvosto korosti lisäksi, että on tärkeää varmistaa, että Euroopan kansalaisten oikeuksia kunnioitetaan täysimääräisesti, ja kehotti arvioimaan uudelleen asiaa koskevaa voimassa olevaa lainsäädäntöä, jotta se vastaisi tekoälyn mukanaan tuomia uusia mahdollisuuksia ja haasteita. Eurooppa-neuvosto on myös kehottanut määrittämään selkeästi, mitä tekoälysovelluksia olisi pidettävä suuririskisinä. Neuvosto kehotti 21. lokakuuta 2020 antamissaan viimeisimmissä päätelmissään puuttumaan tiettyjen tekoälyjärjestelmien vaikeaselkoisuuteen, monimutkaisuuteen, puolueellisuuteen, tietynasteiseen ennakoimattomuuteen ja osittain autonomiseen käyttäytymiseen, varmistamaan niiden yhteensopivuus perusoikeuksien kanssa ja helpottamaan oikeudellisten sääntöjen täytäntöönpanoa. Myös Euroopan parlamentti on tehnyt paljon työtä tekoälyn alalla. Se antoi lokakuussa 2020 useita tekoälyä koskevia päätöslauselmia, joissa käsitellään muun muassa etiikkaa, vastuuta ja tekijänoikeuksia. Näitä seurasivat vuonna 2021 päätöslauselmat tekoälystä rikosasioissa sekä koulutuksessa, kulttuurissa ja audiovisuaalialalla. Euroopan parlamentin päätöslauselmassa tekoälyä, robotiikkaa ja niihin liittyvää teknologiaa koskevien eettisten näkökohtien kehyksestä suositetaan erityisesti, että komissio ehdottaa lainsäädäntötoimia tekoälyn tarjoamien mahdollisuuksien hyödyntämiseksi mutta myös eettisten periaatteiden suojelun varmistamiseksi. Päätöslauselmaan sisältyy ehdotus asetukseksi tekoälyn, robotiikan ja niihin liittyvän teknologian kehittämistä, käyttöönottoa ja käyttöä koskevista eettisistä periaatteista. Puheenjohtaja von der Leyenin poliittisissa suuntaviivoissaan antaman poliittisen sitoumuksen, joka koskee Euroopan parlamentin SEUT-sopimuksen 225 artiklan nojalla hyväksymiä päätöslauselmia, mukaisesti tässä ehdotuksessa otetaan huomioon edellä mainittu Euroopan parlamentin päätöslauselma noudattaen täysimääräisesti suhteellisuus- ja toissijaisuusperiaatetta ja paremman lainsäädännön periaatetta. Tätä poliittista taustaa vasten komissio ehdottaa tekoälyä koskevaa sääntelykehystä, jolla on seuraavat erityistavoitteet: ·varmistetaan, että unionin markkinoille saatetut ja siellä käytetyt tekoälyjärjestelmät ovat turvallisia ja noudattavat perusoikeuksia ja unionin arvoja koskevaa voimassa olevaa lainsäädäntöä; ·taataan oikeusvarmuus tekoälyyn tehtävien investointien ja innovoinnin helpottamiseksi; ·tehostetaan tekoälyjärjestelmiin sovellettavia perusoikeuksia ja turvallisuusvaatimuksia koskevan voimassa olevan lainsäädännön hallinnointia ja tehokasta täytäntöönpanoa; ·helpotetaan sisämarkkinoiden kehittämistä laillisille, turvallisille ja luotettaville tekoälysovelluksille ja estetään markkinoiden pirstaloituminen. Näiden tavoitteiden saavuttamiseksi tässä ehdotuksessa esitetään tekoälyyn sovellettava tasapainoinen ja oikeasuhteinen monialainen sääntelytapa, joka rajoittuu niihin vähimmäisvaatimuksiin, jotka ovat tarpeen tekoälyyn liittyvien riskien ja ongelmien käsittelemiseksi, mutta ei tarpeettomasti rajoita tai estä teknologian kehittämistä tai muutoin korota kohtuuttomasti tekoälyratkaisujen markkinoille saattamisen kustannuksia. Ehdotuksella luodaan vankka ja joustava oikeudellinen kehys. Se on yhtäältä kattava ja tulevaisuuden vaatimukset huomioon ottava perustavanlaatuisissa sääntelyvalinnoissaan, mukaan lukien periaatepohjaiset vaatimukset, jotka tekoälyjärjestelmien olisi täytettävä. Toisaalta siinä otetaan käyttöön oikeasuhteinen sääntelyjärjestelmä, joka perustuu tarkasti määriteltyyn riskiperusteiseen sääntelymalliin, joka ei luo tarpeettomia kaupan rajoituksia ja jossa oikeudelliset toimenpiteet räätälöidään niiden konkreettisten tilanteiden mukaan, jotka aiheuttavat perusteltua huolta tai joiden voidaan kohtuudella ennakoida aiheuttavan tällaista huolta lähitulevaisuudessa. Samaan aikaan oikeudelliseen kehykseen sisältyy joustavia mekanismeja, joiden avulla sitä voidaan mukauttaa dynaamisesti teknologian kehityksen ja uusien huolta aiheuttavien tilanteiden mukaan. Ehdotuksessa esitetään tekoälyjärjestelmien kehittämistä, markkinoille saattamista ja käyttöä unionissa koskevat yhdenmukaistetut säännöt oikeasuhteisen riskiperusteisen lähestymistavan mukaisesti. Siinä ehdotetaan yhtenäistä tulevaisuuden vaatimukset huomioon ottavaa tekoälyn määritelmää. Tietyt erityisen haitalliset tekoälyyn liittyvät käytännöt kielletään unionin arvojen vastaisina, ja tiettyjen biometristen etätunnistusjärjestelmien käytölle lainvalvonnassa ehdotetaan erityisiä rajoituksia ja suojatoimia. Ehdotuksessa esitetään vakaa riskinarviointimenetelmä sellaisten suuririskisten tekoälyjärjestelmien määrittelemiseksi, jotka aiheuttavat merkittäviä riskejä ihmisten terveydelle ja turvallisuudelle tai perusoikeuksille. Näiden tekoälyjärjestelmien on täytettävä luotettavaa tekoälyä koskevat monialaiset pakolliset vaatimukset ja noudatettava vaatimustenmukaisuuden arviointimenettelyjä ennen kuin ne voidaan saattaa unionin markkinoille. Näiden järjestelmien tarjoajille ja käyttäjille asetetaan myös ennakoitavia, oikeasuhteisia ja selkeitä velvoitteita, jotta varmistetaan turvallisuus ja perusoikeuksia suojaavan voimassa olevan lainsäädännön noudattaminen tekoälyjärjestelmien koko elinkaaren ajan. Joillekin erityisille tekoälyjärjestelmille ehdotetaan vain läpinäkyvyyttä koskevia vähimmäisvaatimuksia, erityisesti kun käytetään chattibotteja tai ”syväväärennöksiä”. Ehdotetut säännöt pannaan täytäntöön jäsenvaltioiden hallintojärjestelmillä jo olemassa olevien rakenteiden pohjalta ja unionin tason yhteistyömekanismilla perustamalla Euroopan tekoälyneuvosto. Lisäksi ehdotetaan lisätoimenpiteitä innovoinnin tukemiseksi, erityisesti tekoälyn sääntelyn testiympäristöjen ja muiden toimenpiteiden avulla, joilla vähennetään sääntelytaakkaa ja tuetaan pieniä ja keskisuuria yrityksiä (pk-yrityksiä) ja startup-yrityksiä. 1.2.Yhdenmukaisuus muiden alaa koskevien politiikkojen säännösten kanssa Ehdotuksen monialainen luonne edellyttää täyttä yhdenmukaisuutta sellaisilla aloilla sovellettavan unionin voimassa olevan lainsäädännön kanssa, joilla jo käytetään tai todennäköisesti käytetään lähitulevaisuudessa suuririskisiä tekoälyjärjestelmiä.

Lisäksi varmistetaan yhdenmukaisuus EU:n perusoikeuskirjan ja voimassa olevan tietosuojaa, kuluttajansuojaa, syrjimättömyyttä ja sukupuolten tasa-arvoa koskevan unionin johdetun oikeuden kanssa. Ehdotuksella ei rajoiteta yleisen tietosuoja-asetuksen (asetus (EU) 2016/679) eikä lainvalvontatarkoituksessa käsiteltyjen henkilötietojen suojasta annetun direktiivin (direktiivi (EU) 2016/680) soveltamista vaan täydennetään niitä yhdenmukaistetuilla säännöillä, joita sovelletaan tiettyjen suuririskisten tekoälyjärjestelmien suunnitteluun, kehittämiseen ja käyttöön, sekä biometristen etätunnistusjärjestelmien tiettyjä käyttötarkoituksia koskevilla rajoituksilla. Ehdotuksella täydennetään myös syrjimättömyyttä koskevaa voimassa olevaa unionin lainsäädäntöä asettamalla erityisvaatimuksia, joilla pyritään minimoimaan algoritmisen syrjinnän riski, erityisesti tekoälyjärjestelmien kehittämiseen käytettävien datajoukkojen suunnittelun ja laadun osalta. Näitä vaatimuksia täydennetään testausta, riskinhallintaa, dokumentointia ja ihmisen suorittamaa valvontaa koskevilla velvoitteilla tekoälyjärjestelmien koko elinkaaren aikana. Ehdotus ei rajoita unionin kilpailuoikeuden soveltamista. Sellaisten suuririskisten tekoälyjärjestelmien osalta, jotka ovat tuotteiden turvakomponentteja, tämä ehdotus sisällytetään nykyiseen alakohtaiseen turvallisuuslainsäädäntöön johdonmukaisuuden varmistamiseksi, päällekkäisyyksien välttämiseksi ja lisärasitteiden minimoimiseksi. Erityisesti uuden lainsäädäntökehyksen soveltamisalaan kuuluviin tuotteisiin (esim. koneet, lääkinnälliset laitteet, lelut) liittyvien suuririskisten tekoälyjärjestelmien osalta tässä ehdotuksessa esitettyjen tekoälyjärjestelmiä koskevien vaatimusten noudattaminen tarkistetaan osana nykyisiä vaatimustenmukaisuuden arviointimenettelyjä, joista säädetään asiaa koskevassa uuden lainsäädäntökehyksen mukaisessa lainsäädännössä. Vaatimusten vuorovaikutuksen osalta voidaan todeta, että vaikka tekoälyjärjestelmille ominaiset turvallisuusriskit on tarkoitus kattaa tämän ehdotuksen vaatimuksilla, uuden lainsäädäntökehyksen mukaisella lainsäädännöllä pyritään varmistamaan lopputuotteen yleinen turvallisuus, minkä vuoksi siihen voi sisältyä erityisiä vaatimuksia, jotka koskevat tekoälyjärjestelmän turvallista liittämistä lopputuotteeseen. Ehdotus koneita koskevaksi asetukseksi, joka hyväksytään samana päivänä kuin tämä ehdotus, vastaa täysin tätä lähestymistapaa. Tätä ehdotusta ei sovelleta suoraan suuririskisiin tekoälyjärjestelmiin, jotka liittyvät vanhan lähestymistavan mukaisen lainsäädännön soveltamisalaan kuuluviin tuotteisiin (esim. ilmailu, autot). Tässä ehdotuksessa esitetyt suuririskisiä tekoälyjärjestelmiä koskevat olennaiset ennakkovaatimukset on kuitenkin otettava huomioon, kun hyväksytään asiaankuuluvaa täytäntöönpano- tai delegoitua lainsäädäntöä kyseisten säädösten nojalla. Jotta voidaan varmistaa tässä ehdotuksessa esitettyjen velvoitteiden ja rahoituspalveluja koskevan unionin lainsäädännön mukaisten velvoitteiden johdonmukainen täytäntöönpano, rahoituspalvelulainsäädännön valvonnasta vastaavat viranomaiset olisi nimettävä toimivaltaisiksi viranomaisiksi valvomaan tässä ehdotuksessa esitettyjen vaatimusten noudattamista säänneltyjen luottolaitosten tarjoamien tai käyttämien tekoälyjärjestelmien osalta, kun tekoälyjärjestelmiä säännellään jossain määrin epäsuorasti luottolaitosten sisäisen hallinnointi- ja ohjausjärjestelmän yhteydessä. Johdonmukaisuuden lisäämiseksi edelleen vaatimustenmukaisuuden arviointimenettely ja jotkin tämän ehdotuksen mukaiset tarjoajien menettelylliset velvoitteet sisällytetään oikeudesta harjoittaa luottolaitostoimintaa ja vakavaraisuusvalvonnasta annetun direktiivin 2013/36/EU mukaisiin menettelyihin. Tämä ehdotus on johdonmukainen myös palveluja koskevan sovellettavan unionin lainsäädännön kanssa, mukaan lukien sähköistä kaupankäyntiä koskevalla direktiivillä 2000/31/EY säännellyt välityspalvelut ja komission äskettäin antama ehdotus digitaalisia palveluja koskevaksi säädökseksi. Sellaisten tekoälyjärjestelmien osalta, jotka ovat vapauden, turvallisuuden ja oikeuden alueen laaja-alaisten tietojärjestelmien komponentteja ja joita hallinnoi laaja-alaisten tietojärjestelmien operatiivisesta hallinnoinnista vastaava Euroopan unionin virasto (eu-LISA), ehdotusta ei sovelleta niihin tekoälyjärjestelmiin, jotka on saatettu markkinoille tai otettu käyttöön ennen kuin yksi vuosi on kulunut tämän asetuksen soveltamispäivästä, paitsi jos laaja-alaisia tietojärjestelmiä koskevien säädösten korvaaminen tai muuttaminen aiheuttaa merkittävän muutoksen kyseisen tekoälyjärjestelmän tai kyseisten tekoälyjärjestelmien rakenteessa tai käyttötarkoituksessa. 1.3.Yhdenmukaisuus unionin muiden politiikkojen kanssa Ehdotus on osa laajempaa kattavaa toimenpidepakettia, jolla puututaan tekoälyn kehittämisen ja käytön aiheuttamiin ongelmiin, kuten tekoälyä koskevassa valkoisessa kirjassa on esitetty. Sen vuoksi varmistetaan johdonmukaisuus ja täydentävyys komission muiden käynnissä olevien tai suunniteltujen aloitteiden kanssa, joilla pyritään myös puuttumaan näihin ongelmiin, mukaan lukien alakohtaisen tuotelainsäädännön (esim. konedirektiivin ja yleistä tuoteturvallisuutta koskevan direktiivin) tarkistaminen sekä aloitteet, joissa käsitellään uusiin teknologioihin, myös tekoälyjärjestelmiin, liittyviä vastuukysymyksiä. Nämä aloitteet perustuvat tähän ehdotukseen ja täydentävät sitä oikeudellisen selkeyden lisäämiseksi ja tekoälyyn kohdistuvan luottamuksen ekosysteemin kehittämiseksi Euroopassa. Ehdotus on myös komission yleisen digitaalistrategian mukainen, koska sillä edistetään ihmisen hyväksi toimivaa teknologiaa, joka on yksi tiedonannossa ”Euroopan digitaalista tulevaisuutta rakentamassa” esitettyjen poliittisten suuntaviivojen ja tavoitteiden kolmesta pääpilarista. Siinä vahvistetaan johdonmukaiset, tehokkaat ja oikeasuhteiset puitteet sen varmistamiseksi, että tekoälyä kehitetään tavalla, jolla kunnioitetaan ihmisten oikeuksia ja ansaitaan heidän luottamuksensa. Näin kehitetään Euroopan digitaalista valmiutta ja tehdään seuraavasta vuosikymmenestä digitaalinen vuosikymmenen. Tekoälyvetoisen innovoinnin edistäminen liittyy myös läheisesti datahallintosäädökseen, avointa dataa koskevaan direktiiviin ja muihin EU:n datastrategiaan liittyviin aloitteisiin, joilla luodaan datan uudelleenkäyttöä, jakamista ja yhdistämistä varten luotettuja mekanismeja ja palveluja, jotka ovat olennaisen tärkeitä korkealaatuisten datavetoisten tekoälymallien kehittämiseksi. Ehdotuksella vahvistetaan myös merkittävästi unionin roolia maailmanlaajuisten normien ja standardien muotoilussa ja unionin arvojen ja etujen mukaisen luotettavan tekoälyn edistämisessä. Se luo unionille vahvan perustan lisätä yhteistyötä ulkoisten kumppaneidensa, myös kolmansien maiden, kanssa ja kansainvälisillä foorumeilla tekoälyyn liittyvissä kysymyksissä. 2.OIKEUSPERUSTA, TOISSIJAISUUSPERIAATE JA SUHTEELLISUUSPERIAATE 2.1.Oikeusperusta Ehdotuksen oikeusperusta on Euroopan unionin toiminnasta tehdyn sopimuksen (SEUT) 114 artikla, jossa määrätään toimenpiteistä sisämarkkinoiden toteuttamisen ja toiminnan varmistamiseksi. Ehdotus on yksi EU:n digitaalisia sisämarkkinoita koskevan strategian keskeinen osa. Ehdotuksen ensisijaisena tavoitteena on varmistaa sisämarkkinoiden moitteeton toiminta vahvistamalla yhdenmukaistetut säännöt, jotka koskevat erityisesti tekoälyteknologiaa hyödyntävien tai erillisinä tekoälyjärjestelminä tarjottavien tuotteiden ja palvelujen kehittämistä, unionin markkinoille saattamista ja käyttöä. Eräät jäsenvaltiot harkitsevat jo kansallisia sääntöjä sen varmistamiseksi, että tekoäly on turvallista ja että sitä kehitetään ja käytetään perusoikeuksia koskevien velvoitteiden mukaisesti. Tämä johtaa todennäköisesti kahteen pääasialliseen ongelmaan: i) sisämarkkinoiden pirstaloituminen olennaisissa kysymyksissä, jotka koskevat erityisesti tekoälytuotteisiin ja -palveluihin sovellettavia vaatimuksia, niiden markkinoille saattamista, käyttöä, vastuuta ja viranomaisten harjoittamaa valvontaa, ja ii) tekoälyjärjestelmien tarjoajien ja käyttäjien oikeusvarmuuden merkittävä heikkeneminen sen suhteen, miten nykyisiä ja uusia sääntöjä sovelletaan kyseisiin järjestelmiin unionissa. Kun otetaan huomioon tuotteiden ja palvelujen laaja liikkuvuus yli rajojen, nämä kaksi ongelmaa voidaan parhaiten ratkaista EU:n yhdenmukaistamislainsäädännöllä. Ehdotuksessa määritellään yhteiset pakolliset vaatimukset, joita sovelletaan tiettyjen tekoälyjärjestelmien suunnitteluun ja kehittämiseen ennen niiden saattamista markkinoille ja jotka otetaan konkreettisesti käyttöön yhdenmukaistettujen teknisten standardien avulla. Ehdotuksessa käsitellään myös tilannetta sen jälkeen, kun tekoälyjärjestelmät on saatettu markkinoille, yhdenmukaistamalla jälkiseurannan toteuttamistapa. Koska ehdotus sisältää joitain yksilöiden suojelua henkilötietojen käsittelyssä koskevia erityissääntöjä, joilla rajoitetaan tekoälyjärjestelmien käyttöä reaaliaikaista biometristä etätunnistusta varten julkisissa tiloissa lainvalvontatarkoituksessa, tämä asetus on aiheellista perustaa kyseisten erityissääntöjen osalta SEUT-sopimuksen 16 artiklaan. 2.2.Toissijaisuusperiaate (jaetun toimivallan osalta) Tekoälyn luonteeseen kuuluu, että se perustuu usein suuriin ja vaihteleviin datajoukkoihin ja voi olla sulautettu mihin tahansa sisämarkkinoilla vapaasti liikkuvaan tuotteeseen tai palveluun, minkä vuoksi jäsenvaltiot eivät voi yksin tehokkaasti saavuttaa tämän ehdotuksen tavoitteita. Lisäksi mahdollisesti toisistaan eroavien kansallisten sääntöjen tilkkutäkki haittaa tekoälyjärjestelmiin liittyvien tuotteiden ja palvelujen saumatonta liikkuvuutta EU:ssa eikä varmista tehokkaasti turvallisuutta ja unionin perusoikeuksien ja arvojen suojelua eri jäsenvaltioissa. Kansalliset lähestymistavat ongelmien ratkaisemiseksi luovat vain lisää oikeudellista epävarmuutta ja esteitä ja hidastavat tekoälyn käyttöönottoa markkinoilla. Tämän ehdotuksen tavoitteet voidaan saavuttaa paremmin unionin tasolla, jotta vältetään sisämarkkinoiden pirstaloituminen mahdollisesti ristiriitaisiin kansallisiin osiin, jotka estävät tekoälyä hyödyntävien tavaroiden ja palvelujen vapaan liikkuvuuden. Luotettavaa tekoälyä koskeva vankka eurooppalainen sääntelykehys varmistaa myös tasapuoliset toimintaedellytykset ja suojelee kaikkia ihmisiä ja vahvistaa samalla Euroopan kilpailukykyä ja teollista perustaa tekoälyn alalla. Ainoastaan unionin tason yhteisillä toimilla voidaan myös suojella unionin digitaalista suvereniteettia ja hyödyntää sen välineitä ja sääntelyvaltuuksia maailmanlaajuisten sääntöjen ja standardien muotoilussa. 2.3.Suhteellisuusperiaate

Ehdotus perustuu nykyisiin oikeudellisiin kehyksiin ja on oikeasuhteinen ja tarpeellinen sen tavoitteiden saavuttamiseksi, koska siinä noudatetaan riskiperusteista lähestymistapaa ja asetetaan sääntelyrasitteita vain silloin, kun tekoälyjärjestelmä todennäköisesti aiheuttaa suuria riskejä perusoikeuksille ja turvallisuudelle. Muille kuin suuririskisille tekoälyjärjestelmille asetetaan vain hyvin rajoitetut läpinäkyvyysvelvoitteet, jotka koskevat esimerkiksi ilmoittamista tekoälyjärjestelmän käytöstä silloin, kun se on vuorovaikutuksessa ihmisten kanssa. Suuririskisten tekoälyjärjestelmien osalta vaatimukset, jotka koskevat korkealaatuista dataa, dokumentointia ja jäljitettävyyttä, läpinäkyvyyttä, ihmisen suorittamaa valvontaa sekä tarkkuutta ja varmuutta, ovat ehdottoman välttämättömiä niiden riskien lieventämiseksi, joita tekoälystä aiheutuu perusoikeuksille ja turvallisuudelle ja joita muut voimassa olevat oikeudelliset kehykset eivät kata. Yhdenmukaistetut standardit ja niitä tukevat ohjeet ja vaatimustenmukaisuuden valvontavälineet auttavat tarjoajia ja käyttäjiä noudattamaan ehdotuksessa asetettuja vaatimuksia ja minimoivat niiden kustannukset. Toimijoille aiheutuvat kustannukset ovat oikeassa suhteessa asetettuihin tavoitteisiin ja niihin taloudellisiin ja mainehyötyihin, joita toimijat voivat odottaa tästä ehdotuksesta. 2.4.Toimintatavan valinta Asetuksen valinta oikeudelliseksi välineeksi on perusteltua, koska uusia sääntöjä, kuten tekoälyn määritelmää, tiettyjen haitallisten tekoälyä hyödyntävien käytäntöjen kieltämistä ja tiettyjen tekoälyjärjestelmien luokittelua, on sovellettava yhdenmukaisesti. Asetuksen suora sovellettavuus SEUT 288 artiklan mukaisesti vähentää oikeudellista hajanaisuutta ja helpottaa laillisten, turvallisten ja luotettavien tekoälyjärjestelmien sisämarkkinoiden kehittämistä. Tämä tapahtuu erityisesti ottamalla käyttöön yhdenmukaistetut keskeiset vaatimukset, jotka koskevat suuririskisiksi luokiteltuja tekoälyjärjestelmiä, ja kyseisten järjestelmien tarjoajia ja käyttäjiä koskevat velvoitteet, parantamalla perusoikeuksien suojelua ja tarjoamalla oikeusvarmuutta sekä toimijoille että kuluttajille. Asetuksen säännökset eivät kuitenkaan ole liian ohjailevia, ja niissä jätetään tilaa jäsenvaltioiden eri tasoilla toteutettaville toimille sellaisten seikkojen osalta, jotka eivät vaaranna aloitteen tavoitteiden saavuttamista. Tämä koskee erityisesti markkinavalvontajärjestelmän sisäistä organisointia ja innovointia edistävien toimenpiteiden käyttöönottoa. 3.JÄLKIARVIOINTIEN, SIDOSRYHMIEN KUULEMISTEN JA VAIKUTUSTENARVIOINTIEN TULOKSET 3.1.Sidosryhmien kuuleminen Ehdotus on tulosta kaikkien tärkeimpien sidosryhmien laajasta kuulemisesta, jossa on noudatettu komission konsultointiprosessiin sovellettavia yleisiä periaatteita ja vähimmäisvaatimuksia. Julkinen verkkokuuleminen käynnistettiin 19. helmikuuta 2020 tekoälyä koskevan valkoisen kirjan julkaisemisen yhteydessä, ja se oli avoin 14. kesäkuuta 2020 asti. Kuulemisen tavoitteena oli kerätä näkemyksiä ja mielipiteitä valkoisesta kirjasta. Se oli kohdistettu kaikille asiasta kiinnostuneille julkisen ja yksityisen sektorin sidosryhmille, kuten hallituksille, paikallisviranomaisille, kaupallisille ja ei-kaupallisille järjestöille, työmarkkinaosapuolille, asiantuntijoille, tutkijoille ja yksityishenkilöille. Analysoituaan saadut vastaukset komissio julkaisi tiivistelmän tuloksista ja yksittäiset vastaukset verkkosivustollaan. Vastauksia saatiin yhteensä 1 215, joista 352 oli yrityksiltä tai liike-elämän järjestöiltä, 406 yksityishenkilöiltä (92 % yksityishenkilöistä EU:sta), 152 korkeakouluilta tai tutkimuslaitoksilta ja 73 viranomaisilta. Kansalaisyhteiskunnan ääntä edusti 160 vastaajaa (9 kuluttajajärjestöä, 129 kansalaisjärjestöä ja 22 ammattiliittoa), 72 vastaajaa osallistui ”muina”. Yritysten ja teollisuuden 352 edustajasta 222 oli yrityksiä ja liike-elämän edustajia, joista 41,5 prosenttia oli mikroyrityksiä sekä pieniä ja keskisuuria yrityksiä. Loput olivat elinkeinoelämän järjestöjä. Kaiken kaikkiaan 84 prosenttia yritysten ja teollisuuden vastauksista tuli EU-27:stä. Kysymyksestä riippuen 81–598 vastaajaa käytti mahdollisuutta esittää huomautuksia vapaamuotoisella tekstillä. EU Survey -verkkosivuston kautta toimitettiin yli 450 kannanottoa joko kyselyvastausten liitteinä (yli 400) tai erillisinä kannanottoina (yli 50). Sidosryhmät ovat yleisesti yhtä mieltä toimien tarpeesta. Sidosryhmien suuri enemmistö on samaa mieltä siitä, että lainsäädännössä on aukkoja tai että tarvitaan uutta lainsäädäntöä. Useat sidosryhmät kuitenkin varoittavat komissiota välttämään päällekkäisyyksiä, ristiriitaisia velvoitteita ja ylisääntelyä. Useissa kommenteissa korostettiin teknologianeutraalin ja oikeasuhteisen sääntelykehyksen merkitystä. Sidosryhmät pyysivät enimmäkseen kapeaa, selkeää ja täsmällistä tekoälyn määritelmää. Sidosryhmät korostivat myös, että tekoälyn käsitteen selventämisen lisäksi on tärkeää määritellä käsitteet ’riski’, ’suuririskinen’, ’vähäriskinen’, ’biometrinen etätunnistus’ ja ’vahinko’. Useimmat vastaajat kannattavat nimenomaisesti riskiperusteista lähestymistapaa. Riskiperusteisen kehyksen käyttöä pidettiin parempana vaihtoehtona kuin kaikkien tekoälyjärjestelmien yleistä sääntelyä. Riskien ja uhkien tyyppien olisi perustuttava alakohtaiseen ja tapauskohtaiseen lähestymistapaan. Riskien arvioinnissa olisi otettava huomioon myös vaikutukset oikeuksiin ja turvallisuuteen. Sääntelyn testiympäristöt voisivat olla erittäin hyödyllisiä tekoälyn edistämisessä, ja tietyt sidosryhmät, erityisesti liike-elämän järjestöt, suhtautuvat niihin myönteisesti. Niistä, jotka esittivät kantansa täytäntöönpanomalleista, yli 50 prosenttia, erityisesti elinkeinoelämän järjestöistä, kannatti riskien omaehtoisen ennakkoarvioinnin ja suuririskisten tekoälyjärjestelmien jälkikäteisvalvonnan yhdistelmää. 3.2.Asiantuntijatiedon keruu ja käyttö Ehdotus perustuu kahden vuoden analyysiin ja sidosryhmien, kuten tutkijoiden, yritysten, työmarkkinaosapuolten, kansalaisjärjestöjen, jäsenvaltioiden ja kansalaisten, tiiviiseen osallistumiseen. Valmistelutyöt aloitettiin vuonna 2018 perustamalla tekoälyä käsittelevä korkean tason asiantuntijaryhmä. Siinä oli mukana 52 tunnettua asiantuntijaa, joiden tehtävänä oli neuvoa komissiota sen tekoälystrategian täytäntöönpanossa. Komissio antoi huhtikuussa 2019 tukensa keskeisille vaatimuksille, jotka esitettiin luotettavaa tekoälyä koskevissa korkean tason asiantuntijaryhmän eettisissä ohjeissa. Ohjeissa oli otettu huomioon yli 500 sidosryhmien kannanottoa. Keskeiset vaatimukset heijastavat laajalle levinnyttä ja yleistä lähestymistapaa, josta on osoituksena monien yksityisten ja julkisten organisaatioiden Euroopassa ja muualla kehittämien eettisten sääntöjen ja periaatteiden suuri määrä ja jonka mukaan tekoälyn kehittämistä ja käyttöä olisi ohjattava tiettyjen keskeisten arvokeskeisten periaatteiden mukaisesti. Luotettavan tekoälyn arviointiluettelon (ALTAI) avulla nämä vaatimukset otettiin käyttöön pilottiprosessissa, johon osallistui yli 350 organisaatiota. Lisäksi perustettiin tekoälyallianssi foorumiksi, jolla noin 4 000 sidosryhmää voi keskustella tekoälyn teknologisista ja yhteiskunnallisista vaikutuksista ja joka huipentuu vuosittaiseen tekoälyä käsittelevään yleiskokoukseen. Tätä osallistavaa lähestymistapaa kehitettiin edelleen tekoälyä koskevassa valkoisessa kirjassa, jonka pohjalta saatiin kommentteja yli 1 250 sidosryhmältä, mukaan lukien yli 450 uutta kannanottoa. Komissio julkaisi tältä pohjalta alustavan vaikutustenarvioinnin, josta puolestaan saatiin yli 130 kommenttia. Lisäksi järjestettiin muita sidosryhmien työpajoja ja tapahtumia, joiden tulokset tukevat vaikutustenarvioinnissa tehtyä analyysia ja tässä ehdotuksessa tehtyjä toimintapoliittisia valintoja. Vaikutustenarviointia varten teetettiin myös ulkoinen tutkimus. 3.3.Vaikutustenarviointi Sääntelyn parantamista koskevan politiikkansa mukaisesti komissio teki tätä ehdotusta koskevan vaikutustenarvioinnin, jota komission sääntelyntarkastelulautakunta tarkasteli. Sääntelyntarkastelulautakunnan kanssa pidettiin kokous 16. joulukuuta 2020, minkä jälkeen se antoi kielteisen lausunnon. Kun vaikutustenarviointia oli tarkistettu huomattavasti huomautusten huomioon ottamiseksi ja vaikutustenarviointi oli toimitettu uudelleen, sääntelyntarkastelulautakunta antoi asiasta myönteisen lausunnon 21. maaliskuuta 2021. Sääntelyntarkastelulautakunnan lausunnot, suositukset ja selvitys siitä, miten ne on otettu huomioon, esitetään vaikutustenarvioinnin liitteessä 1.

Komissio tarkasteli eri toimintavaihtoehtoja ehdotuksen yleisen tavoitteen saavuttamiseksi eli sisämarkkinoiden moitteettoman toiminnan varmistamiseksi luomalla edellytykset luotettavan tekoälyn kehittämiselle ja käytölle unionissa. Arvioinnissa arvioitiin neljää eriasteista sääntelyä koskevaa toimintavaihtoehtoa: ·Vaihtoehto 1: EU:n säädös vapaaehtoisen merkintäjärjestelmän perustamisesta; ·Vaihtoehto 2: alakohtainen ja tapauskohtainen lähestymistapa; ·Vaihtoehto 3: monialainen EU:n säädös, joka perustuu oikeasuhteiseen riskiperusteiseen lähestymistapaan; ·Vaihtoehto 3+: monialainen EU:n säädös, joka perustuu oikeasuhteiseen riskiperusteiseen lähestymistapaan + muita kuin suuririskisiä tekoälyjärjestelmiä koskevat käytännesäännöt; ·Vaihtoehto 4: monialainen EU:n säädös, jossa asetetaan pakolliset vaatimukset kaikille tekoälyjärjestelmille niiden aiheuttamasta riskistä riippumatta. Komission vakiintuneen menetelmän mukaan kutakin toimintavaihtoehtoa arvioitiin taloudellisten ja yhteiskunnallisten vaikutusten perusteella keskittyen erityisesti perusoikeuksiin kohdistuviin vaikutuksiin. Parhaaksi arvioitu vaihtoehto on vaihtoehto 3+ eli ainoastaan suuririskisiä tekoälyjärjestelmiä koskeva sääntelykehys sekä kaikkien muiden kuin suuririskisten tekoälyjärjestelmien tarjoajien mahdollisuus noudattaa käytännesääntöjä. Vaatimukset koskevat dataa, dokumentointia ja jäljitettävyyttä, tietojen antamista ja läpinäkyvyyttä, ihmisen suorittamaa valvontaa sekä luotettavuutta ja tarkkuutta, ja ne olisivat pakollisia suuririskisille tekoälyjärjestelmille. Yritykset, jotka ottavat käyttöön muita tekoälyjärjestelmiä koskevia käytännesääntöjä, tekisivät niin vapaaehtoisesti. Parhaaksi arvioitu vaihtoehto katsottiin tehokkaimmaksi tavaksi saavuttaa ehdotuksen tavoitteet. Koska parhaaksi arvioitu vaihtoehto edellyttää tekoälyn kehittäjiltä ja käyttäjiltä rajoitettua mutta tehokasta toimenpidekokonaisuutta, se rajoittaa perusoikeuksien ja ihmisten turvallisuuden loukkauksiin liittyviä riskejä ja edistää tehokasta valvontaa ja täytäntöönpanoa kohdistamalla vaatimukset vain järjestelmiin, joihin liittyy suuri riski siitä, että tällaisia loukkauksia voi tapahtua. Näin ollen tässä vaihtoehdossa säännösten noudattamisesta aiheutuvat kustannukset pidetään mahdollisimman pieninä, jolloin vältetään tekoälyn käyttöönoton tarpeeton hidastuminen korkeampien hintojen ja noudattamiskustannusten vuoksi. Jotta voidaan puuttua pk-yrityksille mahdollisesti aiheutuviin haittoihin, tähän vaihtoehtoon sisältyy useita säännöksiä, joilla tuetaan pk-yritysten vaatimustenmukaisuutta ja vähennetään niiden kustannuksia, mukaan lukien sääntelyn testiympäristöjen luominen ja velvoite ottaa pk-yritysten edut huomioon vaatimustenmukaisuuden arviointiin liittyviä maksuja asetettaessa. Parhaaksi arvioitu vaihtoehto lisää ihmisten luottamusta tekoälyyn, yritykset saavat lisää oikeusvarmuutta, eikä jäsenvaltioilla ole mitään syytä ryhtyä yksipuolisiin toimiin, jotka voisivat pirstaloida sisämarkkinoita. Tekoälyn sisämarkkinat todennäköisesti kukoistavat, kun lisääntynyt luottamus kasvattaa kysyntää, saatavilla olevat tarjoukset lisääntyvät paremman oikeusvarmuuden myötä eikä tekoälyjärjestelmien rajat ylittävälle liikkuvuudelle ole esteitä. Euroopan unioni jatkaa nopeasti kasvavan tekoälyn ekosysteemin kehittämistä tekoälyteknologiaa sisältäville tai erillisinä tekoälyjärjestelminä tarjottaville innovatiivisille palveluille ja tuotteille, mikä lisää digitaalista riippumattomuutta. Yritysten tai viranomaisten, jotka kehittävät tai käyttävät tekoälysovelluksia, jotka aiheuttavat suuren riskin kansalaisten turvallisuudelle tai perusoikeuksille, olisi noudatettava erityisiä vaatimuksia ja velvoitteita. Näiden vaatimusten noudattamisesta aiheutuisi noin 6 000–7 000 euron kustannukset noin 170 000 euron arvoisen keskimääräisen suuririskisen tekoälyjärjestelmän toimittamisesta vuoteen 2025 mennessä. Tekoälyn käyttäjille aiheutuisi myös vuosittaisia kustannuksia ajasta, joka käytetään ihmisen suorittaman valvonnan varmistamiseen silloin, kun se on asianmukaista käyttötapauksesta riippuen. Niiden arvioidaan olevan noin 5 000–8 000 euroa vuodessa. Todentamiskustannukset voivat olla 3 000–7 500 euroa suuririskisten tekoälyjärjestelmien toimittajille. Yrityksillä tai viranomaisilla, jotka kehittävät tai käyttävät tekoälysovelluksia, joita ei ole luokiteltu suuririskisiksi, olisi vain vähäiset tiedonantovelvoitteet. Ne voisivat kuitenkin halutessaan liittyä yhteen ja ottaa yhdessä käyttöön käytännesäännöt noudattaakseen soveltuvia vaatimuksia ja varmistaakseen, että niiden tekoälyjärjestelmät ovat luotettavia. Tällaisessa tapauksessa kustannukset olisivat enintään yhtä suuret kuin suuririskisillä tekoälyjärjestelmillä, mutta todennäköisimmin alhaisemmat. Toimintavaihtoehtojen vaikutukset eri sidosryhmiin (talouden toimijat/yritykset; vaatimustenmukaisuuden arviointilaitokset, standardointielimet ja muut julkiset elimet; yksityishenkilöt/kansalaiset; tutkijat) selostetaan yksityiskohtaisesti tätä ehdotusta tukevan vaikutustenarvioinnin liitteessä 3. 3.4.Sääntelyn toimivuus ja yksinkertaistaminen Tässä ehdotuksessa asetetaan velvoite, jota sovelletaan suuririskisten tekoälyjärjestelmien tarjoajiin ja käyttäjiin. Se luo oikeusvarmuutta tarjoajille, jotka kehittävät tällaisia järjestelmiä ja saattavat niitä unionin markkinoille, ja varmistaa, että tekoälyyn liittyvien palvelujen ja tuotteiden rajat ylittävälle tarjoamiselle ei aiheudu esteitä. Tekoälyä käyttävien yritysten kannalta se lisää luottamusta näiden yritysten asiakkaiden keskuudessa. Kansallisten julkishallintojen kannalta se edistää yleistä luottamusta tekoälyn käyttöön ja vahvistaa täytäntöönpanomekanismeja (ottamalla käyttöön eurooppalainen koordinointimekanismi, tarjoamalla asianmukaiset valmiudet ja helpottamalla tekoälyjärjestelmien auditointeja uusilla dokumentointia, jäljitettävyyttä ja läpinäkyvyyttä koskevilla vaatimuksilla). Lisäksi kehyksessä esitetään erityisiä toimenpiteitä innovoinnin tukemiseksi, mukaan lukien sääntelyn testiympäristöt, ja erityisiä toimenpiteitä, joilla tuetaan pieniä käyttäjiä ja suuririskisten tekoälyjärjestelmien tarjoajia uusien sääntöjen noudattamisessa. Ehdotuksella pyritään myös erityisesti vahvistamaan Euroopan kilpailukykyä ja teollista perustaa tekoälyn alalla. Siinä varmistetaan täysi yhdenmukaisuus tekoälyjärjestelmiin (esim. tuotteisiin ja palveluihin) sovellettavan unionin alakohtaisen lainsäädännön kanssa, mikä lisää selkeyttä ja yksinkertaistaa uusien sääntöjen täytäntöönpanoa. 3.5.Perusoikeudet Tekoälyn käyttö ja siihen liittyvät erityispiirteet (esim. läpinäkymättömyys, monimutkaisuus, riippuvuus datasta, autonominen käyttäytyminen) voivat vaikuttaa kielteisesti useisiin EU:n perusoikeuskirjassa vahvistettuihin perusoikeuksiin. Tällä ehdotuksella pyritään varmistamaan perusoikeuksien suojelun korkea taso ja puuttumaan eri riskilähteisiin selkeästi määritellyn riskiperusteisen lähestymistavan avulla. Ehdotuksella parannetaan ja edistetään perusoikeuskirjassa suojattujen oikeuksien suojelua, koska siinä vahvistetaan luotettavaa tekoälyä koskevat vaatimukset ja asetetaan oikeasuhteiset velvoitteet kaikille arvoketjun toimijoille. Näitä suojeltavia oikeuksia ovat oikeus ihmisarvoon (1 artikla), yksityiselämän kunnioittaminen ja henkilötietojen suoja (7 ja 8 artikla), syrjimättömyys (21 artikla) sekä naisten ja miesten tasa-arvo (23 artikla). Ehdotuksella pyritään estämään lamaannuttava vaikutus sananvapauteen (11 artikla) ja kokoontumisvapauteen (12 artikla) ja varmistamaan oikeus tehokkaisiin oikeussuojakeinoihin ja puolueettomaan tuomioistuimeen, puolustautumisoikeus ja syyttömyysolettama (47 ja 48 artikla) sekä hyvän hallinnon yleinen periaate. Lisäksi ehdotus, siten kuin sitä sovelletaan tietyillä aloilla, vaikuttaa myönteisesti tiettyjen erityisryhmien oikeuksiin, kuten työntekijöiden oikeuksiin oikeudenmukaisiin ja kohtuullisiin työoloihin (31 artikla) sekä korkeatasoiseen kuluttajansuojaan (28 artikla), lapsen oikeuksiin (24 artikla) ja vammaisten integroitumiseen (26 artikla). Myös oikeus ympäristönsuojelun korkeaan tasoon ja ympäristön laadun parantamiseen (37 artikla) on merkityksellinen ihmisten terveyden ja turvallisuuden kannalta. Ennakkotestausta, riskinhallintaa ja ihmisen suorittamaa valvontaa koskevat velvoitteet helpottavat myös muiden perusoikeuksien kunnioittamista minimoimalla virheellisten tai vinoutuneiden tekoälyavusteisten päätösten riskin kriittisillä aloilla, joita ovat esimerkiksi koulutus, työllisyys, tärkeät palvelut, lainvalvonta ja oikeuslaitos. Jos perusoikeuksia kuitenkin rikotaan, asianomaisten henkilöiden oikeus tehokkaisiin oikeussuojakeinoihin mahdollistetaan varmistamalla tekoälyjärjestelmien läpinäkyvyys ja jäljitettävyys sekä vahvat jälkitarkastukset. Ehdotuksessa asetetaan joitakin rajoituksia elinkeinovapaudelle (16 artikla) sekä taiteen ja tieteen vapaudelle (13 artikla), jotta varmistetaan yleistä etua koskevien pakottavien syiden, kuten terveyden, turvallisuuden, kuluttajansuojan ja muiden perusoikeuksien suojelun (’vastuullinen innovointi’), noudattaminen, kun suuririskistä tekoälyteknologiaa kehitetään ja käytetään. Nämä rajoitukset ovat oikeasuhteisia ja rajoittuvat siihen, mikä on välttämätöntä vakavien turvallisuusriskien ja todennäköisten perusoikeuksien loukkausten ehkäisemiseksi ja lieventämiseksi. Läpinäkyvyyttä lisäävät velvoitteet eivät myöskään vaikuta suhteettomasti teollis- ja tekijänoikeuksien suojaa koskevaan oikeuteen (17 artiklan 2 kohta), koska ne rajoittuvat vähimmäistietoihin, jotka ovat tarpeen, jotta yksityishenkilöt voivat käyttää oikeuttaan tehokkaisiin oikeussuojakeinoihin ja jotta valvonta- ja täytäntöönpanoviranomaisia kohtaan taataan tarvittava läpinäkyvyys niiden toimeksiannon mukaisesti. Kaikessa tietojen ilmaisemisessa noudatetaan alan asiaankuuluvaa lainsäädäntöä, mukaan lukien julkistamattoman taitotiedon ja liiketoimintatiedon (liikesalaisuuksien) suojaamisesta laittomalta hankinnalta, käytöltä ja ilmaisemiselta annettu direktiivi 2016/943. Kun viranomaisille ja ilmoitetuille laitoksille on annettava pääsy luottamuksellisiin tietoihin tai lähdekoodiin olennaisten velvoitteiden noudattamisen tutkimiseksi, niille asetetaan sitovat salassapitovelvollisuudet. 4.TALOUSARVIOVAIKUTUKSET

Jäsenvaltioiden on nimettävä valvontaviranomaiset, jotka vastaavat lainsäädännöllisten vaatimusten täytäntöönpanosta. Niiden valvontatehtävässä voitaisiin hyödyntää olemassa olevia järjestelyjä, jotka koskevat esimerkiksi vaatimustenmukaisuuden arviointilaitoksia tai markkinavalvontaa, mutta se edellyttäisi riittävää teknistä asiantuntemusta sekä henkilöresursseja ja taloudellisia resursseja. Kunkin jäsenvaltion olemassa olevasta rakenteesta riippuen tämä voisi merkitä 1–25 kokoaikavastaavaa työntekijää jäsenvaltiota kohti. Yksityiskohtainen erittely kustannuksista esitetään tähän ehdotukseen liittyvässä rahoitusselvityksessä. 5.LISÄTIEDOT 5.1.Toteuttamissuunnitelmat, seuranta, arviointi ja raportointijärjestelyt Vankan seuranta- ja arviointimekanismin luominen on ratkaisevan tärkeää sen varmistamiseksi, että ehdotuksella saavutetaan tehokkaasti sen erityistavoitteet. Komissio vastaa ehdotuksen vaikutusten seurannasta. Se perustaa järjestelmän, jolla erilliset suuririskiset tekoälysovellukset rekisteröidään julkiseen EU:n laajuiseen tietokantaan. Rekisteröinnin ansiosta toimivaltaiset viranomaiset, käyttäjät ja muut asiasta kiinnostuneet henkilöt voivat myös tarkistaa, täyttääkö suuririskinen tekoälyjärjestelmä ehdotuksessa esitetyt vaatimukset, ja valvoa tehostetusti niitä tekoälyjärjestelmiä, jotka aiheuttavat suuria riskejä perusoikeuksille. Tietokannan täydentämiseksi tekoälyn tarjoajat velvoitetaan antamaan merkityksellisiä tietoja järjestelmistään ja niiden vaatimustenmukaisuuden arvioinnista. Lisäksi tekoälyn tarjoajien on ilmoitettava kansallisille toimivaltaisille viranomaisille vakavista vaaratilanteista tai toimintahäiriöistä, jotka rikkovat perusoikeuksia koskevia velvoitteita, heti kun ne saavat tiedon niistä, sekä kaikista tekoälyjärjestelmien takaisinkutsuista tai markkinoilta poistamisista. Tämän jälkeen kansalliset toimivaltaiset viranomaiset tutkivat vaaratilanteet tai toimintahäiriöt, keräävät kaikki tarvittavat tiedot ja toimittavat ne säännöllisesti komissiolle riittävän metadatan kanssa. Komissio täydentää näitä poikkeamia koskevia tietoja tekemällä kattavan analyysin tekoälyn kokonaismarkkinoista. Komissio julkaisee kertomuksen, jossa arvioidaan ja tarkastellaan uudelleen ehdotettua tekoälykehystä, viiden vuoden kuluttua siitä, kun kehystä aletaan soveltaa. 5.2.Ehdotukseen sisältyvien säännösten yksityiskohtaiset selitykset 5.2.1.SOVELTAMISALA JA MÄÄRITELMÄT (I OSASTO) I osastossa määritellään asetuksen kohde ja tekoälyjärjestelmien markkinoille saattamista, käyttöönottoa ja käyttöä koskevien uusien sääntöjen soveltamisala. Siinä esitetään myös säädöksessä käytetyt määritelmät. Tekoälyjärjestelmän määritelmästä pyritään tekemään mahdollisimman teknologianeutraali ja tulevaisuuden vaatimukset huomioon ottava, koska tekoälyteknologia ja sen markkinat kehittyvät nopeasti. Tarvittavan oikeusvarmuuden takaamiseksi I osastoa täydennetään liitteellä I, joka sisältää yksityiskohtaisen luettelon tekoälyn kehittämisessä käytetyistä lähestymistavoista ja tekniikoista. Komission mukauttaa luetteloa uuden teknologian kehityksen mukaisesti. Myös tekoälyn arvoketjun keskeiset osallistujat on määritelty selkeästi, kuten tekoälyjärjestelmien tarjoajat ja käyttäjät, jotka kattavat sekä julkiset että yksityiset toimijat tasapuolisten toimintaedellytysten varmistamiseksi. 5.2.2.KIELLETYT TEKOÄLYYN LIITTYVÄT KÄYTÄNNÖT (II OSASTO) II osastossa esitetään luettelo kielletyistä tekoälyyn liittyvistä käytännöistä. Asetuksessa noudatetaan riskiperusteista lähestymistapaa, jossa erotetaan toisistaan tekoälyn käyttö, joka aiheuttaa i) riskin, joka ei ole hyväksyttävissä, ii) suuren riskin ja iii) vähäisen tai minimaalisen riskin. II osastossa esitetty luettelo kielletyistä käytännöistä kattaa kaikki tekoälyjärjestelmät, joiden käytön katsotaan olevan unionin arvojen vastaista esimerkiksi siksi, että se loukkaa perusoikeuksia. Kielto kattaa käytännöt, jotka tarjoavat merkittäviä mahdollisuuksia manipuloida ihmisiä subliminaalisilla tekniikoilla, joista nämä eivät ole tietoisia, tai käyttää hyväksi tiettyjen haavoittuvien ryhmien, kuten lasten tai vammaisten, haavoittuvuutta, jotta heidän käyttäytymistään voidaan olennaisesti vääristää tavalla, joka todennäköisesti aiheuttaa heille tai toiselle henkilölle psyykkistä tai ruumiillista haittaa. Muut aikuisiin vaikuttavat manipuloivat tai hyväksikäyttävät käytännöt, joita tekoälyjärjestelmät voisivat helpottaa, voisivat kuulua voimassa olevan tietosuojaa, kuluttajansuojaa ja digitaalisia palveluja koskevan lainsäädännön piiriin, jolla taataan, että luonnolliset henkilöt saavat asianmukaista tietoa ja voivat vapaasti päättää olla joutumatta profiloinnin tai muiden käytäntöjen kohteeksi, jotka voivat vaikuttaa heidän käyttäytymiseensä. Ehdotuksessa kielletään myös tekoälyyn perustuva sosiaalinen pisteytys viranomaisten yleisiä tarkoituksia varten. Myös reaaliaikaisten biometristen etätunnistusjärjestelmien käyttö julkisissa tiloissa lainvalvontatarkoituksessa on kielletty tiettyjä rajoitettuja poikkeuksia lukuun ottamatta. 5.2.3.SUURIRISKISET TEKOÄLYJÄRJESTELMÄT (III OSASTO) III osasto sisältää erityisiä sääntöjä tekoälyjärjestelmille, jotka aiheuttavat suuren riskin luonnollisten henkilöiden terveydelle ja turvallisuudelle tai perusoikeuksille. Riskiperusteisen lähestymistavan mukaisesti nämä suuririskiset tekoälyjärjestelmät ovat sallittuja Euroopan markkinoilla edellyttäen, että ne täyttävät tietyt pakolliset vaatimukset ja niille tehdään vaatimustenmukaisuuden ennakkoarviointi. Tekoälyjärjestelmän luokittelu suuririskiseksi perustuu tekoälyjärjestelmän suunniteltuun käyttötarkoitukseen voimassa olevan tuoteturvallisuuslainsäädännön mukaisesti. Luokittelu suuririskiseksi ei siten riipu ainoastaan tekoälyjärjestelmän toteuttamasta toiminnosta vaan myös siitä erityisestä tarkoituksesta, johon kyseistä järjestelmää käytetään. III osaston 1 luvussa vahvistetaan luokittelusäännöt ja määritellään kaksi suuririskisten tekoälyjärjestelmien pääluokkaa: ·tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi sellaisten tuotteiden turvakomponentteina, joihin sovelletaan kolmannen osapuolen suorittamaa vaatimustenmukaisuuden ennakkoarviointia; ·muut erilliset tekoälyjärjestelmät, joilla on pääasiassa perusoikeuksiin liittyviä vaikutuksia ja jotka on nimenomaisesti lueteltu liitteessä III. Liitteessä III oleva luettelo suuririskisistä tekoälyjärjestelmistä sisältää rajallisen määrän tekoälyjärjestelmiä, joiden riskit ovat jo toteutuneet tai todennäköisesti toteutuvat lähitulevaisuudessa. Sen varmistamiseksi, että asetusta voidaan mukauttaa tekoälyn uusiin käyttötarkoituksiin ja sovelluksiin, komissio voi laajentaa tietyillä ennalta määritellyillä alueilla käytettävien suuririskisten tekoälyjärjestelmien luetteloa soveltamalla tiettyjä kriteerejä ja riskinarviointimenetelmiä. Luvussa 2 vahvistetaan suuririskisiä tekoälyjärjestelmiä koskevat oikeudelliset vaatimukset, jotka koskevat dataa ja datan hallintaa, dokumentointia ja tietojen säilyttämistä, läpinäkyvyyttä ja tietojen antamista käyttäjille, ihmisen suorittamaa valvontaa, luotettavuutta, tarkkuutta ja turvallisuutta. Ehdotetut vähimmäisvaatimukset edustavat jo alan viimeisintä kehitystä monien huolellisten toimijoiden kannalta. Vaatimukset ovat tulosta kahden vuoden valmistelutyöstä ja perustuvat korkean tason asiantuntijaryhmän eettisiin ohjeisiin, joita on pilotoitu yli 350 organisaatiossa. Ne ovat myös pitkälti linjassa muiden kansainvälisten suositusten ja periaatteiden kanssa, millä varmistetaan, että ehdotettu tekoälykehys on yhteensopiva EU:n kansainvälisten kauppakumppaneiden hyväksymien kehysten kanssa. Täsmälliset tekniset ratkaisut näiden vaatimusten täyttämiseksi voidaan antaa standardeilla tai muilla teknisillä eritelmillä tai kehittää muulla tavoin yleisen teknisen tai tieteellisen tietämyksen mukaisesti tekoälyjärjestelmän tarjoajan harkinnan mukaan. Tämä joustavuus on erityisen tärkeää, koska se antaa tekoälyjärjestelmien tarjoajille mahdollisuuden valita, miten ne täyttävät vaatimuksensa, kun otetaan huomioon teknologian ja tieteen viimeisin kehitys tällä alalla. Luvussa 3 asetetaan suuririskisten tekoälyjärjestelmien tarjoajille selkeät monialaiset velvoitteet. Myös käyttäjille ja muille tekoälyn arvoketjun osapuolille (esim. maahantuojille, jakelijoille ja valtuutetuille edustajille) asetetaan oikeasuhteisia velvoitteita.

Luvussa 4 vahvistetaan puitteet ilmoitetuille laitoksille, jotka voivat osallistua riippumattomina kolmansina osapuolina vaatimustenmukaisuuden arviointimenettelyihin, ja luvussa 5 esitetään yksityiskohtaisesti vaatimustenmukaisuuden arviointimenettelyt, joita on noudatettava kunkin suuririskisen tekoälyjärjestelmän tyypin osalta. Vaatimustenmukaisuuden arviointiin perustuvalla lähestymistavalla pyritään minimoimaan rasite, joka aiheutuu talouden toimijoille sekä ilmoitetuille laitoksille, joiden kapasiteettia on asteittain lisättävä ajan mittaan. Tekoälyjärjestelmiin, jotka on tarkoitettu käytettäviksi uuden lainsäädäntökehyksen nojalla säänneltyjen tuotteiden (esim. koneet, lelut, lääkinnälliset laitteet jne.) turvakomponentteina, sovelletaan samoja ennakko- ja jälkikäteisvalvontamekanismeja kuin tuotteisiin, joiden komponentteja ne ovat. Tärkein ero on se, että ennakko- ja jälkikäteismekanismeilla varmistetaan paitsi alakohtaisessa lainsäädännössä vahvistettujen vaatimusten myös tässä asetuksessa vahvistettujen vaatimusten noudattaminen. Liitteessä III tarkoitettujen erillisten suuririskisten tekoälyjärjestelmien osalta perustetaan uusi vaatimustenmukaisuus- ja täytäntöönpanojärjestelmä. Tämä noudattaa uuden lainsäädäntökehyksen mukaista mallia, jossa lainsäädäntö pannaan täytäntöön tarjoajien tekemillä sisäisillä tarkastuksilla, lukuun ottamatta biometrisiä etätunnistusjärjestelmiä, joihin sovellettaisiin kolmannen osapuolen suorittamaa vaatimustenmukaisuuden arviointia. Kattava vaatimustenmukaisuuden ennakkoarviointi sisäisten tarkastusten avulla yhdistettynä vahvaan jälkikäteisvalvontaan voisi olla tehokas ja järkevä ratkaisu näille järjestelmille, kun otetaan huomioon, että sääntelytoimia ollaan vasta aloittamassa, sekä se, että tekoälyala on hyvin innovatiivinen ja tarkastuksissa tarvittava asiantuntemus on vasta kertymässä. Sisäisten tarkastusten avulla toteutettu erillisten suuririskisten tekoälyjärjestelmien arviointi edellyttäisi kaikkien asetuksen vaatimusten täysimääräistä, tehokasta ja asianmukaisesti dokumentoitua noudattamista etukäteen sekä luotettavien laatu- ja riskinhallintajärjestelmien ja markkinoille saattamisen jälkeisen seurannan noudattamista. Kun tarjoaja on suorittanut asianmukaisen vaatimustenmukaisuuden arvioinnin, sen olisi rekisteröitävä erilliset suuririskiset tekoälyjärjestelmät komission hallinnoimaan EU:n tietokantaan julkisen avoimuuden ja valvonnan lisäämiseksi ja toimivaltaisten viranomaisten suorittaman jälkivalvonnan vahvistamiseksi. Sen sijaan johdonmukaisuus voimassa olevan tuoteturvallisuuslainsäädännön kanssa edellyttää, että tuotteiden turvakomponentteina olevien tekoälyjärjestelmien vaatimustenmukaisuuden arvioinnissa noudatetaan kolmannen osapuolen suorittamia vaatimustenmukaisuuden arviointimenettelyjä, jotka on jo otettu käyttöön asiaankuuluvassa alakohtaisessa tuoteturvallisuuslainsäädännössä. Uusi vaatimustenmukaisuuden arviointi tarvitaan, jos tekoälyjärjestelmiin tehdään merkittäviä muutoksia (ja erityisesti muutoksia, jotka menevät pidemmälle kuin mitä tarjoaja on ennalta määritellyt teknisessä dokumentaatiossa ja jotka tarkastetaan vaatimustenmukaisuuden ennakkoarvioinnin yhteydessä). 5.2.4.TIETTYJÄ TEKOÄLYJÄRJESTELMIÄ KOSKEVAT LÄPINÄKYVYYSVELVOITTEET (IV OSASTO) IV osasto koskee tiettyjä tekoälyjärjestelmiä, jotta voidaan ottaa huomioon niiden aiheuttamat erityiset manipulointiriskit. Läpinäkyvyysvelvoitteita sovelletaan järjestelmiin, i) jotka ovat vuorovaikutuksessa ihmisten kanssa, ii) joilla havaitaan tunteita tai määritetään yhteys (sosiaalisiin) luokkiin biometristen tietojen perusteella tai iii) joilla tuotetaan tai manipuloidaan sisältöä (’syväväärennökset’). Kun ihmiset ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa tai heidän tunteitaan tai ominaisuuksiaan tunnistetaan automatisoidusti, heille on ilmoitettava tästä. Jos tekoälyjärjestelmää käytetään tuottamaan tai manipuloimaan kuva-, ääni- tai videosisältöä, joka selvästi muistuttaa aitoa sisältöä, olisi oltava velvollisuus ilmoittaa, että sisältö on tuotettu automatisoiduin keinoin, lukuun ottamatta laillisia tarkoituksia (lainvalvonta, sananvapaus) koskevia poikkeuksia. Näin ihmiset voivat tehdä tietoon perustuvia valintoja tai vetäytyä tietystä tilanteesta. 5.2.5.INNOVOINTIA TUKEVAT TOIMENPITEET (V OSASTO) V osasto edistää tavoitetta luoda oikeudellinen kehys, joka on innovaatiomyönteinen, tulevaisuuden vaatimukset huomioon ottava ja häiriönsietokykyinen. Tätä varten siinä kannustetaan kansallisia toimivaltaisia viranomaisia perustamaan sääntelyn testiympäristöjä ja vahvistetaan perusedellytykset hallinnolle, valvonnalle ja vastuuvelvollisuudelle. Tekoälyn sääntelyn testiympäristöillä luodaan valvottu ympäristö, jossa innovatiivisia teknologioita voidaan testata rajoitetun ajan toimivaltaisten viranomaisten kanssa sovitun testaussuunnitelman pohjalta. V osasto sisältää myös toimenpiteitä pk-yritysten ja startup-yritysten sääntelytaakan keventämiseksi. 5.2.6.HALLINTO JA TÄYTÄNTÖÖNPANO (VI, VII JA VIII OSASTO) VI osastossa perustetaan unionin ja kansallisen tason hallintojärjestelmät. Unionin tasolla ehdotuksella perustetaan Euroopan tekoälyneuvosto, joka koostuu jäsenvaltioiden ja komission edustajista. Tekoälyneuvosto helpottaa tämän asetuksen sujuvaa, tehokasta ja yhdenmukaista täytäntöönpanoa edistämällä kansallisten valvontaviranomaisten ja komission välistä tehokasta yhteistyötä ja antamalla neuvoja ja asiantuntemusta komissiolle. Lisäksi se kerää ja jakaa parhaita käytäntöjä jäsenvaltioiden kesken. Kansallisella tasolla jäsenvaltioiden on nimettävä yksi tai useampi kansallinen toimivaltainen viranomainen ja niiden joukosta kansallinen valvontaviranomainen valvomaan asetuksen soveltamista ja täytäntöönpanoa. Euroopan tietosuojavaltuutettu toimii toimivaltaisena viranomaisena, joka valvoo unionin toimielimiä, virastoja ja elimiä, kun ne kuuluvat tämän asetuksen soveltamisalaan. VII osaston tarkoituksena on helpottaa komission ja kansallisten viranomaisten seurantatyötä perustamalla EU:n laajuinen tietokanta erillisille suuririskisille tekoälyjärjestelmille, joilla on pääasiassa perusoikeuksiin liittyviä vaikutuksia. Tietokantaa ylläpitää komissio, ja siihen syöttävät tietoja tekoälyjärjestelmien tarjoajat, joiden on rekisteröitävä järjestelmänsä ennen kuin ne saatetaan markkinoille tai otetaan muulla tavoin käyttöön. VIII osastossa asetetaan tekoälyjärjestelmien tarjoajille seuranta- ja raportointivelvoitteet, jotka koskevat markkinoille saattamisen jälkeistä seurantaa ja raportointia sekä tekoälyyn liittyvien vaaratilanteiden ja toimintahäiriöiden tutkintaa. Markkinavalvontaviranomaiset valvoisivat myös markkinoita ja tutkisivat, noudatetaanko kaikkia markkinoille jo saatettuja suuririskisiä tekoälyjärjestelmiä koskevia velvoitteita ja vaatimuksia. Markkinavalvontaviranomaisilla olisi kaikki markkinavalvonnasta annetun asetuksen (EU) 2019/1020 mukaiset valtuudet. Jälkikäteisvalvonnalla olisi varmistettava, että kun tekoälyjärjestelmä on saatettu markkinoille, viranomaisilla on valtuudet ja resurssit puuttua tilanteeseen, jos tekoälyjärjestelmä aiheuttaa odottamattomia riskejä, jotka edellyttävät nopeita toimia. Ne valvovat myös, että toimijat noudattavat asetuksen mukaisia velvollisuuksiaan. Ehdotuksessa ei säädetä uusien elinten tai viranomaisten automaattisesta perustamisesta jäsenvaltioiden tasolla. Jäsenvaltiot voivat sen vuoksi nimetä nykyisiä alakohtaisia viranomaisia (ja hyödyntää niiden asiantuntemusta), joille annettaisiin myös valtuudet valvoa asetuksen säännösten noudattamista. Tämä ei millään lailla rajoita perusoikeuksia koskevien velvoitteiden jälkikäteisvalvontaan liittyvän nykyisen järjestelmän soveltamista eikä toimivallan jakoa jäsenvaltioissa. Jos nykyisten valvonta- ja täytäntöönpanoviranomaisten toimeksianto sitä edellyttää, niillä on myös valtuudet pyytää ja saada käyttöönsä kaikki tämän asetuksen mukaisesti säilytettävä dokumentaatio ja tarvittaessa pyytää markkinavalvontaviranomaisia järjestämään suuririskisen tekoälyjärjestelmän testaus teknisin keinoin. 5.2.7.KÄYTÄNNESÄÄNNÖT (IX OSASTO) IX osastossa luodaan puitteet käytännesääntöjen laatimiselle. Niiden tarkoituksena on kannustaa muiden kuin suuririskisten tekoälyjärjestelmien tarjoajia soveltamaan vapaaehtoisesti suuririskisiä tekoälyjärjestelmiä koskevia pakollisia vaatimuksia (jotka vahvistetaan III osastossa). Muiden kuin suuririskisten tekoälyjärjestelmien tarjoajat voivat itse laatia käytännesäännöt ja panna ne täytäntöön. Käytännesääntöihin voi sisältyä myös vapaaehtoisia sitoumuksia, jotka liittyvät esimerkiksi ekologiseen kestävyyteen, vammaisten henkilöiden esteettömyyteen, sidosryhmien osallistumiseen tekoälyjärjestelmien suunnitteluun ja kehittämiseen sekä kehitysryhmien monimuotoisuuteen. 5.2.8.LOPPUSÄÄNNÖKSET (X, XI JA XII OSASTO) X osastossa korostetaan kaikkien osapuolten velvollisuutta kunnioittaa tietojen ja datan luottamuksellisuutta ja vahvistetaan säännöt asetuksen täytäntöönpanon yhteydessä saatujen tietojen vaihdolle. X osasto sisältää myös toimenpiteitä, joilla varmistetaan asetuksen tehokas täytäntöönpano säännösten rikkomisesta määrättävillä tehokkailla, oikeasuhteisilla ja varoittavilla seuraamuksilla. XI osastossa vahvistetaan säädösvallan siirtoa ja täytäntöönpanovaltaa koskevat säännöt. Ehdotuksessa siirretään komissiolle valta antaa tarvittaessa täytäntöönpanosäädöksiä, joilla varmistetaan asetuksen yhdenmukainen soveltaminen, tai delegoituja säädöksiä, joilla päivitetään tai täydennetään liitteissä I–VII olevia luetteloita. XII osastossa säädetään komission velvollisuudesta arvioida säännöllisesti, onko liitettä III tarpeen päivittää, ja laatia säännöllisesti kertomuksia asetuksen arvioinnista ja uudelleentarkastelusta. Siinä vahvistetaan myös loppusäännökset, mukaan lukien eriytetty siirtymäkausi asetuksen soveltamisen alkamispäivää varten, jotta voidaan helpottaa sujuvaa täytäntöönpanoa kaikkien osapuolten kannalta. 2021/0106 (COD) Ehdotus

EUROOPAN PARLAMENTIN JA NEUVOSTON ASETUS TEKOÄLYÄ KOSKEVISTA YHDENMUKAISTETUISTA SÄÄNNÖISTÄ (TEKOÄLYSÄÄDÖS) JA TIETTYJEN UNIONIN SÄÄDÖSTEN MUUTTAMISESTA EUROOPAN PARLAMENTTI JA EUROOPAN UNIONIN NEUVOSTO, jotka ottavat huomioon Euroopan unionin toiminnasta tehdyn sopimuksen ja erityisesti sen 16 ja 114 artiklan, ottavat huomioon Euroopan komission ehdotuksen, sen jälkeen kun esitys lainsäätämisjärjestyksessä hyväksyttäväksi säädökseksi on toimitettu kansallisille parlamenteille, ottavat huomioon Euroopan talous- ja sosiaalikomitean lausunnon, ottavat huomioon alueiden komitean lausunnon, noudattavat tavallista lainsäätämisjärjestystä, sekä katsovat seuraavaa: (1)Tämän asetuksen tarkoituksena on parantaa sisämarkkinoiden toimintaa vahvistamalla yhtenäinen oikeudellinen kehys erityisesti unionin arvojen mukaiselle tekoälyn kehittämiselle, markkinoille saattamiselle ja käytölle. Tämän asetuksen tavoitteet liittyvät useisiin yleistä etua koskeviin pakottaviin syihin, kuten terveyden, turvallisuuden ja perusoikeuksien suojelun korkeaan tasoon, ja sillä varmistetaan tekoälyyn perustuvien tavaroiden ja palvelujen vapaa liikkuvuus rajojen yli, mikä estää jäsenvaltioita asettamasta tekoälyjärjestelmien kehittämistä, markkinoille saattamista ja käyttöä koskevia rajoituksia, ellei sitä nimenomaisesti sallita tällä asetuksella. (2)Tekoälyjärjestelmiä voidaan ottaa helposti käyttöön useilla talouden ja yhteiskunnan aloilla, myös rajojen yli, ja ne voivat liikkua kaikkialla unionissa. Eräät jäsenvaltiot ovat jo harkinneet kansallisten sääntöjen hyväksymistä sen varmistamiseksi, että tekoäly on turvallista ja että sitä kehitetään ja käytetään perusoikeuksia koskevien velvoitteiden mukaisesti. Toisistaan poikkeavat kansalliset säännöt voivat johtaa sisämarkkinoiden pirstoutumiseen ja heikentää tekoälyjärjestelmiä kehittävien tai käyttävien toimijoiden oikeusvarmuutta. Sen vuoksi olisi varmistettava suojelun yhdenmukainen ja korkea taso koko unionissa ja samalla estettävä erot, jotka haittaavat tekoälyjärjestelmien ja niihin liittyvien tuotteiden ja palvelujen vapaata liikkuvuutta sisämarkkinoilla, vahvistamalla yhdenmukaiset velvoitteet toimijoille ja takaamalla yleiseen etuun liittyvien pakottavien syiden ja henkilöiden oikeuksien yhdenmukainen suojelu koko sisämarkkinoilla Euroopan unionin toiminnasta tehdyn sopimuksen (SEUT) 114 artiklan mukaisesti. Siltä osin kuin tämä asetus sisältää yksilöiden suojelua henkilötietojen käsittelyssä koskevia erityissääntöjä, joilla rajoitetaan tekoälyjärjestelmien käyttöä reaaliaikaista biometristä etätunnistusta varten julkisissa tiloissa lainvalvontatarkoituksessa, tämä asetus on aiheellista perustaa kyseisten erityissääntöjen osalta SEUT-sopimuksen 16 artiklaan. Kun otetaan huomioon nämä erityissäännöt ja SEUT-sopimuksen 16 artiklan käyttö, on aiheellista kuulla Euroopan tietosuojaneuvostoa. (3)Tekoäly on nopeasti kehittyvä teknologiakokonaisuus, joka voi tuottaa monenlaisia taloudellisia ja yhteiskunnallisia hyötyjä kaikilla teollisuudenaloilla ja kaikessa sosiaalisessa toiminnassa. Tekoälyn käyttö voi tarjota yrityksille keskeisiä kilpailuetuja ja tukea yhteiskunnallisesti ja ympäristön kannalta suotuisia tuloksia esimerkiksi terveydenhuollon, maatalouden, koulutuksen, infrastruktuurin hallinnan, energian, liikenteen ja logistiikan, julkisten palvelujen, turvallisuuden, oikeuden, resurssi- ja energiatehokkuuden sekä ilmastonmuutoksen hillitsemisen ja siihen sopeutumisen aloilla parantamalla ennakointia, optimoimalla toimintoja ja resurssien kohdentamista ja räätälöimällä yksilöille ja organisaatioille tarjolla olevia digitaalisia ratkaisuja. (4)Samaan aikaan tekoäly voi sen erityiseen sovellukseen ja käyttöön liittyvistä olosuhteista riippuen aiheuttaa riskejä ja vahingoittaa unionin lainsäädännöllä suojattuja yleisiä etuja ja oikeuksia. Tällainen vahinko voi olla aineellista tai aineetonta. (5)Sen vuoksi tarvitaan unionin oikeudellinen kehys, jossa vahvistetaan tekoälyä koskevat yhdenmukaistetut säännöt, jotta voidaan edistää tekoälyn kehittämistä, käyttöä ja käyttöönottoa sisämarkkinoilla ja samalla taata unionin oikeudessa tunnustettujen ja suojattujen yleisten etujen suojelun, kuten terveyden ja turvallisuuden sekä perusoikeuksien suojelun, korkea taso. Tämän tavoitteen saavuttamiseksi olisi vahvistettava säännöt, joilla säännellään tiettyjen tekoälyjärjestelmien markkinoille saattamista ja käyttöönottoa ja varmistetaan siten sisämarkkinoiden moitteeton toiminta ja annetaan kyseisille järjestelmille mahdollisuus hyötyä tavaroiden ja palvelujen vapaan liikkuvuuden periaatteesta. Vahvistamalla kyseiset säännöt tällä asetuksella tuetaan Eurooppa-neuvoston asettamaa tavoitetta, jonka mukaan unionin olisi oltava globaali edelläkävijä turvallisen, luotettavan ja eettisen tekoälyn kehittämisessä, ja varmistetaan eettisten periaatteiden suojelu, kuten Euroopan parlamentti on erityisesti pyytänyt. (6)Tekoälyjärjestelmän käsite olisi määriteltävä selkeästi, jotta voidaan taata oikeusvarmuus ja samalla tarjota joustovaraa teknologian tulevan kehityksen huomioon ottamiseksi. Määritelmän olisi perustuttava ohjelmiston keskeisiin toiminnallisiin ominaisuuksiin, erityisesti siihen, että se pystyy tuottamaan tiettyjen ihmisen määrittelemien tavoitteiden osalta tuloksia, kuten sisältöjä, ennusteita, suosituksia tai päätöksiä, jotka vaikuttavat ympäristöön, jonka kanssa järjestelmä on vuorovaikutuksessa joko fyysisessä tai digitaalisessa ulottuvuudesta. Tekoälyjärjestelmät voidaan suunnitella toimimaan eriasteisesti itsenäisesti ja niitä voidaan käyttää erillisinä tai tuotteen osina riippumatta siitä, onko järjestelmä fyysisesti integroitu tuotteeseen (sulautettu) vai palveleeko se tuotteen toiminnallisuutta ilman, että se on integroitu siihen (sulauttamaton). Tekoälyjärjestelmän määritelmää olisi täydennettävä sen kehittämisessä käytettyjen erityisten tekniikoiden ja lähestymistapojen luettelolla, joka olisi pidettävä ajan tasalla markkinoiden ja teknologian kehityksen huomioon ottamiseksi siten, että komissio hyväksyy delegoituja säädöksiä luettelon muuttamiseksi. (7)Tässä asetuksessa käytetty biometristen tietojen käsite on yhdenmukainen Euroopan parlamentin ja neuvoston asetuksen (EU) 2016/679 4 artiklan 14 alakohdassa, Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/1725 3 artiklan 18 alakohdassa ja Euroopan parlamentin ja neuvoston direktiivin (EU) 2016/680 3 artiklan 13 alakohdassa määritellyn biometristen tietojen käsitteen kanssa ja sitä olisi tulkittava johdonmukaisesti tämän kanssa. (8)Tässä asetuksessa käytetty biometrisen etätunnistusjärjestelmän käsite olisi määriteltävä toiminnallisesti tekoälyjärjestelmäksi, joka on tarkoitettu luonnollisten henkilöiden tunnistamiseen etäältä vertaamalla henkilön biometrisiä tietoja viitetietokannan sisältämiin biometrisiin tietoihin ja tietämättä ennalta, onko kohteena oleva henkilö läsnä ja voidaanko hänet tunnistaa, riippumatta käytetyistä tekniikoista, prosesseista tai biometristen tietojen tyypeistä. Kun otetaan huomioon reaaliaikaisten ja jälkikäteisten biometrisen etätunnistusjärjestelmien erilaiset ominaisuudet ja käyttötavat sekä niihin liittyvät erilaiset riskit, nämä järjestelmät olisi erotettava toisistaan. Reaaliaikaisissa järjestelmissä biometristen tietojen kerääminen, vertailu ja tunnistaminen tapahtuvat välittömästi, lähes välittömästi tai joka tapauksessa ilman merkittävää viivettä. Tältä osin ei pitäisi olla mahdollista kiertää tämän asetuksen sääntöjä, jotka koskevat kyseisten tekoälyjärjestelmien reaaliaikaista käyttöä, käyttämällä vähäisiä viivästyksiä. Reaaliaikaisissa järjestelmissä käytetään kameran tai muun toiminnoltaan samankaltaisen laitteen tuottamaa ”suoraa” tai ”lähes suoraa” materiaalia, kuten videokuvaa. Jälkikäteisissä järjestelmissä biometriset tiedot on sitä vastoin jo kerätty, ja vertailu ja tunnistaminen tapahtuvat vasta merkittävän viiveen jälkeen. Kyse on kameravalvontajärjestelmien tai yksityisten laitteiden tuottamien kuvien tai videokuvan kaltaisesta materiaalista, joka on luotu ennen kuin järjestelmää käytetään asianomaisiin luonnollisiin henkilöihin. (9)Tätä asetusta sovellettaessa julkisen tilan käsitteen olisi ymmärrettävä tarkoitettavan mitä tahansa fyysistä paikkaa, johon yleisöllä on pääsy, riippumatta siitä, onko kyseinen paikka yksityisessä vai julkisessa omistuksessa. Käsite ei siten kata paikkoja, jotka ovat luonteeltaan yksityisiä ja joihin kolmansilla osapuolilla, lainvalvontaviranomaiset mukaan luettuina, ei yleensä ole vapaata pääsyä, elleivät kyseiset osapuolet ole nimenomaisesti saaneet kutsua tai lupaa, kuten koteja, yksityisiä kerhoja, toimistoja, varastoja ja tehtaita. Käsite ei kata myöskään verkkoympäristöjä, sillä ne eivät ole fyysisiä tiloja. Pelkästään se, että tiettyyn tilaan pääsyyn voidaan soveltaa tiettyjä edellytyksiä, kuten pääsylippuja tai ikärajoituksia, ei kuitenkaan tarkoita sitä, ettei yleisöllä olisi pääsyä tilaan tässä asetuksessa tarkoitetulla tavalla. Katujen, julkisten rakennusten yleisten osien ja useimpien liikenneinfrastruktuurien lisäksi myös esimerkiksi elokuvateatterit, teatterit, myymälät ja ostoskeskukset ovat yleensä tiloja, joihin yleisöllä on pääsy. Se, onko yleisöllä pääsy tiettyyn tilaan, olisi kuitenkin määritettävä tapauskohtaisesti ottaen huomioon kulloisenkin yksittäisen tilanteen erityispiirteet. (10)Jotta voidaan varmistaa tasapuoliset toimintaedellytykset ja yksilöiden oikeuksien ja vapauksien tehokas suojelu kaikkialla unionissa, tällä asetuksella vahvistettuja sääntöjä olisi sovellettava tekoälyjärjestelmien tarjoajiin syrjimättömällä tavalla riippumatta siitä, ovatko ne sijoittautuneet unioniin vai kolmanteen maahan, sekä unioniin sijoittautuneisiin tekoälyjärjestelmien käyttäjiin.

(11)Tiettyjen tekoälyjärjestelmien digitaalisen luonteen vuoksi niiden olisi kuuluttava tämän asetuksen soveltamisalaan myös silloin, kun niitä ei saateta markkinoille, oteta käyttöön eikä käytetä unionissa. Tämä koskee esimerkiksi unioniin sijoittautunutta toimijaa, joka hankkii tiettyjä palveluja unionin ulkopuolelle sijoittautuneelta toimijalta sellaisen tekoälyjärjestelmän toteuttaman toiminnon osalta, joka katsotaan suuririskiseksi ja jolla on vaikutuksia unionissa oleviin luonnollisiin henkilöihin. Tällaisessa tapauksessa unionin ulkopuolelle sijoittautuneen toimijan käyttämä tekoälyjärjestelmä voisi käsitellä dataa, joka on kerätty unionissa ja siirretty sieltä laillisesti, ja toimittaa unionissa sijaitsevalle hankintasopimuksen tehneelle toimijalle tästä käsittelystä saatavia tekoälyjärjestelmän tuloksia ilman, että kyseistä tekoälyjärjestelmää saatetaan markkinoille, otetaan käyttöön tai käytetään unionissa. Jotta estettäisiin tämän asetuksen kiertäminen ja varmistettaisiin unionissa sijaitsevien luonnollisten henkilöiden tehokas suojelu, tätä asetusta olisi sovellettava myös kolmanteen maahan sijoittautuneisiin tekoälyjärjestelmien tarjoajiin ja käyttäjiin siltä osin kuin kyseisten järjestelmien tuottamaa tuotosta käytetään unionissa. Jotta otettaisiin kuitenkin huomioon olemassa olevat järjestelyt ja erityiset tarpeet yhteistyöhön sellaisten ulkomaisten kumppanien kanssa, joiden kanssa vaihdetaan tietoja ja todisteita, tätä asetusta ei pitäisi soveltaa kolmannen maan viranomaisiin eikä kansainvälisiin järjestöihin, kun ne toimivat unionin tai sen jäsenvaltioiden kanssa kansallisella tai Euroopan tasolla tehtyjen lainvalvontaa ja rikosoikeudellista yhteistyötä koskevien kansainvälisten sopimusten puitteissa. Tällaisia sopimuksia on tehty kahdenvälisesti jäsenvaltioiden ja kolmansien maiden välillä tai Euroopan unionin, Europolin ja muiden EU:n virastojen sekä kolmansien maiden ja kansainvälisten järjestöjen välillä. (12)Tätä asetusta olisi sovellettava myös unionin toimielimiin, toimistoihin, elimiin ja virastoihin, kun ne toimivat tekoälyjärjestelmän tarjoajana tai käyttäjänä. Tekoälyjärjestelmät, jotka on kehitetty tai joita käytetään yksinomaan sotilaallisiin tarkoituksiin, olisi jätettävä tämän asetuksen soveltamisalan ulkopuolelle, kun kyseinen käyttö kuuluu Euroopan unionista tehdyn sopimuksen (TEU) V osastossa säännellyn yhteisen ulko- ja turvallisuuspolitiikan yksinomaiseen toimivaltaan. Tämän asetuksen ei pitäisi rajoittaa Euroopan parlamentin ja neuvoston direktiivin 2000/31/EY II luvun IV jaksossa vahvistettujen välityspalvelujen tarjoajien vastuuta koskevien säännösten [sellaisina kuin ne korvataan digipalvelusäädöksen vastaavilla säännöksillä] soveltamista. (13)Jotta voidaan varmistaa terveyteen, turvallisuuteen ja perusoikeuksiin liittyvien yleisten etujen suojelun yhdenmukainen ja korkea taso, kaikille suuririskisille tekoälyjärjestelmille olisi vahvistettava yhteiset normit. Näiden normien olisi oltava Euroopan unionin perusoikeuskirjan, jäljempänä ’perusoikeuskirja’, mukaisia, syrjimättömiä ja yhteensopivia unionin kansainvälisten kauppasitoumusten kanssa. (14)Tekoälyjärjestelmiä koskevien oikeasuhteisten ja tehokkaiden sitovien sääntöjen käyttöön ottamiseksi olisi noudatettava selkeästi määriteltyä riskiperusteista lähestymistapaa. Tässä lähestymistavassa tällaisten sääntöjen tyyppi ja sisältö olisi sovitettava niiden riskien voimakkuuden ja laajuuden mukaan, joita tekoälyjärjestelmät voivat aiheuttaa. Sen vuoksi on tarpeen kieltää tietyt tekoälyyn liittyvät käytännöt, vahvistaa suuririskisiä tekoälyjärjestelmiä koskevat vaatimukset ja asianomaisten toimijoiden velvollisuudet sekä asettaa läpinäkyvyysvelvoitteita tietyille tekoälyjärjestelmille. (15)Tekoälyn monien hyödyllisten käyttötarkoitusten lisäksi kyseistä teknologiaa voidaan myös käyttää väärin ja se voi tarjota uusia ja tehokkaita välineitä käytäntöihin, joihin liittyy manipulointia, hyväksikäyttöä ja sosiaalista valvontaa. Tällaiset käytännöt ovat erityisen haitallisia ja ne olisi kiellettävä, koska ne ovat ihmisarvon kunnioittamista, vapautta, tasa-arvoa, demokratiaa ja oikeusvaltiota koskevien unionin arvojen sekä unionin perusoikeuksien vastaisia, mukaan lukien oikeus syrjimättömyyteen, tietosuoja ja yksityisyyden suoja sekä lapsen oikeudet. (16)Sellaisten tekoälyjärjestelmien markkinoille saattaminen, käyttöönotto tai käyttö, joiden tarkoituksena on vääristää ihmisten käyttäytymistä, mistä todennäköisesti aiheutuu fyysisiä tai psyykkisiä haittoja, olisi kiellettävä. Tällaisissa tekoälyjärjestelmissä käytetään subliminaalisia komponentteja, joita henkilöt eivät voi havaita, tai hyödynnetään lasten ja ihmisten haavoittuvuuksia, jotka liittyvät heidän ikäänsä tai fyysiseen tai psyykkisen vammaansa. Tällaisen vaikuttamisen tarkoituksena on vääristää henkilön käyttäytymistä olennaisesti tavalla, joka aiheuttaa tai todennäköisesti aiheuttaa haittaa kyseiselle henkilölle tai toiselle henkilölle. Tällaista aikomusta ei voida olettaa, jos ihmisen käyttäytymisen vääristyminen johtuu tekoälyjärjestelmän ulkopuolisista tekijöistä, jotka eivät ole järjestelmän tarjoajan tai käyttäjän hallittavissa. Kielto ei saisi rajoittaa tällaisiin tekoälyjärjestelmiin liittyvää perustelluissa tarkoituksissa tehtävää tutkimusta, jos tällainen tutkimus ei merkitse sellaista tekoälyjärjestelmän käyttöä ihmisen ja koneen välisissä suhteissa, joka altistaa luonnolliset henkilöt haitoille, ja tutkimus suoritetaan tieteellistä tutkimusta koskevien tunnustettujen eettisten normien mukaisesti. (17)Tekoälyjärjestelmät, joiden avulla viranomaiset toteuttavat tai heidän puolestaan toteutetaan luonnollisten henkilöiden sosiaalista pisteytystä yleistä tarkoitusta varten, voivat johtaa syrjiviin tuloksiin ja tiettyjen ryhmien syrjäytymiseen. Ne voivat loukata oikeutta ihmisarvoon ja syrjimättömyyteen sekä tasa-arvon ja oikeussuojan arvoja. Tällaiset tekoälyjärjestelmät arvioivat tai luokittelevat luonnollisten henkilöiden luotettavuutta heidän sosiaalisen käyttäytymisensä perusteella useissa yhteyksissä tai heidän tunnettujen tai ennakoitujen henkilökohtaisten ominaisuuksiensa tai luonteenpiirteidensä perusteella. Tällaisista tekoälyjärjestelmistä saadut sosiaaliset pisteet voivat johtaa luonnollisten henkilöiden tai kokonaisten henkilöryhmien haitalliseen tai epäedulliseen kohteluun sosiaalisissa yhteyksissä, jotka eivät liity siihen asiayhteyteen, jossa tiedot alun perin tuotettiin tai kerättiin, tai haitalliseen kohteluun, joka on suhteetonta tai perusteetonta heidän sosiaalisen käyttäytymisensä vakavuuteen nähden. Tällaiset tekoälyjärjestelmät olisi sen vuoksi kiellettävä. (18)Tekoälyjärjestelmien käyttöä luonnollisten henkilöiden reaaliaikaiseen biometriseen etätunnistukseen julkisissa tiloissa lainvalvontatarkoituksessa pidetään erityisen vakavana puuttumisena asianomaisten henkilöiden oikeuksiin ja vapauksiin, sillä se voi vaikuttaa suuren väestönosan yksityiselämään, synnyttää tunteen jatkuvasta valvonnasta ja estää välillisesti kokoontumisvapauden ja muiden perusoikeuksien käyttämisen. Lisäksi tällaisten reaaliaikaisten järjestelmien käyttöön liittyvien vaikutusten välittömyys ja rajalliset mahdollisuudet lisätarkastuksiin tai korjauksiin lisäävät lainvalvontatoimien kohteena olevien henkilöiden oikeuksiin ja vapauksiin kohdistuvia riskejä. (19)Näiden järjestelmien käyttö lainvalvontatarkoituksiin olisi sen vuoksi kiellettävä lukuun ottamatta kolmea tyhjentävästi lueteltua ja kapeasti määriteltyä tilannetta, joissa käyttö on ehdottoman välttämätöntä sellaisen tärkeän yleisen edun saavuttamiseksi, jonka merkitys on riskejä suurempi. Näihin tilanteisiin kuuluvat mahdollisten rikosten uhrien, myös kadonneiden lasten, etsintä; tietyt luonnollisten henkilöiden henkeen tai fyysiseen turvallisuuteen kohdistuvan uhat tai terrori-iskun uhat; sekä neuvoston puitepäätöksessä 2002/584/YOS tarkoitettujen rikosten tekijöiden tai tällaisista rikoksista epäiltyjen havaitseminen, paikantaminen, tunnistaminen tai syytteeseenpano, jos näistä rikoksista voi asianomaisessa jäsenvaltiossa seurata vapaudenmenetyksen käsittävä rangaistus tai turvaamistoimenpide, jonka enimmäisaika on vähintään kolme vuotta, siten kuin ne on määritelty kyseisen jäsenvaltion oikeudessa. Tällainen kansallisen lainsäädännön mukaisen vapaudenmenetyksen käsittävän rangaistuksen tai turvaamistoimenpiteen vähimmäisaika auttaa osaltaan varmistamaan, että rikoksen olisi oltava riittävän vakava, jotta sillä voidaan tarvittaessa perustella reaaliaikaisten biometristen etätunnistusjärjestelmien käyttö. Lisäksi neuvoston puitepäätöksessä 2002/584/YOS luetelluista 32 rikoksesta jotkin ovat käytännössä todennäköisesti merkityksellisempiä kuin toiset, koska reaaliaikaiseen biometriseen etätunnistukseen turvautuminen on oletettavasti hyvin vaihtelevassa määrin välttämätöntä ja oikeasuhteista, kun eri lueteltujen rikosten tekijöitä tai niistä epäiltyjä pyritään käytännössä havaitsemaan, paikantamaan, tunnistamaan tai panemaan syytteeseen ja kun otetaan huomioon todennäköiset erot vahingon tai mahdollisten kielteisten seurausten vakavuudessa, todennäköisyydessä ja laajuudessa. (20)Sen varmistamiseksi, että näitä järjestelmiä käytetään vastuullisella ja oikeasuhteisella tavalla, on myös tärkeää vahvistaa, että kussakin näistä kolmesta tyhjentävästi luetellusta ja suppeasti määritellystä tilanteesta olisi otettava huomioon tietyt tekijät, erityisesti pyynnön perusteena olevan tilanteen luonne ja käytön seuraukset kaikkien asianomaisten henkilöiden oikeuksille ja vapauksille sekä käyttöä koskevat suojatoimet ja ehdot. Lisäksi reaaliaikaisten biometristen etätunnistusjärjestelmien käytölle julkisissa tiloissa lainvalvontatarkoituksessa olisi asetettava asianmukaiset aika- ja tilarajat ottaen erityisesti huomioon uhkia, uhreja tai rikoksentekijää koskevat todisteet tai tiedossa olevat seikat. Henkilöitä koskevan viitetietokannan olisi oltava kuhunkin käyttötapaukseen sopiva kussakin edellä mainitussa kolmessa tapauksessa. (21)Jokaisen reaaliaikaisen biometrisen etätunnistusjärjestelmän käytön julkisissa tiloissa lainvalvontatarkoituksessa olisi edellytettävä jäsenvaltion oikeusviranomaisen tai riippumattoman hallintoviranomaisen nimenomaista ja erityistä lupaa. Tällainen lupa olisi periaatteessa saatava ennen käyttöä, lukuun ottamatta asianmukaisesti perusteltuja kiireellisiä tapauksia eli tilanteita, joissa kyseisten järjestelmien käyttötarve on sellainen, että luvan saamisen ennen käytön aloittamista on tosiasiallisesti ja objektiivisesti mahdotonta. Tällaisissa kiireellisissä tilanteissa käyttö olisi rajoitettava siihen, mikä on ehdottoman välttämätöntä, ja siihen olisi sovellettava asianmukaisia suojatoimia ja ehtoja, jotka määritellään kansallisessa lainsäädännössä ja jotka lainvalvontaviranomainen itse määrittää kunkin yksittäisen kiireellisen käyttötapauksen yhteydessä. Lisäksi lainvalvontaviranomaisen olisi tällaisissa tilanteissa pyrittävä saamaan lupa mahdollisimman pian ja esitettävä samalla syyt siihen, miksi lupaa ei ole voitu pyytää aikaisemmin. (22)Osana tässä asetuksessa vahvistettuja kattavia puitteita on myös aiheellista säätää, että tällaisen tämän asetuksen mukaisen käytön olisi oltava mahdollista jäsenvaltion alueella vain jos ja siltä osin kuin kyseinen jäsenvaltio on kansallisen lainsäädäntönsä yksityiskohtaisissa säännöissä nimenomaisesti päättänyt säätää mahdollisuudesta sallia tällainen käyttö. Näin ollen jäsenvaltiot voivat tämän asetuksen nojalla olla säätämättä tällaisesta mahdollisuudesta lainkaan tai säätää tällaisesta mahdollisuudesta vain joidenkin tässä asetuksessa yksilöityjen tavoitteiden osalta, joilla sallittu käyttö voidaan perustella. (23)Tekoälyjärjestelmien käyttö luonnollisten henkilöiden reaaliaikaiseen biometriseen etätunnistukseen julkisissa tiloissa lainvalvontatarkoituksessa edellyttää välttämättä biometristen tietojen käsittelyä. Tämän asetuksen sääntöjä, joissa kielletään tietyin poikkeuksin tällainen käyttö ja jotka perustuvat SEUT-sopimuksen 16 artiklaan, olisi sovellettava erityissäännöksinä (lex specialis) suhteessa direktiivin (EU) 2016/680 10 artiklaan sisältyviin biometristen tietojen käsittelyä koskeviin sääntöihin, eli niillä säännellään kattavasti tällaista käyttöä ja siihen liittyvien biometristen tietojen käsittelyä. Sen vuoksi tällaisen käytön ja käsittelyn olisi oltava mahdollista ainoastaan siinä määrin kuin se on yhteensopivaa tässä asetuksessa vahvistetun kehyksen kanssa, eikä toimivaltaisten viranomaisten pitäisi kyseisen kehyksen ulkopuolella lainvalvontatarkoituksessa toimiessaan voida käyttää tällaisia järjestelmiä ja käsitellä niiden yhteydessä tällaisia tietoja direktiivin (EU) 2016/680 10 artiklassa luetelluin perustein. Tässä yhteydessä tämän asetuksen tarkoituksena ei ole muodostaa oikeusperustaa direktiivin (EU) 2016/680 8 artiklan mukaiselle henkilötietojen käsittelylle. Reaaliaikaisten biometristen etätunnistusjärjestelmien käyttöä julkisissa tiloissa muihin tarkoituksiin kuin lainvalvontaan, myös toimivaltaisten viranomaisten toimesta, ei kuitenkaan pitäisi sisällyttää tässä asetuksessa vahvistettuun erityiskehykseen, joka koskee tällaista käyttöä lainvalvontatarkoituksessa. Tällaisen muussa kuin lainvalvontatarkoituksessa tapahtuvan käytön ei sen vuoksi pitäisi edellyttää tämän asetuksen mukaista lupaa eikä sen täytäntöönpanemiseksi annettujen kansallisen lainsäädännön yksityiskohtaisten sääntöjen soveltamista. (24)Kaikessa biometristen tietojen ja muiden henkilötietojen käsittelyssä, joka liittyy tekoälyjärjestelmien käyttöön biometriseen tunnistamiseen muussa yhteydessä kuin tässä asetuksessa säännellyssä reaaliaikaisten biometristen etätunnistusjärjestelmien käytössä julkisissa tiloissa lainvalvontatarkoituksessa, myös silloin, kun toimivaltaiset viranomaiset käyttävät kyseisiä järjestelmiä julkisissa tiloissa muihin tarkoituksiin kuin lainvalvontaan, olisi edelleen noudatettava kaikkia asetuksen (EU) 2016/679 9 artiklan 1 kohdasta, asetuksen (EU) 2018/1725 10 artiklan 1 kohdasta ja direktiivin (EU) 2016/680 10 artiklasta johtuvia vaatimuksia. (25)Euroopan unionista tehtyyn sopimukseen ja Euroopan unionin toiminnasta tehtyyn sopimukseen liitetyn, Yhdistyneen kuningaskunnan ja Irlannin asemasta vapauden, turvallisuuden ja oikeuden alueen osalta tehdyn pöytäkirjan N:o 21 6 a artiklan mukaisesti Irlantia eivät sido tämän asetuksen 5 artiklan 1 kohdan d alakohdassa ja 2 ja 3 kohdassa vahvistetut säännöt, jotka on hyväksytty SEUT-sopimuksen 16 artiklan perusteella ja jotka koskevat jäsenvaltioiden suorittamaa henkilötietojen käsittelyä näiden toteuttaessa SEUT-sopimuksen kolmannen osan V osaston 4 tai 5 luvun soveltamisalaan kuuluvaa toimintaa, siinä tapauksessa, että Irlantia eivät sido rikosasioissa tehtävän oikeudellisen yhteistyön tai poliisiyhteistyön muotoa koskevat säännöt, jotka edellyttävät SEUT-sopimuksen 16 artiklan perusteella vahvistettujen säännösten noudattamista. (26)Euroopan unionista tehtyyn sopimukseen ja Euroopan unionin toiminnasta tehtyyn sopimukseen liitetyn, Tanskan asemasta tehdyn pöytäkirjan N:o 22 2 ja 2 a artiklan mukaisesti tämän asetuksen 5 artiklan 1 kohdan d alakohdassa ja 2 ja 3 kohdassa vahvistetut säännöt, jotka on hyväksytty SEUT-sopimuksen 16 artiklan perusteella ja jotka koskevat jäsenvaltioiden suorittamaa henkilötietojen käsittelyä näiden toteuttaessa SEUT-sopimuksen kolmannen osan V osaston 4 tai 5 luvun soveltamisalaan kuuluvaa toimintaa, eivät sido Tanskaa eikä niitä sovelleta Tanskaan. (27)Suuririskisiä tekoälyjärjestelmiä olisi saatettava unionin markkinoille tai otettava käyttöön vain, jos ne täyttävät tietyt pakolliset vaatimukset. Näillä vaatimuksilla olisi varmistettava, että suuririskiset tekoälyjärjestelmät, jotka ovat saatavilla unionissa tai joiden tuloksia muutoin käytetään unionissa, eivät aiheuta kohtuuttomia riskejä unionin tärkeille julkisille eduille, sellaisina kuin ne on tunnustettu ja suojattu unionin lainsäädännössä. Suuririskisiksi määritellyt tekoälyjärjestelmät olisi rajattava järjestelmiin, joilla on merkittävä haitallinen vaikutus ihmisten terveyteen, turvallisuuteen ja perusoikeuksiin unionissa, ja tällaisella rajauksella minimoidaan mahdolliset kansainvälisen kaupan rajoitukset, jos sellaisia on. (28)Tekoälyjärjestelmät voivat vaikuttaa haitallisesti ihmisten terveyteen ja turvallisuuteen erityisesti silloin, kun tällaiset järjestelmät toimivat tuotteiden komponentteina. Unionin yhdenmukaistamislainsäädännön tavoitteena on helpottaa tuotteiden vapaata liikkuvuutta sisämarkkinoilla ja varmistaa, että markkinoille pääsee ainoastaan turvallisia ja muuten vaatimustenmukaisia tuotteita, ja näiden tavoitteiden mukaisesti on tärkeää, että turvallisuusriskejä, joita tuotteesta kokonaisuudessaan voi aiheutua sen digitaalisten komponenttien, kuten tekoälyjärjestelmien, vuoksi, ehkäistään ja vähennetään asianmukaisesti. Esimerkiksi yhä autonomisempien robottien olisi voitava toimia ja suorittaa tehtävänsä turvallisesti monimutkaisissa ympäristöissä, olipa kyse sitten valmistuksesta tai henkilökohtaisesta avusta ja huolenpidosta. Samoin terveydenhuoltoalalla, jossa panokset ovat elämän ja terveyden kannalta erityisen suuret, yhä kehittyneempien diagnostiikkajärjestelmien ja ihmisten päätöksiä tukevien järjestelmien olisi oltava luotettavia ja tarkkoja. Tekoälyjärjestelmästä perusoikeuskirjassa suojatuille perusoikeuksille aiheutuvan haitallisen vaikutuksen laajuus on erityisen merkityksellinen, kun tekoälyjärjestelmää luokitellaan suuririskiseksi. Näitä oikeuksia ovat muun muassa oikeus ihmisarvoon, yksityis- ja perhe-elämän kunnioittaminen, henkilötietojen suoja, sananvapaus ja tiedonvälityksen vapaus, kokoontumis- ja yhdistymisvapaus, syrjimättömyys, kuluttajansuoja, työntekijöiden oikeudet, vammaisten oikeudet, oikeus tehokkaisiin oikeussuojakeinoihin ja puolueettomaan tuomioistuimeen, oikeus puolustukseen ja syyttömyysolettama sekä oikeus hyvään hallintoon. Näiden oikeuksien lisäksi on tärkeää korostaa, että lapsilla on erityisiä oikeuksia, jotka on vahvistettu EU:n perusoikeuskirjan 24 artiklassa ja Yhdistyneiden kansakuntien lapsen oikeuksien yleissopimuksessa (jota on täydennetty digitaalisen ympäristön osalta lapsen oikeuksien yleissopimuksen yleisessä huomautuksessa nro 25) ja joissa molemmissa edellytetään lasten haavoittuvuuden huomioon ottamista ja lasten hyvinvoinnin kannalta välttämättömän suojelun ja huolenpidon tarjoamista. Perusoikeuskirjaan kirjattu ja unionin politiikoissa täytäntöönpantu perusoikeus korkeaan ympäristönsuojelun tasoon olisi myös otettava huomioon arvioitaessa tekoälyjärjestelmästä mahdollisesti aiheutuvan haitan vakavuutta, myös suhteessa ihmisten terveyteen ja turvallisuuteen. (29)Sellaisten suuririskisten tekoälyjärjestelmien osalta, jotka ovat tuotteiden tai järjestelmien turvakomponentteja tai ovat itse tuotteita tai järjestelmiä, jotka kuuluvat Euroopan parlamentin ja neuvoston asetuksen (EY) N:o 300/2008, Euroopan parlamentin ja neuvoston asetuksen (EU) N:o 167/2013, Euroopan parlamentin ja neuvoston asetuksen (EU) N:o 168/2013, Euroopan parlamentin ja neuvoston direktiivin 2014/90/EU, Euroopan parlamentin ja neuvoston direktiivin (EU) 2016/797, Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/858, Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/1139 ja Euroopan parlamentin ja neuvoston asetuksen (EU) 2019/2144 soveltamisalaan, on asianmukaista muuttaa mainittuja säädöksiä sen varmistamiseksi, että kun komissio hyväksyy tulevaisuudessa mahdollisia asiaa koskevia delegoituja säädöksiä tai täytäntöönpanosäädöksiä mainittujen säädösten perusteella, se ottaa huomioon tässä asetuksessa vahvistetut suuririskisiä tekoälyjärjestelmiä koskevat pakolliset vaatimukset kunkin alan teknisten ja sääntelyllisten ominaispiirteiden perusteella ja puuttumatta mainituilla säädöksillä perustettuihin olemassa oleviin hallinnointi-, vaatimustenmukaisuuden arviointi- ja valvontamekanismeihin ja -viranomaisiin. (30)Tekoälyjärjestelmät, jotka ovat tietyn unionin yhdenmukaistamislainsäädännön soveltamisalaan kuuluvien tuotteiden turvakomponentteja tai ovat itse tuotteita, on aiheellista luokitella suuririskisiksi tämän asetuksen mukaisesti, jos kyseiselle tuotteelle tehdään vaatimustenmukaisuuden arviointimenettely kolmatta osapuolta edustavassa vaatimustenmukaisuuden arviointilaitoksessa mainitun asiaa koskevan unionin yhdenmukaistamislainsäädännön mukaisesti. Tällaisia tuotteita ovat erityisesti koneet, lelut, hissit, räjähdysvaarallisissa tiloissa käytettäviksi tarkoitetut laitteet ja suojajärjestelmät, radiolaitteet, painelaitteet, huviveneet, köysiratalaitteistot, kaasumaisia polttoaineita polttavat laitteet sekä lääkinnälliset laitteet ja in vitro ‑diagnostiikkaan tarkoitetut lääkinnälliset laitteet.

(31)Tekoälyjärjestelmän luokittelun suuririskiseksi tämän asetuksen mukaisesti ei välttämättä pitäisi tarkoittaa sitä, että tuotetta, jonka turvakomponentti on tekoälyjärjestelmä, tai itse tekoälyjärjestelmää tuotteena pidetään suuririskisenä tuotteeseen sovellettavassa asiaa koskevassa unionin yhdenmukaistamislainsäädännössä vahvistettujen perusteiden mukaisesti. Tämä koskee erityisesti Euroopan parlamentin ja neuvoston asetusta (EU) 2017/745 ja Euroopan parlamentin ja neuvoston asetusta (EU) 2017/746, joissa säädetään keskisuuren ja suuren riskin tuotteita koskevasta kolmannen osapuolen suorittamasta vaatimustenmukaisuuden arvioinnista. (32)Erilliset tekoälyjärjestelmät eli muut suuririskiset tekoälyjärjestelmät kuin ne, jotka ovat tuotteiden turvakomponentteja tai jotka ovat itse tuotteita, olisi luokiteltava suuririskisiksi, jos ne suunnitellun käyttötarkoituksensa perusteella aiheuttavat suuren riskin ihmisten terveydelle ja turvallisuudelle tai perusoikeuksille, kun otetaan huomioon sekä mahdollisen haitan vakavuus että sen esiintymistodennäköisyys, ja niitä käytetään asetuksessa erikseen määritellyillä aloilla. Näiden järjestelmien yksilöinti perustuu samoihin menetelmiin ja kriteereihin, joita sovelletaan myös suuririskisten tekoälyjärjestelmien luetteloon tulevaisuudessa tehtäviin muutoksiin. (33)Luonnollisten henkilöiden biometriseen etätunnistukseen tarkoitettujen tekoälyjärjestelmien tekniset epätarkkuudet voivat johtaa vinoutuneisiin tuloksiin ja aiheuttaa syrjiviä vaikutuksia. Tämä on erityisen tärkeää, kun kyse on iästä, etnisestä alkuperästä, sukupuolesta tai vammasta. Sen vuoksi reaaliaikaiset ja jälkikäteiset biometriset etätunnistusjärjestelmät olisi luokiteltava suuririskisiksi. Kun otetaan huomioon niiden aiheuttamat riskit, molempiin biometrisiin etätunnistusjärjestelmiin olisi sovellettava lokitusvalmiuksia ja ihmisen suorittamaa valvontaa koskevia erityisvaatimuksia. (34)Kriittisen infrastruktuurin hallinnan ja toiminnan osalta on aiheellista luokitella suuririskisiksi tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi turvakomponentteina tieliikenteen sekä vesi-, kaasu-, lämmitys- ja sähköhuollon hallinnassa ja toiminnassa, koska niiden viat tai toimintahäiriöt voivat vaarantaa ihmisten hengen ja terveyden suuressa mittakaavassa ja aiheuttaa tuntuvia häiriöitä yhteiskunnallisen ja taloudellisen toiminnan tavanomaisessa harjoittamisessa. (35)Tekoälyjärjestelmiä, joita käytetään yleissivistävässä tai ammatillisessa koulutuksessa, erityisesti määritettäessä pääsyä oppilaitoksiin tai osoitettaessa henkilöitä niihin tai arvioitaessa henkilöitä kokeissa osana heidän koulutustaan tai sen edellytyksenä, olisi pidettävä suuririskisinä, koska ne voivat määrittää henkilön elämän koulutuksellisen ja ammatillisen suunnan ja siten vaikuttaa heidän kykyynsä turvata toimeentulonsa. Kun tällaiset järjestelmät suunnitellaan ja niitä käytetään epäasianmukaisesti, ne voivat loukata oikeutta koulutukseen ja oikeutta olla joutumatta syrjityksi ja ne voivat jatkaa historiallisia syrjinnän muotoja. (36)Tekoälyjärjestelmät, joita käytetään työllistämisessä, henkilöstöhallinnossa ja itsenäisen ammatinharjoittamisen mahdollistamisessa, erityisesti henkilöiden rekrytointiin ja valintaan, uralla etenemistä ja työsuhteen päättämistä koskevien päätösten tekemiseen sekä tehtävien jakamiseen työhön liittyvissä sopimussuhteissa oleville henkilöille ja heidän seurantaansa tai arviointiinsa, olisi myös luokiteltava suuririskisiksi, koska kyseiset järjestelmät voivat vaikuttaa merkittävästi näiden henkilöiden tuleviin uranäkymiin ja toimeentuloon. Näiden työhön liittyvien sopimussuhteiden olisi koskettava myös työntekijöitä ja henkilöitä, jotka tarjoavat palveluja alustojen kautta, kuten komission vuoden 2021 työohjelmassa esitetään. Tällaisia henkilöitä ei periaatteessa pitäisi katsoa tässä asetuksessa tarkoitetuiksi käyttäjiksi. Tällaiset järjestelmät voivat koko rekrytointiprosessin ajan sekä työhön liittyvissä sopimussuhteissa olevien henkilöiden arvioinnin, uralla etenemisen tai työsuhteen jatkamisen yhteydessä pitää yllä historiallisia syrjinnän muotoja, jotka kohdistuvat esimerkiksi naisiin, tiettyihin ikäryhmiin, vammaisiin henkilöihin tai henkilöihin, joilla on tietty rodullinen tai etninen alkuperä tai seksuaalinen suuntautuminen. Tekoälyjärjestelmät, joita käytetään näiden henkilöiden suorituskyvyn ja käyttäytymisen seurantaan, voivat vaikuttaa myös heidän tietosuojaa ja yksityisyyden suojaa koskeviin oikeuksiinsa. (37)Toinen osa-alue, jolla tekoälyjärjestelmien käyttöön on kiinnitettävä erityistä huomiota, on sellaisten olennaisten yksityisten ja julkisten palvelujen ja etujen saatavuus ja käyttö, joita ihmiset tarvitsevat voidakseen osallistua täysipainoisesti yhteiskuntaan tai parantaakseen elintasoaan. Etenkin tekoälyjärjestelmät, joita käytetään arvioitaessa luonnollisten henkilöiden luottopisteytystä tai luottokelpoisuutta, olisi luokiteltava suuririskisiksi tekoälyjärjestelmiksi, koska ne määrittävät kyseisten henkilöiden mahdollisuuden saada taloudellisia resursseja tai olennaisia palveluja, kuten asumis-, sähkö- ja televiestintäpalveluja. Tähän tarkoitukseen käytetyt tekoälyjärjestelmät voivat johtaa henkilöiden tai henkilöryhmien syrjintään ja pitää yllä historiallisia syrjinnän muotoja, jotka perustuvat esimerkiksi rotuun tai etniseen alkuperään, vammaisuuteen, ikään tai sukupuoliseen suuntautumiseen, tai luoda uusia syrjiviä vaikutuksia. Kun otetaan huomioon vaikutusten erittäin rajallinen laajuus ja markkinoilla saatavilla olevat vaihtoehdot, on aiheellista vapauttaa vaatimuksista tekoälyjärjestelmien käyttö luottokelpoisuuden arvioinnissa ja luottopisteytyksessä, kun pienet tarjoajat ottavat järjestelmiä käyttöön omaan käyttöönsä. Luonnolliset henkilöt, jotka hakevat tai saavat viranomaisilta julkisen avun etuuksia ja palveluja, ovat yleensä riippuvaisia näistä etuuksista ja palveluista ja haavoittuvassa asemassa vastuussa oleviin viranomaisiin nähden. Jos tekoälyjärjestelmiä käytetään sen määrittämiseen, olisiko viranomaisten evättävä tällaiset etuudet ja palvelut tai rajoitettava niitä, peruutettava ne tai perittävä ne takaisin, niillä voi olla merkittävä vaikutus henkilöiden toimeentuloon ja ne voivat loukata heidän perusoikeuksiaan, kuten oikeutta sosiaaliseen suojeluun, syrjimättömyyteen, ihmisarvoon tai tehokkaisiin oikeussuojakeinoihin. Tällaiset järjestelmät olisi sen vuoksi luokiteltava suuririskisiksi. Tämä asetus ei kuitenkaan saisi haitata innovatiivisten lähestymistapojen kehittämistä ja käyttöä julkishallinnossa, sillä se hyötyisi vaatimustenmukaisten ja turvallisten tekoälyjärjestelmien laajemmasta käytöstä edellyttäen, että kyseisiin järjestelmiin ei liity suurta oikeushenkilöihin ja luonnollisiin henkilöihin kohdistuvaa riskiä. Myös tekoälyjärjestelmät, joita käytetään pelastus- ja ensihoitopalvelujen lähettämisessä tai tärkeysjärjestyksen määrittämisessä, olisi luokiteltava suuririskisiksi, koska ne tekevät päätöksiä tilanteissa, jotka ovat erittäin kriittisiä ihmisten hengen ja terveyden ja heidän omaisuutensa kannalta. (38)Lainvalvontaviranomaisten toimille, joihin liittyy tiettyä tekoälyjärjestelmien käyttöä, on ominaista huomattava vallan epätasapaino, ja ne voivat johtaa luonnollisen henkilön valvontaan, pidättämiseen tai vapaudenmenetykseen sekä muihin perusoikeuskirjassa taattuihin perusoikeuksiin kohdistuviin haitallisiin vaikutuksiin. Erityisesti jos tekoälyjärjestelmää ei ole koulutettu laadukkaalla datalla, se ei täytä riittäviä vaatimuksia tarkkuutensa tai luotettavuutensa suhteen tai sitä ei ole suunniteltu ja testattu asianmukaisesti ennen markkinoille saattamista tai muuta käyttöönottoa, se voi valikoida henkilöitä syrjivästi tai muulla tavoin väärin tai epäoikeudenmukaisesti. Lisäksi merkittävien menettelyllisten perusoikeuksien, joita ovat muun muassa oikeus tehokkaisiin oikeussuojakeinoihin ja puolueettomaan tuomioistuimeen sekä oikeus puolustukseen ja syyttömyysolettama, käyttö voisi vaikeutua erityisesti silloin, kun tällaiset tekoälyjärjestelmät eivät ole riittävän läpinäkyviä, selitettävissä olevia ja dokumentoituja. Sen vuoksi on aiheellista luokitella suuririskisiksi joukko tekoälyjärjestelmiä, jotka on tarkoitettu käytettäviksi lainvalvonnan yhteydessä, kun tarkkuus, luotettavuus ja läpinäkyvyys ovat erityisen tärkeitä haitallisten vaikutusten välttämiseksi, kansalaisten luottamuksen säilyttämiseksi sekä vastuuvelvollisuuden ja tehokkaiden oikeussuojakeinojen varmistamiseksi. Kun otetaan huomioon kyseessä olevien toimintojen luonne ja niihin liittyvät riskit, näihin suuririskisiin tekoälyjärjestelmiin olisi katsottava kuuluvan erityisesti tekoälyjärjestelmät, joita lainvalvontaviranomaisten on tarkoitus käyttää yksilöllisiin riskiarviointeihin, valheenpaljastukseen ja vastaaviin välineisiin tai luonnollisen henkilön emotionaalisen tilan havaitsemiseen, ”syväväärennösten” havaitsemiseen, todistusaineiston luotettavuuden arviointiin rikosoikeudellisissa menettelyissä, todellisen tai mahdollisen rikoksen esiintymisen tai toistumisen ennustamiseen luonnollisten henkilöiden profiloinnin tai luonnollisten henkilöiden tai ryhmien persoonallisuuspiirteiden ja ominaispiirteiden tai aiemman rikollisen käyttäytymisen arvioinnin perusteella, rikosten paljastamisen, tutkimisen tai rikoksiin liittyvien syytetoimien yhteydessä tapahtuvaan profilointiin tai luonnollisia henkilöitä koskevaan rikosanalyysiin. Tekoälyjärjestelmiä, jotka on erityisesti tarkoitettu käytettäviksi vero- ja tulliviranomaisten hallinnollisissa menettelyissä, ei pitäisi pitää suuririskisinä tekoälyjärjestelminä, joita lainvalvontaviranomaiset käyttävät rikosten ennalta estämiseen, tutkimiseen, paljastamiseen tai rikoksiin liittyviin syytetoimiin. (39)Muuttoliikkeen hallinnassa, turvapaikka-asioissa ja rajavalvonnassa käytettävät tekoälyjärjestelmät vaikuttavat ihmisiin, jotka ovat usein erityisen haavoittuvassa asemassa ja riippuvaisia toimivaltaisten viranomaisten toimien tuloksista. Näissä yhteyksissä käytettävien tekoälyjärjestelmien tarkkuus, syrjimätön luonne ja läpinäkyvyys on sen vuoksi erityisen tärkeää, jotta voidaan taata asianomaisten henkilöiden perusoikeuksien kunnioittaminen, erityisesti heidän oikeutensa vapaaseen liikkuvuuteen, syrjimättömyyteen, yksityiselämän ja henkilötietojen suojaan, kansainväliseen suojeluun ja hyvään hallintoon. Sen vuoksi on aiheellista luokitella suuririskisiksi tekoälyjärjestelmät, joita muuttoliikkeen hallinnassa, turvapaikka-asioissa ja rajavalvonnassa vastaavien toimivaltaisten viranomaisten on tarkoitus käyttää valheenpaljastimina ja vastaavina välineinä tai luonnollisen henkilön emotionaalisen tilan havaitsemiseen; jäsenvaltion alueelle saapuvien tai viisumia tai turvapaikkaa hakevien luonnollisten henkilöiden aiheuttamien tiettyjen riskien arvioimiseen; luonnollisten henkilöiden asiaa koskevien asiakirjojen aitouden tarkistamiseen; sekä toimivaltaisten viranomaisten avust