·Läpinäkyvyys

·Monimuotoisuus, syrjimättömyys ja oikeudenmukaisuus

·Yhteiskunnallinen ja ekologinen hyvinvointi

·Vastuuvelvollisuus.

Ohjeisiin sisältyy myös arviointiluettelo, jota yritykset voivat soveltaa käytännössä. Noin 350 organisaatiota testasi arviointiluetteloa vuoden 2019 jälkipuoliskolla ja antoi siitä palautetta. Korkean tason ryhmä tarkistaa parhaillaan ohjeitaan tämän palautteen pohjalta ja saattaa tämän työn päätöksen kesäkuuhun 2020 mennessä. Palauteprosessin keskeinen tulos on se, että vaikka monet vaatimukset on jo otettu huomioon nykyisissä oikeus- tai sääntelyjärjestelmissä, läpinäkyvyyttä, jäljitettävyyttä ja ihmisen suorittamaa valvontaa koskevia vaatimuksia ei ole nimenomaisesti käsitelty voimassa olevassa lainsäädännössä monilla talouden aloilla.

Näiden korkean tason asiantuntijaryhmän ei-sitovien ohjeiden lisäksi ja puheenjohtajan poliittisten suuntaviivojen mukaisesti selkeä eurooppalainen sääntelykehys lisäisi kuluttajien ja yritysten luottamusta tekoälyyn ja nopeuttaisi siten teknologian käyttöönottoa. Tällaisen sääntelykehyksen olisi oltava johdonmukainen muiden sellaisten toimien kanssa, joilla edistetään Euroopan innovointikapasiteettia ja kilpailukykyä tällä alalla. Sen on myös varmistettava sosiaalisesti, taloudellisesti ja ympäristön kannalta optimaaliset tulokset sekä EU:n lainsäädännön, periaatteiden ja arvojen noudattaminen. Tämä on erityisen tärkeää aloilla, joilla kansalaisten oikeuksiin voi kohdistua eniten välittömiä vaikutuksia, esimerkiksi kun tekoälysovelluksia käytetään lainvalvonnassa ja oikeuslaitoksessa.

Tekoälyn kehittäjiin ja käyttöönottajiin sovelletaan jo nyt perusoikeuksista (esim. tietosuoja, yksityisyys, syrjimättömyys), kuluttajansuojasta sekä tuoteturvallisuudesta ja tuotevastuusta annettua EU:n lainsäädäntöä. Kuluttajat odottavat samantasoista turvallisuutta ja oikeuksiensa kunnioittamista riippumatta siitä, käytetäänkö tuotteessa tai järjestelmässä tekoälyä vai ei. Eräät tekoälyn erityispiirteet (esim. läpinäkymättömyys) voivat kuitenkin vaikeuttaa tämän lainsäädännön soveltamista ja täytäntöönpanoa. Tästä syystä on tarpeen tutkia, voidaanko voimassa olevalla lainsäädännöllä puuttua tekoälyn riskeihin ja voidaanko se panna tehokkaasti täytäntöön vai tarvitaanko lainsäädännön mukauttamista tai uutta lainsäädäntöä.

Koska tekoäly kehittyy nopeasti, sääntelykehyksessä on jätettävä tilaa tulevan kehityksen huomioon ottamiselle. Mahdolliset muutokset olisi rajoitettava selkeästi yksilöityihin ongelmiin, joihin on olemassa toteuttamiskelpoisia ratkaisuja.

Jäsenvaltiot huomauttavat, että yhteistä eurooppalaista kehystä ei tällä hetkellä ole. Saksan dataetiikkakomissio on kehottanut ottamaan käyttöön riskiperusteisen viisitasoisen sääntelyjärjestelmän, jossa vaarattomimpia tekoälyjärjestelmiä ei säänneltäisi lainkaan ja vaarallisimmat järjestelmät kiellettäisiin kokonaan. Tanskassa on juuri otettu käyttöön dataeettisen merkin prototyyppi. Malta taas on ottanut käyttöön tekoälyä koskevan vapaaehtoisen sertifiointijärjestelmän. Jos EU ei määrittele EU:n laajuista lähestymistapaa, on olemassa todellinen vaara, että sisämarkkinat pirstaloituvat, mikä vaarantaisi luottamusta, oikeusvarmuutta ja markkinoille pääsyä koskevat tavoitteet.

Luotettavaa tekoälyä koskeva vankka eurooppalainen sääntelykehys suojelee kaikkia Euroopan kansalaisia ja auttaa luomaan kitkattomat sisämarkkinat tekoälyn edelleen kehittämistä ja käyttöönottoa varten sekä vahvistamaan tekoälyn teollista perustaa Euroopassa.

A.Ongelman määrittely

Tekoäly voi tuottaa paljon hyötyjä muun muassa tekemällä tuotteista ja prosesseista turvallisempia, mutta se voi myös aiheuttaa vahinkoa. Nämä vahingot voivat olla sekä aineellisia (ihmisten turvallisuus ja terveys, myös ihmishenkien menetys, omaisuusvahingot) että aineettomia (yksityisyyden menetys, sananvapauden rajoitukset, ihmisarvo, syrjintä esimerkiksi työnsaannissa) ja ne voivat liittyä monenlaisiin riskeihin. Sääntelykehyksessä olisi keskityttävä siihen, kuinka erilaisia mahdollisten vahinkojen riskejä pienennetään, erityisesti merkittävimpiä riskejä.

Tekoälyn käyttöön liittyvät suurimmat riskit koskevat perusoikeuksien suojelemiseksi tarkoitettujen sääntöjen soveltamista (mukaan lukien henkilötietojen ja yksityisyyden suoja ja syrjimättömyys) sekä turvallisuuteen ja vastuuseen liittyviä kysymyksiä.

Perusoikeuksiin kohdistuvat riskit, mukaan lukien henkilötietojen ja yksityisyyden suoja ja syrjimättömyys

Tekoälyn käyttö voi vaikuttaa arvoihin, joille EU perustuu, ja johtaa perusoikeuksien rikkomiseen. Tämä koskee oikeutta sananvapauteen, kokoontumisvapauteen, ihmisarvoon ja syrjimättömyyteen sukupuolen, rodun tai etnisen alkuperän, uskonnon tai vakaumuksen, vammaisuuden, iän tai seksuaalisen suuntautumisen perusteella, siten kuin näitä oikeuksia sovelletaan yksittäisillä aloilla, oikeutta henkilötietojen ja yksityisyyteen suojaan ja oikeutta tehokkaisiin oikeussuojakeinoihin ja oikeudenmukaiseen oikeudenkäyntiin sekä kuluttajansuojaa. Nämä riskit voivat johtua virheistä tekoälyjärjestelmien yleisessä suunnittelussa (myös ihmisen suorittaman valvonnan osalta) tai datan käytöstä ilman mahdollisten vinoutumien korjaamista (esim. järjestelmä on koulutettu käyttämällä ainoastaan tai pääasiassa miehiltä saatuja tietoja, jolloin tulokset eivät ole optimaalisia suhteessa naisiin).

Tekoäly voi suorittaa monia toimintoja, jotka aikaisemmin onnistuivat vain ihmisiltä. Tämän seurauksena kansalaiset ja oikeushenkilöt joutuvat yhä useammin tekoälyjärjestelmien tekemien tai niiden avustuksella tehtyjen toimien ja päätösten kohteeksi. Niitä voi joskus olla vaikea ymmärtää ja tarvittaessa kyseenalaistaa tehokkaasti. Tekoäly lisää myös mahdollisuuksia seurata ja analysoida ihmisten päivittäisiä tottumuksia. On esimerkiksi olemassa riski, että valtion viranomaiset tai muut tahot käyttävät tekoälyä laajamittaiseen valvontaan tai työnantajat käyttävät sitä työntekijöidensä käyttäytymisen seurantaan EU:n tietosuoja- ja muiden sääntöjen vastaisesti. Tekoälyn avulla voidaan analysoida suuria määriä tietoja ja havaita niiden välisiä yhteyksiä, jolloin sitä voidaan käyttää myös henkilöitä koskevien tietojen jäljittämiseen ja anonymisoinnin poistamiseen. Tämä aiheuttaa uusia henkilötietojen suojaan liittyviä riskejä jopa sellaisten tietoaineistojen osalta, jotka eivät itsessään sisällä henkilötietoja. Myös verkossa toimivat välittäjät käyttävät tekoälyä priorisoidakseen käyttäjille suunnattua tietoa ja toteuttaakseen sisällön moderointia. Tietojen käsittely, tapa, jolla sovellukset on suunniteltu, ja ihmisen väliintulon mahdollisuudet voivat vaikuttaa sananvapautta, henkilötietojen suojaa ja yksityisyyttä koskeviin oikeuksiin ja poliittisiin vapauksiin.

Tietyt tekoälyalgoritmit, joita käytetään rikosten uusimisen ennakoimiseen, näyttävät syrjivän sukupuolen ja rodun perusteella, sillä uusimisen todennäköisyys on erilainen naisilla miehiin verrattuna ja oman maan kansalaisilla ulkomaalaisiin verrattuna. Lähde: Tolan S., Miron M., Gomez E. and Castillo C. "Why Machine Learning May Lead to Unfairness: Evidence from Risk Assessment for Juvenile Justice in Catalonia", Best Paper Award, International Conference on AI and Law, 2019

Tietyt kasvojen analysointiin käytettävät tekoälyohjelmat näyttävät syrjivän sukupuolen ja rodun perusteella, sillä ne tuottavat vain vähän virheitä vaaleaihoisten miesten sukupuolen määrittelyssä, mutta paljon virheitä, kun määriteltävänä on tummaihoisten naisten sukupuoli. Lähde: Joy Buolamwini, Timnit Gebru; Proceedings of the 1st Conference on Fairness, Accountability and Transparency, PMLR 81:77-91, 2018.