1.INLEIDING – DE EUROPESE STRATEGIE VOOR KI

Kunstmatige intelligentie (KI) kan van de wereld een betere plaats maken, met een betere gezondheidszorg, een lager energieverbruik, veiliger auto's, en een efficiënter gebruik van water en natuurlijke hulpbronnen door landbouwers. KI kan worden ingezet om milieu- en klimaatveranderingen te voorspellen en om financiële risico's beter te beheren, en maakt een op onze behoeften afgestemde productie met minder afval mogelijk. Voorts kan KI fraude en virtuele dreigingen helpen opsporen en rechtshandhavingsinstanties in staat stellen om criminaliteit efficiënter te bestrijden.

KI kan de hele samenleving en de economie ten goede komen. Het is een strategische technologie die wereldwijd in snel tempo wordt ontwikkeld en gebruikt. Maar KI brengt ook nieuwe uitdagingen met zich mee voor de toekomst van werk, en doet juridische en ethische vragen rijzen.

Om deze uitdagingen het hoofd te bieden en de mogelijkheden van KI optimaal te benutten, heeft de Commissie in april 2018 een Europese strategie gepubliceerd. In de strategie wordt benadrukt dat de mens centraal moet staan bij de ontwikkeling van KI (mensgerichte KI). Er wordt een drieledige aanpak voorgesteld, die erin bestaat de technologische en industriële capaciteit van de EU te vergroten en het gebruik van KI op te voeren in de hele economie, voorbereidingen te treffen voor sociaal-economische veranderingen en te zorgen voor een passend ethisch en juridisch kader.

Ter verwezenlijking van de KI-strategie heeft de Commissie in december 2018 een gecoördineerd plan inzake KI voorgesteld, dat samen met de lidstaten is opgesteld om synergieën te ontwikkelen, data – de grondstof voor veel KI-toepassingen – te bundelen en gezamenlijke investeringen aan te moedigen. Het doel is om grensoverschrijdende samenwerking te bevorderen en alle actoren te mobiliseren om de publieke en private investeringen in de komende tien jaar te verhogen tot ten minste 20 miljard EUR per jaar. De Commissie heeft haar investeringen in KI in het kader van Horizon 2020 verdubbeld en is van plan om jaarlijks 1 miljard EUR uit Horizon Europa en het programma Digitaal Europa te investeren ter ondersteuning van met name gemeenschappelijke dataruimten voor gezondheid, vervoer en fabricage, en grote experimenteerfaciliteiten, zoals slimme ziekenhuizen en infrastructuur voor geautomatiseerde voertuigen en een strategische onderzoeksagenda.

Met het oog op de uitvoering van een dergelijke gemeenschappelijke strategische agenda voor onderzoek, innovatie en uitrol heeft de Commissie de dialoog met alle relevante belanghebbenden uit onderzoeksinstellingen, overheidsinstanties en het bedrijfsleven geïntensiveerd. Daarnaast wordt het nieuwe programma Digitaal Europa van cruciaal belang om KI in alle lidstaten beschikbaar te maken voor kleine en middelgrote ondernemingen via digitale innovatiehubs, versterkte test- en experimenteerfaciliteiten, dataruimten en opleidingsprogramma's.

Europa kan, voortbouwend op zijn reputatie inzake veilige en hoogwaardige producten, via een ethische benadering van KI het vertrouwen van de burger in de digitale ontwikkeling versterken en Europese KI-bedrijven een concurrentievoordeel bezorgen. Deze mededeling heeft als doel de aanzet te geven tot een uitgebreide proeffase met een zo breed mogelijke betrokkenheid van belanghebbenden om de praktische uitvoering van ethische richtsnoeren voor de ontwikkeling en het gebruik van KI te testen.

2.VERTROUWEN KWEKEN IN MENSGERICHTE KI

De Europese KI-strategie en het gecoördineerde plan maken duidelijk dat vertrouwen een noodzakelijke voorwaarde is voor een mensgerichte benadering van KI: KI is geen doel op zich, maar een instrument dat ten dienste staat van mensen, met als uiteindelijke doel het menselijke welzijn te vergroten. Om dit te bereiken moet de betrouwbaarheid van KI gewaarborgd zijn. De waarden waarop onze samenlevingen zijn gegrondvest, moeten ten volle worden geïntegreerd in de manier waarop KI zich ontwikkelt.

De waarden waarop de Unie berust, zijn eerbied voor de menselijke waardigheid, vrijheid, democratie, gelijkheid, de rechtsstaat en eerbiediging van de mensenrechten, waaronder de rechten van personen die tot minderheden behoren. Alle lidstaten hebben deze waarden gemeen in samenlevingen die worden gekenmerkt door pluralisme, non-discriminatie, verdraagzaamheid, rechtvaardigheid, solidariteit en gelijkheid. Daarnaast verenigt het EU-Handvest van de grondrechten alle persoonlijke, burgerlijke, politieke, economische en sociale rechten die mensen in de EU hebben, in één tekst.

De EU beschikt over een sterk regelgevingskader dat de wereldwijde norm voor mensgerichte KI zal bepalen. De algemene verordening gegevensbescherming garandeert een hoog niveau van bescherming van persoonsgegevens en vereist dat maatregelen worden genomen ter bescherming van gegevens door ontwerp en door standaardinstellingen. De verordening betreffende het vrije verkeer van niet-persoonsgebonden gegevens neemt belemmeringen voor het vrije verkeer van dergelijke gegevens weg en zorgt ervoor dat alle categorieën gegevens overal in Europa kunnen worden verwerkt. De onlangs aangenomen cyberbeveiligingsverordening zal het vertrouwen in de onlinewereld helpen versterken, wat ook het doel is van de voorgestelde e-privacyverordening.

Toch brengt KI nieuwe uitdagingen mee omdat zij machines in staat stelt om te "leren" en beslissingen te nemen en uit te voeren zonder menselijk ingrijpen. Binnen afzienbare tijd zal dit soort functionaliteit standaard worden toegepast in diverse goederen en diensten, van smartphones tot geautomatiseerde voertuigen, robots en onlinetoepassingen. De kans bestaat echter dat door algoritmes genomen beslissingen gebaseerd zijn op onvolledige en dus onbetrouwbare gegevens, dat ze gemanipuleerd worden door cyberaanvallers, of dat ze vertekend of gewoonweg verkeerd zijn. Het ondoordacht toepassen van de zich ontwikkelende technologie kan problematische gevolgen hebben en burgers terughoudend maken om de technologie te aanvaarden of te gebruiken.

In plaats daarvan moet KI-technologie worden ontwikkeld op een manier die de mens centraal stelt en daardoor vertrouwen inboezemt. Dit betekent dat KI-toepassingen niet alleen in overeenstemming moeten zijn met de wet maar ook met ethische beginselen, en dat onbedoelde schade bij het gebruik ervan moet worden voorkomen. In elk stadium van de ontwikkeling van KI moet diversiteit worden gewaarborgd op het gebied van geslacht, ras of etnische afkomst, godsdienst of overtuiging, handicap en leeftijd. KI-toepassingen moeten burgers empoweren en hun grondrechten eerbiedigen. Zij moeten de capaciteiten van mensen vergroten in plaats van ze te vervangen, en zij moeten ook toegankelijk zijn voor mensen met een handicap.

Er is dan ook behoefte aan ethische richtsnoeren die voortbouwen op het bestaande regelgevingskader en die moeten worden toegepast door ontwikkelaars, leveranciers en gebruikers van KI op de interne markt, zodat in alle lidstaten een gelijk speelveld op ethisch vlak tot stand komt. Daarom heeft de Commissie de door haar opgerichte deskundigengroep op hoog niveau inzake KI, die een breed scala aan belanghebbenden vertegenwoordigt, belast met de opstelling van ethische richtsnoeren voor KI en van een reeks aanbevelingen voor een breder KI-beleid. Tegelijkertijd werd een Europese KI-alliantie in het leven geroepen om, als een open multistakeholderplatform met meer dan 2 700 leden, bredere input te leveren voor de werkzaamheden van de deskundigengroep.

In december 2018 heeft de deskundigengroep op hoog niveau inzake KI een eerste ontwerp van de ethische richtsnoeren gepubliceerd. Na een raadpleging van belanghebbenden en vergaderingen met vertegenwoordigers van de lidstaten heeft de deskundigengroep KI de Commissie in maart 2019 een herzien document bezorgd. In de tot dusver ontvangen feedback hebben de belanghebbenden zich over het algemeen verheugd getoond over de praktische aard van de richtsnoeren en over de concrete richtlijnen die zij ontwikkelaars, leveranciers en gebruikers van KI geven om betrouwbaarheid te waarborgen.

2.1. Door de deskundigengroep op hoog niveau inzake KI opgestelde richtsnoeren voor betrouwbare KI

De richtsnoeren die door de deskundigengroep op hoog niveau inzake KI zijn opgesteld en waarop deze mededeling betrekking heeft, bouwen met name voort op de werkzaamheden van de Europese Groep ethiek van de exacte wetenschappen en de nieuwe technologieën en het Bureau voor de grondrechten.