EUROPESE COMMISSIE Brussel, 18.8.2022 COM(2022) 414 final Aanbeveling voor een BESLUIT VAN DE RAAD houdende machtiging tot het openen van onderhandelingen namens de Europese Unie over een verdrag van de Raad van Europa inzake artificiële intelligentie, mensenrechten, democratie en de rechtsstaat



TOELICHTING ACHTERGROND VAN HET VOORSTEL Artificiële intelligentie (AI) biedt grote kansen voor de samenleving, het milieu en de economie. Tegelijkertijd kan bepaalde AI, afhankelijk van de omstandigheden waarin deze wordt toegepast en gebruikt, materiële of immateriële schade veroorzaken en risico’s opleveren voor de algemene belangen en de grondrechten en fundamentele vrijheden van personen. Een samenhangend rechtskader voor AI, dat dergelijke algemene belangen en grondrechten beschermt en tegelijkertijd vertrouwen en innovatie bevordert, is daarom van cruciaal belang om deze uitdagingen aan te pakken en het potentieel van AI te benutten. In april 2021 heeft de Europese Commissie een alomvattende verordening betreffende AI voorgesteld die de regels voor AI-systemen in alle 27 EU-lidstaten zou harmoniseren. Het Europees Parlement en de Raad onderhandelen momenteel volgens de gewone wetgevingsprocedure over het voorstel. Diverse internationale organisaties, waaronder de Raad van Europa, hebben ook hun inspanningen op dit gebied opgevoerd en erkennen dat AI een grensoverschrijdend karakter heeft en dat internationale samenwerking noodzakelijk is om de gemeenschappelijke uitdagingen aan te pakken. Op weg naar een verdrag van de Raad van Europa inzake artificiële intelligentie, mensenrechten, democratie en de rechtsstaat Op 11 september 2019 besloot het Comité van Ministers van de Raad van Europa tot de oprichting van een ad-hoccomité inzake artificiële intelligentie (CAHAI). Het CAHAI had tot taak onderzoek te doen naar de haalbaarheid en de mogelijke elementen van een rechtskader voor de ontwikkeling, het ontwerp en de toepassing van AI, rekening houdend met de normen van de Raad van Europa op het gebied van mensenrechten, democratie en de rechtsstaat en met de bestaande internationale rechtsinstrumenten. De werkzaamheden van het CAHAI waren gebaseerd op een haalbaarheidsstudie en op een raadpleging van meerdere belanghebbenden in het voorjaar van 2021. Op 3 december 2021 heeft het CAHAI zijn taak afgerond en een slotdocument overgelegd waarin de mogelijke elementen van een dergelijk rechtskader worden genoemd. Volgens het document is een rechtsinstrument dat fundamentele beginselen inzake de bescherming van de menselijke waardigheid en de eerbiediging van de mensenrechten, de democratie en de rechtsstaat bevat, noodzakelijk voor de ontwikkeling, het ontwerp en de toepassing van AI-systemen. Het instrument moet voorzien in de invoering van een methode voor de risico-indeling van AI-systemen, met de categorieën “laag risico”, “hoog risico” en “onaanvaardbaar risico”. AI-toepassingen die een “onaanvaardbaar” risico opleveren, moeten worden verboden. Om onterechte vertekening te voorkomen, moet een bepaling over de eerbiediging van gelijke behandeling en non-discriminatie worden opgenomen. Wettelijke waarborgen moeten ten minste het recht op een doeltreffende voorziening in rechte voor een nationale instantie, het recht op informatie over de toepassing van een AI-systeem in een besluitvormingsproces, het recht om te kiezen voor interactie met een mens en het recht om te weten dat er interactie is met een AI-systeem garanderen. Specifieke kwesties zoals de manipulatie van inhoud (“deepfakes”) moeten echter in andere sectorale instrumenten worden behandeld. Er moet worden nagedacht over een eis om nalevingsmechanismen en nationale toezichthoudende autoriteiten op te zetten. Een niet-bindend effectbeoordelingsmodel zou het rechtsinstrument kunnen aanvullen. Voor de periode 2022-2024 werd een opvolger van het CAHAI — het Comité inzake artificiële intelligentie (CAI) — opgericht. Volgens zijn taakomschrijving heeft het CAI de opdracht een internationaal onderhandelingsproces op te zetten om een rechtskader voor de ontwikkeling, het ontwerp en de toepassing van AI tot stand te brengen. Het kader moet worden gebaseerd op de normen van de Raad van Europa op het gebied van mensenrechten, democratie en de rechtsstaat, en moet bevorderlijk zijn voor innovatie. Het kader moet uiterlijk op 15 november 2023 zijn opgesteld en tegen de tijd dat het CAI in 2024 wordt opgeheven, zijn voltooid. Om zijn opdracht te vervullen, moet het CAI zijn werkzaamheden coördineren met andere intergouvernementele comités en entiteiten van de Raad van Europa, zijn werkzaamheden baseren op overtuigend feitenmateriaal en op een inclusief raadplegingsproces, onder meer met internationale en supranationale partners, en rekening houden met het slotdocument van het CAHAI. Op 4-6 april 2022 heeft het CAI zijn oprichtingsvergadering gehouden, waarbij een voorzitter, vicevoorzitter en bureau werden gekozen. Op 30 juni 2022 heeft het Comité van Ministers van de Raad van Europa het CAI opgedragen snel een juridisch bindend instrument van transversale aard (“verdrag”/“kaderverdrag”) inzake artificiële intelligentie uit te werken op basis van de normen van de Raad van Europa op het gebied van mensenrechten, democratie en de rechtsstaat, overeenkomstig zijn taakomschrijving, dat gericht is op algemene gemeenschappelijke beginselen, bevorderlijk is voor innovatie en openstaat voor deelname door derde landen, rekening houdend met andere desbetreffende bestaande of in ontwikkeling zijnde internationale rechtskaders. Vervolgens heeft de voorzitter van het CAI een “nulontwerp” van het toekomstige (kader)verdrag verspreid, waarin fundamentele beginselen en regels zijn vastgelegd om ervoor te zorgen dat het ontwerp, de ontwikkeling en de toepassing van AI-systemen consistent zijn met de eerbiediging van de mensenrechten, de werking van de democratie en de naleving van de beginselen van de rechtsstaat. Het toekomstige (kader)verdrag moet worden uitgevoerd in de respectieve rechtsgebieden van de partijen. Het toepassingsgebied omvat zowel openbare als particuliere aanbieders en gebruikers van AI-systemen, maar AI-systemen die verband houden met nationale defensie zijn ervan uitgesloten. In het nulontwerp wordt voorgesteld de volgende bepalingen op te nemen: ·doel en toepassingsgebied van het (kader)verdrag; ·definities van een AI-systeem, levenscyclus, aanbieder, gebruiker en “AI-betrokkene”; ·bepaalde fundamentele beginselen, waaronder procedurele waarborgen en rechten voor AI-betrokkenen die van toepassing moeten zijn op alle AI-systemen, ongeacht het risiconiveau ervan; ·aanvullende maatregelen voor de overheidssector en voor AI-systemen die een “onaanvaardbaar” of “significant” risiconiveau opleveren, te bepalen op basis van een risico- en effectbeoordelingsmethode (die later in een bijlage bij het verdrag moet worden opgenomen); ·follow-up- en samenwerkingsmechanisme tussen de partijen; ·slotbepalingen, met inbegrip van de mogelijkheid voor de EU-lidstaten om het EU-recht in hun onderlinge betrekkingen toe te passen op aangelegenheden die onder het verdrag vallen, en de mogelijkheid voor de Unie om tot het verdrag toe te treden. Het nulontwerp zal worden besproken tijdens de plenaire vergaderingen van het CAI in Straatsburg, die gepland zijn voor 21-23 september en 23-25 november 2022. Daarnaast zijn er vier vergaderingen gepland in 2023 en één in 2024.

•Motivering en doel van het voorstel Deze aanbeveling voor een besluit wordt aan de Raad voorgelegd op grond van artikel 218 van het Verdrag betreffende de werking van de Europese Unie (VWEU). In het besluit zou machtiging worden verleend om namens de Unie onderhandelingen over een toekomstig verdrag van de Raad van Europa inzake AI, mensenrechten, democratie en de rechtsstaat op te starten, onderhandelingsrichtsnoeren vast te stellen en de Commissie als onderhandelaar van de Unie aan te wijzen. In artikel 3, lid 2, VWEU wordt bepaald dat de Unie exclusief bevoegd is “een internationale overeenkomst te sluiten […] wanneer die sluiting gemeenschappelijke regels kan aantasten of de strekking daarvan kan wijzigen”. Een internationale overeenkomst kan gevolgen hebben voor gemeenschappelijke regels of de strekking daarvan wijzigen als het toepassingsgebied van de overeenkomst overlapt met het recht van de Unie of daar grotendeels onder valt. In dit verband voorziet het EU-recht in een uitgebreide reeks gemeenschappelijke regels voor de eengemaakte markt voor producten en diensten waarvoor AI-systemen kunnen worden gebruikt. Voorts kunnen de ontwikkeling en toepassing van bepaalde AI-systemen afbreuk doen aan de uitoefening van de grondrechten die zijn verankerd in het Handvest van de grondrechten van de EU en het afgeleide EU-recht, waaronder bijvoorbeeld het recht op lichamelijke en geestelijke integriteit, bescherming van persoonsgegevens, privacy, non-discriminatie, vrijheid van meningsuiting en informatie, het vermoeden van onschuld, een eerlijk proces en een doeltreffende voorziening in rechte. Een dergelijke ontwikkeling en toepassing kunnen ook gevolgen hebben voor de waarden waarop de Unie is gebaseerd, zoals de menselijke waardigheid, de democratie en de rechtsstaat. Om te beoordelen of een gebied grotendeels onder het EU-recht valt, moet overigens niet alleen rekening worden gehouden met de huidige stand van het EU-recht op het betrokken gebied, maar ook met de verwachte ontwikkeling ervan wanneer die ten tijde van deze beoordeling voorspelbaar is. Het gebied waarop het toekomstige verdrag van de Raad van Europa inzake AI betrekking heeft, is van rechtstreeks belang voor dergelijke verwachte ontwikkelingen, rekening houdend met het voorstel van de Commissie voor een AI-verordening (“de wet op de AI”), dat in april 2021 is gepresenteerd en waarover momenteel wordt onderhandeld door het Europees Parlement en de Raad. De onderhandelingen over het toekomstige (kader)verdrag van de Raad van Europa inzake AI hebben wel degelijk betrekking op aangelegenheden die onder de bevoegdheid van de Unie vallen en er is een zeer aanzienlijke overlapping tussen het nulontwerpverdrag en de voorgestelde wet op de AI wat betreft het toepassingsgebied, de aard en de inhoud ervan. Daarom is het belangrijk dat er zodanig namens de Unie wordt onderhandeld dat de consistentie en uniformiteit van de EU-regels voor AI en de goede werking van het daarbij ingestelde systeem niet worden ondermijnd en dat het toekomstige verdrag van de Raad van Europa volledig in overeenstemming is met het bestaande en toekomstige EU-recht op dit gebied. •Verenigbaarheid met bestaande bepalingen op het beleidsterrein Op 21 april 2021 heeft de Commissie een voorstel ingediend voor een verordening tot vaststelling van geharmoniseerde regels voor het in de handel brengen, in gebruik stellen en gebruiken van AI-systemen in de Unie. Het voorstel heeft als tweeledig doel een eengemaakte markt tot stand te brengen om de ontwikkeling en toepassing van AI te bevorderen, en tegelijkertijd de risico’s voor de veiligheid, de gezondheid en de grondrechten aan te pakken. Het is een horizontaal voorstel dat van toepassing is op aanbieders en gebruikers van AI-systemen, ongeacht of zij openbare of particuliere entiteiten zijn. AI-systemen die uitsluitend voor militaire doeleinden worden ontwikkeld of gebruikt, zijn van het toepassingsgebied uitgesloten. Het voorstel bevat evenredige eisen en verplichtingen die beperkt zijn tot het minimum dat vereist is om de risico’s voor de gezondheid, de veiligheid en de grondrechten aan te pakken, zonder de technologische ontwikkeling van AI te belemmeren of de financiële en administratieve lasten voor exploitanten onevenredig te verhogen. Daartoe wordt in het voorstel een risicogebaseerde aanpak gehanteerd waarbij AI-systemen in verschillende categorieën worden ingedeeld, te weten “onaanvaardbaar”, “hoog”, “transparantiegerelateerd” en “laag” of “minimaal” risico. ·Er wordt een verbod voorgesteld op AI-systemen die als onverenigbaar met de EU-waarden en als een duidelijke bedreiging voor de veiligheid, de bestaansmiddelen of de rechten van mensen worden beschouwd en een “onaanvaardbaar risico” vormen (bv. sociale scoring door overheidsinstanties, schadelijke manipulatieve AI-praktijken, biometrische identificatie op afstand in real time voor rechtshandhavingsdoeleinden in openbaar toegankelijke ruimten, afgezien van enkele uitzonderingen). ·AI-systemen met een “hoog risico” die aanzienlijke risico’s voor de gezondheid, de veiligheid of de grondrechten met zich meebrengen, moeten aan conformiteitscontroles worden onderworpen en aan bepaalde verplichte eisen voldoen (bv. met betrekking tot risicobeheer, gegevenskwaliteit, documentatie, transparantie, menselijk toezicht, nauwkeurigheid, cyberbeveiliging) voordat die systemen in de Unie in de handel mogen worden gebracht of mogen worden gebruikt. Er worden ook evenredige en doeltreffende monitoring- en toezichtsverplichtingen opgelegd aan aanbieders en gebruikers, waarbij hun taken en verantwoordelijkheden in de hele waardeketen duidelijk worden omschreven zonder afbreuk te doen aan andere verplichtingen uit hoofde van sectorale wetgeving. ·Wat betreft AI-systemen die een “transparantiegerelateerd risico” met zich meebrengen, moeten mensen worden geïnformeerd wanneer zij interageren met of worden blootgesteld aan dergelijke systemen (bv. chatbots, emotieherkenning en systemen voor biometrische categorisering, deepfakes). ·Alle andere systemen met een “minimaal” of “laag risico” voor de gezondheid, de veiligheid en de grondrechten zijn zonder verdere beperkingen toegestaan, maar aanbieders kunnen ervoor kiezen vrijwillige gedragscodes na te leven. Het voorstel wordt volgens de gewone wetgevingsprocedure door de Raad en het Europees Parlement besproken. De onderhandelingen over het toekomstige verdrag van de Raad van Europa inzake AI, mensenrechten, democratie en de rechtsstaat moeten ervoor zorgen dat de overeengekomen bepalingen verenigbaar zijn met het EU-recht en de verplichtingen van de lidstaten uit hoofde daarvan, rekening houdend met de toekomstige ontwikkeling ervan en de voorgestelde wet op de AI. Ook moet het verdrag van de Raad van Europa een ontkoppelingsclausule bevatten die de EU-lidstaten die als partij toetreden tot het verdrag in staat stelt hun onderlinge betrekkingen op basis van het EU-recht te regelen. De voorgestelde wet op de AI moet, in alle stadia van de wetgevingsprocedure en onderhandelingen door de medewetgevers en uiteindelijk in zijn definitieve (vastgestelde) vorm, onder de EU-lidstaten worden gevrijwaard. De Europese Unie moet ook partij bij het verdrag kunnen worden.

•Verenigbaarheid met andere beleidsterreinen van de Unie De aanbeveling is relevant voor andere lopende of geplande initiatieven van de Commissie die tot doel hebben de problemen in verband met de ontwikkeling en het gebruik van AI-systemen aan te pakken, zoals benoemd in het witboek over AI. Deze andere initiatieven omvatten de herziening van de sectorale productwetgeving (bv. de machinerichtlijn, de richtlijn inzake algemene productveiligheid) en toekomstige initiatieven die betrekking hebben op aansprakelijkheidskwesties in verband met nieuwe technologieën, waaronder AI-systemen. De aanbeveling is ook in overeenstemming met de algemene digitale strategie van de Commissie die gericht is op de bevordering van technologie die werkt voor de mensen, een van de drie belangrijkste doelstellingen van de in de mededeling “De digitale toekomst van Europa vormgeven” geformuleerde beleidsvisie. Het doel ervan is dat AI wordt ontwikkeld op een manier die de mensenrechten eerbiedigt en het vertrouwen van de mensen wint, zodat Europa klaar is voor het digitale tijdperk en we van de komende tien jaar het digitale decennium kunnen maken. Met de voorgestelde aanbeveling wordt ook de rol van de Unie bij de vormgeving van internationale normen en standaarden en bij de bevordering van betrouwbare AI die strookt met de waarden en belangen van de Unie, aanzienlijk versterkt. De voorgestelde aanbeveling biedt de Unie een krachtige basis om de digitale diplomatie van de EU te versterken en om met andere Europese en niet-Europese landen te onderhandelen over de eerste juridisch bindende internationale overeenkomst inzake AI, gebaseerd op gedeelde waarden en beginselen. 2.RECHTSGRONDSLAG, SUBSIDIARITEIT EN EVENREDIGHEID •Rechtsgrondslag In artikel 218, lid 3, van het Verdrag betreffende de werking van de Europese Unie (VWEU) is bepaald dat de Commissie aanbevelingen doet aan de Raad, die een besluit houdende machtiging tot het openen van de onderhandelingen vaststelt en de onderhandelaar van de Unie aanwijst. Krachtens artikel 218, lid 4, VWEU kan de Raad de onderhandelaar richtsnoeren geven. •Subsidiariteit (bij niet-exclusieve bevoegdheid) De voorgestelde wet op de AI bevat geharmoniseerde regels voor AI-systemen in de Unie, waardoor de lidstaten geen verdere beperkingen kunnen opleggen, tenzij dit door de wet uitdrukkelijk wordt toegestaan. Krachtens artikel 3, lid 2, VWEU is de Unie exclusief bevoegd internationale overeenkomsten te sluiten wanneer die gemeenschappelijke regels kunnen aantasten of de strekking daarvan kunnen wijzigen. Hieruit volgt dat de Unie voor alle aangelegenheden in verband met het ontwerp, de ontwikkeling en de toepassing van AI-systemen, die grotendeels onder het EU-recht vallen of moeten vallen na de verwachte toekomstige ontwikkeling van EU-wetgeving en met name de voorgestelde wet op de AI, de bevoegdheid moet hebben om over het toekomstige verdrag van de Raad van Europa inzake AI te onderhandelen. •Evenredigheid Dit initiatief gaat niet verder dan wat nodig is om de desbetreffende beleidsdoelstellingen te verwezenlijken. •Keuze van het instrument De keuze van het instrument is een aanbeveling voor een besluit van de Raad, zoals bepaald in artikel 218, leden 3 en 4, VWEU. 3.EVALUATIE, RAADPLEGING VAN BELANGHEBBENDEN EN EFFECTBEOORDELING •Evaluatie van bestaande wetgeving en controle van de resultaatgerichtheid ervan N.v.t. •Raadpleging van belanghebbenden N.v.t. •Bijeenbrengen en gebruik van expertise De Commissie heeft bij de voorbereiding van de onderhandelingen rekening gehouden met de standpunten die de deskundigen van de lidstaten naar voren hebben gebracht tijdens de besprekingen in de betrokken werkgroep van de Raad.

•Effectbeoordeling N.v.t. •Resultaatgerichtheid en vereenvoudiging N.v.t. •Grondrechten De voorgestelde wet op de AI en het ter tafel liggende verdrag van de Raad van Europa hebben tot doel de risico’s tot een minimum te beperken en te zorgen voor een hoog niveau van bescherming van de grondrechten die in bepaalde omstandigheden door de ontwikkeling en het gebruik van AI kunnen worden aangetast. Tegelijk wordt erkend dat AI het potentieel heeft om de uitoefening van die rechten in de digitale omgeving te beschermen en te vergemakkelijken en om het maatschappelijk en ecologisch welzijn en de technologische vooruitgang te verbeteren. 4.GEVOLGEN VOOR DE BEGROTING Het voorstel heeft naar verwachting geen gevolgen voor de begroting van de Unie. 5.OVERIGE ELEMENTEN •Uitvoeringsplanning en regelingen betreffende controle, evaluatie en rapportage Het onderhandelingsproces zal naar verwachting tot 2024 duren, waarna het verdrag kan worden ondertekend en gesloten. Aanbeveling voor een BESLUIT VAN DE RAAD houdende machtiging tot het openen van onderhandelingen namens de Europese Unie over een verdrag van de Raad van Europa inzake artificiële intelligentie, mensenrechten, democratie en de rechtsstaat DE RAAD VAN DE EUROPESE UNIE, Gezien het Verdrag betreffende de werking van de Europese Unie, en met name artikel 218, leden 3 en 4, Gezien de aanbeveling van de Europese Commissie, Overwegende hetgeen volgt: (1)In 2021 heeft het Comité van Ministers van de Raad van Europa voor de periode 2022-2024 een Comité inzake artificiële intelligentie (CAI) opgericht dat de opdracht heeft een internationaal onderhandelingsproces op te zetten om een rechtskader voor de ontwikkeling, het ontwerp en de toepassing van artificiële intelligentie (AI) tot stand te brengen dat gebaseerd is op de normen van de Raad van Europa op het gebied van mensenrechten, democratie en de rechtsstaat, en dat bevorderlijk is voor innovatie. (2)Op 30 juni 2022 heeft het Comité van Ministers van de Raad van Europa het Comité inzake artificiële intelligentie opgedragen snel een juridisch bindend instrument van transversale aard (“verdrag”/“kaderverdrag”) inzake artificiële intelligentie uit te werken op basis van de normen van de Raad van Europa op het gebied van mensenrechten, democratie en de rechtsstaat, overeenkomstig zijn taakomschrijving, dat gericht is op algemene gemeenschappelijke beginselen, bevorderlijk is voor innovatie en openstaat voor deelname door derde landen, rekening houdend met andere desbetreffende bestaande of in ontwikkeling zijnde internationale rechtskaders.