Samenvatting van het advies van de Europese toezichthouder voor gegevensbescherming over de aanbeveling voor een besluit van de Raad houdende machtiging tot het openen van onderhandelingen namens de Europese Unie over een verdrag van de Raad van Europa inzake artificiële intelligentie, mensenrechten, democratie en de rechtsstaat

(2022/C 458/04)

(De volledige tekst van dit advies is in het Duits, Engels en Frans beschikbaar op de EDPS-website https://edps.europa.eu)

Op 18 augustus 2022 heeft de Europese Commissie een aanbeveling gedaan voor een besluit van de Raad houdende machtiging tot het openen van onderhandelingen namens de Europese Unie over een verdrag van de Raad van Europa inzake artificiële intelligentie (AI), mensenrechten, democratie en de rechtsstaat (“het verdrag”), overeenkomstig artikel 218 VWEU.

Gezien het “grensoverschrijdende” karakter van artificiële intelligentie is de EDPS ingenomen met de algemene doelstelling van de Raad van Europa om het eerste juridisch bindende nationale instrument inzake artificiële intelligentie uit te werken op basis van de normen van de Raad van Europa inzake mensenrechten, democratie en de rechtsstaat. De EDPS steunt dan ook het openen van onderhandelingen namens de Unie over het verdrag, en is ingenomen met de rol van de Unie bij het bevorderen van betrouwbare AI die in overeenstemming is met de waarden van de Unie.

De EDPS neemt nota van het feit dat het voorwerp van het verdrag in de EU zou worden geregeld door de voorgestelde wet op de AI, en erkent de doelstelling van de Commissie om ervoor te zorgen dat het verdrag verenigbaar is met die voorgestelde, rekening houdend met toekomstige ontwikkelingen in het wetgevingsproces. De EDPS is echter van mening dat het verdrag een belangrijke kans biedt om de voorgestelde wet op de AI aan te vullen door de bescherming van de grondrechten van alle personen die gevolgen ondervinden van het gebruik van AI-systemen te versterken, en pleit er daarom voor dat het verdrag duidelijke en krachtige waarborgen biedt voor deze personen.

In het licht van het bovenstaande doet de EDPS vier belangrijke aanbevelingen over de onderhandelingsrichtsnoeren:

— In de algemene doelstellingen voor de onderhandelingen over het verdrag moet meer aandacht worden besteed aan de waarborgen en rechten die moeten worden geboden aan personen en groepen personen die betrokken zijn bij IA-systemen, overeenkomstig de primaire aandachtspunten en doelstellingen van de Raad van Europa.

— In een specifiek richtsnoer moet een uitdrukkelijke verwijzing naar de overeenstemming van het verdrag met het bestaande EU-rechtskader inzake gegevensbescherming worden opgenomen.

— In overeenstemming met de risicogebaseerde aanpak moet in de onderhandelingsrichtsnoeren de doelstelling worden opgenomen om AI-systemen die onaanvaardbare risico’s opleveren te verbieden.

— Het verdrag moet in elke fase van de levenscyclus van AI-systemen gegevensbescherming door ontwerp en door standaardinstellingen bevorderen.

Daarnaast bevat het advies verdere aanbevelingen over de opname in het verdrag van procedurele minimumwaarborgen, alsook minimumvereisten inzake transparantie, verklaarbaarheid en controleerbaarheid, nalevings- en controlemechanismen, en aanbevelingen over grensoverschrijdende samenwerking tussen de door de partijen bij het verdrag aan te wijzen bevoegde autoriteiten voor het toezicht op de waarborgen en rechten die overeenkomstig het verdrag moeten worden geboden.

1. INLEIDING

1. Op 18 augustus 2022 heeft de Europese Commissie een aanbeveling gedaan voor een besluit van de Raad houdende machtiging tot het openen van onderhandelingen namens de Europese Unie over een verdrag van de Raad van Europa inzake artificiële intelligentie (AI), mensenrechten, democratie en de rechtsstaat ( 1 ) , overeenkomstig artikel 218 VWEU (“het verdrag”).

2. Doel van de aanbeveling is machtiging te verlenen om namens de Unie onderhandelingen over een toekomstig verdrag van de Raad van Europa inzake AI, mensenrechten, democratie en de rechtsstaat op te starten, onderhandelingsrichtsnoeren vast te stellen en de Commissie als onderhandelaar van de Unie aan te wijzen ( 2 )

3. In de toelichting ( 3 ) benadrukt de Commissie dat de onderhandelingen over het verdrag betrekking hebben op aangelegenheden die onder de exclusieve bevoegdheid van de Unie vallen, mede vanwege de zeer aanzienlijke overlapping tussen het “nulontwerpverdrag” dat door het Comité voor artificiële intelligentie (CAI) van de Raad van Europa is verspreid, enerzijds, en het voorstel van de Commissie voor een verordening betreffende artificiële intelligentie (“de voorgestelde wet op de AI”) ( 4 ) , anderzijds, wat betreft het toepassingsgebied en de inhoud ervan ( 5 )

4. In de toelichting ( 6 ) bij de aanbeveling wordt benadrukt dat in het “nulontwerp” wordt voorgesteld de volgende bepalingen op te nemen: — doel en toepassingsgebied van het (kader)verdrag; — definities van een AI-systeem, levenscyclus, aanbieder, gebruiker en “AI-betrokkene”; — bepaalde fundamentele beginselen, waaronder procedurele waarborgen en rechten voor AI-betrokkenen die van toepassing moeten zijn op alle AI-systemen, ongeacht het risiconiveau ervan; — aanvullende maatregelen voor de overheidssector en voor AI-systemen die een “onaanvaardbaar” of “significant” risiconiveau opleveren, te bepalen op basis van een risico- en effectbeoordelingsmethode (die later in een bijlage bij het verdrag moet worden opgenomen); — follow-up- en samenwerkingsmechanisme tussen de partijen; — slotbepalingen, met inbegrip van de mogelijkheid voor de EU-lidstaten om het EU-recht in hun onderlinge betrekkingen toe te passen op aangelegenheden die onder het verdrag vallen, en de mogelijkheid voor de Unie om tot het verdrag toe te treden.

5. In de overwegingen 6 en 7 van de aanbeveling wordt benadrukt dat de sluiting van het verdrag gevolgen kan hebben voor bestaande en voorzienbare regels van de Unie. Om de integriteit van het Unierecht te beschermen en te waarborgen dat de regels van het internationaal recht en het Unierecht consistent blijven, moet de Commissie gemachtigd worden om namens de Unie te onderhandelen over het verdrag.

6. Dit advies van de EDPS wordt uitgebracht naar aanleiding van een raadpleging door de Commissie van 18 augustus 2022, overeenkomstig artikel 42, lid 1, van de EUVG ( 7 ) . De EDPS is ingenomen met de verwijzing naar deze raadpleging in overweging 8 van de aanbeveling.

8. CONCLUSIES

49. In het licht van het voorgaande beveelt de EDPS aan om: (1) meer aandacht te besteden aan de doelstelling “een hoog niveau van bescherming van de mensenrechten en het behoud van de Europese waarden te waarborgen”, in overeenstemming met de aard en het mandaat van de Raad van Europa; (2) de woorden “met inbegrip van” na “het EU-recht inzake de eengemaakte markt en andere gebieden van het EU-recht” in de richtsnoeren 5 en 11 te schrappen, om de wisselwerking tussen algemene beginselen en grondrechten enerzijds en het afgeleide recht (het EU-recht inzake de eengemaakte en andere gebieden van het EU-recht) anderzijds beter weer te geven; (3) een specifiek richtsnoer toe te voegen waarin wordt herinnerd aan de noodzaak om het juiste evenwicht te vinden tussen het algemeen belang en de belangen van personen die betrokken zijn bij AI-systemen, om ervoor te zorgen dat het recht op privacy en het recht op bescherming van persoonsgegevens volledig worden geëerbiedigd, evenals andere grondrechten die op het spel staan, met name het recht op het vermoeden van onschuld, het recht op een onpartijdig gerecht, het recht op behoorlijk bestuur en het beginsel van non-discriminatie; (4) in een richtsnoer te specificeren dat het verdrag moet voorzien in bepaalde procedurele minimumwaarborgen en -rechten voor de personen die gevolgen ondervinden van het gebruik van AI-systemen; (5) in een richtsnoer te specificeren dat het verdrag moet voorzien in minimumvereisten inzake de transparantie, verklaarbaarheid en controleerbaarheid van AI-systemen; (6) in richtsnoer 14 de specificatie op te nemen dat ook de maatschappelijke risico’s/groepsrisico’s van AI-systemen moeten worden beoordeeld en beperkt; (7) in de onderhandelingsrichtsnoeren te specificeren dat bepaalde AI-systemen die onaanvaardbare risico’s opleveren, moeten worden verboden, en een indicatieve lijst van dergelijke AI-systemen te verstrekken; (8) een onderhandelingsrichtsnoer op te nemen op grond waarvan het verdrag in elke fase van de levenscyclus van AI-systemen gegevensbescherming door ontwerp en door standaardinstellingen moet bevorderen; (9) de inhoud van richtsnoer 17 zodanig nader uit te werken dat: — voor AI met een hoog risico wordt voorzien in de verplichting om vooraf een conformiteitsbeoordeling te laten uitvoeren door een derde partij, — wordt vastgesteld dat AI-systemen met een hoog risico bij elke belangrijke wijziging aan een nieuwe conformiteitsbeoordeling moeten worden onderworpen, — het voorwerp en de rechtsgevolgen van certificeringen worden gespecificeerd, — specifiek wordt aangegeven dat technische normen enerzijds een positief effect kunnen hebben op de harmonisatie van producten en diensten, en anderzijds vaak tot taak hebben technische specificaties te verstrekken van regels die reeds bij wet zijn vastgesteld; (10) een richtsnoer op te nemen op grond waarvan het verdrag moet bepalen dat de bevoegde toezichthoudende autoriteiten passende onderzoeks- en handhavingsbevoegdheden moeten krijgen; (11) een onderhandelingsrichtsnoer toe te voegen om ervoor te zorgen dat het verdrag grensoverschrijdende samenwerking tussen bevoegde autoriteiten vergemakkelijkt en aanmoedigt.

Brussel, 13 oktober 2022. Wojciech Rafał WIEWIÓROWSKI

(1) COM(2022) 414 final.

(2) COM(2022) 414 final, blz. 3.

(3) COM(2022) 414 final, blz. 5.

(4) Voorstel voor een verordening tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (wet op de artificiële intelligentie) en tot wijziging van bepaalde wetgevingshandelingen van de Unie (COM(2021) 206 final).

(5) Zie ook overweging 5 van de aanbeveling.

(6) COM(2022) 414 final, blz. 2 en 3.

(7) Verordening (EU) 2018/1725 van het Europees Parlement en de Raad van 23 oktober 2018 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens door de instellingen, organen en instanties van de Unie en betreffende het vrije verkeer van die gegevens, en tot intrekking van Verordening (EG) nr. 45/2001 en Besluit nr. 1247/2002/EG (PB L 295 van 21.11.2018, blz. 39)