BEGRUNDELSE

BAGGRUND FOR FORSLAGET

Kunstig intelligens (AI) rummer store muligheder for samfundet, miljøet og økonomien. Samtidig kan visse former for kunstig intelligens afhængig af omstændighederne for den specifikke anvendelse og brug deraf forårsage væsentlig økonomisk og ikke-økonomisk skade og udgøre en risiko for samfundets interesser og fysiske personers grundlæggende rettigheder og frihedsrettigheder. En sammenhængende retlig ramme for kunstig intelligens, beskyttelse af sådanne samfundsinteresser og grundlæggende rettigheder, samtidig med at man fremmer tillid og innovation, er derfor afgørende for at tackle disse udfordringer og gøre brug af AI's potentiale.

I april 2021 stillede Europa-Kommissionen forslag om en omfattende forordning om kunstig intelligens med harmoniserede regler for AI-systemer i alle 27 EU-medlemsstater. Forslaget er i øjeblikket genstand for Europa-Parlamentets og Rådets forhandlinger efter den almindelige lovgivningsprocedure. Forskellige internationale organisationer, herunder Europarådet, har også øget deres indsats på dette område, idet de anerkender den grænseoverskridende karakter af kunstig intelligens og behovet for internationalt samarbejde for at tackle de fælles udfordringer.

Hen imod en Europarådskonvention om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet

Den 11. september 2019 besluttede Europarådets Ministerkomité at nedsætte et ad hoc-udvalg for kunstig intelligens (CAHAI). Dets formål var at undersøge muligheden for og give sit bud på en retlig ramme for udvikling, udformning og anvendelse af kunstig intelligens, som er baseret på Europarådets standarder for menneskerettigheder, demokrati og retsstatsprincippet samt eksisterende relevante internationale juridiske instrumenter. I regi af CAHAI blev der foretaget en gennemførlighedsundersøgelse og en høring med deltagelse af en lang række aktører i foråret 2021. Den 3. december 2021 afsluttede CAHAI sit arbejde og fremlagde et slutdokument, der identificerede de mulige elementer i en sådan retlig ramme. Ifølge dokumentet er et juridisk instrument, der indeholder grundlæggende principper om beskyttelse af den menneskelige værdighed og respekt for menneskerettigheder, demokrati og retsstatsprincippet, nødvendig for udvikling, udformning og anvendelse af AI-systemer. Rammen bør fastsætte en metode til risikoklassificering af AI-systemer med kategorierne "lav risiko", "høj risiko" og "uacceptabel risiko". AI-applikationer, der udgør "uacceptable" risici, bør forbydes. For at undgå uberettigede skævheder bør der indføjes en bestemmelse om respekt for ligebehandling og ikkeforskelsbehandling. Retsgarantier bør i det mindste sikre adgangen til effektive retsmidler for en national myndighed, retten til at blive informeret om anvendelsen af et AI-system i beslutningsprocessen, retten til at vælge interaktion med et menneske og retten til at få at vide, at man interagerer med et AI-system. Specifikke spørgsmål som manipulation af indhold ("deepfakes") bør imidlertid være omfattet af andre sektorspecifikke rammer. Det bør overvejes at indføre overholdelsesmekanismer og oprette nationale tilsynsmyndigheder. En ikkebindende konsekvensanalysemodel kunne supplere det juridiske instrument.

Efterfølgeren til ad hoc-udvalget for kunstig intelligens (CAHAI) – udvalget for kunstig intelligens (CAI) – blev nedsat for perioden 2022-2024. I henhold til sit kommissorium er udvalget for kunstig intelligens pålagt at indføre en international forhandlingsproces til udvikling af en retlig ramme for udvikling, udformning og anvendelse af AI. Rammen bør være baseret på Europarådets standarder for menneskerettigheder, demokrati og retsstatsprincippet og bør fremme innovation. Rammen skal være udarbejdet senest den 15. november 2023 og færdiggjort på det tidspunkt, hvor udvalget for kunstig intelligens nedlægges i 2024. I forbindelse med gennemførelse af sit mandat bør udvalget for kunstig intelligens koordinere sit arbejde med andre mellemstatslige udvalg og Europarådets enheder, basere sit arbejde på et omfattende dokumentationsgrundlag og en inklusiv høringsproces, herunder med internationale og overnationale partnere, og tage hensyn til slutdokumentet fra CAHAI.

Udvalget for kunstig intelligens afholdt sit konstituerende møde den 4.-6. april 2022, hvor der blev valgt en formand, en næstformand og et præsidium. Den 30. juni 2022 pålagde Europarådets Ministerkomité udvalget for kunstig intelligens "hurtigst muligt at udarbejde et juridisk bindende instrument af tværgående karakter ("konvention"/ "rammekonvention") om kunstig intelligens baseret på Europarådets standarder for menneskerettigheder, demokrati og retsstatsprincippet, i overensstemmelse med dens kommissorium, med fokus på generelle fælles principper, der fremmer innovation, og som er åbne for tredjelandes deltagelse, idet der tages hensyn til andre eksisterende relevante internationale retlige rammer eller rammer under udvikling".

Efterfølgende udsendte formanden for udvalget for kunstig intelligens et "første udkast" til den fremtidige (ramme)konvention, som fastlægger de grundlæggende principper og regler, der skal sikre, at udformningen, udviklingen og anvendelsen af AI-systemer er i overensstemmelse med respekten for menneskerettighederne, et fungerende demokrati og overholdelsen af retsstatsprincippet. Den fremtidige (ramme)konvention skal gennemføres i parternes respektive jurisdiktion. Anvendelsesområdet omfatter både offentlige og private udbydere og brugere af AI-systemer, men omfatter ikke AI-systemer i forbindelse med nationalt forsvar. Det første udkast indeholder forslag om at indarbejde følgende bestemmelser:

·(ramme)konventionens formål og anvendelsesområde

·definitioner af AI-system, livscyklus, udbyder, bruger og "AI-registreret"

·visse grundlæggende principper, herunder retssikkerhedsgarantier og rettigheder for AI-registrerede, der gælder for alle AI-systemer, uanset deres risikoniveau

·yderligere foranstaltninger for den offentlige sektor og AI-systemer, som skaber en "uacceptabel" og "betydelig" risiko, der er identificeret ved hjælp af en risiko- og konsekvensanalysemetode (som vil blive fastlagt senere i et bilag til konventionen)

·en opfølgnings- og samarbejdsmekanisme mellem parterne

·afsluttende bestemmelser, herunder mulighed for, at EU-medlemsstaterne kan anvende EU-retten i deres gensidige forbindelser med hensyn til spørgsmål, der er omfattet af konventionen, og mulighed for, at Unionen kan tiltræde konventionen.

Det første udkast vil blive drøftet på CAI's plenarmøder i Strasbourg, som er planlagt til den 21.‑23. september og den 23.-25. november 2022. Der er også planlagt fire møder i 2023 og et møde i 2024.