EUROPA-KOMMISSIONEN Bruxelles, den 21.4.2021 COM(2021) 206 final 2021/0106(COD) Forslag til EUROPA-PARLAMENTETS OG RÅDETS FORORDNING OM HARMONISEREDE REGLER FOR KUNSTIG INTELLIGENS (RETSAKTEN OM KUNSTIG INTELLIGENS) OG OM ÆNDRING AF VISSE AF UNIONENS LOVGIVNINGSMÆSSIGE RETSAKTER {SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final}



BEGRUNDELSE 1.BAGGRUND FOR FORSLAGET 1.1.Forslagets begrundelse og formål Denne begrundelse ledsager forslaget til forordning om harmoniserede regler for kunstig intelligens (retsakten om kunstig intelligens). Kunstig intelligens (AI) er en vifte af teknologier i hurtig udvikling, som kan medføre brede økonomiske og samfundsmæssige fordele på tværs af hele spektret af industrier og sociale aktiviteter. Ved at forbedre prognoser, optimere drift og ressourceallokering og personalisere leveringen af tjenester kan anvendelsen af kunstig intelligens fremme sociale og miljømæssige fremskridt og give virksomhederne og den europæiske økonomi afgørende konkurrencemæssige fordele. Der er især behov for en sådan indsats inden for vigtige sektorer, herunder klimaændringer, miljø og sundhed, den offentlige sektor, finans, mobilitet, indre anliggender og landbrug. De samme elementer og teknikker, der skaber de socioøkonomiske fordele ved kunstig intelligens, kan imidlertid også medføre nye risici eller negative konsekvenser for enkeltpersoner eller samfundet. I lyset af den hurtige teknologiske udvikling og de mulige udfordringer er EU fast besluttet på at stræbe efter en afbalanceret tilgang. Det er i Unionens interesse at bevare EU's teknologiske førerposition og sikre, at europæerne kan drage fordel af nye teknologier, der udvikles og som fungerer i overensstemmelse med Unionens værdier, grundlæggende rettigheder og principper. Dette forslag lever op til det politiske tilsagn fra kommissionsformand Ursula von der Leyen, som i sine politiske retningslinjer for Kommissionen for 2019-2024 "En mere ambitiøs Union" bebudede, at Kommissionen ville fremsætte forslag til lovgivning om en koordineret europæisk tilgang til de menneskelige og etiske konsekvenser af kunstig intelligens. I forlængelse heraf offentliggjorde Kommissionen den 19. februar 2020 "Hvidbog om kunstig intelligens – en europæisk tilgang til ekspertise og tillid". Hvidbogen indeholder politiske valgmuligheder, der har til formål både at fremme anvendelsen af kunstig intelligens og at håndtere de risici, der er forbundet med visse anvendelser af denne teknologi. Sigtet med dette forslag er at gennemføre den anden målsætning om udvikling af et tillidsmiljø ved at foreslå en retlig ramme for pålidelig kunstig intelligens. Forslaget er baseret på EU's værdier og grundlæggende rettigheder og har til formål at give brugere og befolkningen i bred forstand tillid til at anvende AI-baserede løsninger, samtidig med at virksomhederne tilskyndes til at udvikle dem. Kunstig intelligens bør være et redskab, der tjener mennesker og udgør en positiv kraft i samfundet med det endelige mål at øge menneskers velfærd. Regler for kunstig intelligens, der vedrører EU-markedet eller på anden måde påvirker mennesker i Unionen, bør derfor være menneskecentrerede, således at folk kan have tillid til, at teknologien anvendes på en måde, der er sikker og i overensstemmelse med lovgivningen, herunder respekten for de grundlæggende rettigheder. Efter offentliggørelsen af hvidbogen iværksatte Kommissionen en bred interessenthøring, som blev mødt med stor interesse af en lang række interessenter, som i vid udstrækning støttede regulerende indgreb til imødegåelse af de udfordringer og bekymringer, som den stigende brug af kunstig intelligens giver anledning til. Med forslaget imødekommes også eksplicitte anmodninger fra Europa-Parlamentet og Det Europæiske Råd, som gentagne gange har opfordret til lovgivningsmæssige tiltag for at sikre et velfungerende indre marked for kunstig intelligens-systemer ("AI-systemer"), hvor både fordele og risici ved kunstig intelligens håndteres tilfredsstillende på EU-plan. Hermed støttes målet om, at Unionen skal være førende på verdensplan inden for udvikling af sikker, pålidelig og etisk kunstig intelligens som anført af Det Europæiske Råd, og der sikres beskyttelse af etiske principper, som Europa-Parlamentet specifikt har anmodet om. I 2017 opfordrede Det Europæiske Råd til "en erkendelse af, at det haster med at se nærmere på nye tendenser", herunder "spørgsmål som kunstig intelligens ..., samtidig med at der sikres et højt niveau af databeskyttelse, digitale rettigheder og etiske standarder." I sine konklusioner fra 2019 om den koordinerede plan for udviklingen og anvendelsen af kunstig intelligens produceret i Europa fremhævede Rådet endvidere betydningen af at sikre, at de europæiske borgeres rettigheder respekteres fuldt ud, og opfordrede til en revision af den relevante lovgivning for at gøre den egnet til formålet med de nye muligheder og udfordringer, der skyldes kunstig intelligens. Det Europæiske Råd har også opfordret til en klar definition af de AI-anvendelser, der bør betragtes som højrisiko-anvendelser. I de seneste konklusioner af 21. oktober 2020 opfordres der endvidere til at tackle visse AI-systemers uigennemsigtighed, kompleksitet, forudindtagethed, en vis grad af uforudsigelighed og delvis autonome adfærd for at sikre, at de er forenelige med de grundlæggende rettigheder og for at lette håndhævelsen af retsforskrifter. Europa-Parlamentet har også ydet en betydelig indsats i forbindelse med kunstig intelligens. I oktober 2020 vedtog det en række beslutninger vedrørende kunstig intelligens, herunder om etik , ansvar og ophavsret. I 2021 blev disse efterfulgt af resolutioner om brugen af kunstig intelligens i straffesager og inden for uddannelse, kultur og den audiovisuelle sektor. Europa-Parlamentets beslutning om en ramme for etiske aspekter af kunstig intelligens, robotteknologi og relaterede teknologier anbefaler specifikt Kommissionen at foreslå lovgivningsmæssige tiltag for at udnytte mulighederne og fordelene ved kunstig intelligens, men også for at sikre beskyttelse af etiske principper. Beslutningen indeholder en tekst til det lovgivningsmæssige forslag til en forordning om etiske principper for udvikling, udbredelse og anvendelse af kunstig intelligens, robotteknologi og relaterede teknologier. I overensstemmelse med det politiske tilsagn, som kommissionsformand Ursula von der Leyen gav i sine politiske retningslinjer for så vidt angår beslutninger vedtaget af Europa-Parlamentet i henhold til artikel 225 i TEUF, tager dette forslag hensyn til Europa-Parlamentets ovennævnte beslutning i fuld overensstemmelse med proportionalitetsprincippet, nærhedsprincippet og princippet om bedre lovgivning. På denne politiske baggrund fremlægger Kommissionen den foreslåede lovgivningsmæssige ramme for kunstig intelligens med følgende specifikke mål: ·at sørge for, at AI-systemer, der bringes i omsætning og anvendes på EU-markedet, er sikre og i overensstemmelse med eksisterende lovgivning om grundlæggende rettigheder og Unionens værdier ·at sikre retssikkerheden med henblik på at fremme investering og innovation inden for kunstig intelligens ·at forbedre forvaltning og effektiv håndhævelse af den eksisterende lovgivning om grundlæggende rettigheder og sikkerhedskrav til AI-systemer ·at fremme udviklingen af et indre marked for lovlige, sikre og pålidelige AI-anvendelser og forhindre markedsfragmentering. For at nå disse mål indeholder dette forslag en afbalanceret og forholdsmæssigt afpasset horisontal lovgivningsmæssig tilgang til kunstig intelligens, som er begrænset til de mindstekrav, der er nødvendige for at håndtere de risici og problemer, der er forbundet med kunstig intelligens, uden unødigt at begrænse eller hindre den teknologiske udvikling eller på anden måde uforholdsmæssigt øge omkostningerne ved at omsætte AI-løsninger. Med forslaget fastlægges en robust og fleksibel retlig ramme. På den ene side er det omfattende og fremtidssikret med hensyn til de grundlæggende lovgivningsmæssige valg, herunder de principbaserede krav, som AI-systemer bør overholde. På den anden side indføres der et proportionalt reguleringssystem, der er baseret på en veldefineret risikobaseret reguleringstilgang, som ikke skaber unødvendige handelsrestriktioner, hvorved retlig indgriben er skræddersyet til de konkrete situationer, hvor der er en berettiget grund til bekymring, eller hvor en sådan bekymring med rimelighed kan forventes i den nærmeste fremtid. Samtidig indeholder de retlige rammer fleksible mekanismer, der gør det muligt at tilpasse dem dynamisk, efterhånden som teknologien udvikler sig og nye problemstillinger opstår. Følgende en proportional risikobaseret tilgang fastsættes der med forslaget harmoniserede regler for udvikling, markedsføring og anvendelse af AI-systemer i Unionen. Der foreslås en enkelt fremtidssikret definition af kunstig intelligens. Visse særligt skadelige former for AI-praksis forbydes som værende i strid med Unionens værdier, mens der foreslås specifikke restriktioner og sikkerhedsforanstaltninger i forbindelse med visse anvendelser af systemer til biometrisk fjernidentifikation med henblik på retshåndhævelse. I forslaget fastsættes en robust metode til definition af "højrisiko-AI-systemer", som udgør en betydelig risiko for menneskers sundhed og sikkerhed eller grundlæggende rettigheder. Disse AI-systemer skal opfylde et sæt horisontale obligatoriske krav til pålidelig kunstig intelligens og der skal følges en procedure for overensstemmelsesvurdering, inden disse systemer kan bringes i omsætning på EU-markedet. Udbydere og brugere af disse systemer pålægges også gennemskuelige, proportionale og klare forpligtelser til at garantere sikkerhed og overholdelse af eksisterende lovgivning, der beskytter de grundlæggende rettigheder, i hele AI-systemets livscyklus. For visse specifikke AI-systemer foreslås der kun minimale gennemsigtighedsforpligtelser, navnlig ved anvendelse af chatbots eller "deep fakes". De foreslåede regler vil blive håndhævet gennem et forvaltningssystem på medlemsstatsplan, der bygger på allerede eksisterende strukturer, og en samarbejdsmekanisme på EU-plan med oprettelsen af Det Europæiske Udvalg for Kunstig Intelligens. Der foreslås også yderligere foranstaltninger til støtte for innovation, navnlig gennem reguleringsmæssige sandkasser for kunstig intelligens og andre foranstaltninger til at mindske regelbyrden og støtte små og mellemstore virksomheder (SMV'er) og startup-virksomheder. 1.2.Sammenhæng med de gældende regler på samme område Forslagets horisontale karakter kræver fuld overensstemmelse med eksisterende EU-lovgivning, der finder anvendelse på sektorer, hvor der allerede anvendes eller sandsynligvis vil blive anvendt højrisiko-AI-systemer i den nærmeste fremtid.

Der sikres også overensstemmelse med EU's charter om grundlæggende rettigheder og den eksisterende afledte EU-lovgivning om databeskyttelse, forbrugerbeskyttelse, ikkeforskelsbehandling og ligestilling mellem kønnene. Forslaget berører ikke den generelle forordning om databeskyttelse (forordning (EU) 2016/679) og retshåndhævelsesdirektivet (direktiv (EU) 2016/680), men supplerer disse med et sæt harmoniserede regler for udformning, udvikling og anvendelse af visse højrisiko-AI-systemer og begrænsninger for visse anvendelser af systemer til biometrisk fjernidentifikation. Forslaget supplerer desuden den eksisterende EU-lovgivning om ikkeforskelsbehandling med specifikke krav, der har til formål at minimere risikoen for algoritmisk forskelsbehandling, navnlig i forbindelse med udformningen og kvaliteten af de datasæt, der anvendes til udvikling af AI-systemer, suppleret med krav om testning, risikostyring, dokumentation og menneskeligt tilsyn i hele AI-systemernes livscyklus. Forslaget berører ikke anvendelsen af EU-konkurrenceretten. For så vidt angår højrisiko-AI-systemer, der indgår som sikkerhedskomponenter i produkter, vil dette forslag blive integreret i den eksisterende sektorspecifikke sikkerhedslovgivning for at sikre konsekvens, undgå overlap og minimere yderligere byrder. Navnlig for så vidt angår højrisiko-AI-systemer i forbindelse med produkter, der er omfattet af lovgivning under den nye lovgivningsmæssige ramme (f.eks. maskiner, medicinsk udstyr, legetøj), vil de krav til AI-systemer, der er fastsat i dette forslag, blive kontrolleret som led i de eksisterende procedurer for overensstemmelsesvurdering i henhold til den relevante lovgivning under den nye lovgivningsmæssige ramme. Hvad angår samspillet mellem kravene, er det meningen, at de sikkerhedsrisici, der er specifikke for AI-systemer, omfattes af kravene i dette forslag, mens lovgivning under den nye lovgivningsmæssige ramme har til formål at sikre det endelige produkts samlede sikkerhed og derfor kan indeholde specifikke krav vedrørende sikker integration af et AI-system i det endelige produkt. Forslaget til en maskinforordning, der vedtages samme dag som dette forslag, afspejler fuldt ud denne tilgang. For så vidt angår højrisiko-AI-systemer i forbindelse med produkter, der er omfattet af en relevant lovgivning efter den gamle metode (f.eks. luftfart og biler), finder dette forslag ikke direkte anvendelse. De forudgående væsentlige krav til højrisiko-AI-systemer, der er fastsat i dette forslag, skal der dog tages højde for når der vedtages relevant gennemførelseslovgivning eller delegeret lovgivning i henhold til disse retsakter. For så vidt angår AI-systemer, der leveres eller anvendes af regulerede kreditinstitutter, bør de myndigheder, der er ansvarlige for tilsynet med EU-lovgivningen om finansielle tjenesteydelser, udpeges som kompetente myndigheder til at føre tilsyn med kravene i dette forslag for at sikre en sammenhængende håndhævelse af forpligtelserne i henhold til dette forslag og Unionens lovgivning om finansielle tjenesteydelser, hvor AI-systemer til en vis grad er regulerede implicit i forhold til kreditinstitutternes interne forvaltningssystem. For yderligere at styrke sammenhængen er proceduren for overensstemmelsesvurdering og nogle af udbydernes proceduremæssige forpligtelser i henhold til dette forslag integreret i procedurerne i direktiv 2013/36/EU om adgang til at udøve virksomhed som kreditinstitut og om tilsyn. Dette forslag er også i overensstemmelse med den gældende EU-lovgivning om tjenesteydelser, herunder om formidlingstjenester, der er reguleret af direktiv 2000/31/EF om elektronisk handel og Kommissionens nylige forslag til en retsakt om digitale tjenester. For så vidt angår AI-systemer, der er komponenter til store IT-systemer inden for området med frihed, sikkerhed og retfærdighed, der forvaltes af Den Europæiske Unions Agentur for den Operationelle Forvaltning af Store IT-Systemer (eu-LISA), finder forslaget ikke anvendelse på de AI-systemer, der er bragt i omsætning eller taget i brug, før der er gået et år fra datoen for denne forordnings anvendelse, medmindre erstatningen eller ændringen af disse retsakter medfører en væsentlig ændring af det pågældende AI-systems eller -systemers design eller tilsigtede formål. 1.3.Sammenhæng med Unionens politik på andre områder Forslaget er en del af en bredere omfattende pakke af foranstaltninger, der tager fat på de problemer, som udviklingen og anvendelsen af kunstig intelligens medfører, som behandlet i hvidbogen om kunstig intelligens. Der sikres derfor overensstemmelse og komplementaritet med andre igangværende eller planlagte initiativer fra Kommissionens side, som også tager fat på disse problemer, herunder revisionen af den sektorspecifikke produktlovgivning (f.eks. maskindirektivet og direktivet om produktsikkerhed i almindelighed) og initiativer, der omhandler ansvarsspørgsmål i forbindelse med nye teknologier, herunder AI-systemer. Disse initiativer bygger videre på og supplerer dette forslag med henblik på at skabe juridisk klarhed og fremme udviklingen af et tillidsmiljø i forbindelse med kunstig intelligens i Europa. Forslaget hænger også sammen med Kommissionens digitale strategi, idet det bidrager til at fremme teknologi, der tjener alle, som er en af de tre hovedsøjler til støtte for de politiske retningslinjer og målsætninger, der blev annonceret i meddelelsen om "Europas digitale fremtid i støbeskeen". Det fastlægger en sammenhængende, effektiv og proportional ramme for at sikre, at kunstig intelligens udvikles på måder, der respekterer borgernes rettigheder og fortjener deres tillid, gør Europa klar til den digitale tidsalder og omdanner de næste ti år til det digitale årti. Desuden er fremme af AI-drevet innovation tæt forbundet med datastyringsforordningen, direktivet om åbne data og andre initiativer under EU's strategi for data, som vil etablere pålidelige mekanismer og tjenester til videreanvendelse, udveksling og samling af data, som er afgørende for udviklingen af datadrevne AI-modeller af høj kvalitet. Forslaget styrker også i væsentlig grad Unionens rolle med hensyn til at bidrage til udformningen af globale normer og standarder og fremme pålidelig kunstig intelligens, der er i overensstemmelse med Unionens værdier og interesser. Den giver Unionen et stærkt grundlag for yderligere dialog med sine eksterne partnere, herunder tredjelande, og i internationale fora om spørgsmål vedrørende kunstig intelligens. 2.RETSGRUNDLAG, NÆRHEDSPRINCIPPET OG PROPORTIONALITETSPRINCIPPET 2.1.Retsgrundlag Retsgrundlaget for forslaget er først og fremmest artikel 114 i traktaten om Den Europæiske Unions funktionsmåde (TEUF), som indeholder bestemmelser om vedtagelse af foranstaltninger, der skal sikre det indre markeds oprettelse og funktion. Dette forslag udgør en central del af EU's strategi for et digitalt indre marked. Hovedformålet med dette forslag er at sikre et velfungerende indre marked ved at fastsætte harmoniserede regler, navnlig for udvikling, markedsføring på EU-markedet og brug af produkter og tjenester, der gør brug af AI-teknologier eller leveres som selvstændige AI-systemer. Nogle medlemsstater overvejer allerede nationale regler for at sikre, at kunstig intelligens er sikker, og at den udvikles og anvendes i overensstemmelse med forpligtelserne vedrørende grundlæggende rettigheder. Dette vil sandsynligvis medføre to hovedproblemer: i) en fragmentering af det indre marked på væsentlige punkter, navnlig vedrørende kravene til AI-produkter og -tjenester, deres markedsføring, deres anvendelse, ansvarsspørgsmål og de offentlige myndigheders tilsyn, og ii) den betydelige forringelse af retssikkerheden for både udbydere og brugere af AI-systemer med hensyn til, hvordan eksisterende og nye regler vil finde anvendelse på disse systemer inden for Unionen. I betragtning af den omfattende bevægelighed af varer og tjenesteydelser på tværs af grænserne kan disse to problemer bedst løses gennem harmonisering af lovgivningen på EU-plan. Ved forslaget fastlægges der således vedrørende udformningen og udviklingen af visse AI-systemer, inden de bringes i omsætning, fælles obligatoriske krav, som vil blive gjort yderligere operationelle gennem harmoniserede tekniske standarder. Der tages også højde for situationer, efter at AI-systemer er blevet bragt i omsætning, ved at harmonisere den måde, hvorpå efterfølgende kontrol gennemføres. I betragtning af at dette forslag indeholder visse specifikke regler om beskyttelse af fysiske personer i forbindelse med behandling af personoplysninger, navnlig begrænsninger i anvendelsen af AI-systemer til biometrisk fjernidentifikation i realtid på offentlige steder med henblik på retshåndhævelse, er det desuden hensigtsmæssigt at basere denne forordning på artikel 16 i TEUF for så vidt angår disse specifikke regler. 2.2.Nærhedsprincippet (for områder, der ikke er omfattet af enekompetence) Eftersom kunstig intelligens ofte afhænger af store og varierede datasæt, og kan være indlejret i ethvert produkt eller tjeneste, der cirkulerer frit på det indre marked, kan målene med dette forslag ikke opfyldes effektivt af medlemsstaterne alene. Desuden vil et kludetæppe af potentielt divergerende nationale regler forhindre produkter og tjenester i forbindelse med AI-systemer i at cirkulere gnidningsløst i hele EU og vil være ineffektivt med hensyn til at garantere sikkerheden og beskyttelsen af de grundlæggende rettigheder og Unionens værdier i de forskellige medlemsstater. Nationale tilgange til løsning af problemerne vil kun skabe yderligere retsusikkerhed og hindringer og vil forsinke markedsaccepten af kunstig intelligens. Målene med dette forslag kan bedre nås på EU-plan for at undgå en yderligere opsplitning af det indre marked i potentielt modstridende nationale rammer, der forhindrer fri bevægelighed for varer og tjenesteydelser, der integrerer kunstig intelligens. En solid europæisk lovgivningsmæssig ramme for pålidelig kunstig intelligens vil også sikre lige vilkår og beskytte alle borgere samt styrke Europas konkurrenceevne og industrielle grundlag inden for kunstig intelligens. Kun fælles handling på EU-plan kan også beskytte Unionens digitale suverænitet og udnytte dens redskaber og lovgivningsmæssige beføjelser til at forme globale regler og standarder. 2.3.Proportionalitetsprincippet

Forslaget bygger på eksisterende retlige rammer og er rimeligt og nødvendigt for at nå målene, da det følger en risikobaseret tilgang og kun pålægger reguleringsmæssige byrder, når et AI-system sandsynligvis vil udgøre en stor risiko for grundlæggende rettigheder og sikkerhed. For andre AI-systemer, der ikke er højrisikosystemer, pålægges der kun meget begrænsede gennemsigtighedsforpligtelser, f.eks. med hensyn til markering af et AI-system, når det bruges til at interagere med mennesker. For højrisiko-AI-systemer er kravene om data af høj kvalitet, dokumentation og sporbarhed, gennemsigtighed, menneskeligt tilsyn, robusthed og modstandsdygtighed strengt nødvendige for at mindske de risici, som kunstig intelligens medfører for grundlæggende rettigheder og sikkerhed, og som ikke er omfattet af andre eksisterende retlige rammer. Harmoniserede standarder, vejledning og overholdelsesfremmende værktøjer vil hjælpe udbydere og brugere med at overholde de krav, der er fastsat i forslaget, og minimere deres omkostninger. Operatørernes omkostninger står i et rimeligt forhold til de opnåede mål og de økonomiske og omdømmemæssige fordele, som operatørerne kan forvente af dette forslag. 2.4.Valg af retsakt Valget af en forordning som juridisk instrument er begrundet i behovet for en ensartet anvendelse af de nye regler, såsom definitionen af kunstig intelligens, forbuddet mod visse former for skadelig AI-baseret praksis og klassificeringen af visse AI-systemer. Da en forordning finder direkte anvendelse i overensstemmelse med artikel 288 i TEUF vil det mindske retlig fragmentering og lette udviklingen af et indre marked for lovlige, sikre og pålidelige AI-systemer. Dette vil navnlig ske ved at indføre et harmoniseret sæt centrale krav med hensyn til højrisiko-AI-systemer og forpligtelser for udbydere og brugere af disse systemer, forbedre beskyttelsen af grundlæggende rettigheder og skabe retssikkerhed for både operatører og forbrugere. Samtidig er forordningens bestemmelser ikke unødigt præskriptive og giver plads til medlemsstaternes indsats på flere niveauer for elementer, der ikke underminerer initiativets mål, navnlig den interne tilrettelæggelse af systemet til markedsovervågning og indførelsen af foranstaltninger til fremme af innovation. 3.RESULTATER AF EFTERFØLGENDE EVALUERINGER, HØRINGER AF INTERESSEREDE PARTER OG KONSEKVENSANALYSER 3.1.Høringer af interesserede parter Dette forslag er resultatet af en omfattende høring af alle de vigtigste interesserede parter, hvor de generelle principper og minimumsstandarder for Kommissionens høring af interesserede parter blev anvendt. Samtidig med offentliggørelsen af hvidbogen om kunstig intelligens blev der den 19. februar 2020 iværksat en offentlig onlinehøring, som løb indtil den 14. juni 2020. Formålet med denne høring var at indsamle synspunkter og udtalelser om hvidbogen. Den var henvendt til alle interesserede parter fra den offentlige og private sektor, herunder regeringer, lokale myndigheder, kommercielle og ikkekommercielle organisationer, arbejdsmarkedets parter, eksperter, akademikere og borgere. Efter at have analyseret alle de modtagne svar offentliggjorde Kommissionen et resumé af resultaterne og de individuelle svar på sit websted. I alt blev der modtaget 1215 bidrag, heraf 352 fra virksomheder eller erhvervsorganisationer/sammenslutninger, 406 fra enkeltpersoner (92 % enkeltpersoner fra EU), 152 på vegne af akademiske institutioner/forskningsinstitutioner og 73 fra offentlige myndigheder. Civilsamfundets stemme var repræsenteret af 160 respondenter (heriblandt 9 forbrugerorganisationer, 129 ikkestatslige organisationer og 22 fagforeninger), og 72 respondenter bidrog som "andre". Af de 352 repræsentanter for erhvervslivet og industrien var 222 repræsentanter for virksomheder, hvoraf 41,5 % var mikrovirksomheder og små og mellemstore virksomheder. Resten kom fra erhvervssammenslutninger. Samlet set kom 84 % af besvarelserne fra erhvervslivet og industrien i EU-27. Afhængigt af spørgsmålet brugte mellem 81 og 598 af respondenterne muligheden for at indsætte kommentarer i fri tekst. Der blev indsendt over 450 holdningsdokumenter via EUSurvey-webstedet, enten som supplement til spørgeskemabesvarelser (over 400) eller som selvstændige bidrag (over 50). Der er generel enighed blandt interessenterne om, at der er behov for handling. Et stort flertal af interessenterne er enige i, at der er huller i lovgivningen, eller at der er behov for ny lovgivning. Flere interessenter advarer imidlertid Kommissionen om at undgå overlap, modstridende forpligtelser og overregulering. Der var mange bemærkninger, der understregede vigtigheden af en teknologineutral og proportional lovgivningsmæssig ramme. Interessenterne efterlyste for det meste en snæver, klar og præcis definition af kunstig intelligens. Interessenterne fremhævede også, at det ud over præciseringen af begrebet kunstig intelligens er vigtigt at definere "risiko", "højrisiko", "lavrisiko", "biometrisk fjernidentifikation" og "skade". De fleste respondenter går udtrykkeligt ind for den risikobaserede tilgang. Anvendelse af en risikobaseret ramme blev anset for at være en bedre løsning end en generel regulering af alle AI-systemer. Risiko- og trusselstyperne bør baseres på en sektorspecifik og individuel tilgang. Risikoen bør også beregnes under hensyntagen til indvirkningen på rettigheder og sikkerhed. Reguleringsmæssige sandkasser kan være meget nyttige til fremme af kunstig intelligens og hilses velkommen af visse interessenter, navnlig erhvervssammenslutningerne. Blandt dem, der formulerede deres mening om håndhævelsesmodellerne, gik mere end 50 %, navnlig fra erhvervssammenslutningerne, ind for en kombination af en forudgående egenrisikovurdering og en efterfølgende håndhævelse for højrisiko-AI-systemer. 3.2.Indhentning og brug af ekspertbistand Forslaget bygger på to års analyse og tæt inddragelse af interessenter, herunder akademikere, virksomheder, arbejdsmarkedets parter, ikkestatslige organisationer, medlemsstaterne og borgerne. Det forberedende arbejde startede i 2018 med oprettelsen af Ekspertgruppen på Højt Niveau vedrørende Kunstig Intelligens, som havde en inklusiv og bred sammensætning af 52 velkendte eksperter, der havde til opgave at rådgive Kommissionen om gennemførelsen af Kommissionens strategi for kunstig intelligens. I april 2019 bakkede Kommissionen op om de centrale krav i ekspertgruppens etiske retningslinjer for pålidelig kunstig intelligens, som var blevet revideret for at tage hensyn til mere end 500 indlæg fra interessenter. Som det fremgår af den lange række af etiske kodekser og principper, der er udviklet af mange private og offentlige organisationer i og uden for Europa, afspejler de centrale krav den brede og fælles tilgang, at udvikling og anvendelse af kunstig intelligens bør styres af visse essentielle værdiorienterede principper. Ved hjælp af vurderingslisten for pålidelig kunstig intelligens blev disse krav gjort operationelle i en pilotproces med over 350 organisationer. Desuden blev Den Europæiske Alliance vedrørende Kunstig Intelligens dannet som en platform, hvor ca. 4000 interessenter drøftede de teknologiske og samfundsmæssige konsekvenser af kunstig intelligens, hvilket kulminerede i en årlig AI-forsamling. Med Hvidbogen om kunstig intelligens blev der bygget videre på denne inklusive tilgang, hvilket afstedkom feedback fra mere end 1250 interessenter, herunder over 450 yderligere holdningsdokumenter. Som følge heraf offentliggjorde Kommissionen en indledende konsekvensanalyse, som igen affødte mere end 130 kommentarer. Der blev også afholdt yderligere workshops og arrangementer for interessenter, og resultaterne herfra understøttede konsekvensanalysen og de politiske valg, der er truffet i forbindelse med dette forslag. Desuden indgik en ekstern undersøgelse i konsekvensanalysen. 3.3.Konsekvensanalyse I overensstemmelse med sin politik for bedre regulering har Kommissionen foretaget en konsekvensanalyse af dette forslag, som blev behandlet af Kommissionens Udvalg for Forskriftskontrol. Der blev afholdt et møde med Udvalget for Forskriftskontrol den 16. december 2020, som blev efterfulgt af en negativ udtalelse. Efter en omfattende revision af konsekvensanalysen for at imødekomme henstillingerne og en fornyet forelæggelse af konsekvensanalysen afgav Udvalget for Forskriftskontrol en positiv udtalelse den 21. marts 2021. Udtalelserne fra Udvalget for Forskriftskontrol, henstillingerne og en redegørelse for, hvordan der er taget hensyn til dem, findes i bilag 1 til konsekvensanalysen.

Kommissionen har undersøgt forskellige politiske løsningsmodeller for at nå det overordnede mål med forslaget, som er at sikre et velfungerende indre marked ved at skabe betingelserne for udvikling og anvendelse af pålidelig kunstig intelligens i Unionen. Fire politiske løsningsmodeller med forskellige grader af regulerende indgreb blev vurderet: ·Model 1: en EU-retsakt om indførelse af en frivillig mærkningsordning. ·Model 2: en sektorspecifik ad hoc-tilgang. ·Model 3: en horisontal EU-retsakt baseret på en proportional risikobaseret tilgang. ·Model 3+: en horisontal EU-retsakt baseret på en proportional risikobaseret tilgang + adfærdskodekser for AI-systemer, der ikke er højrisikosystemer. ·Model 4: en horisontal EU-retsakt, der fastsætter obligatoriske krav til alle AI-systemer, uanset hvilken risiko de udgør. I henhold til Kommissionens fastlagte metode blev hver politiske løsningsmodel evalueret i forhold til de økonomiske og samfundsmæssige virkninger med særligt fokus på indvirkningen på de grundlæggende rettigheder. Den foretrukne løsningsmodel er model 3+, en lovgivningsmæssige ramme, der kun gælder for højrisiko-AI-systemer, med mulighed for, at alle udbydere af AI-systemer, der ikke er højrisikosystemer, kan følge en adfærdskodeks. Kravene vil vedrøre data, dokumentation og sporbarhed, tilvejebringelse af oplysninger, gennemsigtighed, menneskeligt tilsyn og robusthed samt nøjagtighed og vil være obligatoriske for højrisiko-AI-systemer. Virksomheder, der indfører adfærdskodekser for andre AI-systemer, vil gøre dette frivilligt. Den foretrukne model blev anset for velegnet til at opfylde målsætningerne i dette forslag på den mest effektive måde. Ved at fastlægge begrænsede, men effektive krav til udviklere og brugere af kunstig intelligens mindsker den foretrukne løsningsmodel risikoen for krænkelse af grundlæggende rettigheder og menneskers sikkerhed og fremmer effektivt tilsyn og effektiv håndhævelse ved kun at målrette kravene mod systemer, hvor der er stor risiko for, at sådanne krænkelser kan forekomme. Som følge heraf holder denne model efterlevelsesomkostningerne på et minimum, hvorved man undgår unødvendige forsinkelser i udbredelsen på grund af højere priser og efterlevelsesomkostninger. For at afhjælpe eventuelle ulemper for SMV'er omfatter denne løsningsmodel flere bestemmelser til støtte for deres efterlevelse og reduktion af deres omkostninger, herunder oprettelse af reguleringsmæssige sandkasser og en forpligtelse til at tage hensyn til SMV'ers interesser, når der fastsættes gebyrer i forbindelse med overensstemmelsesvurdering. Den foretrukne løsningsmodel vil øge borgernes tillid til kunstig intelligens, øge retssikkerheden for virksomhederne, og medlemsstaterne vil ikke have grund til at træffe ensidige foranstaltninger, der kan fragmentere det indre marked. Det indre marked for kunstig intelligens vil sandsynligvis blomstre som følge af øget efterspørgsel medført af øget tillid, flere tilgængelige tilbud på grund af retssikkerheden og fraværet af hindringer for AI-systemers grænseoverskridende bevægelighed. Den Europæiske Union vil fortsætte med at udvikle et hurtigt voksende AI-økosystem, der omfatter innovative tjenester og produkter med integreret AI-teknologi eller selvstændige AI-systemer, hvilket resulterer i øget digital autonomi. Virksomheder eller offentlige myndigheder, der er udviklere eller brugere af AI-anvendelser, der udgør en høj risiko for borgernes sikkerhed eller grundlæggende rettigheder, vil skulle opfylde specifikke krav og forpligtelser. Opfyldelsen af disse krav vil i forbindelse med levering af et gennemsnitligt højrisiko-AI-system til ca. 170 000 EUR medføre omkostninger på ca. 6 000-7 000 EUR frem til 2025. For brugerne af AI vil der også være årlige omkostninger forbundet med den tid, der bruges på at sikre menneskeligt tilsyn, i de tilfælde, hvor dette er hensigtsmæssigt. Disse anslås til ca. 5 000-8 000 EUR om året. Kontrolomkostningerne kan beløbe sig til yderligere 3 000-7 500 EUR for leverandører af højrisiko-AI. Virksomheder eller offentlige myndigheder, der er udviklere eller brugere af AI-anvendelser, der ikke er klassificeret som højrisiko, vil kun skulle opfylde minimale oplysningskrav. De kunne imidlertid vælge i sammenslutning med andre at vedtage en adfærdskodeks for at opfylde passende krav og for at sikre, at deres AI-systemer er pålidelige. I et sådant tilfælde ville omkostningerne højst være som for højrisiko-AI-systemer, men sandsynligvis lavere. Virkningerne af de politiske løsningsmodeller for forskellige kategorier af interessenter (erhvervsdrivende/virksomheder, overensstemmelsesvurderingsorganer, standardiseringsorganer og andre offentlige organer, enkeltpersoner/borgere, forskere) er nærmere forklaret i bilag 3 til konsekvensanalysen til støtte for dette forslag. 3.4.Målrettet regulering og forenkling Dette forslag fastsætter forpligtelser, som vil gælde for udbydere og brugere af højrisiko-AI-systemer. For udbydere, der udvikler og bringer sådanne systemer i omsætning på EU-markedet, vil det skabe retssikkerhed og sikre, at der ikke opstår hindringer for grænseoverskridende levering af AI-relaterede tjenester og produkter. For virksomheder, der anvender kunstig intelligens, vil det fremme tilliden blandt deres kunder. For de nationale offentlige forvaltninger vil det fremme offentlighedens tillid til brugen af kunstig intelligens og styrke håndhævelsesmekanismerne (ved at indføre en europæisk koordineringsmekanisme, tilvejebringe passende kapacitet og lette revisionen af AI-systemerne med nye krav til dokumentation, sporbarhed og gennemsigtighed). Rammen omfatter desuden specifikke foranstaltninger til støtte for innovation, herunder reguleringsmæssige sandkasser og specifikke foranstaltninger, der skal hjælpe mindre brugere og udbydere af højrisiko-AI-systemer med at overholde de nye regler. Forslaget sigter også specifikt mod at styrke Europas konkurrenceevne og industrielle grundlag inden for kunstig intelligens. Der sikres fuld overensstemmelse med eksisterende sektorspecifik EU-lovgivning, som AI-systemer omfattes af (f.eks. om produkter og tjenesteydelser), hvilket skaber yderligere klarhed og forenkler håndhævelsen af de nye regler. 3.5.Grundlæggende rettigheder Brugen af kunstig intelligens med dens særlige karakteristika (f.eks. uigennemsigtighed, kompleksitet, afhængighed af data, selvstændig adfærd) kan have en negativ indvirkning på en række grundlæggende rettigheder, der er nedfældet i EU's charter om grundlæggende rettigheder ("chartret"). Dette forslag har til formål at sikre et højt beskyttelsesniveau for disse grundlæggende rettigheder og tager sigte på at håndtere forskellige risikokilder gennem en klart defineret risikobaseret tilgang. Med et sæt krav til pålidelig kunstig intelligens og forholdsmæssigt afpassede forpligtelser for alle værdikædens deltagere vil forslaget styrke og fremme beskyttelsen af de rettigheder, der er beskyttet af chartret, navnlig retten til menneskelig værdighed (artikel 1), respekt for privatliv og beskyttelse af personoplysninger (artikel 7 og 8), ikke-forskelsbehandling (artikel 21) og ligestilling mellem kvinder og mænd (artikel 23). Det har til formål at forhindre en afdæmpende virkning på ytringsfriheden (artikel 11) og forsamlingsfriheden (artikel 12), at sikre adgangen til effektive retsmidler og til en upartisk domstol, retten til et forsvar og uskyldsformodningen (artikel 47 og 48) samt sikre det generelle princip om god forvaltningsskik. Alt efter hvad der er relevant på visse områder, vil forslaget have en positiv indvirkning på rettighederne for en række særlige grupper, såsom arbejdstagernes ret til retfærdige og rimelige arbejdsforhold (artikel 31), et højt forbrugerbeskyttelsesniveau (artikel 28), børns rettigheder (artikel 24) og integration af personer med handicap (artikel 26). Retten til et højt niveau af miljøbeskyttelse og forbedring af miljøet (artikel 37) er også relevant, herunder i forbindelse med menneskers sundhed og sikkerhed. Forpligtelserne til forudgående testning, risikostyring og menneskeligt tilsyn vil også lette overholdelsen af andre grundlæggende rettigheder ved at minimere risikoen for fejlagtige eller partiske AI-støttede beslutninger på kritiske områder såsom uddannelse, beskæftigelse, vigtige tjenester, retshåndhævelse og retsvæsen. Skulle der alligevel forekomme overtrædelser af de grundlæggende rettigheder, sikres de berørte personer mulighed for effektiv klageadgang gennem AI-systemernes gennemsigtighed og sporbarhed, kombineret med en stærk efterfølgende kontrol. Dette forslag medfører visse begrænsninger i friheden til at oprette og drive egen virksomhed (artikel 16) og friheden for kunst og videnskab (artikel 13) for at sikre overholdelse af tvingende almene hensyn såsom sundhed, sikkerhed, forbrugerbeskyttelse og beskyttelse af andre grundlæggende rettigheder ("ansvarlig innovation"), når der udvikles og anvendes AI-teknologi med høj risiko. Disse begrænsninger er forholdsmæssigt afpassede og er begrænsede til det minimum, der er nødvendigt for at forebygge og afbøde alvorlige sikkerhedsrisici og sandsynlige overtrædelser af grundlæggende rettigheder. De øgede gennemsigtighedsforpligtelser vil heller ikke i uforholdsmæssig høj grad påvirke retten til beskyttelse af intellektuel ejendomsret (artikel 17, stk. 2), da de begrænses til det minimum, der er nødvendigt for, at enkeltpersoner kan udøve deres ret til effektive retsmidler og den nødvendige gennemsigtighed over for tilsyns- og håndhævelsesmyndighederne i overensstemmelse med deres mandater. Enhver videregivelse af oplysninger vil ske i overensstemmelse med relevant lovgivning på området, herunder direktiv 2016/943 om beskyttelse af fortrolig knowhow og fortrolige forretningsoplysninger (forretningshemmeligheder) mod ulovlig erhvervelse, brug og videregivelse. Når offentlige myndigheder og bemyndigede organer skal have adgang til fortrolige oplysninger eller kildekoder for at kunne undersøge, om væsentlige forpligtelser er opfyldt, er de underlagt bindende tavshedspligt. 4.VIRKNINGER FOR BUDGETTET

Medlemsstaterne udpeger de tilsynsmyndigheder, der skal have ansvaret for at gennemføre de lovgivningsmæssige krav. Tilsynsfunktionen kunne bygge på eksisterende ordninger, f.eks. angående overensstemmelsesvurderingsorganer eller markedsovervågning, men ville kræve tilstrækkelig teknologisk ekspertise og menneskelige og finansielle ressourcer. Afhængigt af den eksisterende struktur i hver medlemsstat kan dette beløbe sig til 1-25 fuldtidsækvivalenter pr. medlemsstat. En detaljeret oversigt over de omkostninger, der er forbundet hermed, findes i "finansieringsoversigten" til dette forslag. 5.ANDRE FORHOLD 5.1.Planer for gennemførelsen og foranstaltninger til overvågning, evaluering og rapportering Det er afgørende at sørge for en robust overvågnings- og evalueringsmekanisme for at sikre, at forslaget vil være effektivt med hensyn til at nå de specifikke mål. Kommissionen er ansvarlig for at overvåge forslagets virkninger. Den opretter et system til registrering af selvstændige højrisiko-AI-anvendelser i en offentlig EU-dækkende database. Denne registrering vil også gøre det muligt for kompetente myndigheder, brugere og andre interesserede personer at kontrollere, om et givet højrisiko-AI-system overholder forslagets krav, og at føre øget tilsyn med de AI-systemer, der udgør en stor risiko for de grundlæggende rettigheder. Til brug for databasen vil udbydere af kunstig intelligens være forpligtet til at give meningsfulde oplysninger om deres systemer og om den overensstemmelsesvurdering, der er foretaget af disse systemer. Udbydere af kunstig intelligens vil desuden være forpligtet til at underrette de nationale kompetente myndigheder om alvorlige hændelser eller fejl, der udgør en overtrædelse af forpligtelserne vedrørende grundlæggende rettigheder, så snart de får kendskab til dem, samt om alle tilbagekaldelser eller tilbagetrækninger af AI-systemer fra markedet. De nationale kompetente myndigheder undersøger derefter hændelserne/fejlene, indsamler alle nødvendige oplysninger og sender dem regelmæssigt til Kommissionen med fyldestgørende metadata. Kommissionen vil supplere oplysningerne om hændelserne med en omfattende analyse af det samlede marked for kunstig intelligens. Kommissionen vil offentliggøre en rapport med evaluering og gennemgang af den foreslåede ramme for kunstig intelligens fem år efter den dato, hvor den finder anvendelse. 5.2.Nærmere redegørelse for de enkelte bestemmelser i forslaget 5.2.1.ANVENDELSESOMRÅDE OG DEFINITIONER (AFSNIT I) I afsnit I defineres forordningens genstand og anvendelsesområdet for de nye regler, der omfatter markedsføring, ibrugtagning og anvendelse af AI-systemer. Desuden fastsættes de definitioner, der anvendes i instrumentet. I den retlige ramme tilstræbes der en så teknologineutral og fremtidssikret definition af et AI-system som muligt under hensyntagen til den hurtige teknologiske udvikling og markedsudvikling i forbindelse med kunstig intelligens. For at skabe den nødvendige retssikkerhed suppleres afsnit I af bilag I, som indeholder en detaljeret liste over tilgange og teknikker til udvikling af kunstig intelligens, som Kommissionen løbende skal tilpasse den teknologiske udvikling. Centrale deltagere i hele værdikæden for kunstig intelligens er også klart defineret, f.eks. udbydere og brugere af AI-systemer, der dækker både offentlige og private operatører med henblik på at sikre lige vilkår. 5.2.2.FORBUDT PRAKSIS MED HENSYN TIL KUNSTIG INTELLIGENS (AFSNIT II) Afsnit II indeholder en liste over forbudt kunstig intelligens. I forordningen følges en risikobaseret tilgang, hvor der skelnes mellem anvendelser af kunstig intelligens, som skaber i) en uacceptabel risiko, ii) en høj risiko og iii) lav eller minimal risiko. Listen over forbudte praksisser i afsnit II omfatter alle de AI-systemer, hvis anvendelse anses for at være i strid med Unionens værdier, f.eks. ved at krænke grundlæggende rettigheder. Forbuddet omfatter praksisser, der har et betydeligt potentiale til at manipulere en persons underbevidsthed ved hjælp af subliminale teknikker eller udnytte sårbarheder hos specifikke sårbare grupper såsom børn eller personer med handicap for væsentligt at forvride deres adfærd på en måde, der sandsynligvis vil forvolde dem eller en anden person psykisk eller fysisk skade. Anden manipulerende eller udnyttende praksis, som påvirker voksne, og som kan finde sted med bistand af AI-systemer, kan være omfattet af den eksisterende lovgivning om databeskyttelse, forbrugerbeskyttelse og digitale tjenester, som sikrer, at fysiske personer er behørigt informerede og frit kan vælge ikke at blive genstand for profilering eller anden praksis, der kan påvirke deres adfærd. Forslaget omfatter desuden et forbud mod offentlige myndigheders generelle brug af sociale pointsystemer baseret på kunstig intelligens. Endelig er det også forbudt at anvende systemer til biometrisk fjernidentifikation i realtid på offentlige steder med henblik på retshåndhævelse, med visse begrænsede undtagelser. 5.2.3.HØJRISIKO-AI-SYSTEMER (AFSNIT III) Afsnit III indeholder specifikke regler for AI-systemer, der medfører høj risiko for fysiske personers sundhed og sikkerhed eller grundlæggende rettigheder. I overensstemmelse med en risikobaseret tilgang tillades disse højrisiko-AI-systemer på det europæiske marked, forudsat at visse obligatoriske krav opfyldes, og at der foretages en forudgående overensstemmelsesvurdering. Klassificeringen af et AI-system som værende et højrisikosystem baseres på dets tilsigtede formål, hvilket er i overensstemmelse med den eksisterende produktsikkerhedslovgivning. Klassificeringen som højrisiko afhænger derfor ikke kun af den funktion, AI-systemet udfører, men også af det specifikke formål med og de særlige modaliteter i anvendelsen af systemet. I afsnit III, kapitel 1, fastsættes klassificeringsreglerne, og der identificeres to hovedkategorier af højrisiko-AI-systemer: ·AI-systemer, der er beregnet til at blive anvendt som sikkerhedskomponenter i produkter, der er underlagt en forudgående overensstemmelsesvurdering fra tredjepart ·andre selvstændige AI-systemer, der hovedsagelig har betydning for de grundlæggende rettigheder, og som eksplicit er opført i bilag III. Listen over højrisiko-AI-systemer i bilag III indeholder et begrænset antal AI-systemer med risici, der allerede har realiseret sig eller sandsynligvis vil realisere sig i nær fremtid. For at sikre, at forordningen kan tilpasses fremtidige anvendelser af kunstig intelligens, kan Kommissionen udvide listen over højrisiko-AI-systemer inden for visse foruddefinerede områder, ved at anvende et sæt kriterier og risikovurderingsmetoder. Kapitel 2 fastsætter de retlige krav til højrisiko-AI-systemer for så vidt angår data og dataforvaltning, dokumentation og registrering, gennemsigtighed og formidling af oplysninger til brugerne, menneskeligt tilsyn, robusthed, nøjagtighed og sikkerhed. De foreslåede minimumskrav er allerede state-of-the-art for mange samvittighedsfulde operatører, og er resultatet af to års forberedende arbejde, der er afledt af de etiske retningslinjer fra Ekspertgruppen på Højt Niveau vedrørende Kunstig Intelligens, og som er blevet afprøvet i praksis af mere end 350 organisationer. De er også i vid udstrækning i overensstemmelse med andre internationale anbefalinger og principper, hvilket sikrer, at den foreslåede ramme for kunstig intelligens er forenelig med de rammer, der er vedtaget af EU's internationale handelspartnere. Med henblik på at opnå overensstemmelse med disse krav kan de nøjagtige tekniske løsninger udvikles af AI-systemets udbyder i lyset af generel teknisk eller videnskabelig viden, eller ved hjælp af standarder eller andre tekniske specifikationer. Denne fleksibilitet er særlig vigtig, fordi den giver udbyderne af AI-systemer mulighed for at vælge, hvordan de vil opfylde kravene, under hensyntagen til de seneste teknologiske og videnskabelige fremskridt på området. I kapitel 3 fastsættes et klart sæt horisontale forpligtelser for udbydere af højrisiko-AI-systemer. Der pålægges også rimelige forpligtelser for brugere og andre deltagere i hele AI-værdikæden (f.eks. importører, distributører, bemyndigede repræsentanter).

I kapitel 4 fastlægges rammerne for bemyndigede organers inddragelse som uafhængige tredjeparter i overensstemmelsesvurderingsprocedurer, mens kapitel 5 indeholder en detaljeret beskrivelse af de overensstemmelsesvurderingsprocedurer, der skal følges for hver type højrisiko-AI-system. Brugen af overensstemmelsesvurderinger har til formål at minimere byrden for både erhvervsdrivende og bemyndigede organer, hvis kapacitet gradvist skal øges med tiden. AI-systemer, der er beregnet til at blive anvendt som sikkerhedskomponenter i produkter, der er reguleret inden for den nye lovgivningsmæssige ramme (f.eks. maskiner, legetøj, medicinsk udstyr osv.), vil være underlagt de samme forudgående og efterfølgende overholdelses- og håndhævelsesmekanismer som de produkter, de er en del af. Forskellen er, at de forudgående og efterfølgende mekanismer ikke blot vil sikre overensstemmelse med de krav, der er fastsat i den sektorspecifikke lovgivning, men også med kravene i denne forordning. For så vidt angår selvstændige højrisiko-AI-systemer, som der henvises til i bilag III, vil der blive etableret et nyt overholdelses- og håndhævelsessystem. Dette følger modellen for lovgivning under den nye lovgivningsmæssige ramme, hvor intern kontrol gennemføres af udbyderne, med undtagelse af systemer til biometrisk fjernidentifikation, som vil blive genstand for overensstemmelsesvurderinger foretaget af tredjepart. En omfattende forudgående overensstemmelsesvurdering gennem intern kontrol kombineret med en stærk efterfølgende håndhævelse kan være en effektiv og rimelig løsning for disse systemer i betragtning af, at den lovgivningsmæssige indgriben er i en tidlig fase, samt de forhold, at AI-sektoren er meget innovativ, og at ekspertisen inden for revision først nu er ved at blive opbygget. En vurdering i form af intern kontrol af selvstændige højrisiko-AI-systemer vil kræve en fuldstændig, effektiv og behørigt dokumenteret forudgående opfyldelse af alle forordningens krav, samt korrekt brug af robuste kvalitets- og risikostyringssystemer og overvågning efter omsætning. Efter at udbyderen har foretaget den relevante overensstemmelsesvurdering, bør udbyderen registrere disse selvstændige højrisiko-AI-systemer i en EU-database, som vil blive forvaltet af Kommissionen for at øge gennemsigtigheden og offentlighedens tilsyn og styrke de kompetente myndigheders efterfølgende kontrol. Derimod vil AI-systemer, der er sikkerhedskomponenter til produkter, af hensyn til overensstemmelsen med den eksisterende produktsikkerhedslovgivning, underkastes tredjeparters overensstemmelsesvurderingsprocedurer, der allerede er indført i henhold til den relevante sektorspecifikke produktsikkerhedslovgivning. Der vil være behov for nye forudgående overensstemmelsesvurderinger i tilfælde af væsentlige ændringer af AI-systemerne (og navnlig ændringer, der går ud over, hvad udbyderen på forhånd har fastsat i sin tekniske dokumentation, og som kontrolleres på tidspunktet for den forudgående overensstemmelsesvurdering). 5.2.4.GENNEMSIGTIGHEDSFORPLIGTELSER FOR VISSE AI-SYSTEMER (AFSNIT IV) Afsnit IV vedrører visse AI-systemer for at tage højde for de særlige risici for manipulation, som de udgør. Der vil gælde gennemsigtighedsforpligtelser for systemer, der i) interagerer med mennesker, ii) anvendes til at opdage følelser eller fastslå tilknytning til (sociale) kategorier baseret på biometriske data eller iii) generere eller manipulere indhold ("deep fakes"). Når personer interagerer med et AI-system eller hvis deres følelser eller karakteristika registreres automatisk, skal de informeres om dette forhold. Hvis et AI-system anvendes til at generere eller manipulere billed-, lyd- eller videoindhold, der i væsentlig grad ligner autentisk indhold, bør der være en forpligtelse til at oplyse, at indholdet er genereret automatisk, med forbehold af undtagelser til legitime formål (retshåndhævelse, ytringsfrihed). Dette gør det muligt for folk at træffe informerede valg eller træde tilbage fra en given situation. 5.2.5.FORANSTALTNINGER TIL STØTTE FOR INNOVATION (AFSNIT V) Med afsnit V bidrages til målet om at skabe en retlig ramme, der er innovationsvenlig, fremtidssikret og modstandsdygtig over for forstyrrelser. Med henblik herpå tilskyndes de nationale kompetente myndigheder til at oprette reguleringsmæssige sandkasser og der opstilles en grundlæggende ramme for forvaltning, tilsyn og ansvar. De reguleringsmæssige sandkasser for kunstig intelligens etablerer et kontrolleret miljø til afprøvning af innovative teknologier i et begrænset tidsrum på grundlag af en testplan, der er aftalt med de kompetente myndigheder. Afsnit V omhandler også foranstaltninger til at mindske den reguleringsmæssige byrde for SMV'er og startup-virksomheder. 5.2.6.FORVALTNING OG GENNEMFØRELSE (AFSNIT VI, VII OG VII) I afsnit VI indføres forvaltningssystemerne på EU-plan og nationalt plan. På EU-plan oprettes der med forslaget Det Europæiske Udvalg for Kunstig Intelligens ("udvalget") bestående af repræsentanter for medlemsstaterne og Kommissionen. Udvalget vil fremme en gnidningsløs, effektiv og harmoniseret gennemførelse af denne forordning ved at bidrage til et effektivt samarbejde mellem de nationale tilsynsmyndigheder og Kommissionen og yde rådgivning og ekspertise til Kommissionen. Den vil også indsamle og udveksle bedste praksis mellem medlemsstaterne. På nationalt plan skal medlemsstaterne udpege en eller flere nationale kompetente myndigheder, herunder den nationale tilsynsmyndighed, til at føre tilsyn med anvendelsen og gennemførelsen af forordningen. Den Europæiske Tilsynsførende for Databeskyttelse er den kompetente myndighed, der fører tilsyn med Unionens institutioner, agenturer og organer, når de er omfattet af denne forordnings anvendelsesområde. Afsnit VII har til formål at lette Kommissionens og de nationale myndigheders overvågningsarbejde gennem oprettelse af en EU-dækkende database for selvstændige højrisiko-AI-systemer, som hovedsagelig vil have konsekvenser for de grundlæggende rettigheder. Databasen forvaltes af Kommissionen og forsynes med data fra udbyderne af AI-systemerne, som skal registrere deres systemer, før de bringes i omsætning eller på anden måde tages i brug. I afsnit VIII fastsættes overvågnings- og rapporteringsforpligtelser for udbydere af AI-systemer med hensyn til overvågning efter omsætning og rapportering og undersøgelse af AI-relaterede hændelser og funktionsfejl. Markedsovervågningsmyndighederne kontrollerer også markedet og undersøger om forpligtelserne og kravene for alle højrisiko-AI-systemer, der allerede er bragt i omsætning, bliver overholdt. Markedsovervågningsmyndighederne vil have alle beføjelser i henhold til forordning (EU) 2019/1020 om markedsovervågning. Efterfølgende håndhævelse bør sikre, at de offentlige myndigheder, når AI-systemet er bragt i omsætning, har beføjelser og ressourcer til at gribe ind i tilfælde af, at AI-systemet skaber uventede risici, der berettiger en hurtig indsats. De vil også overvåge, at operatørerne overholder deres relevante forpligtelser i henhold til forordningen. Forslaget indeholder ikke bestemmelser om automatisk oprettelse af yderligere organer eller myndigheder på medlemsstatsniveau. Medlemsstaterne kan derfor udpege (og trække på ekspertisen hos) eksisterende sektormyndigheder, som også vil få overdraget beføjelser til at overvåge og håndhæve forordningens bestemmelser. Alt dette berører ikke medlemsstaternes eksisterende systemer og tildelinger af beføjelser til efterfølgende håndhævelse af forpligtelser vedrørende grundlæggende rettigheder. Når det er nødvendigt for deres mandat, vil de eksisterende tilsyns- og håndhævelsesmyndigheder også have beføjelse til at anmode om og få adgang til al dokumentation, der opbevares i henhold til denne forordning, og om nødvendigt anmode markedsovervågningsmyndighederne om at tilrettelægge tekniske test af et højrisiko-AI-system. 5.2.7.ADFÆRDSKODEKSER (AFSNIT IX) Med afsnit IX skabes en ramme for udarbejdelse af adfærdskodekser, der har til formål at tilskynde udbydere af AI-systemer, der ikke er højrisikosystemer, til frivilligt at anvende de krav, der er obligatoriske for højrisiko-AI-systemer (som fastsat i afsnit III). Udbyderene af AI-systemer, der ikke er højrisikosystemer, kan selv udarbejde og gennemføre adfærdskodekserne. Disse kodekser kan også på frivillig basis omfatte yderligere forpligtelser vedrørende f.eks. miljømæssig bæredygtighed, tilgængelighed for personer med handicap, interessenters deltagelse i udformningen og udviklingen af AI-systemer og mangfoldighed i udviklingsteamene. 5.2.8.AFSLUTTENDE BESTEMMELSER (AFSNIT X, XI OG XII) I afsnit X understreges alle parters forpligtelse til at respektere fortroligheden af oplysninger og data, og der fastsættes regler for udveksling af oplysninger, der er indhentet i forbindelse med gennemførelsen af forordningen. Afsnit X omfatter også foranstaltninger til at sikre en effektiv gennemførelse af forordningen gennem sanktioner for overtrædelse af bestemmelserne, der er effektive, står i rimeligt forhold til overtrædelsen og har afskrækkende virkning. Afsnit XI indeholder regler for udøvelsen af delegerede beføjelser og gennemførelsesbeføjelser. Med forslaget tillægges Kommissionen beføjelser til om nødvendigt at vedtage gennemførelsesretsakter for at sikre ensartet anvendelse af forordningen eller delegerede retsakter med henblik på at ajourføre eller supplere listerne i bilag I-VII. Afsnit XII omhandler Kommissionens forpligtelse til regelmæssigt at vurdere behovet for en ajourføring af bilag III og til at udarbejde regelmæssige rapporter om evalueringen og revisionen af forordningen. Der fastsættes også afsluttende bestemmelser, herunder en differentieret overgangsperiode for forordningens anvendelsesdato for at lette en gnidningsløs gennemførelse for alle berørte parter. 2021/0106 (COD) Forslag til

EUROPA-PARLAMENTETS OG RÅDETS FORORDNING OM HARMONISEREDE REGLER FOR KUNSTIG INTELLIGENS (RETSAKTEN OM KUNSTIG INTELLIGENS) OG OM ÆNDRING AF VISSE AF UNIONENS LOVGIVNINGSMÆSSIGE RETSAKTER EUROPA-PARLAMENTET OG RÅDET FOR DEN EUROPÆISKE UNION HAR — under henvisning til traktaten om Den Europæiske Unions funktionsmåde, særlig artikel 16 og 114, under henvisning til forslag fra Europa-Kommissionen, efter fremsendelse af udkast til lovgivningsmæssig retsakt til de nationale parlamenter, under henvisning til udtalelse fra Det Europæiske Økonomiske og Sociale Udvalg, under henvisning til udtalelse fra Regionsudvalget, efter den almindelige lovgivningsprocedure, og ud fra følgende betragtninger: (1)Formålet med denne forordning er at forbedre det indre markeds funktion ved at fastlægge ensartede retlige rammer, navnlig for udvikling, markedsføring og anvendelse af kunstig intelligens i overensstemmelse med Unionens værdier. Med denne forordning forfølges en række tvingende almene hensyn, såsom et højt beskyttelsesniveau for sundhed, sikkerhed og grundlæggende rettigheder, og den sikrer fri bevægelighed for AI-baserede varer og tjenesteydelser på tværs af grænserne og forhindrer således medlemsstaterne i at indføre restriktioner for udvikling, markedsføring og anvendelse af AI-systemer, medmindre det udtrykkeligt er tilladt i henhold til denne forordning. (2)Systemer med kunstig intelligens (AI-systemer) kan nemt anvendes i flere sektorer af økonomien og i samfundet, herunder på tværs af grænserne, og cirkulere i hele Unionen. Visse medlemsstater har allerede undersøgt muligheden for nationale regler til sikring af, at kunstig intelligens er sikker, og at den udvikles og anvendes i overensstemmelse med forpligtelserne vedrørende grundlæggende rettigheder. Forskellige nationale regler kan føre til fragmentering af det indre marked og mindske retssikkerheden for operatører, der udvikler eller anvender AI-systemer. Der bør derfor sikres et ensartet og højt beskyttelsesniveau i hele Unionen, samtidig med at forskelle, der hæmmer den frie bevægelighed for AI-systemer og relaterede produkter og tjenesteydelser på det indre marked, bør forhindres ved at fastsætte ensartede forpligtelser for operatører og garantere en ensartet beskyttelse af tvingende almene hensyn og personers rettigheder i hele det indre marked på grundlag af artikel 114 i traktaten om Den Europæiske Unions funktionsmåde (TEUF). For så vidt som denne forordning indeholder specifikke regler om beskyttelse af fysiske personer i forbindelse med behandling af personoplysninger vedrørende begrænsninger i anvendelsen af AI-systemer til biometrisk fjernidentifikation i realtid på offentlige steder med henblik på retshåndhævelse, er det desuden hensigtsmæssigt at basere denne forordning på artikel 16 i TEUF for så vidt angår disse specifikke regler. I lyset af disse specifikke regler og anvendelsen af artikel 16 i TEUF bør Det Europæiske Databeskyttelsesråd høres. (3)Kunstig intelligens er en vifte af teknologier i hurtig udvikling, som kan bidrage til brede økonomiske og samfundsmæssige fordele på tværs af hele spektret af industrier og sociale aktiviteter. Ved at forbedre prognoser, optimere operationer og ressourceallokering og personalisere de digitale løsninger, der er tilgængelige for enkeltpersoner og organisationer, kan anvendelsen af kunstig intelligens give virksomheder vigtige konkurrencemæssige fordele og fremme socialt og miljømæssigt gavnlige resultater, f.eks. inden for sundhedspleje, landbrug, uddannelse, infrastrukturforvaltning, energi, transport og logistik, offentlige tjenester, sikkerhed, retsvæsen, ressource- og energieffektivitet samt modvirkning af og tilpasning til klimaændringer. (4)Samtidig kan kunstig intelligens, afhængigt af omstændighederne med hensyn til dens specifikke anvendelse, skabe risici og skade offentlige interesser og rettigheder, der er beskyttet af EU-retten. Sådan skade kan være af materiel eller immateriel karakter. (5)Der er derfor behov for en EU-retlig ramme, der fastsætter harmoniserede regler for kunstig intelligens, for at fremme udviklingen, anvendelsen og udbredelsen af kunstig intelligens på det indre marked, som samtidig opfylder et højt beskyttelsesniveau for offentlige interesser, såsom sundhed og sikkerhed og beskyttelse af grundlæggende rettigheder, som anerkendt og beskyttet i EU-retten. For at nå dette mål bør der fastsættes regler for markedsføring og ibrugtagning af visse AI-systemer for at sikre et velfungerende indre marked og give disse systemer mulighed for at drage fordel af princippet om fri bevægelighed for varer og tjenesteydelser. Med fastsættelse af reglerne i denne forordning støttes målet om, at Unionen skal være førende på verdensplan inden for udvikling af sikker, pålidelig og etisk kunstig intelligens som anført af Det Europæiske Råd, og der sikres beskyttelse af etiske principper, som Europa-Parlamentet specifikt har anmodet om. (6)Begrebet AI-system bør defineres klart for at sikre retssikkerheden og samtidig være fleksibelt nok til at tage højde for den fremtidige teknologiske udvikling. Definitionen bør baseres på softwarens vigtigste funktionelle karakteristika, navnlig evnen til for et givet sæt mål, der er fastsat af mennesker, at generere output såsom indhold, forudsigelser, anbefalinger eller beslutninger, der påvirker det miljø, som systemet interagerer med, hvad enten det er i en fysisk eller digital dimension. AI-systemer kan udformes med henblik på at fungere med varierende grader af autonomi og kan anvendes selvstændigt eller som en del af et produkt, uanset om systemet er fysisk integreret i produktet (indlejret) eller tjener produktets funktionalitet uden at være integreret deri (ikke indlejret). Definitionen af et AI-system bør suppleres med en liste over specifikke teknikker og tilgange, der anvendes i dets udvikling, og som bør holdes ajour i lyset af den markedsmæssige og teknologiske udvikling gennem Kommissionens vedtagelse af delegerede retsakter med henblik på at ændre denne liste. (7)Begrebet biometriske data, der anvendes i denne forordning, er i overensstemmelse med og bør fortolkes i overensstemmelse med begrebet biometriske data som defineret i artikel 4, stk. 14, i Europa-Parlamentets og Rådets forordning (EU) 2016/679, artikel 3, stk. 18, i Europa-Parlamentets og Rådets forordning (EU) 2018/1725 og artikel 3, stk. 13, i Europa-Parlamentets og Rådets direktiv (EU) 2016/680. (8)Begrebet "system til biometrisk fjernidentifikation" som anvendt i denne forordning bør defineres funktionelt som et AI-system, der har til formål at identificere fysiske personer på afstand ved at sammenligne en persons biometriske data med de biometriske data i en referencedatabase, uden forudgående viden om, hvorvidt målpersonen vil være til stede og kan identificeres, uanset hvilken teknologi, hvilke processer eller hvilke typer biometriske data der anvendes. I betragtning af deres forskellige karakteristika og måder, hvorpå de anvendes, samt de forskellige risici, der er forbundet hermed, bør der skelnes mellem "systemer til biometrisk fjernidentifikation i realtid" og "systemer til efterfølgende biometrisk fjernidentifikation". Hvis der er tale om realtidssystemer, sker optagelsen af de biometriske data, sammenligningen og identifikationen øjeblikkeligt, næsten øjeblikkeligt eller under alle omstændigheder uden væsentlig forsinkelse. I denne forbindelse bør der ikke være mulighed for at omgå denne forordnings bestemmelser om realtidsanvendelse af de pågældende AI-systemer ved at tilføje mindre forsinkelser. Realtidssystemer omfatter anvendelse af direkte eller lettere forskudt materiale såsom videooptagelser, der genereres af et kamera eller en anden anordning med tilsvarende funktioner. Er der derimod tale om systemer til efterfølgende biometrisk fjernidentifikation, optages de biometriske data, og først efter en betydelig forsinkelse finder sammenligningen og identifikationen sted. Der er tale om materiale, såsom billeder eller videooptagelser, der genereres af videoovervågningskameraer eller private enheder, og som er frembragt inden systemets anvendelse for så vidt angår de pågældende fysiske personer. (9)I denne forordning bør begrebet offentlige steder forstås som ethvert fysisk sted, der er tilgængeligt for offentligheden, uanset om det pågældende sted er privatejet eller offentligt ejet. Begrebet omfatter derfor ikke steder af privat karakter, som normalt ikke er frit tilgængelige for tredjeparter, herunder retshåndhævende myndigheder, medmindre disse parter er blevet specifikt inviteret eller bemyndiget, såsom boliger, private klubber, kontorer, lagerbygninger og fabrikker. Online steder er heller ikke omfattet, da der ikke er tale om fysiske steder. Det forhold, at der kan være visse betingelser for adgang til et bestemt sted, såsom entrébilletter eller aldersbegrænsninger, betyder imidlertid ikke i sig selv, at stedet ikke er offentligt som defineret i denne forordning. Ud over offentlige steder som gader, relevante dele af offentlige bygninger og de fleste transportinfrastrukturer er steder som f.eks. biografer, teatre, butikker og indkøbscentre derfor normalt også offentlige. Om et givet sted betragtes som offentligt, bør imidlertid afgøres fra sag til sag under hensyntagen til de særlige forhold i den enkelte situation. (10)For at sikre lige vilkår og en effektiv beskyttelse af fysiske personers rettigheder og friheder i hele Unionen bør de regler, der fastsættes ved denne forordning, finde anvendelse på udbydere af AI-systemer på en ikkediskriminerende måde, uanset om de er etableret i Unionen eller i et tredjeland, og på brugere af AI-systemer, der er etablerede i Unionen.

(11)I betragtning af deres digitale karakter bør visse AI-systemer være omfattet af denne forordnings anvendelsesområde, selv om de hverken bringes i omsætning, ibrugtages eller anvendes i Unionen. Dette er f.eks. tilfældet for en operatør, der er etableret i Unionen, og som indgår kontrakter om visse tjenesteydelser med en operatør, der er etableret uden for Unionen, i forbindelse med en aktivitet, der skal udføres af et AI-system, der kan betegnes som højrisiko, og som har virkninger for fysiske personer i Unionen. Under disse omstændigheder kunne det AI-system, der anvendes af operatøren uden for Unionen, behandle data, der lovligt er indsamlet i og overført fra Unionen, og levere outputtet fra dette AI-systems behandling til den kontraherende operatør i Unionen, uden at dette AI-system bringes i omsætning, ibrugtages eller anvendes i Unionen. For at forhindre omgåelse af denne forordning og sikre en effektiv beskyttelse af fysiske personer i Unionen, bør denne forordning også finde anvendelse på udbydere og brugere af AI-systemer, der er etableret i et tredjeland, i det omfang det output, der produceres af disse systemer, anvendes i Unionen. For at tage hensyn til eksisterende ordninger og særlige behov for samarbejde med udenlandske partnere, med hvem der udveksles oplysninger og bevismateriale, bør denne forordning ikke finde anvendelse på offentlige myndigheder i et tredjeland og internationale organisationer, når disse handler inden for rammerne af internationale aftaler indgået på nationalt eller europæisk plan om retshåndhævelse og retligt samarbejde med Unionen eller med dens medlemsstater. Sådanne aftaler er indgået bilateralt mellem medlemsstaterne og tredjelande eller mellem Den Europæiske Union, Europol og andre EU-agenturer og tredjelande og internationale organisationer. (12)Denne forordning bør også finde anvendelse på Unionens institutioner, kontorer, organer og agenturer, når de fungerer som udbyder eller bruger af et AI-system. AI-systemer, der udelukkende udvikles eller anvendes til militære formål, bør ikke omfattes af denne forordnings anvendelsesområde, hvis anvendelsen henhører under den fælles udenrigs- og sikkerhedspolitik, der er reguleret i afsnit V i traktaten om Den Europæiske Union (TEU). Denne forordning berører ikke bestemmelserne om formidleransvar for tjenesteydere i Europa-Parlamentets og Rådets direktiv 2000/31/EF [som ændret ved retsakten om digitale tjenester]. (13)For at sikre et ensartet højt beskyttelsesniveau for offentlige interesser med hensyn til sundhed, sikkerhed og grundlæggende rettigheder bør der fastsættes fælles normgivende standarder for alle højrisiko-AI-systemer. Disse standarder bør være i overensstemmelse med Den Europæiske Unions charter om grundlæggende rettigheder (chartret) og bør være ikke-diskriminerende og i overensstemmelse med Unionens internationale handelsforpligtelser. (14)For at indføre et proportionalt og effektivt sæt bindende regler for AI-systemer bør der anvendes en klart defineret risikobaseret tilgang. Denne tilgang bør tilpasse typen og indholdet af sådanne regler til graden og omfanget af de risici, som AI-systemer kan generere. Det er derfor nødvendigt at forbyde visse former for praksis med hensyn til kunstig intelligens, at fastsætte krav til højrisiko-AI-systemer og forpligtelser for de relevante operatører og at fastsætte gennemsigtighedsforpligtelser for visse AI-systemer. (15)Ud over de mange nyttige anvendelser af kunstig intelligens kan teknologien også misbruges og resultere i nye og effektive værktøjer til manipulativ, udnyttende og socialt kontrollerende praksis. Sådan praksis er særlig skadelig og bør forbydes, fordi den er i modstrid med Unionens værdier om respekt for menneskelig værdighed, frihed, ligestilling, demokrati og retsstatsprincippet og med Unionens grundlæggende rettigheder, herunder retten til beskyttelse mod forskelsbehandling, retten til databeskyttelse, retten til privatlivets fred og børns rettigheder. (16)Omsætning, ibrugtagning eller anvendelse af visse AI-systemer, der har til formål at forvride menneskers adfærd, og hvor der er sandsynlighed for fysiske eller psykiske skader, bør forbydes. Sådanne AI-systemer anvender subliminale komponenter, som mennesker ikke kan opfatte, eller de udnytter børns og voksnes sårbarheder på baggrund af alder eller fysisk eller mentalt handicap. De gør dette med den hensigt i væsentlig grad at forvride en persons adfærd og på en måde, der forvolder eller sandsynligvis vil forvolde den pågældende eller en anden person skade. Hensigten kan ikke formodes, hvis forvrængningen af menneskelig adfærd skyldes faktorer, som ligger uden for AI-systemet og uden for udbyderens eller brugerens kontrol. Legitim forskning i forbindelse med sådanne AI-systemer bør ikke hæmmes af forbuddet, hvis sådan forskning ikke anvender AI-systemet i forholdet mellem menneske og maskine på en måde, som udsætter fysiske personer for skade, og hvis sådan forskning udføres i overensstemmelse med anerkendte etiske standarder for videnskabelig forskning. (17)AI-systemer, der af offentlige myndigheder eller på deres vegne gør generel brug af sociale pointsystemer på fysiske personer, kan føre til diskriminerende resultater og udelukkelse af visse grupper. De kan dermed krænke retten til værdighed og retten til beskyttelse mod forskelsbehandling og værdierne lighed og retfærdighed. Sådanne AI-systemer evaluerer eller klassificerer fysiske personers troværdighed på grundlag af deres sociale adfærd i flere sammenhænge eller kendte eller forudsagte personlige egenskaber eller personlighedstræk. Det sociale pointsystem, der anvendes i sådanne AI-systemer, kan føre til en skadelig eller ugunstig behandling af fysiske personer eller hele grupper heraf i sociale sammenhænge, som ikke har noget at gøre med den sammenhæng, i hvilken dataene oprindeligt blev genereret eller indsamlet, eller til en skadelig behandling, der er uforholdsmæssig eller uberettiget i forhold til alvoren af deres sociale adfærd. Sådanne AI-systemer bør derfor forbydes. (18)Anvendelsen af AI-systemer til biometrisk fjernidentifikation i realtid af fysiske personer på offentlige steder med henblik på retshåndhævelse anses for at være særligt indgribende i de berørte personers rettigheder og friheder, for så vidt som det kan påvirke privatlivets fred for en stor del af befolkningen, skabe en følelse af konstant overvågning og indirekte afskrække fra udøvelsen af forsamlingsfriheden og andre grundlæggende rettigheder. Desuden indebærer den øjeblikkelige virkning og de begrænsede muligheder for yderligere kontrol eller justeringer i forbindelse med anvendelsen af systemer, der fungerer i realtid, øgede risici for rettigheder og friheder for de personer, der er berørt af retshåndhævelsesaktiviteterne. (19)Anvendelsen af disse systemer med henblik på retshåndhævelse bør derfor forbydes, undtagen i tre udtømmende opregnede og snævert definerede situationer, hvor anvendelsen er strengt nødvendig for at opfylde en væsentlig samfundsinteresse, hvis betydning vejer tungere end risiciene. Disse situationer omfatter eftersøgning af potentielle ofre for kriminalitet, herunder forsvundne børn, visse trusler mod fysiske personers liv eller fysiske sikkerhed eller om et terrorangreb, samt afsløring, lokalisering, identifikation eller retsforfølgning af gerningsmænd, der har begået, eller af personer, der mistænkes for at have begået, strafbare handlinger, der er omhandlet i Rådets rammeafgørelse 2002/584/JHA, og som i den pågældende medlemsstat kan straffes med frihedsstraf eller en anden frihedsberøvende foranstaltning af en maksimal varighed på mindst tre år som fastsat i denne medlemsstats lovgivning. En sådan tærskel for frihedsstraf eller anden frihedsberøvende foranstaltning i overensstemmelse med national ret bidrager til at sikre, at lovovertrædelsen er af tilstrækkelig alvorlig karakter til potentielt at berettige anvendelsen af systemer til biometrisk fjernidentifikation i realtid. Desuden er nogle af de 32 strafbare handlinger, der er opregnet i Rådets rammeafgørelse 2002/584/JHA, i praksis mere relevante end andre, idet anvendelsen af biometrisk fjernidentifikation i realtid sandsynligvis vil være nødvendig og rimelig i meget varierende grad for afsløring, lokalisering, identifikation eller retsforfølgning af en gerningsmand, der har begået, eller af en person, der mistænkes for at have begået, strafbare handlinger, der er opført på listen, og under hensyntagen til de sandsynlige forskelle i lovovertrædelsens alvor, omfang eller mulige negative konsekvenser. (20)For at sikre, at disse systemer anvendes på en ansvarlig og rimelig måde, er det også vigtigt at fastslå, at der i hver af disse tre udtømmende opregnede og snævert definerede situationer bør tages hensyn til visse elementer, navnlig med hensyn til situationens karakter, som ligger til grund for anmodningen, og konsekvenserne af anvendelsen for alle berørte personers rettigheder og friheder samt de garantier og betingelser, der er fastsat for brugen. Anvendelsen af systemer til biometrisk fjernidentifikation i realtid på offentlige steder med henblik på retshåndhævelse bør desuden underlægges passende begrænsninger i tid og sted, navnlig med hensyn til beviser eller indikationer vedrørende truslerne, ofrene eller gerningsmanden. Referencedatabasen over personer bør være passende for hvert enkelt anvendelsestilfælde i hver af de tre ovennævnte situationer. (21)Enhver anvendelse af et system til biometrisk fjernidentifikation i realtid på offentlige steder med henblik på retshåndhævelse bør være betinget af en udtrykkelig og specifik tilladelse fra en judiciel myndighed eller en uafhængig administrativ myndighed i en medlemsstat. En sådan tilladelse bør i princippet indhentes forud for anvendelsen, undtagen i behørigt begrundede hastende tilfælde, dvs. situationer, hvor behovet for at anvende de pågældende systemer er af en sådan art, at det er praktisk og objektivt umuligt at opnå en tilladelse, inden anvendelsen påbegyndes. I sådanne hastende situationer bør anvendelsen begrænses til det absolut nødvendige minimum og være underlagt passende garantier og betingelser som fastsat i national ret og præciseret af den retshåndhævende myndighed selv i forbindelse med hver enkelt hastesag. Desuden bør den retshåndhævende myndighed i sådanne situationer søge at opnå en tilladelse så hurtigt som muligt og samtidig begrunde, hvorfor den ikke har været i stand til at anmode om den tidligere. (22)Endvidere bør det inden for denne forordnings udtømmende rammer fastsættes, at en sådan anvendelse på en medlemsstats område i overensstemmelse med denne forordning kun bør være mulig, hvis og i det omfang den pågældende medlemsstat har besluttet udtrykkeligt at give mulighed for at tillade en sådan anvendelse i sine detaljerede bestemmelser i national ret. Det står derfor medlemsstaterne frit for i henhold til denne forordning slet ikke at fastsætte en sådan mulighed eller kun at fastsætte en sådan mulighed med hensyn til nogle af de forhold, der i henhold til denne forordning kan begrunde en godkendt anvendelse. (23)Anvendelsen af AI-systemer til biometrisk fjernidentifikation i realtid af fysiske personer på offentlige steder med henblik på retshåndhævelse indebærer nødvendigvis behandling af biometriske data. De bestemmelser i denne forordning, der med forbehold af visse undtagelser forbyder en sådan anvendelse, der er baseret på artikel 16 i TEUF, bør finde anvendelse som lex specialis for så vidt angår reglerne om behandling af biometriske data i artikel 10 i direktiv (EU) 2016/680 og således regulere anvendelsen og behandlingen af biometriske data på en udtømmende måde. En sådan anvendelse og behandling bør derfor kun være mulig i det omfang, det er foreneligt med den ramme, der er fastsat i denne forordning, uden at der uden for denne ramme er mulighed for, at de kompetente myndigheder, når de handler med henblik på retshåndhævelse, kan anvende sådanne systemer og i forbindelse hermed behandle sådanne data af de grunde, der er anført i artikel 10 i direktiv (EU) 2016/680. I denne sammenhæng har denne forordning ikke til formål at tilvejebringe retsgrundlaget for behandling af personoplysninger i henhold til artikel 8 i direktiv 2016/680. Anvendelsen af systemer til biometrisk fjernidentifikation i realtid på offentlige steder til andre formål end retshåndhævelse, herunder af kompetente myndigheder, bør imidlertid ikke være omfattet af den specifikke ramme for en sådan anvendelse med henblik på retshåndhævelse som fastsat i denne forordning. En sådan anvendelse til andre formål end retshåndhævelse bør derfor ikke være underlagt kravet om en tilladelse i henhold til denne forordning og de gældende detaljerede bestemmelser i national ret, der kan give den virkning. (24)Enhver behandling af biometriske data og andre personoplysninger, der benyttes i forbindelse med anvendelsen af AI-systemer til biometrisk identifikation, undtagen i forbindelse med anvendelsen af systemer til biometrisk fjernidentifikation i realtid på offentlige steder med henblik på retshåndhævelse som reguleret ved denne forordning, herunder når disse systemer anvendes af kompetente myndigheder på offentlige steder til andre formål end retshåndhævelse, bør fortsat opfylde alle krav, der følger af artikel 9, stk. 1, i forordning (EU) 2016/679, artikel 10, stk. 1, i forordning (EU) 2018/1725 og artikel 10 i direktiv (EU) 2016/680, alt efter hvad der er relevant. (25)I medfør af artikel 6a i protokol nr. 21 om Det Forenede Kongeriges og Irlands stilling, for så vidt angår området med frihed, sikkerhed og retfærdighed, der er knyttet som bilag til TEU og TEUF, er Irland ikke bundet af regler fastsat i artikel 5, stk. 1, litra d), stk. 2 og stk. 3 i denne forordning, der er vedtaget på grundlag af artikel 16 i TEUF vedrørende medlemsstaternes behandling af personoplysninger under udøvelsen af aktiviteter, der er omfattet af tredje del, afsnit V, kapitel 4 eller 5, i TEUF, når Irland ikke er bundet af regler vedrørende former for strafferetligt samarbejde eller politisamarbejde, der kræver overholdelse af de bestemmelser, der er fastsat på grundlag af artikel 16 i TEUF. (26)I medfør af artikel 2 og 2a i protokol nr. 22 om Danmarks stilling, der er knyttet som bilag til TEU og TEUF, er de regler, der er fastsat i artikel 5, stk. 1, litra d), stk. 2 og stk. 3 i denne forordning, der er vedtaget på grundlag af artikel 16 i TEUF vedrørende medlemsstaternes behandling af personoplysninger under udøvelsen af aktiviteter, der er omfattet af tredje del, afsnit V, kapitel 4 eller 5, i TEUF, ikke bindende for og finder ikke anvendelse i Danmark. (27)Højrisiko-AI-systemer bør kun bringes i omsætning på EU-markedet eller tages i brug, hvis de opfylder visse obligatoriske krav. Disse krav bør sikre, at højrisiko-AI-systemer, der er tilgængelige i Unionen, eller hvis output på anden måde anvendes i Unionen, ikke udgør uacceptable risici for vigtige offentlige interesser i Unionen som anerkendt og beskyttet i EU-retten. AI-systemer, der er identificeret som indebærende høj risiko, bør begrænses til systemer, der har en betydelig skadelig indvirkning på menneskers sundhed, sikkerhed og grundlæggende rettigheder i Unionen, og sådanne begrænsninger minimerer eventuelle potentielle restriktioner for den internationale handel. (28)AI-systemer kan forårsage negative virkninger for menneskers sundhed og sikkerhed, navnlig når sådanne systemer fungerer som produktkomponenter. I overensstemmelse med målene for EU-harmoniseringslovgivningen om at lette den frie bevægelighed for produkter i det indre marked og sørge for, at kun sikre produkter, der opfylder kravene, kommer ind på markedet, er det vigtigt, at de sikkerhedsrisici, som et produkt som helhed kan udgøre på grund af dets digitale komponenter, herunder AI-systemer, behørigt forebygges og afbødes. F.eks. bør stadig mere autonome robotter, hvad enten det er i forbindelse med fremstilling eller personlig bistand og pleje, være i stand til at operere sikkert og udføre deres funktioner i komplekse miljøer. Også i sundhedssektoren, hvor det drejer sig direkte om liv og sundhed, bør stadig mere avancerede diagnosesystemer og systemer, der understøtter menneskers beslutninger, være pålidelige og nøjagtige. Omfanget af et AI-systems negative indvirkning på de grundlæggende rettigheder, der er beskyttet af chartret, er særlig relevant, når et AI-system klassificeres som et højrisikosystem. Disse rettigheder omfatter retten til menneskelig værdighed, respekt for privatliv og familieliv, beskyttelse af personoplysninger, ytrings- og informationsfrihed, forsamlings- og foreningsfrihed og ikkeforskelsbehandling, forbrugerbeskyttelse, arbejdstagerrettigheder, rettigheder for personer med handicap, adgang til effektive retsmidler og til en retfærdig rettergang, retten til et forsvar og uskyldsformodningen samt retten til god forvaltning. Ud over disse rettigheder er det vigtigt at fremhæve, at børn har specifikke rettigheder som fastsat i artikel 24 i EU's charter og i De Forenede Nationers konvention om barnets rettigheder (yderligere uddybet i FN's børnekonvention, generel bemærkning nr. 25 vedrørende det digitale miljø), som begge kræver, at der tages hensyn til børns sårbarhed, og at der ydes den beskyttelse og omsorg, der er nødvendig for deres trivsel. Den grundlæggende ret til et højt miljøbeskyttelsesniveau, der er nedfældet i chartret og gennemført i Unionens politikker, bør også tages i betragtning ved vurderingen af alvoren af den skade, som et AI-system kan forårsage, herunder i forbindelse med menneskers sundhed og sikkerhed. (29)For så vidt angår højrisiko-AI-systemer, der er sikkerhedskomponenter i produkter eller systemer, eller som selv er produkter eller systemer, der er omfattet af anvendelsesområdet for Europa-Parlamentets og Rådets forordning (EF) nr. 300/2008, Europa-Parlamentets og Rådets forordning (EU) nr. 167/2013, Europa-Parlamentets og Rådets forordning (EU) nr. 168/2013, Europa-Parlamentets og Rådets direktiv 2014/90/EU, Europa-Parlamentets og Rådets direktiv (EU) 2016/797, Europa-Parlamentets og Rådets forordning (EU) 2018/858, Europa-Parlamentets og Rådets forordning (EU) 2018/1139 og Europa-Parlamentets og Rådets forordning (EU) 2019/2144, bør disse retsakter ændres for at sikre, at Kommissionen, på grundlag af de særlige tekniske og reguleringsmæssige forhold i hver enkelt sektor og uden at intervenere i de eksisterende forvaltnings-, overensstemmelsesvurderings- og håndhævelsesmekanismer og de myndigheder, der er fastsat heri, tager hensyn til de obligatoriske krav til højrisiko-AI-systemer, der er fastsat i denne forordning, når den vedtager relevante fremtidige delegerede retsakter eller gennemførelsesretsakter på grundlag af disse retsakter. (30)For så vidt angår AI-systemer, der er sikkerhedskomponenter i produkter, eller som selv er produkter, der er omfattet af anvendelsesområdet for visse EU-harmoniseringsretsakter, er det hensigtsmæssigt at klassificere dem som højrisikosystemer i henhold til denne forordning, hvis det pågældende produkt overensstemmelsesvurderes af en tredjeparts overensstemmelsesvurderingsorgan i henhold til den relevante EU-harmoniseringslovgivning. Sådanne produkter er navnlig maskiner, legetøj, elevatorer, materiel og sikringssystemer til anvendelse i eksplosionsfarlig atmosfære, radioudstyr, trykudstyr, udstyr til fritidsfartøjer, tovbaneanlæg, gasapparater, medicinsk udstyr og in vitro-diagnostisk medicinsk udstyr.

(31)Klassificeringen af et AI-system som et højrisikosystem i henhold til denne forordning bør ikke nødvendigvis betyde, at det produkt, hvori AI-systemet indgår som sikkerhedskomponent, eller selve AI-systemet, når det betragtes som et produkt, anses for at have høj risiko i henhold til de kriterier, der er fastsat i den relevante EU-harmoniseringslovgivning, der finder anvendelse på produktet. Dette er navnlig tilfældet med Europa-Parlamentets og Rådets forordning (EU) 2017/745 og Europa-Parlamentets og Rådets forordning (EU) 2017/746, hvor en tredjepart foretager overensstemmelsesvurderinger af mellemrisiko- og højrisikoprodukter. (32)Selvstændige AI-systemer, dvs. andre højrisiko-AI-systemer end dem, der er sikkerhedskomponenter i produkter, eller som selv er produkter, bør klassificeres som højrisikosystemer, hvis de set i lyset af deres tilsigtede formål udgør en høj risiko for skade på menneskers sundhed og sikkerhed eller grundlæggende rettigheder, idet der tages hensyn til både sandsynligheden for den mulige skade og dens alvorlighed, og hvis de anvendes på en række specifikt foruddefinerede områder, der er angivet i forordningen. Disse systemer udpeges ved hjælp af den samme metode og ud fra de samme kriterier som i forbindelse med eventuelle fremtidige ændringer af listen over højrisiko-AI-systemer. (33)Tekniske unøjagtigheder i AI-systemer, der er beregnet til biometrisk fjernidentifikation af fysiske personer, kan føre til skæve resultater og have diskriminerende virkning. Det gælder særligt med hensyn til alder, etnicitet, køn og handicap. Derfor bør systemer til biometrisk fjernidentifikation i realtid og efterfølgende biometrisk fjernidentifikation klassificeres som højrisikosystemer. I betragtning af de risici, systemerne udgør, bør begge typer af systemer til biometrisk fjernidentifikation være underlagt specifikke krav med hensyn til logningskapacitet og menneskeligt tilsyn. (34)For så vidt angår forvaltning og drift af kritisk infrastruktur bør AI-systemer, der er beregnet til anvendelse som sikkerhedskomponenter i forvaltningen og driften af vejtrafik og forsyning af vand, gas, varme og elektricitet, klassificeres som højrisikosystemer, da svigt eller funktionsfejl i disse systemer kan bringe menneskers liv og sundhed i fare i stort omfang og føre til betydelige forstyrrelser i de sociale og økonomiske aktiviteter. (35)AI-systemer, der anvendes inden for uddannelse eller erhvervsuddannelse, navnlig til optagelse eller fordeling af personer på uddannelsesinstitutioner eller til at evaluere personer i forbindelse med prøver som en del af eller som en forudsætning for deres uddannelse, bør betragtes som højrisikosystemer, da de kan afgøre menneskers uddannelsesmæssige og arbejdsmæssige livsforløb og dermed påvirke deres evne til at sikre sig et livsgrundlag. Hvis sådanne systemer udformes og anvendes forkert, kan de krænke retten til uddannelse og retten til ikke at blive forskelsbehandlet samt opretholde historiske diskriminationsmønstre. (36)AI-systemer, der anvendes inden for beskæftigelse, forvaltning af arbejdskraft og adgang til selvstændig erhvervsvirksomhed, navnlig til rekruttering og udvælgelse af personer og til beslutningstagning om forfremmelse og afskedigelse og til opgavefordeling, overvågning og evaluering af personer i arbejdsmæssige kontraktforhold, bør også klassificeres som højrisikosystemer, da de kan påvirke menneskers fremtidige karrieremuligheder og livsgrundlag betydeligt. De relevante arbejdsmæssige kontraktforhold bør omfatte ansatte og personer, der leverer tjenesteydelser via platforme som omhandlet i Kommissionens arbejdsprogram for 2021. Sådanne personer bør i princippet ikke betragtes som brugere som defineret i denne forordning. Gennem hele rekrutteringsprocessen og i forbindelse med evaluering, forfremmelse eller fastholdelse af personer i arbejdsmæssige kontraktforhold kan sådanne systemer opretholde historiske diskriminationsmønstre, f.eks. mod kvinder, bestemte aldersgrupper, personer med handicap eller personer af bestemt racemæssig eller etnisk oprindelse eller med en bestemt seksuel orientering. AI-systemer, der anvendes til at overvåge disse personers præstationer og adfærd, kan også påvirke deres ret til databeskyttelse og ret til privatlivets fred. (37)Et andet område, hvor anvendelsen af AI-systemer kræver særlig opmærksomhed, er adgangen til og benyttelsen af visse væsentlige private og offentlige tjenester og de fordele, der er nødvendige for, at mennesker kan deltage fuldt ud i samfundet eller forbedre deres levestandard. Navnlig bør AI-systemer, der anvendes til at evaluere kreditvurderinger eller kreditværdigheden af fysiske personer, klassificeres som højrisiko-AI-systemer, da de afgør menneskers adgang til finansielle ressourcer eller væsentlige tjenester såsom bolig, elektricitet og telekommunikationstjenester. AI-systemer, der anvendes til dette formål, kan føre til forskelsbehandling af personer eller grupper og opretholde historiske diskriminationsmønstre, f.eks. på grundlag af racemæssig eller etnisk oprindelse, handicap, alder eller seksuel orientering, eller være med til at skabe nye former for diskriminerende virkninger. I betragtning af den meget begrænsede indvirkning og de alternativer, der er tilgængelige på markedet, bør AI-systemer, der anvendes i forbindelse med kreditvurderinger og vurdering af kreditværdighed, undtages, når de tages i brug af mindre udbydere til egen brug. Fysiske personer, der ansøger om eller modtager offentlige bistandsydelser og tjenester fra offentlige myndigheder, er typisk afhængige af sådanne ydelser og tjenester og befinder sig i en sårbar situation i forhold til de ansvarlige myndigheder. Hvis der anvendes AI-systemer til at afgøre, om der skal gives afslag på sådanne ydelser og tjenester, eller om de skal reduceres, ophæves eller tilbagekræves af myndighederne, kan systemerne have en betydelig indvirkning på menneskers livsgrundlag og krænke deres grundlæggende rettigheder såsom retten til social beskyttelse, ikkeforskelsbehandling, menneskelig værdighed eller adgang til effektive retsmidler. Sådanne systemer bør derfor klassificeres som højrisikosystemer. Ikke desto mindre bør denne forordning ikke hindre udviklingen eller anvendelsen af innovative tilgange i den offentlige forvaltning, som vil kunne drage fordel af en bredere anvendelse af AI-systemer, der er i overensstemmelse med reglerne og er sikre, forudsat at de ikke indebærer en høj risiko for juridiske og fysiske personer. Endelig bør AI-systemer, der anvendes til at sende beredskabstjenester i nødsituationer eller til at tildele prioriteter i forbindelse hermed, også klassificeres som højrisikosystemer, da de træffer beslutninger i situationer, der er meget kritiske for menneskers liv og sundhed og for deres ejendom. (38)Retshåndhævende myndigheders handlinger, der omfatter visse anvendelser af AI-systemer, er kendetegnet ved en betydelig ubalance i magtforholdet og kan føre til overvågning, anholdelse eller frihedsberøvelse af fysiske personer samt have andre negative indvirkninger på de grundlæggende rettigheder, der er sikret i chartret. Navnlig kan AI-systemer udvælge personer på diskriminerende eller på anden måde ukorrekt eller uretfærdig vis, hvis de ikke er trænet med data af høj kvalitet, ikke opfylder passende krav med hensyn til nøjagtighed og robusthed eller ikke er korrekt udformede og afprøvet, før de bringes i omsætning eller på anden måde tages i brug. Desuden kan udøvelsen af vigtige grundlæggende processuelle rettigheder såsom retten til adgang til effektive retsmidler, retten til en retfærdig rettergang og retten til et forsvar samt uskyldsformodningen hindres, navnlig hvis sådanne AI-systemer ikke er tilstrækkeligt gennemsigtige, forklarlige og dokumenterede. Derfor bør en række AI-systemer, der er beregnet til anvendelse i retshåndhævelsesmæssig sammenhæng, hvor det er særlig vigtigt med nøjagtighed, pålidelighed og gennemsigtighed for at undgå negative virkninger, bevare offentlighedens tillid og sikre ansvarlighed og effektive retsmidler, klassificeres som højrisikosystemer. I betragtning af de pågældende aktiviteters karakter og de risici, der er forbundet med dem, bør disse højrisiko-AI-systemer navnlig omfatte AI-systemer, der er beregnet til at blive anvendt af retshåndhævende myndigheder til individuelle risikovurderinger, polygrafer og lignende værktøjer, påvisning af fysiske personers følelsesmæssige tilstand, afsløring af deepfake-indhold, vurdering af pålideligheden af bevismateriale i straffesager, forudsigelse af forekomsten eller gentagelsen af en faktisk eller potentiel strafbar handling ud fra profilering af fysiske personer, vurdering af fysiske personers eller gruppers personlighedstræk og personlige egenskaber eller tidligere kriminelle adfærd, profilering i forbindelse med afsløring, efterforskning eller retsforfølgelse af strafbare handlinger samt kriminalanalyser vedrørende fysiske personer. AI-systemer, der specifikt er beregnet til skatte- og toldmyndigheders administrative procedurer, bør ikke betragtes som højrisiko-AI-systemer, der anvendes af retshåndhævende myndigheder med henblik på forebyggelse, afsløring, efterforskning og retsforfølgning af strafbare handlinger. (39)AI-systemer, der anvendes inden for migrationsstyring, asylforvaltning og grænsekontrol, berører personer, der ofte befinder sig i en særlig sårbar situation, og som er afhængige af resultatet af de kompetente offentlige myndigheders handlinger. I AI-systemer, der anvendes i disse sammenhænge, er nøjagtighed, gennemsigtighed og systemets ikkediskriminerende karakter derfor særlig vigtige med hensyn til at sikre, at de berørte personers grundlæggende rettigheder beskyttes, navnlig deres ret til fri bevægelighed, beskyttelse mod forskelsbehandling, beskyttelse af privatlivets fred og personoplysninger, international beskyttelse og god forvaltning. Derfor bør de AI-systemer, der er beregnet til at blive anvendt af de kompetente offentlige myndigheder, der er ansvarlige for opgaver inden for migrationsstyring, asylforvaltning og grænsekontrol, som polygrafer og lignende værktøjer eller til at påvise en fysisk persons følelsesmæssige tilstand, vurdere visse risici, som fysiske personer, der indrejser til en medlemsstats område eller ansøger om visum eller asyl, udgør, kontrollere ægtheden af fysiske personers relevante dokumenter, bistå de kompetente offentlige myndigheder i behandlingen af ansøgninger om asyl, visum og opholdstilladelse og hertil relaterede klager med henblik på at fastslå, om de fysiske personer, der ansøger, er berettigede, klassificeres som højrisikosystemer. AI-systemer, der anvendes inden for migrationsstyring, asylforvaltning og grænsekontrol, og som er omfattet af denne forordning, bør opfylde de relevante proceduremæssige krav i Europa-Parlamentets og Rådets direktiv 2013/32/EU, Europa-Parlamentets og Rådets forordning (EF) nr. 810/2009 og anden relevant lovgivning. (40)Visse AI-systemer, der er beregnet til anvendelse inden for retspleje og i demokratiske processer, bør klassificeres som højrisikosystemer i betragtning af deres potentielt betydelige indvirkning på demokratiet, retsstatsprincippet, individets frihedsrettigheder samt retten til adgang til effektive retsmidler og retten til en retfærdig rettergang. Navnlig for at imødegå risikoen for forudindtagethed, fejl og uigennemsigtighed bør de AI-systemer, der har til formål at bistå retlige myndigheder med at undersøge og fortolke fakta og lovgivningen og anvende lovgivningen i konkrete, faktuelle sager, klassificeres som højrisikosystemer. Denne kvalificering bør dog ikke omfatte AI-systemer, der er beregnet til rent supplerende administrative aktiviteter, som ikke har indflydelse på den egentlige retspleje i de enkelte sager, som f.eks. anonymisering eller pseudonymisering af retsafgørelser, dokumenter eller data, kommunikation mellem personale, administrative opgaver eller fordeling af ressourcer. (41)Klassificeringen af et AI-system som et højrisikosystem i henhold til denne forordning bør ikke fortolkes således, at anvendelsen af systemet nødvendigvis er lovlig i henhold til andre EU-retsakter eller national lovgivning, der er forenelig med EU-retten, f.eks. lovgivning om beskyttelse af personoplysninger, brug af polygrafer og lignende værktøjer eller andre systemer til at påvise fysiske personers følelsesmæssige tilstand. Enhver sådan anvendelse bør fortsat udelukkende ske i overensstemmelse med de gældende krav, der følger af chartret og de gældende afledte EU-retsforskrifter og national ret. Denne forordning bør ikke forstås som et retsgrundlag for behandling af personoplysninger, herunder særlige kategorier af per