Inom ramen för ett särskilt finansieringssystem – programmet för medborgare, jämlikhet, rättigheter och värden – skapade kommissionen nya möjligheter för nationella, regionala och lokala myndigheter att få finansiering till projekt som främjar en kultur av värden och ökar kännedomen om stadgan . Städer spelar en viktig roll i att främja en sådan kultur och skydda grundläggande rättigheter. Ett antal städer har gått med i ett nätverk av ”städer för mänskliga rättigheter” och införlivat grundläggande rättigheter i sitt politiska beslutsfattande. FRA gav ut en rapport med titeln Human Rights Cities in the EU: a framework for reinforcing rights locally vid sitt forum för grundläggande rättigheter i oktober 2021 . Ramen innehåller verktyg för att hjälpa borgmästare/kommunalråd, lokala styren och förvaltningar samt gräsrotsorganisationer att införliva normer för mänskliga rättigheter i sitt arbete. Som en uppföljning till EU:s handlingsplan mot rasism 2020–2025 drog kommissionen igång en ”prisutdelning till europeiska inkluderings- och mångfaldshuvudstäder” i november 2021. Där kommer det att delas ut priser till bästa praxis som kan tjäna som inspiration till andra europeiska städer, kommuner och regioner som vill skapa mer mångsidiga och inkluderande miljöer för sina invånare.

5.Skydd för grundläggande rättigheter när AI används

Att använda teknik med artificiell intelligens (AI) kan ha betydande positiv inverkan på våra samhällen. Den kan göra processerna mer effektiva eller driva på innovation och forskning. Den kan också användas för att främja ett antal av de grundläggande rättigheterna, såsom rätten till yttrande- och informationsfrihet eller hälso- och sjukvård, och den kan gynna viktiga frågor av allmänt intresse, som allmän säkerhet eller folkhälsa.

När AI å andra sidan används utan adekvata säkerhetsåtgärder och kvalitetskontroller för att automatisera eller underbygga beslutsförfaranden, eller för sådana verksamheter som övervakning, kan detta också överträda individers rättigheter. Sådana överträdelser kan förekomma i stor skala, beroende på hur omfattande ett system är, och de kan vara svåra att förebygga eller upptäcka när AI-systemet inte är tillräckligt insynsvänligt eller folk förblir omedvetna om att det används. Att exempelvis använda AI för att få fram information om personer kan påverka skyddet av personuppgifter och privatlivet/integriteten. Snedvridning i algoritmer eller träningsdata, såsom könssnedvridning eller snedvridning gällande ras eller etniskt ursprung, kan leda till orättvisa och diskriminerande resultat. Om ett system för att uppskatta potentiell framgång på arbetet är till största delen tränat med data om män, presterar det sannolikt mindre bra när det används för att analysera data om kvinnor, vilket troligen leder till diskriminering. Användningen av AI kan även påverka rättigheterna till mänsklig värdighet, god förvaltning, konsumentskydd, social trygghet och socialt stöd, yttrandefrihet, mötesfrihet, utbildning, asyl, förhandlingsrätt och rätt till kollektiva åtgärder, rättvisa arbetsförhållanden, tillgång till förebyggande hälsovård, kulturell och språklig mångfald, rätt till skydd av personuppgifter och respekt för privatlivet samt rättigheterna för sårbara grupper som barn. Om systemen används i samband med brottsbekämpning eller rättsväsende, kan de också påverka oskuldspresumtionen och rätten till opartisk domstol och försvar. Om det sedan är svårt att få tillgång till relevant information om automatiserade system, eller det inte finns någon, blir det svårt att ändamålsenligt uppfylla skyldigheter som rör grundläggande rättigheter och att enskilda personer får tillgång till rättsmedel.

Vad är AI och vilka är de särskilda egenskaper som kan leda till risker?



– AI är ett begrepp för en uppsättning teknik som har genomgått en snabb utveckling på senare år. Funktionerna i vissa typer av AI-system följer regler som skapas automatiskt och inte uttryckligen programmerats av människor. Detta kan ibland ge imponerande resultat, men det kan också medföra utmaningar. I den föreslagna rättsakten om artificiell intelligens definieras AI, med utgångspunkt från OECD:s definition, som programvara som utvecklats med metoder för maskininlärning, logik- och kunskapsbaserade eller statistiska metoder, och som, för en viss uppsättning människodefinierade mål, kan generera utdata såsom innehåll, förutsägelser, rekommendationer eller beslut som påverkar de miljöer som de samverkar med. – Den bristande insynen i vissa AI-system och deras komplexitet (att de drivs med många olika komponenter och processer) gör det svårt att identifiera och bevisa möjliga lagbrott, däribland mot bestämmelser som säkerställer respekt för grundläggande rättigheter, och spåra möjliga fel eller funktionsstörningar i systemet. – En särskild underuppsättning av AI-program kan genomgå ständig anpassning, även medan de används, och förändras och utvecklas på oförutsägbara sätt som inte är lätta att övervaka. Detta leder till en viss grad av oförutsägbarhet som kan påverka säkerhet eller grundläggande rättigheter. – Autonomt arbete i system kan påverka säkerheten, eftersom vissa AI-system kräver få eller inga mänskliga ingripanden för att utföra uppgifter. – Beroendet av data i vissa system och möjliga snedvridningar inbyggda i algoritmer kan orsaka eller förvärra snedvridningar och fel i hela system. Om dessa system inte designas, testas och används korrekt, kan de förvärra negativa följder som diskriminering.

5.1Situation och åtgärder i medlemsstaterna

På senare år har EU-medlemsstaterna försökt ta itu med de utmaningar som användningen av AI-teknik utgör. Många har tagit fram nationella AI-strategier, där de betonar behovet av att säkerställa respekt för grundläggande rättigheter. Dessutom har medlemsstaterna utvecklat eller planerar att utveckla riktlinjer och etiska normer som hjälper dem som utvecklar AI-verktyg att säkerställa insyn, spårbarhet och robusthet, gripa sig an potentiella snedvridningar och hitta fungerande sätt att följa sina skyldigheter att respektera grundläggande rättigheter. I vissa fall utvecklas riktlinjer och expertis av akademiker eller expertgrupper som inrättas för det syftet.

Även när de agerade tillsammans på EU-nivå underströk medlemsstaterna att det behöver säkerställas att de stadgefästa rättigheterna till fullo respekteras, och uppmanade till en översyn av befintlig relevant lagstiftning så att den lämpar sig för de nya möjligheter och utmaningar som AI medför. I oktober 2020 antog 26 av de 27 medlemsstaterna ett dokument med titeln The Charter of Fundamental Rights in the context of Artificial Intelligence and Digital Change. Där uppmanade de till att åtgärda den bristande insynen, komplexiteten och snedvridningen, plus den oförutsägbarhet och det delvis autonoma beteende som i viss grad finns i vissa AI-system, för att säkerställa respekten för grundläggande rättigheter och göra det lättare att verkställa rättsliga regler. Medlemsstaterna betonade betydelsen av att engagera olika berörda parter, däribland från civilsamhället, för att dra fördel av deras sakkunskaper.

Vid det tillfälle då denna rapport antogs hade ingen EU-medlemsstat antagit särskild lagstiftning för att hantera de utmaningar för grundläggande rättigheter som användningen av AI ger upphov till. I stället verkar det som myndigheterna i medlemsstaterna förlitade sig på befintlig lagstiftning. År 2017 ålade en domstol det italienska utbildningsministeriet att lämna ut en automatiserad beslutsfattandealgoritm som man använde för hantering av arbetstagares rörlighet, med hänvisning till rätten till tillgång till handlingar, som också medger rätt till ett effektivt rättsmedel. År 2018 ansåg finska Diskriminerings- och jämställdhetsnämnden att ett ärende rörande kreditbedömning som byggde på statistik om kön, bostadsort, ålder och språk i stället för enskild bedömning var diskriminerande. I februari 2020 ogiltigförklarade en nederländsk domstol en nederländsk lag genom vilken det hade upprättats ett system för att upptäcka bedrägerier. Detta på grundval av den grundläggande rätten till skydd för privatliv i Europeiska konventionen om skydd för de mänskliga rättigheterna. ”System Risk Indication” (SyRi) användes för att analysera data som samlats in av olika offentliga myndigheter för att upptäcka personer som potentiellt begick bidragsfusk. Den nederländska domstolen fann att användningen av SyRi inte var tillräckligt insynsvänlig och att dess ingripande i rätten till privatliv inte var proportionerlig mot syftet att upptäcka bedrägerier.

Dessa exempel visar att medlemsstaterna redan har konfronterat utmaningarna med AI och grundläggande rättigheter. Kommissionen vill med sin föreslagna AI-strategi stärka det ändamålsenliga skyddet för grundläggande rättigheter, samtidigt som man gynnar innovation inom AI.

5.2Kommissionens förslag om att reglera AI med hög risk

I april 2021 lade kommissionen fram ett förslag till förordning om AI (rättsakt om artificiell intelligens). Huvudmålet med denna föreslagna rättsakt är att skydda grundläggande rättigheter och säkerhet och skapa en inre marknad för tillförlitliga AI-system. Syftet med förslaget är att AI-system med hög risk ska utformas och används i enlighet med grundläggande rättigheter, och nationella myndigheter och domstolar mer ändamålsenligt ska kunna utreda och lagföra eventuella överträdelser mot skyldigheter som rör grundläggande rättigheter.

Förslaget följer en riskbaserad metod. Vissa AI-system förbjuds helt och hållet, t.ex. de som använder subliminal teknik och de som används av offentliga myndigheter för social poängsättning, eftersom de går emot EU:s värden. Det blir också förbjudet att använda system för biometrisk fjärridentifiering på allmänt tillgängliga platser i brottsbekämpande syfte, såvida inte tydligt definierade undantag och skyddsåtgärder gäller.

AI-system med hög risk kommer att behöva uppfylla en rad krav och följa förfaranden för efterlevnadskontroll innan de släpps ut på marknaden eller tas i bruk. Genom dessa krav säkerställs lämplig dokumentation och testning av AI-system med hög risk, liksom lämplig datakvalitet, spårbarhet, mänsklig tillsyn, robusthet, noggrannhet och cybersäkerhet. Detta kommer att tillämpas när AI-system används på mycket viktiga områden, som biometrisk identifiering, utbildning, arbetsmarknad, nödvändiga offentliga och privata tjänster som t.ex. kreditgivning, eller förmåner i form av offentligt stöd, brottsbekämpning, migration och gränskontroll samt rättsväsende. AI-system som utgör säkerhetskomponenter i vissa reglerade produkter (t.ex. maskinerier och medicintekniska produkter) kommer också att omfattas av samma krav och måste kontrolleras innan de kan släppas ut på EU-marknaden eller tas i bruk.

I förslaget säkerställs att användarna av AI-system, såsom företag som interagerar med kunder eller offentliga myndigheter som fattar beslut, får tillräcklig information från utvecklarna av systemen för att säkerställa att deras program används på lämpligt sätt och de kan fullgöra sina skyldigheter enligt de grundläggande rättigheterna.

Om överträdelser av grundläggande rättigheter skulle inträffa genom användning av AI-system, kommer det att bli möjligt för berörda personer att få effektiv rättslig prövning genom insyn/transparens och spårbarhet i AI-systemen, i kombination med kraftfulla efterhandskontroller från behöriga myndigheter. Tillsynsmyndigheter med ansvar för att tillämpa grundläggande rättigheter, som dataskyddsmyndigheter, jämlikhetsorgan eller konsumentorgan, kommer att ha tillgång till all dokumentation om AI-system med hög risk som ligger inom deras uppdrag. De kommer att kunna samarbeta med marknadskontrollmyndigheterna för att testa de respektive AI-systemen där så behövs.