Yttrande från Europeiska ekonomiska och sociala kommittén om Digital identitet, datasuveränitet och vägen mot en rättvis digital omställning för informationssamhällets medborgare

(yttrande på eget initiativ)

(2022/C 443/03)

Föredragande: Dumitru FORNEA

Rättslig grund Artikel 52.2 i arbetsordningen Yttrande på eget initiativ Beslut av EESK:s plenarförsamling 20.1.2022 Ansvarig sektion Transporter, energi, infrastruktur och informationssamhället Antagande av sektionen 21.6.2022 Antagande vid plenarsessionen 14.7.2022 Plenarsession nr 571 Resultat av omröstningen (för/emot/nedlagda röster) 179/1/3

1. Slutsatser och rekommendationer

1.1 De tekniska framstegen och utvecklingen inom digital teknik, bioteknik och elektroniska kommunikationssystem har skapat betydande möjligheter att befästa ekonomiskt välmående, mer inkluderande och rättvisa samhällen. Samtidigt har ett antal farliga hot mot mänskligheten uppstått.

1.2 För att upprätthålla mänsklighetens säkerhet och den sociala struktur som krävs för att varje individ ska kunna leva ett fullgott liv på denna planet måste vi se till att de nya styrningsverktyg som införs i och med den digitala och industriella revolutionen inte är förtryckande och inte gör människors vardag beroende av obligatorisk användning av digitala tekniska system som kontrolleras på ett odemokratiskt sätt.

1.3 Offentliga institutioner är sårbara för icke-statliga aktörer som har direkt tillgång till kunskap, patent, teknik och investeringsfonder. Europeiska ekonomiska och sociala kommittén (EESK) anser att EU:s tekniska suveränitet måste inkluderas i all framtida politisk utveckling och att lagstiftningen måste kompletteras med uttryckliga och fullt tillämpliga förordningar och gemensamma standarder i alla medlemsstater.

1.4 Den tekniska utvecklingen påverkar många medborgares rättigheter och friheter. Kommittén anser att alla sektorer som använder sig av personuppgifter och biometriska uppgifter bör regleras på ett tydligt sätt och i full överensstämmelse med de grundläggande mänskliga rättigheterna. Den allmänna dataskyddsförordningen bör uppdateras i enlighet med detta.

1.5 Kommittén är övertygad om att digital identitet, digitala betalningsmedel och användning av virtuella plattformar och plattformar för förstärkt verklighet bör förbli verktyg som endast kompletterar den fysiska existens som vi kände till innan dessa tekniker började användas, och att de inte helt och hållet och på ett felaktigt sätt bör ersätta andra existentiella mönster som människan har utvecklat och finslipat under tusentals år.

1.6 EESK efterlyser tydliga bestämmelser mot diskriminering i alla framtida lagstiftningsförslag om digital identitet, och motsätter sig helt att det införs ett system som håller nära uppsikt över EU-medborgarna, spårar dem och/eller övervakar deras aktiviteter och beteende. Dessutom anser kommittén att det organiserade civila samhället måste involveras ordentligt i genomförandeprocessen.

1.7 EESK har kommit fram till att alla initiativ för att integrera medborgarna i systemet för en europeisk digital identitet bör baseras på konsekvensbedömningar och omfattande sociologiska undersökningar. Det slutliga beslutet bör endast fattas med medborgarnas informerade och fritt uttryckta samtycke.

1.8 EESK anser att kommissionen, för att på ett demokratiskt sätt röra sig mot ett rättvist digitalt samhälle som godtas av EU-medborgarna, måste utföra konsekvensbedömningar av följande: — Det enorma behovet av energi dygnet runt, sju dagar i veckan, för att upprätthålla den globala tekniska infrastruktur som stöder en avbrottsfri och säker åtkomst till ett digitalt system som syftar till att överföra det mänskliga samhällets kritiska och strategiska funktioner. — Hur digitaliseringen och automatiseringen av mänsklig interaktion påverkar livskvaliteten och arbetsvillkoren, särskilt när det gäller mänskliga relationer, mer utbredd ensamhet, psykiska hälsoproblem, minskande kognitiv och emotionell intelligens och ökad risk för socialt utanförskap. — De politiska, ekonomiska och sociala åtgärder som krävs för att anpassa samhället till de dramatiska kvantitativa förändringarna på arbetsmarknaden. — Cybersäkerheten, där mångfalden och komplexiteten i hackarnas verksamhet har ökat, och när det gäller villkoren för den påskyndade utvecklingen av sakernas internet, som gör åtkomstprotokollen sårbara och genomträngliga.

1.9 Kommittén drar slutsatsen att datasäkerheten inte bör vara förhandlingsbar och är besviken över att den framtida digitala europeiska plånbokens säkerhet inte är den mest prioriterade frågan i kommissionens lagstiftningsförslag.

1.10 EESK anser att det i alla EU:s lagstiftningsförslag om artificiell intelligens måste föreskrivas fullständig ansvarsskyldighet för eventuella funktionsfel. Den rätta balansen måste uppnås mellan att inte röja affärshemligheter och säkerställa en öppen och spårbar utveckling.

1.11 Kommittén var den första EU-institution som efterlyste en ”human-in-command”-strategi och upprepar behovet av flera kontrollnivåer för att säkerställa detta.

1.12 EESK är helt emot privata databaser för ansiktsigenkänning för andra ändamål än brottsbekämpning och alla slags system för poängsättning av medborgare, eftersom dessa strider mot EU:s grundläggande värden och rättigheter.

1.13 Kommittén anser att de data som genereras i EU bör lagras på EU:s territorium och skyddas från all extraterritoriell åtkomst. Dessutom anser EESK att informerat samtycke till dataanvändning måste införas för både personuppgifter och andra data, och efterlyser återigen en uppgradering av den allmänna dataskyddsförordningen i detta avseende.

1.14 EESK oroas över de växande skillnaderna mellan medlemsstaterna och bristen på skydd för utsatta grupper och efterlyser återigen ett EU som anammar digital delaktighet så att ingen lämnas utanför. Särskild uppmärksamhet bör ägnas åt den äldre generationen.

1.15 Kommittén efterlyser ett starkt europeiskt system för digital utbildning som kan förbereda arbetskraften på tekniska utmaningar och hjälpa dem att få högkvalitativa arbeten. Program för digital kompetens måste genomföras i alla medlemsstater, tillsammans med program för livslångt digitalt lärande, handledning i terminologi och praktisk utbildning.

1.16 Kommittén anser att det är mycket viktigt att involvera de anställda i den digitala omställningen så att de kan förstå de framtida riskerna och möjligheterna och så att kunskap kan överföras och ny kompetens förvärvas.

2. Bakgrund

2.1 EU-medborgarna är intresserade av utvecklingen när det gäller att införa digitala tekniska lösningar för att förenkla de administrativa förfaranden som är nödvändiga för kontakten med myndigheter eller i det dagliga samhällslivet. Detta yttrande syftar till att öka de nationella och europeiska beslutsfattarnas medvetenhet om det organiserade civila samhällets farhågor beträffande de potentiella negativa samhällseffekterna av det påskyndade införandet av digital teknik.

2.2 Covid-19-pandemin har påskyndat den digitala omvandlingen av samhället och tvingat medborgarna att anamma ny teknik för arbete, studier och andra dagliga aktiviteter. Den har gett företag och medborgare möjlighet att uppgradera sig digitalt och utvecklas.

2.3 Fördelarna med det utbredda införandet av en digital identitet finns förklarade i många olika dokument från EU:s institutioner och globala internationella organisationer. I detta avseende är det senaste dokumentet förslaget till förordning om inrättande av en ram för europeisk digital identitet ( 1 ) , som offentliggjordes den 3 juni 2021.

2.4 Kommissionen strävar efter att tillhandahålla en ram för europeisk digital identitet som bygger på en omarbetning av den nuvarande ramen så att åtminstone 80 % av medborgarna har möjlighet att använda en digital id-lösning för att komma åt viktiga samhällstjänster senast 2030 ( 2 ) . Offentliga myndigheter måste förses med nödvändiga personalresurser och ekonomiska resurser för att kunna inkludera och kontrollera den digitala tekniska utvecklingen.

2.5 Som bevis på detta bör det noteras att det index för digital ekonomi och digitalt samhälle (Desi) ( 3 ) som kommissionen offentliggjorde 2021 visar att år 2020 uppgick andelen personer med åtminstone grundläggande digitala färdigheter till 56 %. En stor del av EU:s befolkning har dock ännu inte grundläggande digitala färdigheter, trots att de flesta arbeten kräver det. Många medborgare hävdar att de har digitala färdigheter, men vid närmare granskning består dessa inte av mer än en förmåga att på ett grundläggande sätt dra nytta av de möjligheter som erbjuds genom internet (surfning och sociala nätverk) och de programvarupaket som erbjuds av Microsoft Office eller Mac OS.

2.6 När det gäller artificiell intelligens visar en nyligen publicerad studie från Europeiska investeringsbanken ( 4 ) att EU fortfarande släpar efter andra ekonomiska världsmakter. I denna nämns att Förenta staterna och Kina tillsammans står för mer än 80 % av de 25 miljarder euro i kapitalinvesteringar som årligen görs i AI och blockkedjeteknik. EU står bara för 7 % och det totala investeringsgapet uppgår till mellan 5 och 10 miljarder euro per år.

2.7 Kommissionen har föreslagit att detta gap ska överbryggas och att 1 miljard euro per år ska investeras i AI, vilket bör kompletteras med privata investeringar och medlemsstaternas egna medel. Målet är att nå 20 miljarder euro i investeringar per år under det kommande årtiondet ( 5 )

3. Allmänna kommentarer

3.1 De tekniska framstegen i allmänhet och utvecklingen inom digital teknik, bioteknik och elektroniska kommunikationssystem under de två senaste årtiondena har skapat enorma möjligheter världen över att befästa ekonomiskt välmående, mer inkluderande och rättvisa samhällen.

3.2 Utan ett nytt socialt kontrakt och ett regelverk som är anpassat till denna nya banbrytande teknik har det samtidigt uppstått ett antal farliga hot mot mänskligheten (såsom arbetstillfällen som går förlorade på grund av framsteg inom och införande av automatisering, kränkningar av den personliga integriteten, algoritmiska snedvridningar som orsakas av dåliga data samt marknadsvolatilitet), särskilt med tanke på att de globala teknikjättarna ständigt försöker påtvinga människor sina produkter och tjänster genom att kringgå gällande lagstiftning på internationell och nationell nivå som garanterar de grundläggande mänskliga rättigheterna.

3.3 Internationella och nationella statliga institutioner är sårbara för icke-statliga aktörer som har direkt tillgång till kunskap, patent, teknik och investeringsfonder, eftersom personalen vid dessa institutioner ofta inte förstår den fulla samhälleliga inverkan av ny teknik på medborgarnas och konsumenternas rättigheter. Kommittén är övertygad om att hänsyn till EU:s tekniska suveränitet måste ingå i all framtida politisk utveckling.

3.4 EESK anser att lagstiftningen måste förtydligas och kompletteras med uttryckliga och fullt tillämpliga förordningar och gemensamma standarder i alla medlemsstater, inklusive tillhörande ansvar, med tanke på att teknik med koppling till digital identitet till stor del hanteras av datoralgoritmer och artificiell intelligens, som inte kan hållas ansvariga för de misstag som de gör.

3.5 Det finns redan många dokumenterade situationer, som har studerats noga, där människor har påverkats och felaktigt dömts för felaktiga beslut som har fattats av datoralgoritmer och artificiell intelligens. Till exempel vilseleds beslutsfattare inom säkerhets- och polisväsendet av felaktiga resultat från datoralgoritmer såsom ”artificiell intelligens”, ”ansiktsigenkänning”, ”maskininlärning”, ”dataanalys och dataprognoser”, ”tidrapporter och poäng” osv. Detta gör att många medborgares rättigheter och friheter påverkas.

3.6 Därför måste de rättsliga bestämmelser som tas fram på området för digital identitet och tillhörande teknik i första hand baseras på fullständig transparens, korrekt och fullständig information till användarna och fritt informerat samtycke, och de måste säkerställa ett fullständigt skydd som beaktar alla cybersårbarheter hos mobila kommunikationsnät och deras enheter osv. Av dessa skäl vill EESK att alla sektorer som använder sig av personuppgifter och biometriska uppgifter, såsom digital identitet eller 5G-mobilkommunikationsnät, artificiell intelligens osv., ska regleras på ett särskilt och tydligt sätt och i full överensstämmelse med de grundläggande mänskliga rättigheterna.

4. Särskilda kommentarer

Digital identitet

4.1 När det gäller införandet av digital identitet i Europa är datahanteringen avgörande för att garantera medborgarnas skydd och trygga deras integritet. Fullständig efterlevnad av den allmänna dataskyddsförordningen måste säkerställas.

4.2 EU-medborgarna står i centrum för alla program och all politik som genomförs i EU. EESK uppskattar och stöder offentliggörandet av kommissionens förslag om en digital identitet för alla i EU ( 6 ) , där det anges att det är individen själv som ska kunna välja huruvida han eller hon vill använda en digital identitet. Kommittén anser dock att man har tonat ned effekterna av uteslutningen av vissa medborgare som kommer att välja att inte ha en digital identitet, och betonar att rätten att bli bortglömd och rätten att inte vara uppkopplad tydligt måste införas i EU-lagstiftningen.

4.3 EESK efterlyser tydliga bestämmelser mot diskriminering i alla framtida lagstiftningsförslag i frågan. Oavsett varför en medborgare väljer att inte använda en sådan funktion – av dataskydds- eller anonymitetsskäl eller av andra skäl – får han eller hon inte missgynnas jämfört med aktiva användare, eller marginaliseras. Individuella data bör alltid förbli respektive individs egendom samtidigt som skyddet av de mänskliga rättigheterna måste ligga till grund för införandet av en digital identitet. För att garantera dataskydd och datasäkerhet samt respekt för privatlivet föreslår kommittén att EU-medborgarnas digitala identitet i varje medlemsstat förvaltas av ett offentligt organ under statens överinseende och under de nationella parlamentens demokratiska kontroll.

4.4 Införandet av en digital identitet i Europa bör syfta till att möjliggöra säker och enkel konnektivitet för konsumenterna, och bl.a. leda till bättre data och ett bättre tillhandahållande av offentliga tjänster, förbättrade riktade statliga program och effektivare kreditmarknader. Kommittén ställer sig positiv till ett sådant scenario. EESK noterar dock att införandet av en digital identitet medför en rad risker när det gäller integritet och dataskydd, och motsätter sig helt införandet av ett system som håller nära uppsikt över EU-medborgarna, spårar dem och/eller övervakar deras aktiviteter och beteende.

4.5 Cybersäkerhet är en viktig aspekt av införandet, med tanke på att risken för att viktiga personuppgifter och finansiella uppgifter hackas är stor. EESK ser fram emot den slutliga versionen av den föreslagna lagstiftningen och överenskommelsen mellan medlemsstaterna om standarder, tekniska specifikationer och interoperabilitetsaspekter, som bör ha färdigställts senast i oktober 2022. Kommittén anser att det organiserade civila samhället, inklusive arbetsmarknadens parter, icke-statliga organisationer och den akademiska världen, måste involveras ordentligt i införandet.

4.6 Bedrägerier är fortfarande en av de största riskerna i samband med införandet av digital identitet. De nätfiskemeddelanden som vi alla får i dag kommer att bli ännu vanligare och riktas till de mest utsatta grupperna i Europa. Kommittén anser att säkerhetsfrågorna kring detta ämne inte har kvantifierats ordentligt, och är besviken över att den framtida digitala plånbokens säkerhet inte är den viktigaste frågan i kommissionens förslag om inrättande av en ram för europeisk digital identitet. Syntetiska id-bedrägerier har inträffat i andra delar av världen där liknande system har införts, och EU bör bekanta sig med och ta itu med dessa frågor före införandet. Kommittén anser därför att datasäkerheten inte bör vara förhandlingsbar.

AI – artificiell intelligens

4.7 Den digitala inre marknaden behöver AI för att utvecklas och göra framsteg. Artificiell intelligens bygger på algoritmer som kräver enorma mängder privata data och metadata. Samhället måste gynnas av teknisk utveckling och algoritmbaserad tillämpad vetenskap. När AI-teknik införs måste det dock säkerställas att befolkningsgrupper som historiskt sett har marginaliserats kan hantera programmen och att de befintliga sociala skillnaderna inte förvärras.

4.8 EESK var den första EU-institution som efterlyste en human-in-command-strategi för hanteringen av AI-system ( 7 ) . EESK bekräftar att det är av största vikt att människor har sista ordet och full kontroll över beslutsprocesserna när det gäller maskinutveckling.

4.9 Skyddet av immateriella rättigheter kan användas som ett argument för icke-transparent AI-utveckling. EESK anser att den rätta balansen måste uppnås mellan att inte röja affärshemligheter och säkerställa en öppen och spårbar utveckling. Dessutom måste ansvarsskyldighet för eventuella funktionsfel tydligt föreskrivas i alla EU-lagstiftningsförslag om artificiell intelligens, och ansvaret bör läggas på utvecklare, kodare, AI-konstruktörer och rättmätiga ägare.

4.10 Kommittén anser att AI-tekniken måste införas på ett socialt hållbart sätt, där man tar hänsyn till mänskliga rättigheter, europeiska värden, jämställdhet, kulturell mångfald, missgynnade gruppers intressen och immateriella rättigheter.

4.11 Den allmänna dataskyddsförordningen måste vidareutvecklas för att se till att algoritmerna är helt förenliga med och respekterar EU-lagstiftningen, och kommittén efterlyser gemensamma etiska regler som säkerställer kostnadsfri åtkomst till algoritmernas källkod.

4.12 AI har potential att bidra till att klimat- och miljömålen uppnås, men man måste ta hänsyn till den enorma mängd energi som används för att driva dessa digitala system samt andra utmaningar som rör internalisering av de externa kostnaderna. EESK föreslår en förstärkt övervakning av denna aspekt och uppmanar de digitala företagen att göra framsteg när det gäller att minska koldioxidutsläppen.

4.13 Inom viktiga områden såsom försvar och cybersäkerhet måste mänsklig kontroll över robotar vara garanterad, och EESK efterlyser en mycket specifik ram på EU-nivå som säkerställer detta. Mänskliga ingripanden måste alltid vara möjliga för att avhjälpa felen i alla system för automatiserat beslutsfattande.

4.14 EESK är helt emot privata databaser för ansiktsigenkänning för andra ändamål än brottsbekämpning och alla slags system för poängsättning av medborgare, eftersom dessa strider mot EU:s grundläggande värden och rättigheter.

4.15 När det gäller de sociala aspekterna befarar EESK att AI-utvecklingen kommer att påverka arbetsmarknaderna enormt och eventuellt utlösa en arbetslöshetskris. Den kan dessutom komma att påverka människors beteende och leda till lättja och ytlighet.

Stordata

4.16 EESK välkomnar den dataakt ( 8 ) som kommissionen lade fram i februari 2022 och ser den som en etisk ram för en transparent behandling av personuppgifter, där de medborgare och företag som genererar dem har full kontroll. Den gör det också möjligt för ett större antal intressenter och medborgare att använda data, med utökade fördelar för konsumenter, företag och offentliga myndigheter, vilket därmed leder till en rättvis datadriven ekonomi.

4.17 Stora mängder data finns nu tillgängliga för offentliga myndigheter och en handfull stora teknikjättar såsom Google, Facebook (Meta), TikTok eller Amazon. Tyvärr är det bara ett begränsat antal intressenter som drar nytta av dessa data i dag och EESK oroas över att data som genereras i EU lagras, behandlas och genererar värde utanför Europa ( 9 ) . Kommittén anser att det kommer att bli svårt att uppnå digital suveränitet i EU utan egna digitala EU-teknikjättar, utan att europeiska data lagras på EU:s territorium och utan att dessa data skyddas från all extraterritoriell åtkomst.

4.18 Hanteringen av stordata måste alltid respektera de mänskliga rättigheterna i enlighet med artikel 21 i Europeiska unionens stadga om de grundläggande rättigheterna ( 10 ) , särskilt när algoritmer används i beslutsprocesser. EU-baserade molnleverantörer innehar endast en liten del av den internationella marknaden, som till stor del domineras av amerikanska företag. Detta missgynnar EU och begränsar investeringsmöjligheterna på databehandlingsmarknaden. Det hämmar också de stora företagens konkurrenskraft och deras möjlighet att växa och ta sig in på marknader, och hindrar små och medelstora företag från att expandera. Kommittén välkomnar kommissionens meddelande ”En konkurrenspolitik som är anpassad till nya utmaningar” ( 11 ) och den betydelse som läggs vid den digitala omställningen när EU:s framtida konkurrensram omformas.

4.19 Kommittén anser att informerat samtycke till dataanvändning måste införas för både personuppgifter och andra data. EESK efterlyser återigen en uppgradering av den allmänna dataskyddsförordningen i detta avseende.

En rättvis digital omställning och digital kompetens i EU

4.20 Kommittén noterar en arbetsmarknad i förändring där allt fler ekonomiska sektorer klagar över bristen på kompetent och kvalificerad arbetskraft. Den noterar också att kvalifikationerna minskar samt en brist på specifik know-how och sakkunskap.

4.21 EESK har i tidigare yttranden efterlyst en union som anammar digital delaktighet så att ingen lämnas utanför. Flera år senare växer skillnaderna mellan medlemsstaterna och utsatta grupper förblir oskyddade, särskilt de äldre, som är de mest utsatta.

4.22 Kommittén är oroad över den rådande digitala klyftan i EU, anser att program för digital kompetens bör genomföras i alla medlemsstater på ett samordnat sätt och vill att livslångt digitalt lärande, inbegripet lösningar med öppen källkod som kostnadsfria alternativ till kommersiella lösningar, ska bli verklighet i EU. Att skapa digitala färdigheter börjar med handledning i terminologi och slutar med praktisk utbildning.

4.23 Det är mycket viktigt att involvera de anställda i den digitala omställningen så att de kan förstå de framtida riskerna och möjligheterna samtidigt. Föränderliga arbetsmiljöer förutsätter att kunskap överförs och att ny kompetens förvärvas, men även förbättrade arbetsvillkor för personer som arbetar via digitala arbetsplattformar.

4.24 EESK efterlyser ett starkt europeiskt system för digital utbildning som kan förbereda arbetskraften på tekniska utmaningar och hjälpa dem att få högkvalitativa arbeten, och påminner i detta avseende om de europeiska arbetsmarknadsparternas ramavtal om digitalisering.

4.25 Kommittén har redan efterlyst en ytterligare förbättring av de gedigna färdigheterna inom naturvetenskap, teknik, ingenjörsvetenskap och matematik ( 12 )

Bryssel den 14 juli 2022. Christa SCHWENG Europeiska ekonomiska och sociala kommitténs ordförande

(1) Förslag till Europaparlamentets och rådets förordning om ändring av förordning (EU) nr 910/2014 vad gäller inrättandet av en ram för europeisk digital identitet COM(2021) 281 final.

(2) En digital identitet för alla i EU.

(3) https://digital-strategy.ec.europa.eu/en/policies/desi

(4) EIB-studie: ”Artificial intelligence, blockchain and the future of Europe: How disruptive technologies create opportunities for a green and digital economy”.

(5) Europeiska kommissionen – A European approach to artificial intelligence.

(6) En digital identitet för alla i EU, COM(2021) 281 final.

(7) EUT C 288, 31.8.2017, s. 1.

(8) Europeiska kommissionen – Dataakten.

(9) Eurostat rapporterar att endast 36 % av EU:s företag använde sig av molntjänster 2020 och de flesta av dem för e-post och lagring. Bara 19 % av molnföretagen användes.

(10) EUT C 326, 26.10.2012, s. 391.

(11) Kommissionens meddelande ”En konkurrenspolitik som är anpassad till nya utmaningar”, COM(2021) 713 final.

(12) EUT C 14, 15.1.2020, s. 46, EUT C 10, 11.1.2021, s. 40, EUT C 228, 5.7.2019, s. 16, EUT C 75, 10.3.2017, s. 6, EUT C 374, 16.9.2021, s. 11.