EVROPSKA KOMISIJA Bruselj, 10.12.2021 COM(2021) 819 final POROČILO KOMISIJE EVROPSKEMU PARLAMENTU, SVETU, EVROPSKEMU EKONOMSKO-SOCIALNEMU ODBORU IN ODBORU REGIJ Varstvo temeljnih pravic v digitalni dobi –











Letno poročilo o uporabi Listine EU o temeljnih pravicah za leto 2021



Varstvo temeljnih pravic v digitalni dobi –



Letno poročilo o uporabi

Listine EU o temeljnih pravicah za leto 2021 Kazalo 1. Uvod 2. Izvajanje nove strategije za okrepitev uporabe Listine o temeljnih pravicah v EU 3. Naj bo Listina vodilo EU v digitalni dobi 4. Obravnavanje izzivov v zvezi z moderiranjem vsebine na spletu 5. Varovanje temeljnih pravic pri uporabi UI 6. Obravnava digitalne vrzeli 7. Zaščita ljudi, ki delajo prek platform 8. Nadzor digitalnega nadzora 9. Združevanje moči, da bi digitalna doba postala priložnost za temeljne pravice



1.Uvod Listina EU o temeljnih pravicah je močno orodje, ki se uporablja za varstvo, spodbujanje in nadaljnjo krepitev pravic ljudi v Evropski uniji. Temeljne pravice ljudi ne ščitijo le pred čezmernim vmešavanjem, kot je cenzura ali množični nadzor, temveč jih tudi opolnomočijo, da v celoti izkoristijo svoje pravice in priložnosti v življenju. Vedno je mogoče izboljšati pogoje za uživanje pravic in njegov obseg. Na podlagi Listine je mogoče usmerjati politične dejavnosti po vsej EU. Bolj ko ljudje poznajo pravice, zagotovljene v Listini, in bolj ko jih znajo uveljaviti, močnejši so lahko. Pandemija COVID-19 je varstvo in jamstvo naših temeljnih pravic in svoboščin postavila na preizkušnjo. Vse omejitve temeljnih pravic morajo biti potrebne in sorazmerne. To določa Listina EU o temeljnih pravicah, ki je zavezujoče pravo EU. Listina varuje in spodbuja širok nabor pravic, povezanih s človekovim dostojanstvom, svobodo, enakostjo in solidarnostjo, vsa nacionalna sodišča pa jo lahko uporabljajo v primerih, ko gre za izvajanje prava EU in je to pravo pomembno za končno sodbo.

Od leta 2009 ima Listina enak pravni status kot Pogodbi, ki sta primarno pravo EU, na katerem temelji zakonodaja EU. Evropske institucije jo morajo spoštovati pri svojem celotnem delovanju, države članice EU pa jo morajo spoštovati, ko izvajajo pravo EU. Kdaj morajo države članice spoštovati Listino? — Ko se države članice v Svetu in z Evropskim parlamentom dogovorijo o sprejetju nove zakonodaje EU, je tako zakonodajo pogosto treba uveljaviti z nacionalnimi ukrepi za njeno izvajanje. — Ko države članice sprejmejo ali spremenijo zakone o zadevi, v zvezi s katero zakonodaja EU nalaga konkretne obveznosti, njihovi zakoni ne smejo biti v nasprotju s pravom EU, vključno z Listino, saj tak zakonodajni ukrep pomeni izvajanje prava EU. — Programi financiranja EU so določeni v zakonodaji EU. Države članice morajo zagotoviti, da se ta denar porabi v skladu s pravili te zakonodaje. Ko izvajajo programe financiranja, izvajajo pravo EU. — Kadar države članice sprejmejo ali spremenijo zakone na področju, na katerem EU nima pristojnosti in kjer pravo EU ne obstaja, takrat ne izvajajo prava EU. V takih primerih jih Listina ne zavezuje. Vendar so številne temeljne pravice, določene v Listini, hkrati določene v nacionalnih ustavah in sodni praksi ter v Evropski konvenciji o človekovih pravicah, katere podpisnice so vse države članice EU. Za večje splošno poznavanje Listine Evropska komisija od leta 2010 objavlja poročila o njeni uporabi. Ta izdaja je prva, pri kateri je uporabljen nov pristop, napovedan v Strategiji za okrepitev uporabe Listine o temeljnih pravicah v EU (Strategija za okrepitev uporabe Listine) . Letno poročilo bo osredotočeno na posebno temo, ki jo ureja pravo EU, v njem pa bodo tudi natančneje obravnavane najboljše prakse in izzivi v državah članicah na tem področju. Tako bo mogoče proučiti sistemski razvoj in prikazati, kako se lahko različne pravice medsebojno krepijo ter kako lahko politični, družbeni in gospodarski razvoj vpliva na številne pravice hkrati. Tema izdaje za leto 2021 je varstvo temeljnih pravic v digitalni dobi, kar je v skladu s strateškim osredotočanjem Evropske komisije na digitalni prehod. Na katerih informacijah temelji to poročilo? To poročilo je bilo pripravljeno na podlagi: — prispevkov držav članic EU, ki so bile pozvane, naj predložijo mnenja iz svojih nacionalnih perspektiv; — ciljnega posvetovanja s krovnimi organizacijami evropskih organizacij civilne družbe, ki delujejo na področju temeljnih pravic, in — poročil agencij EU, zlasti letnih poročil Agencije Evropske unije za temeljne pravice (FRA) o temeljnih pravicah, ki vsebujejo oddelek o temeljnih pravicah in digitalizaciji. 2.Izvajanje nove strategije za okrepitev uporabe Listine o temeljnih pravicah v EU Cilj Strategije za okrepitev uporabe Listine, ki jo je Komisija sprejela leta 2020, je zagotoviti, da se bo Listina uporabljala v celoti, s čimer bodo temeljne pravice postale realnost za vse. Strategija določa okvir za skupno delo na področju temeljnih pravic po vsej EU za naslednjih 10 let, države članice pa jo v celoti podpirajo . Štiri prednostne naloge, ki usmerjajo uresničevanje ciljev, določenih v Strategiji, so pojasnjene v nadaljevanju. 2.1Podpiranje in spremljanje učinkovite uporabe Listine v državah članicah Nacionalne in lokalne uprave, parlamenti in organi kazenskega pregona imajo osrednjo vlogo pri spodbujanju in varstvu pravic iz Listine ter pri ustvarjanju ugodnega okolja za organizacije civilne družbe in zagovornike pravic. Komisija tesno sodeluje z državami članicami in jim pomaga pri učinkovitem izvajanju prava in politik EU v popolni skladnosti z Listino. Pomaga jim tudi pri izvajanju programov, ki jih financira EU, v skladu z Listino. Uredba o skupnih določbah določa pravila, ki jih je treba upoštevati pri uporabi več skladov EU. V skladu z njo morajo države članice vzpostaviti in uporabljati učinkovite mehanizme za zagotavljanje skladnosti programov, ki jih financira EU, z Listino, kot so ureditve poročanja odboru za spremljanje o primerih pritožb glede Listine ali neskladnosti operacij, ki jih podpirajo skladi, z Listino. Komisija bo še naprej zagotavljala tehnično pomoč, s čimer bo državam članicam pomagala zagotoviti, da bodo programi, ki jih podpirajo skladi EU, zasnovani in izvajani v skladu z Listino. Komisija je v okviru posebne sheme financiranja, tj. programa Državljani, enakost, pravice in vrednote (CERV), ustvarila nove priložnosti za nacionalne, regionalne in lokalne organe, da prejmejo finančna sredstva za projekte, ki spodbujajo kulturo vrednot in krepijo ozaveščenost o Listini . Pomembno vlogo pri spodbujanju takšne kulture in varstva temeljnih pravic imajo mesta. Številna mesta so se vključila v mrežo „mest človekovih pravic“ in pri oblikovanju politike upoštevajo vidik varstva temeljnih pravic. FRA je oktobra 2021 na svojem forumu o temeljnih pravicah objavila poročilo z naslovom „Human Rights Cities in the EU: a framework for reinforcing rights locally“ (Mesta človekovih pravic v EU: okvir za krepitev pravic na lokalni ravni) . Okvir vključuje orodja za pomoč županom, lokalnim vladam in upravam ter lokalnim organizacijam pri vključevanju standardov človekovih pravic v njihovo delo. Komisija je kot nadaljnji ukrep po akcijskem načrtu EU za boj proti rasizmu za obdobje 2020–2025 novembra 2021 ustanovila nagrado evropskih prestolnic vključevanja in raznolikosti. Podelila bo nagrade za najboljše prakse, ki so lahko vir navdiha za druge evropske kraje, mesta in regije pri ustvarjanju bolj raznolikih in vključujočih okolij za njihove prebivalce.

V Strategiji za okrepitev uporabe Listine je Komisija pozvala države članice, naj imenujejo informacijsko točko za Listino, da bi dodatno olajšala sodelovanje in izmenjavo informacij o uporabi Listine. Do zdaj je tako informacijsko točko za Listino imenovalo 17 držav članic. Vloga informacijskih točk je ključna pri razširjanju informacij in najboljše prakse v zvezi z ozaveščenostjo o Listini ter pri usklajevanju prizadevanj za krepitev zmogljivosti v državi. S svojim delom prispevajo k novi spletni strani o najboljših praksah držav članic v zvezi z Listino, ki je bila decembra 2021 vzpostavljena na evropskem portalu e-pravosodje . Kot varuhinja Pogodb je Komisija sprejela konkretne ukrepe za zagotovitev spoštovanja pravic, zapisanih v Listini, v primerih, ko so z nacionalno zakonodajo ali praksami, ki izvajajo pravo EU, te pravice kršene, na primer tako, da je uvedla postopke za ugotavljanje kršitev. Ob tem si je zlasti prizadevala zagotoviti spoštovanje: ·svobode združevanja nevladnih organizacij in pravic do varstva osebnih podatkov njihovih donatorjev; ·akademske svobode; ·svobode izražanja in pluralnosti medijev; ·človekovega dostojanstva; ·pravice do spoštovanja zasebnega življenja; ·pravice vseh, vključno z osebami LGBTIQ, da niso diskriminirani na podlagi spola in spolne usmerjenosti. Komisija v vseh državah članicah spremlja nujne ukrepe, sprejete med pandemijo COVID-19, in njihov vpliv, zlasti na pravno državo, temeljne pravice in skladnost z drugimi določbami prava EU, kot je razvidno iz Poročila o stanju pravne države za leto 2021 in poglavij o posameznih državah. 2.2Krepitev vloge organizacij civilne družbe, zagovornikov pravic in delavcev v pravni stroki Organizacije civilne družbe in neodvisni nacionalni organi za človekove pravice so ključni partnerji institucij EU in držav članic pri spodbujanju in varstvu temeljnih pravic, demokracije in pravne države. Njihova ključna vloga je, da ozaveščajo ljudi o njihovih pravicah in jim pomagajo, da jim je zagotovljeno učinkovito sodno varstvo. Te organizacije morajo imeti možnost delovati v spodbudnem okolju brez nepotrebnih regulativnih omejitev, ovir za financiranje ali celo kampanj blatenja, prav tako pa morajo imeti možnost krepiti svoje zmogljivosti. Nekatere države članice še vedno nimajo v celoti delujočih nacionalnih institucij za človekove pravice, ki so pomembne povezave med državo in civilno družbo . Države članice so pozvane, naj ustanovijo take institucije in jim zagotovijo sredstva za popolnoma neodvisno delovanje. Komisija skrbno spremlja položaj organizacij civilne družbe in v letnem poročilu o stanju pravne države poroča o razvoju okvira za civilno družbo. V Poročilu o stanju pravne države za leto 2021 je navedeno, da je pandemija COVID-19 vplivala na organizacije civilne družbe ne le zaradi omejitev svobode gibanja in zbiranja, temveč tudi v smislu financiranja. V skladu s poročilom je bilo sodelovanje civilne družbe pri oblikovanju in izvajanju ukrepov v zvezi s COVID-19 na splošno omejeno. V Poročilu o stanju pravne države za leto 2020 so navedeni ukrepi, ki so omejevali svobodo izražanja organizacij civilne družbe. Podatki, ki jih je zbrala FRA , dejansko kažejo, da številne organizacije civilne družbe menijo, da so nacionalni ukrepi v zvezi s pandemijo od marca 2020 negativno vplivali na njihove dejavnosti. Poročale so o naraščajočem povpraševanju po njihovih storitvah, vendar je imela večina težave pri njihovem nadaljnjem opravljanju. Praktične težave vključujejo odpoved dejavnosti, psihološki vpliv na osebje in zmanjšan delovni prispevek prostovoljcev. Komisija zagovornike pravic in organizacije civilne družbe dodatno podpira z namenskim financiranjem, kot je razpis za zbiranje predlogov za zaščito in spodbujanje vrednot EU, ki je v celoti namenjen malim in lokalnim organizacijam civilne družbe ter v okviru katerega bo v obdobju 2021–2022 izplačanih 51 milijonov EUR . Objavljen je bil poseben razpis v vrednosti 2 milijona EUR za podporo pravdnim postopkom in krepitvi zmogljivosti, povezanih z uporabo Listine . Komisija spodbuja tudi krepitev zmogljivosti in ozaveščanje o Listini za sodnike in druge delavce v pravni stroki. Decembra 2020 je Komisija sprejela novo evropsko strategijo za usposabljanje na področju pravosodja za obdobje 2021–2024 , marca 2021 pa je objavila razpis za zbiranje predlogov za podporo projektom za izobraževanje v pravosodju, vključno s temeljnimi pravicami, ki so ena od njegovih ključnih prednostnih nalog . Izvedenih je bilo več projektov izobraževanja v pravosodju o Listini, ki jih je sofinancirala Komisija v okviru programa Pravosodje za obdobje 2014–2020. Gradivo za izobraževanje v pravosodju o temeljnih pravicah je za zaposlene v pravosodju na voljo na platformi, ki je bila vzpostavljena decembra 2020 . 2.3Celovita uporaba Listine EU o temeljnih pravicah pri odločanju EU Institucije, organi, uradi in agencije EU morajo upoštevati Listino pri vseh svojih ukrepih. Komisija krepi svojo notranjo zmogljivost za skladnost z Listino in posodablja gradivo za boljše pravno urejanje, vključno s smernicami iz leta 2011 o upoštevanju temeljnih pravic pri ocenah učinka. Razvija tudi posebno usposabljanje o Listini in orodje za e-učenje, ki bo osebju pomagalo oceniti učinek politik in zakonodajnih predlogov Komisije na temeljne pravice. Orodje za e-učenje bo javno dostopno in bi bilo lahko skupaj s posodobljenim gradivom za boljše pravno urejanje in smernicami koristen vir za druge institucije EU ter za zakonodajo in oblikovalce politik v državah članicah. Komisija je pripravljena podpreti Evropski parlament in Svet, da bi zagotovila učinkovito uporabo Listine pri njunem delu. 2.4Ozaveščanje ljudi Komisija hkrati s sprejetjem tega poročila začenja kampanjo za ozaveščanje o Listini, da bi ljudi seznanila z njihovimi pravicami in s tem, na koga se obrniti, če so kršene njihove pravice. Kampanja bo potekala na spletu, v okviru medijskih dogodkov in družbenih omrežij z uporabo ključnika #RightHereRightNow. Osredotočena bo na številne posebne pravice, kot so nediskriminacija in enakost, pravice otroka, svoboda izražanja in obveščanja ter pravica do učinkovitega pravnega sredstva in nepristranskega sodišča. V ozaveščanje bodo vključeni ključni partnerji, kot so organizacije civilne družbe, nacionalne institucije in organi za človekove pravice, FRA ter drugi organi in agencije EU. Povezana bo z drugimi informacijskimi kampanjami o pravicah in s konferenco o prihodnosti Evrope. Komisija je svoje spletno mesto o Listini na spletišču Europa tudi prevedla v vse uradne jezike EU in vzpostavila novo različico evropskega portala e-pravosodje, ki vsebuje informacije o uporabi Listine in o tem, kje poiskati pomoč. 3.Naj bo Listina vodilo EU v digitalni dobi

Evropska komisija si je kot prednostno nalogo zastavila oblikovanje digitalnega prehoda na način, ki bo koristil vsem in pri katerem nihče ne bo zapostavljen. Kar smo nekoč imenovali „svet zunaj spleta“ in „svet v spletu“, danes postaja neločljivo. To prinaša številne izzive v zvezi z zagotavljanjem spoštovanja temeljnih pravic v hitro spreminjajočem se digitalnem okolju. Digitalna tehnologija vse bolj prodira na vsa področja naše družbe ter jo je mogoče uporabiti na številne različne in pogosto koristne načine. Digitalne rešitve pospešujejo znanstvene raziskave, povečujejo industrijsko proizvodnjo, olajšujejo prehod na trajnostni razvoj, omogočajo različne storitve ter so danes glavni kanal za zasebno in javno komunikacijo. Z njimi imajo ljudje več možnosti, da sodelujejo v demokratičnem diskurzu in se informirajo o kateri koli temi. Zlasti sisteme umetne inteligence je mogoče uporabiti za spodbujanje inovacij in blaginje, posamezniki pa jih lahko uporabljajo kot orodja na vseh področjih življenja, na primer v zdravstvu, za prevajanje ali za podporo odločanju. Digitalna avtomatizacija pomaga učinkoviteje organizirati delo in omogoča raven usklajevanja, ki prej ni bila mogoča. Zbiranje podatkov o človekovih dejanjih in njihovih učinkih pomaga ljudem razumeti in oblikovati svet. Hkrati obstaja tveganje, da se z nekaterimi načini uporabe tehnologije omejuje učinkovitost varstva, ki ga zagotavljajo temeljne pravice. Širjenje nezakonitih vsebin, kot so sovražni govor in posnetki spolne zlorabe otrok, ogroža pravico žrtve do dostojanstva, širjenje dezinformacij pa pomeni izziv za demokratični diskurz in našo pravico do dostopa do informacij. Kadar so procesi ali celo odločitve avtomatizirani, je morda težko zagotoviti preglednost in odgovornost za rezultate, na primer če se za odločanje o dodelitvi dela uporablja zapletena programska oprema. Kadar ni na voljo dovolj informacij ali jih je težko pridobiti, je kršitve temeljnih pravic morda težko oceniti in obravnavati. Bolj ko je avtomatizirano orodje za pridobitev rezultata odvisno od zunanjih dejavnikov, kot so podatki in vnos s strani ljudi ali drugih sistemov, težje je zagotoviti, da s takim orodjem pravice ne bodo kršene že od začetka, na primer zaradi nekaterih vgrajenih pristranskosti, ki lahko na koncu vplivajo na odločanje na področju dela. Več je zajetih podatkov o ljudeh, lažje jih je spremljati in posegati v njihovo zasebnost. Mrežni učinki lahko zmanjšajo moč posameznikov v odnosu do velikih organizacij, na primer spletnih tržnic ali platform za delo, v katerem imajo posamezniki majhno pogajalsko moč ali malo možnosti za organizacijo. Hkrati se lahko platforme družbenih medijev uporabljajo tudi za širjenje sovraštva in razširjanje nezakonitih vsebin, na primer širjenje nezakonitega sovražnega govora, posnetkov spolne zlorabe otrok ali teroristične vsebine. Poleg tega je treba še veliko narediti, da bi vsakomur pomagali izkoristiti nova in uporabna orodja, kadar so internetni dostop, oprema ali znanje o uporabi teh orodij omejeni. Ti izzivi se lahko pojavijo posamezno ali skupaj, odvisno od okoliščin. Drug drugega lahko okrepijo in vplivajo na več temeljnih pravic hkrati, kar je treba upoštevati pri obravnavanju teh izzivov. V tem poročilu je predstavljenih nekaj ključnih vidikov, pri katerih se zaradi uporabe digitalne tehnologije pojavljajo izzivi v zvezi s temeljnimi pravicami. Prikazano je, katere pravice so kršene v teh okoliščinah, kako se razvijajo razmere v državah članicah EU ter kako države članice in Evropska komisija uporabljajo Listino za premagovanje različnih izzivov ter varovanje in spodbujanje pravic ljudi. 4.Obravnavanje izzivov v zvezi z moderiranjem vsebine na spletu Spletni posredniki, kot so platforme družbenih medijev, imajo pomembno vlogo v življenju vsakega posameznika ter spodbujajo nove oblike interakcij med posamezniki, javno upravo in podjetji. Z njihovo uporabo se je znatno povečal obseg informacij, ki so na voljo ljudem, ljudem pa dajejo tudi več možnosti za uveljavitev njihove pravice do svobode izražanja in za dostopanje do informacij, hkrati pa ustvarjajo tudi številne prostore za spletni aktivizem ter zbiranje posameznikov in civilne družbe. Velike platforme – nov mestni trg ·Nekatere spletne platforme so postale pri olajševanju izmenjave informacij tako pomembne, da imajo pomembno vlogo v demokratični razpravi. ·Ker več kot polovica prebivalstva v EU uporablja družbene medije, pri čemer delež oseb, starih od 16 do 24 let, dosega skoraj 90 %, imajo učinki zasnove in standardov na teh platformah velik družbeni vpliv. ·Orodja in mehanizmi, ki jih te platforme uporabljajo za moderiranje vsebine in spodbujanje ljudi, da čim več časa namenijo uporabi njihovih storitev, imajo pomembno vlogo pri oblikovanju informacij in mnenj, ki jih ljudje srečujejo na spletu. ·Boj proti nezakonitim vsebinam na teh velikih platformah je izziv, saj so te postale javni prostor za izmenjavo informacij, ne da bi bile pravno odgovorne za vidike javnega interesa. Z uporabo spletnih platform se hkrati povečujejo družbeni problemi, kot je polarizacija ali razširjanje nezakonite vsebine, ki pogosto močno negativno vplivajo na temeljne pravice, kot so varstvo pravic otroka, varstvo potrošnikov, svoboda do sprejemanja in širjenja vesti ter varstvo intelektualne lastnine. Obseg in hitrost širjenja spletnih vsebin, ki same po sebi niso nezakonite, kot so dezinformacije in teorije zarote, lahko vplivata na demokratični diskurz, zaupanje v institucije ter, kot se kaže po izbruhu pandemije COVID-19, na zdravje, varnost in enako obravnavo. Demokracija v EU se srečuje s številnimi izzivi, vključno s populizmom, vse bolj polarizirano politično razpravo in erozijo zaupanja javnosti v demokratične procese, ki jo povzročajo dezinformacije. Te pojave dodatno poslabšujejo usklajeno vmešavanje tretjih držav ali subjektov z zasebnimi interesi v volitve, razširjanje dezinformacij ter pomanjkanje preglednosti ciljno usmerjenih političnih oglasov in odgovornosti v zvezi z njimi. Izraženi so tudi pomisleki glede nekaterih skupin, ki niso dovolj vključene ali s katerimi se dovolj ne sodeluje, kot so mladi, starejši ali invalidi. Etnične manjšine, vključno z romskimi skupnostmi, osebe LGBTIQ in ženske imajo zaradi strahu pred ustrahovanjem, grožnjami, nadlegovanjem in sovražnim govorom različno velike in od okoliščin odvisne zadržke pri odločitvi za politično kandidaturo. V takih okoliščinah ukrepi za varstvo temeljnih pravic neposredno prispevajo k ohranjanju vrednot EU za trajnostno, enakopravno, demokratično in participativno družbo, v kateri prevladujejo strpnost, nediskriminacija in pluralizem. Svoboda izražanja, tudi na spletu, je osrednji element vsake demokracije. Pri vseh zakonodajnih ali nezakonodajnih ukrepih v zvezi z moderiranjem vsebine in odgovornostjo spletnih posrednikov za vsebino v okviru njihovih storitev je treba upoštevati, da pravica do svobode govora vključuje pravico do izražanja zamisli, ki lahko veljajo za kritične, žaljive, sramotilne ali sporne, ter da je pravico do svobode govora mogoče omejiti le pod zelo strogimi pogoji, tudi v povezavi z razširjanjem domnevno nezakonite vsebine, kot je sovražni govor. Vendar je Evropsko sodišče za človekove pravice hkrati jasno poudarilo, da je državam dovoljeno in da celo lahko imajo pozitivno dolžnost, da se borijo proti vsem oblikam izražanja, ki širijo, razpihujejo, spodbujajo ali opravičujejo sovraštvo do oseb ali skupin določene etnične skupnosti ali vere. Dezinformacije in napačne informacije najpogosteje niso nezakonite, čeprav so morda moteče ali žaljive. Država ima v zvezi z govorom, zaščitenim s svobodo izražanja, primarno obveznost, da se vzdrži vmešavanja in cenzure, vendar ima tudi pozitivno obveznost, da omogoči ugodno okolje za vključujočo in pluralistično javno razpravo, zlasti v zvezi z volitvami, in za uresničevanje svobode medijev. Taki ukrepi presegajo področje moderiranja vsebine ter so povezani z bolj temeljnimi ukrepi v zvezi z izobraževanjem in obveščanjem. Zasebni akterji, kot so spletne platforme, svoje pogoje in poslovni model opredeljujejo ob uveljavljanju pravice do svobode sklepanja pogodb in svobode gospodarske pobude brez navodil države glede vrste vsebine, ki bi jo morali gostiti. V tem okviru lahko sprejemajo ukrepe, ki močno vplivajo na uporabnike in njihove pravice. Zoper take zasebne odločitve ni vedno na voljo pravno sredstvo, ki bi omogočilo uravnoteženje takih odločitev glede na pravice posameznika in zakonite interese ter zagotovilo določeno stopnjo predvidljivosti. Kadar spletne platforme čezmerno odstranjujejo zakonito vsebino, lahko znatno omejijo svobodo izražanja in obveščanja. 4.1Razmere na ravni držav članic V ciljno usmerjenem posvetovanju, izvedenem v zvezi s pripravo tega poročila, so akterji civilne družbe poročali o težavah v državah članicah, ki jih povzročajo nekatere nezakonite spletne vsebine, kot so kampanje blatenja in napadi na tiste, ki si prizadevajo za varstvo pravic drugih. Glede na njihova poročila so bile ženske, zlasti ženske nebelih ras ali pripadnice ranljivih skupin, kot so migranti in Romi, pa tudi osebe LGBTIQ, nesorazmerno bolj prizadete. Otroci, ki uporabljajo spletne platforme, so izpostavljeni neprimernim, škodljivim in nasilnim vsebinam ter spletnim plenilcem, kar povečuje tudi tveganje za pridobivanje za spolne namene in novačenje v ekstremistična okolja. Poleg tega so poročali, da se spolno nasilje nad otroki povečuje z uporabo interneta, na primer zaradi povečanega povpraševanja po posnetkih spolne zlorabe otrok. V več državah članicah so organizacije civilne družbe kot težavo, ki vpliva na zdravje in varnost ter demokratični diskurz, opredelile tudi dezinformacije. Izražena je bila velika zaskrbljenost zaradi nepreglednosti (oznak, opozoril o deljenju, obvestil o izpostavljenosti) in nezadostne medijske pismenosti v zvezi z neresnično ali zavajajočo vsebino. Širjenje nezakonitih vsebin in dezinformacij so sodelujoči v javnem posvetovanju videli kot grožnjo, organizacije civilne družbe, s katerimi so bila opravljena posvetovanja, pa so opozorile tudi na učinke na svobodo izražanja, če se za spopadanje s takimi grožnjami uporabljajo slabo premišljene politike moderiranja vsebin. Organizacije civilne družbe so navedle, da je bilo varstvo avtorskih pravic zlorabljeno za utišanje mnenj na spletu ter da so bili zakoni o obrekovanju in poveličevanju terorizma uporabljeni za zatiranje posameznikov. V povezavi s slabo natančnostjo avtomatiziranih sistemov za moderiranje vsebine, zlasti pri uporabi za vsebino, katere ocena zakonitosti je odvisna od visoke stopnje umestitve v kontekst, so organizacije civilne družbe izrazile zaskrbljenost glede neupravičenih učinkov na svobodo izražanja zaradi preobsežnega odstranjevanja vsebine ter utišanja nekaterih izjav in mnenj, tudi izjav in mnenj manjšinskih skupin. Po mnenju akademikov in anketirancev v ciljno usmerjenem posvetovanju lahko uporaba algoritmov za prilagajanje prikaza vsebine za uporabnike izkrivlja tudi demokratični diskurz, saj je pogosto usmerjena v povečevanje prihodkov od oglaševanja in ne temelji na cilju zagotavljanja zanesljivih informacij javnosti v javnem interesu. Podobne trditve, da algoritmi, ki se uporabljajo za prilagajanje vsebine, ki jo uporabniki vidijo, povzročajo škodo, so v medijih navedli tudi žvižgači. Poleg tega, da uporaba takih sistemov vpliva na temeljne pravice, naj bi se ti po mnenju anketirancev v ciljno usmerjenem posvetovanju pogosto uporabljali na nepregleden ali ne povsem pregleden način in z malo odgovornosti za rezultate.

Več držav članic EU je zakonsko uredilo digitalne storitve ponudnikov s sedežem na njihovem ozemlju. Cilj teh zakonov je zagotoviti, da ponudniki storitev delujejo v skladu z nekaterimi postopkovnimi pravili, ko uporabniki ali organi prijavijo nezakonito vsebino. Včasih zajemajo posebne kategorije nezakonite vsebine, kot so kršitve avtorskih pravic ali nezakonit sovražni govor. Vendar se natančne zahteve teh zakonov pogosto razlikujejo v več točkah, in sicer glede na: ·informacije, potrebne za prijavo nezakonite vsebine; ·možnost odziva tistih, ki so objavili tako vsebino; ·časovni okvir za odziv ponudnikov storitev; ·morebitne obvezne ukrepe proti nepoštenim prijavam ali ·možnost predložitve spornih zadev neodvisni tretji osebi. V zadnjem času je več držav članic, vse bolj zaskrbljenih zaradi širjenja sovražnega govora in teroristične vsebine, sprejelo ali predlagalo dodatna pravila, osredotočena zlasti na nekatere kategorije nezakonite vsebine, ki včasih zajemajo tudi ponudnike storitev s sedežem zunaj njihovega ozemlja, ali predvidelo sprejetje takih pravil. Vendar je zaradi ločenih prizadevanj držav članic za obravnavo nezakonitih spletnih vsebin in zagotovitev različnih vrst zaščitnih ukrepov za svobodo izražanja nastala velika pravna razdrobljenost. Več držav članic, pa tudi Svet in Evropski parlament so pozvali k obravnavi teh skupnih vprašanj na ravni EU. Poleg tega so številne države članice ugotovile, da pomanjkanje čezmejnega sodelovanja med nacionalnimi organi ovira učinkovit nadzor nad spletnimi platformami, ki delujejo čezmejno . 4.2Odziv politike EU Na podlagi pozivov držav članic je bilo na ravni EU sprejetih več sektorskih pobud za obravnavanje problema posebnih vrst nezakonite vsebine, kot je vsebina, povezana s terorizmom, spolno zlorabo otrok, spodbujanjem k sovraštvu in nasilju, trgovino z ljudmi, nevarnimi proizvodi in kršitvami avtorskih pravic, ob hkratnem zagotavljanju varstva temeljnih pravic. Direktiva o avdiovizualnih medijskih storitvah Revidirana direktiva o avdiovizualnih medijskih storitvah je bila sprejeta leta 2018. Direktiva vključuje ukrepe za zaščito mladoletnikov pred avdiovizualno vsebino in komercialnimi sporočili, zaradi katerih bi lahko utrpeli fizično, duševno ali moralno škodo. Države članice morajo tudi zagotoviti, da avdiovizualne medijske storitve ne vsebujejo nobenega spodbujanja k nasilju ali sovraštvu proti ljudem iz katerega koli od razlogov iz člena 21 Listine EU o temeljnih pravicah. Rok za prenos te direktive je bil 19. september 2020. Novembra 2020 je Komisija začela postopke za ugotavljanje kršitev (uradni opomini) proti 23 državam članicam, ki Direktive niso prenesle, in mnoge so jo nato prenesle v naslednjem letu. Septembra 2021 je Komisija devetim državam članicam poslala drugo opozorilo (obrazloženo mnenje), ker je niso uradno obvestile, da so v celoti prenesle Direktivo. Izvajanje spremenjene direktive o avdiovizualnih medijskih storitvah ni pomembno le za udeležence na trgu, temveč tudi za posameznike (vključno z gledalci in mladoletnimi). Direktiva o avtorskih pravicah na enotnem digitalnem trgu Direktiva o avtorskih pravicah je bila sprejeta aprila 2019, njen cilj pa je zagotoviti, da imetniki pravic prejmejo pravično nadomestilo za uporabo njihovega dela. S tem vzpostavlja ravnovesje med konkurirajočimi temeljnimi pravicami, kot so pravica do intelektualne lastnine, svoboda izražanja in obveščanja, svoboda znanosti ter pravica do izobraževanja in kulturne raznolikosti. Direktiva uvaja obvezne izjeme od avtorskih pravic, ki ščitijo svobodo izražanja uporabnikov, ki ustvarjajo in nalagajo vsebino v storitve deljenja vsebin na spletu. V skladu z Direktivo je morala Komisija organizirati dialog z deležniki, v katerem je potekala razprava o najboljših praksah za sodelovanje med ponudniki storitev deljenja vsebin na spletu in imetniki pravic, pri čemer je bila posebna pozornost namenjena potrebi po iskanju ravnovesja med temeljnimi pravicami ter uporabi izjem in omejitev. Po tem dialogu je Komisija junija 2021 sprejela smernice za podporo skladni uporabi člena 17 Direktive, ki vzpostavlja nova pravila za uporabo varovanih vsebin v okviru storitev deljenja vsebin na spletu . Smernice zagotavljajo praktične napotke glede glavnih določb člena 17 in akterjem na trgu pomagajo k boljši skladnosti z nacionalnimi zakoni, ki temeljijo na Direktivi, v njih pa so upoštevana mnenja držav članic in deležnikov. Kodeks ravnanja za boj proti nezakonitemu rasističnemu in ksenofobičnemu sovražnemu govoru Komisija je leta 2016 z glavnimi spletnimi platformami podpisala prostovoljni kodeks ravnanja, da bi zagotovila hitro oceno obvestil o nezakonitem rasističnem in ksenofobičnem sovražnem govoru, in sicer ne le v skladu s pogoji opravljanja storitev posameznih podjetij, temveč tudi v skladu z zakonodajo držav članic, ki se uporablja za izvajanje prava EU, ki inkriminira rasistični in ksenofobični sovražni govor. Spoštovanje kodeksa ravnanja se redno spremlja. To prinaša dobre rezultate ter spodbuja tudi pristop sodelovanja med spletnimi platformami, državami članicami in civilno družbo, da se zagotovi visokokakovostno moderiranje vsebine, kjer je potrebno poglobljeno razumevanje kulturnih, jezikovnih in zgodovinskih okoliščin sporne vsebine. Priporočilo o varnosti novinarjev in drugih medijskih delavcev Novinarji so zelo zaskrbljeni za svojo varnost, saj se na spletu srečujejo s spodbujanjem sovraštva in grožnjami s fizičnim nasiljem, pa tudi s tveganji v zvezi s kibernetsko varnostjo in nezakonitim nadzorom. Evropska komisija je 16. septembra 2021 objavila priporočilo o zaščiti, varnosti in opolnomočenju novinarjev. V priporočilu poziva države članice, naj spodbujajo sodelovanje med spletnimi platformami in organizacijami s strokovnim znanjem na področju obvladovanja groženj novinarjem, na primer s spodbujanjem njihove morebitne vloge kot zaupanja vrednih prijaviteljev. Novinarji in drugi medijski delavci niso le tarče spletnega spodbujanja sovraštva in groženj s fizičnim nasiljem, temveč so lahko podvrženi tudi nezakonitemu nadzoru, zato je v priporočilu navedeno, da bi morali ustrezni nacionalni organi za kibernetsko varnost na zahtevo novinarjem, ki želijo ugotoviti, ali so zlonamerni akterji pridobili dostop do njihovih naprav ali spletnih računov, pomagati pridobiti pomoč forenzičnih preiskovalcev za kibernetsko varnost. Države članice bi morale spodbujati tudi reden dialog med temi organi za kibernetsko varnost, mediji in medijskim sektorjem, zlasti za spodbujanje kibernetske ozaveščenosti ter digitalnih znanj in spretnosti med novinarji. Uredba o obravnavanju razširjanja terorističnih spletnih vsebin Varnost in spoštovanje temeljnih pravic nista nasprotujoča si cilja, temveč sta skladna cilja, ki se med seboj dopolnjujeta. Za varnost spletnega in fizičnega okolja je potreben boj proti nezakonitim spletnim vsebinam. Za zagotovitev odstranjevanja terorističnih vsebin sta Evropski parlament in Svet leta 2021 sprejela uredbo, ki obravnava razširjanje terorističnih spletnih vsebin. Uredba vključuje številne zaščitne ukrepe za varovanje temeljnih pravic, zlasti svobode izražanja. Nacionalni organi lahko na primer izdajo odredbe o odstranitvi samo za teroristično vsebino, kot je opredeljena v Uredbi, pri čemer mora biti v takih odredbah utemeljeno, zakaj se gradivo šteje za teroristično vsebino. Iz Uredbe je izvzeta vsebina, ki se razširja za izobraževalne, novinarske, umetniške ali raziskovalne namene, ter vsebina, ki se razširja z namenom ozaveščanja o teroristični dejavnosti. Spletne platforme niso obvezane uporabljati avtomatizirana orodja za proaktivno prepoznavanje ali odstranjevanje terorističnih vsebin, kadar pa se tehnični ukrepi uporabljajo, je treba uvesti zaščitne ukrepe, zlasti človeški nadzor in preverjanje, da se zagotovi točnost. Od marca 2023 bodo morale države članice in spletne platforme izdajati tudi letna poročila o ukrepih, sprejetih za odstranjevanje terorističnih vsebin, in o delovanju vseh avtomatiziranih orodij, ki so bila morda uporabljena. Zakonodaja o obravnavanju spolne zlorabe otrok na spletu

Regulativni ukrepi za boj proti nezakonitim vsebinam so večinoma osredotočeni na javno dostopne vsebine, kot so vsebine, objavljene v družbenih medijih ali na spletnih mestih, vendar je treba obravnavati tudi izziv spopadanja s posnetki spolne zlorabe otrok, ki se delijo v medosebnih komunikacijskih storitvah, tudi z medosebnimi komunikacijskimi orodji v storitvah družbenih medijev. Začasna zakonodaja, ki je začela veljati avgusta 2021, zagotavlja, da lahko nekatere spletne komunikacijske storitve, kot so storitve spletne pošte ali sporočanja, še naprej uporabljajo, kolikor je to nujno potrebno, posebne tehnologije za odkrivanje posnetkov spolne zlorabe otrok, njihovo prijavo in odstranitev, hkrati pa zagotavlja številna jamstva za varovanje zasebnosti in varstvo osebnih podatkov v skladu s splošno uredbo o varstvu podatkov. Mehanizmi za odkrivanje spolne zlorabe otrok v medosebni komunikaciji lahko vplivajo na več temeljnih pravic, zlasti na zaupnost komunikacij, varstvo osebnih podatkov ali svobodo izražanja. Namen začasne uredbe je zmanjšati ta vpliv z omejitvijo uporabe na tehnologije, ki čim manj posegajo v zasebnost, v skladu z najsodobnejšo tehnologijo v panogi. Uredba določa tudi mehanizme pravnega varstva, ki jih je treba vzpostaviti, da lahko posamezniki pri ponudnikih vložijo pritožbo, kadar je bila njihova vsebina napačno odstranjena. Komisija pripravlja tudi predlog zakonodaje, ki bi nadomestila ta začasni ukrep in ponudnikom storitev zagotovila pravno varnost ter enoten pristop k odkrivanju, odstranjevanju in prijavi posnetkov spolne zlorabe otrok, hkrati pa zagotovila pravo ravnovesje med pravicami otroka in potrebo po zaščiti otrok pred spolno zlorabo ter pravico do zasebnega življenja in komunikacije vseh uporabnikov spletnih storitev. Strategija EU za boj proti trgovini z ljudmi za obdobje 2021–2025 Boj proti digitalnim poslovnim modelom trgovcev z ljudmi je ena od prednostnih nalog Strategije EU za boj proti trgovini z ljudmi (2021–2025), ki jo je Komisija predstavila aprila 2021. Ponudniki internetnih storitev in povezana podjetja so z odkrivanjem in odstranjevanjem spletnega gradiva, povezanega z izkoriščanjem in zlorabo žrtev trgovine z ljudmi, del rešitve za podporo prizadevanjem v boju proti trgovini z ljudmi. Komisija bo izvedla dialog z ustreznimi internetnimi in tehnološkimi podjetji za zmanjšanje uporabe spletnih platform za novačenje in izkoriščanje žrtev. Komisija bo poleg tega tudi olajšala morebitne podobne dialoge, ki jih bodo izvajale države članice na nacionalni ravni. Predlog uredbe o aktu o digitalnih storitvah Predlog uredbe o aktu o digitalnih storitvah, ki ga je Komisija sprejela decembra 2020 in o katerem trenutno razpravljata sozakonodajalca, vsebuje opredelitev odgovornosti spletnih posrednikov. Brez poseganja v sektorska pravila EU, kot so pravila o avtorskih pravicah ali terorističnih spletnih vsebinah, zagotavlja enoten horizontalni nabor pravil v EU za uravnoteženo upravljanje moderiranja spletne vsebine. Predlog zagotavlja ustrezno varovanje vseh temeljnih pravic, vključno s svobodo izražanja in pravico do zasebnega življenja uporabnikov, svobodo gospodarske pobude ter svobodo sklepanja pogodb za platforme ter pravicami intelektualne lastnine. Njegov cilj je tudi zmanjšati tveganja za ljudi v ranljivem položaju in za ranljive skupine, da bi jih zaščitili pred grožnjami, ustrahovanjem ali diskriminatornim vedenjem, ter varovati pravico vseh uporabnikov spletnih storitev do človekovega dostojanstva. Predlog uredbe naj bi te cilje dosegel z: ·večinoma ohranjeno obstoječo ureditvijo odgovornosti za spletne posrednike, vključno s prepovedjo splošne obveznosti nadzora ali obveznosti iskanja dejstev. Ta pristop temelji na veljavni direktivi o elektronskem poslovanju. Cilj predloga uredbe je: (i) zagotoviti sorazmerno in ustrezno varstvo pravice do svobode izražanja z omejitvijo spodbud za odstranitev zakonite vsebine in svobode gospodarske pobude, da bi se zagotovila sorazmernost v prizadevanjih, ki se zahtevajo od spletnih posrednikov, in zaščitili njihovi zakoniti poslovni uporabniki, ter (ii) obravnavati pomisleke glede javnih politik, povezane z razširjanjem različnih vrst nezakonite vsebine, z zagotavljanjem, da jih posredniki hitro odstranijo v skladu s pogoji, ki jih določa zakonodaja; ·določitvijo jasnih in sorazmernih obveznosti glede potrebne skrbnosti za spletne posrednike, s katerimi bi se zagotovilo, da bi bila nezakonita vsebina ustrezno in pregledno obravnavana ter da bi lahko uporabniki uveljavljali svoje pravice. Predlog določa tudi strog nabor zaščitnih ukrepov za postopke moderiranja vsebine, tudi za tiste, ki temeljijo na pogojih poslovanja, ki jih določijo zasebne družbe; ·naložitvijo obveznosti zelo velikim spletnim platformam, ki so si zaradi svojega dosega zagotovile osrednjo, sistemsko vlogo pri omogočanju javne razprave, da ocenijo in zmanjšajo tveganja, ki jih predstavljajo njihove storitve, tudi za nekatere temeljne pravice: spoštovanje zasebnega in družinskega življenja, svobodo izražanja in obveščanja, prepoved diskriminacije ter pravice otroka. Pri strategijah za zmanjševanje tveganja je treba upoštevati tudi morebitne negativne učinke platformskih algoritmov za poudarjanje vsebine, kot so priporočilni ali oglaševalski sistemi. Za zelo velike spletne platforme bi veljala tudi večja odgovornost, in sicer bi morale uporabnikom dajati več možnosti izbire pri njihovih spletnih interakcijah ter neodvisnim revizorjem in preverjenim raziskovalcem omogočiti nadzor njihovih sistemov. Boj proti dezinformacijam in urejanje političnega oglaševanja na spletu Širjenje dezinformacij, napačnih informacij in teorij zarote lahko povzroči polarizirajoče razprave ter ogroža zdravje, varnost in okolje. Dezinformacije lahko tudi ovirajo zmožnost ljudi, da sprejemajo informirane odločitve na podlagi dejstev. V nekaterih primerih dezinformacije pomenijo govor, ki ga država lahko zakonito omeji (kot je rasistično in ksenofobično spodbujanje nasilja in sovraštva). Vendar je ta govor zelo pogosto zaščiten s pravico do svobode izražanja, tudi če ne temelji na znanstvenih dokazih ali nima podlage v resničnih dogodkih. V primeru zaščitenega govora se morajo države vzdržati cenzure. Da bi bili ukrepi za omejevanje dosega dezinformacij in teorij zarote učinkoviti, jih mora spremljati spodbujanje ugodnega okolja za vključujočo in pluralistično javno razpravo. To je zlasti pomembno v povezavi z volitvami. Glede na navedeno je Komisija v letih 2020 in 2021 nadaljevala s pripravo več ukrepov, katerih cilj je narediti spletno okolje preglednejše in njegove akterje odgovornejše, opolnomočiti uporabnike in spodbujati odprto demokratično razpravo. Ti ukrepi so vključevali (i) podporo neodvisnim preverjevalcem dejstev in akademskim raziskovalcem, zlasti prek evropske opazovalnice digitalnih medijev, (ii) ukrepe za izboljšanje medijske pismenosti in (iii) spremljanje samoregulativnega kodeksa ravnanja glede dezinformacij. Na podlagi rezultatov teh dejavnosti spremljanja je Komisija objavila tudi smernice o tem, kako bi lahko sedanji in novi podpisniki kodeksa ravnanja, vključno z aplikacijami za pošiljanje zasebnih sporočil, oglaševalskim sektorjem in drugimi ustreznimi deležniki, razširili področje uporabe in povečali uporabo kodeksa ter zagotovili zanesljivejši okvir za spremljanje. Za spodbujanje demokratičnega diskurza so v akcijskem načrtu za evropsko demokracijo določeni ukrepi za spodbujanje svobodnih in poštenih volitev, krepitev svobode medijev in boj proti dezinformacijam. To vključuje predlog o preglednosti in ciljanem političnem oglaševanju, ki je bil sprejet novembra 2021 kot del ukrepov za zaščito integritete volitev in odprte demokratične razprave. V skladu s temi predlaganimi pravili bi bilo treba vsak politični oglas jasno označiti kot tak in vključiti informacije, med drugim, o tem, kdo je zanj plačal in koliko. Tehnike političnega ciljanja in ojačevanja bi bilo treba javno pojasniti podrobneje kot kadar koli doslej in jih prepovedati, če uporabljajo občutljive osebne podatke brez izrecne privolitve posameznika. Nazadnje, v novem akcijskem načrtu za digitalno izobraževanje (2021–2027) je predlagano, naj se pripravijo smernice za učitelje in izobraževalce za boj proti dezinformacijam in spodbujanje digitalne pismenosti. Predlog nove uredbe o splošni varnosti proizvodov Poleg tega je Komisija zaradi izpolnjevanja dodatnih sektorskih zahtev junija 2021 kot del pregleda okvira EU za varnost proizvodov sprejela in objavila predlog nove uredbe o splošni varnosti proizvodov. S sprejetjem tega predloga, ki temelji na predlogu akta o digitalnih storitvah, bi bile za spletne tržnice uvedene dodatne zahteve glede nevarnih proizvodov kot posebne kategorije nezakonite vsebine. O predlogu trenutno razpravljata sozakonodajalca.

5.Varovanje temeljnih pravic pri uporabi UI Uporaba tehnologij umetne inteligence (UI) ima lahko precejšnje pozitivne učinke na naše družbe. Poveča lahko učinkovitost procesov ali spodbuja inovacije in raziskave. Uporablja se lahko tudi za promocijo vrste temeljnih pravic, kot sta pravica do svobode izražanja in obveščanja ali pravica do zdravstvenega varstva, in za spodbujanje pomembnih vprašanj v javnem interesu, kot sta javna varnost ali javno zdravje. Po drugi strani pa se lahko, kadar se UI brez ustreznih zaščitnih ukrepov in kontrole kakovosti uporablja za avtomatizacijo ali podpiranje procesov odločanja ali za dejavnosti, kot je nadzor, tudi kršijo pravice posameznikov. Take kršitve so lahko obsežne, odvisno od tega, kako široko se sistem uporablja, in jih je včasih težko preprečiti ali odkriti, če sistem UI ni dovolj pregleden ali če se ljudje ne zavedajo njegove uporabe. Na primer, uporaba UI za pridobivanje informacij o ljudeh na podlagi sklepanja lahko vpliva na varstvo podatkov in zasebnost. Pristranskost algoritmov ali učnih podatkov, kot sta spolna pristranskost ali pristranskost v zvezi z narodnostjo ali raso, lahko pripelje do nepravičnih in diskriminatornih rezultatov. Če se sistem za ocenjevanje potencialnega uspeha pri delu večinoma uči iz podatkov o moških, bo verjetno deloval slabše, kadar se bo uporabljal za analizo podatkov o ženskah, kar bo verjetno pomenilo diskriminacijo. Poleg tega lahko uporaba UI vpliva tudi na pravice do človekovega dostojanstva, dobrega upravljanja, varstva potrošnikov, socialne varnosti in pomoči, svobode izražanja, svobode zbiranja, izobraževanja, azila, kolektivnih pogajanj in ukrepov, poštenih in pravičnih delovnih pogojev, dostopa do preventivnega zdravstvenega varstva, kulturne in jezikovne raznolikosti, pravici do varstva podatkov in spoštovanja zasebnega življenja ter pravice ranljivih skupin, kot so otroci. Če se ti sistemi uporabljajo v okviru kazenskega pregona ali sodstva, lahko vplivajo tudi na domnevo nedolžnosti ter pravico do poštenega sojenja in obrambe. Nedostopnost ali neobstoj ustreznih informacij o avtomatiziranih sistemih prav tako ovira učinkovito izpolnjevanje obveznosti v zvezi s temeljnimi pravicami in dostop posameznikov do pravnih sredstev. Kaj je UI in katere posebne lastnosti lahko pomenijo tveganja?



— UI je izraz za skupino tehnologij, ki se v zadnjih letih hitro razvijajo. Funkcije nekaterih vrst sistemov UI sledijo pravilom, ki se samodejno ustvarijo in jih ne programirajo izrecno ljudje. Rezultati tega so včasih izjemni, lahko pa pomenijo tudi izzive. V predlaganem aktu o umetni inteligenci je UI na podlagi opredelitve OECD opredeljena kot programska oprema, razvita po pristopih s strojnim učenjem, pristopih, ki temeljijo na logiki in znanju, ter statističnih pristopih, ki lahko za določen sklop ciljev, ki jih opredeli človek, ustvarja izhodne podatke, kot so vsebine, napovedi, priporočila ali odločitve, ki vplivajo na okolje, s katerim je v stiku. — Zaradi neprepustnosti (nepreglednosti) in zapletenosti (operacije s številnimi različnimi komponentami in procesi) nekaterih sistemov UI je težko ugotoviti in dokazati morebitne kršitve zakona, vključno z določbami, ki zagotavljajo spoštovanje temeljnih pravic, ter izslediti morebitne napake ali nepravilno delovanje sistema. — Posebna podskupina načinov uporab UI se lahko stalno prilagaja, celo med uporabo, ter se spreminja in razvija na nepredvidene načine, ki jih ni lahko spremljati. To povzroči določeno stopnjo nepredvidljivosti, ki lahko vpliva na varnost ali temeljne pravice. — Avtonomno delovanje sistemov lahko vpliva na varnost, saj nekateri sistemi UI zahtevajo malo človekovega posredovanja pri izvajanju nalog ali ga sploh ne zahtevajo. — Odvisnost nekaterih sistemov od podatkov in morebitne pristranskosti, vgrajene v algoritme, lahko povzročijo ali povečajo sistemske pristranskosti in število napak. Če ti sistemi niso ustrezno zasnovani, preskušeni in uporabljeni, lahko še povečajo škodljive posledice, kot je diskriminacija.



5.1Razmere in ukrepi na ravni držav članic Države članice EU v zadnjih letih iščejo načine za reševanje izzivov, ki jih pomeni uporaba tehnologij UI. Številne so razvile nacionalne strategije za UI, v katerih poudarjajo, da je treba zagotoviti spoštovanje temeljnih pravic. Poleg tega so države članice pripravile ali načrtujejo pripravo smernic in etičnih standardov za pomoč tistim, ki uporabljajo orodja UI, za zagotovitev preglednosti, sledljivosti in zanesljivosti, obravnavo morebitnih pristranskosti ter iskanje učinkovitih načinov za izpolnjevanje obveznosti spoštovanja temeljnih pravic. V nekaterih primerih smernice in strokovno znanje razvijejo akademiki ali strokovne skupine, ustanovljene v ta namen. Tudi pri skupnem ukrepanju na ravni EU so države članice poudarile, da je treba zagotoviti spoštovanje pravic iz Listine v celoti, in pozvale k pregledu obstoječe zadevne zakonodaje za njeno prilagoditev namenu, da bi obravnavala nove priložnosti in izzive v zvezi z UI. Oktobra 2020 je 26 od 27 držav članic sprejelo dokument z naslovom „Listina o temeljnih pravicah v kontekstu umetne inteligence in digitalnih sprememb“, v katerem so pozvale k obravnavi neprepustnosti, zapletenosti in pristranskosti ter določene stopnje nepredvidljivosti in delno avtonomnega vedenja nekaterih sistemov UI za zagotovitev spoštovanja temeljnih pravic in lažje izvrševanje pravnih pravil. Države članice so poudarile pomen vključitve različnih deležnikov, vključno s tistimi iz civilne družbe, da bi se izkoristilo njihovo strokovno znanje. V času sprejetja tega poročila nobena država članica EU ni imela sprejete posebne zakonodaje za obravnavo izzivov v zvezi s temeljnimi pravicami zaradi uporabe UI. Zdi se, da so se organi držav članic zanašali na obstoječo zakonodajo. Leta 2017 je italijansko sodišče italijanskemu ministrstvu za izobraževanje odredilo, naj razkrije algoritem za avtomatizirano odločanje, ki ga je uporabljalo za upravljanje mobilnosti delavcev, na podlagi pravice do dostopa do dokumentov, ki daje tudi pravico do učinkovitega pravnega sredstva. Leta 2018 je finsko nacionalno sodišče za nediskriminacijo in enakost menilo, da primer kreditnega točkovanja na podlagi statističnih podatkov v zvezi s spolom, prebivališčem, starostjo in jezikom, in ne na podlagi posamičnega ocenjevanja, pomeni diskriminacijo. Februarja 2020 je nizozemsko sodišče razveljavilo nizozemsko zakonodajo, s katero je bil vzpostavljen sistem za odkrivanje goljufij, na podlagi temeljne pravice do zasebnega življenja, kot je določena v Evropski konvenciji o človekovih pravicah. „Kazalnik visokega tveganja“ je bil uporabljen za analizo podatkov, ki so jih zbrali različni javni organi, za odkrivanje ljudi, ki bi lahko potencialno zagrešili goljufije v zvezi s prejemki. Nizozemsko sodišče je ugotovilo, da uporaba tega kazalnika ni bila dovolj pregledna, njegovo poseganje v pravico do zasebnosti pa ni bilo sorazmerno s ciljem odkrivanja goljufij. Ti primeri kažejo, da so se države članice že spopadle z izzivi zaradi uporabe UI v zvezi s temeljnimi pravicami. Namen pristopa k izzivom v zvezi z UI, ki ga predlaga Komisija, je okrepiti učinkovito varstvo temeljnih pravic ob hkratnem spodbujanju inovacij na področju UI. 5.2Predlog Komisije za urejanje sistemov UI z velikim tveganjem Komisija je aprila 2021 predstavila predlog uredbe o UI (akt o umetni inteligenci). Ključni cilji predlaganega akta o umetni inteligenci so varstvo temeljnih pravic in varnost ter vzpostavitev enotnega trga za zaupanja vredne sisteme UI. Namen predloga je zagotoviti, da se bodo sistemi UI z velikim tveganjem oblikovali in uporabljali v skladu s temeljnimi pravicami ter da bodo lahko pristojni nacionalni organi in sodišča učinkoviteje preiskovali in obravnavali morebitne kršitve obveznosti v zvezi s temeljnimi pravicami. V predlogu je uporabljen pristop na podlagi tveganja. Nekateri sistemi UI so popolnoma prepovedani, na primer tisti, pri katerih se uporabljajo subliminalne tehnike, in tisti, ki jih javni organi uporabljajo za družbeno točkovanje, ker so v nasprotju z vrednotami EU. Prepovedani so tudi sistemi za biometrično identifikacijo na daljavo v javno dostopnih prostorih za namene kazenskega pregona, razen če se uporabljajo jasno opredeljene izjeme in zaščitni ukrepi. Sistemi UI z velikim tveganjem bodo morali izpolnjevati nabor zahtev in prestati postopke ugotavljanja skladnosti, preden bodo dani na trg ali v uporabo. S temi zahtevami se zagotavljajo ustrezna dokumentacija in testiranje sistemov UI z velikim tveganjem ter ustrezna kakovost podatkov, sledljivost, človekov nadzor, zanesljivost, točnost in kibernetska varnost. Veljale bodo pri uporabi sistemov UI na kritičnih področjih, kot so biometrična identifikacija, izobraževanje, zaposlovanje, bistvene javne in zasebne storitve, kot so krediti, ali ugodnosti javne pomoči, kazenski pregon, nadzor migracij in meje ter sodstvo. Za sisteme UI, ki so varnostne komponente nekaterih reguliranih izdelkov (npr. stroji, medicinski pripomočki), bodo veljale enake zahteve in bodo morali prestati preverjanje, preden bodo lahko dani na trg EU ali v uporabo. Predlog zagotavlja, da bodo uporabniki sistemov UI, kot so podjetja, ki sodelujejo s strankami, ali javni organi, ki sprejemajo odločitve, od razvijalcev sistemov prejeli ustrezne informacije, da bo zagotovljena primerna uporaba aplikacij in da jim bo omogočeno izpolnjevanje obveznosti v skladu z zakonodajo o temeljnih pravicah. Če bodo z uporabo sistemov UI kršene temeljne pravice, bodo imele izpostavljene osebe možnost učinkovitega sodnega varstva z zagotavljanjem preglednosti in sledljivosti sistemov UI skupaj z močnim naknadnim nadzorom s strani pristojnih organov. Nadzorni organi, odgovorni za uveljavljanje temeljnih pravic, kot so organi za varstvo podatkov, organi za enakost ali organi za varstvo potrošnikov, bodo imeli dostop do vse dokumentacije o sistemih UI z velikim tveganjem v njihovi pristojnosti. Lahko bodo sodelovali z organi za nadzor trga za preskušanje zadevnih sistemov UI, kadar bo to potrebno.

Pri specifičnih sistemih UI se bo zaradi obveznosti do izpostavljenih oseb v zvezi s preglednostjo zmanjšalo tveganja manipulacije, zlasti v primeru klepetalnih botov (računalniških programov, ki lahko odgovarjajo na vprašanja v spletnem klepetu) ali „globokih ponaredkov“ (umetno ustvarjene ali manipulirane slikovne, zvočne ali videovsebine, ki spominja na obstoječe osebe, predmete, kraje ali druge subjekte ali dogodke in se lažno zdi verodostojna ali resnična). Ljudje bi morali biti obveščeni tudi, kadar se uporabi sistem za prepoznavanje čustev ali biometrično kategorizacijo, kar jim bo v pomoč pri uveljavljanju svojih pravic v skladu z obstoječo zakonodajo o varstvu podatkov. O predlogu trenutno potekajo pogajanja s sozakonodajalcema. 5.3Medsebojni vpliv s sektorsko zakonodajo – primer kreditne sposobnosti in kreditnega točkovanja Predlog akta o umetni inteligenci se bo uporabljal skupaj z drugo zakonodajo, ki določa materialna pravila za uporabo sistemov UI v jasno ciljnih okoliščinah. Posojilodajalci na primer pogosto uporabljajo avtomatizirane tehnike odločanja, vključno s sistemi UI, za ocenjevanje kreditne sposobnosti ali kreditno točkovanje. Taki posojilodajalci se opirajo na različne podatke, od katerih številnih ne predložijo potrošniki ali pa ti potrošnikom niso znani. To vzbuja skrb zaradi varstva osebnih podatkov, neposredne ali posredne diskriminacije in varstva potrošnikov. Direktiva o potrošniških kreditih in direktiva o stanovanjskih kreditih vsebujeta določbe o ocenjevanju kreditne sposobnosti. Komisija je junija 2021 sprejela nov predlog direktive o potrošniških kreditih, ki razveljavlja in nadomešča sedanjo direktivo o potrošniških kreditih. Vsebuje predloge pravil v zvezi z odobritvijo kreditov potrošnikom, v skladu s katerimi bodo morale države članice zagotoviti dokumentacijo o postopkih in informacijah, ki se uporabljajo pri ocenjevanju kreditne sposobnosti. Poleg tega bodo morale ocene temeljiti na ustreznih in točnih informacijah o finančnih in ekonomskih okoliščinah (npr. na dohodku in stroških), ne bi pa smele temeljiti na podatkih, kot so podatki iz družbenih medijev. Potrošniki bodo imeli tudi pravico do pojasnila, kako je bila sprejeta odločitev o njihovi kreditni sposobnosti, pravico, da izrazijo svoje mnenje, in pravico do človeškega posredovanja, s čimer bodo upoštevana načela splošne uredbe o varstvu podatkov (GDPR) v zvezi z avtomatiziranim odločanjem. Novi predlog vključuje tudi člen o nediskriminaciji, ki določa, da pogoji, ki morajo biti izpolnjeni za pridobitev kredita, ne smejo pomeniti diskriminacije potrošnikov, ki zakonito prebivajo v Uniji, na podlagi njihovega državljanstva ali prebivališča ali na kateri koli podlagi iz člena 21 Listine EU o temeljnih pravicah. O predlogu trenutno potekajo pogajanja s sozakonodajalcema. 5.4Znanja in spretnosti Pri uporabi sistemov UI morajo biti delavci ustrezno usposobljeni, da se zagotovi spoštovanje temeljnih pravic in ustrezen človekov nadzor. Nadzorni organi bodo potrebovali tudi osebje s specifičnimi tehničnimi znanji in spretnostmi za učinkovito izvajanje svojih nalog. Komisija je septembra 2020 sprejela akcijski načrt za digitalno izobraževanje za obdobje 2021–2027. Njegov cilj je spodbujanje digitalnega znanja in spretnosti, tudi v zvezi z UI, ter vključuje razvoj etičnih smernic na področju UI in podatkov v izobraževanju in usposabljanju. Poleg tega so vse države članice, ki so sprejele nacionalne strategije za UI, v te strategije vgradile sestavino znanja in spretnosti, na primer prek reform izobraževalnih sistemov za krepitev računalniškega razmišljanja ali pobud za prilagoditev politik vseživljenjskega učenja in preusposabljanja. 6.Obravnava digitalne vrzeli Digitalna povezanost in sposobnost omogoča dejavno sodelovanje v družbi. Vse več bistvenih dejavnosti prehaja v spletno okolje, vse od iskanja dela, opravljanja dela na daljavo in izobraževanja do stikov z javno upravo ali urejanja termina za pregled pri zdravniku. Vendar vsi ljudje ne uporabljajo spleta. Če ga ne uporabljajo, lahko to vpliva na uveljavljanje njihovih pravic. To lahko na primer vpliva na njihove pravice v demokratični družbi, vključno s pravico do svobode izražanja in obveščenosti ter pravico do kandidiranja na občinskih volitvah, saj politične kampanje vedno pogosteje potekajo na spletu. Za tiste brez potrebne opreme ali digitalnega znanja je izbruh pandemije COVID-19 te težave pri dostopu do javnih storitev še povečal, saj so bili uradi zaprti in ljudje naprošeni, naj s svojimi nacionalnimi upravami komunicirajo po spletu. Ta pojav je pogosto poimenovan „digitalna vrzel“. Še danes 46 % Evropejcev nima osnovnih digitalnih znanj in spretnosti. To je priznano v okviru evropskega stebra socialnih pravic, ki digitalne komunikacije vključuje med osnovne storitve, do katerih bi moral vsak imeti dostop, in poziva k podpornim ukrepom za tiste, ki potrebujejo pomoč. Tisti brez rednega dostopa do interneta ali brez potrebnega znanja in spretnosti za uporabo teh storitev in tisti, ki ne morejo uporabljati digitalnega proizvoda ali storitve zaradi telesne oviranosti ali kognitivne motnje, so v vse večji nevarnosti, da bodo izključeni in da bodo imeli težave pri uveljavljanju svojih pravic. V primeru javnih storitev, ki so dostopne izključno digitalno, je lahko za tiste, ki niso povezani, nemogoče, da bi uveljavili svoje pravice, ali pri tem potrebujejo pomoč. Haut Conseil du Travail, svetovalni organ francoskega ministrstva za socialne zadeve, na primer ocenjuje, da ima ena petina ljudi v Franciji težave pri tem, ko skušajo dokončati upravne postopke prek spleta, in svari, da lahko digitalizacija ogrozi načelo enakega dostopa do javnih storitev, če se ne ohranijo drugi načini dostopa. Ker ima vse več gospodarskih dejavnosti digitalno komponento, postaja uveljavljanje pravice do dostopa do storitev splošnega gospodarskega interesa vse bolj odvisno od dostopa do interneta. Otroci, ki doma nimajo povezane naprave, imajo težave pri sodelovanju v šoli na daljavo, kar posega v otrokove pravice in pravico do izobraževanja. Če spletna mesta in mobilne aplikacije niso prilagojene potrebam invalidov, je lahko kršena njihova pravica do vključenosti. Glede na izzive, ki jih pomeni digitalna vrzel, države članice in Komisija izvajajo vrsto ukrepov za zagotovitev, da nihče ne bo zapostavljen. Kot je napovedano v akcijskem načrtu za evropski steber socialnih pravic, bo Komisija leta 2022 objavila poročilo o dostopu do osnovnih storitev, ki bo zajemalo tudi dostop do digitalnih komunikacij, predstavitev pregleda stanja v EU27 ter evidentiranje obstoječih nacionalnih in EU ukrepov ter dobrih praks v podporo dostopu za ljudi, ki potrebujejo pomoč. 6.1Splošno zmanjšanje digitalne vrzeli Dejstvo, da so se med pandemijo številne dejavnosti preselile v spletno okolje, ni le izziv, temveč tudi priložnost. Države članice so razvile projekte za pomoč gospodarstvu pri okrevanju po upadu zaradi pandemije, ki jih bo financirala EU. Ti projekti vključujejo ukrepe za zmanjševanje digitalne vrzeli in doseganje vključujočih digitalnih pravic ter za obravnavo digitalizacije dela. Za primer lahko navedemo dva nacionalna načrta. Romunija načrtuje naložbe v ustvarjanje izobraževalnih vsebin in dostopnih virov, kot so videoposnetki in interaktivne učne ure, ter razvoj dostopnih programov za digitalno pismenost za invalidne študente. Nemčija želi pomagati pri nakupu digitalnih naprav za učitelje po vsej državi. Poleg tega bo ustvarila platformo za digitalno vseživljenjsko učenje, posebna pozornost pa bo namenjena podpori formalno najmanj usposobljenim prebivalcem. Gledano splošneje, v različnih državah članicah obstajajo obetavne pobude. Februarja 2021 je Belgija objavila javni razpis za projekte v podporo podjetnicam, ki jih je prizadela pandemija COVID-19, tudi z zagotovitvijo smernic za digitalizacijo. Belgija vlaga tudi v lokalne organizacije, katerih cilj je povečati digitalna znanja in spretnosti mladih v prekarnem položaju. Portugalska mobilizira mlade prostovoljce za pomoč pri izobraževanju odraslih o digitalnem prehodu na podlagi nacionalne mreže 1 500 središč za usposabljanje ter številnih brezplačnih orodij in virov. Ta program za digitalno vključenost naj bi dosegel milijon ljudi, izvajal pa se bo v partnerstvu z lokalnimi organi in organizacijami. Po podobni logiki kot pobuda WiFi4EU Italija subvencionira dostop do interneta za nekatere prebivalce in je začela projekt „Piazza Wifi Italia“, ki več kot 400 000 ljudem omogoča preprosto brezplačno povezavo do brezplačnega omrežja WiFi, vzpostavljenega po celotni državi, prek posebne aplikacije. Marca 2020 je bil ta projekt razširjen na zdravstvene ustanove, vključno z bolnišnicami. Digitalna infrastruktura se bo verjetno še naprej razvijala, EU pa je sprejela ukrepe na različnih področjih, da bi izboljšala povezljivost. Glavni cilj v zvezi s povezljivostjo v digitalnem desetletju je vsem evropskim gospodinjstvom zagotoviti dostop do pokritosti s hitrimi internetnimi povezavami do leta 2025 in do gigabitne povezljivosti do leta 2030. Komisija in države članice so se marca 2021 dogovorile o zbirki orodij za povezljivost, da bi spodbudile vzpostavljanje digitalnih omrežij in olajšale dostop do spektra 5G. Pregled direktive o znižanju stroškov širokopasovnih povezav, načrtovan za leto 2022, je namenjen nadaljnji podpori uvajanju digitalnih omrežij z zmanjšanjem upravnega bremena ter stroškov in časa takega vzpostavljanja. Poleg tega je namen dolgoročne vizije za podeželska območja, ki jo je Komisija sprejela junija 2021, zmanjšati vrzel med mesti in podeželjem z omogočanjem dostopa do hitre internetne povezave, 5G (tudi s financiranjem EU) in digitalne tehnologije ter krepitvijo digitalnih kompetenc. Visokohitrostna širokopasovna povezljivost je ključni dejavnik, ki omogoča digitalni prehod in okrevanje po COVID-19. Komisija je zavezana zmanjšanju digitalnih vrzeli pri dostopnosti na podeželskih območjih, EU pa bo vlagala v omrežno infrastrukturo, standard za brezžični prenos podatkov in vlakna, da bi zagotovila, da bodo imeli vsi v EU dostop do energijsko učinkovite in za prihodnost primerne infrastrukture za digitalno povezljivost. 6.2Javna uprava Digitalna tehnologija ljudem omogoča širšo dostopnost javnih storitev in informacij, ki so jim lahko v pomoč pri urejanju vsakdanjega življenja in uveljavljanju pravic, zlasti svobode ustanavljanja in opravljanja storitev. Države članice EU od malmöške deklaracije , podpisane leta 2009 na vrhu na Švedskem, stalno napredujejo pri posodabljanju javnih uprav. Talinska deklaracija iz leta 2017 je spodbudila digitalizacijo javnih storitev za ljudi in čezmejnih javnih storitev za podjetja . V zadnjem obdobju so bili med zaveze držav članic iz Berlinske deklaracije iz decembra 2020 vključeni koraki za varstvo temeljnih pravic na spletu , cilj Lizbonske deklaracije iz junija 2021 pa je zagotoviti, da „ne bo nihče zapostavljen“. Prizadevanja držav članic vključujejo tudi digitalizacijo pravosodja. Države članice uporabljajo različne pristope za zagotavljanje dostopa do javnih storitev in tako poskušajo zmanjšati to digitalno vrzel, hkrati pa izpolniti zahteve te digitalne dobe. Francija se je na primer odločila ohraniti več načinov zagotavljanja dostopa do javnih storitev, da bi preprečila morebitne ovire. Ljudem z upravo ni treba komunicirati elektronsko. Danska gre po drugi poti, in sicer uporablja strategijo „privzeto digitalno“ in je leta 2014 uveljavila obvezno uporabo elektronskih sredstev za vse stike z upravo. Država za zmanjševanje digitalne vrzeli financira ukrepe, kot so brezplačna prilagojena podpora v knjižnicah, pomoč pri kupovanju opreme in prispevki k naročninam za internet. Podobno so na Nizozemskem vlada in lokalne knjižnice uvedle „informacijsko točko digitalna vlada“, pobudo, v okviru katere usposobljeni knjižničar odgovarja na vprašanja in pomaga ljudem pri tradicionalnih digitalnih vladnih storitvah, kot so davčne napovedi in socialne storitve, ter novejših storitvah, kot so aplikacije v zvezi s COVID-19.

6.3Zdravstveno varstvo Zaradi pandemije se je povečalo zagotavljanje zdravstvenega varstva prek spleta, npr. z virtualnimi posvetovanji ali aplikacijami in programsko opremo, razvitimi za diagnostične ali terapevtske namene. Za nekatere, kot so ljudje na podeželskih območjih ali majhnih otokih, to pomeni, da lažje prejmejo zdravstveno podporo, za druge pa pomeni novo oviro. Za tiste, ki nimajo dostopa ali kompetenc, je mogoče razmere izboljšati z ukrepi za premostitev digitalne vrzeli. Poljska je na primer uvedla „pacientov internetni račun“, spletno orodje, ki pacientom omogoča dostop do informacij o njihovi pretekli, sedanji ali načrtovani zdravstveni obravnavi ter urejanje številnih zadev (e-recept, ogled kartotek, e-napotnica, e-evidenca odsotnosti zaradi bolezni in pravice), ne da bi jim bilo treba osebno obiskati zdravstveno ustanovo. 6.4Izobraževanje Več držav članic ima politike in programe za spodbujanje dostopa do tehnologije in krepitev digitalnih kompetenc v okviru formalnega izobraževanja. Grčija na primer učencem in študentom, ki to potrebujejo, zagotavlja bone za nakup opreme, kot so tablice ali računalniki, in ponuja ustrezne izobraževalne programe v okviru virtualne „akademije za digitalna znanja in spretnosti“, ki je bila ustanovljena leta 2020. Na ravni EU je v akcijskem načrtu za digitalno izobraževanje (2021–2027), objavljenem septembra 2020, določena dolgoročna strateška vizija za trajnostno in vključujočo digitalno preobrazbo v izobraževanju in usposabljanju. Spodbuja pravico do dostopa do visokokakovostnega digitalnega izobraževanja za vse in enak dostop do infrastrukture, pri čemer se posebej spodbuja udeležba deklic in žensk pri predmetih naravoslovja, tehnologije, inženirstva in matematike. 6.5Vključenost invalidov Evropski zakonik o elektronskih komunikacijah zagotavlja enakovreden dostop do elektronskih komunikacijskih storitev in njihovo izbiro končnim uporabnikom invalidom ter jim omogoča udeležbo v digitalni družbi. Evropski akt o dostopnosti bo začel veljati leta 2025 ter bo povečal vključenost invalidov in starejših v digitalni svet s tem, da bo sklop ključnih izdelkov in storitev iz zasebnega in javnega sektorja postal dostopnejši. V skladu z direktivo o spletni dostopnosti iz leta 2016 morajo države članice zagotoviti, da so spletišča in mobilne aplikacije organov javnega sektorja dostopne invalidom, kot so ljudje z okvaro vida, sluha ali motoričnih sposobnosti. Na ta način spodbuja svobodo izražanja in obveščanja, pravico do izobraževanja, pravico do izbire poklica in pravico do dela, nediskriminacijo, vključevanje invalidov, dostop do storitev splošnega gospodarskega interesa, pravico do dostopa do dokumentov, pravico do prostega gibanja in prebivanja v Uniji, svobodo ustanavljanja in svobodo opravljanja storitev. Direktiva se lahko izvaja na različne načine. Slovenija je na primer posodobila svoj državni portal eUprava tako, da ga lahko uporabljajo slepi in slabovidni, gluhi in naglušni, disleksiki in uporabniki z motnjami razumevanja. Besedilne opise postopkov na primer spremljajo kratki videoposnetki s tolmačenjem v znakovni jezik. V Grčiji so bile med pandemijo digitalne šolske knjige prilagojene, tako da so bile dostopne ljudem z vsemi vrstami invalidnosti. 7.Zaščita ljudi, ki delajo prek platform Spletne platforme vključujejo širok nabor tržnic, družbenih medijev, strani za ustvarjalno vsebino, trgovin z aplikacijami, spletišč za primerjavo cen, platform za sodelovalno gospodarstvo in iskalnikov. Olajšujejo interakcijo med uporabniki in podjetji. Digitalne platforme za delo kot podvrsta spletnih platform so se pojavile kot značilnost digitalnega gospodarstva. Platformno delo je ustvarilo nove gospodarske priložnosti za ljudi in jim na primer omogočilo, da opravljajo dejavnosti s krajšim delovnim časom in da imajo na splošno dostop do trga dela. Vendar hkrati pomeni izzive za temeljne pravice, vključno z varstvom osebnih podatkov, zasebnostjo, pravico delavcev do obveščenosti in posvetovanja, pravico do kolektivnih pogajanj in ukrepov ter do poštenih in pravičnih delovnih pogojev. Med 28 milijoni ljudi, ki po ocenah delajo prek digitalnih platform za delo, naj bi bilo do 5,5 milijona ljudi navidezno samozaposlenih . V pogodbah s platformami, prek katerih delajo, so sicer opisani kot samozaposleni, vendar zanje v resnici veljata preverjanje in nadzor, kar je značilno za status delavca. Obstajajo tudi izzivi, ki izvirajo iz poslovnih modelov, ki temeljijo na algoritmih, kot je neobveščenost ljudi, ki delajo prek platform, in njihovih predstavnikov ter neposvetovanje z njimi o tem, kako se uporabljajo algoritmi in kako vplivajo na delovne pogoje pri platformnem delu. Tu so še nezadostna pravna sredstva in nejasna odgovornost glede uporabe algoritmov. Platformno delo Platformno delo običajno vključuje tri strani: platformo, osebo, ki dela prek nje, in stranko (posamezniki ali podjetja). V nekaterih primerih je lahko vključena tudi četrta stran, na primer restavracije, ki dostavljajo hrano. Digitalne platforme za delo se običajno označujejo za posrednike, odnos med stranmi pa kot samozaposlitev. Naloge, ki se izvajajo na digitalnih platformah za delo, vključujejo vse od zapletenih nalog, kot je računalniško programiranje in grafično oblikovanje, do preprostih nalog, kot je označevanje slik. Predsednica Komisije Ursula von der Leyen je v svojih političnih usmeritvah napovedala potrebo po izboljšanju delovnih pogojev pri platformnem delu. Ta potreba se je s krizo zaradi COVID-19 in pospešenim uvajanjem platformnih poslovnih modelov dodatno izpostavila. V nedavni resoluciji Evropskega parlamenta je poudarjeno, da platformno delo povzroča zaskrbljenost zaradi prekarnosti in slabih delovnih pogojev, pomanjkljivega ali oteženega dostopa do ustrezne socialne zaščite, razdrobljenega in nepredvidljivega dohodka ter neobstoja ukrepov za zdravje in varnost pri delu. Resolucija vsebuje poziv k odločnemu ukrepanju EU za obravnavanje napačne razvrstitve zaposlitvenega statusa in izboljšanje preglednosti pri uporabi algoritmov, tudi za predstavnike delavcev. 7.1Razmere in ukrepi na ravni držav članic Da bi EU preprečila nelojalno konkurenco na škodo delavcev ter tekmovanje v slabšanju praks zaposlovanja in zniževanju socialnih standardov, je vzpostavila minimalni prag pravic delavcev, ki se uporabljajo za delavce v vseh državah članicah. Pravni korpus EU v zvezi z delom in socialnimi zadevami se z leti povečuje. Poleg tega se nacionalni odzivi na izzive, ki jih pomeni platformno delo, med državami članicami razlikujejo. Nekatere so sprejele nacionalno zakonodajo za izboljšanje delovnih pogojev ali dostopa do socialne zaščite pri platformnem delu. Sodišča so v precejšnjem številu držav članic odločala o vprašanju napačne uvrstitve zaposlitvenega statusa. V nekaterih državah članicah so se socialni partnerji in platformna podjetja pogajali o kolektivnih pogodbah. Francija je leta 2016 sprejela zakonodajo, ki določa pravice delavcev in socialne pravice ljudi, ki delajo prek platform, ne glede na sektor gospodarske dejavnosti, z revizijo zakonika o delovnih razmerjih. Zakonodaja se nanaša na tehnološko in ekonomsko odvisne samozaposlene posameznike. Omogoča dostop do sistema prostovoljnega zavarovanja proti nesrečam, povezanim z delom, platforme zavezuje, da plačajo zavarovalne premije ali zagotovijo kolektivno zavarovanje za svoje delavce, ter zagotavlja pravico do sprejemanja kolektivnih ukrepov in do nadaljevanja izobraževanja. Poleg tega je najvišje sodišče za pravo delovnih razmerij v zasebnem sektorju (kasacijsko sodišče) v dveh sodbah poudarilo, da mora biti platformnim delavcem na področju naročanja prevoza priznan status delavca, kadar lahko platforma izda in uveljavlja navodila. Vendar še naprej poteka razprava o dejanskem statusu ljudi, ki delajo prek platform, tudi v drugih sektorjih. Dežela Lacij v Italiji je leta 2019 uvedla zakonodajo za izboljšanje delovnih pogojev in socialne zaščite za vse platformne delavce, ne glede na njihov zaposlitveni status. Ta zakonodaja vključuje zaščitne ukrepe za nesreče, povezane z delom, ustrezno usposabljanje na področju varnosti ter zavarovanje odgovornosti in nezgodno zavarovanje. Prav tako prepoveduje plačilo na nalogo. Italija je poleg tega leta 2019 sprejela nacionalno zakonodajo za izboljšanje delovnih pogojev samozaposlenih raznašalcev hrane na kolesih in motorjih. Julija 2021 je italijanski organ za varstvo podatkov podjetju Deliveroo Italy naložil plačilo globe v višini 2,5 milijona EUR zaradi nepregledne uporabe algoritmov in nesorazmernega zbiranja podatkov o delavcih. Organ je ugotovil kršitve nekaterih določb splošne uredbe o varstvu podatkov in nacionalne zakonodaje o zasebnosti, italijanskega delavskega zakona in zgoraj navedene zakonodaje o zaščiti delavcev. Španija je maja 2021 sprejela zakonodajo, ki uvaja domnevo, da se ljudje, ki delajo prek platform, tako na področju dostave hrane kot dostave pošiljk, štejejo za delavce, in preložila dokazno breme na platforme, da dokažejo, da to niso. Poleg tega ta zakonodaja platforme obvezuje, da sindikatom zagotovijo informacije o algoritemskem upravljanju, vključno z digitalnim spremljanjem izvajanja in avtomatiziranim dodeljevanjem nalog. Ta zakonodaja določa, da morajo vsa podjetja (ne le platforme za dostavo) svoje delavce obvestiti o parametrih in pravilih, na katerih temeljijo avtomatizirani sistemi, ki lahko vplivajo na delovne pogoje, dostop do dela in ohranitev zaposlitve.

Nemčija je objavila dokumente politike o prihodnosti dela, ki se nanašajo na vključitev samozaposlenih posameznikov, ki delajo prek platform, v pokojninske in zavarovalne sisteme, ter izboljšanje njihovega zavarovanja za nezgode pri delu. Portugalska je novembra 2020 prav tako objavila dokument politike o prihodnosti dela, ki se nanaša na vzpostavitev pravne domneve o statusu ljudi, ki delajo prek platform, načine za povečanje socialne zaščite samozaposlenih in načine za spodbujanje kolektivnega zastopanja platformnih delavcev. Portugalska je leta 2018 sprejela zakonodajo o individualnem plačanem prevozu potnikov in določila omejitve delovnega časa za voznike. 7.2Skupni pristop EU Glede na nacionalne pristope, razvite za reševanje različnih izzivov v zvezi s platformnim delom, obstaja tveganje razdrobljenosti med različne nacionalne zakonodajne pobude. Komisija je ugotovila številne izzive v zvezi s platformnim delom in se z evropskimi socialnimi partnerji v dveh fazah posvetovala o potrebi po pobudi o platformnem delu in njeni možni usmeritvi. Evropski socialni partnerji so se strinjali glede izzivov, ki jih je treba obravnavati, niso pa se strinjali glede potrebe po konkretnih ukrepih na ravni EU. Poleg tega je Komisija izmenjala mnenja s številnimi deležniki, pri čemer je imela tudi posebna in dvostranska srečanja s platformnimi podjetji, združenji platformnih delavcev, sindikati, predstavniki držav članic, strokovnjaki iz akademskega sveta in mednarodnih organizacij ter predstavniki civilne družbe. Komisija je predlagala direktivo, s katero bi se izboljšali delovni pogoji za platformne delavce na ravni EU, in sicer z zagotavljanjem pravilne določitve njihovega zaposlitvenega statusa, spodbujanjem preglednosti, pravičnosti in odgovornosti pri algoritemskem upravljanju pri platformnem delu ter izboljšanjem preglednosti pri platformnem delu, tudi v čezmejnih primerih, ter se ob tem podprli pogoji za trajnostno rast digitalnih platform za delo v Uniji. 8.Nadzor digitalnega nadzora Varstvo podatkov in zasebnost sta ključni temeljni pravici v digitalni dobi. „Omogočata“ tudi pravice, ki olajšajo in povečajo varstvo drugih temeljnih pravic, na katere lahko vpliva nadzor, ki ga izvaja država ali zasebni subjekt, kot so človekovo dostojanstvo, svoboda izražanja, svoboda misli, vesti in veroizpovedi ali svoboda zbiranja, pravica do poštenega sojenja in učinkovitega pravnega sredstva ali nediskriminacije. Zaradi splošne uredbe o varstvu podatkov (GDPR), direktive o varstvu podatkov pri preprečevanju, odkrivanju in preiskovanju kaznivih dejanj ter direktive o zasebnosti in elektronskih komunikacijah je Evropa vodilna pri varstvu temeljnih pravic na spletu. Naraščajoča digitalizacija na vseh področjih življenja pomeni izzive za varstvo podatkov ter zasebno in družinsko življenje. Namen druge zakonodaje, kot je akt o upravljanju podatkov, o katerem je bil nedavno dosežen politični dogovor med sozakonodajalcema, je spodbuditi oblikovanje močnega podatkovnega gospodarstva z ureditvijo podatkovnih posredniških storitev, podatkovnega altruizma in ponovne uporabe zaščitenih javnih podatkov v skladu z ureditvijo varstva podatkov. Kakšna je razlika med pravico do zasebnosti in pravico do varstva podatkov? To sta ločeni, vendar prekrivajoči se temeljni pravici, določeni v členih 7 in 8 Listine o temeljnih pravicah. — Spoštovanje zasebnega in družinskega življenja (zasebnosti) ščiti zasebno sfero pred nezakonitimi vdori. Na primer, s to pravico so pred nedovoljenimi vdori zaščiteni zaupnost medosebnih komunikacij in elektronske terminalske naprave uporabnikov. — „Varstvo podatkov“ se uporablja le, kadar se osebni podatki obdelujejo avtomatizirano ali ročno strukturirano. Pravica ni omejena na informacije v zvezi z zasebno sfero, temveč zajema vse osebne podatke posameznika, vključno z njegovim poklicnim življenjem. Temeljna načela varstva podatkov so preglednost, poštenost in zakonitost dejavnosti obdelave osebnih podatkov. Varstvo podatkov pomeni tudi, da bi se morali osebni podatki obdelovati le za navedene in izrecne namene, morali bi biti točni, omejeni na tisto, kar je potrebno, ter hranjeni varno in samo tako dolgo, kot je potrebno. V praksi je trdni pravni okvir EU nenehno na preizkušnji. Organizacije za varstvo potrošnikov in organizacije civilne družbe, ki se osredotočajo na temeljne pravice, obžalujejo, da ni kazenskega pregona kršitev GDPR. V zadnjih letih so EU in države članice sprejele številne ukrepe za zaščito javne varnosti in odpravo varnostnih groženj z uporabo sodobne tehnologije. V zvezi s tem organizacije civilne družbe izražajo pomisleke glede sorazmernosti politike nadzora in varnosti, na primer v zvezi s spremljanjem meja EU ali v primeru uvedene ali predlagane zakonodaje, ki organom omogoča, da iz varnostnih razlogov pregledajo zasebno komunikacijo. Organizacije civilne družbe in panožne organizacije so prav tako izrazile zaskrbljenost glede tega, kar označujejo kot poskuse držav članic, da oslabijo šifriranje. Organi za varstvo podatkov in nacionalna sodišča so zagotovili učinkovito pravno sredstvo za primere, ko nadzorni ukrepi zasebnih in javnih akterjev pomenijo kršitev temeljnih pravic. Taka primera sta: (i) odločba švedskega organa za varstvo podatkov o uporabi kamer, ki so jih na telesu nosili inšpektorji za vozovnice v stockholmskem javnem prometu, v kateri sta bila očitana nepreglednost in pretirano zbiranje podatkov ter s katero je bila naložena globa v višini 16,1 milijona SEK; in (ii) francoski Conseil d’Etat (državni svet) je odločil, da mora policija prenehati uporabljati drone za preverjanje upoštevanja pravil o socialni razdalji, ker so bili ti droni tehnično sposobni identificirati posameznike in se niso uporabljali v skladu z zakonodajo o varstvu podatkov. Predlagani okvir za evropsko digitalno identiteto bo vsakemu državljanu in rezidentu EU na prostovoljni osnovi ponudil zaupanja vredno in varno digitalno denarnico, ki bo pod popolnim nadzorom uporabnika, ki bo s samoupravljanjem omogočal dostop do digitalnih javnih in zasebnih storitev ter izmenjavo različnih atributov in poverilnic. 8.1Hramba podatkov Sodišče Evropske unije je leta 2014 ugotovilo, da nacionalni zakoni, ki so urejali hrambo telekomunikacijskih metapodatkov (podatki o prometu in lokaciji) za namene kazenskega pregona in obveščevalnih dejavnosti, ne izpolnjujejo zahtev prava EU. Po mnenju Sodišča so ti nacionalni zakoni pomenili hudo in nesorazmerno poseganje v pravici do zasebnosti in varstva podatkov, ker lahko komunikacijski metapodatki razkrijejo informacije o precejšnjem številu vidikov zasebnega življenja oseb, na katere se nanašajo osebni podatki. Čeprav je Sodišče priznalo, da ukrepi hrambe podatkov uresničujejo legitimne cilje v javnem interesu, je večkrat ugotovilo, da pravo EU – z nekaterimi izjemami – nasprotuje zakonodajnim ukrepom, ki ponudnikom elektronskih komunikacijskih storitev kot preventivni ukrep nalagajo obveznost splošne in neselektivne hrambe podatkov o prometu in lokaciji. Komisija je v strategiji EU za boj proti organiziranemu kriminalu za obdobje 2021–2025 z dne 14. aprila 2021 napovedala, da bo analizirala in očrtala možne pristope k hrambi podatkov v skladu s sodbami Sodišča, tako da bodo ustrezali potrebam kazenskega pregona in sodstva, in sicer na način, ki bo operativno koristen, tehnično izvedljiv in pravno neoporečen, tudi s spoštovanjem temeljnih pravic v celoti, ter da se bo z državami članicami posvetovala pred koncem junija 2021. Komisija trenutno izvaja postopek posvetovanja in bo pazljivo proučila njegove rezultate, preden bo sprejela odločitev o možnosti nadaljnjega ukrepanja. 8.2Šifriranje Šifriranje je bistveno za varstvo temeljnih pravic in zaščito sistemov in transakcij. Zakonodaja EU določa, da je šifriranje ukrep za zagotovitev varstva temeljnih pravic, kot so zasebnost, varstvo osebnih podatkov in svoboda izražanja, ter za zagotavljanje kibernetske varnosti . Poleg tega je šifriranje pomembno tudi za varstvo poslovnih skrivnosti in tako ljudem pomaga uveljaviti svobodo gospodarske pobude. Od začetka pandemije COVID-19 se je ob naraščajoči uporabi digitalnih orodij na vseh področjih življenja povečalo število kibernetskih napadov. Taki napadi so povzročili veliko škodo podjetjem in kritičnim storitvam, tudi zdravstvenim sistemom, ter ogrozili pravice ljudi, zaradi česar je prišel do izraza pomen šifriranja za javne in zasebne akterje, saj ščiti zaupnost informacij. Vendar pa uporaba šifriranja prav tako omogoča storilcem kaznivih dejanj, da prikrijejo svojo identiteto in skrijejo vsebino svojih komunikacij. Po pozivih držav članic se je Komisija zavezala iskanju uravnoteženih tehničnih, operativnih in zakonitih rešitev za te izzive. S temi rešitvami je treba ohraniti učinkovitost šifriranja pri zaščiti zasebnosti in varnosti komunikacij, ob tem pa zagotavljati učinkovit odziv na kazniva dejanja in terorizem. Komisija namerava leta 2022 predlagati nadaljnje ukrepe za obravnavanje zakonitega in usmerjenega dostopa do šifriranih informacij v okviru kazenskih preiskav in pregona, ki bodo temeljili na natančnem vzporejanju načinov, na katere se države članice lotevajo šifriranja, ter postopku, ki bo vključeval več deležnikov, da se raziščejo in proučijo konkretne možnosti (pravne, etične in tehnične).

8.3Biometrična identifikacija na daljavo Pravila EU o varstvu podatkov načeloma prepovedujejo obdelavo biometričnih podatkov za namene edinstvene identifikacije fizične osebe, razen pod posebnimi pogoji. Obdelava takih podatkov mora imeti pravno podlago, ki temelji na zakonodaji o varstvu podatkov. Taka pravna podlaga bi lahko bila svobodna privolitev vseh ljudi, na katere se nanašajo osebni podatki, ki jo je v praksi težko pridobiti, ali pa zakonodajni akt EU ali države članice, s katerim se uresničuje bistveni javni interes, kot je preprečevanje konkretne in neposredne grožnje terorističnega napada. Na področju kazenskega pregona je obdelava dovoljena z zakonom. Kadar obdelava biometričnih podatkov temelji na zakonodaji, mora biti zakonodaja sorazmerna s ciljem, upoštevati mora bistvo pravice do varstva podatkov in drugih temeljnih pravic ter določati primerne in specifične ukrepe za zaščito temeljnih pravic in interesov ljudi, na katere se nanašajo osebni podatki. Organizacije civilne družbe so izrazile zaskrbljenost zaradi naraščajoče uporabe tehnologij za biometrično identifikacijo na daljavo v več državah članicah in so pozvale k prepovedi njihove uporabe. Uporabo biometričnih sistemov na daljavo so kritizirali tudi Evropski nadzornik za varstvo podatkov, Evropski odbor za varstvo podatkov, ki ga sestavljajo nacionalni organi za varstvo podatkov, in druga nacionalna telesa za temeljne pravice, kot je Defenseur des Droits v Franciji. Organi za varstvo podatkov so posredovali v številnih primerih, da bi ustavili nezakonito uporabo take tehnologije, na primer v šoli v Franciji, v policiji na Švedskem ali v nizozemskem supermarketu. Poleg obstoječega okvira uredba o UI, ki jo je Komisija predlagala aprila 2021 (glej poglavje 4), vključuje prepoved biometrične identifikacije na daljavo v realnem času v javno dostopnih prostorih in jo dovoljuje za namene kazenskega pregona v treh omejenih izjemah pod pogojem, da se uporabljajo posebni zaščitni ukrepi. 8.4Izobraževanje Med pandemijo COVID-19 so institucije za izobraževanje in usposabljanje uporabljale različne spletne platforme in orodja. Uporaba komercialnih rešitev za digitalno učenje in programske opreme za nadzorovanje študentov pri izpitih na daljavo, ki so bile pogosto uvedene kot „hitre rešitve“, je vzbudila skrb, da bi lahko njihova zasnova pomenila izkoriščanje podatkov o uporabnikih za ustvarjanje dobička, ne pa za smiselne pedagoške prakse. Evropsko vozlišče za digitalno izobraževanje, vzpostavljeno v okviru akcijskega načrta za digitalno izobraževanje, je forum za razvoj ukrepov za zagotovitev močnejšega medsektorskega sodelovanja, spodbujanje izmenjav med izobraževalci, razvoj sredstev za zagotavljanje kakovosti ter zagotavljanje spoštovanja varstva podatkov in zasebnosti. Med njimi bosta imela ključno vlogo zagotavljanje kakovosti in zaupanje: prvo za spodbujanje skupnega razumevanja ključnih standardov kakovosti za digitalno izobraževanje, drugo pa za zagotovitev spoštovanja ključnih načel glede uporabe podatkov, etike in zasebnosti. Ta dva elementa lahko poleg povečanja ravni digitalne pripravljenosti evropskih institucij za izobraževanje in usposabljanje okrepita tudi sodelovanje in izboljšata splošno kakovost razpoložljivih digitalnih rešitev. 8.5Zdravje Številni deli odziva na pandemijo COVID-19 vključujejo obdelavo osebnih podatkov, vključno z zdravstvenimi podatki, za katere zaradi njihove občutljivosti veljajo nadaljnja pravila iz GDPR. Obdelava osebnih podatkov mora biti omejena na tisto, kar je potrebno, ter sorazmerna za doseganje cilja in izpolnitev zahtev GDPR. To je usmerjalo pristop EU. Komisija je na primer državam članicam zagotovila usmeritve glede aplikacij za boj proti pandemiji in jih podprla pri prizadevanjih za zbirko orodij z zahtevami za aplikacije in tehničnimi specifikacijami za interoperabilnost med nacionalnimi opozorilnimi aplikacijami v EU. Vzpostavila je prehod, ki omogoča pošiljanje takih opozoril prek meja in med različnimi aplikacijami držav članic. Poleg tega je vzpostavila platformo za izmenjavo podatkov iz obrazcev za lokalizacijo potnikov , da bi podprla čezmejno sledenje stikom pri prevozu. Kot naslednji korak se je zavezala, da bo predlagala pravni okvir EU za usklajen pristop k beleženju nedavne potovalne zgodovine v obsegu, ki je potreben za zaustavitev širjenja COVID-19, pri čemer bo izhajala iz izkušenj z obrazci za lokalizacijo potnikov. Poleg tega sta Evropski parlament in Svet 14. junija 2021 sprejela uredbo o vzpostavitvi sistema digitalnih COVID potrdil EU, katere cilj je olajšati prosto gibanje med pandemijo COVID-19 . Vzpostavljena je bila infrastruktura za podporo izdajanju in preverjanju potrdil o cepljenju, testu in preboleli bolezni, da bi se racionaliziralo preverjanje javnozdravstvenih ukrepov pri potovanjih (npr. za izvzetja iz zahtev za karanteno). Za lažjo uporabo so potrdila na voljo tako v digitalni obliki kot na papirju. V vseh primerih so vrste podatkov in obdelava omejene na tisto, kar je potrebno za zadevni namen, na primer tisti, ki preverjajo potrdila, po preverjanju ne smejo obdržati njihove vsebine. Poleg tega okvir zaupanja, vzpostavljen za digitalno COVID potrdilo EU, zagotavlja, da je mogoče potrdila preveriti brez spletne povezave, ne da bi bil izdajatelj ali druga tretja oseba obveščen o preverjanju. Preglednost je vedno ključna, tako za zagotavljanje pravne skladnosti z Listino in veljavno zakonodajo kot za ustvarjanje in ohranitev zaupanja. Rezultati kažejo, da kadar so ukrepi pazljivo oblikovani, je varstvo podatkov skladno z učinkovitimi javnozdravstvenimi ukrepi in lahko dodatno spodbuja njihovo sprejemanje ter prispeva k zagotavljanju, da okvir EU za varstvo podatkov omogoča potrebno prilagodljivost. Komisija trenutno pripravlja zakonodajni predlog o evropskem zdravstvenem podatkovnem prostoru, ki naj bi bil sprejet na začetku leta 2022. Namen evropskega zdravstvenega podatkovnega prostora je olajšati zagotavljanje digitalnih zdravstvenih storitev in spodbujanje dostopa do zdravstvenih podatkov za dejavnosti raziskovanja, inovacij in oblikovanja politik ter regulativne dejavnosti ob nadaljnji izboljšavi nadzora, ki ga imajo ljudje nad svojimi osebnimi podatki. Pobuda evropskega zdravstvenega podatkovnega prostora bo popolnoma skladna z veljavnimi pravili EU o varstvu podatkov. 8.6Izvrševanje Pristojni nacionalni nadzorni organi za spremljanje in izvrševanje pravil o varstvu podatkov in zasebnosti so temeljni kamen za sistem upravljanja za varstvo podatkov v EU. Ti organi in nacionalna sodišča so odgovorni za spremljanje in izvrševanje pravil iz GDPR, nacionalne zakonodaje, s katero je prenesena direktiva o varstvu podatkov pri preprečevanju, odkrivanju in preiskovanju kaznivih dejanj, ter direktive o zasebnosti in elektronskih komunikacijah. Eden od ključnih ciljev Komisije je, da države članice ta pravila izvajajo pravilno in učinkovito. Države članice so v skladu z zakonodajo EU obvezane zagotoviti, da so njihovi organi za varstvo podatkov neodvisni, in jim dodeliti zadostna sredstva za izvajanje nadzornih nalog . Komisija spremlja razvoj dogodkov v zvezi z neodvisnostjo, nalogami, pooblastili in sredstvi nadzornih organov ter v primeru neskladnosti držav članic s pravili EU uporabi postopke za ugotavljanje kršitev za zagotovitev, da se ta pravila učinkovito izvršujejo. Organi za varstvo podatkov sodelujejo v okviru Evropskega odbora za varstvo podatkov (EOVP), da bi zagotovili skladnost pri izvrševanju GDPR, zlasti v čezmejnih primerih. Po treh letih uporabe GDPR je učinkovitost tega sodelovanja predmet kritike, EOVP pa si bo še naprej prizadeval za povečanje učinkovitosti. Komisija se strinja z mnenjem Sveta, Evropskega parlamenta in EOVP, da mora biti glavna pozornost zdaj namenjena izboljšanju izvajanja in ukrepom za krepitev izvrševanja zakonodaje EU o varstvu podatkov. 8.7Varstvo osebnih podatkov zunaj EU Bistven vidik varstva temeljnih pravic v spletnem okolju je zagotavljanje kontinuitete varstva za posameznike, ko njihovi podatki zapustijo EU. Ker se osebni podatki v današnjem medsebojno povezanem svetu enostavno prenašajo čez meje in so tokovi podatkov postali sestavni del trgovine, regulativnega sodelovanja in celo družbene interakcije, bi bila zaščita, ki jo zagotavljata GDPR in direktiva o varstvu podatkov pri preprečevanju, odkrivanju in preiskovanju kaznivih dejanj, neučinkovita, če bi bila omejena na obdelavo znotraj EU. Glede na to je Komisija nadaljevala z izvajanjem ambicioznega načrta za spodbujanje visoke ravni varstva ob prenosu podatkov o Evropejcih v tujino ob hkratnem lajšanju pretoka podatkov. To je vključevalo sodelovanje s ključnimi partnerji za dosego „ugotovitve o ustreznosti“, na podlagi katere tretja država zagotavlja raven varstva podatkov, ki je „v osnovi enakovredna“ ravni v EU. To je dalo pomembne rezultate, kot sta sprejetje dveh sklepov o ustreznosti za Združeno kraljestvo (v skladu z GDPR in direktivo o varstvu podatkov pri preprečevanju, odkrivanju in preiskovanju kaznivih dejanj) in sklenitev pogajanj o ustreznosti z Južno Korejo. Poleg tega sta EU in ZDA, potem ko je Sodišče razveljavilo predhodno ugotovitev o ustreznosti zasebnostnega ščita, okrepili pogajanja o novem medsebojnem okviru zasebnosti za čezatlantske prenose podatkov, ki zagotavlja popolno skladnost s sodbo Sodišča. Komisija je poleg tega junija 2020 sprejela posodobljene standardne pogodbene klavzule za prenos osebnih podatkov na tretje države, ki upoštevajo nove zahteve v skladu z GDPR in so prilagojene potrebam sodobnega digitalnega gospodarstva. To so vzorčne klavzule o varstvu podatkov, ki jih lahko izvoznik podatkov in uvoznik podatkov prostovoljno vključita v pogodbene dogovore (npr. pogodba o storitvah, ki zahteva prenos osebnih podatkov) ter ki naj bi zagotovile ustrezne zaščitne ukrepe za varstvo podatkov. Komisija prav tako nadaljuje svoje sodelovanje pri pobudi „prosti pretok podatkov na podlagi zaupanja“, ki jo je leta 2019 uvedla Japonska ter sta jo nato potrdili skupini G20 in G7. Eden od osrednjih delov tega koncepta, o katerem trenutno razpravlja OECD z dejavnim sodelovanjem EU in njenih držav članic, je razmejitev med legitimnim dostopom vlade z ustreznimi omejitvami in zaščitnimi ukrepi in državnim nadzorom, ki pomeni zlorabo.