HR Službeni list Europske unije C 233/8

Sažetak mišljenja Europskog nadzornika za zaštitu podataka o manipulaciji na internetu i osobnim podacima

(Cjeloviti tekst ovog mišljenja dostupan je na engleskom, francuskom i njemačkom jeziku na internetskim stranicama Europskog nadzornika za zaštitu podataka www.edps.europa.eu)

(2018/C 233/06)

Digitalizacija društva i ekonomije nema jednoznačan učinak na građanski angažman u donošenju odluka i na prepreke sudjelovanja javnosti u demokratskim procesima.

Analitika velikih količina podataka i sustavi umjetne inteligencije omogućili su prikupljanje, kombiniranje, analizu i pohranu ogromnih količina podataka na neograničeno vrijeme. U protekla dva desetljeća pojavio se dominantan poslovni model za većinu internetskih usluga koji se temelji na praćenju ljudi na internetu i prikupljanju podataka o njihovu karakteru, zdravlju, odnosima, mislima i mišljenjima s ciljem ostvarivanja prihoda od digitalnog oglašavanja. Ta digitalna tržišta postala su koncentrirana oko nekoliko trgovačkih društava koja djeluju kao nadzornici pristupa internetu i upravljaju većim vrijednostima tržišne kapitalizacije (prilagođene s obzirom na inflaciju) od bilo kojeg trgovačkog društva u povijesti.

Taj digitalni ekosustav povezao je ljude diljem svijeta s obzirom na to da se više od 50 % stanovništva koristi internetom, iako vrlo neravnomjerno u pogledu zemljopisnog položaja, bogatstva i spola. Početni optimizam potaknut potencijalom internetskih alata i društvenih medija za građanski angažman ustupio je mjesto zabrinutosti da se ljudima manipulira, prvo putem stalnog prikupljanja često intimnih informacija o njima, a zatim i putem kontrole nad informacijama koje ljudi vide na internetu ovisno o kategoriji u koju su smješteni. Bijes izazvan mnogim uslugama na bazi algoritma, koji se viralno širi, ključni je pokretač vrijednosti u kontekstu proizvoda i aplikacija osmišljenih kako bi povećali pozornost i ovisnost do najveće moguće mjere. Povezanost je, barem u okviru trenutačnog modela, dovela do podjele.

U raspravi koja je uslijedila riječ je o obmanjujućim, lažnim ili uvredljivim informacijama („sadržaju”) koje se ljudima nude s namjerom da utječu na politički diskurs i izbore; fenomen se počeo nazivati „lažnim vijestima” ili „internetskim dezinformacijama”. Rješenja su usmjerena na mjere transparentnosti, kojima se otkriva izvor informacija, no zanemaruje odgovornost subjekata u ekosustavu koji ostvaruju dobit od štetnog ponašanja. U međuvremenu, koncentracija tržišta i porast dominacije platformi predstavljaju novu prijetnju medijskom pluralizmu. Za Europskog nadzornika za zaštitu podataka ta kriza povjerenja u digitalni ekosustav ilustrira uzajamnu ovisnost privatnosti i slobode izražavanja. Suženje intimnog prostora dostupnog ljudima, kao posljedica neizbježnog nadzora koji provode trgovačka društva i vlade, ima negativan učinak na sposobnost i spremnost ljudi da se slobodno izražavaju i stvaraju odnose, uključujući i u građanskoj sferi koja je ključna za zdravlje demokracije. Ovo se mišljenje stoga odnosi na način na koji se osobni podaci upotrebljavaju za mikrociljanje pojedinaca i skupina posebnim sadržajem, na temeljna prava i vrijednosti koji se dovode u pitanje te na mjerodavne zakone za smanjenje tih opasnosti.

Europski nadzornik za zaštitu podataka već se nekoliko godina zalaže za veću suradnju između nadležnih tijela za zaštitu podataka i drugih regulatornih tijela radi zaštite prava i interesa pojedinaca u digitalnom društvu, što je razlog zbog kojeg smo 2017. pokrenuli digitalni centar za razmjenu informacija Digital Clearinghouse. S obzirom na zabrinutost da se u političkim kampanjama možda iskorištava digitalni prostor kako bi se zaobišli postojeći zakoni, (1) smatramo da je sada vrijeme da se ta suradnja proširi na izborna regulatorna tijela i regulatorna tijela za audiovizualne medije.

1. RAZLOG OBJAVLJIVANJA OVOG MIŠLJENJA

i. Intenzivna aktualna javna rasprava

U tijeku je intenzivna javna rasprava o utjecaju današnjeg golemog i složenog ekosustava digitalnih informacija ne samo na tržišnu ekonomiju, nego i na političku ekonomiju, na to kako političko okruženje djeluje u odnosu na ekonomiju. Glavne platforme nalaze se u središtu tog ekosustava te ostvaraju neproporcionalnu dobit od rasta digitalnog oglašavanja i povećavaju svoju relativnu moć kako se ono razvija. Osobni podaci potrebni su za segmentiranje, ciljanje i prilagodbu poruka koje se predstavljaju pojedincima, no većina oglašivača nije svjesna kako se takve odluke donose, a većina pojedinaca nije svjesna na koji ih se način iskorištava. Sustavom se nagrađuje senzacionalan i viralan sadržaj i općenito se ne čini razlika među oglašivačima, neovisno o tome radi li se o komercijalnim ili političkim oglašivačima. Saznanja o načinu na koji su se tim sustavom širile namjerne dezinformacije („lažne vijesti”) dovela su do straha da je integritet demokracija možda ugrožen. Sustavi umjetne inteligencije, a to tržište također obilježava koncentracija, i sami se pokreću podacima te će se njima, ako se ne nadziru, povećati udaljenost i neodgovornost donošenja odluka u tom okruženju.

ii. Relevantnost zakona o zaštiti podataka i političkih kampanja

Temeljna prava na privatnost i zaštitu podataka očito su ključni čimbenik u rješavanju te situacije, zbog čega je taj problem strateški prioritet za sva nezavisna nadležna tijela za zaštitu podataka. U svojoj Rezoluciji o upotrebi osobnih podataka za političku komunikaciju (Resolution on the Use of Personal Data for Political Communication) iz 2005. regulatorna tijela za zaštitu podataka izrazila su ključne probleme u vezi sa zaštitom podataka diljem svijeta s obzirom na povećanu obradu osobnih podataka koju provode nekomercijalni subjekti. Rezolucija se posebno odnosila na obradu „osjetljivih podataka u vezi sa stvarnim ili pretpostavljenim moralnim i političkim uvjerenjima ili aktivnostima ili glasačkim aktivnostima” i na „invazivno profiliranje različitih osoba koje su trenutačno klasificirane – ponekad netočno ili na temelju površnog kontakta – kao simpatizeri, pristaše, sljedbenici ili stranka” (2). Međunarodnom rezolucijom zahtijevalo se strože provođenje pravila zaštite podataka u pogledu smanjenja količine podataka, zakonite obrade, pribavljanja privole, transparentnosti, prava ispitanika, ograničenja svrhe i sigurnosti podataka. Možda je vrijeme da se taj zahtjev ponovi.

Pravo EU-a u području zaštite podataka i povjerljivosti elektroničkih komunikacija primjenjuje se na prikupljanje, profiliranje i mikrociljanje podataka, a ako se pravilno provodi, njime bi se trebala smanjiti šteta od pokušaja manipuliranja pojedincima i skupinama. Političke stranke koje obrađuju podatke o biračima u EU-u pripadaju u djelokrug GDPR-a. GDPR-om se osobni podaci koji otkrivaju politička mišljenja definiraju kao posebne kategorije podataka. Obrada takvih podataka općenito je zabranjena ako se ne primjenjuje neko od navedenih izuzeća. U kontekstu političke kampanje sljedeća dva izuzeća osobito su relevantna i zaslužuju puni navod:

„(d) obrada se provodi u sklopu legitimnih aktivnosti s odgovarajućim zaštitnim mjerama zaklade, udruženja ili drugog neprofitnog tijela s političkim, filozofskim, vjerskim ili sindikalnim ciljem te pod uvjetom da se obrada odnosi samo na članove ili bivše članove tijela ili na osobe koje imaju redovan kontakt s njom u vezi s njezinim svrhama i da osobni podaci nisu priopćeni nikome izvan tog tijela bez privole ispitanika;

(e) obrada se odnosi na osobne podatke za koje je očito da ih je objavio ispitanik; (…).

(g) obrada je nužna za potrebe značajnog javnog interesa na temelju prava Unije ili prava države članice koje je razmjerno željenom cilju te kojim se poštuje bit prava na zaštitu podataka i osiguravaju prikladne i posebne mjere za zaštitu temeljnih prava i interesa ispitanika.”

U uvodnoj izjavi 56. objašnjava se stavak 9. točka 2. alineja (g): „[a]ko tijekom izbornih aktivnosti djelovanje demokratskog sustava u državi članici zahtijeva da političke stranke prikupljaju osobne podatke o političkim mišljenjima ljudi, obrada takvih podataka može se dopustiti iz razloga javnog interesa, pod uvjetom da se uspostave odgovarajuće zaštitne mjere”.

Nekoliko je nadležnih tijela za zaštitu podataka sastavilo je pravila ili smjernice za obradu osobnih podataka u političke svrhe:

— u ožujku 2014. talijansko nadležno tijelo za zaštitu podataka donijelo je pravila o obradi osobnih podataka koju provode političke stranke. U tim pravilima naglašava se opća zabrana upotrebe osobnih podataka objavljenih na internetu, primjerice na društvenim mrežama ili forumima, u svrhu političke komunikacije ako su ti podaci prikupljeni u druge svrhe (3),

— u studenom 2016. francusko Nacionalno povjerenstvo za zaštitu podataka (CNIL) dalo je dodatne smjernice za svoje preporuke za političku komunikaciju iz 2012., navodeći pravila za obradu osobnih podataka na društvenim mrežama. Konkretno, CNIL je naglasio da agregacija osobnih podataka birača radi njihova profiliranja i ciljanja na društvenim mrežama može biti zakonita samo ako se temelji na privoli kao osnovi za obradu podataka (4),

— u travnju 2017. britanski Ured povjerenika za informiranje (ICO) objavio je ažurirane smjernice Guidance on political campaigning (Smjernice o vođenju političkih kampanji), koje su sadržavale i smjernice o primjeni analitike podataka u političkim kampanjama. ICO je objasnio da kada politička organizacija povjeri provedbu analiza trećoj osobi, tj. trgovačkom društvu, tada će to trgovačko društvo vjerojatno biti izvršitelj obrade podataka, a organizacija voditelj obrade podataka. Kako bi obrada osobnih podataka bila zakonita, moraju se uzeti u obzir posebne odredbe zakona o zaštiti podataka kojima se regulira odnos između voditelja obrade i izvršitelja obrade (5).

Smjernicama nacionalnih nadležnih tijela za zaštitu podataka može se ponuditi dodatno vjerodostojno tumačenje odredbi zakona o zaštiti podataka i privatnosti, kojima se uzimaju u obzir razlike u organizaciji nacionalnih političkih sustava (6).

iii. Svrha ovog mišljenja Europskog nadzornika za zaštitu podataka

Vizija Europskog nadzornika za zaštitu podataka jest pomoći EU-u da svojim postupanjem pruži primjer u globalnom dijalogu o zaštiti podataka i privatnosti u digitalnom dobu i utvrdi međudisciplinarna politička rješenja za izazove s velikim podacima i razvojem etičke dimenzije obrade osobnih podataka (7). Pozvali smo na postupanje prema ispitaniku kao prema „pojedincu, a ne samo kao potrošaču ili korisniku” te smo naglasili etička pitanja oko učinaka prediktivnog profiliranja i personalizacije određene algoritmom (8). Pozvali smo na odgovoran i održiv razvoj digitalnog društva na temelju individualne kontrole nad vlastitim osobnim podacima, inženjeringa kojim se poštuje privatnosti, odgovornosti i dosljedne provedbe (9). Savjetodavna skupina za etička pitanja Europskog nadzornika za zaštitu podataka u izvješću iz siječnja 2018. napomenula je da „mikrociljanje izborne agitacije mijenja pravila javnog govora, smanjujući prostor za raspravu i razmjenu ideja”, za što je „hitno potrebna demokratska rasprava o upotrebi i iskorištavanju podataka za političke kampanje i donošenje odluka” (10).

To pitanje upotrebe informacija i osobnih podataka za manipuliranje ljudi i politike, naravno, nadilazi pravo na zaštitu podataka. Personaliziranim, mikrociljanim internetskim okruženjem stvaraju se „filter mjehurići” (filter bubbles) u kojima su ljudi stalno izloženi istim informacijama i susreću se s manje mišljenja, što dovodi do povećane političke i ideološke polarizacije (11). Time se povećavaju širenje i uvjerljivost lažnih priča i zavjera (12). U istraživanjima se navodi da bi manipulacija prikazom vijesti ili rezultatima pretraživanja ljudi mogla utjecati na njihovo ponašanje (13).

Zadaća je Europskog nadzornika za zaštitu podataka pomoći osigurati da obrada osobnih podataka, u skladu s tekstom GDPR-a, bude u službi čovječanstva, a ne obratno (14). Tehnološki napredak ne bi trebalo ometati, nego usmjeriti prema našim vrijednostima. Poštovanje temeljnih prava, uključujući i pravo na zaštitu podataka, presudno je kako bi se osigurala pravednost izbora, posebice kako se približavamo izborima za Europski parlament 2019. (15) Ovo je mišljenje najnovije u nizu angažmana Europskog nadzornika za zaštitu podataka u pogledu načina na koji bi se zaštita podataka trebala primjenjivati u svrhu rješavanja najvažnijih pitanja od javnog interesa. Temelji se na prethodnom radu Europskog nadzornika za zaštitu podataka u području velikih podataka i digitalne etike te potrebi koordiniranja regulacije konkurentnih i pravednih tržišta (16). U mišljenju se prvo sažeto opisuje postupak kojim osobni podaci pokreću i određuju ciklus digitalnog praćenja, mikrociljanja i manipulacije. Zatim se razmatraju uloge različitih subjekata u digitalnom informacijskom ekosustavu. Razmatraju se temeljna prava koja se dovode u pitanje, relevantna načela zaštite podataka i druge relevantne zakonske obveze. Završava tvrdnjom da će se problem manipulacije na internetu vjerojatno samo pogoršati, da nijedan regulatorni pristup neće biti dovoljan sam po sebi te da regulatorna tijela stoga moraju hitno surađivati kako bi se riješile ne samo lokalizirane zlouporabe, već i strukturni poremećaji uzrokovani prekomjernom tržišnom koncentracijom.

7. ZAKLJUČAK

Manipulacija na internetu predstavlja prijetnju društvu jer „filter mjehurići” i izdvojene zajednice otežavaju ljudima međusobno razumijevanje i razmjenu iskustava. Slabljenje tog „društvenog ljepila” može potkopati demokraciju, kao i nekoliko drugih temeljnih prava i sloboda. Manipulacija na internetu također je simptom netransparentnosti i nedostatka odgovornosti u digitalnom ekosustavu. Problem je stvaran i hitan, a vjerojatno će se pogoršati kako se sve više ljudi i stvari povezuje s internetom, a uloga sustava umjetne inteligencije povećava. Korijen problema djelomično je neodgovorna, nezakonita ili neetična uporaba osobnih podataka. Transparentnost je nužna, ali ne i dovoljna. Upravljanje sadržajem može biti potrebno, no ne smije se dopustiti da se njime ugrožavaju temeljna prava. Stoga dio rješenja uključuje provedbu postojećih pravila, osobito GDPR-a, strogo i zajedno s drugim normama za izbore i medijski pluralizam.

Kao doprinos unapređenju rasprave, Europski nadzornik za zaštitu podataka u proljeće 2019. sazvat će radionicu na kojoj će nacionalna regulatorna tijela u području zaštite podataka, izbornog prava i prava o audiovizualnim medijskim uslugama moći dodatno istražiti ta uzajamna djelovanja, razgovarati o izazovima s kojima se suočavaju te razmotriti mogućnosti za zajedničko djelovanje, uzimajući u obzir i nadolazeće izbore za Europski parlament.

U ovom se mišljenju tvrdi da tehnologija i ponašanje na tržištu uzrokuju štetu uslijed strukturnih neravnoteža i poremećaja. Pozvali smo na prilagodbu poticaja za inovaciju. Tehnološki divovi i pioniri do sada su imali koristi od rada u relativno nereguliranom okruženju. Time su pogođene tradicionalne djelatnosti i temeljni pojmovi mjesne nadležnosti, suverenosti i društvenih normi, uključujući demokraciju. Te vrijednosti ovise o pluralizmu mišljenja i ravnoteži između stranaka. Nijedan subjekt ni sektor ne može to sam riješiti. Zaštita podataka dio je rješenja, a možda predstavlja i veći dio od očekivanog. Nije dovoljno osloniti se na dobru volju neodgovornih komercijalnih subjekata. Trebamo sada intervenirati u interesu pravednijeg širenja prednosti digitalizacije.

Sastavljeno u Bruxellesu 19. ožujka 2018. Giovanni BUTTARELLI Europski nadzornik za zaštitu podataka

(1) Vidjeti, primjerice, http://www.independent.co.uk/news/uk/politics/election-2017-facebook-ads-marginal-seats-tories-labour-outdated-election-spending-rules-a7733131.html [pristupljeno 18.3.2018.].

(2) Rezolucija je dostupna na sljedećoj poveznici https://icdppc.org/wp-content/uploads/2015/02/Resolution-on-Use-of-Personal-Data-for-Polictical-Communication.pdf [pristupljeno 18.3.2018.].

(3) http://www.garanteprivacy.it/web/guest/home/docweb/-/docweb-display/docweb/3013267 ”Provvedimento in materia di trattamento di dati presso i partiti politici e di esonero dall’informativa per fini di propaganda elettorale”, objavljeno u Službenom listu talijanskog nadležnog tijela za zaštitu podataka br. 71 26.3.2014. [dok. na internetu br. 3013267].

(4) https://www.cnil.fr/fr/communication-politique-quelles-sont-les-regles-pour-lutilisation-des-donnees-issues-des-reseaux „Communication politique: quelles sont les règles pour l’utilisation des données issues des réseaux sociaux?”, objavilo tijelo Commission Nationale de l’informatique et des libertés (francusko Nacionalno povjerenstvo za informatiku i slobode) 08.11.2016.

(5) https://ico.org.uk/media/for-organisations/documents/1589/promotion_of_a_political_party.pdf „Guidance on political campaigning” (Smjernice o vođenju političkih kampanji) Ureda povjerenika za informiranje [20170426].

(6) Prema članku 57. stavku 1. točki (d) GDPR-a, svako nadzorno tijelo na svom području […] promiče osviještenost voditelja obrade i izvršitelja obrade o njihovim obvezama iz [te] Uredbe.

(7) Vidjeti Vodeći primjer: Strategija EDPS-a za razdoblje 2015. – 2019., str. 17. „Veliki podaci” prema našem mišljenju odnose se na praksu kombiniranja i analize ogromnih količina informacija iz različitih izvora, često koristeći algoritme koji samostalno uče za donošenje informiranih odluka. Jedna od najvećih vrijednosti velikih podataka za poduzeća i vlade proizlazi iz praćenja ljudskog ponašanja, kolektivno i pojedinačno, a nalazi se u njihovu potencijalu za predviđanje – Mišljenje Europskog nadzornika za zaštitu podataka 4/2015, Prema novoj digitalnoj etici: podaci, dostojanstvo i tehnologija, 11.9.2015., str. 6.

(8) Profili koji se upotrebljavaju za predviđanje ponašanja ljudi predstavljaju rizik od stigmatizacije, a učvršćuju postojeće stereotipe, društvenu i kulturnu segregaciju i isključenost, pri čemu takva „kolektivna inteligencija” potkopava individualni izbor i jednake mogućnosti. Ovi „filter mjehurići” (filter bubbles) ili „osobne sobe jeke” (personal echo-chambers) na kraju bi mogli ugušiti samu kreativnost, inovativnost i slobode izražavanja te udruživanja koji su omogućili procvat digitalne tehnologije – Mišljenje Europskog nadzornika za zaštitu podataka 4/2015, str. 13. (izostavljene referencije).

(9) Mišljenje Europskog nadzornika za zaštitu podataka 7/2015, Svladavanje izazova velikih podataka, str. 9.

(10) Izvješće Savjetodavne skupine za etička pitanja Europskog nadzornika za zaštitu podataka od siječnja 2018., str. 28.

(11) Vidjeti primjerice The Economist, How the World Was Trolled (4. – 10. 2017.), svezak 425, br. 9065, str. 21.–24.

(12) Allcott H. i Gentzkow M., Social Media and Fake News in the 2016 Election (proljeće 2017.). Stanford University, Journal of Economic Perspectives, svezak 31, br. 2, str. 211.–236. https://web.stanford.edu/~gentzkow/research/fakenews.pdf, str. 219.

(13) U jednom od eksperimenata korisnicima društvene platforme rečeno je kako su njihovi prijatelji izjavili da su glasovali, što je potaknulo statistički značajno povećanje segmenta stanovništva (0,14 % stanovništva dobi za glasovanje ili oko 340 000 birača) koje je glasovalo na izborima za Kongres 2010.; Allcott H. i Gentzkow M., Social Media and Fake News in the 2016 Election (proljeće 2017.), Stanford University, Journal of Economic Perspectives, svezak 31, br. 2, str. 211.–236., str. 219.). U drugom istraživanju istraživači su tvrdili da se razlikama u rezultatima pretraživanja tražilice Google mogu promijeniti izborne preferencije neodlučnih glasača za 20 %; Zuiderveen Borgesius, F. & Trilling, D. & Möller, J. & Bodó, B. & de Vreese, C. & Helberger, N. (2016.). Should we worry about filter bubbles? Internet Policy Review, 5(1). DOI: 10.14763/2016.1.401, str. 9.

(14) Uvodna izjava 4. Uredbe (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ, u daljnjem tekstu „GDPR”.

(15) Kao što je naveo Europski sud za ljudska prava u predmetu Orlovskaya Iskra protiv Rusije, „slobodni izbori i sloboda izražavanja, posebice sloboda političke rasprave, zajedno tvore temelj svakog demokratskog sustava. Ta su dva prava međusobno povezana i djeluju kako bi se međusobno jačala: primjerice, sloboda izražavanja jedan je od ‚uvjeta’ koji su nužni za ‚osiguravanje slobodnog izražavanja mišljenja naroda u izboru zakonodavnog tijela’. Zbog toga je osobito važno da se u razdoblju koje prethodi izborima dopusti slobodna cirkulacija mišljenja i informacija svih vrsta. U kontekstu izbornih rasprava neometano ostvarivanje prava na slobodu govora kandidata ima osobit značaj” (referencije izostavljene iz teksta), st. 110. http://hudoc.echr.coe.int/eng?i=001-171525.

(16) 2014. – Preliminarno mišljenje o privatnosti i konkurentnosti u vremenu velike količine podataka; 2015. – Mišljenje 4/2015 Prema novoj digitalnoj etici: podaci, dostojanstvo i tehnologija; 2015. – Mišljenje 7/2015, Svladavanje izazova velikih podataka: poziv na transparentnost, korisničku kontrolu, zaštitu podataka dizajnom te odgovornost; 2016. – Mišljenje Europskog nadzornika za zaštitu podataka 8/2016 o dosljednom jačanju temeljnih prava u doba velikih podataka.