prop · H903203 · 2022-03-30 00:00:00 — Kännetecknande för fel eller brister i ett automatiserat förfarande är dock att de kan reproduceras i stor skala. IAustralien har det så kallade Robodept-fallet väckt stor uppmärksamhet och nationell frustration kring automatiserade beslut. AI-lösningen Robodept introducerades med syftet att upptäcka bedrägerier i välfärdssystemet. Systemet jämförde automatiskt de inkomstuppgifter som redovisades av bidragstagare med uppgifter från skattemyndigheten. Upptäcktes diskrepanser registrerades en skatteskuld automatiskt. Eftersom algoritmen inte beaktade den stora volatiliteten i många låginkomsttagares inkomst ledde systemet till att tusentals australiensare felaktigt fick skatteskulder registrerade och krävdes på pengar. I ett par fall hävdar anhöriga att denna motgång blev så tung för de enskilda att det utlöste självmord. Det numera nedlagda systemet har varit föremål för ett mycket stort antal utredningar, rättsprocesser och parlamentariska utfrågningar i Australien.206 I upptäckte Arbetsförmedlingen vid en intern kontroll 2019 att mer än vart sjunde beslut om indraget aktivitetsstöd kan ha varit felaktigt till följd av brister i ett automatiserat system. Potentiellt bedömdes tiotusentals beslut ha blivit fel som systemet var i drift.207 Edge computing översätts ibland på svenska till ”databehandling i utkanten av nätverken”. Även benämningar som ”decentraliserad AI” eller ”federated learning” förekommer. Mer konkret innebär edge computing att ny bearbetning av data sker direkt i enheten, ofta i utkanterna av ett nätverk. Det kan till exempel handla om avancerad kamerateknik som samlar in data, men också krypterar, lagrar och bearbetar data lokalt och i realtid, utan att behöva transportera den via nätet till en central server eller dator. Edge computing kan också handla om att data är lokaliserad i lokala nätverk, till exempel på ett antal sjukhus, och decentraliserade algoritmer placeras ut lokalt för att träna på datan. Olika lokala algoritmer förs sedan samman i en central lösning. Därmed kan algoritmer tränas på stora datamängder utan att själva datan behöver centraliseras eller delas, vilket förespråkarna menar skulle kunna vara ett sätt att möta dataskyddsförordningens krav.208 vitbok om AI som publicerade 2020 förutspås att vi kommer att se en stor förändring i bearbetningstekniker . sker av bearbetningen och analysen av data i datacenter och serverhallar och i uppkopplade enheter, till exempel i bilar eller i uppkopplade prylar i hemmet. Till 2025 förutspås att relationerna är de omvända.209 Nyttorna med bearbetning av data genom edge computing anses bland annat vara följande.210 •Ökad hastighet och minskad fördröjning i bearbetningen av insamlad data vilket möjliggör beslut i realtid. •Ökade möjligheter att hantera IoT-enheter centralt från molnet och använda enheterna utan anslutning eller med tillfällig anslutning. •Ökad säkerhet och kontroll på data, eftersom den kan krypteras och bearbetas lokalt och inte behöver transporteras för att bearbetas någon annanstans. Edge computing är bland annat en viktig förutsättning för den fortsatta utvecklingen av autonoma fordon. För att autonom körteknik ska ersätta mänskliga förare måste fordonen kunna reagera på incidenter och avvikelser, exempelvis en trafikolycka, i realtid. I genomsnitt kan det ta för dataöverföring mellan fordonsensorer och ett molnbaserat datacenter, vilket när det gäller körbeslut kan vara . Genom att data kan bearbetas och analyseras lokalt i fordonet snabbas tekniken upp väsentligt. Teknik som 5G och AI banar ytterligare väg för edge computing. 5G hjälper till att distribuera datorkapacitet till enheter i utkanten av nätverket och AI skapar förutsättningar för beslutsfattande i realtid.211 Teknikutvecklingen inom detta område innebär risker, bland annat om lokal bearbetning sker i enheter med låg säkerhet. Men det innebär också möjligheter för den personliga integriteten, bland annat beroende på vilken bearbetning som görs och i vilka syften, hur säker data är i enheten där den bearbetas, samt vilken kontroll den registrerade själv ges över sina personuppgifter.212 Tekniken kan medföra att individen får bättre kontroll på sina personliga data, om den bearbetas i den egna enheten (exempelvis den egna telefonen) eller i ett lokalt nätverk och aldrig transporteras därifrån.213 207. fel-hos-arbetsformedlingen-tusentals-kan-ha-forlorat-ersattning. 209. per-artificial-intelligence-feb2020_en.pdf. 212. ty-risks-you-must-consider/. 213. ge-5-trends-smart-security/. 5.4.3Den digitala annonsmarknaden och realtidsbudgivningar Ett av de områden där den omfattande bearbetningen av stora datamängder blir som mest uppenbar för många är den digitala annonsmarknaden. De flesta människor som använder sociala medier har personliga erfarenheter av hur en viss sökning på Internet eller ett besök på en viss webbsida resulterar i att annonser på samma tema kort därefter syns i nyhetsflödet. Den digitala annonsmarknaden omsätter enorma belopp. spenderades globalt på den digitala annonsmarknaden, vilket var en ökning med jämfört med året innan.214 sker merparten av den digitala datainsamlingen av personuppgifter utan att den enskilda individen förstår eller är medveten om det. Processerna kring insamling, analys, samkörning, profilering och försäljning av personuppgifter till tredjepartsaktörer är komplexa och för den enskilde individen är det i stort sett omöjligt att förstå och påverka hur de egna personuppgifterna används. En bidragande förklaring till komplexiteten är det stora antalet aktörer som är involverade i den digitala annonsmarknaden (så kallad AdTech). Dagens internet genomsyras av komplicerade nätverk av aktörer som samlar in, köper, säljer, förmedlar, förädlar och analyserar data på olika sätt för en mängd olika syften. Norska konsumentskyddsmyndigheten publicerade en omfattande kartläggning av den digitala annonsindustrin.215 I undersökningen granskades tio vanliga Android-appar. Bedömningen var att AdTech-sektorn utnyttjar stora mängder data från apparna, som överför data till en stor mängd tredjepartsaktörer. Det var i olika kombinationer frågan om överföring av persondata, ibland känsliga personuppgifter, GPS-koordinater, IP-adresser, Wi-Fi accesspunkter och i något fall en lista över installerade appar i användarnas telefoner. Av rapporten framgår vidare att det också förekom en omfattande möjlighet att sammanställa information från olika enheter, exempelvis från mobil, dator och laptop. De enskilda hade sällan kunskap eller kännedom om att deras data fördes vidare till tredjepartsaktörer. Var och en av apparna delade data med flera tredjeparter och de undersökta tio apparna överförde tillsammans användardata till minst 135 tredjepartsaktörer för användning i marknadsföring eller beteendeprofilering (i första ledet). Rapportens slutsats är att AdTech-sektorn delar och behandlar data helt ”out of control”. 214. ding-2019. Forbrukerradet Out of control, How consumers are exploited by the online adversiting industry, sid. 23. Den omfattande spårningen och profileringen av konsumenter är enligt undersökningen till sin natur explorativ. Det saknas insyn och transparens vilket gör konsumenterna sårbara för manipulation, särskilt då för dem helt okända företag har mycket omfattande kunskap om dem. Systemet bygger enligt helt på användning av illegalt insamlad persondata. Medborgarna har små eller inga möjligheter att skydda sig mot exploateringen av deras uppgifter och den genomgripande profileringen. Alternativet är ofta att helt avstå från att använda en viss app. Affärsmodellerna behöver ändras i grunden om aktörerna inom AdTech-sektorn ska uppfylla kraven enligt dataskyddsförordningen och respektera konsumenters grundläggande fri- och rättigheter. I rapporten delas aktörerna på den digitala annonsmarknaden in i fyra större huvudkategorier; publicister, annonsörer, tredjepartsaktörer och de större plattformsföretagen. Gränserna mellan aktörernas verksamheter kan i vissa fall vara otydliga. •Publicister – består av alla typer av webbsidor och mobilappar som tillhandahåller information och interaktiva tjänster till användarna. Publicisterna erbjuder annonsplatser och kan sälja användardata. •Annonsörer – vill främst erhålla nya men även behålla befintliga kunder och finns till exempel inom detalj- och dagligvaruhandeln, researrangörer, telekombolag och säljare av finansiella tjänster. Utöver publicister och annonsörer, som har direktkontakt med användarna, finns ett antal aktörer som kunder och besökare på webbplatser inte kommer i kontakt med. •Tredjepartsaktörer – kan vara annonsnätverk, analysföretag och datamäklare (databrokers) som på olika sätt är involverade i den digitala annonsmarknaden. Aktörerna hanterar och processar stora mängder personuppgifter, men varken publicister eller annonsörer har någon större kontroll över hur datan hanteras och används. •Plattformsföretag som Google och Facebook – har multipla roller i industrin och kan agera som både publicister och tredjepartsaktörer. Google och Facebook är centrala och dominerande aktörer i den digitala annonsindustrin eftersom de kontrollerar stora delar av leveranskedjan av personuppgifter. 5.4.3.1Hur fungerar den digitala annonsindustrin i praktiken? Varje gång en individ besöker en webbsida eller använder en mobilapp, sänds information till publicisten, men även till ett stort antal tredjepartsaktörer. Förfarandet kallas spårning eller tracking. Den vanligaste spårningsmetoden är genom kakor (eng. cookies), vilket är små textfiler som webbplatsen skickar till användarens webbläsare. Filen sparas i användarens dator, antingen bara användaren besöker webbplatsen (så kallad sessioncookie) eller för . Varje gång användaren besöker en viss webbsida skickas innehållet i dessa kakor med. På så vis kan webbplatsen identifiera och komma ihåg användaren. Om webbplatsen har ett avtal med en tredje part (till exempel Google eller Facebook) kan tredjeparten sätta en egen kaka (”tredjepartskaka”) på webbplatsen. Denna kaka kommer sen att skickas till tredjepartsaktören även när användaren besöker andra webbplatser som använder sig av samma tredjepart. På så vis kan tredjeparter kartlägga, eller ”följa”, användare mellan olika webbplatser och ta fram profiler utifrån vad användaren gör. Kakor är den vanligaste, men inte den enda metoden för att spåra och identifiera användare på nätet. Eftersom kakor är förhållandevis enkla att ta bort och blockera har det nu också utvecklats mer sofistikerade spårningsmetoder, till exempel via digitala fingeravtryck som tas fram genom att kombinera ett antal datapunkter om en individ. Det kan handla till exempel om användarens webbläsare, operativsystem, skärmstorlek, språkinställning, tidszon, installerade typsnitt och insticksprogram, hårdvara och mycket annat.216 har låtit göra en kartläggning av spårningen med kakor på ett antal svenska webbplatser.217 Kartläggningen omfattade 116 webbplatser inom branscherna media, handel, bank/ försäkring, hälsa och offentlig sektor. Resultatet visade att de flesta webbplatsbesök medför att en stor mängd tredjeparter samlar in data och spårar besöket, om inte särskilda åtgärder tagits av användaren för att förhindra detta. Flest tredjepartsaktörer fanns på webbplatser inom media, där varje besök på en webbplats i genomsnitt ledde till att 35 tredjepartsaktörer kontaktades. Motsvarande siffra för andra branscher var inom handeln 17, bank/försäkring 10, hälsa 9 och offentlig sektor 6. Tredjepartsaktörer tillhandahåller olika tjänster, och kan därmed antas använda informationen från tredjepartskakor på olika sätt. Vissa aktörer erbjuder system som möjliggör att en annons visas för en viss konsument eller ett visst segment av kunder vid ett visst tillfälle. En särskild kategori tredjepartsaktörer är datamäklare som samlar in data från en mängd olika källor, både offline och online och där uppgifterna inte alltid är användargenererade. Personuppgifterna kan komma från publika källor eller vara köpta från företag, och sammanställs för att skapa konsumentprofiler som säljs vidare. En sådan konsumentprofil kan till exempel innehålla data från mobiltelefoner som app-användning, annons-ID eller annan användaridentifiering och användarens kontakter. Personuppgifterna kan också omfatta webbrowser-användning, uppkopplade enheter och offentliga data. Det är ett stort antal olika företag som levererar data till olika datamäklare. Leverantörerna kan vara andra datamäklare, analysföretag, kreditkortsföretag och många andra företag. Det är inte alltid uppenbart var den insamlade informationen från andra tredjepartsaktörer initialt kommer ifrån.218 Information från spårningen av användare används sedan för att rikta de annonser som visas för användaren. Processen innebär att potentiella annonsörer kan se information om användarna, till exempel information om vilken enhet som används, vilken webbplats som besöks och vilket land användaren befinner sig i. Informationen kan också vara mer detaljerad, och inkludera tidigare besökta webbplatser, användarens intressen eller till exempel vilka hälsoproblem användaren sökt information om. När en annons visas på en webbsida eller i en app, är det resultatet av en komplicerad budgivningsprocess i realtid (real-time-bidding, RTB), där hundratals annonsörer inom någon bråkdels sekund kan ha budat om att få visa sin annons. Själva auktionen kan ske på olika sätt; som en öppen auktion där många kan delta, mer slutna budgivningar eller genom överenskommelser med fast pris. Olika plattformar med olika tekniker för budgivning möjliggör processen. - Om plattformar, tredjepartsaktörer och behovet av transparens på digitala marknader, uppdragsforskning rapport 2020:4. - Om plattformar, tredjepartsaktörer och behovet av transparens på digitala marknader, uppdragsforskning rapport 2020:4. Forbrukerradet Out of control, How consumers are exploited by the online adversiting industry. 5.4.3.2Nyttor och risker med den digitala annonsindustrin Hastigheten, omfattningen och komplexiteten i realtidsbudgivningen är tekniskt imponerande och underlättar försäljningen av annonsutrymme. Inkomster genereras till publicisterna och värde för annonsörerna. För den enskilde beskrivs ofta nyttan i termer av att vifår ett anpassat och mer relevant annonsutbud presenterat för oss. I en studie finansierad av som publicerades undersöks konsumenters inställning till hur handeln använder deras data, om rimligheten i utbytet och kunskapen om tredjeparters inblandning.219 Trots det ofta framförda argumentet om att datainsamling och kundprofilering motiveras med att skapa relevanta reklamerbjudanden visar studien att en majoritet () av konsumenterna inte tycker att det är rimligt att företag samlar in personlig information som motprestation för rabatterade varor och tjänster. Endast omkring 1 av 5 tycker att utbytet är rimligt, med något högre acceptans hos den yngre generationen. Stödet för identifiering via smartphone eller filmande i fysisk butik är särskilt svagt, där bara 1 av 10 tycker att det är rimligt i utbyte mot förmåner eller förbättringar av sina shopping-upplevelser. Datadelning till tredjepartsaktörer, det vill säga andra företag, ses som en av de känsligaste frågorna och på frågan om det är ok att företag delar kunders personliga information med andra företag svarade hela 4 av 5 “Nej, aldrig”. Oroande för förtroendet för företag inom svensk handel är att närmare hälften () saknar tilltro till att deras personuppgifter inte delas eller säljs vidare utan deras vetskap. , och ; Tillit eller tvång? Konsumenters förtroende för handelns datainsamling. Ur ett användar- och medborgarperspektiv innebär den digitala annonsmarknaden och realtidsbudgivningarna stora risker för den personliga integriteten. den digitala annonsindustrin bygger på en stark drivkraft att samla in så mycket uppgifter som möjligt, vilket normalt strider mot dataskyddsförordningens princip om uppgiftsminimering. Möjligheten att ta fram avancerade konsumentprofiler medför också en uppenbar risk för ändamålsglidning, det vill säga att personuppgifter används för andra ändamål än vad de ursprungligen samlats in för. Ett av de mest kända exemplen på ändamålsglidning är skandalen kring Analytica. Ett annat exempel har rapporterats från , där ett fintechbolag använde personuppgifter hämtade från musikappar som en del Kontaktlistor, user-ID och GPS- lokalisering inhämtades och användes för beslut om beviljande av lån. Medborgarna som sökte lån kände dock inte till att informationen användes, och kunde därmed varken protestera mot användningen eller invända mot besluten.220 Integritetsriskerna på den digitala annonsmarknaden bottnar i stor utsträckning i att större delen av den komplexa processen sker i det dolda och utan möjligheter till transparens för enskilda individer.221 I användarvillkoren nämns tredjepartsaktörerna ofta inte vid namn, och även när namnen framgår, måste samtliga aktörers villkor läsas för att användarna ska förstå hur de samlar in och använder personuppgifterna. Användarvillkoren är dessutom svåra att förstå och i regel otillräckliga för att användarna ska kunna överblicka omfattningen av insamlingen, användningen och dess konsekvenser. är det också krångligt att förstå vilka handgrepp eller inställningar som krävs för att neka insamling av personuppgifter. är det i praktiken omöjligt för medborgarna att få en överblick av hur deras personuppgifter används av tredjepartsaktörer.222 Ytterligare en integritetsrisk handlar om möjligheten att faktiskt identifiera enskilda individer i de stora datamängderna. Många företag hävdar att uppgifterna som samlas in är avidentifierade och inte kan kopplas till en individ. I realiteten går det dock ofta att identifiera enskilda individer via till exempel IP-adress eller user-ID. Dessutom innebär många olika uppgifter om en person att denne ofta går att identifiera. 220. ping-credit-vidya_in_5d1cbc34e4b082e55373370a?guccounter=1. Draft – Working Paper on the Risks emerging from the Tracking and Targeting Ecosystem in the Digital Advertising Market, on Data Protection in Telecommunications, meeting 4-5 2020, (). Out of control – How consumers are exploited by the online adversiting industry, Norska Forbrukerradet kom i rapporten of Control till slutsatsen att stora delar av den datadrivna reklambranschen systematiskt bryter mot dataskyddslagstiftningen (och därmed är illegal).223 Även den brittiska dataskyddsmyndigheten har, efter en ingående kartläggning och probleminventering med fokus på realtidsbudgivningar i den digitala annonsindustrin, kommunicerat en liknande slutsats. Sammanfattningsvis pekar ICO ut tre områden där de bedömer att den digitala annonsindustrin på ett oroväckande sätt bryter mot dataskyddsförordningen. •Användarvillkor och personuppgiftspolicy är ofta otydliga och ger inte användarna full insyn i vad som händer med deras personuppgifter. •De komplexa och icke transparenta processerna gör det svårt, eller i praktiken omöjligt, för den enskilde att utnyttja sina rättigheter, till exempel att få information raderad. •Omfattningen av skapandet och delandet av konsumentprofiler är oproportionerlig, inkräktande och oriktig – särskilt som många användare är omedvetna om att processerna sker. Rättslig grund – de flesta aktörerna i realtidsbudgivningar tycks enligt ICO:s kartläggning stödja sig på samtycke eller intresseavvägning som laglig grund. I många fall används även avtal som rättslig grund. ICO menar att en stor del av personuppgiftsbehandlingen är olaglig eftersom •Avtal inte är lämpligt att använda som rättslig grund, givet det stora antalet involverade aktörer och karaktären på de personuppgifter som delas i realtidsbudgivningar. •Samtycke sannolikt inte kan anses vara frivilligt och jämlikt, och därför inte är en giltig rättslig grund. •Det är inte ovanligt att personuppgiftsbehandlingen inkluderar även känsliga personuppgifter, vilket enligt dataskyddsförordningen bara får ske i vissa undantagsfall. Ett sådant undantag kan vara att den enskilde uttryckligen lämnat sitt samtycke. Sannolikt är det svårt för den enskilde individen att överblicka vad ett sådant samtycke innebär. Forbrukerradet Out of control – How consumers are exploited by the online advertising industry Säkerhet – en realtidsbudgivning kan, inom någon bråkdels sekund, inkludera dussintals eller till och med hundratals aktörer. ICO:s kartläggning visar att •Komplexiteten och de många aktörerna gör det svårt även för verksamheterna själva att fullt ut överblicka vem som tar del av vilken data. Att säkerställa tillräckliga säkerhetsåtgärder är därmed problematiskt. Realtidsbudgivningar inkluderar ofta den typ av personuppgiftsbehandling som gör att det enligt dataskyddsförordningen finns krav på att genomföra en konsekvensbedömning. Många aktörer inom den digitala annonsindustrin tycks enligt ICO dock varken känna till eller förstå kraven på konsekvensbedömningar. ICO menar att problemen i den digitala annonsindustrin genomsyrar hela branschen och kräver kraftfulla initiativ och självsanering i branschen för att lösas. Brittiska aktörer har också påbörjat flera förbättringsåtgärder med utgångspunkt i ICO:s probleminventering, bland annat har en branschorganisation för digital marknadsföring utarbetat en vägledning och tagit fram utbildningar ICO är positiva till dessa åtgärder, men konstaterar att arbetet inte varit tillräckligt för att komma till rätta med problemen. Den brittiska dataskyddsmyndigheten bedömer därför att en ökad reglering, antingen i form av lagstiftning eller föreskrifter, i kombination med en skärpt tillsynsverksamhet behövs som ett nästa steg. Sammanfattningsvis har tekniker för att bearbeta och använda stora datamängder utvecklats i lika stor utsträckning som teknik för att samla in data. Användningen av AI är avgörande för att kunna utvinna värde ur stora mängder data. Med allt mer komplexa och icke transparenta processer försvåras dock den enskilde individens förutsättningar att utöva sina rättigheter och kontrollera vem som använder ens data och för vilka syften. 5.5 Teknik för att lagra data I takt med att insamling och bearbetning av data blir allt mer omfattande och sofistikerad växer också kraven på lagringskapacitet. Inom de flesta samhällsområden finns ett starkt behov av billig, snabb och anpassningsbar lagring, med kapacitet att hantera stora mängder data. Den teknik som svarat väl mot de stora behoven av lagringskapacitet är avancerad molnlagring. En utmaning med bearbetning eller lagring i molntjänster är att marknaden för molntjänster domineras av amerikanska aktörer, vilket kan medföra att lagringen efter avgörande i det så kallade Schrems II-ärendet inte är laglig. Även utvecklingen inom IoT kräver ny lagringsteknik, som ger möjlighet till lagring, säkring och bearbetning direkt i enheterna utan att behöva transportera data i nätet. Sådan lagring benämns ofta edge storage. I takt med att insamlingen och bearbetningen av data blir allt mer omfattande och sofistikerad växer också kraven på lagringskapaciteten. Inom de flesta samhällsområden finns ett starkt behov av billig, snabb och anpassningsbar lagring, med kapacitet att hantera mycket stora mängder data. Ny lagringsteknik är exempelvis en förutsättning för utvecklingen inom AI-området, eftersom AI ofta kräver att omfattande datamängder i blandade format måste kunna lagras och hämtas mycket snabbt. Detta kräver hög kapacitet och prestanda i lagringslösningarna. Även utvecklingen inom IoT kräver ny lagringsteknik, som ger möjlighet till lagring, säkring och bearbetning direkt i enheterna utan att behöva transportera data i nätet. 5.5.1 Molnifiering av lagring Den teknik som svarat väl mot de stora behoven av lagringskapacitet är avancerad molnlagring.