prop · H903203 · 2022-03-30 00:00:00 — Clearview AI är ett exempel på en tjänst som baseras på personuppgifter som samlats in med webbskrapningsteknik.142 Webbtjänsten uppger att de samlat tre miljarder ansiktsbilder från Facebook, YouTube och miljoner andra webbplatser. Tjänsten, som sålts bland annat till rättsvårdande myndigheter i , gör det möjligt att med hjälp av ansiktsigenkänningsteknik matcha bilder av okända personer mot den gigantiska databasen.143 Sökträffarna berättar i många fall både vem personen är, men ger också en förhållandevis heltäckande bild av till exempel personens aktivitet på sociala medier. 139. Extractors.pdf. ; ‘Scraped’ Data, Some For Facial Recognition. 142. och That Might End Privacy as We Know It. inledde ett tillsynsärende där eventuell användning av Clearview AI inom svensk brottsbekämpning utreds. Amerikanska poliser uppger att de med hjälp av söktjänsten kunnat lösa ett antal brott, allt från bedrägerier till barnpornografibrott och mord. väcker tjänster som Clearview AI omfattande frågor ur ett integritetsskyddsperspektiv. Tekniken gör det enkelt att söka rätt på enskilda individer – oavsett syfte – och belyser den ständigt närvarande risken för ändamålsglidning. Även om tjänsten har utvecklats för brottsbekämpande myndigheter och säkerhetsföretag har det framkommit hur tjänsten också använts som ett verktyg av vissa privatpersoner för att göra egna bakgrundskontroller av nya bekantskaper. Sofistikerad säkerhetsteknik blir, även om den ursprungligen utvecklats för offentliga eller kommersiella syften, snabbt attraktiv även för privatpersoner. Bredare spridning av ett sådant verktyg skulle i grunden förändra förutsättningarna för allt mänskligt samspel – både för behjärtansvärda syften, men också mer illasinnade. Möjligheten att, öppet eller i smyg, kunna ta ett foto av en person på gatan och få tillgång till både personens identitet och utförlig information om personen skulle på ett genomgripande sätt kunna förändra den personliga integritetens förutsättningar. Talande är att när tidningen , som var först med att skriva om Clearview AI, släppte nyheten om den kontroversiella appen var det med rubriken ”Slutet för den personliga integriteten?”.144 5.3.5 Insamling av biometriska uppgifter En särskild typ av datainsamling som utvecklats snabbt handlar om insamling av biometriska uppgifter. Biometri innebär att mäta kroppens egenskaper eller individers beteenden, och på så vis hitta särskiljande egenskaper hos olika individer. Biometriska personuppgifter berättar vilka vi är, och de kan inte enkelt ändras och inte heller ersättas om de går förlorade. De är därför användbara för att identifiera unika identiteter, men innebär särskilda risker ur ett integritetsperspektiv. Att mäta kroppens egenskaper eller individers beteenden för att hitta särskiljande egenskaper hos olika personer är inte ett nytt fenomen. Fingeravtryck har använts inom polis- och rättsväsendet i syfte att identifiera brottslingar och kunde signalister identifieras utifrån mönster i hur de signalerade punkter och bindestreck i morsekod.145 Men området har utvecklats till att innefatta många andra tekniker, användningsområden och biometriska egenskaper, som kan samlas in både i fysisk kontakt med individen och på distans. ; That Might End Privacy as We Know It. Biometriska uppgifter är extra känsliga personuppgifter eftersom de i grunden beskriver vem individen är. Uppgifterna rör en persons ”fysiska, fysiologiska eller beteendemässiga egenskaper” och gör det möjligt att identifiera människor. De två huvudsakliga användningsområdena för biometriska uppgifter är att verifiera eller autentisera (till exempel att kontrollera att en individ verkligen är den som individen utger sig för att vara) och att identifiera en enskild individ. Biometri används inom många samhällsområden och i olika syften, som exempelvis bevakning och övervakning, släktforskning, inloggning i mobila enheter och personlig anpassning av tjänster och produkter. Den ökade insamlingen och användningen av biometriska uppgifter har i stor utsträckning möjliggjorts och påskyndats av utvecklingen inom en rad andra teknikutvecklingsområden: •Sensorer och sändare – gör det möjligt att samla in data som kan omvandlas till biometriska uppgifter, på fler platser, både vid direktkontakt och på distans. •Människa-datorinteraktion – bygger på användningen av röst, personliga uttryck och beteendemönster för att interagera med datorerna och är därmed närbesläktat med beteendebaserad biometri •IoT – innefattar bland annat kameror och annan uppkopplad utrustning som kan användas för att samla in och bearbeta biometrisk data •AI och big data – har stor inverkan på beteendebaserad biometri eftersom de möjliggör avancerad bearbetning av ett mycket stort antal parametrar, och i realtid146 •Molnifiering av lagring – möjliggör platsoberoende lagring och åtkomst av stora databaser med biometriska mallar. Användning av biometriska uppgifter ställer därför extra stora krav på den som behandlar uppgifterna. 5.3.5.1 Olika typer av biometriska uppgifter Traditionellt har biometri handlat om att samla in och analysera fysiska egenskaper. Det kan exempelvis handla om hand- eller fingeravtryck, DNA, mönster i ögats iris, öronform, ansikts- eller kroppsform och röstavtryck. Denna typ av biometri är mycket vanlig och används bland annat för att låsa upp smarttelefoner, till accesskontroll i byggnader och för registrering 146. is-becoming-more-human/. Trenden går mot att i allt större utsträckning även använda individens beteende för biometriska analyser. AI och annan teknisk utveckling har gjort det möjligt att använda uppgifter som tidigare ansågs oanvändbara – och kanske inte ens betraktades som personuppgifter –till att identifiera individer med stor säkerhet. Denna form av biometri används bland annat för att upptäcka avvikande mönster hos bankkunder (i syfte att förebygga bedrägerier) och för att identifiera och övervaka grupper och individer. Exempel på beteendebaserad biometri är gångstil, rörelse- och talmönster, handstil, ansiktsuttryck och sömnmönster. Det kan också handla om mönster i hur användaren svarar på olika stimuli i en app, använder mobilen, skrollar i och skiftar mellan dialogfönster på webben eller använder tangentbordet. har teknikutvecklingen inneburit att det kontinuerligt tillförs nya biometriska egenskaper, med unika styrkor och svagheter. Några aktuella exempel på biometriska egenskaper som det utvecklas ny teknik för är hjärnans signaler (EEG), hjärtrytm (ECG), doftprofil, venernas struktur under huden, läppar och dess rörelsemönster, svett, blod och öronens utseende.147 Varje biometrisk egenskap har sina för- och nackdelar vad gäller möjligheten att identifiera och särskilja individer. Det kan handla till exempel om hur stor andel av alla individer som har den aktuella egenskapen, hur unik egenskapen är och om egenskapen är permanent eller förändras . Även hur lätt det är att samla in data om den aktuella egenskapen spelar in, liksom hur robust, träffsäker och accepterad tekniken är och hur lätt den är att kringgå, förfalska eller lura.148 147. , kap. 2. 148. , sid. 3 958 och 3 961. Utvecklingen går också fort framåt när det gäller beteendebaserad biometri. Tillämpningen har baserats i huvudsak på inlärda beteenden, såsom hur vi använder ett tangentbord eller en mus, vår handstil och hur vi rör oss. En pågående utvecklingstrend är att istället studera mer reflexmässiga beteenden och beteenden som bygger på kognition – viljestyrda processer, som handlar om individens kunskap, tänkande och minne. Några exempel på aktuella forskningsområden inom denna trend är149 •medvetna och omedvetna ansiktsuttryck (mäts via blinkningar, ögonrörelser, pupillernas storlek med mera), •kognitiv belastning – hur stor ansträngning som krävs av individen för att ta emot och behandla viss information (mäts via EEG, ögonrörelser med mera) •inhämtning av visuell information – hur individen söker och upptäcker visuell information (mäts via EEG, reaktionstider med mera) •reaktion på specifika stimuli – exempelvis reaktion på fotografier av specifik/stor betydelse individen (mäts via EEG, ECG med mera) Ett relativt nytt forsknings- och utvecklingsområde inom biometri handlar om att samla in och analysera information om en persons interaktioner och beteende i sociala media – och använda den informationen för att verifiera att individen är den denne utger sig för att vara. Genom att kartlägga en persons beteende till exempel i sociala nätverk, chatforum, bloggar, dataspel, meddelandeappar, fildelningstjänster kan man identifiera mönster som är unika för användaren – och som därmed kan användas för att identifiera personen. Mönstren kan exempelvis baseras på en analys av när användaren är uppkopplad (tider), hur/var/med vem personen interagerar, innehållet i interaktionerna (preferenser, sätt att uttrycka sig etcetera) och användarens strategier vid onlinespelande.150 Ett annat område där teknikutveckling sker är så kallad ”multimodal biometri”, vilket innebär att flera olika biometriska egenskaper kombineras vid identitetskontroll, för att uppnå ökad säkerhet och tillförlitlighet.151 Det kan exempelvis röra sig om en kombination av ögon-, venmönster och handavtrycksigenkänning.152 149. , kap. 2.2.2. F4-hr6NwfcpbZw&hl=en&sa=X&ved=2ahUKEwiXqrHyjoHpAhVOx4sK- HXCEC50Q6AEwA3oECAkQAQ#v=onepage&q=%22cancelable%20 biometrics%22%20%22artificial%20biometrics%22&f=false, sid.2-5. 151. trics-for-person-authentication. 152. trics-for-person-authentication. Även så kallad ”friktionsfri biometri” blir allt vanligare, vilket innebär att biometriska uppgifter samlas in från individer utan att de behöver interagera aktivt med tekniken eller ens märker att biometrisk teknik används.153 Det används bland annat för övervakning och verifiering av individers identitet på flygplatser.154 Fördelarna är bland annat ökad snabbhet och bekvämlighet, men på bekostnad av uppenbara integritetsrisker. 5.3.5.2 Särskilda nyttor med biometri Möjligheten att kunna identifiera en individ på ett snabbt, enkelt och relativt träffsäkert sätt – utan att behöva hantera personliga koder eller säkerhetsprodukter som kort och ”blippar” – medför stor nytta i många situationer och den övergripande trenden är att biometriska data används i större utsträckning inom allt fler samhällsområden. Forskningen kring DNA-analys har gått raskt framåt och finns det en uppsjö av internationella tjänster riktade mot konsumenter som kan användas för att matcha DNA.155 Vanliga användningsområden för DNA-analys handlar till exempel om släktforskning, att utreda sitt ursprung eller olika hälsoutredningar. Andra exempel på hur biometrisk data används är biometriska inom hela EU- området, biometrisk incheckning på flera av de största flygplatserna, kameror och ansiktsigenkänningsteknik för att bevaka storstäder och utbyte av biometrisk information mellan EU-länder är några exempel. De mest uppenbara nyttorna med biometri – ur användarens perspektiv – är ökad bekvämlighet, snabbhet och säkerhet. Användaren behöver inte längre komma ihåg, eller löpande byta ut, krångliga lösenord. Glömda eller avmagnetiserade passerkort och ”blippar” är inte längre ett problem. Med biometri kan verifieringen i vissa fall ske utan att slutanvändaren behöver göra någonting alls, exempelvis i de fall då kameror och andra sensorer samlar in uppgifterna på distans. Ofta går den biometriska verifieringen också betydligt snabbare än att mata in lösenord, vilket bland annat fått många smarttelefonanvändare att övergå till fingeravtrycks- eller ansiktsigenkänning. 153. S0969476517301558. 154. port-biometrics-trial-face-recognition-klm-brisbane-sita-a7813271.html. Säkerheten kan också förbättras såtillvida att användaren kan minska eller helt undvika bland annat risker som att någon smygtittar över axeln när ett lösenord matas in, passerkort eller en ”blipp” stjäls eller förloras eller att någon spärrar användarens passerkort och begär ut ett nytt i användarens namn. Säkerheten kan också motverka falska log-in-skärmar eller hårdvara som installeras för att stjäla användarens lösenord eller överbelastningsattacker där någon medvetet matar in felaktiga lösenord upprepade gånger för att låsa en produkt eller mjukvara.156 Biometri skapar också nytta för verksamheter inom allt fler samhällsområden. Speciellt där man har behov av att höja säkerhetsnivån vid åtkomst- eller tillträdeskontroller och önskar göra identifierings- och autentiseringsförfaranden säkrare genom att kombinera biometri med andra metoder, och inom sektorer där man önskar förenkla, snabba upp och öka bekvämligheten för den enskilde.157 Nedan ges exempel på användning och nyttor av biometri inom några av de sektorer där biometri fått allra störst genomslag. •Fingeravtryck och biometrisk bildinformation inbyggt i och pass, gör dessa svårare att förfalska.158 •Automatisk ansiktsigenkänning vid gränskontroller, gör det lättare att upptäcka eftersökta individer.159 •Kameraövervakning och ansiktsigenkänning vid av allmänna platser, gör övervakningen mer träffsäker och mindre personalkrävande.160 •Ansiktsigenkänning, fingeravtryck och DNA- analyser vid brottsutredningar är viktiga verktyg för att kunna identifiera misstänkta personer med stor träffsäkerhet. Inom bank- och finanssektorn •Röstigenkänning för att identifiera kunder som kontaktar banken via telefon, ersätter hantering av krångliga säkerhetsfrågor via telefonbanken och sparar tid både för banken och kunderna161 •Fingeravtrycks- och ansiktsigenkänning i bankomater och betalterminaler, ersätter PIN-koder och minskar därmed stölder och kortbedrägerier som banken annars måste lägga resurser på att utreda.162 •Tangenttryckningsmönster och rörelsemönster vid användning av mobila enheter, analyseras löpande för att identifiera avvikande beteenden och minska riskerna för bedrägerier.163 Inom hälso- och sjukvården •IoT och bärbara sensorer, för att samla in och analysera patienters biometriska data i syfte att löpande bevaka patientens hälsotillstånd på distans, smittspårning med mera.164 •Fingeravtrycks-, retina- och ansiktsigenkänning, underlättar för vårdgivarna att kontrollera vem som ska ha tillträde till faciliteter och känslig information. •Fingeravtrycks- och venmönsterigenkänning, för att på ett enklare och mer träffsäkert sätt identifiera patienter och hålla koll på patienten när den flyttas mellan olika verksamheter och avdelningar.165 •Fingeravtrycksigenkänning, för att förhindra bedrägerier kring sjukersättningar och mediciner.166 Inom it och telekommunikation •Fingeravtrycks- och ansiktsigenkänning, i mobila enheter för snabbare och säkrare identifiering och accesskontroll till enheter och i mobila applikationer. •Biometriska sensorer och IoT, för accesskontroll och identifiering i smarta fordon och på platser där fast internetuppkoppling inte är tillgänglig. •”Biometrics as a service”, tillgängliggör biometriska lösningar som en tjänst vilket gör tekniken både billigare och snabbare att implementera och ställer inte samma krav på expertkunskaper Det finns med andra ord ett stort antal områden där nyttan kan vara stor med att använda biometriska uppgifter. 156. , sid. 3 958. 157. b94e2cb5b084132275f184/hur-star-det-till-med-den-personliga-integri- teten---en-kartlaggning-av-integritetskommitten-sou-201641, sid. 116. 158. metric-id-cards-one-step-from-approval-after-passing-european-parli- ament. 160. live-frt-law-enforcement-opinion-20191031.pdf. 161. tion-banking/. 163. ed-behavioural-biometrics-being-implemented-by-banks-to-redu- ce-fraud/. 164. de-citizens-with-biometric-bracelets-to-contain-coronavirus. 165. Biometrics-in-Healthcare.pdf, sid. 12. 166. Biometrics-in-Healthcare.pdf, sid. 12. 5.3.5.3 Särskilda integritetsrisker med biometri är det uppenbart att användningen av biometriska uppgifter medför betydande risker för den personliga integriteten. Ett lösenord kan enkelt ersättas med ett nytt om det skulle gå förlorat. Detsamma gäller för passerkort och liknande teknik för verifiering, autentisering och identifiering. Om individen förlorar kontrollen över sina biometriska personuppgifter kan de däremot inte enkelt ersättas. Integritetsskadorna kan i värsta fall bli permanenta och det är en aspekt som gör integritetsfrågor kring biometri extra brådskande. I flera av intervjuerna som genomförts i arbetet med denna rapport framhålls utvecklingen och användningen av teknik kring biometri som ett av de viktigaste utvecklingsområdena som påverkat den personliga integriteten . Som exempel nämns i intervjuerna teknik för ansikts- och taligenkänning som används av rättsvårdande myndigheter. De integritetsrisker som följer av en ökad användning av biometriska uppgifter framhölls av redan 2016.168 Kommittén konstaterade att en ökad användning av olika biometriska tekniker i samhället riskerar att göra det mycket svårt att någonstans i det offentliga rummet kunna vara helt anonym. När kameror och annan utrustning i omvärlden kan läsa av och identifiera den enskildes kropp eller personliga beteende och koppla ihop de biometriska uppgifterna med uppgifter från andra datakällor blir detta avsevärt mycket svårare. Sammantaget ansåg kommittén att användningen av tekniker som involverar många och detaljerade biometriska uppgifter innebär en påtaglig risk för den personliga integriteten. Ett antal händelser som fått stort utrymme i media kan exemplifiera och konkretisera riskerna ytterligare: 2018 – lägger till gångstilsigenkänning till sitt övervakningsnätverk som innehåller uppskattningsvis 170 miljoner kameror. Systemet innefattar bland annat teknik för ansiktsigenkänning och AI och är kopplat till landets ”sociala kreditsystem”. Systemet, som ska vara fullt fungerande , övervakar och betygsätter medborgare baserat på deras beteende.169 Tre nya förordningar antas om Schengens Informationssystem (SIS), som bland annat innebär att SIS kommer att kunna användas för fler ändamål än tidigare, att fler uppgifter kan registreras i SIS och att fingeravtryck i högre utsträckning ska kunna användas för att identifiera personer.170 SOU 2016:41 Hur står det till med den personliga integriteten, sid 116. 170. rien-och-promemorior/2019/12/ds-201927/. 2019 – blir den första amerikanska staden som förbjuder användning av ansiktsigenkänning. Tekniken får inte användas av lokala myndigheter, till exempel stadens transportmyndighet, eller av lokala brottsbekämpande myndigheter.171 tull- och gränsskydd offentliggör att bilder på resenärer och deras registreringsskyltar har stulits i en cyberattack riktad mot en underleverantör.172 Israeliska säkerhetsforskare påstår sig ha kommit över biometriska data till fler än en miljon registrerade personer, via en databas som ägs av företaget . Företagets biometritjänster används av bland annat polis, banker och försvarsmakten i flera länder.173 Kinesiska säkerhetsexperter demonstrerar hur de kan överlista samtliga befintliga fingeravtrycksläsare på bara 20 minuter.174 I tillåts polisen använda dna-data från webbplatsen GEDmatch – en behandling som de 1,3 miljoner användarna inte godkänt.175 2020 – Tyska säkerhetsexperter upptäcker att över en miljon dokument med hälsouppgifter och medicinskt bildmaterial kopplade till patienter i är åtkomliga via en felkonfigurerad, uppkopplad databas.176 skriver ett reportage om företaget , som samlat in tre miljarder fotografier på nätet och behandlar dessa med avancerad AI- ansiktsigenkänningsteknik.177 Svensk polis lyckas lösa en mordutredning genom att testa DNA-prov mot släktforskningsdatabaser. Polisens utvärdering visar att en del aspekter av arbetssättet behöver utredas mer, men utvärderingen utmynnar i slutsatsen att målet bör vara att detta arbetssätt ska bli ytterligare ett verktyg för polisen.178 En risk är att biometriska uppgifter behandlas för nya ändamål som är oförenliga med de ändamål för vilka uppgifterna ursprungligen samlades in. Exempelvis kan biometriska uppgifter om gångstil och ansikte användas inte bara för att identifiera enskilda, utan också för att identifiera oönskade beteenden eller särskilda behov hos enskilda. 172. der-protection-images-travelers-data-breach/index.html. 173. not-so-big-suprema-280807. 174. smartphone-security-alert-as-hackers-claim-any-fingerprint-lock-bro- ken-in-20-minutes/#79740fb46853. 175. search-dna-millions-americans-without-their-consent-what-s-next. 176. finds-one-million-files-of-indian-patients-leaked/articleshow/73921423. 177. cy-facial-recognition.html. 178. ta-med-slaktforskning-och-dna. En annan risk är att fler biometriska uppgifter hanteras än vad som behövs för ändamålet, till exempel att hela fingeravtryck samlas in och lagras när det i själva verket hade varit tillräckligt att bara hantera vissa mätpunkter från fingeravtrycket. Detsamma kan inträffa när uppgifter om DNA inte bara möjliggör identifiering, utan även avslöjar något om den registrerades hälsotillstånd, sjukdomsbenägenhet eller etniska ursprung. Ytterligare en risk är att biometriska uppgifter inte skyddas tillräckligt och som en följd av detta blir tillgängliga för aktörer som kan använda uppgifterna för exempelvis identitetsstöld eller olika former av bedrägerier och utpressning. Det finns också en risk för att biometriska uppgifter kan användas utan att den enskilde känner till det eller lämnar sitt samtycke, till exempel vid publicering av bilder på nätet eller i sociala medier där det finns särskild programvara för ansiktsigenkänning. kartläggs vårt digitala liv i form av till exempel vilka sökningar vi gör på internet, vilka sidor vi besöker och tidningar vi läser, vad vihandlar och vilka som är våra kontakter. Kombineras sådan webbläsardata med biometriska uppgifter som till exempel kroppstemperatur, blodtryck och puls skulle slutsatser kunna dras om till exempel vilka nyheter eller kontakter som får en individ att reagera på olika sätt. Denna typ av scenarier har fått vissa bedömare att utfärda kraftfulla varningar för omfattande insamling av biometriska uppgifter, och konstatera att en sådan datainsamling ”kommer att få Analyticas hacking taktik att framstå som något från stenåldern”.179 Därtill bör nämnas risken för överutnyttjande av biometri när tekniken blir billigare, enklare och därmed mer lättillgänglig. Alla sammanhang kräver inte den höga precision som biometri kan erbjuda. Cyberattacker är en risk för alla system som ska förhindra otillbörlig åtkomst och tillträde och lösningar baserade på biometri är inget undantag. Potentiella säkerhetshot kan handla till exempel om att förfalska uppgifter. Det går att replikera de flesta biometriska data med hjälp av exempelvis 3d-printteknik och högupplösta bilder. Sensorer som används för insamlingen av uppgifterna kan manipuleras på många olika sätt och angripare kan också återanvända gammal data – exempelvis ett fotografi som tidigare använts för ansiktsigenkänning. Om en angripare tar sig in i systemet som bearbetar insamlad data så kan det gå att påverka resultatet. Angripare kan också tillföra förfalskad information, avlyssna kommunikationen där insamlade data matchas mot lagrade mallar eller stjäla och förfalska mallar. När det upptäcks att ett traditionellt lösenord har hackats kan användaren oftast enkelt byta lösenordet mot ett nytt och därefter få fortsatt tillgång eller tillträde till tjänsten. Om biometriska data hackas så kan det däremot medföra betydligt värre konsekvenser för den enskilde. Om en individs biometriska data – exempelvis venernas struktur under huden – har hamnat i orätta händer så kan denne inte ersätta den med annan data. De biometriska uppgifterna är beständiga, vilket ofta gör integritetsförlusten mycket svår att reparera. Förutom svårigheten att förändra de biometriska uppgifterna är de dessutom ofta svåra att hålla för sig själv. Ett ansikte, avtryck från fingrar eller ett rörelsemönster är något som exponeras mot omvärlden.