sou · H6B316 · 2018-03-07 00:00:00 — Vem kan då vara intresserad av att utföra angrep mot eller med hjälp av automatiserade fordon? När det gäller automatiserade fordon kommer hotet framför allt från fyra olika kategorier av människor. Den första kategorin är personer som vill förstöra för andra i allmänhet eller vill visa sina kunskaper och möjligheter att angripa eller använda automatiserade fordon. Denna kategori finns främst på lokal nivå och är normalt inte organiserad. Inom kategorin finns också personer som vill testa eller skada företeelsen automatiserade fordon. Ett exempel är de försöksfordon som ingår i Drive Me-pro- jektet. Märkta försöksfordon har utsatts för prejnings- försök från utomstående på väg. Den andra kategorin är aktivister. Det finns stora variationer i deras tillgång till resurser och vilken omfattning angrepp kan ske och hur. Ett exempel skulle kunna vara en militant organisation som starkt ogillar en av samhället accepterad verksamhet/företeelse. Akti- vister skulle, i syfte att komma åt den som använder eller arbetar i verksamheten, kunna hacka fordon för att skada de ombord eller för att komma åt personlig information till exempel fordonets position, som i sin tur skulle kunna användas för att trakassera och förfölja personer. Den tredje kategorin är kriminella som vill tjäna pengar. De kan vara ute efter att stjäla själva fordonet eller dess last eller kidnappa någon ombord fordonet. Det kan också vara kriminella som är ute efter att utöva utpressning genom att ta kontroll över fordonet eller stjäla personlig information (se ovan ransomware). Till den fjärde kategorin hör krigförande nationer och terrorister. I ett krig skulle en nation kunna ta kontrollen över det andra landets automatiserade fordon och omvandla dessa till vapen. En terrorist skulle kunna ladda automatiserade fordon med sprängmedel och utföra terroristdåd. Utomlands har fjärrstyrda fordon använts vid terrordåd. Ett sätt att skydda sig mot detta har varit att använda värmekameror vid till exempel vägspärrar för att avgöra om det sitter en fysisk förare i fordonet eller inte. Om samhället blir beroende av automatiserade fordon skulle ett annat alternativ för främmande makt vara att slå ut fordonen och på så sätt stoppa all distribution av varor (mat). En utslagen fordonsflotta skulle också avsevärt försvåra en evakuering av civilbefolkningen i en krissituation. I antogs en federal lag som adresserar infor- mationssäkerhet i motorfordon, den så kallade ”Security and Privacy in Act 2015” eller kort ”Act”. Till stor del som ett resultat av hackningarna utförda av och . Lagen reglerar informationssäkerhet (och den enskildes integritet) i motor- fordon. Fordonstillverkare måste till exempel skydda fordonen från att bli hackade genom att skydda alla elektroniska ingångar till for- donet. Tillverkarna måste vidare separera säkerhetskritisk mjukvara från icke säkerhetskritisk mjukvara. Med säkerhetskritisk mjukvara avses program som kan påverka förarens kontroll över fordonet. Fordonstillverkarna måste även vidta rimliga åtgärder för att skydda all elektronisk information fordonet genererar från obehöriga informationen sparas ombord, när informationen överförs någon annanstans och när den lagras utanför fordonet. Slutligen måste fordonstillverkaren utrusta fordonet på ett sådant sätt att alla försök till datahackning upptäcks, stoppas och rapporteras. Kongres- sen gav även NHTSA (motsvarighet till Transportstyrelsen) i uppdrag att ta fram ett regelverk/riktlinjer för informationssäkerhet. Närmast motsvarande regelverk inom EU är den nya allmänna dataskyddsförordningen (se nedan), men den är generell och inte sektorsspecifik för fordonsindustrin. 8.4.6Andra angrepp mot automatiserade fordon Förutom sabotage eller hackning av själva fordonen eller system som styr dessa, kan tekniken luras att agera på ett felaktigt sätt genom mer eller mindre avsiktliga ändringar i infrastrukturen. De vägar som används av automatiserade fordon måste vara tydligt läsbara för att underlätta ett säkert framförande av fordonen. Om det finns brister när det gäller längsgående markeringar som linjer eller kantmarker- ingar, kan tekniken relativt lätt ”fylla i” information (kameror kan läsa information framför och bakom fordonet och på så sätt räkna ut vad som saknas). Det är svårare för tekniken att göra det om skyltar saknas, ändras eller stopplinjer inte syns. Här kan fordonet inte själv fylla i den information som saknas med hjälp av den bakåtriktade kameran eftersom informationen som behövs endast finns framför fordonet. Flera leverantörer, bland dem , och Delphi, erbjuder en förarassistansfunktion som kan upptäcka och iden- tifiera vägskyltar (Road Sign Detection) vid vägkanten. Systemen används i bilar från minst 15 biltillverkare, bland dem . Amerikanska forskare har visat att det teoretiskt går att lura sådana system, i vart fall sådana som bygger på AI-tekniken deep learning31, genom att fysiskt ändra utseendet på vägskylten.32I sina försök placerade de tejpbitar på en stoppskylt på ett strategiskt sätt, vilket uppfattades av AI-systemet som en hastighetsskylt. Det är ett farligt sätt att manipulera fordonen eftersom det kan ske förhål- landevis enkelt och påverkar hur alla fordon med tekniken uppfattar skylten och därmed hur de ska agera. I försöket uppfattades de mani- pulerade stoppskyltarna som hastighetsgränser på 45 miles per tim- me (). Forskarna maskerade också en skylt för påbjuden körriktning så att den uppfattades av samtliga testfordon som en stoppskylt. Skyltarna maskerades med tejpbitar eller genom att manipulerade bilder printades ut och fästes över skyl- tarna. Maskeringen fungerade även om vägskylten fotograferades på olika avstånd och ur olika vinklar. Forskarna tog fram en egen algoritm för bildanalys av vägskyltar med hjälp av standardmetoder inom AI-området deep learning. Därefter identifierade de akilles- hälar i den egna algoritmen, vilket gjorde att systemet gav fel svar. Rapporten dokumenterar inte att sårbarheten existerar i någon av de Road Sign Detection-funktioner som erbjuds , men visar ändå att det är fullt möjligt att manipulera skyltar för att lura systemen. Utredningen återkommer till vägskyltars betydelse i kapitel 9. 31Deep learning, Djupinlärning (även känd som djupt strukturerat lärande eller hierarkiskt lärande) är tillämpningen av artificiella neurala nätverk för inlärningsuppgifter som innehåller mer än ett dolt lager. Djupinlärning är en del av en bredare familj av maskininlärningsmetoder baserade på inlärningsdatapresentationer, i motsats till arbetsspecifika algoritmer. Lärandet kan övervakas, delas eller ske obevakat (dvs. i maskinen). 32Physical-World Attacks on Learning Models, Evtimov, ; Eykholt, ; et al, arXiv:1707.08945, . Geostaket (eng. geofencing) går ut på: att skapa ett virtuellt staket, där specifika villkor gäller inom ett begränsat område. Det har bland annat använts för att larma om ett barn går utanför ett säkert om- råde. När det gäller fordon kan det handla om allt från att automa- tiskt sänka hastigheten till att ett larm går igång när fordonet lämnar ett visst område. Tekniken med geostaket har använts , exem- pelvis för att ha kontroll på värdefull last. Den stora skillnaden mellan hur tekniken används och hur den skulle kunna använ- das i skyddssyfte är säkerhetskraven. GPS-enheterna i fordonet, likväl som den mjukvara som systemet bygger på, måste vara till- förlitliga, så att systemen inte är beroende av exempelvis GPS som kan tappa kontakten med sändaren. För ett starkt it-säkerhetssystem gäller det också att inte förlita sig på ett enda system utan att kom- plettera med andra källor och sensorer. Liknande användningar av geostaket har dock redan testats, exempelvis när det gäller att begränsa rörligheten för drönare över krigsområden och andra om- råden som flygplatser, militärbaser och myndighetsbyggnader. Geostaket är teknisk lösning som kan möjliggöra att endast tillåtna fordon kan köras inom ett definierat geografiskt område. Lösningen skulle också kunna användas för att tekniskt begränsa hastigheten till den högsta tillåtna hastigheten, som i ett gång- fartsområde kan vara . Därigenom skulle geo- staket kunna försvåra att fordon används i terrorattacker såsom har skett på i , i och Breitscheidplatz i . På samtliga dessa platser har tunga fordon kapats och använts som vapen vid en terrorattack. Geostaket kan också användas för att styra andra funktioner i fordon, exem- pelvis vilken drivlina i ett fordon som används då fordonet kör in i en miljözon eller som ett hinder mellan filer på motorvägen, för att förhindra sammanstötningar. Geostaket skulle kunna användas exem- pelvis för skapandet av en nollutsläppszon, hastighetszoner vid sko- lor eller i city, kostnadseffektivisering av infrastruktur genom att trängselskattkameror kan tas bort och ersättas av ett system där fordonen rapporterar sig automatiskt till systemet. I syfte att skapa säkrare stadsmiljöer startades , efter det uppmärksammade terrordåd med en lastbil i , ett samarbete mellan , AB , , , och om hur digitaliseringens möjligheter kan tas tillvara på transportområdet. Regeringen gav i uppdrag att testa så kallade geostaket i demonstrationsprojekt i urban miljö. Inte bara geostaket utan också andra säkerhetslösningar diskuteras. ska även utveckla relevanta befintliga forsknings- och innovationsprogram så att geostaket inkluderas. Regeringen har också gett Trafikanalys i upp- drag att undersöka alternativa lösningar för att transportera gods på ett säkert och miljöanpassat sätt. Myndigheten ska också komma med förslag på hur tunga fordon ska användas säkert i stadsmiljön. En delrapport presenterades , och en fullständig slutrapport presenteras . i det här kapitlet har jag redogjort för vilken typ av infor- mation automatiserade fordon kommer att generera, vilken informa- tion som kommer att utväxlas och hur informationen kan skyddas. Fokus har mer legat på teknik. De följande avsnitten kommer att handla om den enskildes integritet och fokus kommer då att ligga på juridiken. Automatiserade fordon kommer att användas av verkliga människor. Personerna har med sig alla sina tankar och funderingar, sina problem och brister samt sina glädjeämnen vid användandet av fordonen. En avvägning måste kunna ske mellan att kunna dela med sig av den information man känner sig trygg med att dela och att kunna begränsa delningen av information som man vill bevara privat. Konsumenterna behöver kunna känna sig trygga med att automati- serade uppkopplade fordon inte inkräktar på deras integritet eller utgör ett hot mot deras säkerhet. Fordonen har potential att generera stora mängder information, varav en del kommer att vara personlig till exempel var användaren befinner sig. Det kan också handla om klockslag, fordonets hastighet, vilka säten som använts, vilka mobiltelefonsamtal som ringts och vil- ken underhållning som använts i fordonet. För att tekniken ska nå sin fulla potential kommer det till exem- pel att krävas att information utbyts mellan fordon om var de befin- ner sig och vilken hastighet de har. En del av den informationen kommer att vara säkerhetskritisk. Ska en konsument kunna vägra att dela med sig av säkerhetskritisk information? En annan fråga är i vilken utsträckning rättsvårdande myndigheter ska ha tillgång till information, oavsett om det handlar om personliga uppgifter eller inte. Den nya tekniken väcker således frågor om vad och hur mycket av den personliga informationen som kan delas och när det kan ske. Exempel på detta är följande. •Ska ett företag som äger en robottaxiflotta kunna sälja informa- tion om användarna till tredje man som vill skicka obeställd reklam till användarna nästa gång fordonet används (relationen enskild – företag)? •Familjerna äger gemensamt ett automatiserat fordon som de delar med varandra. Ska familj kunna ta reda på var och när familj brukat fordonet och vilken underhållning som då konsu- merades i fordonet (relationen enskild – enskild)? •Ska ett kommunalt gatubolag kunna kräva att få information om var ett visst fordon var parkerat vid ett visst tillfälle i syfte att skicka en p-bot till ägaren? Kanske rent av parkeringsövervakning i realtid (relationen enskild – kommun/väghållare)? •Hur mycket information ska ha tillgång till innan en förundersökning har inletts. Informationen skulle till exempel kunna användas till att ”fiska” efter brott. Kanske rent av automatiserad hastighetsövervakning i realtid (relationen en- skild – rättsvårdande myndighet)? Med denna korta inledning till avsnittet vill jag visa på att informa- tion från automatiserade fordon behöver användas på olika sätt och delas med andra som det finns risk för att den personliga integriteten på olika sätt kränks. Enligt 3 § personuppgiftslagen är personuppgifter all slags infor- mation som direkt eller indirekt kan hänföras till en fysisk person som är i livet. I EU:s nya allmänna dataskyddsförordning, som träder i kraft , ges en mer utvidgad definition (artikel 4). En personuppgift är varje upplysning som avser en identifierad eller identifierbar fysisk person. En identifierbar fysisk person är en person som direkt eller indirekt kan identifieras särskilt med hän- visning till en identifierare som ett namn, ett identifikationsnummer, en lokaliseringsuppgift (exempelvis metadata) eller en online- identifikator (till exempel användarnamn i ett dataspel) eller en eller flera faktorer som är specifika för den fysiska personens fysiska, fysiologiska, genetiska, psykiska, ekonomiska kulturella el- ler sociala identitet. Ett exempel på personuppgift kan vara serviceboken till en bil. innehåller uppgifter om service av bilen. Bilen har ett registreringsnummer. Registreringsnumret kan kopplas till ägaren av bilen, vilket gör att serviceboken är en personuppgift om ägaren till bilen. kan också vara en personuppgift om servicetek- nikern som utförde arbetet, om det står i boken vem som utförde arbetet.33 Direkta uppgifter innebär att det inte råder någon tvekan om att informationen som behandlats utgör personuppgift. Det kan röra sig om namn, personnummer, adresser samt ljud eller bilder av en män- niska som tillåter att det tydligt går att identifiera en person. Även ip- adresser utgör personuppgifter enligt praxis.34 En speciell kategori av direkta personuppgifter kallas känsliga per- sonuppgifter. De definieras i 13 § personuppgiftslagen. Exempel på särskilt känsliga personuppgifter är ras, politiska åsikter, religiösa eller filosofiska övertygelser, medlemskap i fackförening och uppgifter som rör hälsa eller sexualliv. Huvudregeln är att behandling av käns- liga personuppgifter inte är tillåtet, men att det finns möjlighet till 33WP 29, WP 136 s. 10. 34Se mål C-70/10 /SABAM. undantag (15–19 §§ i personuppgiftslagen). Utgångspunkten är att uttryckligt samtycke krävs för behandling av känsliga personuppgif- ter. I EU:s nya dataskyddsförordning talas i stället om särskilda kate- gorier av personuppgifter (art 9.1) och omfattar en större grupp upp- gifter såsom biometriska, genetiska och uppgift om sexuell läggning. Dessa får exempelvis behandlas om personen gett sitt samtycke till detta. Metadata betyder data om data och blir allt viktigare i vårt samhälle. När människor använder sig av digital teknik lämnar de digitala spår efter sig. Det kan handla om tidpunkt, geografisk position, vilken enhet som skickar respektive tar emot kommunikation och abonne- mangsnummer. Var och en av de digitala spåren kan inte identifiera en enskild person, men det är här metadata kommer in i bilden. Genom att behandla de olika små digitala spåren tillsammans går det att identifiera personen som står bakom kommunikationen. Ju mer digitala spår som finns tillgängliga desto lättare är det att identifiera en person. Traditionellt har metadata betraktats som mindre känsligt ur integritetssynpunkt, men i takt med att människor har runt om- kring sig allt fler uppkopplade enheter skapas allt mer metadata. Uppkopplade fordon är bara ett exempel på ännu en enhet som kan generera metadata. Mot bakgrund av detta anses metadata vara en personuppgift i den mån de kan användas för att identifiera en person.35 Sensorer i fordon är vanligt förekommande. De kan generera information som inte är personbunden, men de kan också generera information som är en personuppgift. Till exempel genererar sensorn som mäter spänningen i batteriet inte en personuppgift (under förut- sättning att informationen inte kopplas till fordonets registrerings- skylt), men om en sensor på något sätt mäter hur föraren framför fordonet, till exempel gasning, bromsning, fordonets hastighet eller användandet av bilbälte, blir det en personuppgift. Bilden blir än mer komplicerad av att sensorer kan generera metadata. Var och en ger sensorerna inte upphov till personuppgifter, men tillsammans skulle 35 WP 29, WP 136 s. 14. de kunna användas för att identifiera en person. I fordon kan det också finnas sensorer som mäter särskilt känsliga personuppgifter genom att exempelvis övervaka en persons hälsa. En framkomlig väg skulle kunna vara att använda anonyma per- sonuppgifter. Forskning visar dock att det går relativt enkelt att, med rätt verktyg, återidentifiera personer, till exempel utifrån deras användning av kreditkort och mobiltelefoner.36 Anonyma person- uppgifter kan också fortfarande vara personuppgifter. Ett exempel skulle kunna vara två kopior av samma information. I fordonet finns en kopia av informationen som inte är anonym. En anonym kopia av informationen skickas iväg till väginfrastrukturen. Även om infor- mationen förvaras skyddad med lösenord och kryptering är den fort- farande en personuppgift hos väghållaren eftersom det finns en kopia i fordonet i identifierad form. Avidentifierad information är inte samma sak som anonym infor- mation. Avidentifiering är ett resultat av olika metoder37 för att helt eliminera möjligheten att identifiera en person utifrån data, till exem- pel genom att utplåna den rådata som ligger till grund för statistiken. Avidentifierade data anses då inte utgöra personuppgifter. I EU:s nya dataskyddsförordning införs ett nytt begrepp; pseudo- nymisering (artikel 4.5). Pseudonymisering innebär behandling av personuppgifter på ett sådant sätt som innebär att personuppgifterna inte kan härledas till en specifik person utan att ytterligare infor- mation används. För att pseudonymisering ska vara för handen krävs att sådana kompletterande uppgifter förvaras separat och under sådan teknisk och organisatorisk säkerhet att de pseudonymiserade person- uppgifterna inte återidentifieras. Personuppgifter i förhållande till fordon När det gäller personuppgifter i förhållande till fordon ser jag fram- för allt fyra olika områden som berörs för personer ombord: Det första området är geolokalisering. Var (tid och plats) ett for- don och därmed en person i fordonet befinner sig är en person- 36De Montjoye m.fl. Unique in the crowd: The privacy bounds on human mobility, 2013 och De Montjoye m.fl. Unique in the shopping mall: On the reidentifiability of credit card metadata. Science 347, no 6221, 2015. 37Se mer om avidentifieringsmetoder WP 29, WP 216. Många fordon har redan på något sätt en GPS ombord som kan sända ut positionering. Det kan handla om olika naviger- ingstjänster, men även om eCall och vägassistans. För att tekniken bakom automatiserade fordon ska fungera är positionering mycket viktigt. Det andra området är biometri dvs. ett sätt att mäta olika kropps- liga egenskaper hos en person för att kunna identifiera denna. skulle biometri kunna användas för att kontrollera vem som ska ha tillgång till ett fordon (för exempelvis stöldskydd eller skydd för obehörig användning). I ett nivå 3 fordon kan tekniken användas för att övervaka föraren så att han eller hon alltid är beredd att ta över körningen när fordonet begär det. Det tredje området rör hälsa. Olika sensorer kan användas för att övervaka de som finns i fordonet kroppsligt. finns det teknik som märker om föraren håller på att somna bakom ratten och i så fall väcker tekniken föraren genom att till exempel skaka på ratten. Det kan också vara så att fordonet behöver kommunicera en passagerares hälsa med infrastrukturen. Ett exempel skulle kunna vara en person som har nedsatt rörelseförmåga och som behöver använda handikapparkering (med parkeringstillstånd). Det finns också ett allmänt undantag, som innebär att man vid transport av sjuka eller rörelsehindrade personer, får stanna och parkera ett fordon trots förbud mot parkering enligt en lokal trafikföreskrift i syfte att komma närmre målpunkten.38 kan situationen vara så att en person med nedsatt funktionsförmåga vill bli bemött som vilken annan trafikant som helst i trafiken och inte vill avslöja något om sin hälsa. Det fjärde området är personlig information om hur den fysiska föraren uppför sig när han eller hon kör. Sensorer i fordonet kan mäta hastighet, gas/broms, bilbältesanvändning etc. och som visar hur föraren framför fordonet. När fordonet kör själv finns ingen förare som utför det dynamiska körarbetet utan den personliga informationen kommer mer att vara av naturen vad vi gör i fordonet såsom vilka telefonsamtal vi ringer, vilken film vi tittar på och använ- dandet av internet, men kan också vara i form var vi sitter i fordonet och om vi använder bilbälte. 38 Se 11 kap. 9 § punkten 7 trafikförordningen. Utanför fordonet är det främst kamerorna, som behövs för att automatiserade fordon ska kunna fungera, som kommer att generera personuppgifter. När det gäller kameraanvändning lyfts ofta sam- tycke fram när det gäller behandling av personuppgifter. När det gäl- ler fordonskameror är det ogörligt att få samtycke från alla personer som fordonet åker förbi och filmar. Detta är dock en fråga som uppkommer för alla moderna fordon med kameror för förarstöd. En annan fråga är användningen av ITS (se kapitel 9). C-ITS Platform har resonerat utifrån att en fysisk förare ska kunna välja (ge samtycke) till att ITS använder sig av förarens personuppgifter. Om föraren inte vill dela med sig av sina personuppgifter ska han eller hon kunna stänga av systemet och köra själv (på egen risk). Frågan är hur detta ska lösas i ett automatiserat fordon. Ett sådant fordon förutsätter användning av ITS för att det ska kunna framföras trafiksäkert. Det pågår diskussioner om ett sådant fordon måste dela med sig av säkerhetskritisk information på EU-nivå. intervjuar ett stort antal personer om olika ämnen i Europabarometern. intervjuade Europabarometern människor inom EU om personuppgifter. Resul- tatet visade att det finns en osäkerhet bland människor om hur per- sonuppgifter används och att en majoritet av människor i upplever att de inte har full kontroll över sin information. En majo- ritet av människorna är också obekväma med att företag har möjlig- het att skräddarsy marknadsföring till personer.39 En liknande under- sökning görs av i med snarlika resultat.40 Det finns olika informationskällor där personuppgifter kan häm- tas. Internet i sig är en stor informationskälla . Människor kan tillhandahålla uppgifter om sig själv till exempel när de öppnar ett konto och fyller i personliga uppgifter. Den här typen av uppgifts- lämnande är sällan problematisk eftersom personen själv bestämmer vilka uppgifter som ska lämnas och uppgiftslämnandet sker i utbyte 39Special Eurobarometer nr 431. Rapport och internet 2017. mot en tjänst eller vara. Men det sker även en annan insamling av personliga uppgifter, som den enskilde inte alltid är medveten om. Det kan handla om hur ofta en viss hemsida besöks eller vilka sökord som personen använder. Här kommer begrepp som cookie, clicktrails och web-bugs in41. En person kan alltså vara medveten om kom- munikationen, men inte alltid vara medveten om insamling, lagring och användning av data. kommer Sakernas Internet (eng. Internet of Things, IoT), att vara en stor källa för information.