sou · H5B367 · 2018-01-01 00:00:00 — ’Radicalization & the use of social media’, Journal of strategic security, 4(4), s. 167–190. , F. (2012). ’Right-wing hegemony and immigration: How the populist far-right achieved hegemony through the immigration debate in Europe’, Current Sociology 60(3), 368–381. Vetenskap & Almenhet (2012). ’Havererad dialog mellan forskare och samhälle idataspellsdebatten’, VA-bloggen tillgänglig på samhalle-i-dataspelsdebatten/ Whine, M. (2012). ’Trans-European trends in right-wing extremism’. I: Mammone, , , &(red.) Mapping the extreme right in /: Routledge. (2015). The virtual caliphate: Understanding Islamic State’s propaganda strategy, . Wojcieszak, M. (2010). ’’t talk to me’: effects of ideologically homogeneous online groups and politically dissimilar offline ties on extremism, new media & society 12(4), s. 637–655. Wåg, M. (2010). ’Nationell kulturkamp – fran̊ vit maktmusik till metapolitik’. I: Deland, , (red.) Det vita fältet. : Opuscula Historica Upsaliensis 41. av digitala miljöer och fenomen Den digitala världen utgör en allt större del av vårt samhälle. Det är på nätet som vi gör allt från att handla biobiljetter till att sköta våra bankärenden och leta rätt på närliggande restauranger. Genom användningen av sociala medier finns dessutom möjlighet att kommunicera med vänner och bekanta genom att lägga upp egenproducerat material i form av text, bild och film. Även om internet och sociala medier har revolutionerat vårt sätt att leva och kommunicera så finns det också baksidor med den lättillgängliga informationen. Några av baksidorna är exempelvis den ökade för- säljningen av allt från droger till vapen på så kallade ”darknets”; den ökade mängden hot och kränkningar som förekommer på olika webbplatser och sist men inte minst den stora mängden vålds- bejakande propaganda och hatbudskap som sprids på internet och i sociala medier. I det här kapitlet kommer jag att fokusera på hur man kan an- vända sig av datavetenskapliga metoder för att analysera stora mängder data från internet och sociala medier. Utgångspunkt ligger i hur man kan använda sig av, och utveckla befintliga, dataveten- skapliga tekniker för att analysera data med avseende på våldsbejak- ande extremism och hatbudskap. Den typen av tvärvetenskaplig forskning som befinner sig i gränslandet mellan teknik och samhälls- vetenskap benämns ibland som digital humaniora eller, om den har ett tydligt fokus på samhällets säkerhet, för säkerhetsinformatik. Datorstödda analyser av digitala miljöer och fenomen Internets roll i våldsbejakande extremism Den snabba utvecklingen av olika typer av sociala medier har ökat tillgången av våldsbejakande extremistisk propaganda, och forum där våldsbejakande extremistiska ideologier diskuteras är stora och lätta att hitta för den som är intresserad. Att sprida propaganda i digitala miljöer är ett bra sätt för olika extremistiska grupper som vill nå ut med sina budskap, och det anses ha varit en viktig del i terrorgruppen () framgångar när det gäller re- krytering av anhängare som är spridda över olika delar i världen (Kaati, 2017:15). Även om propagandabudskap inte ensamma är orsak till radikalisering eller rekrytering till våldsbejakande extre- mistiska ideologier så kan digital propaganda fungera som en del av en radikaliseringsprocess genom dess lättillgänglighet och genom att fånga och hålla kvar individens intresse. För att en individ fak- tiskt ska ta steget för att radikaliseras krävs enligt (2012) vanligtvis interaktion med andra men den digitala propagan- dan kan enligt (2015) om den är väl utformad medföra att extremistiska organisationer och rörelser blir mindre beroende av enskilda rekryterares retorik och . Vilken roll internet och sociala medier har i radikalisering och i genomförande av terrorbrott är dock inte helt klarlagt. En studie av internets roll för radikalisering av unga gjordes 2013 av , , . Von m.fl. (2013) studerade 15 radikaliserade personer; av dessa hade 9 dömts under terrorlagstift- ning i . Studien utfördes genom att man intervjuade de berörda 15 personerna och poliser som varit i kontakt med dessa. Dessutom studerades förundersökningsprotokoll och resultat av forensiska analyser av deras datorer. m.fl. (2013) drar slutsatsen att internet spelat en stor roll i radikaliseringen hos alla de 15 personer som studerades – framför allt som informationskälla för att kommunicera och sprida extrema åsikter. Att digital propaganda som sprids i sociala nätverk konsumeras av personer som faktiskt planerar terrorattacker är något som brittiska underrättelsetjänsten uppmärksammat (Intelligence and , 2014:60 & Meleagrou-Hitchens, 2011). MI5 konstaterar att i sju av totalt tio planerade terrorattacker i hade personerna som genomförde och planerade attackerna läst den digitala tidningen . Vidare bedömde MI5 att i fyra av de tio Datorstödda analyser av digitala miljöer och fenomen attackerna hade personerna avsevärt ökat sin förmåga genom att läsa tidskriften. Hos ensamagerande terrorister verkar också internet spela en viktig roll, framför allt när det gäller att öka förmågan att utföra attacker. I en studie av , Horgan och Deckert (2014) analysera- des 119 ensamagerande terrorister som varit verksamma i Storbritan- nien. Deras analys visade att av de ensamagerande terroristerna var aktiva i ett större nätverk av politiska aktivister och att lärde sig olika aspekter av sina attacker genom inter- net. m.fl. (2014) kunde också se att de ensamagerande som var al Qaida-inspirerade var signifikant mer benägna att lära sig genom digitala miljöer () än de ensamagerande som var radikal- nationalistiskt inspirerade (). I en annan studie av , , och (2015) summeras internets roll hos ensamagerande terrorister. Slutsatsen i studien är att även om ensam- agerande i stor utsträckning använder sig av internet, så har internets utveckling inte lett till en ökning av terrorism. I stället skriver och hans medförfattare (m.fl., 2015) att kommunikation på nätet oftast sker i kombination med möten i det riktiga livet och att internet ska ses som en ”facilitator” av radikalisering men inte som en ”accelerator”. I konstaterar i en rapport (Säkerhetspolisen 2010) att forum på internet blivit en allt viktigare miljö för våldsbejakande islamistisk extremism. Forumen fungerar på flera sätt: som medieorgan, som informationskanaler och som plattformar för att sprida budskap och knyta kontakter. Vidare konstateras att en av grundförutsättningarna för att en person ska radikaliseras är att det finns våldsbejakande ideologier i personens omgivning eller som personen kommer i kontakt med via internet. I det fall där radikalisering skett helt på egen hand har detta fram- för allt skett genom internet (Säkerhetspolisen, 2010) Man kan alltså argumentera för att internet verkar fylla en funk- tion i såväl radikaliseringsprocesser som i genomförande och planer- ing av terrorattacker och i spridandet av våldsbejakande extremistiska budskap – detta framför allt genom att information finns lättillgänglig och att det är enkelt att hitta digitala mötesplatser där medlemmarna stödjer ens egna åsikter. En effekt av lättillgängligheten hos de digi- tala mötesplatserna och miljöerna är att det är enkelt för individer att välja att endast ta del av sådan information som bekräftar deras egna Datorstödda analyser av digitala miljöer och fenomen åsikter – något som medför att åsikter tenderar att förstärkas och extrema åsikter normaliseras. Ett annat fenomen där internet och sociala medier spelar en stor roll är i spridningen av hatbudskap. Med ”hatbudskap” menas kom- munikation i tal, text eller bild som förmedlar hat baserat på en upp- fattning om grupptillhörighet som kön, etnicitet, ras, kultur, sexuell läggning eller funktionsvariation. I hatbudskap ingår i många fall ett språk som hotar eller hetsar till våldshandlingar. Det hat som baseras på grupptillhörighet är en komponent i våldsbejakande extremism, vilket gör att hatbudskap är viktiga att inkludera när man studerar våldsbejakande extremism. Spridningen av hatbudskap i digitala miljöer har ökat markant och ett av resultaten är att flertalet digitala tid- ningar har varit tvungna att stänga kommentarsfält eftersom dessa blivit överhopade med hatbudskap, rasism och elaka kommentarer (Gardiner m.fl., 2016). För många journalister och publika personer har digitala hot och hat blivit en del av vardagen. I en studie studerades (2013) hur stor andel av svenska jour- nalister som mottagit hot och förolämpade kommentarer. I studien visas det att av de 1360 journalister som ingick i undersökning fått ta emot hot eller förolämpande kommentarer . En stor del av hoten och de förolämpande kommentarerna fördes fram digitalt genom e-post, läsarkommen- tarer, sociala medier och debattforum på nätet. Även om kopplingen mellan våldshandlingar och hatbudskap inte är helt klarlagd och bör undersökas närmare finns det stöd i forskningen för att det sker en polarisering av åsikter hos personer som regelbundet konsumerar och reproducerar hatfulla budskap på internet (Wojcieszak, 2010). En ökad polarisering i samhället förstärker känslan av diskriminering och stigmatisering hos utsatta grupper, något som kan underlätta radi- kalisering och rekrytering av enskilda personer till våldsbejakande miljöer (Säkerhetspolisen 2010). Analys stora mängder data i digitala miljöer Eftersom internet har en viktig roll i våldsbejakande extremism finns det många anledningar till att studera både digitala miljöer och sociala nätverk. Det som utmärker digitala miljöer är att det i många fall Datorstödda analyser av digitala miljöer och fenomen finns stora mängder data tillgängligt. Ett exempel är det radikal- nationalistiska hatforumet Stormfront som har funnits sen 1995. Stormfront har i skrivande stund över 12 miljoner inlägg fördelat på över 960 000 trådar som är skrivna av forumets över 320 000 regi- strerade medlemmar (man måste vara medlem på Stormfront för att kunna skriva inlägg men inte för att läsa). Det är således mycket data att studera om man vill analysera vad som diskuteras, hur saker diskuteras och hur forumet har utvecklats . Mängden data på internet är inte bara väldigt stor – den ökar dessutom . Även om man bara är intresserad av att studera en viss grupp eller organisation kan ett diskussionsforum eller en blogg bestå av kommunikation, vilket gör att man i princip måste använda sig av datorstöd för att kunna göra analyser. Kommunikationen på internet består av en blandning av bilder, text och filmer. Det finns en stor mängd olika tekniker och algo- ritmer som man kan använda – allt beror på vad man är intresserad av att göra för analyser. När man utvecklar datorstöd för att analy- sera data kan man göra det från två olika perspektiv. Antingen gör man en teoridriven analys eller så gör man en datadriven analys. Med en teoridriven analys menas att analysen bygger på någon form av teori. Detta innebär att man har en teori om vilka aspekter av datan man vill analysera. Ett sätt att göra teoridrivna ana- lyser är att använda sig av nyckelordlistor eller lexikon som (i bästa fall) är skapade av experter. Lexikonen representerar då en teori som man vill studera. Analyserna sker genom att man antingen tittar på om något ord från lexikonet förekommer eller hur stor andel av orden i lexikonet som förekommer i texten. Om man exempelvis vill studera hur mycket rasistiska uttryck en text innehåller så skulle man behöva skapa ett lexikon över alla de rasistiska uttryck som man vill studera, för att sedan räkna hur stor andel av orden i den text man studerar som finns med i lexikonet. I en datadriven analys låter man i stället algoritmer avgöra vad som är viktigt i en mängd data. Ett av de vanligaste datadrivna sätten att analysera data är att använda sig av en teknik som kallas maskin- inlärning. Maskininlärning går ut på att man tränar upp ett dator- program att känna igen olika saker i data. Det är exempelvis maskin- inlärning som ligger bakom att vi slipper få allt för mycket skräppost i våra mailboxar och att vi får reklam som är anpassat efter vårt be- teende och våra intressen. Det finns en mängd olika tekniker inom Datorstödda analyser av digitala miljöer och fenomen maskininlärning och de fungerar olika bra på olika typer av data. Den maskininlärningstekniken som fått mest uppmärksamhet just nu är deep learning. Inom deep learning använder sig algoritmerna av så kallade ”neurala nät” som försöker efterlikna funktioner hos en bio- logisk hjärna. Deep learning har gett revolutionerande resultat inom bland annat rösttolkning, språkbehandling och bild- analys. Utvecklingen inom maskininlärning och artificiell intelligens (AI) går just nu framåt i en rasande fart. Detta beror delvis på att stora företag som Google, Facebook och Microsoft investerat stort i utveckling av tekniken, men också för att det blivit allt billigare och mer lättillgängligt att lagra stora mängder data och göra tunga beräk- ningar med stora mängder data – många molntjänster tillhandahåller beräkningskapacitet som kan hyras . Men det finns också baksidor av användningen av AI. Ett exempel är när AI inte fungerat som man tänkt sig var när Microsoft lanserade chatbotten ”” på Twitter. Tanken med var att hon skulle fungera som ett experi- ment i förståelse av konversationer. Ju mer man chattade med desto mer skulle utvecklas och bli allt smartare och bättre på att konversera naturligt. hade lärt sig tillräckligt mycket om de som valde att chatta med henne för att utvecklas till nazist och twittra kommentarer som ”hade rätt. Jag hatar judar” (, 2016). Microsofts experiment säger kan- ske mer om klimatet och innehållet i konversationer på Twitter än vad det säger om hur väl tekniken fungerar men resultatet är ändå viktigt att fundera på när man utvecklar den här typen av tekniker. Det finns fler exempel på när AI inte alls har fungerat som man tänkt sig men det finns också massor av exempel på lyckade använd- ningar och framför allt finns det stor potential med den här typen av teknik. Förutom att studera vad som kommuniceras kan man också stu- dera hur det kommuniceras och i vilka grupper som kommunika- tionen sker. Detta kan exempelvis göras genom att studera de nätverk där våldsbejakande budskap sprids på olika sätt. Fortsättningsvis kommer detta kapitel att innehålla några exempel på olika typer av analyser som kan anses vara relevanta när man med datorstöd vill studera data med avseende på våldsbejakande extremism. Det är långt ifrån en uttömmande genomgång av analyssätt, utan ska endast ses som ett fåtal exempel. Datorstödda analyser av digitala miljöer och fenomen Genom att identifiera och studera vilka budskap som sprids i vålds- bejakande extremistiska grupper och hur dessa budskap ändras kan vi lära oss mycket om hur grupper kommunicerar, vad de kommunicerar och hur de utvecklas . Ett flertal studier har gjorts där man manuellt analyserat innehållet i olika stora mängder av våldsbejakande extremistisk propaganda och försökt skapa sig en bild över innehållet. (2015) studerade innehållet i propaganda från under en månad och grupperade propagandan i sex olika teman: barmhärtighet (mercy), tillhörighet (belonging), brutalitet (brutality), offermentalitet (victimhood), krig (war) samt utopi (utopia) (2015). I studie kunde man se att den största delen av propa- gandan handlade om utopi (52,) och den näst största om krig (37,). Endast en liten del av propagandan handlade om barmhärtighet (0,), tillhörighet (0,), brutalitet (2,) och offermentalitet (6,). Temat utopi, som var det tema som dominerade propagandan, bestod i sin tur av en mängd olika delkategorier som exempelvis rättvisa, religion, natur och landskap, styrelseskick, och ekonomisk aktivitet. Av dessa del- kategorier handlade den största delen av propagandan om styrsätt och religion. gjorde om studien (, 2017) och kunde då konstatera att propagandans budskap skiftat och handlade mer om krig än utopi. På ett liknade sätt studerade innehållet i en veckas propa- ganda från IS (, 2015). I sin studie valde att kategorisera innehållet i elva olika teman. Bland dessa teman identifierade de sex viktigaste till: militär (military), styrelseskick (governance), reli- giöst missionerande (da‘wa), kontroll av efterlevnad av islamiska principer (hisba), marknadsföring om kalifatet (promotion of the caliphate), och attacker av fienden (enemy attack). Det tema som före- kom mest i propagandan som studerade handlade om militära operationer – nästan hälften av propagandan handlade om just det. Den här typen av studier hjälper oss att få en ökad förståelse för innehållet i propaganda och vilka budskap som propaganda inne- håller – någon som är viktigt speciellt om man är intresserad av att utveckla motbudskap. Det stora problemet med studier är att man endast kan analysera en liten del av den data som finns till- Datorstödda analyser av digitala miljöer och fenomen För att kunna analysera stora mängder data och exempelvis få en förståelse över hur propagandas innehåll har utvecklats måste man använda sig av olika former av datorstöd. I stället för att manuellt analysera data och klassificera innehållet i olika teman kan man, i de fall man har data som består av text, an- vända sig av lexikon för att mäta hur stor del av propagandan som innehåller ord från olika teman. Varje tema skulle då exempelvis kunna representeras av ett lexikon. En stor del av arbetet ligger då i att utveckla lexikon som representerar de teman man är intresserad av att studera eftersom utfallet på analysen är helt beroende av hur pass bra man lyckats fånga teman i sina lexikon. För att göra bra analyser är det viktigt att lexikonen är anpassade för den domän man analyserar. Ett ord kan ha vitt skilda betydelser beroende på var och i vilka sammanhang de förekommer; exempelvis har ordet parasit helt olika betydelser på ett trädgårdsforum än på ett invand- ringskritiskt forum. Vanliga ord kan alltså ha en ordagrann eller en överförd/metaforisk betydelse beroende på i vilken miljö de före- kommer (FOI, 2017). Det är därför av stor vikt att anpassa sina lexikon till den domän man studerar och att inkludera experter i skapandet av lexikon. En kritik mot lexikonbaserade analyser är att lexikon är statiska. Vårt språk utvecklas och nya ord och begrepp uppfinns. Speciellt i den digitala världen kan nya ord, förkortningar och be- grepp dyka upp och få en stor spridning. Eftersom ordlistorna är statiska fångas inte nya ord och begrepp som förekommer i miljön upp. Detta kan till viss del åtgärdas med hjälp av semantiska tekniker. Med hjälp av semantiska tekniker kan man studera ords betydelse- relationer – det vill säga hur olika ord hänger ihop. Ord som ofta förekommer i närheten av varandra brukar också ha något gemen- samt när det gäller betydelsen. Semantiska tekniker bygger på att varje ord används i en kontext, och vi kan genom att identifiera liknande kontexter upptäcka nya ord som används på samma sätt och därför kan ha en liknande betydelse. På så vis kan man auto- matiskt identifiera synonymer till ord som sedan kan analyseras av en mänsklig expert, och om synonymerna är relevanta kan man lägga Datorstödda analyser av digitala miljöer och fenomen till dessa till sitt lexikon. Genom att använda semantiska tekniker kan man populera sitt lexikon och lägga till nya ord som har samma betydelse som de orden som ursprungligen ingick i lexikonet. Av samma anledning som ovan beskrevs för processen för att skapa ett lexikon är det viktigt att ha med experter i processen för populering av nya ord till lexikonet. Förutom att skapa egna lexikon med de teman man vill analysera så kan man också använda sig av färdiga ordlistor. Linguistic Inquery and Word (LIWC) är ett exempel på ett ordlistebaserat verk- tyg som är utvecklat av psykologer för att kunna analysera texter ur ett psykologiskt perspektiv. LIWC har använts i en mängd olika studier och visat sig vara ett tillförlitligt redskap för att undersöka språkets psykologiska dimensioner (Pennebaker m.fl., 2003, Penne- baker m.fl., 2014). LIWC använder sig av olika kategorier som varie- rar från rent grammatiska – som antalet verb eller artiklar – till olika ämnen som familj, vänner eller religion och vidare till psykologiska dimensioner som ilska eller oro. Den senaste versionen av LIWC (LIWC2015) består av nästan 6 400 ord (Pennebaker m.fl., 2015). finns LIWC översatt till en mängd olika språk – även om översättningarna inte alltid är helt pålitliga. När man översätter lexi- kon till olika språk måste man, precis på samma sätt som när man tar hänsyn till olika domäner, anpassa lexikonet till det språk och den kultur man studerar. Exempelvis kan ord ha olika form av intensitet i olika språk, vilket skulle kunna leda till att analyser får missvisande resultat – bara för att man inte tagit hänsyn till ordets emotionella laddning. Analys av affekt i text I många fall är man intresserad av att klassificera en text till en given kategori – det vill säga man vill avgöra om en text är av en viss typ. Ett exempel är om man är intresserad av att klassificera en text som positiv eller negativ – en teknik som kallas för sentimentanalys. Data- drivna tekniker som maskininlärning lämpar sig väl för den här typen av problem, speciellt om det är svårt att avgöra vilken kategori texten tillhör. Med svårt menar jag här att man kan uttrycka sig på väldigt Datorstödda analyser av digitala miljöer och fenomen många olika sätt och att det inte alltid är helt enkelt att förklara var- för en text tillhör en viss kategori. För att använda sig av maskininlärning behöver man ha annoterad eller på annat sätt uppmärkt data. Det innebär (i bästa fall) att man använder sig av experter som annoterar data på olika sätt. Anno- tering av data är grunden för att kunna arbeta med maskininlärning. Ju svårare det problem man försöker lösa är, desto viktigare blir det att arbeta med duktiga experter och att man försöker se till att flera personer annoterar samma data och har samma uppfattning om datan. Med hjälp av den annoterade datan försöker sedan algorit- merna lista ut vilka egenskaper hos denna data som är viktig. Den data som är annoterad kallas för ”träningsdata” och används för att algoritmerna ska kunna träna upp sin förmåga att lösa problemet. Som nämnts tidigare är det oerhört viktigt att kvalitén på tränings- datan är hög. Detta innebär man måste tänka igenom vilket problem man studerar, hur man studerar det, och se till att det är rätt sorts experter som annoterar datan. Är kvalitén på träningsdatan låg kom- mer algoritmerna inte att fungera bra. Mängden data är också en viktig faktor, i princip kan man säga att ju mer data som finns att träna upp modeller på, desto bättre blir resultatet. Maskininlärning är en kraftfull teknik som fungerar väldigt bra när man har mycket bra data att träna på. Ett exempel på en tillämpning som illustrerar svårigheterna med att annotera data beskrivs nedan. Om man vill studera hatbudskap i digitala miljöer som maskininlär- ning så är datadrivna tekniker ett rimligt angreppsätt. Det är oerhört svårt att analysera vilka typer av hatbudskap som förekommer i digi- tala miljöer, och framför allt att uppskatta omfattningen av hatbud- skap. Detta beror framför allt på att hatbudskap kan se ut på väldigt många olika sätt. Flera internationella forskningsprojekt har arbetat med att utveckla tekniker för att automatiskt kunna känna igen hatbudskap (, , , 2017 samt Njagi, , Hanyurwimfura & , 2015). Detta är relevant av många anledningar. En av anledningarna är att uppskatta och förstå om- fattningen av hatbudskap på nätet, en annan anledning är att kunna studera hur budskapen förändras och en ytterligare att Datorstödda analyser av digitala miljöer och fenomen kunna identifiera vilka personer eller grupper som är mest utsatta. Att studera hatbudskap är också av intresse för publicister och för företag som driver sociala medier eftersom det i många fall kan vara olagliga budskap som sprids.