sou · H5B367 · 2018-01-01 00:00:00 — Trots att ett flertal forskningsprojekt studerat hur man ska upp- täcka hatbudskap automatiskt så används den typen av tekniker väldigt sparsamt. Detta beror delvis på att det är väldigt svårt att upptäcka hatbudskap och att det är språkberoende, vilket innebär att tekniker som kan upptäcka hatbudskap på tyska eller engelska inte skulle fungera på svenska hatbudskap. Rent tekniskt så lämpar sig datadrivna analyser bäst för att upptäcka hatbudskap, detta efter- som hatbudskap kan se ut på så många olika sätt. Att avgöra om en text innehåller ett hatbudskap är inte trivialt – varken för en människa eller för en maskin. Detta är till stor del be- roende på att vad en person bedömer vara ett hatbudskap är ytterst individuellt, och beror på en mängd olika faktorer som exempelvis kultur, religion och bakgrund. I en studie av m.fl. (2016) fick 56 personer i uppgift att avgöra om ett tweet innehöll ett hatbud- skap. I studien ville man undersöka hur ofta en grupp mänskliga be- dömare hade samma uppfattning om vad som var ett hatbudskap, hur anstötligt budskapet var och huruvida skribenten skulle bli av- stängd. Ena halvan av gruppen fick se en definition av ett hatbud- skap för att få en gemensam grund medan den andra halvan av grup- pen inte fick se definitionen. Ett av målen med studien var att undersöka om personerna som hade sett en definition av hatbud- skap hade mer samstämmighet än den andra gruppen. Detta visade sig stämma men resultaten visade att det ändå rådde väldigt spridda uppfattningar i gruppen om vad som var ett hatbudskap. Endast i av fallen hade personerna samma uppfattning om vad som var ett hatbudskap. Att personerna var så oense om vad som var ett hatbudskap visar på svårigheterna med att bedöma vad som faktiskt är ett hatbudskap, och vikten av att ha en tydlig definition av vad som ska anses vara ett hatbudskap. Eftersom man inte kan förvänta sig att datorn ska prestera bättre än mänskliga bedömare så skulle en sådan annotering inte vara speciellt användbar om man vill använda den till att träna upp en algoritm att känna igen hatbudskap. En slutsats som man kan dra av detta är att man måste vara tydlig i vad det är man vill annotera och vilka regler och förutsättningar det innebär. Experter är i många fall helt oumbärliga eftersom det kan Datorstödda analyser av digitala miljöer och fenomen vara svårt att göra bra bedömningar utan relevant träning och kun- skap inom området. I en studie gjord av , , och (2017) undersökte man hur hatbudskap skiljer sig från allmänt stötande språk. Hatbudskap definierades i studien som språk som används för att utrycka hat mot en grupp eller var syfte är att förnedra, förolämpa eller väcka anstöt hos medlemmar i gruppen. I extrema fall kan detta också inkludera språk som hotar eller hetsar till våldshandlingar. Med stötande språk avsågs språk som inte används i ett sammanhang där syftet inte är att förnedra, förolämpa eller väcka anstöt – men som skulle kunna användas på det sättet i andra sammanhang. Svärord är ett exempel på stötande språk och det är också vanligt förekommande på sociala medier. På Twitter består av vår kom- munikation av svärord. Det är en ganska stor andel – speciellt om man tänker på att av vår kommunikation består av första person pluralis (, , Thirunarayan och Sheth, 2014). Studien visade på goda möjligheter att automatiskt känna igen hatbudskap på engelska. En iakttagelse från studien var att människor i de flesta fall identifierade rasistiska och homofoba uttalanden som hatbudskap medan sexistiska uttalanden i det flesta fall ansågs vara stötande språk. Det verkar alltså, trots svårigheterna med samstämmighet hos personer som annoterar data, vara möjligt att automatiskt känna igen hatbudskap om man bara kan hitta ett bra sätt att annotera data på. Det innebär att man måste sätta upp tydliga kriterier för de personer som ska annotera data så att de har en samsyn i vad ett hatbudskap innebär. Etiska aspekter vid analys av data Det finns en mängd lagliga och etiska aspekter vid analys av data från internet och sociala nätverk. En av de stora frågorna när man analyserar sociala medier är huruvida data ska ses som publik eller privat. Denna fråga är inte helt enkel att besvara – det beror på vil- ken plattform man studerar och vad individen rimligtvis förväntar sig av kommunikationen. Exempelvis kan man argumentera för att data som finns i en privat lösenordskyddad Facebookgrupp kan an- ses vara privat, medan en konversation på Twitter där man använder hashtaggar för att märka sin kommunikation kan anses som publik Datorstödda analyser av digitala miljöer och fenomen (Townsend & , 2016). Något förenklat kan man säga att i öppna forum, som inte kräver inloggning för att kunna ta del av, kan man anta att de personer som väljer att publicera där är införstådda med att texter, bilder och filmer därmed blir tillgänglig för allmän- heten. Om man däremot som användare i stället väljer att publicera material i stängda grupper, meddelandetjänster eller privata Face- book-sidor så har man vidtagit åtgärder för att hålla upplagt material inom en sluten krets. Förutom att man måste förhålla sig till etiska aspekter och huru- vida data kan anses vara publik eller privat måste man också förhålla sig till de regelverk som finns för behandling av personuppgifter och upphovsrätt. Inhämtning av data från sociala medier sker vanligtvis utan upphovsmännens samtycke och den stora mängd skribenter som i det flesta fall är anonyma gör det i princip omöjligt att inhämta samtycke. Att hämta in samtycke skulle dessutom innebära en stor risk eftersom en studie av enbart de individer som samtycker till inhämtning inte är representativ för de grupper eller fenomen som man vill studera. Avslutningsvis kan man säga att när man studerar data från internet och sociala medier är det viktigt att beakta både de juridiska och de etiska aspekterna som sådana studier innebär. Förslag på framtida forskning En stor del av forskningen inom våldsbejakande extremism och digi- tala miljöer baseras på analyser, vanligtvis utförda av en eller ett fåtal personer. Med datorers hjälp kan vi underlätta analys- arbetet och utföra en mängd olika typer av analyser. Syftet med att använda datorstöd i analyser är att stötta människan i analysarbetet – att helt enkelt låta människan göra det människor är bra på att göra och datorer göra det datorer är bra på. För att kunna göra relevanta analyser av olika domäner måste olika vetenskapsområden förenas och datavetare samarbeta med domänexperter, som exempelvis kriminologer, psykologer, socio- loger och terrorforskare. Att arbeta tvärvetenskapligt är en stor ut- maning som kräver att forskare vågar arbeta med metoder som är ligger utanför den egna kompetensen. Nedan presenteras fyra olika områden där det finns kunskapsluckor och där framtida forskning inom området våldsbejakande extremism behövs. Datorstödda analyser av digitala miljöer och fenomen Forskning om våldsbejakande extremistiska budskap som sprids på internet är viktigt för att öka förståelsen för våldsbejakande organisationer och följa deras utveckling. Studier behöver göras på våldsbejakande religiös propaganda i form av propaganda från terrorgruppen , men det är också viktigt att studera våldsbejak- ande radikalnationalistiska grupper. Radikalnationalistiska grupper har funnits länge och har en utbredd närvaro på internet. Trots detta finns det bara ett fåtal studier som beskriver de budskap som radikalnationalistiska grupper sprider, hur de olika grupperna skil- jer sig åt och hur budskapen förändras . Det är av stor vikt att öka kunskapen om hur dessa grupper kommunicerar och hur innehållet i propaganda förändras. Studier behöver göras dels på de internationella radikalnationalistiska miljöerna, men det är också av stor vikt att analysera de svenska miljöerna eftersom detta inte görs i internationell forskning. Studier av våldsbejakande extremistiska budskap i olika miljöer bör göras kontinuerligt så att skiftningar i budskap och kommuni- kation kan identifieras i ett tidigt skede. Genom att analysera budskap som förmedlas av våldsbejakande grupper i detalj går det att bilda sig en uppfattning om hur budskapen är uppbyggda och vilka av mottagarens drifter, fantasier och önskningar de appellerar till. En ökad kunskap om budskapen ökar möjligheterna att ut- veckla en uppsättning av effektiva strategier för bemötande. 2.Analys av mängden hatbudskap och hot Det allt hårdare klimat som vi ser på internet och i sociala medier gör att det blir allt viktigare att automatiskt kunna identifiera hatbudskap och konkreta hot. Vi behöver utveckla tekniker som kan användas i svenska sociala medier, både för att förstå mäng- den av hatbudskap som sprids och vad de innehåller. Som en del av detta bör särskilda tekniker som automatiskt kan identifiera konkreta hot utvecklas eftersom det är av stor vikt att förstå mängden av hot som förekommer men också vilka grupper och individer som blir utsatta för hot. Även om vi kan utveckla algoritmer som kan identifiera hat- budskap är det inte alltid enkelt att ta bort material från internet eftersom det kan vara svår att fastställa vem som är ansvarig. En server som innehåller sidor som med budskap som är riktade mot människor i kan fysiskt stå var som helst i världen. Datorstödda analyser av digitala miljöer och fenomen Att utveckla en förmåga att kunna analysera och förstå inne- hållet och mängden av hatbudskap skulle kunna ge en ökad för- ståelse dels för hur mycket hatbudskap som finns i olika miljöer, dels för vilka individer och organisationer som är föremål för olika former av hatbudskap. Studier behöver göras där man dels utvecklar teknik för att känna igen hatbudskap och hot, dels studerar mängden av hatbudskap och hot i olika digitala miljöer. Förutom att studera mängden av hatbudskap och hot så borde en studie fokusera på vilka personer, roller och organisationer som är mest utsatta. Det är av stor vikt att studier görs i svenska miljöer eftersom den internationella forskningen som finns inte är applicerbar på svenska miljöer. 3.Våldsbejakande aspekter av digital extremistisk propaganda Genom att studera kommunikationen i våldsbejakande extremis- tiska digitala miljöer kan vi också öka vår förståelse för vad som förenar våldsbejakande extremistisk propaganda. Genom att an- vända datorstöd och maskininlärning bör vi undersöka om det går att utveckla teknik som känner igen våldsbejakande propaganda oavsett vilken ideologi som ligger bakom propagandan. Genom att låta datorn analysera stora mängder våldsbejakande extremis- tisk propaganda skulle man kunna studera vilka faktorer som är gemensamma i denna propaganda och vad det är som skiljer de olika grupperna/ideologierna åt. Tidigare studier har fokuserat på att identifiera olika typer av våldsbejakande propaganda från olika ideologier, exempelvis genom att identifiera webbsidor (& 2016) eller twitterkonton (Kaati, , Prucha & Shrestha, 2015) som sprider våldsbejakande propaganda. Däremot har inga studier gjorts där man försökt använda sig av datadriven analys för att identifiera ideologioberoende våldsbejakande inslag i digitala budskap. Att automatiskt kunna identifiera våldsbejakande extremis- tiska budskap skulle innebära att vi kunde få en ökad förståelse för vad det är som utmärker våldsbejakande gruppers budskap, samt att vi skulle kunna studera hur grupper förändras och när extrema grupper blir våldsbejakande. En studie där datorer används för att identifiera våldsbejakande extremistiska budskap och där propaganda från ett flertal olika våldsbejakande miljöer analyseras och jämförs skulle innebära en ökad förståelse för digitala miljöer. I en sådan studie skulle det även vara av intresse Datorstödda analyser av digitala miljöer och fenomen att analysera hur olika digitala miljöer reagerar på händelser i den riktiga världen och jämföra reaktionerna. 4.Digitala personlighetstyper och radikalisering Forskning tyder på att många av de europeiska terrorister som anslutit sig till IS är våldsbejakande nihilister som inte alls drivs av en religiös övertygelse (, 2017) och i den psykologiska forsk- ningen studerar man huruvida vissa personlighetstyper är mer benägna att radikaliseras (Obaidi, 2016). Framtida forskning bör fokusera på möjligheterna att överföra psykologiska teorier om personlighetstyper till digitala miljöer och digitala profiler för att studera vilken roll personlighet har i radikalisering till våldsbejak- ande extremistiska ideologier. En studie av personlighet i digitala miljöer skulle kunna öppna upp för en bättre förståelse för vilka individer som har en större sannolikhet att engagera sig i vålds- bejakande ideologier – något som skulle kunna ses som en viktig del i det förebyggande arbetet. ,T., Warmsley, D., , M., & , I. (2017). Automated Hate Speech Detection and the Problem of Offensive Language, International confernence of weblogs and social media (ICWSM). Dunleavy, P. (2012). The Myth of Self-Radicalization. FOI (2017) Hatbudskap och våldsbejakande extremism i digitala miljöer. FOI --S. Gardiner, B., m.fl. (2016). The dark side of Guardian comments. , P., Corner, E., , A. and , M. (2015). What are the Roles of the Internet in Terrorism? Measuring Online Behaviors of Convicted UK Terrorists, , , P., Horgan, J., & Deckert, P. (2014). Bombing : Tracing the Motivations and Antecedent Behaviors of Lone‐Actor Terrorists, , 59 (2) s. 425–435. Datorstödda analyser av digitala miljöer och fenomen Intelligence and (2014). Report on the Intelligence Relating to the Murder of Fusilier . Kaati, L. (red) (2017). Det digitala kalifatet. En studie av Islamiska statens propaganda. FOI-R--4429--SE. Kaati, L., , E., Prucha, N., & Shrestha, A., (2015). Detecting Multipliers of Jihadism on Twitter, 2015 on (ICDMW) s. 954–960. , M., (2015). Hot och hat mot svenska journalister. Nordicom-information, 37(3–4) s. 51–56. Meleagrou-Hitchens, A. (2011). As American as : How the Face of Western Jihad, King’s College : ICSR. Njagi, D. G., , Z, Hanyurwimfura, D., , L. (2015). A Approach for Hate Speech Detection, 10(4) s. 215–230. Obaidi, M. (2016). The Psychology of Terrorism Revisited: An Integrated Model of Radicalization and Terrorism. EUI PhD theses; , . Pennebaker, J.W., , , , K., & Blackburn, K. (2015). The development and psychometric properties of LIWC2015. , TX: . Pennebaker, J. W., , C. K., , M., , A., & Booth, R. (2014). The development and psychological properties of LIWC2007, , TX, LIWC.Net Pennebaker, J. W., Mehl, M. R., & Niederhoffer, K. (2003) Psychological aspects of natural language use: Our words, our selves. , 54 s. 547–577. , B., Rist, M., Carbonell, G., Cabrera, B, Kurowsky, N., & Wojatzki, M. (2016). Measuring the Reliability of Hate Speech Annotations: The Case of Refugee Crisis. , O. (2017). Jihad and death: the global appeal of . Datorstödda analyser av digitala miljöer och fenomen R., & , R. (2016). Classification of Radical Text on the Web, 2016 European Intelligence and (EISIC), , , 2016, s. 104–107. (2010). Våldsbejakande islamistisk extremism i , . Townsend, L., & , C., (2016). : A Guide to Ethics. , I., , A., , C., & Gribbon, L. (2013). Radicalisation in the Digital Era: The Use of the Internet in 15 Cases of Terrorism and Extremism. (2016). Twitter taught Microsoft’s AI chatbot to be a racist asshole in less than a day. The Verge, . , , , L., Thirunarayan, K., & Sheth, A. (2014). Cursing in english on twitter. In Proceedings of the 17th ACM conference on Computer supported cooperative work & social computing, s. 415–425. (2015). The virtual ’caliphate’: Understanding Islamic State’s Propaganda Strategy. (2017). ICSR Insight: The . Wojcieszak, M. (2010). ’’t talk to me’: effects of ideologically homogeneous online groups and politically dissimilar offline ties on extremism. , 12 (4) s. 637–655. (2015). Picture or it didn’t happen: A snapshot of the Islamic State’s Official Media Output, Perspectives on Terrorism, 9 (4). 14Social nätverksanalys och antagonistiska miljöer Säkerhetspolisen skriver i årsboken , under avsnittet om kontraterrorism: ”Personer som ansluter sig till terroristgrupper i andra länder är ofta oerfarna och har ett begränsat kontaktnät och extremistiskt umgänge. De återvänder med stridserfarenhet, upp- höjd status och ett brett internationellt kontaktnät. I skapas nya kontaktytor med mer dynamiska konstellationer av aktörer som följd. Detta innebär expanderande och mer sammanlänkade nätverk med internationell räckvidd (2016:33).” Citatet illustrerar hur nära till hands det ligger att tala om hotet från våldsbejakande och antagonistiska miljöer i termer av nätverk, och hur delad ideologi, överföring av kunskap och social sammanhållning på samma gång driver förändring av nätverken och bestäms av nätverkens samman- sättning. I citatet ovan används begreppet nätverk med hänvisning till ett slags organisationsform, där sociala nätverk som form ställs i kon- trast till formell organisation som form. Det är alldeles uppenbart att i den mån de alls är organiserade faller de fenomen som behand- las i denna antologi inom ramen för en sådan nätverksform. Men begreppet sociala nätverk kan också användas för att beteckna en analytisk ansats eller metod och det är så jag använder det i detta kapitel. Begreppen är inte uteslutande; det nätverk skriver om låter sig givetvis studeras med en nätverksanalytisk ansats. 1Tack till , och medarbetare i projektet ing och antisociala karriärer för stimulerande diskussioner. Tack till Myndigheten för samhälls- skydd och beredskap för finansiering (MSB, dnr 2016-486). Social nätverksanalys och antagonistiska miljöer senare hälft lades genom samarbeten mellan antropologer, matematiker, sociologer och psykologer grunden till en samhällsvetenskaplig metod kallad nätverksanalys (, 2004). Nätverksanalysen har fått en enorm sprid- ning och är referenspunkt för forskning som sträcker sig långt utanför samhällsvetenskapliga tillämpningar, inte sällan med påtagliga inslag av tvärvetenskap och samarbeten över disciplingränserna (Free- man, 2014). Tidiga karaktäriseringar av brottslighet som antyder ett nätverksanalytiskt perspektiv kan härledas (Carrington, 2014). Det är ingen överdrift att påstå att intresset för att studera brottslighet, brett definierad, och hot mot samhället formligen explo- derat både inom (Knoke, 2015) och utom (Masys, 2014) akademin efter attackerna på . I det här kapitlet ges dels en bakgrund till nätverksanalys som metod, dels en skissartad översikt över delar av den samtida nätverks- analytiska forskning som direkt kan hänföras till forskning om anta- gonistiska miljöer. Varken begreppet våldsbejakande extremism eller antagonism är vanligt förekommande i litteraturen, men det är min bedömning att de forskningsfrågor och resultat som jag diskuterar och som hänför sig till organiserad brottslighet, gängkriminalitet och terrorism har direkt relevans för området. Det ska noga påpekas att kapitlet inte är en systematisk översikt. Texten är att betrakta som en narrativ översikt som baseras på min mångåriga exponering för nät- verksforskning. Ambitionen har varit att ge en överblick genom att peka ut representativa och huvudsakligen empiriska bidrag samt att identifiera några forskningsuppgifter för den närmaste framtiden. Det är på sin plats att notera att både polis och säkerhetstjänst an- vänder såväl underrättelse- som analysmetoder som vilar på nätverks- analytiska fundament (t.ex. Masys, 2014; Shakarian et al., 2015). Dessa metoder är ofta framgångsrika (Knoke, 2013). Det finns all anledning att utgå ifrån att också antagonistiska grupper har ingående nätverksanalytiska kunskaper som styr deras taktiska överväganden. Jag kommer här att fokusera helt på den akademiska litteraturen utan att vidare beröra nätverksanalys såsom den kommer till praktisk och operativ användning inom polis, militär och säkerhetstjänst. Bouchard och Nash (2015) anger tre skäl till varför nätverksanalys kan ge viktiga bidrag till forskningen om terrorism, skäl som även kan utsträckas till att omfatta forskning om våldsbejakande extremism: För det första är sociala band och social påverkan en nyckel för att Social nätverksanalys och antagonistiska miljöer förstå radikaliseringsprocesser (se också Wennerhags kapitel i denna antologi). Nätverksanalysen lämpar sig mycket väl för att studera hur individens relationer till andra påverkar hennes egna preferenser, föreställningar och handlingar och hur hon själv genom sina hand- lingar påverkar andra individer. För det andra är nätverksanalysen ett verktyg för att förutsättningslöst beskriva antagonistiska rörelsers interna organisation, utan några på förhand givna antaganden om organisationens maktfördelning, hierarki, eller arbetsdelning (se ock- så och Rostamis kapitel i denna antologi). För det tredje ger nätverksanalysen handfasta riktlinjer för hur antagonistiska miljöer ska bekämpas, genom att tydligt identifiera nyckelaktörer och viktiga relationer. Ett väl kartlagt nätverk är ett utmärkt underlag för strate- gisk intervention. Utgångspunkten för social nätverksanalys är att alla typer av sociala fenomen kan brytas ner i två fundamentala komponenter; aktörer och relationer (se t.ex. Prell, 2011; Robins, 2015; , 2013 för ut- märkta introduktioner till social nätverksanalys). En social aktör kan definieras på olika ontologiska nivåer. En social aktör kan exempelvis vara en person, en grupp, eller en organisation. En relation kan de- finieras utifrån olika innehåll. Exempelvis kan en relation baseras på känslor, information eller transaktioner. En relation kan ha olika styrka eller intensitet och en relation kan ha en bestämd riktning (tänk obesvarad kärlek). I många fall sammanlänkas två aktörer av fler än en typ av relation. För ett avgränsat socialt system bildar summan av alla sociala aktörer och relationer ett nätverk där social struktur och förändring kan beskrivas utifrån fördelningen av aktörer och relationer . Notera ordet ”avgränsat” i den föregående meningen. Hur det so- ciala systemet definieras är helt avgörande för hur väl en nätverks- analys kan fånga egenskaper i den empiriska verkligheten, detta är det s.k. avgränsningsproblemet. För att nätverksanalysens slutsatser ska hålla måste forskaren observera varje, för det givna systemet, relevant aktör och relation. Till skillnad från studier, där (ofta) upplevelsen hos ett fåtal subjekt utgör analysens kärna, eller studier av statistiskt slumpmässiga urval, där statistiska lagar möjlig- Social nätverksanalys och antagonistiska miljöer gör en generalisering till hela undersökningspopulationen, så är nät- verksanalysen känslig också för kvantitativt små bortfall. Eftersom observationerna i ett nätverk, till skillnad från observationerna i ett slumpmässigt urval, per definition är beroende av varandra kan inte statistikens ”standardmodeller” användas för nätverksanalys. Med social nätverksanalys studeras alltifrån internationella avtal mellan länder och handelsfederationer till konflikter mellan barn i förskolan. I det här kapitlet kommer jag huvudsakligen att förhålla mig till analyser där den sociala aktören är en individ, men studier refereras också där exempelvis gatugäng utgör sociala aktörer i nät- verket. Det finns egentligen inget socialt fenomen som inte kan be- gripliggöras genom en sådan lins, men kanske lämpar sig nätverks- perspektivet särskilt väl för att studera och analysera fenomen som saknar transparenta och formella strukturer, och där specifika aktö- rers relationer och positioner är helt avgörande för att förstå feno- menets karaktär. Det sociala livet utspelar sig till en stor del inom och mellan olika sociala sammanhang som sammanför människor på olika sätt (Feld, 1981), för att de delar ett intresse, för att de har ett gemensamt mål, för att de måste, etc. Ett socialt sammanhang kan vara en grupp vänner, en arbetsplats, en medlemsklubb, ett fängelse, osv.