sou · H8B356 · 2020-09-30 00:00:00 — Även i etablerade demokratier har internet förenklat den sociala mobiliseringen kring olika politiska frågor, t.ex. #metoo-uppropen som har haft en stor betydelse för jämställdhetsarbetet i flera länder, och mobiliseringen i klimatfrågan genom Fridays for future. Desinformation, propaganda och näthat i en digital tid nerna i relation till rörelsen nådde med sociala medier snabbt global spridning . Digitaliseringen har på detta sätt stärkt sociala rörelser och gjort det svårare för makthavare att kontrollera informationsflödet. har digital teknik för övervakning och repression utvecklats i mycket snabb takt. Allt fler länder övervakar och begränsar den digitala kommunikationen. Enligt den amerikanska tankesmedjan har friheten på nätet varit på tillbakagång som demokratin globalt sett försvagats (2018; 2019). Det är framför allt som leder utvecklingen och användningen av teknik för att skapa ett reglerat inhemskt internet och för att censurera och övervaka nätet. Liknande tendenser finns i flera länder, såsom och , men även i demokratiskt utvecklade länder sker en övervakning av internet, i synnerhet i . Utvecklingen av artificiell intelligens har också öppnat upp för nya möjligheter för övervakning (a.a.). Hur friheten och öppenheten på internet utvecklar sig kommer att få avgörande betydelse för demokratins utveckling framöver. 3.2.2Den digitala tekniken som ett redskap för demokratins motståndare Den digitala tekniken har gjort det enklare för enskilda och olika medborgerliga sammanslutningar att sprida budskap, påverka, mobilisera och organisera människor. Men tekniken har också underlättat för grupperingar som ifrågasätter demokratins grundläggande idéer. Individer med radikala och odemokratiska idéer kan sluta sig samman och agera gemensamt även om de är geografiskt utspridda. Denna utveckling har lett till att extremistiska politiska och religiösa idéer och rörelser har kunnat få stort genomslag. En arena har öppnats där våldsbejakande grupper kan sprida hat och propaganda, rekrytera och radikalisera andra liksom inspirera eller uppmuntra till våldshandlingar. Flera terrordåd har begåtts av individer som inspirerats av skrivna eller filmade budskap som spridits över nätet. Det gäller terrordåd med islamistiska såväl som rasistiska och vit- makt-motiv. Den islamiska staten, Daesh, har visat sig ha förmåga att professionellt och effektivt använda sociala medier, vilket fått bety- Desinformation, propaganda och näthat i en digital tid delse för rekryteringen av unga individer som rest för att strida i framför allt och (Askanius 2017; Ranstorp m.fl. 2017). Vidare har det blivit lättare för enskilda och organisationer att sprida konspirativ och vilseledande information om evidensbelagda fakta. Detta har försvårat för samhället att hantera flera komplexa och allvarliga utmaningar där det finns behov av expertkunskap. Organisationer, företag och stater har verkat för att sprida felaktig information om klimatförändringarna (Oreskes, 2010; m.fl. 2020). Därutöver sprids vilseledande information om komplementär och alternativ medicin och vårdbehandlingar över sociala medier och internet (SOU 2019:15). Desinformation som sprids om vacciners påstådda skadliga bieffekter har i vissa länder fått allvarliga konsekvenser för folkhälsan. Under coronapandemin spreds desinformation om virusets ursprung och om olika behandlingsmetoder av såväl enskilda, organisationer som stater (se avsnitt 4.3.1). 3.2.3Statliga aktörer som sprider desinformation och propaganda Digitaliseringen har också förenklat för främmande makt att dolt agera för att påverka opinioner i andra länder. Flera rapporter visar att har bedrivit påverkanskampanjer med avsikt att förändra bilden av sitt eget agerande i utlandet t.ex. i samband med konflikten i , i östra och under invasionen av (MSB 2016). har också agerat för att påverka demokratin och det demokratiska samtalet i andra länder genom att exempelvis använda nyhetsmedier som Today och Sputnik (Colliver m.fl. 2018). Den enhet under EU:s utrikestjänst som arbetar med att uppmärksamma desinformation, East StratCom Task Force, noterade över 9 000 fall som kan kopplas till rysk desinformation (EUvsDesinfo 2020). Enligt den s.k. om rysk inblandning i de amerikanska valen 2016 försökte påverka presidentvalet genom bl.a. dataintrång hos myndigheter och genom att sprida desinformation till medborgare via sociala medier (U.S. Informationspåverkan syftade till att understödja kandidatur och försvaga . Liknande försök till valpåverkan har skett i ett flertal andra länder såsom i , och liksom mot Europaparla- Desinformation, propaganda och näthat i en digital tid Det sker även påverkansförsök med syftet att ifrågasätta EU:s demokratiska legitimitet (Wardle, Derakhshan ; EU- kommissionen 2019c). Vidare ska den ryska staten ha använt sig av s.k. trollfabriker, däribland , som engagerat ett hundratal personer för att under falska identiteter delta i diskussioner på sociala medier och skriva och posta inlägg i syfte att påverka opinionen. I samband med det amerikanska presidentvalet arrangerades t.ex. demonstrationer och påhittade aktionsgrupper bildades. Även om dessa påverkansaktiviteters inverkan på valutgången inte har kunnat bekräftas var de designade för att bidra till att skapa motsättningar i samhället och försvaga förtroendet för demokratins institutioner (Dawson, 2019; U.S. Den kinesiska regimen har också aktivt verkat för att påverka opinionen om i utlandet genom att t.ex. falska konton skickar inlägg som hyllar den kinesiska staten och det kinesiska (2017). Även den amerikanska presidentadministrationen har spridit vilseledande nyheter som riktats mot en opinion i , genom att bl.a. ge sitt stöd till alternativa medier såsom (Hope not hate 2017; Colliver m.fl. 2018). 3.2.4Plattformsföretagens makt över det demokratiska samtalet har digitaliseringen förändrats från att i huvudsak vara en fråga om en kommunikation som sker över digitala nätverk och över internet till att ske på plattformar, dvs. en teknisk infrastruktur som ägs och kontrolleras av en aktör. Plattformarna har förenklat utvecklingen av program och tjänster, men också gjort den digitala miljön mer kommersialiserad. Några plattformsföretag kontrollerar både säljkanaler, som App Store och Google Play, och säljer riktade annonser genom att ta del av den användardata som genereras på plattformarna. Ett antal plattformsföretag har fått en mycket dominerande ställning. Det gäller främst , Amazon, Facebook, Alphabet (Google) och Microsoft. I dominerar inhemska plattformsföretag såsom Baidu, Alibaba och Tencent. De sociala plattformarna har haft stor betydelse för människors och institutioners agerande och en rad samhällsfunktioner har blivit beroende av dessa företag. Desinformation, propaganda och näthat i en digital tid Detta innebär att viktiga delar av samhället, och framför allt de arenor där en stor del av de demokratiska samtalen sker, kontrolleras av internationella aktörer som i huvudsak inte faller under svensk rätt. Mängden av information som sprids över sociala plattformar har blivit mycket omfattande. För att hjälpa användarna att orientera sig i informationsflödet har plattformsföretagen utvecklat algoritmer som organiserar innehållet så att aktuell och intressant information hamnar i blickfånget. Denna s.k. innehållsmoderering har delvis utvecklats som ett resultat av att informationsflödet växer, men den har också formats utifrån plattformsföretagens olika affärsmodeller. Flera företag samlar in användardata för att kunna sälja riktade annonser. Det gäller i synnerhet Alphabet och Facebook. Med tillgång till användardata, såsom sökhistorik och uppgifter om användarnas preferenser, kan företagen exempelvis utforma personanpassad reklam. Användardata blir därmed en resurs och för att få tillgång till mer data har företagen ett intresse av att förmå användare att tillbringa på plattformarna och att lämna digitala spår såsom besökshistorik, platsdata och preferenser. De affärsmodeller som företagen använder har bl.a. benämnts som uppmärksamhetsekonomin, övervakningsekonomin eller övervakningskapitalism (Zuboff 2019). Plattformarnas innehållsmoderering kan underlätta för användarna att sortera bland innehållet. har den stor betydelse för hur det demokratiska samtalet förs på nätet eftersom plattformarnas algoritmer modererar samtal genom att med automatik selektera vad som hamnar i blickfånget. Plattformsföretagen har därmed makt över vilka nyheter, åsikter och bilder som får mest uppmärksamhet och som därigenom når ut och påverkar (, 2019; 2020). Dessutom visar studier att vissa sociala plattformar har en radikaliserande tendens. För att stimulera till ett ökat engagemang på plattformar har algoritmer utformats som bl.a. premierar värdeladdade och uppseendeväckande inlägg (Tufekci 2017; 2018). Sensationella och extrema politiska budskap har generellt sett större sannolikhet att få spridning eftersom de genererar aktivitet. Det kan bidra till att Desinformation, propaganda och näthat i en digital tid konspiratorisk och vilseledande information får uppmärksamhet eftersom den oftast är mer sensationell. Detta kan också bidra till en åsiktspolarisering. Plattformarna skapar en ensidig och fragmenterad informationsmiljö De algoritmer som plattformsföretagen utvecklat fungerar som publicistiska filter som gör att användare får ta del av ett innehåll som stämmer överens med den egna sökhistoriken och preferenser på nätet. Flödena i sociala medier blir därigenom individuellt anpassade (, 2019). Digitaliseringen har dessutom på nya sätt gjort det möjligt för var och en att selektivt ta del av eller undvika vissa nyheter. Enskilda individer tenderar vidare att över nätet kommunicera med likasinnade och ta till sig information från personer som de identifierar sig med. Därmed blir den information vi exponeras för ensidig som kommunikationen på nätet blir fragmenterad. På så sätt kan s.k. filterbubblor eller ekokammare uppstå där en viss typ av världsuppfattning blir dominerande, förstärks och får stå oemotsagd (Sunstein 2017). Dessa bubblor kan utnyttjas av aktörer som vill sprida desinformation och fördjupa motsättningar mellan olika samhällsgrupper. har förekomsten av sådana filterbubblor nyanserats. Forskning visar att uppfattningen om att vi är benägna att söka information som bekräftar våra egna ideologiska ställningstaganden är överdriven bl.a. eftersom vi inte enbart får en selektiv exponering av information över internet (2019). Polariseringen och det tilltagande näthatet är också en utveckling som drivits fram av andra faktorer än den digitala mediemiljön, t.ex. av etablerade tidnings- och etermedier, värderingsförändringar och ökade ekonomiska klyftor. Påverkan, personlig integritet och övervakning Även om användardata huvudsakligen används för kommersiell reklam har plattformsföretagen också tillåtit politiska aktörer att bedriva politisk påverkan över sociala plattformar. Den digitala tekniken har därför blivit viktigare i politiska kampanjer och undersökningar har visat att det är möjligt att påverka människors valhandling genom att skicka personanpassade budskap (Hosanagar 2019). Desinformation, propaganda och näthat i en digital tid kanska presidentvalet och inför Brexitomröstningen kunde företaget få tillgång till data från 87 miljoner Facebookanvändare. Genom ett systematiskt arbete med att analysera denna data kunde företaget skräddarsy politiska budskap, vilket kan ha påverkat valutgången (, Frenkel 2018). Med utvecklingen av ny teknik såsom artificiell intelligens, ansiktsigenkänning, biometrisk teknologi och uppkopplade saker (Internet of Things) har möjligheterna att samla in personliga data vidgats. Dessa olika tekniska system kan användas i flera samhällsnyttiga funktioner, men de ger också de aktörer som utvecklar och tillgängliggör dem tillgång till stora mängder data. har plattformsföretagen tillgång till en betydande mängd data om enskilda individers beteende, umgänge, preferenser, intressen, politiska åsikter och erfarenheter. Det är en resurs som kan användas för mer eller mindre illvilliga syften (Zuboff 2019). Det kan röra sig om företag som utformar personanpassade produkter eller som önskar att selektera kunder, såsom försäkringsbolag. Den kan också användas för beslutsunderlag i vårdsituationer, i stadsplanering eller för finansiella prognoser. Automatiserade system kan underlätta många resurskrävande processer, men kan också ge upphov till frågor om ansvar och etik i beslutsfattandet. Sådana system har också visat sig reproducera och förstärka diskriminerande tendenser i samhället, vilket bl.a. drabbat kvinnor och minoritetsgrupper (2020). Digitaliseringen har vidare skapat nya möjligheter till övervakning och väcker därmed frågor om personlig integritet. Den amerikanska underrättelsetjänsten har exempelvis byggt upp ett storskaligt övervakningssystem som i första hand syftar till att motverka terrorism, men som också använts för andra syften (Poitras m.fl. 2013). Även andra länder har byggt ut sin kapacitet för övervakning. I har exempelvis ett socialt poängsystem utvecklas, vilket har gjort det möjligt för den kinesiska staten att kontrollera och manipulera beteenden på individnivå. Med en ökad mängd användardata tillsammans med utvecklingen av artificiell intelligens kan dessutom desinformation och propaganda utformas utifrån enskilda individers psykologiska profiler. När opinioner i allt större uträckning uttrycks i en digital miljö blir också det enskilda åsiktsuttrycket i allt större utsträckning påverkat av de preferenser som tekniken förmedlar till oss (Bartlett 2018). Desinformation, propaganda och näthat i en digital tid Det är en utveckling som i grunden kan förändra förutsättningarna för den fria åsiktsbildningen och därmed demokratin i sin helhet. 3.2.5De etablerade nyhetsmedierna har försvagats Med internet och sociala medier har de etablerade nyhetsmediernas roll som mellanhand mellan medborgaren och olika samhällsfrågor förändrats. Allt fler tar del av nyheter direkt genom sociala medier eller genom olika alternativa medier på nätet. Denna utveckling har i någon mån demokratiserat journalistiken och opinionsbildningen. Enskilda medborgare kan få tillgång till information från flera olika källor och fler har getts möjlighet att uttrycka sina åsikter. Med kommentarsfält kan läsare interagera med nyhetsmedierna. har det skapats en situation där nyheter och information kan förmedlas utan ett publicistiskt ansvar. På nätet och i sociala medier kan falska påståenden och hatiska kommentarer spridas och stå oemotsagda på ett sätt som inte tidigare var möjligt. Mottagarna av informationen får ett större ansvar för att på egen hand bedöma dess trovärdighet. Det är vidare färre som betalar för journalistik som etablerade nyhetsmedier förlorat annonsintäkter till olika plattformsföretag. Nyhetsmedierna har hittat nya finansieringsvägar bl.a. genom betalväggar, men de har inte kompenserat intäktstappet. Dessutom har de därigenom stängt ute en hel del läsare som inte tar del av någon kvalitetsjournalistik alls. Vissa nyhetsmedier har också börjat samarbeta med plattformsföretag som tidningar har utvecklat nya tjänster såsom poddar och filmat material. Sammantaget har detta påverkat mediebranschen i såväl , som i (Rapacioli 2020). Dessutom har förtroendet för nyhetsmedierna försvagats och polariserats i flera länder, bl.a. genom att de angrips av olika politiska aktörer och att nyhetsförmedlingen utmålas för att vara politiskt vinklad. Detta har begränsat de etablerade nyhetsmediernas möjligheter att bemöta falsk information. Utvecklingen med en polariserad tillit kan förklaras av flera olika faktorer, där digitaliseringen är en delförklaring vid sidan av bl.a. vidgade sociala klyftor och värderingsförändringar. Därutöver kan vilseledande nyheter paketeras i ett format som gör att de efterliknar etablerade nyhetsmedier och trovärdiga avsän- Desinformation, propaganda och näthat i en digital tid dare (Wardle, Derakhshan ). I detta sammanhang har begrepp som ”fake news”, alternativa fakta och ”post-sanningssamhället” uppkommit. Begreppen fick särskild aktualitet under den amerikanska presidentvalskampanjen då det förekom omfattande angrepp mot etablerade nyhetsmedier som flera webbforum, s.k. alternativa medier, fick större utrymme. 3.2.6Digitaliseringen och kognitiva sårbarheter Digitaliseringen har förändrat många människors vardagsliv. Personer i åldern i tillbringar i genomsnitt på internet (2019). Digitala medier kan stimulera lärande och kreativitet och skapa möten mellan människor som annars inte skulle träffas, men en omfattande användning av digitala medier kan enligt vissa studier också bidra till psykisk ohälsa. Genom dess benägenhet att fånga vår uppmärksamhet kan sociala medier skapa ett beroende, vilket kan leda till oro och försämrad koncentrationsförmåga (Nutley ). Enskilda människors beroende av digitala medier har också gett påverkansaktörer möjligheter att nå fram till människors känsloliv och därmed kan de utnyttja olika kognitiva sårbarheter och trigga psykiska reaktioner, såsom rädsla och oro. Forskning visar vidare att sociala medier har en tendens att förstärka vissa psykosociala mekanismer som exempelvis behoven av grupptillhörighet, identitet och bekräftelse. Drivkrafter som kan kopplas till behoven av att tillhöra en grupp och att få bekräftelse för sin identitet har stor betydelse för vad som får uppmärksamhet på internet, vad som gillas, kommenteras på och vad som sprids vidare. Det finns också forskning som visar att dessa bekräftelsebehov kan skapa kognitiv skevhet, det vill säga att enskilda tar till sig fakta och drar slutsatser utifrån vem de är och vem de identifierar sig med. Denna psykologiska drivkraft kan ge upphov till en s.k. bekräftelsebias, vilket innebär att var och en anpassar sin förståelse av världen så att den inte avviker från åsikter och värderingar som är betydelsefulla för ens egen identitet (). Denna bekräftelsebias ger oss ett slags kognitivt filter, vilket gör att vi lätt påverkas av politiker, debattörer och andra personer som vi identifierar oss med och litar på. Åsikter blir identitetsmarkörer, Desinformation, propaganda och näthat i en digital tid och det förstärker tendensen att söka och acceptera information som överensstämmer med våra förutfattade meningar. Ett s.k. politiskt motiverat tänkande uppstår, vilket innebär att vi agerar för att försvara våra egna övertygelser snarare än för att söka efter evidensbaserade fakta. Dessutom tenderar vi att ha tillit till olika källor utifrån från våra övertygelser. När tilltron till olika nyhetskällor blir polariserad kan en oenighet i faktafrågor uppstå som inte enkelt kan överbryggas med hjälp av ytterligare information. Meningsskiljaktigheter kan då bli så svåra och djupgående att verklig diskussion och debatt är möjlig (Wikforss 2017; 2020). Dessa mekanismer är aktiva i olika sammanhang, men internet tenderar att förstärka dem eftersom enskilda enkelt och snabbt kan välja information som bekräftar deras ståndpunkter och också tenderar att främst utbyta information med människor som de själv identifierar sig med. På nätet är det dessutom enklare för aktörer att utnyttja dessa kognitiva sårbarheter i syfte att påverka opinioner, skapa splittring eller destabilisera demokratin. 3.2.7Mängden av information har mångfaldigats har mängden av information som produceras och sprids mångfaldigats. konstaterades det att av all data som producerats under mänsklighetens historia hade tillkommit under ett fåtal år (2014). Det stora informationsflöde som vi exponeras för gör det mer krävande för enskilda att värdera om viss information är korrekt eller inte. Det kan också vara svårt att identifiera vem som är avsändare av informationen eftersom den vidareförmedlas och kommenteras av ett stort antal aktörer. Från att tidigare i huvudsak ha varit mottagare av information är vinumera också delaktiga i att sprida den genom vår aktivitet på olika digitala medieplattformar. Det gör att olika budskap kan få ett brett genomslag om ett antal individer avsiktligt eller oavsiktligt sprider dem vidare. Information med vilseledande budskap kan spridas utan någon kostnad och nå ut till ett stort antal mottagare. Dessutom blir det möjligt för den som sprider desinformation att undvika att bli upptäckt och att förmå enskilda användare att omedvetet sprida felaktig information vidare. På så sätt kan det som börjar som desinfor- Desinformation, propaganda och näthat i en digital tid mation, alltså avsiktlig spridning, längs vägen ofta leda till det som på engelska benämns misinformation dvs. oavsiktlig spridning av falsk information (Wardle, Derakhshan ; First Draft 2019). 3.3Hur fungerar desinformation och propaganda? 3.3.1Vad är desinformation och propaganda? Som redogörs för i avsnitt 1.4.4. är desinformation och propaganda två metoder för informationspåverkan. De metoder som används för att sprida desinformation och propaganda skiljer sig ofta inte från de tillvägagångssätt som legitimt används i annan publik kommunikation, såsom politiska kampanjer, opinionsbildning eller reklam. Desinformation och propaganda sker därmed ofta inom yttrandefrihetens legala gränser. Skillnaden är att desinformation och propaganda har ett illvilligt syfte, såsom att underminera och störa det demokratiska samtalet (MSB 2019; Giandomenico, Linderståhl 2020). Det handlar om ett medvetet agerande för att vilseleda och påverka en informationsmiljö, ofta med dolda och oetiska metoder som t.ex. bottar, dvs. datorprogram som automatiskt delar eller sprider viss typ av information, eller falska konton. Den som bedriver desinformation och propaganda kan även avsiktligen göra det svårt att skilja mellan otillbörlig och legitim påverkan. Det är mot den bakgrunden ofta svårt att skilja mellan vad som är en del av en polariserad och het debatt och vad som är en del av eller en direkt följd av otillbörlig informationspåverkan. En intensiv samhällsdebatt kan rymma såväl meningsutbyten med högt tonläge och skilda världsbilder som utsagor som innefattar desinformation och tillvägagångssätt som utgör propaganda. Inom samhällsfrågor med starka spänningar finns en rad olika ståndpunkter och bedömningar av sakernas tillstånd som ryms inom ramen för en fri åsiktsbildning. förekommer desinformation och propaganda just i relation till sådana polariserade frågor och i samband med starka påfrestningar på samhället. Infekterade samhällsdebatter och faktapolarisering utgör därför de typer av sårbarheter som illvilliga stater och andra aktörer försöker utnyttjar för att sprida desinformation och propaganda (se t.ex. MSB 2019; Wikforss 2020). Desinformation, propaganda och näthat i en digital tid 3.3.2Syftet med desinformation och propaganda Ett sätt att beskriva olika avsikter med informationspåverkan är det som kallas strategiska narrativ, dvs. berättelser som konstrueras och kommuniceras i syfte att uppnå ett visst mål. I sin rapport möta informationspåverkan listar Myndigheten för samhällsskydd och beredskap tre huvudsakliga typer av strategiska narrativ (MSB 2019). •Positivt eller konstruktivt: Försöker konstruera en sammanhängande berättelse om en viss fråga som passar in i, kompletterar eller utvecklar befintliga narrativ. •Negativt eller nedbrytande: Försöker förhindra uppkomsten av sammanhängande narrativ eller underminera befintliga narrativ i en fråga. •Undvikande: Försöker avleda uppmärksamhet från en viss fråga eller ett visst argument genom att distrahera samtalet. I den uppdelning som görs ovan avser positiv eller konstruktiv och negativ eller nedbrytande inte en värdering av om narrativen är onda eller goda. De avser inte heller om berättandet syftar till att förmedla en positiv eller negativ bild av något eller några, utan enbart huruvida det strategiska målet är att konstruera eller bryta ned befintliga narrativ.