sou · H9B376 · 2021-10-04 00:00:00 — Värdtjänstleverantören är inte bunden av anmälan utan gör en självständig bedömning av om innehållet strider mot företagets användarvillkor och därmed bör tas bort. Förfarandet leder till att en stor mängd material avlägsnas från internet på frivillig väg. Från starten hade EU IRU identifierat och anmält över 42 000 fall av publicerat material till värdtjänstleverantörer på mer än 80 olika plattformar. granskade EU IRU 16 763 publicerat material.13 I genomsnitt avlägsnas av det material som EU IRU identifierar som oförenligt med värdtjänstleverantörers användarvillkor.14 Här kan också nämnas att värdtjänstleverantörer i mycket stor utsträckning på eget initiativ tar bort innehåll från internet som de anser strider mot företagets användarvillkor.15 För svenskt vidkommande har det under utredningens arbete framkommit att varken Säkerhetspolisen eller informerar EU IRU om innehåll som respektive myndighet påträffar på internet. Säkerhetspolisen och har förklarat att innehåll som påträffas på internet och som kan antas vara olagligt främst tas 12www.europol.europa.eu/about-europol/eu-internet-referal-unit-eu-iru (hämtad ). 13Europol Consolidated Annual Activity Report 2020, CAAR 2020, s. 25. 14www.europol.europa.eu/about-europol/eu-internet-referal-unit-eu-iru (hämtad ). 15Se till exempel rapporten från Facebook; Community standards enforcement report facebook#CONTENT_ACTIONED (hämtad ). om hand i den brottsutredande verksamheten eller som kunskapsunderlag i underrättelseverksamheten. I kontakt med andra medlemsstater har utredningen erfarit att andra medlemsstater, däribland och , samarbetar med EU IRU och har därtill inrättat nationella Internet Referral Units. har inte någon nationell Internet Referral Unit. Ytterligare ett initiativ som lades fram i Europeiska säkerhetsagendan och som inrättades är (). EUIF skapades för att motverka terroristgruppers missbruk av internet och utveckla ett samarbete mellan EU:s medlemsstater och tech-industrin för att gemensamt arbeta mot terrorism och våldsbejakande extremistiskt innehåll på internet. Flera av de största aktörerna på internet deltar i EUIF, bland annat Facebook, Microsoft, Twitter och YouTube. Inom ramen för det arbetet har aktörerna från tech-branschen skapat en gemensam databas (”database for hashes”) för att säkerställa att innehåll som avlägsnats förblir permanent och oåterkalleligt borttaget från internet. Aktörerna har samlat in och lagrar nu över 200 000 olika bilder, videos med mera i databasen.16 EUIF deltar även i arbetet med den unionslagstiftning som rör digitala tjänster och olagligt innehåll på internet och bistår medlemsstaterna i arbetet med genomförandet av TCO-förordningen. 3.3.3The Call for Action I samband med terroristattentatet mot två moskéer i , , 2019, mördades 51 personer och 50 personer skadades. Terrorattentatet livesändes av gärningsmannen och filmen blev snabbt viral. Innan den initiala filmen kunde tas bort hade den setts över 4 000 gånger.17 Händelsen tydliggjorde hur snabbt terrorisminnehåll, i det här fallet ett pågående terrorattentat, kan spridas på internet. På initiativ av premiärministern i och president, grundades efter attentatet the Christchruch Call for Action, en frivillig sammanslutning av stater, organisationer och tech-företag 16https://ec.europa.eu/commission/presscorner/detail/en/IP_19_6009 (hämtad ). 17www.christchurchcall.com/ (hämtad ). som arbetar mot förekomsten av terrorisminnehåll och våldsbejakande extremistiskt innehåll på internet. Många länder och flera stora plattformsföretag har anslutit sig, däribland . Som en följd av Christchurch-initiativet antog EU inom ramen för , EU Crisis Protocol (på svenska EU:s krisprotokoll rörande gemensamma åtgärder mot viral spridning online av terrorism- och våldsbejakande extremistiskt innehåll, EU:s krisprotokoll). EU:s krisprotokoll är ett frivilligt samarbete inom EU som har till syfte att hindra och motverka viral spridning av terrorisminnehåll och våldsbejakande extremistiskt innehåll på internet i samband med en nära förestående, pågående eller inträffad terrorattack. Verktygen i krisprotokollet ska underlätta ett snabbt, gemensamt och gränsöverskridande samarbete mellan anslutna medlemsstater. Europol fungerar som koordinator för krisprotokollet. Europol tillsammans med Europeiska kommissionen leder arbetet med att utveckla rutiner och arbetssätt för tillämpning av protokollet.18 Det åligger de stater som deltar i samarbetet att utse en kontaktpunkt för samarbetet. är en av de stater som deltar i samarbetet och är nationell kontaktpunkt.19 Uppdraget hanteras inom befintliga ekonomiska ramar. Vid utgör Single point of operational contact vid Nationella operativa avdelningen (SPOC ) och vakthavande befäl vid (VB ) en larmfunktion som tar emot inkommande information som kan initiera EU:s krisprotokoll. Larmfunktionen har beredskap att ta emot information och material dygnet runt. När SPOC tar emot information gör VB en inledande bedömning av om materialet kräver omedelbara operativa polisiära åtgärder avseende ordning och säkerhet. Materialet lämnas sedan vidare till funktioner inom för bedömning av om krisprotokollet ska aktiveras. bedömning är då, enligt myndigheten, beroende av samverkan med Säkerhetspolisen. Beslut om att aktivera EU:s 18https://ec.europa.eu/commission/presscorner/detail/en/ip_19_6009 och Meddelande från Kommissionen till , , rådet, Europeiska ekonomiska och sociala kommittén samt : En agenda för terrorismbekämpning för EU: förutse, förhindra, skydda, reagera. COM (2020)795 final , s. 7. 19Regleringsbrev för avseende , ändringsbeslut , Ju2020/02353/PO och Ju2020/02336/LP(delvis). krisprotokoll fattas normalt av chefen för eller, om ett beslut krävs utanför kontorstid, av polischef i beredskap. hade ännu inte tillämpat EU:s krisprotokoll vid något tillfälle.20 I EU:s agenda för terrorismbekämpning framgår att området förhindra innebär att unionen ska arbeta för att motverka spridning av extremistiska ideologier på internet bland annat genom antagandet av TCO-förordningen och en rättsakt om en inre marknad för digitala tjänster, den så kallade Act.21 med agendan lade Europeiska kommissionen också fram ett förslag till en ny förordning, Förslag till och rådets förordning om en inre marknad för digitala tjänster (rättsakten om digitala tjänster) och om ändring av direktiv /31/EG, COM(2020) 825 final av (Act [DSA]). DSA är tänkt att utgöra ett ramverk för gränsöverskridande digitala tjänster. Förordningen har till syfte att möta den utveckling av nya affärsmodeller och tjänster, såsom sociala nätverk och marknadsplatser online, som skett i tiden efter införandet av direktivet om elektronisk handel. För leverantörer av förmedlingstjänster kommer förordningen att innebära att leverantörerna måste uppfylla vissa krav på tillbörlig aktsamhet gentemot tjänstemottagaren (användaren), i vilken grad är beroende av verksamhetens omfattning. Leverantörerna ska bland annat vidta åtgärder mot olagligt innehåll, utse eller inrätta en kontaktpunkt för direkt kommunikation med medlemsstaternas behöriga myndigheter, utse rättsliga företrädare, upprätta transparensrapporter och inrätta anmälnings- och åtgärdsmekanismer (se exempelvis artikel 10, 11, 13–14 och 17). Förordningen uppställer särskilda skyldighet för de leverantörer av förmedlingstjänster som har 45 miljoner eller fler aktiva tjänstemottagare inom unionen (avsnitt 4). 20Polismyndigheten, Organisation av uppdrag som nationell kontaktpunkt för EU:s krisprotokoll, . 21Meddelande från Kommissionen till , , rådet, Europeiska ekonomiska och sociala kommittén samt : En agenda för terrorismbekämpning för EU: förutse, förhindra, skydda, reagera. COM (2020)795 final av , s. 6–7. aktörer kommer därtill behöva utföra riskbedömningar av verksamheten, genomföra en årlig oberoende revision med mera. När begreppet olagligt innehåll används i förslaget till DSA avses information som i sig eller genom att den hänvisar till en verksamhet, däribland försäljning av produkter eller tillhandahållande av tjänster, inte är förenlig med unionsrätten eller lagstiftningen i en medlemsstat, oavsett denna lagstiftnings exakta sakinnehåll eller art (artikel 2 (g)). Definitionen i förordningen innebär att bedömningen av om visst innehåll är olagligt sker med stöd av nationell eller unionsrättslig lagstiftning, till exempel med stöd av TCO-förordningen. Förordningsförslaget innefattar även skyldigheter för medlemsstaterna. Varje medlemsstat ska utse en behörig myndighet och en digital samordnare för att samarbeta med övriga medlemsstater och för att övervaka att de leverantörer av förmedlingstjänster som är etablerade, eller vars rättsliga företrädare är etablerad eller bosatt i medlemsstaten, följer de förpliktelser som framgår av förordningen (artikel 38). En medlemsstat kan rikta föreläggande mot en leverantör om att vidta åtgärder mot olagligt innehåll eller ett föreläggande om tillhandahållande av information om en eller flera tjänstemottagare (artikel 8 och 9). DSA är inte avsedd att påverka tillämpningen av TCO-förord- ningen. TCO-förordningen kommer att utgöra en speciallag i förhållande till DSA som ska vara ett generellt och övergripande ramverk för digitala tjänster (artikel 1.5). Det pågår även arbete inom EU med att ta fram en särskild förordning som ska förhindra spridning av sexuellt övergreppsmaterial på internet. I det förslag som läggs fram kommer det troligen att finnas vissa likheter med TCO-förordningen. Ingen av dessa rättsakter har ännu antagits i EU. Det är därför sannolikt att de slutgiltiga versionerna inte till fullo överensstämmer med den redogörelse som gjorts ovan. 4Uppdraget som behörig myndighet och rådets förordning (EU) 2021/784 av om åtgärder mot spridning av terrorisminnehåll online (TCO-förordningen) innehåller regler för att åtgärda missbruk av värdtjänster för spridning av terrorisminnehåll till allmänheten (artikel 1). Förordningens övergripande syfte så som det kommer till uttryck i första skälet är att säkerställa att den digitala inre marknaden fungerar smidigt i ett öppet och demokratiskt samhälle genom att motverka att värdtjänster missbrukas för terrorismändamål och att bidra till den allmänna säkerheten i hela unionen. Den digitala inre marknadens funktion bör förbättras genom en ökad rättssäkerhet för värdtjänstleverantörer och stärkt förtroende för onlinemiljön hos användarna, samt genom ett förbättrat skydd för yttrandefriheten, inbegripet friheten att ta emot och sprida information och idéer i ett öppet och demokratiskt samhälle och mediernas frihet och mångfald. Förordningen antogs av och rådet och ska tillämpas i alla medlemsstater . Senast , , ska underrätta Europeiska kommissionen vilken myndighet som utsetts till behörig myndighet i . Den fortsatta framställningen i detta avsnitt avser att sammanfatta innehållet i förordningen och vad det innebär att utses till behörig myndighet. Uppdraget som behörig myndiget Förordningen innehåller en möjlighet för behöriga myndigheter i medlemsstaterna att utfärda en avlägsnandeorder mot värdtjänstleverantörer och att granska gränsöverskridande avlägsnandeorder. En avlägsnandeorder är ett rättsligt bindande verktyg för att snabbt avlägsna eller göra innehåll på internet som bedöms utgöra terrorisminnehåll oåtkomligt i hela unionen. Innehåll som omfattas av en avlägsnandeorder ska normalt tas bort eller göras oåtkomligt av värdtjänstleverantören från det att leverantören tog emot ordern. En gränsöverskridande order är en order som utfärdats av en annan medlemsstat än den där värdtjänstleverantören har sitt huvudsakliga verksamhetsställe eller där dess rättsliga företrädare är bosatt eller etablerad. En gränsöverskridande order kan granskas, på begäran av en värdtjänst- eller innehållsleverantör eller på eget initiativ, av den behöriga myndigheten i den medlemsstat där den berörda värdtjänstleverantören har sitt huvudsakliga verksamhetsställe eller där dess rättsliga företrädare är bosatt eller etablerad. En sådan granskning innebär en prövning av om avlägsnandeordern på ett allvarligt eller uppenbart sätt är oförenlig med förordningen eller de grundläggande rättigheter och friheter som garanteras i Europeiska unionens stadga om de grundläggande rättigheterna (stadgan). En värdtjänstleverantör som inte efterlever en avlägsnandeorder kan påföras sanktioner. Det åligger varje medlemsstat att fastställa nationella regler om sanktioner mot värdtjänstleverantörers överträdelser av vissa uppräknade bestämmelser i förordningen och att vidta alla åtgärder som krävs för att säkerställa att de tillämpas. En värdtjänstleverantör kan anses exponerad för terrorisminnehåll om den till exempel mottagit två eller fler avlägsnandeorder . Förordningen innehåller då ett krav på att en värdtjänstleverantör som bedöms vara exponerade för terrorisminnehåll måste vidta specifika åtgärder för att förhindra spridning av terrorisminnehåll på internet. Den aktuella värdtjänstleverantören beslutar vilka specifika åtgärder som ska vidtas för att förhindra spridning. Den behöriga myndigheten har sedan i uppgift att kontrollera att värdtjänstleverantörens vidtagna åtgärder uppfyller de krav som anges i förordningen. Om åtgärderna inte anses tillräckliga kan myndigheten rikta ett beslut mot värdtjänstleverantören med krav på att vidta tillräckliga specifika åtgärder, fortfarande utan att ange vilka Uppdraget som behörig myndiget specifika åtgärder som ska vidtas. Om värdtjänstleverantören inte efterlever ett sådant beslut kan myndigheten under vissa förutsättningar besluta om sanktioner mot leverantören. 4.3Uppdraget som behörig myndighet Innebörden av uppdraget som behörig myndighet framgår huvudsakligen av artiklarna 12–14 i förordningen. Där framgår att den behöriga myndigheten ska ges den behörighet och de resurser som behövs för att utfärda avlägsnandeorder enligt artikel 3 och granska gränsöverskridande avlägsnandeorder enligt artikel 4. Den behöriga myndigheten ska även övervaka värdtjänstleverantörers genomförande av specifika åtgärder enligt artikel 5 och påföra värdtjänstleverantörer sanktioner enligt artikel 18. Myndigheten ska utföra sina uppgifter på ett objektivt och ickediskriminerande sätt med fullständig respekt för grundläggande rättigheter. Myndigheten får inte efterfråga eller ta emot instruktioner från något annat organ när det gäller utförandet av uppgifter i artikel 12.1 (bland annat utfärdandet av avlägsnandeorder) (artikel 13). Artikel 13.2 innebär ett krav på att myndigheten ska vara oberoende i sin myndighetsutövning vilket uttrycks i artikeln genom ett förbud mot att efterfråga och ta emot instruktioner från något annat organ.1 Utförandet av uppgifterna bygger på att ett samarbete utvecklas mellan värdtjänstleverantörer, behöriga myndigheter i respektive medlemsstat och, i vissa fall, med Europol. Det framgår uttryckligen i artikel 14 att de behöriga myndigheterna ska utbyta information, samordna sig och samarbeta med varandra och, när så är lämpligt, med Europol, avseende avlägsnandeorder. Samarbetet är särskilt viktigt för att undvika dubbelarbete, förbättra samordningen och undvika att störa utredningar i andra medlemsstater. De behöriga myndigheterna ska därutöver även samordna sig på motsvarande sätt med de andra medlemsstaternas behöriga myndigheter när det kommer till övervakning av värdtjänstleverantörers genomförande av specifika åtgärder och i fråga om att påföra sanktioner. 1Se även andra bestämmelser om oberoende och oavhängighet t.ex. artikel 228.3 och artikel 286.3 fördraget om Europeiska unionens funktionssätt (EUF-fördraget) som rör en Europeisk ombudsman respektive revisionsrätten samt artikel 38, 52 och 69 och rådets förordning (EU) 2016/679 av om skydd för fysiska personer med avseende på behandling av personuppgifter och om det fria flödet av sådana uppgifter och om upphävande av direktiv /46/EG (allmän dataskyddsförordning). Uppdraget som behörig myndiget Avlägsnandeorder (artikel 3) En avlägsnandeorder som utfärdas av en behörig myndighet ska innehålla ett krav på berörd värdtjänstleverantör att avlägsna terrorisminnehåll eller göra det oåtkomligt i samtliga medlemsstater. När en avlägsnandeorder har utfärdats ska värdtjänstleverantören men senast avlägsna eller göra innehållet oåtkomligt. Om det inte är fråga om ett brådskande fall ska en värdtjänstleverantör som mottagit en avlägsnandeorder få information om tillämpliga förfaranden och tidsfrister minst innan avlägsnandeordern utfärdas av myndigheten. En avlägsnandeorder ska utfärdas enligt den mall som finns fogad till förordningen och innehålla de uppgifter som framgår av artikel 3.4. En avlägsnandeorder ska gå att överklaga. Värdtjänst- och innehållsleverantörer ska ges rätt till ett effektivt rättsmedel, vilket innebär en rätt att bestrida en avlägsnandeorder inför domstolarna i den medlemsstat som utfärdat avlägsnandeordern (artikel 9). En avlägsnandeorder skickas till den kontaktpunkt som värdtjänstleverantören utsett. Ordern vinner laga kraft vid utgången av överklagandefristen om inget överklagande lämnats in i enlighet med nationell rätt eller vid bekräftelse efter ett överklagande.2 Gränsöverskridande avlägsnandeorder (artikel 4) En behörig myndighet som utfärdar en avlägsnandeorder mot en värdtjänstleverantör som har sitt huvudsakliga verksamhetsställe eller sin rättsliga företrädare bosatt eller etablerad i en annan medlemsstat ska skicka en kopia av avlägsnandeordern till den andra medlemsstatens behöriga myndighet. En behörig myndighet som mottar en sådan kopia av en gränsöverskridande avlägsnandeorder har möjlighet att på eget initiativ från mottagandet granska ordern för att fastställa om den på ett allvarligt eller uppenbart sätt är oförenlig med förordningen eller de grundläggande rättigheter eller friheter som garanteras i stadgan. Om myndigheten konstaterar oförenlighet ska denne meddela 2Jfr den engelska lydelsen av artikel 3.9 “A removal order shall become final upon the expiry of the deadline for appeal where no appeal has been lodged in accordance with national law or upon confirmation following an appeal.” Uppdraget som behörig myndiget ett motiverat beslut . Innan ett sådant beslut meddelas ska dock den myndighet som utfärdade den ursprungliga ordern informeras om avsikten att meddela ett beslut om oförenlighet. Även en berörd värdtjänst- eller innehållsleverantör kan initiera ett granskningsförfarande genom att lämna in en motiverad begäran till den behöriga myndigheten i den medlemsstat där värdtjänstleverantören har sitt huvudsakliga verksamhetsställe eller där den rättsliga företrädaren är bosatt eller etablerad. Begäran ska lämnas in räknat från mottagandet av ordern (värdtjänstleverantören) respektive från när information därom mottagits (innehållsleverantören). Myndigheten ska sedan meddela ett motiverat beslut från mottagandet av begäran om granskning. Även ett beslut som meddelas efter en granskning av en gränsöverskridande avlägsnandeorder ska kunna överklagas. Värdtjänst- och innehållsleverantörer ska ges rätt till ett effektivt rättsmedel inför domstolarna i den medlemsstat som meddelar beslutet (artikel 9). Ett beslut om granskning av en gränsöverskridande avlägsnandeorder ska skickas till den behöriga myndigheten som utfärdade det ursprungliga beslutet, värdtjänsteleverantören, innehållsleverantören (när denne begärt granskning) och, i vissa fall, Europol. Specifika åtgärder (artikel 5) Den behöriga myndigheten i den medlemsstat där värdtjänstleverantören har sitt huvudsakliga verksamhetsställe eller där dess rättsliga företrädare är bosatt eller etablerad kan även meddela beslut om att en värdtjänstleverantör är exponerad för terrorisminnehåll. En värdtjänstleverantör kan anses exponerad för terrorisminnehåll om leverantören mottagit två eller flera avlägsnandeorder som vunnit lagakraft. Värdtjänstleverantören kan när som helst begära omprövning av ett beslut om exponering. Anses en värdtjänstleverantör exponerad för terrorisminnehåll ska denne vidta specifika åtgärder för att skydda sina tjänster mot spridning av terrorisminnehåll till allmänheten. Det är värdtjänstleverantören som beslutar om vilka åtgärder som ska vidtas. Förordningen räknar upp ett antal exempel på åtgärder som kan utgöra specifika åtgärder: Uppdraget som behörig myndiget •Lämpliga tekniska och operativa åtgärder eller lämplig teknisk och operativ kapacitet, såsom lämplig personalstyrka eller lämpliga tekniska medel för att identifiera och snabbt avlägsna terrorisminnehåll eller göra det oåtkomligt. •Lättillgängliga och användarvänliga mekanismer varmed användare till värdtjänstleverantören kan rapportera eller flagga påstått terrorisminnehåll. •Andra mekanismer för att öka medvetenheten om terrorisminnehåll på dess tjänster, såsom mekanismer för användarmoderering. •Andra åtgärder som en värdtjänstleverantör anser vara lämpliga för att åtgärda tillgängligheten av terrorisminnehåll på dess tjänster. Oberoende av vilka specifika åtgärder som en värdtjänstleverantör väljer att vidta måste samtliga åtgärder uppfylla följande krav: •Åtgärderna ska på ett effektivt sätt minska graden av exponering för terrorisminnehåll hos värdtjänstleverantörens tjänster. •Åtgärderna ska vara riktade och proportionella, med särskilt beaktande av hur hög graden av exponering för terrorisminnehåll är hos värdtjänstleverantörens tjänster samt värdtjänstleverantörens tekniska och operativa kapacitet och finansiella styrka samt antalet användare av värdtjänstleverantörens tjänster och den mängd innehåll som de tillhandahåller. •Åtgärderna ska tillämpas med fullständigt beaktande av användarnas rättigheter och legitima intressen, särskilt användarnas grundläggande rättigheter vad gäller yttrande- och informationsfrihet, respekt för privatlivet samt skydd av personuppgifter. •Åtgärderna ska tillämpas på ett omsorgsfullt och icke-diskrimi- nerande sätt. Om åtgärderna innebär användning av tekniska medel ska värdtjänstleverantörerna dessutom införa lämpliga och effektiva skyddsåtgärder, särskilt genom mänsklig tillsyn och kontroll, för att säkerställa att de är korrekta och för att undvika avlägsnande av material som inte är terrorisminnehåll. Värdtjänstleverantören ska ge in en rapport till den behöriga myndigheten om vilka specifika åtgärder som vidtagits och avses att vidtas. Uppdraget som behörig myndiget En sådan rapport ska ges in första gången efter ett beslut om exponering och därefter . Om den behöriga myndigheten inte anser att de åtgärder som värdtjänstleverantören vidtagit uppfyller ovan angivna krav ska myndigheten rikta krav mot värdtjänstleverantören att vidta nödvändiga åtgärder för att säkerställa att kraven i förordningen uppfylls. En värdtjänstleverantör som inte uppfyller kraven på specifika åtgärder kan påföras sanktioner (se nedan och artikel 18). Sanktioner (artikel 18) Den behöriga myndigheten ska också ges befogenhet att påföra en värdtjänstleverantör sanktioner vid överträdelse av vissa uppräknade bestämmelser i förordningen, till exempel om en värdtjänstleverantör inte följer en avlägsnandeorder. Sanktionerna ska vara effektiva, proportionerliga och avskräckande. Sanktionssystem ska utformas på nationell nivå i varje medlemsstat. Medlemsstaterna ska säkerställa att den behöriga myndigheten, när den beslutar att en sanktion ska påföras och när den fastställer sanktioneras typ och nivå, beaktar alla relevanta omständigheter, inbegripet bland annat överträdelsens karaktär, allvar och varaktighet, om överträdelsen var avsiktlig eller orsakades av vårdslöshet, tidigare överträdelser som värdtjänstleverantören har gjort sig skyldig till och värdtjänstleverantörens finansiella styrka. Den behöriga myndigheten ska utöver de uppgifter som redogjorts för ovan även sammanställa årliga transparensrapporter.