Tweede Kamer der Staten-Generaal

2

Vergaderjaar 2017–2018

22 112

Nieuwe Commissievoorstellen en initiatieven
van de lidstaten van de Europese Unie

Nr. 2420

BRIEF VAN DE MINISTER VAN BUITENLANDSE ZAKEN
Aan de Voorzitter van de Tweede Kamer der Staten-Generaal
Den Haag, 3 november 2017
Overeenkomstig de bestaande afspraken ontvangt u hierbij 3 fiches, die
werden opgesteld door de werkgroep Beoordeling Nieuwe Commissievoorstellen (BNC).
Fiche: Mededeling Een eerlijk en efficiënt belastingstelsel in de EU voor de
digitale eengemaakte markt; (Kamerstuk 22 112, nr. 2418)
Fiche: Herschikking verordening passagiersrechten spoor; (Kamerstuk
22 112, nr. 2419)
Fiche: Mededeling bestrijding illegale online content.
De Minister van Buitenlandse Zaken,
H. Zijlstra

kst-22112-2420
ISSN 0921 - 7371
’s-Gravenhage 2017

Tweede Kamer, vergaderjaar 2017–2018, 22 112, nr. 2420

1

Fiche: Mededeling bestrijding illegale online content
1. Algemene gegevens
a) Titel voorstel
Mededeling de bestrijding van illegale online-inhoud – Naar een
grotere verantwoordelijkheid voor online platforms
b) Datum ontvangst Commissiedocument
28 september 2017
c) Nr. Commissiedocument
COM (2017) 555
d) EUR-Lex
http://eur-lex.Europa.eu/legal-content/EN/TXT/
?qid=1507036248155&uri=CELEX:52017DC0555
e) Nr. impact assessment Commissie en Opinie Raad voor Regelgevingstoetsing
Niet opgesteld.
f) Behandelingstraject Raad
Raad Justitie en Binnenlandse Zaken
g) Eerstverantwoordelijke ministeries
Ministerie van Justitie en Veiligheid in nauwe samenwerking met het
Ministerie van Economische Zaken en Klimaat
2. Essentie voorstel
De mededeling formuleert richtsnoeren en uitgangspunten voor online
platforms (als Facebook, Twitter, Google/Youtube) om – in samenwerking
met nationale autoriteiten in lidstaten en andere relevante belanghebbenden – illegale online content tegen te gaan. Wat offline illegaal is, is
dat ook online. Daarbij kan gedacht worden aan het verspreiden van
jihadistisch gedachtengoed en aanzetten tot radicalisering, hate speech,
pedopornografisch materiaal, het schenden van auteursrechten en het
online aanbieden van illegale goederen als wapens en drugs. De
mededeling richt zich op het faciliteren en intensiveren van de implementatie van succesvolle werkwijzen om illegale content te voorkomen, op te
sporen, te verwijderen en de toegang ertoe onmogelijk te maken; tevens
moet dat zorgen voor meer transparantie en bescherming van fundamentele rechten online.
De mededeling legt een grote verantwoordelijkheid bij online platforms
om illegale online content te bestrijden, met inachtneming van de
artikelen 14 en 15 van de e-commerce-richtlijn1. Online platformen
worden met deze mededeling opgeroepen een effectief meldingssysteem
operationeel te hebben, bij voorkeur door middel van een Notice-andTake-Action-(NTA-)procedure, waarbij oordelen over toelaatbaarheid zijn
gebaseerd op Europees en nationaal geldend recht. Waar mogelijk dienen
ook technieken te worden ingezet om proactief op te kunnen treden en
(her)plaatsing van illegale content te voorkomen. De samenwerking
tussen platformen en rechtshandhavingsautoriteiten dient te worden
geoptimaliseerd, vooral om snel en effectief te kunnen optreden bij een
rechterlijk bevel tot verwijdering en om signalen van criminele activiteiten
te kunnen delen met rechtshandhavingsautoriteiten. Deze dienen op hun
beurt voldoende te zijn uitgerust om deze signalen vervolgens op te
pakken en waar nodig tot vervolging over te gaan. Daarnaast zou het
verwijderen van illegale content veel sneller en betrouwbaarder kunnen
geschieden als online platformen het opzetten van een geprivilegieerd
kanaal ondersteunen voor gecertificeerde instanties die met gezag de
aanwezigheid van illegale content onder de aandacht van platformen
1

Richtlijn 2000/31 van 8 juni 2000 inzake elektronische handel.

Tweede Kamer, vergaderjaar 2017–2018, 22 112, nr. 2420

2

kunnen brengen («trusted flaggers»). Om «over verwijdering» tegen te
gaan dienen platformen het verwijderen van content te motiveren en een
bezwaarprocedure in te richten, waarbij wordt opgeroepen deze onder te
brengen bij bijvoorbeeld een geschilbeslechtingscommissie. De
Commissie kondigt ten slotte aan tot mei 2018 de toepassing van deze
richtsnoeren en uitgangspunten te monitoren om tot een afweging te
komen of aanvullende, mogelijk wetgevende, maatregelen nodig zijn.
3. Nederlandse positie ten aanzien van het voorstel
a) Essentie Nederlands beleid op dit terrein
De essentie van het Nederlandse beleid ten aanzien van de aanpak van
illegale online content is neergelegd in de Kamerbrief naar aanleiding van
de motie Segers/Van Dam2. Daarin wordt de regering gevraagd naar de
wenselijkheid en haalbaarheid van een wet die sociale-mediabedrijven
dwingt om duidelijke meldingsprocedures in te richten en snel actie te
ondernemen tegen strafbare gedragingen of uitingen op hun platforms,
zoals discriminatie, naar Duits model.
Nederland kent een fenomeengerichte aanpak van illegale activiteiten die
zich (ook) online kunnen voordoen. Binnen de aanpak van terrorisme,
pedopornografie, discriminatie, illegale wapenhandel, schendingen van
het auteursrecht is dan ook veel aandacht voor de onlinecomponent. Ook
vanuit het beleid rond het aanbod van audiovisuele mediadiensten en
bevorderen van het economische verkeer bestaat aandacht voor de online
aspecten.
Cybercrime algemeen
Voor illegale content (bijvoorbeeld het aanzetten tot de jihad, pedopornografie en aanbod van illegale goederen) gelden in Nederland reeds
Notice-and-Take-Down (NTD) en/of Notice-and-Take-Action (NTA)procedures. Voor verwijdering van niet-illegale content (bijvoorbeeld
schelden of pesten) staat de mogelijkheid van een civiele procedure
open.3
Terrorisme
Net als voor andere EU-lidstaten, is de snelle verwijdering van terroristische online content voor Nederland van groot belang. Hiertoe is in
Nederland een Internet Referral Unit (IRU) van de politie opgericht, die
zich richt op het herkennen en verwijderen van jihadistische content in
open bronnen. De IRU kan aangetroffen opruiend materiaal en propaganda via een NTA-procedure melden bij sociale mediaplatforms, met het
oog op vrijwillige verwijdering. De IRU werkt nauw samen met de EU IRU
die bij Europol is onder gebracht. Met de internetindustrie wordt in
EU-verband een permanente dialoog op ministerieel en ambtelijk niveau
gevoerd over de verdere verbetering van de samenwerking voor de
aanpak van terroristische online content in het EU Internetforum. Hierin
komen lidstaten en vertegenwoordigers van de internetindustrie onder
voorzitterschap van de Europese Commissie periodiek samen. Deze
aanpak, die de eigen verantwoordelijkheid van de sector centraal stelt en
gericht is op vrijwilligheid en samenwerking heeft recentelijk onder meer
geleid tot de instelling van een «joint referral platform», dat het mogelijk
maakt om illegale content op meerdere platforms te signaleren, en een
2
3

Kamerstukken II, 2016/17, 30 950, nr. 108.
De civiele rechtsgang staat overigens ook open in geval van (strafrechtelijke) belediging of bij
het onrechtmatig openbaren van privéinformatie.

Tweede Kamer, vergaderjaar 2017–2018, 22 112, nr. 2420

3

door de industrie ingericht Global Internet Forum to Combat Terrorism
gericht op samenwerking, onderzoek en ondersteuning van kleinere
internetbedrijven.
Kindermisbruik en -pornografie
Overheidsorganisaties, internetaanbieders, en brancheorganisaties voor
hostingdiensten zijn in 2008 een NTD-Gedragscode4 overeen gekomen. In
deze vrijwillige gedragscode is afgesproken hoe bedrijven in de onlinesector binnen de geldende wettelijke kaders omgaan met meldingen over
onrechtmatige of strafbare inhoud op internet, zoals online seksueel
kindermisbruik materiaal, plagiaat, discriminatie en aanbod van illegale
goederen. Naar aanleiding van een melding van illegale content, of
content in strijd met de voorwaarden van het bedrijf, onderzoeken de
bedrijven die melding en verwijderen op basis van dat onderzoek de
content als de content als illegaal of als in strijd met de voorwaarden
wordt gezien. Bijvoorbeeld op het moment dat een host wordt genotificeerd door het Expertise Centrum Online Kindermisbruik (onderdeel van
Inhope netwerk van meldpunten kinderporno), over online seksueel
kindermisbruik materiaal, wordt het beeldmateriaal – na beoordeling door
deze host – verwijderd. Het Expertisecentrum Online Kindermisbruik is
een voorbeeld van een reeds bestaande trusted flagger in Nederland voor
online seksueel kindermisbruik materiaal. Dit expertisecentrum maakt
onderdeel uit van het Inhope-netwerk van meldpunten waarnaar de
Commissie in de mededeling verwijst.
Discriminatie en hate speech
Ten aanzien van online hate speech geldt dat in Nederland naast het direct
melden bij een sociale-mediaplatform ook melding van discriminatoire
uitingen kan worden gedaan bij het Meldpunt internetdiscriminatie
(MiND), dat is ondergebracht bij de Stichting NL Confidential. MiND is een
onafhankelijke organisatie die toetst op objectiveerbare criteria (namelijk
de discriminatie-artikelen in het Wetboek van Strafrecht). Het Meldpunt
beoordeelt meldingen door het maken van een inschatting of de
gewraakte uiting op het internet als een strafbaar feit kan worden
aangemerkt vanwege strijdigheid met de discriminatie- en aanverwante
artikelen in het Nederlandse wetboek van strafrecht. Wordt strijdigheid
geconstateerd, dan volgt een verzoek tot verwijdering van de uiting.
Wordt hieraan geen gehoor gegeven dan kan binnen de socialemediabedrijven worden opgeschaald. Krijgt een melding dan nog geen
opvolging, dan volgt doormelding naar het Openbaar Ministerie.
Tijdens het Nederlandse voorzitterschap van de Europese Raad in 2016
werd door de Europese Commissie, samen met Facebook, Microsoft,
Twitter en Google/YouTube een Gedragscode gepresenteerd om online
hate speech tegen te gaan. De belangrijkste inspanningsverplichting die
uit de Gedragscode voortvloeit betreft de afdoening en eventuele
verwijdering van haat zaaiende uitingen na meldingen van gebruikers
binnen 24 uur. Daarnaast bevat de Gedragscode afspraken over
monitoring van de afspraken.
Auteursrecht
De handhaving van het auteursrecht is primair een privaatrechtelijke
aangelegenheid, waarvoor rechthebbenden zelf verantwoordelijk zijn.
Rechthebbenden en internet service providers kunnen afspraken met
4

https://www.rijksoverheid.nl/documenten/rapporten/2008/10/09/gedragscode-notice-and-takedown.

Tweede Kamer, vergaderjaar 2017–2018, 22 112, nr. 2420

4

elkaar maken over NTD-procedures. Het strafrecht is optimum remedium.
Dat is ten aanzien van online inbreuken op het auteursrecht niet anders.
b) Beoordeling + inzet ten aanzien van dit voorstel
Nederland staat positief ten aanzien van de mededeling. Bij diverse
gelegenheden hebben de Europese Raad en de JBZ-Raad zich uitgesproken over illegale online content en de risico’s erkend die voortvloeien
uit het toenemende gebruik van social media, zoals de risico’s van
radicalisering via internet, de snelle verspreiding van nepnieuws en het
zich discriminerend uitlaten tegenover migranten. Nederland onderstreept
daarbij het belang van een gezamenlijke Europese aanpak en de belangrijke rol van onderwijs en het ontwikkelen van kritisch denkvermogen en
mediawijsheid.
Context
Voor Nederland is van groot belang dat wordt vastgehouden aan de
uitgangspunten van de e-commerce Richtlijn, en met name de uitsluiting
van aansprakelijkheid van dienstverleners zoals geregeld in artikel 14.
Nederland beziet de voornemens tot proactieve verplichtingen die
monitoring van te plaatsen content betreft daarom met enige reservering.
Hoewel technische middelen die effectief voorkomen dat illegale content
opnieuw online wordt geplaatst worden toegejuicht, en waar mogelijk
verder gestimuleerd en ontwikkeld dienen te worden, bestaat ook het
besef dat dit met de huidige stand der techniek slechts in een zeer beperkt
aantal gevallen mogelijk is. Voorkomen moet worden dat experimenten
uiteindelijk ten koste gaan van mensenrechten als het recht op privacy en
het recht op vrije meningsuiting.
Ook al geeft deze mededeling richtsnoeren en wijzigt zij als zodanig niet
enig toepasselijk wettelijk kader, toch moet gelet worden op de mogelijke
samenloop van de mededeling met de herziening van de audiovisuele
mediadiensten richtlijn (AVMD-richtlijn – COM (2016)287), waarin wordt
voorgesteld om via co- en zelfregulering schadelijke content voor
minderjarigen, haat zaaien en het aanzetten tot terrorisme op video
deelplatformen te voorkomen. Ook moet worden gelet op een mogelijke
overlap met het voorstel voor een richtlijn inzake auteursrechten in de
digitale eengemaakte markt (COM (2016)593. Daarin wordt onder andere
door de Europese Commissie voorgesteld om online platforms die grote
hoeveelheden informatie ter beschikking stellen te verplichten maatregelen te nemen om auteursrechtinbreuk tegen te gaan.
Opsporing en melden van illegale content
Voor Nederland is van belang dat NTD- en NTA-procedures zich beperken
tot illegale content; voor verwijdering van niet-illegale content (bijvoorbeeld schelden of pesten) staat de mogelijkheid van een civiele procedure
open.
Per lidstaat zullen verschillende partijen aangewezen moeten kunnen
worden als trusted flagger. Bij de certificering van partijen dient onafhankelijkheid en het toetsen vanuit juridisch perspectief het uitgangspunt te
zijn. Gezien de specialistische kennis die van trusted flaggers wordt
verlangd, ligt het voor de hand per fenomeen trusted flaggers te
benoemen. Lidstaten zullen een rol moeten krijgen in het certificatieproces. Certificatie dient te allen tijde samen te hangen met de inrichting
van een goede bezwaarprocedure.

Tweede Kamer, vergaderjaar 2017–2018, 22 112, nr. 2420

5

Verwijdering van illegale content
Nederland meent dat internetbedrijven meer moeten en kunnen doen om
illegale content te verwijderen, waarbij tevens aandacht dient te zijn voor
opsporing en vervolging van degenen die content uploaden en goede
samenwerking met opsporingsautoriteiten. Vooralsnog is ook de
verwachting dat online platforms de komende periode bereid zijn tot
verdere inzet en gebruik van technologie om het opnieuw verschijnen van
illegale content te voorkomen. De mededeling is een belangrijk
instrument dit te realiseren.
Wetgeving
In EU-verband heeft Nederland zich, gezien de vooruitgang die is geboekt
onder de Gedragscode, uitgesproken voor de voortzetting en uitbreiding
van de Gedragscode, inclusief de monitoring door de Europese
Commissie. Daarnaast dringt Nederland aan op meer transparantie van de
betrokken sociale-mediabedrijven ten aanzien van interne procedures en
de aantallen verzoeken om verwijdering van illegale inhoud en de
afdoening daarvan, analoog aan de transparantie-rapportages die
sommige van deze ondernemingen publiceren inzake verzoeken die zij
van overheden ontvangen.5
Nederland is in beginsel geen voorstander van codificatie van procedures
en in te zetten technische middelen om illegale content tegen te gaan.
Gevreesd wordt, dat wetgeving juist een tegengesteld effect zal hebben,
mede gezien de zich razendsnel ontwikkelende alternatieve oplossingen
en innovatieve nieuwe ideeën op dit terrein. Omdat wetgeving het van
geval tot geval maken van inschattingen bemoeilijkt (false negatives/false
positives) ligt ook oververwijdering op de loer.
Nederland zal de positieve resultaten van de Nederlandse
niet-wetgevende aanpak proactief delen met de Europese Commissie en
de gedachtenvorming over mogelijke aanvullende maatregelen actief
volgen. Gelet op de geboekte vooruitgang in het overleg met de sector
biedt de aanpak op basis van vrijwilligheid, die de mededeling voorstaat,
vooralsnog voldoende aanknopingspunten. Een van de aanknopingspunten die Nederland met de betreffende sector wil onderzoeken is het
inzetten van (gecertificeerde) trusted flaggers op het gebied van civielrechtelijke handhaving van het auteursrecht op het internet. Bij een
voornemen tot wetgeving zal Nederland aandringen op het uitvoeren van
een impact assessment, waarvan in ieder geval een toets op de impact op
mensenrechten als de vrijheid van meningsuiting en privacy deel zal
uitmaken, maar ook een toets op de regeldruk/administratieve lasten.
c) Eerste inschatting van krachtenveld
De mededeling is nog niet besproken in één van de Raadswerkgroepen. In
algemene zin dringen verschillende lidstaten in toenemende mate aan op
een verdere intensivering van de aanpak van illegale content door online
platformen – onder meer binnen het kader van de onderhandelingen over
de herziening van de AVMD-richtlijn – waarbij de vaststelling van
wetgeving op dit terrein niet wordt uitgesloten. Enkele lidstaten bereiden
momenteel nationale wetgeving voor, dan wel hebben recent wetgeving
vastgesteld. Andere lidstaten zijn geen voorstander van wetgeving, vooral
omdat wetgeving naar het oordeel van deze lidstaten de vrijheid van
meningsuiting zou schaden.

5

https://govtrequests.facebook.com/.

Tweede Kamer, vergaderjaar 2017–2018, 22 112, nr. 2420

6

4. Grondhouding ten aanzien van bevoegdheid, subsidiariteit,
proportionaliteit, financiële gevolgen en gevolgen op het gebied
van regeldruk en administratieve lasten
a) Bevoegdheid
Op het terrein van de interne markt en de ruimte van vrijheid, veiligheid
en recht (RVVR) heeft de Unie een gedeelde bevoegdheid met de lidstaten
(zie artikel 4, lid 2, onder a en onder j, VWEU).
In de mededeling worden geen extra bevoegdheden voor de Unie
voorzien, maar de Commissie geeft richtsnoeren en uitgangspunten voor
online platforms om binnen het bestaande wettelijke kader – in samenwerking met nationale autoriteiten in lidstaten en andere relevante
belanghebbenden – illegale online content tegen te gaan. Daartoe is de
Commissie bevoegd. De mededeling heeft geen bindende werking
tegenover de lidstaten. Eventuele verbindende besluiten die ten vervolge
op de mededeling worden voorgesteld zullen op dat moment worden
beoordeeld op het bestaan van een deugdelijke bevoegdheidsgrondslag.
b) Subsidiariteit
De grondhouding van het kabinet ten aanzien van de subsidiariteit van de
mededeling is positief. De mededeling bouwt voort op bestaande
Europese bindende en niet-bindende maatregelen, die gedeeltelijk
afspraken met grote grensoverschrijdende IT-ondernemingen als
Facebook, Twitter, Google/YouTube en Windows bevatten. Een gezamenlijke Europese aanpak is een voorwaarde om tot afspraken met zulke grote
spelers te kunnen komen. Indien ten vervolge op deze mededeling
verbindende maatregelen worden voorgesteld zullen deze op dat moment
beoordeeld worden op de subsidiariteit.
c) Proportionaliteit
De grondhouding van het kabinet ten aanzien van de proportionaliteit van
de mededeling is positief. Het kabinet acht deze mededeling een geschikt
instrument om richting te geven aan de afspraken met online platforms.
De mededeling voorziet voorts in niet-bindende afspraken die de
onderlinge dialoog, de totstandkoming van gestandaardiseerde procedures en de ontwikkeling van technische middelen bevorderen, waarbij
een balans wordt gezocht tussen het publieke belang, het belang van de
gebruikers als de belangen van de platformen. De mededeling heeft
betrekking op alle vormen van illegale online content, met ruimte voor
fenomeen-specifieke aanpak. Indien ten vervolge op deze mededeling
verbindende maatregelen worden voorgesteld zullen deze op dat moment
beoordeeld worden op de proportionaliteit.
d) Financiële gevolgen
Ten aanzien van illegale online content gerelateerd aan terrorisme,
pedopornografie en andere vormen van cybercrime beschrijft de
mededeling de feitelijke situatie zoals die ook in Nederland bestaat,
waardoor in Nederland geen additionele maatregelen nodig zijn. Ten
aanzien van online hate speech geldt dat de mededeling een systeem van
trusted flaggers voorstaat. Indien tot implementatie van deze aanbeveling
over zou worden gegaan, zal een meldpunt internetdiscriminatie een
structureel karakter krijgen. De precieze kosten die daarmee gepaard gaan
zijn afhankelijk van de uiteindelijke borging van dit meldpunt binnen de
rijksoverheid, maar zullen naar verwachting structureel € 250.000 per jaar
bedragen.

Tweede Kamer, vergaderjaar 2017–2018, 22 112, nr. 2420

7

De mededeling vraagt tevens om een single point of contact bij nationale
rechtshandhavingsautoriteiten. Indien daaraan uitvoering wordt gegeven
ligt het voor de hand deze taak binnen het Openbaar Ministerie te
beleggen bij een discriminatieofficier van justitie met als aandachtsgebied
online discriminatie. Daarbij dient tevens in beeld te worden gebracht
welke ketenconsequenties de extra vervolgingscapaciteit zal hebben. Naar
verwachting zal het gaan om een structurele extra investering van
€ 750.000 per jaar.
De budgettaire gevolgen worden ingepast op de begroting van het/de
beleidsverantwoordelijk (e) departement(en), conform de regels van de
budgetdiscipline.
e) Gevolgen voor regeldruk en administratieve lasten
De oproep tot het hebben van een mechanisme om meldingen te
ontvangen en te verwerken en daarover te rapporteren aan rechtshandhavingsautoriteiten zal – zeker voor kleinere online platformen – aanmerkelijke financiële en administratieve lasten met zich meebrengen. Bij de
uitvoering zal daarom rekening gehouden moeten worden met aanzienlijke verschillen in grootte, functie en organisatiestructuur van de
verschillende platformen. Concreet gaat het dan om het toepassen van
het «think small first-principle» dat de Europese Commissie hanteert in
het kader van het better regulation-beleid). Tegelijkertijd vloeit de
noodzaak voor het hebben van een procedure voor het omgaan met
illegale content voort uit artikel 14 van de e-commerce Richtlijn. Ten
behoeve van de grensoverschrijdende handel binnen de Digitale Interne
Markt is verduidelijking van hetgeen dat artikel vereist gunstig.

Tweede Kamer, vergaderjaar 2017–2018, 22 112, nr. 2420

8