Schriftelijke beantwoording openstaande vragen, gesteld tijdens het Commissiedebat opkomende en toekomstige technologieën op 30 januari 2025, over deepfakeporno en de handhaving hiervan
Staten-Generaal — Kamerstuk Brief
Datum: 2025-03-07 00:00:00.000000
Rechtsgebied: Wetgeving


Vergaderjaar 2024-2025
 Tweede Kamer der Staten-Generaal
 2
 Kamerstukken
 
 
 
 26 643
 
 Informatie- en communicatietechnologie (ICT)
 
 
 Nr. 1305
 BRIEF VAN DE MINISTER EN STAATSSECRETARIS VAN JUSTITIE EN VEILIGHEID
 
 
 
 Aan de Voorzitter van de Tweede Kamer der Staten-Generaal
 Den Haag, 4 maart 2025
 Zoals door de Staatssecretaris Digitalisering en Koninkrijksrelaties toegezegd tijdens het commissiedebat Opkomende en toekomstige technologieën op 30 januari jl., sturen wij u de verzochte brief over deepfakeporno en de handhaving hiervan. In deze brief worden openstaande vragen van Kamerlid Krul (CDA) beantwoord.
 Antwoorden op openstaande vragen van Kamerlid Krul (CDA)
 
 1. Zou er in de handhaving van deepfakeporno een rol kunnen liggen voor de nieuwe autoriteit die ook kinderporno moet aanpakken?
 
 De Autoriteit online Terroristisch en Kinderpornografisch materiaal (ATKM) heeft wettelijke bevoegdheden om op te treden tegen online kinderpornografisch materiaal en online terroristisch materiaal. Op dit moment wordt verdere uitbreiding van het mandaat van de ATKM, door te verbreden naar andere typen online content, niet opportuun geacht. De ATKM is een nieuwe en relatief jonge autoriteit, waarvan de wettelijke bevoegdheden voor kinderpornografisch materiaal pas op 1 juli jl. in werking zijn getreden. Naast het uitsturen van verwijderbevelen legt de ATKM momenteel de laatste hand aan het (technisch) verder inregelen en bestendigen van haar werkprocessen en uitvoeringspraktijk. Uitbreiding van de ATKM door extra wettelijke taken toe te voegen ligt dan ook niet in de rede op dit moment.
 
 2. Is voldoende duidelijk dat slachtoffers zich bij Helpwanted kunnen melden?
 
 Offlimits werkt voortdurend aan het onder de aandacht brengen van de hulplijn Helpwanted. Zo is Helpwanted op 14 oktober jl. de campagne «Ik bepaal zelf» gestart. De boodschap van deze campagne is dat alleen jijzelf bepaalt wie jouw foto’s, video’s en privégegevens mag zien. Als iemand anders dit ongevraagd online of met anderen deelt, dan overschrijdt diegene jouw grens en is dat vaak strafbaar. Om bij slachtoffers duidelijk te maken dat zij zich in dergelijke gevallen kunnen melden bij Helpwanted, begint volgende week een tweede ronde van deze campagne. Slachtoffers weten Helpwanted steeds beter te vinden. Het aantal meldingen bij Helpwanted (dit zijn directe contacten via chat, e-mail en telefoon) neemt ieder jaar toe. In 2024 ging het om een toename van 31%.
 
 3. Lukt het Helpwanted om de verwijderverzoeken bij deepfakeporno in te dienen? En hoeveel van die verzoeken worden gehonoreerd? Wat is daar de doorlooptijd van?
 
 Helpwanted heeft in 2024 geen verwijderverzoeken uitgestuurd namens specifieke individuen voor AI gegenereerde content op pornoplatforms. Wel heeft Helpwanted voor een grote aanbieder van dit materiaal een handhavingsverzoek ingediend bij de Autoriteit Persoonsgegevens, voor alle Nederlandse slachtoffers die hierop afgebeeld staan, omdat een verwijderverzoek bij de aanbieder niet werd gehonoreerd.1Offlimits | Offlimits doet melding tegen deepfake-porno Bij de hulplijn zijn wel een aantal meldingen (5 in totaal) ontvangen, waarbij dergelijk beeldmateriaal openbaar gedeeld is op een pornowebsite. In deze gevallen is aan de hulpvrager geadviseerd om zelf een verwijderverzoek naar het platform te sturen. Dit advies wordt vaker gehanteerd als het gaat om kleinere platforms waar Helpwanted nog geen formele betrouwbare flagger status heeft, aangezien in zulke gevallen vaak niet of erg laat gereageerd wordt op een verwijderverzoek van Helpwanted. Verwijderverzoeken die vanuit een individu worden ingediend, worden dan vaak sneller gehonoreerd.
 In totaal heeft Helpwanted in 2024 59 meldingen ontvangen over gemanipuleerd beeldmateriaal. Hierbij ging het in 33 gevallen om AI gegenereerde naaktbeelden, en in 26 gevallen om bewerkt materiaal (denk hierbij aan gefotoshopte beelden). Bij dit soort casussen gaat het vaak om sextortion, waarbij de beelden nog niet openbaar verschenen zijn, of dat de beelden in besloten groepen worden gedeeld. Casussen waarbij de beelden direct op pornoplatforms gedeeld worden komen niet vaak voorbij op de hulplijn.
 
 4. Wat doen we aan bewustwording op dit vlak?
 
 Offlimits zet zich op verschillende manieren in om de bewustwording te vergroten, zoals via campagnes, voorlichting, onderzoek, samenwerking en kennisdeling. Het (h)erkennen van de impact van deepfakeporno speelt daarbij een belangrijke rol.
 In 2024 is voor de Week van de Lentekriebels van Rutgers een product ontwikkeld voor basisschooldocenten, gericht op het bevorderen van online weerbaarheid. Dit jaar wordt voor de Week van de Lentekriebels, die start op 31 maart a.s., opnieuw samengewerkt. Ditmaal met materialen voor opvoeders over digitale opvoeding. Ook heeft Offlimits dit jaar samen met de Kindertelefoon praktische handvatten opgesteld die ouders kunnen helpen om met hun kind in gesprek te gaan over wat er online gebeurt. Offlimits richt zich echter vooral op het voorkomen van daderschap, in plaats van alleen op slachtofferpreventie. Een voorbeeld hiervan is het lopende onderzoek van de Universiteit Utrecht, in samenwerking met o.a. Stichting Halt, Rutgers, de Politie, De Waag en Helpwanted. Dit onderzoek kijkt naar de kenmerken van jonge plegers van ongewenste sexting en naar de effectiviteit van bestaande preventie- en interventieprogramma’s. Ook werkt Offlimits via bewustwording aan het stimuleren van «upstanders» om online actie te ondernemen en anderen te steunen bij grensoverschrijdend gedrag. Voor slachtoffers van online seksueel geweld, zoals deepfakeporno, heeft Offlimits ook e-health modules ontwikkeld ter bevordering van hun herstel. Deze zullen vanaf maart as. kosteloos beschikbaar zijn voor de doelgroep.
 
 5. Daarnaast lezen we dat Helpwanted naar verwachting een formele status krijgt. Wat betekent dit precies? Hoe gaat dit helpen? En wanneer is dat het geval?
 
 Conform artikel 22 van de digitaledienstenverordening (Digital Services Act/DSA) kan Helpwanted de formele status van betrouwbare flagger aanvragen. Meldingen die gedaan worden door een betrouwbare flagger moeten door tussenhandeldiensten prioritair en onverwijld worden verwerkt en afgehandeld. De Autoriteit Consument en Markt (ACM) is sinds 3 februari jl. volledig bevoegd als digitialedienstencoördinator. Dit betekent dat zij de bevoegde autoriteit is om de formele status van betrouwbare flagger toe te kennen aan een verzoekende organisatie. Helpwanted heeft direct op 3 februari jl. de aanvraag voor betrouwbare flagger ingediend bij de ACM. Op het moment dat Helpwanted de status heeft verkregen en van mening is dat de meldingen niet prioritair en onverwijld worden verwerkt en afgehandeld, kan het de ACM vragen om hierop handhavend op te treden.
 
 
 
 
 De Minister van Justitie en Veiligheid,
 
 D.M. van
 Weel
 
 
 
 De Staatssecretaris van Justitie en Veiligheid,
 
 I.
 Coenradie