Ein harmonisiertes und kohärentes Konzept für die Entfernung illegaler Inhalte gibt es in der EU derzeit nicht. So werden in der EU je nach Mitgliedstaat, nach Art der Inhalte und nach Art der Online-Plattform unterschiedliche Ansätze verfolgt. Durch ein besser abgestimmtes Vorgehen könnte der Kampf gegen illegale Inhalte wirksamer geführt werden. Dies käme auch der Entwicklung des digitalen Binnenmarkts zugute und würde die Kosten der Einhaltung einer Vielzahl von Vorschriften für Online-Plattformen gerade auch für neue Marktteilnehmer verringern.

In diesem Zusammenhang sagte die Kommission in ihrer Mitteilung von 2016 zu Online-Plattformen zu, eine ausgewogene und vorhersehbare Haftungsregelung für Online-Plattformen als wichtige rechtliche Rahmenbedingung für die Förderung digitaler Innovation im digitalen Binnenmarkt aufrecht zu erhalten.

Darüber hinaus untersagt Artikel 15 der Richtlinie den Mitgliedstaaten, den „Anbietern von Diensten im Sinne [des Artikels 14]“ eine „allgemeine Verpflichtung [aufzuerlegen], die von ihnen übermittelten oder gespeicherten Informationen zu überwachen oder aktiv nach Umständen zu forschen, die auf eine rechtswidrige Tätigkeit hinweisen“. Zugleich wird in Erwägungsgrund 47 der Richtlinie daran erinnert, dass sich dies nur auf allgemeine Überwachungspflichten bezieht. Weiter heißt es dort: „Dies betrifft nicht Überwachungspflichten in spezifischen Fällen und berührt insbesondere nicht Anordnungen, die von einzelstaatlichen Behörden nach innerstaatlichem Recht getroffen werden.“

Die verschiedenen laufenden sektorspezifischen Dialoge ergaben auch erhebliche Übereinstimmungen zwischen den verschiedenen Sektoren in den Verfahren für die Erkennung, Ermittlung und Entfernung von Inhalten und für die Verhinderung eines erneuten Hochladens. All diese Erkenntnisse sind die vorliegende Mitteilung eingeflossen.

Wie jüngste Berichte über einige dieser sektorspezifischen Initiativen belegen, wurden gewisse Fortschritte erzielt. Für Hassbotschaften zeigten Berichte von Juni 2017 in einer Stichprobe aus in einigen EU-Ländern gemeldeten Inhalten über einen Zeitraum von sechs Monaten eine Zunahme der Entfernungsrate von 28 % auf 59 %, wobei es aber erhebliche Unterschiede zwischen verschiedenen Plattformen gab. Gewisse Verbesserungen wurden im gleichen Zeitraum auch bei der Schnelligkeit der Entfernung festgestellt, allerdings wurden noch 28 % der Inhalte erst nach einer Woche entfernt. Dies zeigt, dass mit einer Selbstregulierung durchaus Ergebnisse erzielt werden können, insbesondere wenn sie von Maßnahmen flankiert wird, welche die Zusammenarbeit zwischen allen Beteiligten erleichtern. Im Rahmen des EU-Internetforums, das sich mit terroristischen Inhalten befasst, wurden seit der Einrichtung des Verfahrens ungefähr 80–90 % der von Europol beanstandeten Inhalte entfernt. Im Zusammenhang mit Material über sexuellen Kindesmissbrauch berichtete das INHOPE-Meldestellennetz schon 2015 über Entfernungsraten von 91 % innerhalb von 72 Stunden, wobei ein Drittel der gemeldeten Inhalte sogar innerhalb von 24 Stunden entfernt worden war.

In ihren Mitteilungen von 2016 und 2017 betonte die Kommission die Notwendigkeit, dass Online-Plattformen verantwortungsvoller handeln und ihre EU-weiten Selbstregulierungsbemühungen zur Entfernung illegaler Inhalte verstärken müssen. Darüber hinaus sagte die Kommission zu, die Koordinierung der verschiedenen sektorspezifischen Dialoge mit den Plattformen zu verbessern und die Notwendigkeit von Leitlinien für förmliche Melde- und Abhilfeverfahren zu prüfen. All dies sollte in Abstimmung mit bereits laufenden Dialogen und Arbeiten auf anderen Gebieten wie zum Beispiel zur europäischen Sicherheitsagenda oder in Bezug auf illegale Hassbotschaften geschehen, ohne diese zu beeinträchtigen.

Die bestehenden und vorgeschlagenen Rechtsvorschriften werden durch eine Reihe nicht legislativer Maßnahmen ergänzt, z. B. den Verhaltenskodex zur Bekämpfung illegaler Hassrede im Internet, die Arbeiten des EU-Internetforums in Bezug auf terroristische Propaganda, die gemeinsame Absichtserklärung zum Verkauf nachgeahmter Güter über das Internet, die Bekanntmachung der Kommission zur Marktüberwachung von online verkauften Produkten, die Bestimmungen über die Lebensmittelkette im Online-Handel, den EU-Aktionsplan zur Bekämpfung des illegalen Artenhandels, die Leitlinien zur Richtlinie über unlautere Geschäftspraktiken oder das gemeinsame Vorgehen der nationalen Behörden im Rahmen des Netzwerks für die Zusammenarbeit im Verbraucherschutz. Die Europäische Strategie für ein besseres Internet für Kinder ist eine Selbstregulierungsinitiative, die in Anbetracht der Gefahren durch die Darstellung von Gewalt und sexueller Ausbeutung oder durch Cybermobbing das Online-Umfeld für Kinder und Jugendliche verbessern helfen soll.

Online-Plattformen, die für die meisten Internetnutzer den Zugang zu Inhalten vermitteln, tragen eine große gesellschaftliche Verantwortung für den Schutz der Nutzer und der Gesellschaft insgesamt und im Hinblick darauf, dass ihre Dienste von Straftätern und von anderen an rechtsverletzenden Tätigkeiten beteiligten Personen nicht ausgenutzt werden. Die offenen Räume, die sie bereitstellen, dürfen keinesfalls zu Brutstätten des Terrors, der illegalen Hetze, des Kindesmissbrauchs oder Menschenhandels werden und dürfen auch keine rechtsfreien Räume sein. Die Verbreitung illegaler Online-Inhalte untergräbt eindeutig nicht nur das Vertrauen der Bürger in das digitale Umfeld, sondern kann auch die weitere wirtschaftliche Entwicklung der Plattformen-Ökosysteme und des digitalen Binnenmarkts gefährden. Im Rahmen ihrer großen Verantwortung, die sich aus ihrer zentralen Rolle in der Gesellschaft ergibt, sollten die Online-Plattformen daher ihre Maßnahmen zur Lösung dieses Problems deutlich verstärken.

Angesichts einer Reihe von Terroranschlägen in der EU und der Verbreitung terroristischer Propaganda im Internet erklärte der Europäische Rat auf seiner Tagung am 22. und 23. Juni 2017, er erwarte „von der Industrie ... die Entwicklung neuer Technologien und Instrumente, mit denen die automatische Erkennung und die Entfernung von zu terroristischen Handlungen anstiftenden Inhalten verbessert wird. Dies sollte erforderlichenfalls durch die einschlägigen Gesetzgebungsmaßnahmen auf EU-Ebene ergänzt werden.“ Diese Aufforderungen finden sich auch in den Erklärungen der Staats- und Regierungschefs der G7 und G20 auf ihren kürzlichen Gipfeltreffen wieder. Ebenso forderte das Europäische Parlament in seiner Entschließung über Online-Plattformen vom Juni 2017 diese Plattformen auf, die „Maßnahmen zur Bekämpfung illegaler und schädlicher Online-Inhalte zu intensivieren“, und rief die Kommission auf, Vorschläge zur Bewältigung dieser Problem zu unterbreiten.

Die große Verbreitung illegaler Inhalte, die im Internet eingestellt und somit online zugänglich gemacht werden können, stellt jedoch ein ernstes Problem dar, dem entschlossen und wirksam begegnet werden muss. Was außerhalb des Internets verboten ist, ist auch im Internet illegal. Die Aufstachelung zu Terrorismus, Fremdenfeindlichkeit und Rassismus, insbesondere die öffentliche Aufstachelung zu Hass und Gewalt wie auch die Verbreitung von Material mit Darstellungen sexuellen Kindesmissbrauchs sind in der EU verboten. Die zunehmende Verfügbarkeit von terroristischem Online-Material und die Verbreitung solcher Inhalte stellen eine ernste Bedrohung für die Sicherheit dar und verletzen die Würde der Opfer. Die Europäische Union wirkt diesen Problemen zwar mit einer Reihe von Maßnahmen entgegen. Die Erkennung und Entfernung illegaler Online-Inhalte stellt aber eine dringliche Herausforderung für die digitale Gesellschaft von heute dar.

Online-Plattformen sind eine wichtige Triebkraft für Innovation und Wachstum in der digitalen Wirtschaft. Sie ermöglichen einen beispiellosen Zugang zu Informationen sowie deren Austausch und schaffen neue Marktchancen vor allem für kleine und mittlere Unternehmen (KMU). Darüber hinaus sind Online-Plattformen für die meisten Menschen heute der Hauptzugangspunkt zu Informationen und anderen Inhalten im Internet, sei es über Suchmaschinen, soziale Netzwerke, Mikro-Blogging-Sites oder Videoplattformen. Die Geschäftsmodelle der Plattformen haben sich in letzter Zeit ebenfalls deutlich hin zu einer engeren Verknüpfung von Nutzern und Inhalten weiterentwickelt, um vor allem auch eine gezielte Werbung zu ermöglichen. Diese Plattformen stellen riesige Mengen von Inhalten und Informationen für Milliarden von Nutzern bereit und erbringen innovative Dienstleistungen für Bürger und Unternehmen.

Diesbezüglich ist hervorzuheben, dass in diesem Rechtsrahmen in keiner Weise definiert oder auch gar harmonisiert wird, was „illegale“ Inhalte eigentlich sind. Was illegal ist, wird durch besondere Rechtsvorschriften auf EU-Ebene sowie durch nationale Rechtsvorschriften bestimmt. So unterscheiden sich beispielsweise terroristisches Material, illegale Hassbotschaften oder Material über sexuellen Kindesmissbrauch oder in Bezug auf Menschenhandel in Art, Merkmalen und Schadpotenzial ganz beträchtlich von der Verletzung von Rechten des geistigen Eigentums, Verstößen gegen Produktsicherheitsvorschriften, rechtswidrigen Geschäftspraktiken im Internet oder verleumderischen Online-Aktivitäten. Dennoch unterliegen alle diese unterschiedlichen Arten illegaler Inhalte demselben übergreifenden Rechtsrahmen der Richtlinie über den elektronischen Geschäftsverkehr. Angesichts der beträchtlichen Ähnlichkeiten in den Entfernungsverfahren für diese unterschiedlichen Arten von Inhalten wird in dieser Mitteilung auf die volle Bandbreite illegaler Online-Inhalte eingegangen, wobei sektorspezifische Unterscheide zugelassen werden, soweit dies angemessen und gerechtfertigt ist.

In der EU sind die Gerichte und die zuständigen nationalen Behörden, einschließlich der Strafverfolgungsbehörden, für die Verfolgung von Straftaten und die Verhängung strafrechtlicher Sanktionen in einem rechtsstaatlichen Verfahren zuständig, das auf der Rechtswidrigkeit bestimmter Handlungen oder Informationen im Internet beruht. Zugleich sind Online-Plattformen berechtigt zu verhindern, dass ihre Infrastrukturen und ihr Geschäftsbetrieb zur Begehung von Straftaten ausgenutzt werden, und tragen Verantwortung für den Schutz ihrer Nutzer und für die Verhinderung illegaler Inhalte auf ihren Plattformen. Außerdem verfügen sie in der Regel über die technischen Mittel, um solche Inhalte zu ermitteln und zu entfernen. Dies ist umso wichtiger, da Online-Plattformen massiv in die Entwicklung ausgefeilter Technologien investiert haben, um eine proaktive Erhebung von Informationen über die in ihrem Handlungsbereich zirkulierenden Inhalte und über das Verhalten der Nutzer zu ermöglichen. Rasche Entscheidungen über die Entfernung illegaler Inhalte sind zwar wichtig, es müssen aber auch angemessene Schutzvorkehrungen getroffen werden. Hierbei bedarf es auch einer ausgewogenen Rollenverteilung zwischen öffentlichen und privaten Stellen.

Die Leitlinien und Grundsätze, die in dieser Mitteilung dargelegt werden, betreffen daher nicht nur die Erkennung und Entfernung illegaler Inhalte. Vielmehr wird auch auf Bedenken bezüglich der Entfernung rechtmäßiger Inhalte („überzogene Entfernung“) eingegangen, was die Meinungsfreiheit und die Vielfalt der Medien beeinträchtigen würde. Es sollten daher angemessene Schutzvorkehrungen vorgesehen und an die besonderen Arten der jeweiligen illegalen Inhalte angepasst werden.

Ferner gibt es zweifellos Anliegen des öffentlichen Interesses im Zusammenhang mit Inhalten, die zwar nicht unbedingt illegal, aber dennoch potenziell schädlich sind, wie beispielsweise Falschnachrichten oder jugendgefährdende Inhalte. Der Schwerpunkt dieser Mitteilung liegt allerdings auf der Erkennung und Entfernung illegaler Inhalte.

3.Erkennung und Meldung illegaler Inhalte

In diesem Abschnitt wird dargelegt, was Online-Plattformen, zuständige Behörden und Nutzer tun sollten, um illegale Inhalte schnell und effizient zu erkennen.

Online-Plattformen können auf viele verschiedene Arten und durch unterschiedliche Kanäle Kenntnis von illegalen Inhalten erlangen. Solche Meldekanäle sind i) Gerichtsurteile und Verwaltungsverfügungen, ii) Hinweise von zuständigen Behörden (z. B. Strafverfolgungsbehörden), spezialisierten „vertrauenswürdigen Hinweisgebern“, Inhabern von Rechten des geistigen Eigentums oder normalen Nutzern sowie iii) eigene Ermittlungen oder Kenntnisse der Plattform selbst.

Zusätzlich zur Erfüllung ihrer Rechtspflichten, die sich aus dem EU-Recht und aus nationalem Recht ergeben, und zusätzlich zur Wahrnehmung ihrer Sorgfaltspflichten sollten Online-Plattformen als Teil ihrer Verantwortlichkeiten ein sicheres Online-Umfeld für die Nutzer gewährleisten, das eine kriminelle oder anderweitig illegale Ausnutzung erschwert und von Straftaten und anderen rechtsverletzenden Handlungen abschreckt bzw. diesen vorbeugt.

4.Gerichte und zuständige Behörden

Im Einklang mit den Rechtsvorschriften der EU und der Mitgliedstaaten können die nationalen Gerichte und – in bestimmten Fällen – die zuständigen Behörden bindende Weisungen erteilen oder Verwaltungsentscheidungen treffen, sodass Online-Plattformen illegale Inhalte entfernen oder den Zugang dazu sperren müssen.

Angesichts der Tatsache, dass die rasche Entfernung illegalen Materials häufig von wesentlicher Bedeutung ist, um eine weitere Verbreitung und größere Schäden zu vermeiden, sollten Online-Plattformen außerdem in der Lage sein, schnell über mögliche Maßnahmen in Bezug auf illegale Online-Inhalte zu entscheiden, ohne sich dabei auf eine Gerichts- oder Verwaltungsentscheidung stützen zu müssen, insbesondere dann, wenn eine Strafverfolgungsbehörde die mutmaßlich illegalen Inhalte ermittelt und den Plattformen mitgeteilt hat. Gleichzeitig sollten Online-Plattformen angemessene Sicherheitsvorkehrungen bei der Wahrnehmung ihrer diesbezüglichen Verantwortung treffen, um das Recht der Nutzer auf wirksamen Rechtsbehelf zu gewährleisten.

Online-Plattformen sollten daher über die erforderlichen Ressourcen verfügen, um den rechtlichen Rahmen, in dem sie tätig sind, zu erfassen. Ferner sollten sie eng mit den Strafverfolgungsbehörden und gegebenenfalls anderen zuständigen Behörden zusammenarbeiten, indem sie insbesondere sicherstellen, dass sie zügig und erfolgreich zur raschen Entfernung illegaler Inhalte erreicht werden können, und indem sie die Strafverfolgungsbehörden gegebenenfalls auf Anzeichen rechtswidriger Online-Tätigkeiten hinweisen. Um Doppelarbeit und Mehrfachmeldungen zu vermeiden, wodurch die Effizienz und Wirksamkeit des Verfahrens zur Entfernung von Inhalten verringern würde, sollten sich die Strafverfolgungsbehörden und sonstigen zuständigen Behörden im Übrigen nach besten Kräften um eine Zusammenarbeit bei der Festlegung leistungsfähiger digitaler Schnittstellen bemühen, die eine schnelle und zuverlässige Übermittlung von Meldungen erleichtern und eine effiziente Ermittlung und Meldung illegaler Inhalte gewährleisten. Für das ordnungsgemäße Funktionieren einer solchen Zusammenarbeit ist es entscheidend, dass sowohl die Plattformen als auch die Behörden Kontaktstellen einrichten.

Für terroristische Inhalte wurde eine EU-Meldestelle für Internetinhalte (EU Internet Referral Unit, EU-IRU) bei Europol eingerichtet, bei der Sicherheitsexperten terroristische Inhalte prüfen und den Online-Plattformen melden (einige Mitgliedstaaten haben allerdings ihre eigenen nationalen IRUs).

Online-Plattformen sollten ihre Zusammenarbeit mit den zuständigen Behörden in den Mitgliedstaaten systematisch verbessern. Gleichzeitig sollten die Mitgliedstaaten dafür sorgen, dass die Gerichte in der Lage sind, wirksam gegen illegale Online-Inhalte vorzugehen, sowie dass die (grenzüberschreitende) Zusammenarbeit zwischen den Behörden gestärkt wird. Online-Plattformen und Strafverfolgungsbehörden oder sonstige zuständige Behörden sollten wirksame Kontaktstellen in der EU einrichten und gegebenenfalls leistungsfähige digitale Schnittstellen festlegen, um ihr Zusammenwirken zu erleichtern. Plattformen und Strafverfolgungsbehörden werden ferner aufgefordert, technische Schnittstellen zu entwickeln, die ihnen eine wirksamere Zusammenarbeit im gesamten Politikgestaltungszyklus in Bezug auf Online-Inhalte ermöglichen. Auch die Zusammenarbeit mit den technischen Akteuren kann bei der Entwicklung wirksamer, technisch solider Lösungen im Zusammenhang mit dieser Herausforderung von Vorteil sein.

5.Meldungen

6.Vertrauenswürdige Hinweisgeber

Die Entfernung illegaler Online-Inhalte erfolgt schneller und zuverlässiger auf Online-Plattformen, die Mechanismen zur Vereinfachung eines privilegierten Zugangs für Hinweisgeber, die auf Grundlage ihres besonderen Fachwissens mögliche illegale Inhalte auf einer Website melden, eingerichtet haben. Dabei handelt es sich um „vertrauenswürdige Hinweisgeber“ (sogenannte „trusted flaggers“), d. h. spezialisierte Einrichtungen mit besonderen Fachkenntnissen in der Ermittlung illegaler Inhalte sowie spezielle Strukturen zur Erkennung und Ermittlung derartiger Online-Inhalte.