Source: https://verfassungsblog.de/blocking-overblocking/
Timestamp: 2020-07-04 22:49:11
Document Index: 208039695

Matched Legal Cases: ['Art. 4', 'Art. 1', '§ 4', '§ 3', '§ 3', '§ 3', '§ 4', '§ 4', '§ 3', 'Art. 103', '§ 4', '§ 3', '§ 3', '§ 4', '§ 4', '§ 3']

Blocking Overblocking | Verfassungsblog
Frankreichs Verfassungsrat kippt das Gesetz gegen Hasskriminalität im Netz
Nora Wienfort is a research assistant at the Chair of Public Law (Prof. Dr. Martin Eifert) at the Humboldt University of Berlin.
In Frankreich wie in Deutschland ist die Befürchtung groß, dass bußgeldbewehrte gesetzliche Vorgaben, Meldewege einzurichten und Prüf- und Entfernungspflichten bestimmter strafbarer Inhalte auszugestalten, die Anbieter sozialer Netzwerke dazu verleiten, auch solche Inhalte zu löschen oder zu sperren, die nicht rechtswidrig sind – sogenanntes Overblocking. Der Conseil Constitutionnel stellt fest: „…les dispositions contestées ne peuvent qu’inciter les opérateurs de plateforme en ligne à retirer les contenus qui leur sont signalés, qu’ils soient ou non manifestement illicites“ – die angegriffenen Vorschriften setzen den Plattformanbietern Anreize, die ihnen gemeldeten Inhalte zu entfernen, seien sie offensichtlich rechtswidrig oder nicht (Rn. 19). Der Verfassungsrat teilt also die Befürchtungen nicht nur der Senator*innen, die aus Furcht vor Overblocking den Normenkontrollantrag gestellt und damit die verfassungsgerichtliche Entscheidung herbeigeführt haben. Auch in der französischen Öffentlichkeit wird die Entscheidung überwiegend positiv aufgenommen (vgl. etwa hier und hier, anders aber gestern in Le Monde).
Eine falsche Entscheidung genügt
Zu Recht? Teilweise. Das französische Gesetz zur Bekämpfung von Hass im Netz hätte den Netzwerkanbietern tatsächlich starke Anreize gesetzt, gemeldete Inhalte im Zweifel zu entfernen. Dies unterscheidet es vom deutschen NetzDG, das in wesentlichen Punkten andere Regelungen trifft als sein französisches Pendant.
Die auf die Initiative der Abgeordneten Laetitia Avia zurückgehende „Loi Avia“ sah wie das NetzDG ein einheitliches Meldesystem für Beschwerden über bestimmte rechtswidrige Inhalte vor (Art. 4 n° 5) und machte Vorgaben, innerhalb welcher Frist die Netzwerkanbieter gemeldete Inhalte prüfen und ggf. entfernen müssen. Gem. Art. 1er n° 12 drohte Netzwerkanbietern ein Bußgeld, wenn sie einen gemeldeten offensichtlich rechtswidrigen Inhalt nicht innerhalb der 24-Stunden-Frist entfernten, nicht aber im umgekehrten Falle: wenn sie einen Inhalt entfernten, obwohl dieser gar nicht rechtswidrig war. Eine einzige falsche Entscheidung sollte als Grundlage für die Verhängung eines empfindlichen Bußgelds genügen. Dass Netzwerkanbieter dem wohl in Zweifelsfällen vorgebeugt hätten, indem sie rechtmäßige Inhalte sicherheitshalber entfernt hätten, liegt auf der Hand. Dass der Conseil Constitutionnel die Ausgestaltung der französischen Bußgeldregelungen rügt, überzeugt also.
Die Bußgeldregelungen des NetzDG schaffen dagegen keine einseitigen Anreize zum Overblocking. Nur systemische Verstöße gegen die Prüf- und Entfernungspflicht, also nicht einmalige Falschentscheidungen, sind bußgeldbewehrt (vgl. die Bußgeldleitlinien des BMJV, S. 7). Gem. § 4 Abs. 1 Nr. 2 NetzDG verstößt gegen die Pflicht, wer ein „Verfahren für den Umgang mit Beschwerden (…) nicht richtig (…) vorhält“ – dies ist auch der Fall, wenn systemisch rechtmäßige Inhalte entfernt werden. Ein Bußgeld kann Netzwerkanbietern in Deutschland also nicht nur drohen, wenn sie wiederholt rechtswidrige Inhalte nicht entfernen, sondern auch, wenn sie systematisch overblocken.
Die Bußgeldregelung
Der Conseil Constitutionnel tat sich aber nicht nur mit den Spezifika des französischen Gesetzes – insbesondere seinen Bußgeldregelungen – schwer. Dass die „Loi Avia“ einseitige Anreize für ein Overblocking setze, folgert es aus einer Zusammenschau von fünf Gründen. Dazu zählt die tatsächlich problematische Bußgeldregelung (Rn. 18). Die weiteren vier Gründe beziehen sich auf Regelungen, die im NetzDG Parallelen finden: Dass die Pflicht zur Prüfung und etwaigen Entfernung gemäß „Loi Avia“ schon durch eine einfache Meldung ausgelöst wird – ohne weitere Hürden, etwa ein gerichtliches Verfahren – und unabhängig davon, wie viele Meldungen das Netzwerk erreichten (Rn. 14), könne Netzwerkanbieter überfordern. Etwa für Fälle zahlreicher Meldung innerhalb kurzer Zeit hätte man laut der Entscheidung Ausnahmetatbestände vorsehen müssen (Rn. 17).
Insoweit ließe sich die Argumentation auf das NetzDG übertragen: Auch in Deutschland lösen NetzDG-Beschwerden von Nutzer*innen unmittelbar die Pflichten zur Prüfung und etwaigen Entfernung aus (§ 3 Abs. 2 Nr. 1) – unabhängig von der Zahl der Meldungen. Die Befürchtung des Conseil Constitutionnel vor einer unbeherrschbaren Vielzahl von Meldungen lässt sich angesichts der Erfahrungen mit dem deutschen NetzDG jedoch relativieren: Ein Großteil der entfernten Inhalte wird nicht wegen Verstoßes gegen das NetzDG, sondern wegen Verstoßes gegen die netzwerkeigenen Community Standards gemeldet bzw. gelöscht (vgl. etwa den aktuellen Transparenzbericht von YouTube, S. 1, 9). Dass die Zahl gemeldeter Inhalte durch das französische Gesetz wohl gestiegen wäre, ist gerade Ziel der gesetzlichen Ausgestaltung, deren Wirksamkeit entscheidend von der Mitwirkung der Nutzer*innen abhängt.
Laut Conseil Constitutionnel sei die 24-stündige Frist zur Prüfung und etwaigen Entfernung der Inhalte sehr kurz (Rn. 16), obwohl die Entscheidungen juristisch äußerst anspruchsvoll sein könnten und unter Umständen die Prüfung einer Vielzahl von Straftatbeständen erfordere (Rn. 15). Das deutsche NetzDG sieht in § 3 Abs. 1, Abs. 2 Nr. 2 ebenfalls eine 24-stündige Frist für die Prüfung und Entfernung offensichtlich rechtswidriger Inhalte vor. Anders als in Frankreich beträgt die Prüf- und Löschfrist nach NetzDG jedoch für Inhalte, deren Rechtswidrigkeit nicht offensichtlich ist, sieben Tage; selbst diese Frist kann in bestimmten Fällen überschritten werden (§ 3 Abs. 2 Nr. 3 NetzDG). In Frankreich dagegen sollten überhaupt nur offensichtlich rechtswidrige Hassposts Pflichten zur Prüfung und Entfernung auslösen (Article 1er n° 9). Die Sorgen des Conseil Constitutionnel vor einer qualitativen Überforderung der Netzwerkanbieter sind damit nicht nachvollziehbar: Offensichtliche Rechtswidrigkeit liegt schließlich nur dann vor, wenn Netzwerkanbieter keine komplexe Prüfung vornehmen müssen.
Da sich die Begründung auf das kumulative Vorliegen dieser fünf Gründe stützt, bleibt leider offen, welche Änderungen aus Sicht des Conseil Constitutionnel für eine verfassungskonforme Ausgestaltung notwendig wären. Dabei spricht vieles dafür, dass eine veränderte Bußgeldregelung genügen würde, um der Gefahr von Overblocking zu entgehen: Schließlich setzt eine innerhalb kurzer Zeit zu leistende, juristisch anspruchsvolle Prüfung als solche keinen Anreiz für einseitige Fehlentscheidungen im Sinne eines Overblockings. Genauso sind bei qualitativer und quantitativer Überforderung Fehlentscheidungen in die andere Richtung, also zugunsten der Poster*innen eines rechtswidrigen Inhalts, denkbar. Die Erwägungen, die zur Verfassungswidrigkeit großer Teile der „Loi Avia“ führen, sind damit auf das deutsche NetzDG mit seinem auf systemische Fehler abstellenden Bußgeldregime nicht übertragbar.
SUGGESTED CITATION Wienfort, Nora: Blocking Overblocking: Frankreichs Verfassungsrat kippt das Gesetz gegen Hasskriminalität im Netz, VerfBlog, 2020/6/20, https://verfassungsblog.de/blocking-overblocking/.
David Werdermann, Di 23 Jun 2020 / 09:38 Antworten
vielen Dank für den Beitrag, der einige Unterschiede der beiden Gesetze sehr gut herausstellt.
Etwas verwundert bin ich über die Auslegung, dass § 4 Abs. 1 Nr. 2 NetzDG auch den Fall erfasst, dass systematisch rechtmäßige Beiträge gelöscht werden. Das würde bedeuten, das Netzwerke keine über das Recht hinausgehenden Community-Standards festlegen dürften. Das mag man rechtspolitisch für richtig halten, bei marktbeherrschenden Plattformen auch für grundrechtlich geboten, ist aber meines Wissens vom NetzDG bisher nicht vorgesehen.
Dominik Boecker, Mi 24 Jun 2020 / 14:29 Antworten
Da ich nicht weiß, ob die Kommentare bei FB beim Autor ankommen, copy&paste meines dortigen Kommentars:
Reichlich optimistisch: eine Pflicht, keine rechtmäßigen Inhalte zu sperren ist dem Zusammenspiel von § 4 I und § 3 I NetzDG mE nicht zu entnehmen. Zumal nicht aus dem Wortlaut.
Und jetzt legen wir das BVerfG mit seiner ständigen Entscheidungspraxis daneben: „Art. 103 Abs. 2 GG erfasst insbesondere Straf- und Bußgeldtatbestände (vgl. BVerfGE 81, 132 ; 87, 399 ). Die Norm enthält – neben dem hier unerheblichen Rückwirkungsverbot – ein besonderes Bestimmtheitsgebot. Der Gesetzgeber ist danach verpflichtet, die Voraussetzungen der Strafbarkeit oder Bußgeldbewehrung so konkret zu umschreiben, dass Anwendungsbereich und Tragweite der Straf- oder Ordnungswidrigkeitentatbestände aus dem Wortlaut der Norm zu erkennen sind oder sich zumindest durch Auslegung ermitteln lassen.“.
So, rein in den Wortlaut: „§ 4 Bußgeldvorschriften
2. entgegen § 3 Absatz 1 Satz 1 ein dort genanntes Verfahren für den Umgang mit Beschwerden von Beschwerdestellen oder Nutzern, die im Inland wohnhaft sind oder ihren Sitz haben, nicht, nicht richtig oder nicht vollständig vorhält,
3. (…)“
In Verbindung mit: „§ 3 Umgang mit Beschwerden über rechtswidrige Inhalte
(1) Der Anbieter eines sozialen Netzwerks muss ein wirksames und transparentes Verfahren nach Absatz 2 und 3 für den Umgang mit Beschwerden über rechtswidrige Inhalte vorhalten.“ und „(2) Das Verfahren muss gewährleisten, dass der Anbieter des sozialen Netzwerks
1. unverzüglich von der Beschwerde Kenntnis nimmt und prüft, ob der in der Beschwerde gemeldete Inhalt rechtswidrig und zu entfernen oder der Zugang zu ihm zu sperren ist,
3. jeden rechtswidrigen Inhalt unverzüglich, in der Regel innerhalb von sieben Tagen nach Eingang der Beschwerde entfernt oder den Zugang zu ihm sperrt; die Frist von sieben Tagen kann überschritten werden, wenn
a) die Entscheidung über die Rechtswidrigkeit des Inhalts von der Unwahrheit einer Tatsachenbehauptung oder erkennbar von anderen tatsächlichen Umständen abhängt; das soziale Netzwerk kann in diesen Fällen dem Nutzer vor der Entscheidung Gelegenheit zur Stellungnahme zu der Beschwerde geben,
b) das soziale Netzwerk die Entscheidung über die Rechtswidrigkeit innerhalb von sieben Tagen nach Eingang der Beschwerde einer nach den Absätzen 6 bis 8 anerkannten Einrichtung der Regulierten Selbstregulierung überträgt und sich deren Entscheidung unterwirft,
4. im Falle der Entfernung den Inhalt zu Beweiszwecken sichert und zu diesem Zweck für die Dauer von zehn Wochen innerhalb des Geltungsbereichs der Richtlinien 2000/31/EG und 2010/13/EU speichert,
5. den Beschwerdeführer und den Nutzer über jede Entscheidung unverzüglich informiert und seine Entscheidung ihnen gegenüber begründet.
(3) Das Verfahren muss vorsehen, dass jede Beschwerde und die zu ihrer Abhilfe getroffene Maßnahme innerhalb des Geltungsbereichs der Richtlinien 2000/31/EG und 2010/13/EU dokumentiert wird.“.
Das steht nichts, rein gar nichts dazu, dass die Löschung eines rechtmäßigen Inhalts „nicht richtig“es Verfahren im Sinne des § 4 I Nr. 2 NetzDG sein könnte. Das „nicht richtig“ bezieht sich nach dem Wortlauf auf das Verfahren und nicht auf die Entscheidung, die am Ende des Verfahrens in die eine oder andere Richtung getroffen wird.
Nora Wienfort, Mi 24 Jun 2020 / 18:41 Antworten
vielen Dank für den Hinweis – ich versuche, zu präzisieren: Ob auch systemisches Overblocking unter § 4 Abs. 1 Nr. 2 NetzDG fällt, ist umstritten. Der Wortlaut spricht dafür, schließlich ist das Verfahren für den Umgang mit Beschwerden nach § 3 Abs. 1 Nr. 2 NetzDG auch dann nicht richtig zur Verfügung gestellt, wenn systematisch nicht-rechtswidrige Inhalte entfernt werden. Nicht rechtswidrig können dann natürlich nur solche Inhalte sein, die weder nach NetzDG noch wegen anderer Gesetzesverstöße (etwa gegen Urheberrecht) oder Vertragsverletzungen (gegen die Community Standards, also AGB) hätten entfernt werden dürfen. Community Standards dürfen m.E. grundsätzlich also über das NetzDG hinausgehen; Folgefrage ist dann, ob – und falls ja, inwieweit – die Netzwerkanbieter bei der Anwendung von Community Standards die Grundrechte der Nutzer*innen zu berücksichtigen haben.