Im Schatten der Netzwelt – The Cleaners
Authors: Neuleitner Dana 
Published: December 2024

„Dieses Video ist in deinem Land nicht verfügbar.“ „Dieser Post wurde gelöscht.“ Benachrichtigungen wie diese zeigen an, dass Inhalte aus den sozialen Medien entfernt wurden. Die Gründe dafür sind vielfältig. Aber was wird alles gelöscht? Und wer bestimmt, was bleiben darf? Der investigative Dokumentarfilm Im Schatten der Netzwelt – The ­Cleaners von Hans Block und Moritz Riesewieck, der zu diesem Thema schon ein Buch und ein Theaterstück verfasst hat, sucht nach Antworten. In 85 Minuten wird ein umfassendes Bild der Lage gezeichnet – allerdings mit geschärftem Blick auf die großen, den Markt bestimmenden Player wie Facebook, Google oder YouTube. Sie wollte keine Müllsammlerin werden, deshalb habe sie sich in der Schule angestrengt, erklärt eine junge Philippinerin. Die Berufsaussichten und die Bezahlung in ihrer Heimat sind oft schlecht. Doch anstatt wie viele andere sortiert sie nicht den Müll auf den großen Deponien, sondern digital: Sie ist Content-Moderatorin und arbeitet über eine Drittfirma für ein Soziales Netzwerk. Die philippinische Hauptstadt Manila ist der „weltweit größt[e] Standort für Content-Moderation“. „Unsere Aufgabe ist es, die Inhalte der Nutzerinnen und Nutzer zu überwachen und zu moderieren. Ich helfe den Menschen. Ich kämpfe gegen die Verbreitung von Kindesmissbrauch. Ich muss Terrorismus identifizieren und Cybermobbing eindämmen“, erzählt sie im Dokumentarfilm, der am 28. August 2018 erstmals im Free-TV auf ARTE ausgestrahlt wurde und Anfang September in der Mediathek von Das Erste abrufbar war.
Der Film beschäftigt sich mit Zensur in den Sozialen Medien – ein sensibles und wichtiges Thema, mit dem sich auch junge Nutzerinnen und Nutzer auseinandersetzen sollten. Einerseits können gefähr­liche Inhalte von den etwa drei Milliarden aktiven Social Media-Userinnen und -Usern ferngehalten und sie so vor möglichem Schaden bewahrt werden. Andererseits bleibt Zensur eben Zensur, was im ungünstigsten Fall die Meinungs- und Informationsfreiheit der Bürgerinnen und Bürger beschneidet. Das Internet – und somit auch Soziale Netzwerke – kann für sie ein wichtiger Ort sein, um von ihrem Recht auf Meinungsfreiheit Gebrauch zu machen, besonders in Ländern, in denen es um dieses Recht schlecht bestellt ist. Die Autoren gehen hier etwa auf politisch motivierte Löschungen in der Türkei und Videos von Anschlägen in Syrien ein – Material, das etwa von NGOs schnellstmöglich gesammelt und vor dem Löschen bewahrt wird, um über die Lage dort zu berichten. In der Regel verfügen soziale Plattformen über eigene Nutzungsbedingungen – Gewalt, Pornografie und Hassrede verstoßen meistens dagegen. Diese Inhalte werden entfernt, wenn sie jemand meldet. Facebook etwa verbietet, „etwas zu tun oder zu teilen“, das „rechtswidrig, irreführend, diskri­minierend oder betrügerisch“ ist oder „verletzt bzw. […] gegen die Rechte einer anderen Person [verstößt]“. Die Auslegung in der Praxis ist oft willkürlich. Schülerinnen und Schülern sollte diese Thematik nähergebracht werden. Dazu könnte im Unterricht darauf eingegangen werden, dass sich die Betreiber in Deutschland seit Anfang Oktober 2017 an den Richtlinien des Netzwerkdurchsetzungsgesetzes (NetzDG) ‚orientieren‘ müssen. Jedoch entscheiden nicht etwa Juristinnen oder Juristen darüber, ob gemeldete Beiträge den Kategorien entsprechen und entfernt werden, sondern „Personen, […] [die] lediglich halbjährlich geschult werden“ müssen, wie No Hate Speech Movement Deutschland kritisiert. Sie – oder eben philippinische Cleaner, die oftmals über geringe Vorkenntnisse verfügen – formen durch ‚Löschen‘ oder ‚Ignorieren‘ das Welt- und Wertebild der Userinnen und User mit, bei denen Social Web fest im Alltag integriert ist und sie – auch unbewusst – beeinflusst.
Durch die bildhafte Sprache der geschilderten Erfahrungen und die Machart der Reportage und Dokumentation kann sich die Zuschauerin bzw. der Zuschauer in die Lage der Cleaner hineinversetzen. So werden beispielsweise ausgewählte, von Facebook gelöschte Bilder zum Teil nicht zensiert oder sehr detailliert beschrieben – etwa das einer erschossenen Person oder eines ertrunkenen Flüchtlingskindes sowie das provokative Gemälde eines nackten Donald Trumps der Künstlerin Illma Gore. The Cleaners trägt unter anderem deshalb FSK 16. Die Filmautoren verzichten dennoch auf eine Kommentatorin bzw. einen Kommentator. Somit lassen sie die Rezipientinnen und Rezipienten in der Verortung des Gesehenen zwar weitestgehend selbstbestimmt, allerdings in ihrer Eigenverantwortlichkeit zu wissen, zu verstehen und einzuordnen auch tendenziell auf sich gestellt.
The Cleaners könnte sich gut als Lehrvideo eignen, dabei sollte die Lehrkraft jedoch darauf achten, dass die Inhalte mit den Schülerinnen und Schülern ausreichend besprochen oder eventuell nur einige Szenen auswählt werden. Ob und wie die philippinischen Cleaner psychisch betreut werden, ist darüber hinaus fraglich.
Auch in den USA wird über psychische Belas­tungen der Mitarbeiterinnen und Mitarbeiter berichtet. Facebook droht dort nun eine Sammelklage: Dem SPIEGEL zufolge werfen die Klägerinnen und Kläger der Plattform vor, ihre Angestellten – oft Zeitarbeiterinnen und -arbeiter – nicht ausreichend zu schützen. Es wird auch dargestellt, warum Algorithmen und schlecht ausgebildete Content-Moderatorinnen und -Moderatoren nicht zuverlässig arbeiten können: Oft muss der Kontext mit ausgewertet werden. Doch das nötige Hintergrundwissen fehlt. Ein philippinischer Content-Moderator erkennt beispielsweise den türkischen Präsidenten Erdoğan nicht und hält ihn lediglich für einen alten Mann. Jungen Lernenden kann so verdeutlicht werden, wie wichtig es ist, Inhalte aus dem Netz stets zu reflektieren und den eigenen Wissensstand zu vergrößern.
The Cleaners leistet einen wichtigen Beitrag zur Diskussion über Inhalte, die gegen Gesetze oder Community-Richtlinien verstoßen und regt an, über mögliche Lösungen nachzudenken. Uploadfilter wie sie die EU-Kommission Mitte September vorschlug und die beispielsweise gegen terroristische Inhalte vorgehen sollen, könnten zwar nützen, jedoch auch schnell in Richtung Zensur schwenken. So betonte Nicole Wong, ehemalige Führungskraft bei Google und Twitter, im Film: „Wenn man Wert auf Meinungsfreiheit legt und eine demokratische Plattform will, dann entscheidet man sich für die liberaleren Grundsätze.“ Eltern oder pädagogischen Fachkräften ist demnach zu empfehlen, Jugendliche im Anschluss an den Film zu Gesprächen oder Diskussi­onen über Filminhalte anzuregen und unter anderem Arbeitsbedingungen der Cleaners sowie mögliche Lösungswege oder auch das eigene Nutzungsverhalten auf Sozialen Plattformen zu reflektieren.