Content Moderatoren sichten und löschen unangemessene Inhalte aus dem Internet.

Content Moderatoren sichten und löschen unangemessene Inhalte aus dem Internet.

Foto: gebrueder beetz filmproduktion

„Das Internet ist eine digitale Müllhalde.“ Das sagen die beiden Regisseure Moritz Riesewieck und Hans Block. Sie haben einen Dokumentarfilm über die Leute gedreht, die diesen Müll sortieren: Billige Arbeitskräfte auf den Philippinen, die sich jeden Tag durch Terrorpropaganda, Kinderpornos und Vergewaltungsvideos klicken.

„The Cleaners“ heißt die Doku, die heute in den Kinos anläuft. Moritz und Hans zeigen darin das Leben der Menschen, die sich täglich acht Stunden die grausamsten Dinge ansehen müssen, die die User ins Netz stellen. Dieser Job nennt sich Content Moderator. Ein Content Moderator entscheidet, welche Inhalte auf den sozialen Netzwerken wie Facebook angezeigt oder gelöscht werden.

jetzt: Hans und Moritz, wer sind die Leute, die sich als Content-Moderatoren durch die schlimmsten Inhalte des Internets wühlen?

Hans: Wir hatten es mit einer sehr jungen Workforce zu tun. Das sind größtenteils College-Absolventen, so um die 20 Jahre alt. Die Philippinen sind ein Entwicklungsland. Viele junge Leute sind gezwungen, auf riesigen Müllkippen zu arbeiten und Papier von Plastik zu trennen. Da ist ein Job in der Tech-Branche in der Innenstadt in einem Wolkenkratzer natürlich erstmal ein Anreiz. Die meisten merken erst später, dass das der dreckigste Job des Internets ist.

Wie viel Material sichtet so ein Content Moderator am Tag?

Hans: Allein Facebook hat weit über zwei Milliarden aktive Nutzer. Da kommt eine Unmenge an Content zusammen, der natürlich moderiert werden muss. Im Film hat uns ein junger Mann erzählt, dass er 25.000 Bilder und Videos am Tag sichten muss. Da bleiben dann wirklich nur Sekunden um darüber zu entscheiden, ob ein Inhalt angemessen ist oder nicht.

Moritz: Das Problem dabei ist, dass die Entscheidung oft gar nicht so einfach ist. Wie soll ein 20-jähriger Philippino zum Beispiel in drei Sekunden entscheiden, ob das westliche Satire oder islamistische Terrorpropaganda ist?

Was macht dieser Job mit den Leuten?

Hans: Wenn man sich jeden Tag acht bis zehn Stunden Vergewaltigungen und Enthauptungen anschaut, dann hinterlässt das Spuren. Viele Content Moderatoren leiden unter einer posttraumatischen Belastungsstörung. Psychologen vergleichen das mit Soldaten, die im Krieg schlimme Dinge gesehen haben.

"Wenn man sich jeden Tag acht bis zehn Stunden Vergewaltigungen und Enthauptungen anschaut, dann hinterlässt das Spuren"

Moritz: Die Arbeiter auf den Philippinen zeigen die gleichen Symptome. Sie haben Angstzustände, Schlafstörungen und leiden an Realitätsverlust. Während wir in Manila waren, haben wir von einem Mann gehört, der darauf spezialisiert war, Inhalte zu löschen, die zeigen, wie Menschen sich selbst verletzen. Er hat mehrmals um eine Versetzung in eine andere Abteilung gebeten, nichts ist passiert. Am Ende hat er sich erhängt.

Warum sind diese Löschzentren gerade auf den Philippinen?

Moritz: Zuerst mal ist es ein Billiglohnland. Die Content Moderatoren verdienen einen bis drei Dollar in der Stunde, was dort überdurchschnittlich viel ist. Aber viel weniger, als zum Beispiel Facebook den Menschen in Amerika für diese Arbeit zahlen müsste. Außerdem werben die Firmen damit, dass in der Gesellschaft westliche Werte herrschen. Die Philippinen waren nämlich 300 Jahre lang eine spanische und 100 Jahre lang eine amerikanische Kolonie.

Hans: Religion spielt auch noch eine Rolle. 90 Prozent der jungen Leute sind streng katholisch. Die Firmen verkaufen den Job so, als hätte er eine christliche Mission: Die Content Moderatoren sollen die Sünden der Welt löschen und dafür leiden, dass die Welt sauberer wird.

Ihr habt für den Film mit sehr vielen Content-Moderatoren gesprochen. Wie geht es diesen Leuten heute?

Hans: Im Film werden nur Leute sichtbar, die vor oder während den Dreharbeiten ihren Job gekündigt haben. Denen geht es heute verhältnismäßig gut, wir sind nach wie vor in Kontakt. Einer arbeitet zum Beispiel in einem Callcenter, eine andere ist jetzt Lehrerin für schwer erziehbare Kinder.

Als ihr angefangen habt zu recherchieren, habt ihr zunächst wenig über die Branche herausgefunden. Warum?

Moritz: Die Kontaktaufnahme war extrem schwierig, weil keiner offiziell weiß, wie diese Arbeit aussieht oder wo sie gemacht wird. Irgendwann haben wir zum Beispiel rausgefunden, dass die Firma, die für Facebook moderiert, Facebook gar nicht beim Namen nennt. Die sagen dazu das „Honeybadger-Project“ (dt. Honigdachs-Projekt, Anm. d. Redaktion).

"Wir haben das Internet an die Großkonzerne verloren"

Habt ihr irgendwann während der Recherche das Gefühl gehabt, dass ihr euch selbst in Gefahr begebt?

Hans: Es gab schon auch heikle Momente. Als wir in Manila recherchiert haben, wurden wir auf einmal verfolgt und fotografiert. Unsere Fotos gingen dann an die Mitarbeiter mit der Drohung, dass jeder, der mit uns spricht, gekündigt wird.

Euer Film ging schon vor dem Kinostart durch die Medien. Hat eure Doku schon Wirkung gezeigt?

Moritz: Bis jetzt arbeiten die Leute dort immer noch für einen schlechten Lohn, ohne psychologische Betreuung und in der gleichen Geschwindigkeit. Wir würden uns wirklich wünschen, dass Facebook irgendwann auf unseren Film reagiert. Das ist bis jetzt noch nicht passiert.

Hans: Zuckerberg hat ja vor dem US-Kongress gesagt, er will 20.000 Leute einstellen, um die Inhalte besser zu moderieren. Nur bringt das unter den jetzigen Bedingungen gar nichts, selbst wenn er 50.000 Leute einstellen würde. Dafür braucht man geschulte, gut betreute Fachkräfte. Und die sollten nicht in einem Großraumbüro in Manila sitzen, sondern an verschiedenen Orten der Welt mit verschiedenen kulturellen Backgrounds.

Die digitale Welt ist sehr schnelllebig. Wie hat sich das Business verändert in der Zeit, in der ihr an diesem Film gearbeitet habt?

Moritz: Am Anfang haben unsere Freunde noch gefragt, wozu man einen Film über dieses Thema braucht. Spätestens mit dem Brexit und der Wahl von Donald Trump wurde dann klar, wie groß der Einfluss von der digitalen auf die reale Welt ist. Außerdem steigen die Nutzerzahlen immer noch, deshalb gibt es auch immer noch mehr und mehr Müll, der sortiert werden muss.

Wie seht ihr heute Social Media?

Hans: Wir sind keine Technikpessimisten geworden. Die Idee, Menschen zu verbinden, finden wir immer noch gut. Allerdings wird das Internet gerade extrem privatisiert. Wir haben das Internet an die Großkonzerne verloren und die machen damit, was sie wollen. Wir sollten im Internet wieder digitale Bürger mit Rechten und Pflichten werden und nicht unter der Diktatur von ein paar Konzernen leben.

Mehr über Facebook: