Syrische Flüchtlinge räumen für Facebook den Müll aus dem News-Feed

Straßenszene aus der Siemensstadt, in der sich auch das Arvato-Büro befindet. Bild (Ausschnitt): Peter Kuley, Wikimedia | Lizenz: CC BY-SA 3.0

„Facebook verrät, wie viele Hasskommentare wirklich gelöscht werden". Mehr als eine grobe Zahl muss ein Facebook-Manager im September nicht nennen, um in der Lösch-Debatte eine Schlagzeile zu produzieren. Dabei war die Angabe, die Europachef Richard Allen bei einer Pressekonferenz im Berliner Bundesjustizministerium bekannt gab, denkbar unkonkret: Mehr als 100.000 einzelne Posts habe man in Deutschland im Monat August als Hasskommentare gelöscht—ob es sich dabei um strafbare Inhalte handelt oder um Inhalte, die gegen Facebooks interne Community Standards verstoßen, verriet er nicht. „Mehrere hundert Menschen" würden sich um das Löschen von Beiträgen kümmern, erklärte der Facebook-Manager noch allgemein. Doch wie das Löschen wirklich abläuft und wer sich unter welchen Bedingungen um das immense Problem kümmert, verriet der Manager nicht.

Dabei finden sich viele Antworten auf diese Fragen weniger als zehn Kilometer vom Bundesjustizministerium entfernt. 600 Mitarbeiter von Facebooks Löschteam sitzen nämlich auch an jenem Septembernachmittag der Pressekonferenz in einem nüchternen Werksgebäude im Norden Berlins. Sie sind die Müllabfuhr des sozialen Netzwerks. Details aus ihrem Job würde Facebook am liebsten aus der Öffentlichkeit heraushalten. Jeden Tag prüfen sie tausende verstörende und schwer erträgliche Inhalte: Das Löschteam ist nicht nur für Hasskommentare zuständig; zu ihren Aufgaben gehört es zum Beispiel auch, Nacktbilder, Enthauptungen, Tierquälerei und Kinderpornographie zu prüfen. Und sie tun das nicht nur für den deutschen Markt: In dem Gebäude am Wohlrabedamm arbeiten auch zahlreiche internationale Teams, die zum Beispiel Content für spanisch-sprachige Länder oder den arabischen Raum prüfen.

Folgt Motherboard auf Facebook, Instagram, Snapchat und Twitter

Die Mitarbeiter entscheiden darüber, ob gemeldete Inhalte gelöscht werden und nicht in den Newsfeeds von Millionen von Facebook-Nutzern landen können oder ob sie bleiben dürfen. Das Dramatische: Um die richtige Entscheidung gemäß der komplizierten Facebook-Regeln zu treffen, müssen sie die Inhalte genau betrachten. So kommt es, dass im Norden Berlins Menschen sitzen, die nichts anderes tun, als stundenlang Hassreden oder sadistische Videos für Geld zu betrachten. Durch den Clip zu skippen oder den Ton auszuschalten ist keine Option—sie könnten sonst löschungsrelevante Informationen verpassen. Das Arbeitspensum liegt bei rund 2000 zu prüfenden Posts am Tag, so die Vorgabe der Vorgesetzten. Pro Fall haben die Mitarbeiter durchschnittlich nur acht Sekunden Zeit, obwohl Filme immer wieder in ganzer Länge betrachtet werden müssten.

All das kommt nun dank einer ausführlichen Recherche ans Licht, die in der aktuellen Ausgabe des SZ-Magazins erscheint. Für den Text haben die Journalisten Hannes Grassegger und Till Krause mit zahlreichen ehemaligen und aktuellen Mitarbeitern gesprochen, die für Arvato arbeiten, jenen Dienstleister, den Facebook mit der Löschung von Inhalten beauftragt hat.

Der Text, der online für wenige Euro in seiner ganzen Länge gelesen werden kann, enthüllt auch eine besonders bittere Ironie: Unter den Arvato-Mitarbeitern, die Inhalte sichten und löschen, befinden sich auch Flüchtlinge aus Syrien. In Deutschland sind sie vor der physischen Gewalt und der Terrorherrschaft des IS sicher, doch aufgrund ihres Jobs sind sie nun den grausamen Gewaltdarstellungen und Enthauptungsszenen, die aus ihrer Heimat in die Newsfeeds von Facebook dringen, mit all ihren entsetzlichen Details ausgesetzt.

Welche Art von Beiträgen die Mitarbeiter zu sehen bekommen, können sie nur bedingt selbst beeinflussen. Zwar gibt es einzelne Teams, die sich um spezielle Inhalte wie Kinderpornographie oder Cybermobbing kümmern, aber für viele der Lösch-Arbeiter mit denen die SZ gesprochen hat, geht die tägliche Routine auch mit einer fatalen Ungewissheit einher: Nach dem Log-in auf eine Facebook-eigene Bearbeitungsplattform warten in einer Warteschlange tausende gemeldete Beiträge auf die Sichtung, doch welcher Inhalt hinter dem nächsten Ticket aus dem internen System wartet, wissen die Mitarbeiter vorher nicht. „Es ist eine zufällige Bildauswahl, was so aus der Warteschlange kommt. Tierquälerei, Hakenkreuz, Penisse", erklärt eine der anonymen Quellen gegenüber der SZ.

Die Mitarbeiter, die diese Warteschlangen in Akkordarbeit abarbeiten, gehören zu den sogenannten FNRP-Teams, der untersten Hierarchiestufe von Arvato, in der auch syrische Flüchtlinge tätig sind, wie auch Recherchen von Motherboard aus den vergangenen Monaten bestätigen. Das Gehalt dieser Lösch-Arbeiter, die 40 Stunden die Woche aufgeteilt auf eine Früh- und eine Spätschicht in den Arvato-Räumen vor ihren Rechnern sitzen, liegt nur knapp über einem Mindestlohn von 8,50 die Stunde. Laut SZ-Magazin beträgt es rund 1500 Euro brutto.

Immer wieder weisen die anonymen Quellen, die in der SZ-Reportage zu Wort kommen, daraufhin, dass sie die psychischen Herausforderungen ihres Jobs überfordern. Manche freuten sich vor der ersten Schicht, für das größte soziale Netzwerk der Welt zu arbeiten—heute klagen sie dagegen an, dass sie nicht ausreichend geschult wurden.

Tatsächlich bietet Arvato professionelle psychologische Betreuung an, doch laut der anonymen Qullen nur von einer Sozialpädagogin und zunächst nur in Gruppenterminen. Facebook betonte der SZ gegenüber, dass es jedem Mitarbeiter offen stehe, psychologische Betreuung in Anspruch zu nehmen. Klar ist: Regelmäßig plagen sich die Lösch-Arbeiter mit der Frage, ob sie kündigen sollen. Eines der eindrücklichsten Zitate, in dem ein Mitarbeiter gegenüber der SZ aus seinem Arbeitsalltag berichtet, verdeutlicht das:

Die Arbeitsbedingungen der Lösch-Arbeiter machen allerdings auch Mitarbeitern, die höher in der Hierarchie der Bertelsmann-Tochter Arvato stehen, sorgen. Das zeigen Aussagen interner Arvato-Mitarbeiter gegenüber Motherboard, die sich besonders von der zynischen Situation erschrocken zeigten, in der sich die Flüchtlinge in den Löschteams wiederfinden.

Gegenüber der SZ liefert einer der Mitarbeiter eine prägnante Erklärung, warum diese Jobs, die man bisher eher mit externen Dienstleistern auf den Philipinen in Verbindung brachte, in der Hauptstadt Deutschlands erledigt werden:

Oft seien die eigentlichen beruflichen Qualifikation der Flüchtlinge, die für Arvato arbeiten oder arbeiteten, in Deutschland nicht anerkannt. Auch Leute mit Doktortitel oder gelernte Quantenphysiker waren schon für Facebook als digitale Müllabfuhr tätig, wie die SZ erfahren hat.

Sowohl unsere Recherchen, wie auch frühere Berichte von Mobilegeeks, zeigen noch etwas anderes: Arvato-Mitarbeiter äußern sich gegenüber der Presse oft nur sehr zurückhaltend und stets nur anonym. Sie haben strenge Non-Disclosure Agreements unterschrieben, mit Journalisten zu sprechen, ist ihnen explizit untersagt. Auch Justizminister Heiko Maas, der seit Monaten versucht Facebook zu mehr Transparenz in Sachen Hasskommentaren zu drängen, hatte nie Zugang zu den Gebäuden im Norden Berlins, in denen jene Löschungen stattfinden, die darüber entscheiden, was in den Newsfeeds von Millionen deutscher Facebook-User landet.

Die SZ-Recherche, die es wert ist in ihrer ganzen Länge von zehn Seiten gelesen zu werden, beschäftigt sich nicht nur mit den Arbeitsbedingungen der Lösch-Arbeiter, sie enthüllt auch einen Großteil der geheimen Lösch-Regeln, die Facebook intern festgelegt hat. Heiko Maas dürfte den Bericht mit großem Interesse gelesen haben—vielleicht fährt er ja doch bald einmal die B2 entlang und unter der Autobahn 111 in das schmucklose Gewerbegebiet im Norden Berlins. Wenn er es ernst meint mit seinen Bemühungen die Lösch-Prozesse von Facebook zu verbessern, dann kann ihm das, was dort passiert, nicht egal sein.