Bilck auf das neue Facebook-Löschzentrum in Essen (rechts). Das Gebäude liegt in einem Gewerbegebiet westlich der Innenstadt. Bild: Max Hoppenstedt | Motherboard

Zu Besuch in Facebooks neuem Löschzentrum, das gerade den Betrieb aufnimmt

Die Tour gibt einen seltenen Einblick in Details der Content-Moderation von Facebook – und was sie für diejenigen bedeutet, die die Löschregeln umsetzen müssen.

|
Nov. 24 2017, 9:59am

Bilck auf das neue Facebook-Löschzentrum in Essen (rechts). Das Gebäude liegt in einem Gewerbegebiet westlich der Innenstadt. Bild: Max Hoppenstedt | Motherboard

Facebook hat erstmals Journalisten Zugang zu seinem neuen Löschzentrum in Essen gewährt und gleichzeitig bekannt gegeben, dass die neue Anlage nun Schritt für Schritt ihren Betrieb aufnimmt. In dem vierstöckigen Gebäude löschen aktuell schon über 400 Mitarbeiter Kommentare, Bilder und Videos, die gegen die Regeln von Facebook verstoßen.

Dabei müssen die Mitarbeiter auch teilweise verstörende Videos und Bilder prüfen. Der Großteil der zu sichtenden Inhalte stammt laut eines Facebook-Sprechers aus den Themenbereichen Hassrede, Spam und Fake Accounts. Man könnte auch sagen: Die Löscharbeiter bringen für Facebook den Müll raus, den einige der Millionen User aus aller Welt jeden Tag auf dem Sozialen Netzwerk abladen. Was laut der Regeln von Facebook nicht auf der Plattform sein darf, müssen die Content Moderatoren sichten und entfernen. Es ist eine gleichermaßen erschöpfende und in manchen Fällen auch komplizierte, wie wichtige Arbeit. Details darüber, wie genau die Lösch-Arbeit abläuft, sind allerdings öffentlich kaum bekannt.

Folgt Motherboard auf Facebook, Instagram, Snapchat und Twitter

Die ersten Mitarbeiter in Essen haben im Oktober angefangen. Bis zum Ende des Jahres sollen insgesamt 500 Angestellte in dem Bürogebäude arbeiten, das in einem Gewerbegebiet wenige Gehminuten von der Essener Innenstadt entfernt liegt. Das Löschzentrum ist die zweite Einrichtung dieser Art in Deutschland. Bereits seit über zwei Jahren gibt es im Westen Berlins ein Löschzentrum, das von der Bertelsmann-Tochter Arvato betrieben wird. Insgesamt werden ab 2018 dann alleine in Deutschland 1.200 Löscharbeiter für Facebook Inhalte prüfen und entfernen.

Wie es in der Anlage aussieht

Im Zuge des Besuchs gab Facebook lediglich einen Einblick in eine Arbeitsfläche der Löscharbeiter. Diese soll laut Aussagen von Firmenmitarbeitern allerdings beispielhaft für die Arbeitsflächen des gesamten Gebäudes sein. Der für die Journalisten einsehbare "Floor", wie die Arbeitsbereiche von den Mitarbeitern vor Ort genannt werden, unterscheidet sich kaum von einem typischen modernen Großraumbüro. In dem Bereich, der auch auf den Bildern, die Journalisten machen durften, zu sehen ist, arbeiten rund zwei Dutzend Mitarbeiter an Computerarbeitsplätzen mit jeweils einem Bildschirm.

Löscharbeiter hinter ihren Rechnern. Eine Auflage des Besuchs war es, dass die Gesichter der Mitarbeiter zum Schutz ihrer Privatsphäre nicht gezeigt werden dürfen | Bild: Max Hoppenstedt | Motherboard

Gespräche mit Mitarbeitern oder das Einsehen von Details der Löscharbeit waren während des Besuchs allerdings nicht möglich. Die Mitarbeiter prüften während des rund 30-minütigen Besuchs der Journalisten im Arbeitsbereich keine tatsächlichen User-Inhalte. Grund dafür seien Datenschutzrichtlinien, wie ein Facebook-Sprecher vor Ort betonte.

Unmittelbar neben der Arbeitsfläche gibt es einen Meeting- und einen Aufenthaltsraum. Die Anlage ähnelt ansonsten dem ersten deutschen Löschzentrum von Arvato in Berlin.

Zusätzlich zu den Bürobereichen gibt es einen großflächigen Innenhof, der zur hinter dem Gebäude liegenden größeren Straße hin mit einer Glaswand abgetrennt wurde. Außerdem soll es einen eigenen Flügel mit einem Freizeitbereich mit Tischfußball, Playstation und Ausruhbereichen geben, den die Mitarbeiter jederzeit aufsuchen dürfen.

Wer für das neue Löschzentrum verantwortlich ist

Betrieben wird das Löschzentrum von der Firma Competence Call Center (CCC). Die Mitarbeiter für die Löschteams werden nicht von Facebook selbst, sondern von CCC in einem mehrstufigen Prozess rekrutiert und angestellt. Das Unternehmen zählt weltweit zu den führenden Firmen im Bereich Community Management. Zu den Kunden von CCC zählen beispielsweise PayPal und eBay. Die Firma betreibt international und in Deutschland zahlreiche Niederlassungen.

Für das Facebook-Löschzentrum hat CCC in Essen nun ein eigenes Bürogebäude gemietet. Aktuell sind einige der Etagen noch von einem Vormieter besetzt. Dieser zieht jedoch zum Ende des Jahres aus. Dann wird auf allen Etagen nur für das soziale Netzwerk gearbeitet. Für die Löscharbeiter von CCC stehen in den geräumigen Büros dann insgesamt 10.000 qm Bürofläche und eine speziell eingerichtete "Relax-Zone" von noch einmal 1.000 qm bereit.

Hass & Gewalt: Welche Inhalte werden überhaupt geprüft?

Alle Inhalte, die im neuen Löschzentrum gesichtet werden, wurden zuvor von regulären Facebook-Usern gemeldet – genauso wie bei Arvato. Proaktiv gehen die CCC-Mitarbeiter nicht auf die Suche nach Content, der gegen die Regeln von Facebook verstoßen könnte. Bisher werden in Essen allerdings lediglich Hassrede, Spam, Fake-Accounts oder explizite Bilder und Videos geprüft und gelöscht.

Was unter Hassrede fällt, definiert sich dabei nach den Facebook-internen Regeln, den sogenannten Community Standards. Die nicht immer einfache Aufgabe der Löscharbeiter ist es, zu prüfen, wie diese Regeln in Bezug auf einen jeweils speziellen Post auszulegen sind.

Mit dem neuen Löschzentrum reagiert Facebook auch auf das Anfang Oktober dieses Jahres in Kraft getretene Netzwerkdurchsetzungsgesetz. Die umgangssprachlich auch Facebook-Gesetz genannte Regelung, die maßgeblich von Heiko Maas und dem Justizministerium auf den Weg gebracht wurde, soll soziale Netzwerke zu einer konsequenteren Löschung von strafrechtlich relevanten Inhalten zwingen. In klaren Fällen müssen Netzwerke innerhalb von 24 Stunden reagieren, bei Missachtung drohen empfindliche Geldstrafen. Das Gesetz ist allerdings umstritten. Kritiker befürchten, dass es zu einer übermäßigen Löschung führt, die in Extremfällen die Meinungsfreiheit beschneiden könnte.

Wie Facebook eine Wischi-Waschi-Löschung verhindern will

Ein Ziel haben leitende Facebook-Mitarbeiter bei dem Pressebesuch immer wieder betont: Qualitätssicherung. Es soll verhindert werden, dass derselbe Post nicht von einem Mitarbeiter gelöscht wird, während andere Mitarbeiter den Inhalt stehen lassen würden. Eine schwierige Aufgabe – schließlich gibt es immer wieder Inhalte, die Interpretationssache sind.

Um sicherzustellen, dass alle CCC-Mitarbeiter die Löschregeln gleich interpretieren und anwenden, kommt eine Art Vier-Augen-Prinzip zum Einsatz: Die Prüfung von Inhalten wird zwar zunächst nur von einem Mitarbeiter vorgenommen, allerdings werden dann stichprobenartig "eine statistisch signifikante Zahl an Meldungen immer auch noch von einem zweiten Mitarbeiter geprüft", wie ein Facebook-Sprecher vor Ort erklärte. Jeder CCC-Mitarbeiter müsse jede Woche auch eine größere Menge solcher Vier-Augen-Prüfungen von Inhalten seiner Kollegen vornehmen.

Welche Inhalte in Essen nicht geprüft werden

Besonders drastische und sensible Inhalte wie Terrorpropaganda, extreme Gewaltdarstellungen oder Kinderpornographie, wie sie in der Vergangenheit laut SZ-Recherchen im ersten Löschzentrum von Facebook in Berlin bearbeitet wurden, werden in Essen bisher nicht geprüft, wie ein Facebook-Sprecher gegenüber Motherboard bestätigte. Mehrere gestrige Meldungen über die Eröffnung des Essener Löschzentrums haben Inhalte wie Hassrede oder noch sensitiveres Posts wie Terrorpropaganda in einen Topf geworfen und berichtet, dass schon jetzt beides in Essen geprüft werde. Auf Rückfragen von Motherboard dementierte ein Facebook-Sprecher allerdings diese Berichte.

Auch Facebook-Live-Videos werden von CCC-Mitarbeitern bisher nicht bearbeitet. Eine entsprechende Erweiterung des Inhaltsspektrums ist im Essener Löschzentrum in der näheren Zukunft laut eines Facebook-Sprechers eher nicht geplant.

Im Essener Löschzentrum werden nicht nur deutschsprachige Inhalte geprüft, sondern auch türkische, kurdische und arabischsprachige. Eine Erweiterung auf niederländische Inhalte ist im Gespräch. Allerdings machen deutschsprachige Inhalte die Mehrheit aus. Von allen Mitarbeitern wird erwartet, dass sie mindestens Deutsch und Englisch beherrschen.

Nach welchen Regeln entschieden wird, was gelöscht wird und was nicht

Die Regeln, nach denen die Mitarbeiter in Essen arbeiten, werden von einer speziellen Facebook-Abteilung, dem sogenannten Policy Team verfasst. Für die Umsetzung der Regeln ist Facebooks Community Operations Team zuständig, das wiederum Firmen wie CCC oder Arvato beauftragt, allerdings auch eigene interne Prüfverfahren und Mechanismen betreibt.

Die Regeln selbst werden immer wieder an aktuelle gesellschaftliche Entwicklungen angepasst. Als Beispiel verwiesen Facebook-Mitarbeiter vor Ort auf die "Migrationskrise". Nach den Ereignissen und Diskussionen des Sommers 2015 seien Flüchtlinge als besonders schützenswerte Personengruppe in die Richtlinien von Facebook aufgenommen worden. Dies war vorher nicht der Fall. Die Änderung soll dafür sorgen, dass auch Hassrede gegen Flüchtlinge vermehrt geprüft und gelöscht werden kann.

Die Zusammenarbeit zwischen den Facebook-Teams selbst und einem Partner wie CCC ist besonders eng, wie Mitarbeiter beider Seiten vor Ort mehrfach betonten. So gab es zum Beispiel für zehn CCC-Mitarbeiter eine sechswöchigen Schulung in Facebooks europäischer Zentrale der Community Operations in Dublin. Außerdem waren in der Aufbauphase in den vergangenen Monaten insgesamt acht Wochen lang Facebook-Mitarbeiter in Essen vor Ort. Jeden Monat sollen sie für mehrere Wochen nach Essen zurückkehren, um unter anderem die aktuelle Umsetzung der Lösch-Richtlinien zu überprüfen.

Was verdienen die Mitarbeiter und wie sind die Arbeitsbedingungen

Löscharbeiter an ihren Arbeitsplätzen während der Pressetour

Das Einstiegsgehalt aller Löscharbeiter liegt bei mindestens 10,50 Euro brutto pro Stunde. Es gibt aber auch Mitarbeiter in höheren Positionen, die mit 15 Euro pro Stunde einsteigen. Außerdem gibt es Zulagen für Nachtarbeit oder Samstage. Letztere liegt bei rund 40 Prozent. Damit liegt das Gehalt der Löscharbeiter in jedem Fall über dem Mindestlohn, der in Nordrhein-Westfalen aktuell 9,10 Euro pro Stunde beträgt.

Es gibt sowohl befristete als auch unbefristete Stellen im Essener CCC-Center. Alle Mitarbeiter sind in Vollzeit angestellt und haben einen Vertrag über 40 Stunden die Woche. Da das Löschzentrum rund um die Uhr besetzt ist, wird im Schichtbetrieb gearbeitet.

Der Chief Operating Officer von CCC, Ulf Herbrechter (links) und Walter Hafner, der für Facebook die Zusammenarbeit mit den Lösch-Partnern betreut, waren beim Pressetermin auch vor Ort. Hier besuchen beide die Einrichtung mit Essens Bürgermeister Kufen bei einem vorherigen Termin

Da ein Teilbereich des Contents "intensiver und graphischer sein kann", wie es der CCC-Chef Ulf Herbrechter vor Ort ausdrückt, sind in Essen auch vier Psychologen vor Ort. Das ist auch eine Reaktion auf die kritischen Diskussionen, die es Ende des vergangenen Jahres um das erste Löschzentrum von Facebook gegeben hat. Journalisten der SZ berichteten in einer Recherche von hohem Druck und Geheimhaltungsforderungen in Arvatos Löschzentrum in Berlin. Einige Mitarbeiter von Arvato haben sich allerdings anschließend gegen die Kritik gewehrt. "Alle, die ich hier kenne, sind stolz darauf, diesen Job zu machen", erklärte zum Beispiel eine 38-jährige Arvato-Mitarbeiterin gegenüber dem WDR. "Wir retten hier Leben." Ein Statement, das auch beim Besuch in Essen, wieder zu hören war.

Blick in einen Meeting-Raum, unmittelbar neben den Computerarbeitsplätzen gelegen.

Mit Mitarbeitern direkt über die konkreten Löschaufgaben zu sprechen, ermöglichte Facebook während unseres Besuchs nicht. Als Grund dafür führte ein Sprecher an, dass diese noch zu neu seien, um ausführlich aus der Praxis berichten zu können.

Das liege unter anderem daran, dass die Löscharbeiter erst seit sehr kurzer Zeit dort arbeiteten, erklärte ein Facebook-Sprecher im Vorhinein. Allerdings standen mit Ulf Herbrechter, der als Chief Operating Officer für CCC arbeitet, als auch Walter Hafner, der für Facebook das Partnerprogramm aus Dublin leitet, zwei zentrale Verantwortliche des Löschprogramms für Nachfragen und Erklärungen zum Ablauf zur Verfügung.

Wie viele Inhalte Facebook in Deutschland löscht

Genauere Zahlen dazu gibt Facebook bisher nicht heraus. Im Sommer 2017 allerdings nannte Richard Allen, Facebooks europäischer Vizepräsident für Public Policy, die Zahl von 15.000 Posts, die im Laufe von einem Monat aufgrund von Hassrede in Deutschland gelöscht würden. Gemeldet werden insgesamt noch deutlich mehr Inhalte – Facebook spricht hier von einer Milliarde Reports. Allerdings bezieht sich diese Zahl nicht nur auf Hassrede, sondern auf alle Inhalte, die gegen Facbeooks Community-Standards verstoßen könnten. Wie viele davon auf Deutschland abfallen, konnte Facebook allerdings bisher nicht beantworten.

Nicht nur die schiere Masse der Löschungen und Meldungen, sondern auch ein Blick auf die Abläufe vor Ort zeigen, dass die Content-Moderation auch für Facebook eine äußerst komplexe Herausforderung ist. Zu vielen Details sind auch nach dem Besuch noch Fragen offen. Dennoch fällt auf, dass Facebook sich gerade in Deutschland darum bemüht, in einem gewissen Rahmen Transparenz zu ermöglichen. Details zu den genauen Regeln, nach denen die Löscharbeiter vorgehen werden, bleiben aber gleichzeitig geheim.

Klar ist bisher vor allem: Löscharbeiter, wie sie in Essen und Berlin arbeiten, werden in Zukunft vermehrt benötigt. Erst kürzlich kündigte Mark Zuckerberg an, dass Facebook im nächsten Jahr seine Anzahl an Löscharbeitern weltweit von 10.000 auf 20.000 aufstocken werde. Firmen wie Arvato und CCC könnten also schon bald noch weitere Aufträge ins Haus stehen.