Een bezoek aan Facebooks supernieuwe centrum waar content wordt verwijderd

Dit artikel verscheen eerder op Motherboard Duitsland.

Voor het eerst mochten journalisten langskomen bij Facebooks nieuwe, Duitse content-verwijdercentrum. In het vijf verdiepingen tellende kantoor in Essen zitten 400 werknemers 24 uur per dag hatelijke, seksuele, en andere content die regels overtreedt offline te halen.

Tijdens hun werkdag krijgen de mensen van Facebook soms schokkende video’s en foto’s te zien. Maar het grootste deel bestaat uit haatdragende opmerkingen, spam, en nepaccounts, vertelt een woordvoerder. Deze mensen zetten in feite de vuilnis buiten die de meer dan 2 miljard actieve gebruikers van over de hele wereld elke maand maken. De content die – volgens hun eigen regels – niet op Facebook thuishoort wordt gecheckt en eventueel verwijderd door contentmoderators. Hun werk is nogal ingewikkeld en kan nogal zwaar zijn.

In oktober gingen de eerste mensen in Essen aan de slag. Tegen het eind van 2017 werkten er al zo’n 500 contentagenten in het kantoor op het industrieterrein dichtbij de Essense binnenstad. Dit is het tweede content-verwijdercentruim in Duitsland; het eerste kantoor is gevestigd in West-Berlijn en wordt beheerd door het bedrijf Arvato.

Als onderdeel van onze rondleiding laat Facebook ons een kijkje nemen op een van de afdelingen. Volgens de werknemers van het bedrijf is deze werkplek representatief voor alle andere in het gebouw. Deze “Verdieping”, zoals werknemers hun werkplekken noemen, ziet er niet anders uit dan een gemiddeld open kantoor. In de stukken van het gebouw waar journalisten mogen fotograferen, zitten ongeveer vijfentwintig werknemers te werken.

Tijdens onze halfuur durende rondleiding verbiedt Facebook het ons om met de werknemers te praten of te kijken wat er op hun schermen gebeurt, ook al zijn de werknemers niet daadwerkelijk bezig met het reviewen van content. Volgens een woordvoerder van Facebook is dit uit veiligheidsoverwegingen.

Direct naast deze afdeling bevinden zich een vergader- en koffieruimte. Verder lijkt het kantoor precies op het andere Duitse content-verwijdercentrum in Berlijn.

Het centrum wordt gerund door het bedrijf Competence Call Center (CCC). De werknemers zijn niet direct door Facebook ingehuurd, maar worden aangenomen door CCC na meerdere sollicitatierondes. Het bedrijf is een van de meest vooraanstaande bedrijven op het gebied van community management. PayPal en eBay zijn bijvoorbeeld ook klanten. Het bedrijf heeft meerdere contentcentra, zowel in Duitsland als daarbuiten.

Voor het content-verwijdercentrum van Facebook heeft het CCC z’n eigen kantoorgebouw in Essen gehuurd. Op het moment huurt een ander bedrijf ook nog een paar verdiepingen in het gebouw. Als deze verhuurder het pand verlaat, gaat Facebook van het hele gebouw gebruikmaken. De werknemers van CCC hebben dan een vloeroppervlak van in totaal 10.000 vierkante meter tot hun beschikking. Ook is er een speciaal voor hen gemaakte “relaxzone” van nog eens 1000 vierkante meter.

Alle content die in Essen bekeken wordt, is eerst gerapporteerd door Facebook-gebruikers. De werknemers van CCC gaan niet zelf op zoek naar content die de regels van Facebook overtreedt. Tot nu toe worden alleen haatzaaiende opmerkingen, spam, nepaccounts en expliciete foto’s en video’s verwijderd in Essen.

Wat er precies onder haatzaaien valt, wordt bepaald door de interne regels van Facebook, ook wel bekend als de Community Standards. We hebben veel geschreven over wat voor soort content er wel en niet mag op Facebook. Het goed handhaven van deze regels is erg lastig, en er is daardoor veel controverse over.

Sinds oktober is Facebook verplicht om een nieuwe Duitse wet na te leven die het verspreiden van haatzaaiende opmerkingen en nepnieuws moet voorkomen. De regelgeving, die ook wel bekend staat als de “Facebookwet,” moet ervoor zorgen dat sociale netwerken op een systematische manier dit soort content gaan verwijderen. In duidelijke gevallen moeten ze de post binnen 24 uur offline halen. Als dat niet gebeurt kunnen ze hoge boetes krijgen. Daarmee heeft de wet ook voor veel ophef gezorgd. Critici vrezen dat het gaat leiden tot het op grote schaal verwijderen van content, waardoor in extreme gevallen de vrijheid van meningsuiting belemmerd zou kunnen worden.

Tijdens de perstour benadrukken de woordvoerders van Facebook continu één doel: kwaliteitsgarantie. Ze hameren erop hoe belangrijk het is om situaties te voorkomen waarbij een bericht door de ene werknemer verwijderd wordt, terwijl de ander dat niet zou doen. En dat is helemaal niet zo makkelijk. Bij veel content is het namelijk een kwestie van interpretatie of het wel of niet offline moet worden gehaald.

Om te verzekeren dat alle werknemers van CCC de regels op dezelfde manier naleven, gebruikt het bedrijf een soort “vier-ogenprincipe.” Hoewel het bekijken van content altijd maar door één werknemer wordt gedaan, “wordt een statistisch significant aantal rapportages nagekeken door een tweede werknemer,” vertelt een aanwezige woordvoerder van Facebook. Elke werknemer van CCC wordt verwacht om wekelijks veel door collega’s beoordeelde content na te kijken.

Bijzonder heftige en gevoelige content zoals terreurpropaganda, extreme afbeeldingen van geweld, of kinderporno wordt nog niet nagekeken in Essen, bevestigt een woordvoerder van Facebook aan Motherboard. Volgens een bericht van de Süddeutsche Zeitung wordt dit soort content verwerkt in Berlijn. Werknemers van CCC kijken ook niet naar livevideo’s, en het bedrijf laat weten dat er voorlopig geen plannen zijn om meer soorten content te gaan reviewen in Essen.

De regels die door werknemers in Essen worden nageleefd, zijn gemaakt door een speciaal afdeling binnen Facebook, het zogeheten ‘Policy Team’. Het Community Operations Team van Facebook is verantwoordelijk voor het naleven van de regels en besteedt het werk op zijn beurt uit aan bedrijven als Arvato en CCC. Deze bedrijven verwerken en reviewen content weer elk op hun eigen manier.

De regels worden voortdurend aangepast op sociale veranderingen. Medewerkers van Facebook die tijdens het bezoek met ons spraken, noemden de Syrische vluchtelingencrisis als voorbeeld. Vluchtelingen werden op een gegeven moment aangemerkt als groep die bijzondere bescherming nodig had. Dat was eerder niet het geval. De verandering is er gekomen zodat haatzaaiende opmerkingen tegen vluchtelingen makkelijker konden worden bekeken en verwijderd.

Om ervoor te zorgen dat de neuzen bij Facebook en CCC dezelfde kant op staan, zijn tien werknemers van CCC op een zesweekse training geweest bij het hoofdkwartier van Facebooks European Community Operations in Dublin. Daarnaast zijn de afgelopen maanden medewerkers van Facebook in totaal acht weken bij het bedrijf in Essen komen kijken. Ze willen elke maand een paar weken terug komen om, onder andere, de implementatie van de richtlijnen te checken.

Het bruto startsalaris van de werknemers is 10,50 per uur. Maar er zijn ook werknemers in hogere posities die beginnen met € 15 per uur. Ze krijgen extra betaald als ze in de avond of op zaterdag werken. De salarissen van de werknemers liggen boven het minimumloon van € 9,10. Alle werknemers hebben op het moment een fulltime aanstelling en hebben contracten voor meer dan 40 uur per week. Omdat het kantoor 24 uur per dag geopend is, werken mensen er in ploegendiensten.

Omdat sommige content “wat meer intens en expliciet” kan zijn, zoals manager van CCC Ulf Herbrechter het omschrijft, werken er ook vier psychologen op het kantoor in Essen. Dit is een gevolg van de kritische discussies die eind vorig jaar ontstonden als reactie op het eerste verwijdercentrum van Facebook. Journalisten van de Süddeutsche Zeitung deden verslag van de hoge werkdruk en geheimhoudingseisen waar de werknemers van Arvato’s verwijdercentrum in Berlijn mee te maken kregen. Een aantal werknemers van Arvato verwierp die kritiek. “Iedereen die ik hier ken is trots op het werk dat ze doen,” zei een 38-jarige werknemer van Arvato bijvoorbeeld tegen WDR. “We redden hier levens” is iets wat we ook vaak horen tijdens ons bezoek in Essen.

Helaas staat Facebook het ons niet toe om tijdens ons bezoek met werknemers te praten over waar ze op dat moment mee bezig zijn.

Facebook heeft hierover nog geen concrete cijfers gegeven. In de zomer van 2017 beweerde Facebooks Europese vicepresident voor openbaar beleid, Richard Allen, dat er in in Duitsland per maand ongeveer 15.000 haatzaaiende berichten worden verwijderd. Er is alleen heel veel meer content die wordt gerapporteerd door gebruikers: Facebook sprak over aantallen in de miljarden. Maar dat aantal bevat niet alleen haatzaaiende opmerkingen. Onder dat aantal valt alle content die in overtreding zou kunnen zijn van Facebooks Community Standards. Facebook kon helaas niet zeggen welk percentage van deze content uit Duitsland afkomstig is.

Het zijn niet alleen de gigantische aantallen berichten die verwijderd en gecheckt moeten worden, maar ook het hele proces maken de moderatie zo’n ingewikkelde operatie – zelfs voor Facebook. Na ons bezoek zijn nog steeds niet al onze vragen beantwoord. Vooral in Duitsland probeert Facebook transparant te zijn, maar de details over welke regels de werknemers precies gebruiken, zijn nog altijd geheim.

Een ding is zeker: de vraag naar contentmoderators zoals in Essen en Berlijn gaat in de toekomst alleen nog maar toenemen. Mark Zuckerberg kondigde onlangs aan dat Facebook van plan is om het aantal contentmoderators wereldwijd op te schroeven van 10.000 naar 20.000. Bedrijven als Arvato en CCC gaan het maar druk krijgen.