On a visité le nouveau "centre de censure" de Facebook

La visite de l'un des nouveaux centres de modération de Facebook nous a permis d'entrevoir les mécanismes de contrôle et de suppression de contenu du réseau social.

|
janv. 15 2018, 6:00am

Vue extérieure du nouveau centre de censure de Facebook à Essen, Allemagne. Le bâtiment est situé dans une zone commerciale à l’ouest du centre ville. Image : Max Hoppenstedt/Motherboard

La version originale de cet article a été publiée sur Motherboard Allemagne.


Pour la première fois de son histoire, Facebook a permis aux journalistes de pénétrer dans son nouveau centre de suppression de contenu à Essen, en Allemagne. Dans l’immeuble de cinq étages, plus de 400 employés sont déjà à la tâche et suppriment des commentaires, des photos et des vidéos enfreignant le règlement de Facebook.

Les salariés sont parfois amenés à examiner des vidéos et des photos perturbantes au cours de cette opération. Un porte-parole de Facebook m’a affirmé qu’une grande partie du contenu visible comprenait principalement des discours de haine, du spam ou encore du contenu créé par des faux comptes. Ces employés sont principalement chargés de mettre à la poubelle les déchets créés par les 2 milliards d’utilisateurs actifs de Facebook à travers le monde. Le contenu non autorisé sur Facebook — selon le règlement intérieur de la plateforme — doit être vérifié et supprimé par les modérateurs. Cette tâche essentielle est complexe et pénible.

Les premiers employés à Essen ont commencé à travailler en octobre. A la fin de l’année 2017, 500 employés travaillaient dans les bureaux situés dans une zone industrielle à quelques minutes du centre-ville d’Essen. Le centre est maintenant le second de son genre en Allemagne, l’autre se trouvant à Berlin Ouest.

A quoi ressemblent les bureaux ?

Au cours de la visite, Facebook nous a laissé entrevoir un des espaces de travail de ses employés. Selon le staff, cet espace de travail est représentatif de tous les autres situés dans le bâtiment. L’« Étage », le nom donné par le personnel à ces espaces, n’est pas différent des bureaux en open-space standards. Les zones que les journalistes ont été autorisés à photographier comprennaient environ une douzaine d’employés assis à leurs postes de travail, équipés d’un écran d’ordinateur.

Les employés sur leurs ordinateurs. Une des conditions de la visite était de ne pas montrer le visage des employés afin de respecter leur identité. Image : Max Hoppenstedt/Motherboard

Facebook ne nous a pas laissé parler aux employés ou nous pencher sur leurs écrans pendant la visite de 30 minutes. Les employés n’ont révisé aucun contenu utilisateur lors de la présence des journalistes, pour des questions de sécurité, selon un porte-parole de Facebook.

Une salle de réunion et une salle de pause sont situés juste à côté de l’espace de travail. A part ça, les locaux ressemblent à ceux du premier centre allemand de censure exploité par Arvato à Berlin.

Image : Max Hoppenstedt/Motherboard

Qui est en charge du centre ?

Le centre est géré par l'entreprise Competence Call Center (CCC). Les employés ne sont pas embauchés par Facebook directement, mais par CCC après un processus de recrutement à plusieurs étapes. L’entreprise fait partie des sociétés leader dans le domaine du community management. PayPal et eBay, pour ne citer qu’eux, font partie de ses clients. CCC gère de nombreux sites en Allemagne et à l’international.

Le CCC loue ses propres locaux à Facebook pour le centre de suppression de contenu d’Essen. Un certain nombre d’étages du bâtiment sont à ce jour encore occupés par un locataire précédent. Mais ce locataire quittera la structure à la fin de l’année et tous les étages seront donc consacrés au réseau social. Les employés du CCC bénéficieront alors d’un espace de bureaux de 10 000 mètres carrés et une « Zone de relaxation » spécifiquement établie dans 1 000 mètres carrés supplémentaires.

Haine et violence : quel contenu est examiné ?

Tout le contenu passant par le centre a été signalé par des utilisateurs de Facebook. Le staff du CCC ne recherche pas de façon proactive le contenu qui enfreint le règlement de Facebook. Jusqu’à présent, seuls les discours haineux, le spam, les faux comptes et les vidéos et photos explicites étaient vérifiés et supprimés à Essen.

Ce qui est considéré comme relevant de l’incitation à la haine par Facebook est défini par le règlement interne du réseau social — également connu sous le nom de Standards de la communauté. Nous avons publié un long article sur les types de contenu interdits par Facebook — mais la façon dont ces règles sont appliquées est très délicate et le sujet d’une grande controverse.

Dans le cas présent, Facebook doit satisfaire les critères de la Netzwerkdurchsetzungsgesetz, une nouvelle loi allemande visant la propagande haineuse et les fake news qui est entrée en vigueur en octobre dernier. La législation, appelée familièrement la « Loi Facebook », entend forcer les réseaux sociaux à supprimer de façon plus systématique le contenu à caractère délictueux. Pour les situations flagrantes, les réseaux ont 24 heures pour réagir et déclencher une procédure pouvant aboutir à de lourdes amendes. Cela étant dit, la loi est largement contestée. Ses détracteurs craignent qu’elle n'aboutisse à la suppression d'une portion excessive du contenu, ce qui pourrait finir par porter atteinte à la liberté d’expression.

Comment Facebook pense éviter la censure inutile

Lors de la visite de presse, les porte-paroles de Facebook ont lourdement insisté sur un objectif : le contrôle qualité. Il est visiblement important pour Facebook d’éviter de se trouver dans une situation où un post est supprimé par un employé, mais ne le serait pas par un autre. C’est un exercice difficile. En effet, tout est une question d’interprétation des contenus qui ne cessent d'être téléversés sur le réseau social.

Pour garantir que tous les employés du CCC comprennent et appliquent les règles de suppression de la même façon, l’entreprise utilise un principe d’examen « à quatre yeux ». Si la vérification du contenu est toujours effectuée par un seul employé, un employé de Facebook présent pendant la visite nous a affirmé qu'un nombre de rapports statistiquement significatif était examiné par un deuxième employé au hasard. Chaque employé du CCC se doit d’entreprendre un grand nombre de ces examens « à quatre yeux» du contenu de ses collègues.

Le contenu qui n’est pas contrôlé à Essen

Image : Max Hoppenstedt/Motherboard

Un porte-parole de Facebook a confirmé à Motherboard que le contenu particulièrement brutal et sensible comme la propagande terroriste, les représentations de violence extrêmes et la pédopornographie n'était pas encore vérifié à Essen. Selon un rapport du grand quotidien allemand Süddeutsche Zeitung, ce type de contenu est traité par le centre de censure de Facebook de Berlin. Les employés de CCC ne contrôlent pas non plus les vidéos live de Facebook. L’entreprise nous a affirmé qu'il n'était prévu d’élargir le champ des contenus examinés par le centre de suppression d’Essen.

Les règles qui déterminent ce qui est censuré ou non

Le règlement suivi par les employés à Essen a été créé par un service spécial de Facebook : la « Policy Team ». L’équipe des Opérations de communauté de Facebook est responsable de l’application du règlement et se tourne vers des entreprises comme CCC ou Arvato, qui décident de leurs propres modes et mécanismes de contrôle.

Les règles sont adaptées aux grandes questions sociales de l'actualité. Les employés de Facebook avec lesquels nous nous sommes entretenus ont évoqué la crise des réfugiés syriens, par exemple. Les réfugiés ont été intégrés aux directives de Facebook comme un groupe de personnes vulnérable et nécessitant une protection spécifique. Ce n’était pas le cas auparavant. Grâce à ce changement, les discours de haine à l’encontre des réfugiés sont désormais sujets à contrôle et suppression.

Pour s’assurer que Facebook et CCC sont bien sur la même longueur d’onde, 10 employés du CCC se sont déplacés à Dublin pour assister à une formation de six semaines au siège social des Opérations de communauté de Facebook pour l'Europe. De plus, au cours des derniers mois, le staff de Facebook a travaillé sur le site d’Essen pendant huit semaines. Ils prévoient de revenir à Essen deux semaines par mois pour contrôler la mise en place actuelle des directives d’application de la censure, entre autres.

Quel salaire pour les employés, et dans quelles conditions ?

Les employés à leurs postes de travail pendant la visite presse. Image : Max Hoppenstedt/Motherboard

Le taux horaire brut payé aux employés est de 10,5€. Cependant, d’autres salariés occupent des postes plus importants et touchent 15€ de l’heure. Une majoration est accordée à ceux qui travaillent la nuit ou le samedi. La rémunération est supérieure au salaire minimum, qui s’élève actuellement à 9,1€ en Rhénanie-du-Nord-Westphalie. Tous les employés sont en poste à temps plein pour des contrats de plus de 40 heures de travail par semaine. Les bureaux étant occupés 24h/24, un système de roulement a été mis en place.

Parce qu’une partie du contenu a tendance a être « plus intense et explicite », explique Ulf Herbrechter, le manager du CCC, quatre psychologues sont présents sur le site d’Essen. Cette décision a été prise en réaction aux discussions critiques en fin d’année dernière suite à l’ouverture du premier centre de modération de contenu de Facebook. Des journalistes du Süddeutsche Zeitung ont dénoncé le niveau de pression et les exigences de confidentialité imposés aux employés du centre d’Arvato, à Berlin. Un certain nombre de collaborateurs ont cependant réfuté ces critiques. « Nous sommes tous fiers de notre travail, a déclaré un employé d’Arvato de 38 ans à WDR. Nous sauvons des vies. » Le même discours nous a été tenu lors de notre visite à Essen.

Un aperçu de la salle de réunion, à proximité des postes de travail informatiques. Image : Max Hoppenstedt/Motherboard

Facebook ne nous a pas autorisé à discuter de cas concrets avec les employés lors de notre visite.

Quelle quantité de contenu est supprimée en Allemagne ?

Facebook ne nous a pas transmis de chiffres précis. Cependant, durant l’été 2017, Richard Allan, le vice-président des politiques publiques de Facebook pour l’Europe, a affirmé qu’environ 15 000 posts avaient été supprimés en un mois seulement à cause des discours d’incitation à la haine provenant d’Allemagne. Un nombre bien inférieur à la somme des contenus signalés par la communauté, que le réseau social estime à plusieurs milliards. Cependant, ce chiffre ne s’arrête pas aux discours de haine uniquement. Il comprend en effet tout ce qui peut enfreindre les Standards de la communauté Facebook. Facebook n'a pas pu nous dire quelle quantité de ce contenu provenait d’Allemagne.

La quantité de censure et de signalements mais aussi cet aperçu des procédés internes prouvent que la modération est un défi complexe, même pour Facebook. Notre visite terminée, un grand nombre de questions subsiste. Facebook essaye, et particulièrement en Allemagne, d’être transparent, mais les détails des règles suivies par les employés restent flous.

Une chose est claire : le besoin de modérateurs, comme ceux à Essen et à Berlin, sera croissant. Mark Zuckerberg a récemment annoncé l’intention de Facebook d’augmenter le nombre de modérateurs à travers le monde de 10 000 à 20 000. Les entreprises comme Arvato et CCC recevront donc sans aucun doute de plus en plus de contrats.