Comment construire et détruire une réputation en utilisant des faux profils

L'idée selon laquelle il est impossible d'entretenir une relation stable avec plus de 150 personnes est presque aussi vieille que les réseaux sociaux eux-mêmes. C'est un refrain un peu lassant, c'est vrai. Néanmoins, il permet d'introduire une question importante : une grande partie de vos amis Facebook, de vos followers Twitter et Instagram et même de vos contacts Whatsapp ne sont pas de vrais gens.

Et je ne parle même pas des profils qui hurlent "fake !" au premier coup d'oeil avec leur avatar pizza et leur déluge d'emoji. Non, les faux profils nouvelle génération sont des personnages à part entière, bien écrits, bien pensés, et gérés sur le temps long par des équipes marketing dans le but d'influencer un réseau de contacts.

L'existence de ces faux profils n'est pas exactement une nouveauté. Cependant, elle a été mis sur le devant de la scène l'an dernier à l'occasion des élections américaines et du brouhaha autour des fake news, ce concept un peu vague qui qualifie diverses formes de désinformation. Les fake news englobent tous types d'opérations de communication motivées par des intérêts politiques - attaques coordonnées pour détruire la réputation d'un adversaire, utilisation d'armées de bots ou collecte d'information à l'aide de faux profils extrêmement sophistiqués.

Suite aux répercussions de ces pratiques sur l'élection présidentielle américaine, Facebook a publié fin avril un document décrivant le changement de politique de l'entreprise. Afin de combattre les abus d'influence, le réseau social a mis au point une terminologie permettant de classifier les stratégies et les outils utilisés au coeur de la diffusion de fake news. Parmi eux, on trouve les "amplificateurs artificiels" : ces comptes fake utilisés pour défendre un discours politique, répandre des rumeurs, gonfler artificiellement le nombre d'intervenants et de followers sur un groupe ou une page, et si possible changer les opinons des utilisateurs exposés à ces fausses informations.

Facebook craint avant tout l'utilisation de faux profils à des fins politiques, mais ils peuvent être utilisés dans un autre cadre : la publicité. La mission du fake est alors d'influencer la réputation d'une marque - en bien ou en mal. "Les publicitaires se sont rendus compte que le discours d'une personne réelle a beaucoup plus d'influence que celui de la marque elle-même", m'explique un annonceur, qui a demandé à rester anonyme. "C'est comme ça qu'on est entrés dans l'ère dans influenceurs et des microinfluenceurs numériques. Le microinfluenceur peut être n'importe qui - pas besoin d'avoir des millions de followers. Ça peut être vous ou moi. L'essentiel est qu'il fasse le travail d'influence qu'on lui a attribué, même s'il n'a pas conscience d'être le jouet d'une marque."

L'annonceur que j'ai contacté utilise quotidiennement des faux profils en collaboration avec deux agences. Il m'explique que la pratique est devenue monnaie courante. "Nous avons besoin de gens qui parlent des marques avec éloquence et sincérité. Ça nous évite de payer quelqu'un qui ne jouera pas son rôle correctement et va se démasquer à terme. Avec un faux profil convaincant, ce risque n'existe pas. Nos fakes sont aussi réalistes que possible : nom d'utilisateur, photo, contenu, amis, activités quotidiennes, rien ne les distingue d'un utilisateur lambda. Mais pour qu'ils restent convaincants, il faut s'en occuper tous les jours."

C'est là qu'intervient "la science du faux profil", qui n'est bien sûr pas une vraie science mais un ensemble de directives établies de manière empirique par des équipes marketing. Cela consiste à créer des images et des posts optimaux, puis à infiltrer divers groupes de discussion. "Grâce à ces utilisateurs nous créons notre propre langage qui permet d'optimiser l'image de la marque, que ce soit dans des reviews de produits ou au sein d'une conversation. Il faut que ça reste subtil, bien évidemment. Les interventions dithyrambiques ne sont pas crédibles."

Selon l'annonceur, ces activités donnent lieu à une planification importante. "Ces activités s'organisent sur le long terme, on recrute des gens sur des missions extensives", explique-t-il. "C'est impossible de faire du bon boulot avec un contrat de 6 mois. Ce n'est pas un délai suffisant pour renverser la réputation d'une marque. L'idée est de livrer les faux profils à l'entreprise concernée, puis de les faire vivre."

Il est difficile d'évaluer à quel point ces pratiques sont répandues. Comme on peut l'imaginer, elles ne font pas la fierté des agences de pub. J'ai interrogé un grand nombre de professionnels dans le domaine de la stratégie et du marketing digital, et tous m'ont soutenu mordicus qu'ils n'avaient jamais entendu parler de ces techniques.

"En fait on reste assez discrets, nos missions ne sont pas nécessairement connues de l'ensemble des employés de l'agence", m'explique mon contact. "C'est confidentiel."

Ça et là, les faux profils apparaissent et disparaissent, révélant malgré eux leurs sombres desseins. Parfois, il s'agit d'un utilisateur incitant à la discussion sous un post Facebook sponsorisé par une marque. Souvent, ces sont des utilisateurs un peu louches qui s'introduisent dans des groupes de discussion afin de collecter des informations, et discutent mollement sous les yeux circonspect des autres utilisateurs.

"Tout cela est pathétique", lâche un autre annonceur, qui ne travaille pas directement à l'élaboration de faux profils mais a néanmoins une activité connexe. "Toutes ces pages Facebook sont des semi-fakes, elles n'ont plus aucun sens ni pour la marque, ni pour les gens." Dans son entreprise, l'incitation à gérer la réputation des marques en faisant de l'amplification artificielle vient de la hiérarchie. Rapidement, ces pratiques sont devenues routinières, même si elles ne sont pas admises par la majorité des employés. Les pages des marques se remplissaient progressivement de commentaires élogieux de "clients", ou de critiques émanant de faux profils créés par une agence dépêchée par un concurrent.

Au final, des faux profils gérés par des annonceurs différents entraient dans des débats sans queue ni tête pour déterminer la valeur d'un produit. De beaux combats de fake à fake.

Le même annonceur m'a expliqué qu'aujourd'hui, les faux profils étaient également utilisés pour suggérer directement un achat à un autre utilisateur. "Ceux-là interviennent généralement dans des groupes fermés. Mettons, un groupe de fans de décoration d'intérieur. Les gens se mettent à parler d'un produit x, et là le fake arrive avec ses gros souliers et explique que le produit y n'est pas mal non plus, si ce n'est mieux", explique-t-il. Pour lui, ce genre de stratégie est inefficace car elle ne se traduit pas directement en une augmentation des ventes. Il estime que l'impact de la réputation d'une marque n'est pas si important qu'on pourrait le croire, et que chercher à influencer à tout prix est absurde.

Qu'en est-il des aspects éthiques de cette question ? "Dans un univers où les réseaux sociaux ne sont pas régis par des lois, je pense que les patrons et les managers n'hésiteront jamais à confier ce genre de boulot ingrat à leurs subordonnés", ajoute-t-il.

Les chercheurs, eux, condamnent fermement cette pratique. "C'est encourager la construction de relations déloyales", explique Fabio Gouveia, l'un des coordinateurs du Laboratoire d'étude de l'image et de la cyberculture (LABIC) de l'Université fédérale d'Espírito Santo. "Les problèmes éthiques sont énormes ; cette stratégie crée une fausse relation qui n'est pas articulée autour de la proximité humaine, mais autour d'enjeux commerciaux."

Pour Fabio, cependant, si l'utilisation de ces stratégies publicitaires est inquiétante et présage d'un futur sombre - qui pourra justifier la mise en place d'une réglementation - la situation du fake en pub est moins inquiétante que celle du fake en politique. "Dans le domaine de la consommation, les pratiques abusives sont monnaie courantes. En politique, il est plus difficile d'évaluer l'impact réel de ce genre d'ingénierie idéologique" ajoute-t-il.

En juin, la compagnie de sécurité informatique Trend Micro a publié The Fake News Machine: How Propagandists Abuse the Internet and Manipulate the Public, une étude de l'influence des réseaux sociaux sur le commerce au Moyen-Orient, en Chine, en Russie et dans les pays anglophones.

L'enquête a permis d'analyser l'activité de logiciels programmés pour liker automatiquement des posts sur Facebook et Instagram, ou encore de ceux qui permettent aux bots de passer les tests d'authentification avec succès (comme les captchas). Le document décrit les plateformes collaboratives qui externalisent ce genre d'opérations, à l'image de Russian VTope. Dans ce cas, les participants exécutent des tâches préétablies, comme liker des pages liées à un sujet spécifique, commenter positivement ou négativement une publication, regarder une vidéo, etc. Chacune de ces tâches génère des points qui peuvent être vendus ou utilisés afin que l'utilisateur lui-même établisse une nouvelle tâche et promeuve son propre profil. Ainsi, le système se nourrit lui-même.

Pour illustrer comment ces outils peuvent être utilisés dans le cadre de campagne de désinformation, Trend Micro a fait quelques études de cas. Après quelques expérimentations, l'organisation a découvert qu'il était possible d'organiser une manif couverte par les médias à partir de rien, pour peu que l'on ait 200 000$ en poche. Il suffit de créer 20 groupes de discussion sur le thème pressenti (par exemple, la baisse du montant des APL), puis de les remplir chacun d'un millier de faux profils de haute qualité - c'est-à-dire de profils dont le comportement est plus complexe que celui d'un bot. Tout ceci coûte aux alentours de 40 000$.

En partant de là, avec quelques fake news à la rescousse, la campagne peut atteindre une audience de deux millions de personnes. Si 1% des personnes inscrites à l'événement Facebook viennent effectivement manifester, cela nous fait quand même 20 000 têtes descendues dans la rue. Ce n'est pas énorme, mais c'est suffisant pour faire de bonnes photos, utiliser des journalistes et poursuivre la propagande.

(Parfois, le projet se retourne contre ses organisateurs : début juillet, un groupe de militants pro-Trump s'est rassemblé sur le site d'une bataille célèbre de la guerre de Sécession, en Pennsylvanie. Ils avaient l'intention de s'opposer à une manifestation anti-fasciste qui devait avoir lieu sur le site, et, dans la confusion générale, un militant a tiré dans sa propre jambe. En réalité, la manif anti-fasciste n'avait jamais existé : c'était une simple rumeur lancée par des groupes d'extrême-droite non affiliés aux militants pro-Trump).

"En réalité, la grande difficulté est d'évaluer comment les initiatives lancées sur Internet affectent le monde réel. La presse se contente généralement d'évaluer l'importance d'un mouvement social à partir de chiffres collectés sur Internet, même lorsque ceux-ci sont faux ou gonflés artificiellement", explique Fabio, le chercheur du FABIC.

Pour lutter contre les faux profils, Fabio a mis en place quelques techniques d'analyse basées sur les caractéristiques du post, l'analyse sémantique, l'analyse de la récurrence des motifs linguistiques, l'analyse de patterns ou encore les intervalles de publication des posts. "Avant, il était très facile de repérer les fakes. Aujourd'hui, c'est beaucoup plus ardu car l'environnement numérique a gagné en complexité. Le pire, c'est que les 'vrais gens' se comportent souvent comme des bots."

Facebook a amélioré ses algorithmes dans le seul but d'identifier et d'exclure les comptes qui partagent du contenu louche. J'ai contacté l'entreprise afin d'obtenir des détails sur cette stratégie et comprendre comment elle pouvait s'appliquer aux faux profils publicitaires, mais Facebook ne m'a donné qu'une réponse-type. "Les standards de notre communauté interdisent les faux comptes, que nous supprimons dès que nous les détectons. Nous comptons sur notre communauté pour les signaler, et nous utilisons également des technologies permettant d'identifier des patterns comportementaux."

Selon la longue tradition qui consiste à garder ses chiffres pour lui, Facebook a refusé de révéler combien de comptes fake avaient été supprimés en France cette année. Cependant, il a laissé entendre qu'environ 30 000 comptes avaient été bannis dans le contexte de l'élection présidentielle. La guerre du fake ne fait que commencer.