L'économie de la désinformation sous-traitée : 27 opérations liées à des agences de communication depuis 2011

Au moins 27 opérations d'information en ligne ont été attribuées, en tout ou en partie, à des agences de communication ou de marketing depuis 2011. Dix-neuf d'entre elles se sont déroulées en 2019 seulement. Ces chiffres proviennent d'une revue de BuzzFeed News portant sur les suppressions de contenu par les plateformes et les enquêtes menées par des entreprises de sécurité et de recherche, publiée en partenariat avec The Reporter, un site d'investigation taiwanais.

Nathaniel Gleicher, responsable de la politique de cybersécurité chez Facebook, a déclaré à BuzzFeed News que « la professionnalisation de la tromperie » est une menace croissante. « La notion générale de tromperie et d'opérations d'influence existe depuis un certain temps, mais au cours des dernières années, nous avons vu [...] des entreprises se développer qui construisent essentiellement leur modèle économique autour de la tromperie », a-t-il ajouté.

Le cas individuel le plus clair du dossier est celui de Peng Kuan Chin, 32 ans, qui a montré au Reporter son « Système de collecte automatique de fermes de contenu ». Des serveurs parcouraient le web à la recherche d'articles et de publications chinoises. Le système réorganisait les mots en un nouveau texte. Un ensemble de sites web qu'il contrôlait les publiait, tandis que des milliers de faux comptes de réseaux sociaux les diffusaient dans les flux d'actualités, les applications de messagerie et les résultats de recherche. « J'ai développé cela pour manipuler l'opinion publique », a déclaré Peng. Ses clients, a-t-il dit, sont des entreprises, des marques, des partis politiques et des candidats en Asie. « Les clients ont de l'argent, et je m'en fiche de ce qu'ils achètent. »

L'entreprise de Peng, Bravo-Idea, n'est pas seule. L'Archimedes Group, une entreprise israélienne, a construit des réseaux de centaines de pages, de comptes et de groupes Facebook dans le monde, et vantait sur son site qu'elle allait « utiliser tous les outils et prendre tous les avantages disponibles afin de changer la réalité selon les souhaits de nos clients », selon le rapport de BuzzFeed News. Au Mali, elle gérait une fausse page de vérification des faits prétendant être animée par des étudiants locaux. En Tunisie, elle gérait une page intitulée « Stop à la Désinformation et aux Mensonges ». Au Nigeria, elle gérait des pages défendant et contestant l'ancien vice-président Atiku Abubakar ; les chercheurs ont suggéré que la page pro-Abubakar « était probablement conçue pour identifier ses partisans afin de les cibler plus tard avec du contenu anti-Abubakar ».

En Ukraine, l'entreprise Pragmatico employait des dizaines de jeunes numériquement à l'aise pour publier des commentaires positifs sur des faux comptes Facebook concernant ses clients, selon le rapport. En Pologne, Cat@Net gérait des réseaux de faux comptes Twitter exploités par des employés handicapés travaillant depuis chez eux, embauchés parce que l'agence pouvait les payer à des taux inférieurs au marché alors qu'ils recevaient des subventions gouvernementales. Les enquêtes d'Investigate Europe ont également révélé que Cat@Net avait réalisé des travaux pour l'une des agences de communication polonaises les plus prestigieuses, Art-Media. L'entreprise a nié avoir travaillé avec Cat@Net.

Le modèle commercial ne se limite pas à une seule région. Fin décembre, Twitter a supprimé plus de 5 000 comptes qu'il a dit faire partie « d'une importante opération d'information soutenue par l'État » en Arabie saoudite, menée par l'agence de marketing Smaat. Le même jour, Facebook a annoncé la suppression de centaines de comptes, de pages et de groupes engagés dans « des ingérences étrangères et gouvernementales » au nom du gouvernement de Géorgie. Facebook a attribué l'opération à Panda, une agence de publicité géorgienne, et au parti au pouvoir du pays. Des suppressions et enquêtes similaires ont impliqué des entreprises en Israël, en Égypte, aux Émirats arabes unis, en Ukraine, au Brésil, en Indonésie et en Pologne.

Cindy Otis, ancienne officier de la CIA et auteure de Vrai ou Faux : Le guide de l'analyste de la CIA pour repérer les fausses nouvelles, a déclaré à BuzzFeed News que les opérations d'information menées par des États-nations comme la Russie et l'Iran ont fourni « un manuel pour les individus et les groupes motivés financièrement pour entrer dans ce domaine ». Les enquêteurs des plateformes, des entreprises de sécurité et au sein de la communauté du renseignement passent, a-t-elle dit, « de plus en plus de temps à examiner les services de désinformation sous-traités qui existent sur le marché ».

Tout le fil du dossier ne pointe pas dans la même direction. Une étude des chercheurs en éducation de UC Riverside et de l'USC, publiée dans la revue New Media & Society et relayée par UCR News, a révélé que les adolescents noirs et latino-reportent des compétences significativement supérieures en littératie numérique, telles que la détection de la désinformation en ligne, par rapport à leurs pairs blancs, en particulier concernant le contenu lié à la race et à l'ethnie. « Ce travail révèle que les adolescents de couleur s'engagent déjà dans des formes sophistiquées de littératie numérique », a déclaré Avriel Epps, professeur assistant à l'École d'education de UC Riverside et auteure principale. « Ils ont développé ces compétences critiques, dans de nombreux cas, à partir de leurs expériences vécues en naviguant dans le racisme en ligne, et non nécessairement de l'enseignement en milieu scolaire. »

L'étude s'appuyait sur la National Survey of Critical Digital Literacy, un projet longitudinal dirigé par Brendesha Tynes de l'Université du Sud de la Californie, financé par une bourse Lyle Spencer Award to Transform Education de la Spencer Foundation. Plus de 100 adolescents noirs, accompagnés d'un nombre comparable de pairs latino et blancs, rapportaient quotidiennement dans des journaux combien de fois ils analysaient, réagissaient ou ignoraient le contenu numérique lié à la race. Les résultats vont à l'encontre d'une étude de 2021 du Stanford History Education Group, devenu le Digital Inquiry Group, dans laquelle les étudiants noirs obtenaient des scores significativement inférieurs aux autres groupes racio-ethniques dans l'analyse de médias numériques de la vie réelle, bien que cette recherche n'ait pas examiné les réactions liées à la race ou au racisme.

L'échelle est l'autre constante. CNN a rapporté en novembre 2023 que le gouvernement chinois a construit la plus grande opération de désinformation en ligne connue au monde, appelée « Spamouflage » ou « Dragonbridge », et l'utilise pour harceler des résidents, des politiciens et des entreprises américains, menaçant parfois les cibles de violence. Meta a déclaré en août avoir supprimé un cluster de près de 8 000 comptes attribués au groupe au seul deuxième trimestre de 2023. Google a déclaré à CNN avoir fermé plus de 100 000 comptes associés au cours des dernières années. X a bloqué des centaines de milliers de comptes chinois « soutenus par l'État » ou « liés à l'État », selon les blogs de l'entreprise.

Le dossier ne tranche pas sur la question de savoir si les plateformes peuvent suivre le rythme. Leicher de Facebook a qualifié le problème de modèle économique, et non de tactique. Le décompte de BuzzFeed News de 27 opérations attribuées, dont 19 en une seule année, suggère que le modèle est toujours vendu.