Joe Osborne, un porte-parole de Facebook, a déclaré dans un communiqué que la société « avait déjà enquêté sur ces sujets » au moment du rapport d’Allen, ajoutant: « Depuis ce temps, nous avons constitué des équipes, développé de nouvelles politiques et collaboré avec l’industrie pairs pour adresser ces réseaux. Nous avons pris des mesures d’exécution agressives contre ce genre de groupes inauthentiques étrangers et nationaux et avons partagé les résultats publiquement sur une base trimestrielle.

Dans le processus de vérification des faits de cette histoire peu de temps avant sa publication, MIT Technology Review a découvert que cinq des pages de fermes de trolls mentionnées dans le rapport restaient actives.

Le rapport a révélé que les fermes de trolls atteignaient les mêmes groupes démographiques que l’Agence de recherche Internet (IRA) soutenue par le Kremlin lors des élections de 2016, qui visaient les chrétiens, les Noirs américains et les Amérindiens. Un 2018 Enquête sur BuzzFeed News a constaté qu’au moins un membre de l’IRA russe, inculpé pour ingérence présumée dans les élections américaines de 2016, s’était également rendu en Macédoine autour de l’émergence de ses premières fermes de trolls, bien qu’il n’ait trouvé aucune preuve concrète d’un lien. (Facebook a déclaré que ses enquêtes n’avaient pas non plus révélé de lien entre l’IRA et les fermes de trolls macédoniennes.)

« Ce n’est pas normal. Ce n’est pas sain », a écrit Allen. « Nous avons permis à des acteurs inauthentiques d’accumuler d’énormes adeptes à des fins largement inconnues … Le fait que les acteurs ayant des liens possibles avec l’IRA aient accès à un nombre énorme d’audience dans les mêmes groupes démographiques ciblés par l’IRA pose un risque énorme pour les États-Unis 2020 élection. »

Tant que les fermes à trolls réussiraient à utiliser ces tactiques, tout autre mauvais acteur le pourrait aussi, a-t-il poursuivi : L’IRA a également actuellement un large public là-bas.

Allen a écrit le rapport comme le quatrième et dernier volet d’un effort d’un an et demi pour comprendre les fermes de pêche à la traîne. Il a quitté l’entreprise le même mois, en partie à cause de la frustration que la direction ait « efficacement ignoré » ses recherches, selon l’ancien employé de Facebook qui a fourni le rapport. Allen a refusé de commenter.

Le rapport révèle la situation alarmante dans laquelle les dirigeants de Facebook ont ​​quitté la plate-forme pendant des années, malgré les promesses publiques répétées de lutter agressivement contre l’ingérence électorale étrangère. MIT Technology Review met le rapport complet à disposition, avec les noms des employés caviardés, car c’est dans l’intérêt public.

Ses révélations comprennent :

• En octobre 2019, environ 15 000 pages Facebook avec une audience majoritairement américaine étaient gérées depuis le Kosovo et la Macédoine, de mauvais acteurs connus lors des élections de 2016.
• Collectivement, ces pages de fermes de trolls, que le rapport traite comme une seule page à des fins de comparaison, ont atteint 140 millions d’utilisateurs américains chaque mois et 360 millions d’utilisateurs mondiaux chaque semaine. La page de Walmart a atteint le deuxième plus grand public américain avec 100 millions de personnes.
• Les pages de la ferme à trolls se sont également combinées pour former :
  • la plus grande page chrétienne américaine sur Facebook, 20 fois plus grande que la suivante, atteignant 75 millions d’utilisateurs américains par mois, dont 95 % n’avaient jamais suivi aucune des pages.
  • la plus grande page afro-américaine sur Facebook, trois fois plus grande que la suivante, atteignant 30 millions d’utilisateurs américains par mois, dont 85 % n’avaient jamais suivi aucune des pages.
  • la deuxième plus grande page amérindienne sur Facebook, atteignant 400 000 utilisateurs par mois, dont 90 % n’avaient jamais suivi aucune des pages.
  • la cinquième plus grande page de femmes sur Facebook, atteignant 60 millions d’utilisateurs américains chaque mois, dont 90 % n’avaient jamais suivi aucune des pages.
• Les fermes de trolls affectent principalement les États-Unis, mais ciblent également le Royaume-Uni, l’Australie, l’Inde et les pays d’Amérique centrale et du Sud.
• Facebook a mené plusieurs études confirmant que le contenu plus susceptible de susciter l’engagement des utilisateurs (j’aime, commentaires et partages) est plus susceptible d’être d’un type connu pour être mauvais. Pourtant, la société a continué à classer le contenu dans les fils d’actualité des utilisateurs en fonction de ce qui recevra le plus d’engagement.
• Facebook interdit aux pages de publier du contenu simplement copié et collé à partir d’autres parties de la plate-forme, mais n’applique pas la politique contre les mauvais acteurs connus. Cela permet aux acteurs étrangers qui ne parlent pas la langue locale de publier facilement du contenu entièrement copié tout en atteignant un large public. À un moment donné, jusqu’à 40 % des pages vues sur les pages américaines allaient à celles qui présentaient principalement un contenu non original ou du matériel d’une originalité limitée.
• Les fermes de trolls ont déjà fait leur entrée dans les programmes de partenariat Instant Articles et Ad Breaks de Facebook, qui sont conçus pour aider les organes de presse et autres éditeurs à monétiser leurs articles et vidéos. À un moment donné, en raison d’un manque de contrôles de qualité de base, jusqu’à 60% des lectures instantanées d’articles allaient vers du contenu qui avait été plagié ailleurs. Cela a permis aux fermes de trolls de se mélanger facilement et même de recevoir des paiements de Facebook.

Comment Facebook permet aux fermes de trolls et augmente leur audience

Le rapport examine spécifiquement les fermes de trolls basées au Kosovo et en Macédoine, qui sont dirigées par des personnes qui ne comprennent pas nécessairement la politique américaine. Pourtant, en raison de la façon dont les systèmes de récompense des fils d’actualité de Facebook sont conçus, ils peuvent toujours avoir un impact significatif sur le discours politique.