WASHINGTON, DC – Les législateurs américains sont en colère contre Facebook depuis des années. Depuis 2011, ils ont sonné l’alarme sur Facebook manquements à la protection de la vie privée des utilisateurs, ses luttes contre la désinformation sur ses plateformes et ses impact sur la santé mentale de ses utilisateurs. Mais ils n’ont pas adopté de nouvelles lois traitant de ces problèmes.

Aujourd’hui, certains législateurs clés disent qu’ils ont le catalyseur dont ils ont besoin pour apporter un réel changement : Frances Haugen, dénonciatrice et ancienne employée de Facebook.

Haugen, autrefois chef de produit dans l’entreprise, a témoigné mardi devant le sous-comité sénatorial du commerce sur la protection des consommateurs, la sécurité des produits et la sécurité des données dans ce que les législateurs décrivent comme un appel urgent à l’action pour réglementer Facebook. La dénonciatrice a provoqué une vague d’examen minutieux de Facebook par les médias lorsqu’elle a partagé des milliers de documents internes avec le le journal Wall Street, la SEC et le Congrès qui montrent que Facebook était au courant des dommages que ses produits peuvent causer, mais a minimisé cette réalité pour les législateurs et le public. Cette preuve, qui manquait à la conversation jusqu’à présent, révèle comment Facebook a mené des recherches qui ont découvert que ses produits peuvent causer des problèmes de santé mentale, permettre à un contenu violent de prospérer et promouvoir des réactions polarisantes – puis largement ignoré cette recherche.

« Je me suis manifesté parce que j’ai reconnu une vérité effrayante : presque personne en dehors de Facebook ne sait ce qui se passe à l’intérieur de Facebook », a déclaré Haugen dans son témoignage d’ouverture mardi.

Dans une déclaration en réponse à l’audience de mardi, la directrice des communications politiques de Facebook, Lena Pietsch, a écrit que Haugen « travaillait pour l’entreprise depuis moins de deux ans, n’avait pas de rapports directs, n’avait jamais assisté à une réunion de prise de décision avec des cadres de niveau C – et a témoigné plus de six fois pour ne pas travailler sur le sujet en question.

« Nous ne sommes pas d’accord avec sa description des nombreux problèmes sur lesquels elle a témoigné », a écrit Pietsch. « Malgré tout cela, nous sommes d’accord sur une chose ; il est temps de commencer à créer des règles standard pour Internet. Cela fait 25 ans que les règles d’Internet ont été mises à jour, et au lieu de s’attendre à ce que l’industrie prenne des décisions de société qui appartiennent aux législateurs, il est temps que le Congrès agisse. »

Dans le passé, les audiences du Congrès sur Facebook ont ​​souvent dégénéré en démagogie politique, les législateurs s’écartant du sujet et se tournant vers leurs propres griefs partisans avec l’entreprise. Certains républicains se sont concentrés sur la accusations non prouvées que la société de médias sociaux a un parti pris anti-conservateur. À d’autres moments, les législateurs ont fait des gaffes qui révèlent leur manque apparent de connaissances techniques de base – comme la tristement célèbre question du sénateur Orrin Hatch (R-UT) à la retraite à propos de comment Facebook gagne de l’argent, ou la question récente du sénateur Richard Blumenthal sur « Finsta » lors d’un Audience du sous-comité du Sénat jeudi dernier.

Cette fois, cependant, les législateurs de l’autre côté de l’allée étaient particulièrement concentrés et bien étudiés sur les questions pertinentes – et tangibles – à traiter. Ils ont posé à Haugen des questions pointues sur les dommages que Facebook peut causer, en particulier aux adolescents et aux enfants, et comment cela peut être résolu.

En retour, Haugen était un témoin éloquent. Elle a décomposé des sujets compliqués comme le fil d’actualités classé par algorithme de Facebook de manière accessible. Et elle a fourni certaines des explications les plus claires à ce jour au Congrès et au public sur ce qui ne va pas avec Facebook et comment ces problèmes peuvent être résolus.

Donner à Facebook une véritable surveillance externe

Haugen a appelé à plusieurs reprises les législateurs à créer un organisme de réglementation externe qui aurait le pouvoir de demander des données à Facebook, en particulier sur le fonctionnement de ses algorithmes et le type de contenu qu’ils amplifient sur les plateformes de médias sociaux de l’entreprise.

« Tant que Facebook opère dans l’obscurité, il n’a de comptes à rendre à personne », a déclaré Haugen dans son témoignage d’ouverture. Haugen a fait valoir qu’« un point de départ essentiel pour une réglementation efficace est la transparence : un accès complet aux données pour la recherche non dirigée par Facebook ».

Dans son témoignage écrit partagé avant l’audience, Haugen a critiqué le conseil de surveillance quasi-indépendant existant de Facebook (qui n’a aucun pouvoir juridique réel sur Facebook) parce qu’elle pense qu’il est « aveugle » au fonctionnement interne de Facebook.

« À l’heure actuelle, les seules personnes au monde formées pour analyser ces expériences sont des personnes qui ont grandi au sein de Facebook ou d’autres sociétés de médias sociaux », a déclaré Haugen. « Il doit y avoir un foyer réglementaire où quelqu’un comme moi pourrait faire un tour de service après avoir travaillé dans un endroit comme celui-ci », a-t-elle déclaré.

Le professeur de droit de Stanford, Nate Persily, qui a déjà travaillé directement avec Facebook sur des partenariats universitaires dans le passé et qui a reconnu les limites de ces partenariats, a récemment appelé à législation qui obligerait des plateformes comme Facebook à partager des données internes avec des chercheurs externes.

La transparence des données n’est pas exactement le concept qui attire le plus l’attention, et ce n’est pas non plus un sujet facile à réglementer. Mais comme Recode l’a déjà signalé, de nombreux experts des médias sociaux sont d’accord avec Haugen pour dire que c’est une première étape pour réguler de manière significative Facebook.

Ouvrez la boîte noire algorithmique de Facebook

Les algorithmes de Facebook alimentent le fonctionnement de ses plateformes et ce que tout le monde voit sur son fil d’actualité. Haugen a déclaré que ces mécanismes puissants ne devraient pas fonctionner dans une boîte noire que seul Facebook contrôle et comprend, et qu’ils doivent être examinés et réglementés.

Des documents internes révélés par Haugen ont montré comment un changement en 2018 dans le fil d’actualités de Facebook contenu récompensé qui provoque plus d’émotion chez les gens — en particulier la colère, car elle suscite plus d’engagement que toute autre émotion. Haugen et des membres du Congrès ont également expliqué comment les algorithmes de Facebook peuvent également pousser les adolescents vers des contenus toxiques, comme ceux faisant la promotion des troubles de l’alimentation.

« J’ai passé la majeure partie de ma carrière sur les classements basés sur l’engagement », a déclaré Haugen, qui a déjà travaillé chez Google et Pinterest. « Facebook dit: » Nous pourrions le faire en toute sécurité parce que nous avons l’IA. L’intelligence artificielle trouvera le mauvais contenu que nous savons que nos classements basés sur l’engagement font la promotion », a-t-elle déclaré. Mais elle a averti que « les propres recherches de Facebook indiquent qu’ils ne peuvent pas identifier de manière adéquate » ce contenu dangereux, et qu’en conséquence, ces algorithmes suscitent « des sentiments et une division extrêmes » chez les gens.

Ceci, a souligné Haugen, est au cœur de bon nombre des problèmes les plus urgents de Facebook, et il doit être supervisé par le Congrès.

« Je pense [Haugen] nous a permis de passer sous le capot de Facebook », a déclaré le sénateur Ed Markey (D-MA). « Nous pouvons maintenant voir comment cette entreprise fonctionne et comment elle est indifférente à l’impact des algorithmes sur les jeunes de notre pays. »

Créer des lois fédérales sur la confidentialité pour protéger les utilisateurs de Facebook

La confidentialité n’était pas l’un des principaux objectifs de Haugen lors de son témoignage, mais plusieurs législateurs, dont la sénatrice Amy Klobuchar (D-MN), la sénatrice Marsha Blackburn (R-TN) et la sénatrice Ed Markey (D-MA), ont évoqué la nécessité d’une meilleure réglementation de la vie privée.

La protection de la vie privée des personnes sur des plateformes comme Facebook est un domaine dans lequel le Congrès a introduit certaines des législations les plus importantes à ce jour, notamment la mise à jour de la 1998 Loi sur la protection de la vie privée en ligne des enfants (COPPA), les KIDS Act, qui obligerait les entreprises technologiques à limiter sévèrement ciblant la publicité sur les enfants de 16 ans ou moins, et la loi SAFE DATA, qui créerait des droits d’utilisateur sur les données transparence et demander le consentement opt-in pour le traitement de données sensibles. Il est donc logique que cela soit un élément clé de leurs plans potentiels pour réglementer Facebook.

« L’adoption d’une norme fédérale sur la protection de la vie privée est un travail de longue haleine. J’ai mis mon premier en 2012 et je pense que ce sera ce Congrès et ce sous-comité qui ouvriront la voie », a déclaré Blackburn.

Haugen a convenu que la façon dont Facebook gère la confidentialité de ses utilisateurs est un domaine de préoccupation clé sur lequel les régulateurs devraient se concentrer, mais elle a également déclaré qu’elle ne pensait pas que la réglementation de la confidentialité était la seule solution pour atténuer les dommages de Facebook à la société.

« Facebook veut vous faire croire que les protections de la vie privée ou les modifications apportées à l’article 230 suffiront à elles seules », a déclaré Haugen. « Bien qu’importants, ils n’iront pas au cœur du problème, à savoir que personne ne comprend vraiment les traits destructeurs de Facebook, à l’exception de Facebook. Nous ne pouvons nous permettre rien de moins qu’une transparence totale.

Réformer l’article 230 – mais se concentrer sur les algorithmes

Au cours de l’audience, plusieurs sénateurs ont évoqué l’article 230, la loi historique sur Internet qui empêche les entreprises technologiques d’être poursuivies pour la plupart des types de contenus illégaux que leurs utilisateurs publient sur leurs plateformes.

Réformer l’article 230 serait très controversé. Même certaines organisations politiques comme le Fondation de la frontière électronique et Combattez pour l’avenir, qui scrute de près les entreprises technologiques, a fait valoir que la suppression de cette loi pourrait enraciner les géants de la technologie en place, car cela rendrait plus difficile pour les petites plateformes de médias sociaux avec moins de ressources de modération de contenu de fonctionner sans faire face à des poursuites coûteuses.

Haugen a semblé comprendre certaines de ces nuances dans sa discussion sur 230. Elle a proposé que les régulateurs modifient l’article 230 pour rendre les entreprises légalement responsables de leurs algorithmes faisant la promotion de contenus préjudiciables plutôt que de publications d’utilisateurs spécifiques.

« J’encourage la réforme des décisions de l’article 230 concernant les algorithmes. Modifier 230 autour du contenu – cela devient très compliqué car le contenu généré par les utilisateurs est quelque chose sur lequel les entreprises ont moins de contrôle », a déclaré Haugen. « Ils ont un contrôle à 100 % sur les algorithmes. »

Et après

Les dirigeants du sous-comité sénatorial qui a amené Haugen à témoigner mardi ont déclaré qu’ils allaient garder Facebook sous les projecteurs et qu’ils tiendraient plus d’audiences à l’avenir (ils ne diraient pas quand) sur Facebook et d’autres sociétés technologiques.

« Elle a vraiment saisi la conscience du Congrès aujourd’hui et a fait une différence durable et durable dans la façon dont nous considérerons Big Tech », a déclaré Blumenthal. « Sans aucune exagération, nous commençons maintenant une ère différente – j’espère que ce sera différent – en tenant Big Tech pour responsable. »

Mais le Congrès en est encore au stade de la discussion. Aucun des nombreux projets de loi qui ont été déposés au fil des ans, comme un projet de loi visant à empêcher désinformation sur la santé sur les réseaux sociaux ou une proposition de loi antitrust pour empêcher les grandes entreprises technologiques de vendre des gammes de produits qu’elles contrôlent – sont de loin sur le point de passer. Et bien que ce moment semble différent – ​​et que certains sénateurs, comme Ed Markey, ont réintroduit des projets de loi à la lumière du nouvel examen – il y a une bataille à venir pour les législateurs s’ils sont prêts à se battre.

Le sénateur Richard Blumenthal, qui co-dirige le sous-comité qui a tenu l’audience mardi, a refusé de dire s’il assignerait Mark Zuckerberg à comparaître ou exactement quand aurait lieu la prochaine audience. La sénatrice Marsha Blackburn, qui co-dirige avec Blumenthal, a déclaré que le changement arrivait « le plus tôt possible » et que le Congrès était « proche d’un accord bipartite ». Mais étant donné que le Congrès négocie toujours un financement de base pour le gouvernement américain, essayer de réguler efficacement Facebook va prendre du temps ainsi qu’une remarquable coordination entre les partis.

Mais l’attention portée par les sénateurs à l’audience d’aujourd’hui montre que même ce Congrès polarisé est peut-être prêt à s’unir, du moins lorsqu’il s’agit de réglementer Facebook.