Comment aimeriez-vous que quelqu’un armé d’un iPhone puisse découvrir une multitude d’informations sur vous, afficher une photo Facebook ou Instagram dans laquelle vous avez déjà été et voir une autre image de vous qui a été publiée publiquement en ligne?

Ce scénario semble être possible grâce à une startup ombragée appelée Clearview AI qui, comme une enquête du New York Times plus tôt cette année a révélé, a miné vos photos en ligne pour construire une vaste base de données de reconnaissance faciale. Au début, Clearview AI a soutenu que son outil était uniquement destiné à être utilisé par les forces de l’ordre et quelques entreprises privées. Mais il est devenu plus tard évident que l’entreprise a toujours déformé à la fois l’étendue de son travail et l’étendue de ses aspirations.

C’est inquiétant. La reconnaissance faciale est un outil incroyablement puissant, et la technologie de Clearview traite des informations hautement personnelles – y compris, potentiellement, la vôtre. (Si vous résidez en Californie ou dans l’Union européenne, n’hésitez pas à demander les données Clearview vous a ici, mais notez que vous devrez probablement leur envoyer une copie d’une pièce d’identité avec photo émise par le gouvernement.)

Le rapport de BuzzFeed News montre que la société avait une liste de clients qui allait bien au-delà de l’application des lois et comprenait la NBA, Best Buy et Macy’s. Aujourd’hui, certaines de ces sociétés prennent leurs distances avec la startup de reconnaissance faciale.

Clearview a exagéré le rôle que sa technologie a joué pour aider les forces de l’ordre dans leurs enquêtes, tout en disant à Recode qu’elle n’avait conclu des contrats pour sa technologie qu’avec des clients aux États-Unis et au Canada. Les documents identifiés par BuzzFeed News indiquent que la société a également fourni la technologie aux utilisateurs Arabie saoudite et Émirats arabes unis, y compris aux clients ayant des liens avec les gouvernements de ces pays.

Et, cette semaine, nous avons appris d’un Rapport du New York Times que les dirigeants de Clearview AI avaient même offert sa technologie à ceux qui étaient liés à l’entreprise et qu’un milliardaire avait utilisé le logiciel pour identifier un homme qui sortait avec sa fille.

La controverse entourant Clearview a depuis déclenché une sonde des sénateurs américains. L’existence même de la technologie de reconnaissance faciale a toujours été source de débats. Les forces de l’ordre utilisent la reconnaissance faciale depuis plusieurs années maintenant, et les entreprises, les écoles et d’autres organisations utilisent de plus en plus le logiciel basé sur l’IA. Mais la technologie de Clearview représente une étape effrayante vers un système tout-puissant que le monde n’a jamais vu auparavant. La société secrète dit avoir créé une base de données de plus de 3 milliards d’images qui ont été grattées de tous les coins d’Internet, y compris des réseaux sociaux comme Facebook, Instagram et YouTube. À partir d’un instantané ou d’une vidéo, Clearview affirme que son application permet à une personne utilisant la technologie d’identifier un visage et de le faire correspondre avec des informations publiquement disponibles sur la personne, le tout en quelques secondes seulement.

Pendant ce temps, OneZero a révélé que Clearview AI avait également cherché à compléter sa base de données de photos grattées sur le Web avec des photos d’identité, bien qu’il ne soit pas clair si l’entreprise avait réussi.

Voulons-nous vivre dans un monde où cette technologie existe? Clearview fait valoir que la technologie peut aider à traquer les personnes dangereuses, et son site pointe «les agresseurs d’enfants, les meurtriers, les terroristes présumés». Et comme le Times signalé en février, la reconnaissance faciale de l’entreprise a permis d’identifier les enfants victimes dans des vidéos d’exploitation publiées sur le Web. Mais il est clair que la technologie peut être utilisée pour bien plus que cela.

Et les critiques disent que la reconnaissance faciale est beaucoup trop risquée, permettant une surveillance excessive et menaçant nos droits à la vie privée. Une autre préoccupation est que la technologie, dans son ensemble, s’est également révélée moins précise sur les personnes de couleur, les femmes et d’autres groupes minoritaires.

Face à ces préoccupations, les plus grandes entreprises technologiques du monde se sont intensifiées et, envoyé des lettres de cesser et de s’abstenir à Clearview qui ordonne à la société de cesser de gratter leurs sites pour nos données. Mais on ne sait pas vraiment combien de bien cela fera, ni dans quelle mesure ils investissent réellement dans la protection de nos informations personnelles. Bien que certaines poursuites contre Clearview soient également en cours, il n’est pas encore évident de savoir comment Clearview pourrait être arrêté. Cela a poussé les défenseurs de la vie privée à souligner la nécessité d’une loi fédérale réglementant, voire interdisant carrément, la reconnaissance faciale aux États-Unis.

La reconnaissance faciale n’est pas nouvelle. Mais cette énorme base de données de visages est.

Voici donc comment l’outil Clearview fonctionne. Disons que vous avez l’image d’une personne, mais que vous ne connaissez pas son nom. Vous pouvez saisir cette photo dans l’application Clearview, et elle affichera n’importe quelle image de la personne qu’elle a grattée d’Internet, ainsi que des liens vers des sites Web d’où proviennent ces images. Cela pourrait être une bonne quantité d’informations.

Encore une fois, la base de données de Clearview comprendrait plus de 3 milliards d’images prises sur le Web. C’est beaucoup plus que ce à quoi les agences d’application de la loi ont généralement accès. Le Times rapporte que la technologie fonctionnera avec des images de visages sous de nombreux angles différents, tandis que les anciens outils de reconnaissance faciale utilisés par les services de police pourraient exiger que le sujet regarde droit devant, comme dans une photo d’identité.

Cela signifie que des images de publications sur les réseaux sociaux sur des plateformes comme Instagram pourraient apparaître – même des images qui ne sont plus, mais qui étaient, accessibles au public. Et gardez à l’esprit: l’outil ne fait pas que faire apparaître les photos que vous avez prises et publiées en ligne. Il affichera également toutes les photos publiées de vous, même celles publiées à votre insu et sans votre consentement.

« Clearview est un moteur de recherche d’images accessibles au public », a déclaré le PDG de Clearview, Hoan Ton-That, à Recode dans un e-mail. «Nous n’indexons et ne pouvons pas indexer des images privées ou protégées, telles que celles d’un compte Instagram privé. Une image précédemment publique peut ou non être consultable avec Clearview selon le moment où elle était publique et cela dépendrait du cas individuel. »

Clearview décide qui peut – et ne peut pas – utiliser cet outil

Selon le Times, plus de 600 agences d’application de la loi ont utilisé Clearview AI au cours de l’année écoulée, tout comme des agences fédérales comme le Federal Bureau of Investigation (FBI) et le Department of Homeland Security (DHS). Le FBI n’a pas confirmé à Recode qu’il avait utilisé l’outil de Clearview, son témoignage l’année dernière sur son utilisation de la reconnaissance faciale plus largement. Le DHS n’a pas répondu à la demande de commentaire de Recode.

Des rapports récents suggèrent que l’outil a été proposé à une grande variété d’entreprises pour la sécurité, bien que Ton-That ne dirait pas à Recode lesquelles.

Il est également difficile de savoir si Clearview a des limites internes quant à savoir qui peut accéder à sa technologie, bien que nous sachions maintenant ne pas nous attendre à ce que la société soit ouverte au public. Par exemple, Ton-That dit au Times plus tôt cette année, « Si c’est un pays où il est tout simplement terriblement gouverné, ou quoi que ce soit, je ne sais pas si nous nous sentirions à l’aise, vous savez, de vendre à certains pays. »

Mais comme d’autres rapports l’indiquent, l’entreprise se sent à l’aise de vendre cette technologie à des clients dans des pays ayant des dossiers concernant les libertés civiles et les droits de l’homme, et BuzzFeed a récemment rapporté que la technologie avait été proposée à des utilisateurs en Arabie saoudite et aux Émirats arabes unis.

Pendant ce temps, Clearview avait affirmé à Recode auparavant qu’il n’avait pas de contrats en dehors des États-Unis et du Canada (La Gendarmerie royale du Canada, le service de police national au Canada, a déclaré à Recode qu’il ne commentait pas des outils d’enquête spécifiques mais qu’il recherchait des technologies émergentes. ).

L’utilisation de cet outil par les seuls responsables de l’application des lois soulève cependant des questions. Imaginez, par exemple, les problèmes éthiques en jeu avec un policier utilisant Clearview pour identifier un manifestant. Ou, disons que la reconnaissance faciale ne fonctionne pas comme elle le devrait et qu’un faux «match» conduit finalement à l’arrestation de quelqu’un pour un crime qu’il n’a pas commis.

Au départ, on craignait que la technologie de Clearview ne soit un jour mise à la disposition de n’importe qui. SUn tel développement pourrait détruire notre attente d’être anonyme en public.

Il n’est pas difficile d’imaginer des utilisations terrifiantes de cela, et nous avons déjà un indice, étant donné la façon dont les associés de Clearview AI ont déjà utilisé l’outil. Mais imaginez si une photo nue de vous était, à un moment donné, publiée en ligne. Avec la prise d’une caméra de téléphone, il est possible que toute personne possédant Clearview trouve instantanément cette image. Ou imaginez que vous vous promenez dans la rue, et que quelqu’un décide qu’il veut savoir où vous vivez et si vous avez eu des enfants. Tout ce dont ils pourraient avoir besoin est l’application Clearview.

L’étendue de la menace de Clearview pour la vie privée n’est pas claire. Le Times a signalé: « Les policiers et les investisseurs de Clearview prédisent que son application sera finalement disponible au public. » Sans surprise, c’était différent de ce que Ton-That a dit à Recode.

« Notre engagement strict à ce moment et à tout moment auparavant est et n’a pas été de mettre cet outil à la disposition du grand public », a déclaré Ton-That dans un e-mail à Recode. «Notre mission est de réduire la criminalité, la fraude et les abus en utilisant notre puissante nouvelle technologie. Tout abus de notre technologie constituerait une violation totale de notre mission et de nos valeurs. »

Il y a de nombreuses bonnes raisons de ne pas faire confiance à cette entreprise

Le passé de Clearview a sonné l’alarme. D’une part, les précédentes entreprises du PDG Hoan Ton-That comprenaient une application qui a ajouté les cheveux de Trump sur des photos de personnes, et il a également été lié à un Hameçonnage site. À un moment donné, la société a tenté de vendre une base de données pour la «recherche d’opposition extrême» à Paul Nehlen, un suprémaciste blanc et antisémite, qui se présentait au Congrès à l’époque, selon le Times. Un investisseur dans l’entreprise est Peter Thiel, qui a aidé à fonder PayPay et Palantir et a soutenu vocalement le président Trump.

La société n’a pas non plus été très claire dans ses déclarations publicitaires. Par exemple, BuzzFeed News a trouvé deux cas dans lesquels Clearview a affirmé qu’un certain organisme d’application de la loi «utilisait» son produit, alors qu’en fait l’agence avait simplement reçu un pourboire de la société. Clearview semble également affirmer que des centaines de services de police travaillaient avec eux lorsque certains de ces services de police ne se sont inscrits que pour un procès, selon BuzzFeed News.

Ton-That a déclaré à Recode: « Nos calculs sont basés sur le nombre d’agences qui utilisent activement la technologie Clearview pour aider à résoudre les crimes. »

On ne sait pas très bien dans quelle mesure l’outil fonctionne réellement. Selon supports marketing obtenus par BuzzFeed News, Clearview prétendait avoir «trouvé avec précision une correspondance sur 1 million de visages» 98,6% du temps. Dans le même temps, Clearview a déclaré au New York Times que l’outil produit une correspondance jusqu’à 75% du temps, bien que nous ne sachions pas combien de ces correspondances sont «vraies». Ton-That a également déclaré au Times qu’une des difficultés rencontrées par les algorithmes de Clearview était que les photos grattées sur le Web étaient généralement au niveau des yeux, ce qui n’est pas au même angle généralement capturé par les caméras de surveillance.

La société avait également déclaré avoir vérifié l’exactitude de son outil en utilisant une méthodologie de l’American Civil Liberties Union (ACLU), une affirmation que l’organisation a repoussé fortement contre. La réclamation a depuis été retirée du site de Clearview, bien que la société affirme toujours que son outil a été examiné et certifié par un « groupe d’experts indépendants ». (Recode a demandé à Clearview qui étaient ces experts, mais nous n’avons jamais eu de réponse.)

Pendant ce temps, Craig Watson, directeur du groupe Image du National Institute of Standard and Technology, a déclaré à Recode que Clearview ne s’était pas porté volontaire pour participer à son programme de tests de fournisseurs de reconnaissance facialeet il n’était pas prévu d’évaluer ses algorithmes.

Dans le même temps, Clearview AI semble également développer des caméras de surveillance, selon Nouvelles Buzzfeed.

Les entreprises technologiques ripostent, mais cela pourrait ne pas suffire

Les principales plateformes Internet ont répondu à Clearview en envoyant des lettres de cessation et de désistement à la société. Ces entreprises comprennent désormais LinkedIn, Twitter, Facebook, Venmo, Google, et Youtube. Il convient de noter que Twitter interdit explicitement d’utiliser sa plate-forme à des fins de reconnaissance faciale. Pendant ce temps, Pinterest a déclaré à Recode qu’il n’était pas au courant du raclage sur son site par Clearview, bien qu’un tel raclage Web violerait les directives de sa communauté. Interrogé sur Clearview en train de gratter ses images et vidéos, le vice-président de PornHub, Blake White, a déclaré dans un communiqué: « Nous n’avons aucune connaissance de cela et bloquons activement les grattoirs car ils violent nos conditions d’utilisation. »

Apple a depuis a suspendu l’accès de Clearview à son compte de développeur pour avoir violé ses conditions.

Pourtant, aucune des entreprises technologiques qui ont répondu à la demande de commentaires de Recode n’a dit si elle prévoyait d’intensifier ses demandes avec des poursuites. Clearview a déclaré avoir reçu ces lettres d’entreprises et que ses «avocats répondent de manière appropriée». Dans une interview avec CBS, le PDG de la société a insisté sur le fait qu’il y avait un premier amendement droit à l’information du public.

David McNew / AFP via Getty Images

En tant qu’utilisateurs de ces plateformes technologiques, les membres du public sont maintenant dans une position curieuse. Bien que nous critiquions depuis longtemps ces plates-formes pour avoir profité de nos données, nous sommes désormais potentiellement dépendants de ces sociétés pour nous défendre contre un monde dystopique de reconnaissance faciale. N’oubliez pas que plusieurs de ces sociétés, comme Google et Facebook, ont travaillé sur leur propre technologie de reconnaissance faciale, bien que confrontés à différents niveaux de controverse et de préoccupations éthiques. En février, nous avons appris que Facebook avait accepté de payer 550 millions de dollars pour régler un procès de reconnaissance faciale en Illinois inspiré par sa fonctionnalité de suggestion de «photo-tagging». Mais en dépit d’avoir accès à des milliards de nos photos, aucune de ces entreprises n’a avancé dans la création d’un tel outil – une limite que Clearview a maintenant franchie.

Clearview pourrait donc avoir vos photos. Pouvez-vous faire quelque chose?

Selon la politique de confidentialité répertoriée sur le site de Clearview, les utilisateurs ont certains droits. Mais la politique stipule que le «droit à l’effacement» – la suppression de vos informations de leur plateforme – n’est disponible que sous certaines conditions. Bien qu’il ne dise pas combien, Ton-That a déclaré à Recode que Clearview avait reçu un «nombre» de ces demandes et «répondait de manière appropriée».

Dans un e-mail ultérieur, Ton-That a déclaré: « Nous traitons les demandes de suppression pour les personnes dans les juridictions qui imposent cette obligation légale. » Pour faire ces demandes, vous devez confirmer votre identité auprès de Clearview en envoyant – obtenez ceci – une photo de vous-même sur une pièce d’identité du gouvernement.

Mais si (naturellement) vous ne vous sentez pas à l’aise de le faire, vous pourriez envisager de poursuivre Clearview. Plusieurs poursuites ont maintenant été intentées contre Clearview, notamment en Virginie, en Illinois et en Californie. Bien que le Texas ait également une loi biométrique sur la confidentialité, elle exige que le procureur général de l’État prenne des mesures. Cela ne semble pas s’être produit.

Ton-That a déclaré que Clearview avait conçu son outil pour suivre «toutes les lois et réglementations pertinentes».

Scott Drury, un ancien représentant de l’État de l’Illinois et avocat représentant l’un de ces recours collectifs, a déclaré à Recode en février qu’ils ne prétendaient pas simplement que Clearview avait violé la loi biométrique sur la confidentialité de l’Illinois. Il a dit qu’ils poursuivaient également pour des motifs constitutionnels.

« Dans ce cas, vous avez des citoyens qui ont clairement le droit à leur vie privée et ils ont le droit de savoir comment les photographies qu’ils mettent en ligne sont utilisées », a déclaré Drury. « Et Clearview, en collaboration avec les forces de l’ordre, a spécifiquement et secrètement pris ces photos et les a grattées sur Internet et n’a fait savoir à personne qu’elles le faisaient. »

La controverse a incité certains services de police à s’exprimer. Maintenant, le NYPD nie avoir une «relation institutionnelle» avec l’entreprise, selon BuzzFeed News. Le service de police de Philadelphie a m’a dit que, pour l’instant, ils ne testent que l’outil Clearview AI.

Le service de police de Chicago a déclaré qu’après un procès, il avait dépensé près de 50000 $ pour utiliser la technologie pendant deux ans, selon le Chicago Sun-Times. Pendant ce temps, le procureur général de l’État du New Jersey a ordonné que tous les policiers de l’État arrêtez d’utiliser l’outil. D’autres, dont le service de police de Miami, ont commenté des cas où Clearview AI a aidé identifier les suspects.

Mais quelques villes ont déjà interdit aux forces de l’ordre d’utiliser la reconnaissance faciale. Les révélations sur Clearview AI ont également renforcé les appels à une réglementation fédérale de la technologie.

« Le Congrès doit cesser de déconner et adopter une loi interdisant l’utilisation de la technologie de surveillance du visage dans tout le pays », a déclaré Evan Greer, directeur adjoint du groupe de défense des droits numériques Fight for the Future, dans un communiqué. Cela imite ce d’autres défenseurs de la vie privée disent.

Et certains législateurs semblent écouter. Lorsque l’histoire du New York Times est sortie, le sénateur Cory Booker a également tweeté que si « le Congrès n’agit pas pour limiter l’utilisation de la technologie de cette manière, nous risquons de perdre notre vie privée et notre liberté. » Et à la fin de janvier, le sénateur Ed Markey a écrit à Ton-That exigeant une liste de toutes les agences d’application de la loi et de renseignement en communication avec Clearview, ainsi que d’autres questions.

Le sénateur Markey a depuis envoyé un autre lettre directement à l’entreprise, qualifiant la réponse initiale de Clearview d ‘«inacceptable» et demandant plus d’informations sur le potentiel de l’entreprise à collecter des images d’enfants et son intérêt à vendre sa technologie à des pays ayant des dossiers problématiques sur les droits de l’homme.

Pourtant, la reconnaissance faciale est utilisée depuis longtemps par les forces de l’ordre. Donc, même s’il est possible que Clearview AI puisse enfin galvaniser suffisamment de jeu pour que les législateurs agissent, seul le temps nous le dira. En attendant, ce serait le moment idéal pour passer vos comptes de médias sociaux en privé. Vos amis peuvent se soucier de ce que vous portiez samedi soir, mais c’est peut-être quelque chose que les flics n’ont pas besoin de savoir.

Mise à jour, 6 mars: Cette pièce a depuis été mise à jour avec de nouveaux détails pour refléter les rapports en cours sur Clearview AI.

Source ouverte est rendu possible par le réseau Omidyar. Tout le contenu Open Source est indépendant de la rédaction et produit par nos journalistes.