" Nous avons créé ce site comme une provocation ". Ce sont les premiers mots lisibles sur le site ImageNet Roulette. Cette expérience permet de dénoncer les biais discriminants contenus dans les algorithmes de reconnaissance faciale les plus utilisés au monde.
2500 catégories de "personnes"
Tout d'abord, vous devez prendre une photo ou télécharger un instantané de votre visage, puis le site donne son verdict. Ensuite, nous sommes classés. Nous pouvons être classés comme " pilote »,« geek »,« non-fumeur " ou " violoncelliste ". Jusqu'ici, pas trop de dénonciation, mais moins drôle, le programme classe également une femme qui sourit comme" quelqu'un de fou "Ou un homme comme" suspect de viol ". Nous comprenons mieux l'avertissement en gras:" Avertissement: ImageNet Roulette donne régulièrement des résultats racistes, misogynes et cruels ".
Loin de la plaisanterie, ce projet vise à critiquer les systèmes de catégorisation arbitraires utilisés par des algorithmes d'intelligence artificielle. ImageNet Roulette utilise les 2500 catégories de " personnes De la base de données ImageNet, développée à Princeton et à l'Université de Stanford en 2009, l'une des plus utilisées au monde pour l'apprentissage automatique. Pour faire correspondre votre selfie à une catégorie, ImageNet s’appuie sur la structure sémantique de Wordnet, une base de données lexicale également développée à Pinceton depuis les années 80. Mais cette base de données contient de nombreuses catégories problématiques, notamment racistes et misogynes.
En ligne jusqu'au 27 septembre
ImageNet Roulette fait partie de l'exposition artistique sur l'histoire des systèmes de reconnaissance d'images de Training Humans qui se déroule actuellement au musée de la Fondazione Prada à Milan. Dans un long article, les activistes ont détaillé le mécanisme discriminatoire d’ImageNet et plus généralement la reconnaissance d’image AI.
Victoire: étant donné le succès de cet outil, les responsables d’ImageNet ont annoncé qu’ils supprimeraient la moitié des images de la catégorie "Personnes" et feraient un grand nettoyage des catégories problématiques. Phew. La mission accomplie pour ImageNet Roulette fermera ses portes dans quelques jours, le 27 septembre.