Fin 2018, Amazon a dû mettre fin à une expérience très prometteuse. L'entreprise a utilisé l'intelligence artificielle pour trier les demandes reçues. Problème: ce dernier s'est comporté de manière totalement sexiste et a éliminé tous les CV contenant le mot "femme".

Cet épisode illustre bien les problèmes rencontrés par ces appareils qui se comportent souvent de manière lapidaire lors de l'exécution des instructions programmées dans leur algorithme. Il est également accusé de n'avoir fourni aucun moyen de connaître les points positifs et négatifs de l'entretien.

Mieux protéger les candidats en cas de refus

Face à ces problèmes, l'État de l'Illinois a décidé de réagir. Le 1er janvier, la loi sur les interviews vidéo sur l'intelligence artificielle de l'Illinois est entrée en vigueur. Cette loi est une première aux États-Unis. Il oblige les entreprises à informer les candidats lorsque l'IA est utilisée dans le processus de recrutement. Les entreprises doivent également expliquer comment fonctionne la technologie et comment elle l'évaluera.

Une fois toutes ces démarches effectuées, il doit obtenir le consentement de la personne interrogée. Des mesures sont également prévues pour empêcher le partage de vidéos avec des personnes qui ne participent pas à la sélection des candidats. Enfin, le candidat peut demander la destruction des images dans les trente jours de l'entretien.

Ces mesures constituent donc un grand pas en avant dans la régulation de l'utilisation de l'intelligence artificielle. Cependant, ils risquent de montrer leurs limites assez rapidement, selon certains spécialistes des ressources humaines. Interrogé par le Chicago Tribune, Anita Jenke, directrice du Career Transitions Center à Chicago, explique: «Les candidats peuvent refuser d'avoir un entretien vidéo, mais la loi n'oblige pas les employeurs à proposer une alternative. En conséquence, les aspirants peuvent toujours refuser de participer à l'examen d'IA, mais ils sont susceptibles de voir leur candidature rejetée sans aucune possibilité d'appel.

Les concepteurs du texte sont bien conscients de ses défauts. Ils précisent déjà de travailler sur la suite. Un autre projet de loi pourrait bientôt voir le jour. Il mettrait en place une protection pour les candidats qui refusent de consentir à un entretien d'embauche géré par une IA. L'élimination automatique serait ainsi rendue illégale.