Au cours des deux dernières années, le domaine de l’IA a été inondé de préoccupations concernant l’éthique et l’équité dans l’IA. Dans le même temps, le monde s’est éveillé aux problèmes structurels profondément enracinés de l’injustice raciale.

Les deux sont inextricablement liés. L’IA est l’une des transformations technologiques les plus puissantes que nous ayons vues – une partie d’un fil qui commence avec la montée en puissance de l’ordinateur personnel et traverse l’explosion d’Internet et la révolution mobile. Il a le pouvoir de faire de grandes choses mais est proportionnellement dangereux.

L’un des moyens les plus importants pour l’industrie de réduire les dommages potentiels de l’IA est d’assurer la diversité, l’équité et l’inclusion (DEI) à chaque étape du processus de création et de déploiement. À ce stade, la grande majorité de ceux qui créent l’IA au sein de l’entreprise, dans les startups technologiques et dans les petites et moyennes entreprises de toutes sortes comprennent cela – pourquoi la DEI est importante non seulement pour des raisons morales, mais pour des raisons pratiques.

Mais en réalité, l’opérationnalisation de DEI est un défi différent, et c’était l’objet de l’événement récent de VentureBeat. »Evolve: assurer la diversité, l’équité et l’inclusion dans l’IA. » Nous avons sollicité la sagesse d’un panel d’experts de l’industrie: Huma Abidi, directrice principale des produits logiciels d’IA chez Intel; Rashida Hodge, vice-présidente de la commercialisation en Amérique du Nord, marchés mondiaux, chez IBM; et Tiffany Deng, responsable de la gestion du programme pour l’équité du ML et l’IA responsable, chez Google.

Changer la mentalité: un meilleur miroir

Le vieux mantra «bougez vite et cassez les choses» a expiré. «Je pense qu’il devrait y avoir un nouveau mantra: bougez vite et faites-le correctement», a déclaré Abidi. Elle a souligné que la notion même de «casser des choses» est dangereuse parce que les enjeux de l’IA sont si importants. Elle a ajouté: «L’IA pour tous n’est possible que lorsque les technologues et les chefs d’entreprise travaillent consciemment ensemble pour créer une main-d’œuvre DEI.»

«En tant que femme noire dans le domaine de la technologie, je comprends personnellement les dures réalités de ce qui se passe lorsque nous négligeons de faire le vrai travail, et le vrai travail consiste à faire en sorte que la conversation ne porte pas uniquement sur l’algorithme», a déclaré Hodge. «La technologie sert de miroir à notre société. Cela révèle nos préjugés, cela révèle notre discrimination, [and] cela révèle notre racisme. Elle a dit que nous devons comprendre que les technologies sont façonnées par les personnes qui les fabriquent et que ces personnes ne sont pas insensibles aux effets systémiques du travail dans un environnement qui n’est ni diversifié ni inclusif.

Hodge a également déclaré qu’il devait y avoir un changement d’orientation, passant de la résolution des problèmes uniquement en abordant l’algorithme sous-jacent au recrutement et à la rétention de talents diversifiés. «De plus en plus, les technologies concernent la nuance des personnes et des processus, [and] l’augmentation des personnes et des processus, de sorte que ces systèmes d’IA sont le reflet direct de qui nous sommes, car ils sont formés par nous en tant qu’individus », a-t-elle déclaré.

Deng a déclaré que les gens mettent tout leur moi à la table en ce qui concerne l’IA, ce qui peut servir de guide pour y penser en tant que créateurs. Le développement de l’IA ne peut pas être un processus cloisonné. « Entrer dans ces communautés, comprendre comment elles utilisent la technologie, comprendre comment elles peuvent être lésées, comprendre ce dont elles ont besoin pour qu’elle soit meilleure, pour qu’elle ait vraiment plus d’impact sur leur vie » est la clé de la création de l’IA, a-t-elle déclaré. . « Et c’est une perspective qui vous manque si vous ne disposez pas d’une main-d’œuvre diversifiée. »

Points clés à retenir:

• Changer la vieille mentalité et l’approche du développement.
• Les chefs d’entreprise et les technologues doivent travailler consciemment ensemble pour assurer une main-d’œuvre diversifiée.
• La technologie sert de miroir à notre société; nous avons besoin d’un meilleur miroir.
• Les gens et leur travail sont affectés par le fait de se trouver dans des environnements diversifiés et non diversifiés.
• Il ne s’agit pas toujours de l’algorithme sous-jacent; se concentrer sur le recrutement et la rétention de talents diversifiés.
• Sortez du silo technologique et contactez les communautés qui seront affectées par votre IA pour comprendre les méfaits potentiels et les besoins réels qui existent.

Construire le bon personnel

«Votre effectif doit ressembler aux personnes que vous essayez de servir», a déclaré Deng. Elle a évoqué l’idée qui a été adoptée ailleurs: que la perspective que vous ne pas c’est parce que ce siège particulier à la table est vide. C’est ainsi que vous obtenez des angles morts, dit-elle. Ce tableau devrait refléter la société en général, mais aussi «les objectifs que nous avons pour l’avenir».

On a beaucoup insisté sur le besoin d’experts du domaine dans les projets d’IA. Autrement dit, si vous construisez quelque chose pour le secteur de l’éducation, vous devez faire appel à des éducateurs et compter sur leur expertise. Si vous essayez de résoudre un problème de soins aux personnes âgées, vous avez besoin de fournisseurs de soins de santé et de spécialistes pour s’impliquer.

Bien qu’il soit important de faire appel à des experts du domaine, ce n’est qu’une partie d’un ensemble plus vaste. «Il ne s’agit pas seulement de l’expertise du domaine. Il s’agit également d’une transformation des processus d’affaires de bout en bout qui comprend experts du domaine », a déclaré Hodge.

Abidi a fait écho à cette idée. «Lutter contre les préjugés dans l’IA n’est pas uniquement un défi technique», a-t-elle déclaré. «Les algorithmes sont créés par des personnes, de sorte que les préjugés dans le monde réel ne sont pas seulement imités, mais peuvent être amplifiés.» Ainsi, bien que les experts du domaine soient importants pour la création de systèmes d’IA, vous avez besoin d’un plus grand nombre de personnes provenant de plusieurs domaines. «Vous avez également besoin de défenseurs des consommateurs, de professionnels de la santé publique, de concepteurs industriels, de décideurs politiques – tous essentiellement liés à une main-d’œuvre diversifiée, qui est… représentative de la population que cette solution servira», a-t-elle ajouté.

Points clés à retenir:

• Votre personnel doit ressembler aux personnes que vous essayez de servir, de peur que vous n’ayez des angles morts.
• Il ne s’agit pas seulement d’acquérir une expertise dans le domaine; il s’agit d’une transformation commerciale de bout en bout.
• Une «main-d’œuvre diversifiée» comprend des personnes issues de plusieurs domaines d’expertise.

Assurer les bons flux de travail

Avec la bonne main-d’œuvre en place, vous devez également vous assurer que vous disposez des bons flux de travail. Hodge a souligné que, conceptuellement, la première chose à laquelle vous devriez penser est le «pourquoi».

«Il est vraiment essentiel de comprendre quel problème vous résolvez avec l’IA», a-t-elle déclaré. Cette clarté autour de votre approche initiale, a-t-elle dit, est importante.

Deng a fait écho à Hodge en appelant l’un des grands conseils du Dr Timnit Gebru: nous demander «devrions-nous faire cela?»

«Je pense que c’est une première étape vraiment importante dans la réflexion et la modification des flux de travail», a déclaré Deng. Bien que l’IA puisse aider à transformer pratiquement n’importe quel secteur ou entreprise, c’est une première question fondamentale. Ce qui en découle consiste à se demander si un projet ou une idée donné a du sens pour le problème en question et comment il pourrait causer des dommages.

Si vous posez ces questions cruciales et difficiles dès le début d’un projet, les réponses peuvent vous conduire à arrêter tout un flux de travail qui aurait eu un mauvais résultat. Cela peut exiger du courage, compte tenu des pressions internes ou externes. En fin de compte, cependant, faire le bon choix n’est pas seulement la bonne chose à faire, mais aussi la meilleure décision commerciale, car cela évite les projets voués à l’échec.

Hodge a affirmé que d’un point de vue pratique, il n’existe pas nécessairement un point de départ unique pour un projet donné; le point de départ dépend de la structure, des besoins, des problèmes commerciaux qu’elle doit résoudre, des experts internes disponibles, etc.

Abidi plaide pour la définition et la construction de normes et de processus clairs, quantifiables et dotés de mesures de qualité et de robustesse. «Cela, encore une fois, pour moi conduit à des solutions éthiques justes, transparentes, [and] explicable », dit-elle.

Un exemple qu’elle a donné est Fiche technique pour les ensembles de données, un article dirigé par Gebru qui exprime le besoin d’une meilleure documentation en IA. Le résumé de l’article dit que «chaque ensemble de données [should] être accompagnée d’une fiche technique qui documente sa motivation, sa composition, son processus de collecte, ses utilisations recommandées, etc. »

Elle a également suggéré un autre projet de documentation Gebru, Cartes modèles pour la création de rapports sur les modèles. Selon l’article: «Les cartes modèles divulguent également le contexte dans lequel les modèles sont destinés à être utilisés, les détails des procédures d’évaluation des performances et d’autres informations pertinentes.»

«Vous devez fondamentalement intégrer ces principes de base dans votre flux de travail», a-t-elle déclaré. «Ce que je veux dire, c’est que, comme tout autre logiciel, vous voulez vous assurer qu’il est robuste et tout cela, mais pour l’IA, vous en particulier – en plus d’avoir des normes et des processus – vous devez ajouter ces éléments supplémentaires.»

Il y a aussi la question de savoir si l’IA est excessive pour la tâche à accomplir. «Tous les problèmes ne doivent pas être résolus par l’IA», a noté Hodge.

Elle a également plaidé pour une approche prudente et itérative du développement de l’IA – un processus commercial continu qui a un cycle de vie et vous oblige à y revenir en permanence à mesure que les données changent ou que vous devez ajuster le modèle en fonction de résultats réels.

«Avec l’IA, il n’est pas nécessaire que le changement se produise d’un seul coup», a-t-elle déclaré. « Certains des meilleurs projets d’IA auxquels j’ai participé… MVP leur façon de faire évoluer. » Ils utilisent des sprints incrémentiels, ce qui est important car il y a des nuances dans ce travail, et cela nécessite des commentaires, plus de commentaires, plus de données, etc. «Tout comme la façon dont nous, humains, traitons l’information et traitons les nuances, en lisant plus d’informations, en visitant un endroit différent, nous avons des perspectives différentes. Et nous apportons une nuance à la façon dont nous prenons des décisions; nous devrions examiner les applications d’IA exactement de la même manière », a-t-elle déclaré.

Points clés à retenir:

• N’oubliez pas le «pourquoi» et le (s) problème (s) que vous essayez de résoudre – et demandez «Devrions-nous?»
• Il n’ya pas de point de départ unique pour un projet – cela dépend des besoins d’une entreprise donnée.
• Définir et construire des normes et des processus clairs, quantifiables et dotés de mesures de qualité et de robustesse.
• Tous les problèmes ne doivent pas être résolus par l’IA.
• «MVP» pour évoluer – les raccourcis dans le travail sont des raccourcis vers l’échec.
• Considérez le développement de l’IA comme un processus métier continu avec un cycle de vie – continuez à le revoir.

Conseils généraux

Tout au long de la conversation, les panélistes ont offert de nombreux conseils généraux aux entreprises cherchant à créer des projets d’IA et à opérationnaliser la diversité, l’équité et l’inclusion. Voici une liste résumée:

• Vous n’êtes pas obligé de partir de zéro – il existe déjà de nombreux outils formidables.
• L’IA n’est pas magique! Cela nécessite une formation, une expertise, une conception appropriée et des données diverses.
• Préparation organisationnelle: assurez-vous que votre entreprise est prête pour les solutions que vous proposez.
• Disponibilité des données: l’adage «garbage in, garbage out» est vrai. Les données alimentent chaque solution d’IA et vous devez continuer à les revoir au fil du temps.
• Ne perdez jamais de vue la valeur que vous espérez apporter: ce projet d’IA est-il juste quelque chose d’intéressant ou at-il réellement un impact?
• Il n’y a pas d’IA sans IA (architecture de l’information), alors examinez attentivement la structure de vos flux de données, de votre lac de données, etc.
• Lorsque vous mesurez des résultats, ne vous laissez pas trop distraire par la «précision» en soi; Comprenez ce que vous résolvez, examinez en quoi ce que vous avez créé est utile et pertinent et évaluez les compromis inhérents au cas par cas.