Les femmes dans le domaine de l’IA font des percées dans la recherche, mènent des discussions éthiques vitales et inspirent la prochaine génération de professionnels de l’IA. Nous avons créé les VentureBeat Women in AI Awards pour souligner l’importance de leur voix, de leur travail et de leur expérience et pour mettre en lumière certains de ces leaders. Dans cette série, publiée les vendredis, nous approfondissons les conversations avec les gagnants, que nous avons honoré récemment à Transformer 2021. Vérifier l’interview de la semaine dernière avec un lauréat de notre prix de la responsabilité et de l’éthique de l’IA.

Pensez à une technologie d’IA, et le Dr Nuria Oliver y travaillait probablement il y a des décennies, alors que cela ressemblait encore à de la science-fiction. Ses recherches et ses inventions ont déclenché des avancées dans l’industrie et sont désormais à l’origine de nombreux produits et services que nous utilisons quotidiennement.

Mais alors qu’Oliver, lauréate de notre AI Research Award, a publié plus de 150 articles scientifiques et obtenu 41 brevets, elle ne croit pas aux progrès technologiques pour le plaisir. Surtout, elle se concentre aujourd’hui sur l’IA responsable et « développer une technologie qui est de notre côté, qui a vraiment nos intérêts et notre bien-être comme fonction objectif principale ».

« Pour moi, le progrès est une amélioration de la qualité de vie de tous, de tous les êtres de la planète et de la planète elle-même, pas seulement de certaines personnes », a-t-elle déclaré à VentureBeat. « Je pense donc qu’il est très important avant d’investir dans une technologie, de se demander si ce développement continue de progresser. Ou si ce n’est pas le cas, peut-être que nous ne devrions pas le faire.

Oliver active cette croyance au-delà de ses propres recherches, s’exprimant régulièrement sur le sujet et créant également le Institut pour l’IA centrée sur l’humanité, une organisation à but non lucratif axée sur l’impact de l’IA. Elle dirige également les efforts pour amener plus de femmes dans l’industrie et demande à toutes les jeunes filles qui pourraient lire ceci d’examiner les opportunités sur le terrain. Oliver elle-même a été la première femme informaticienne en Espagne à être nommée ACM Distinguished Scientist et ACM Fellow. Elle a également été la première femme directrice scientifique de la R&D chez Telefonica et continue de faire des vagues aujourd’hui en tant que conseillère scientifique en chef de l’Institut Vodafone.

Nous sommes ravis d’offrir à Oliver ce prix bien mérité. Nous l’avons récemment rencontrée pour en savoir plus sur ses recherches et discuter de l’IA responsable, des défis de l’industrie et de la façon dont les chefs d’entreprise peuvent donner un sens à ce domaine en évolution rapide.

Cette interview a été éditée par souci de concision et de clarté.

VentureBeat : Comment êtes-vous devenu chercheur en IA ? Et qu’est-ce qui vous intéresse le plus dans le travail ?

Dr Nuria Oliver : J’ai découvert l’IA lorsque j’étudiais l’ingénierie des télécommunications en Espagne. C’est un diplôme de six ans, et quand j’étais en troisième ou quatrième année, un professeur du département de mathématiques m’a demandé d’écrire un article pour une conférence internationale. J’ai choisi d’écrire sur les réseaux de neurones et l’intelligence humaine par rapport à l’intelligence artificielle, et je suis devenu fasciné par le sujet. Et j’ai donc décidé de faire mon projet de thèse de maîtrise sur la vision par ordinateur. Mon doctorat aux États-Unis portait également sur l’IA. Donc, je suppose que tout a commencé lors de ma troisième année d’université, mais je pense qu’avant cela, ce qui me fascinait vraiment et me fascine toujours dans l’IA, c’est aussi l’intelligence humaine.

VentureBeat : De toutes vos inventions et recherches, y en a-t-il une qui vous semble la plus marquante pour le domaine de l’IA ? Ou le plus impactant d’une autre manière ?

Olivier : C’est comme demander à quelqu’un s’il a un enfant préféré. Mais je suppose que mon principal domaine d’expertise est la construction de modèles informatiques du comportement humain et la construction de systèmes interactifs intelligents qui comprennent les humains. Et en termes de projet phare, je dirais le travail que j’ai fait sur la modélisation des interactions humaines à l’aide de apprentissage automatique techniques, car ce fut l’un des premiers travaux sur la détection et la modélisation des interactions humaines. J’ai également créé un système capable de prédire la manœuvre la plus probable dans une voiture avant que quiconque ne parle de conduite autonome, comme en 1999. C’était donc aussi un projet très complexe mais très excitant.

Je suis également fier du premier projet que j’ai réalisé au MIT, qui était un système de reconnaissance des expressions faciales en temps réel. Cela existe commercialement aujourd’hui, mais c’était comme de la science-fiction à l’époque en 1995. Tout le travail que j’ai fait sur l’intersection entre les téléphones portables, la santé et le bien-être a également été vraiment passionnant, car il essayait en quelque sorte de vraiment changer le façon dont nous percevons les téléphones. Une grande partie de ce travail est également devenu courant aujourd’hui avec les appareils portables. Et puis enfin, je dirais tout le travail que j’ai fait sur l’utilisation des données et de l’IA pour le bien social. C’est un domaine qui me passionne beaucoup, et je pense que cela a eu beaucoup d’impact. J’ai créé la zone d’utilisation des données et de l’IA pour le bien social chez Telefonica, et j’ai créé la zone chez Vodafone.

VentureBeat : Eh bien, c’est un travail incroyable, et il semble que vous soyez toujours en avance sur le temps. Alors, sur quoi travaillez-vous maintenant que nous pourrions voir plus à l’avenir? Y a-t-il un domaine de recherche émergent sur lequel vous avez vraiment un œil en ce moment ?

Olivier : Je suis très intéressé par le développement d’une technologie qui est de notre côté, qui a vraiment nos intérêts et notre bien-être comme objectif principal. Et ce n’est pas le cas aujourd’hui. Pourquoi ne concevons-nous pas une technologie qui suggère de la désactiver si elle a un impact négatif sur nous ? Pourquoi s’attendre à ce que la technologie que nous utilisons soit conçue pour maximiser le temps que nous passons à l’utiliser ? Je travaille également beaucoup sur certains des défis clés des systèmes d’IA utilisés pour la prise de décision : algorithmique biais, discrimination, opacité, atteintes à la vie privée, manipulation subliminale du comportement humain. Pour le moment, je ne pense pas que l’impact soit nécessairement positif. C’est donc un grand domaine d’intérêt en ce moment dans mon travail, et j’ai récemment créé une fondation à but non lucratif appelée Institute for Humanity Centric AI. Une grande partie du travail que je viens de décrire fait partie du programme de recherche de cette nouvelle fondation que nous venons de créer.

VentureBeat : Vous avez mentionné certains des plus importants, comme les préjugés et la confidentialité, mais je me demande quels sont, selon vous, certains des obstacles les moins connus à la recherche sur l’IA aujourd’hui.

Olivier : Il existe différents types de défis. C’est un domaine de recherche très actif, il y a donc beaucoup de défis techniques. En plus de ce que nous avons déjà dit, il y a la causalité inférée par rapport aux corrélations. Pour beaucoup de gros problèmes importants, nous voulons comprendre les relations causales entre différents facteurs, mais c’est très difficile à faire avec de nombreuses méthodes d’aujourd’hui, qui sont très efficaces pour trouver des corrélations mais pas nécessairement une causalité. Il existe des défis liés à l’accès aux données et à la combinaison de données provenant de différentes sources. Et pour de nombreux cas d’utilisation percutants, comme l’aide en cas de catastrophe naturelle ou même de pandémie, vous voulez pouvoir prendre des décisions en temps réel.

Et puis il y a des problèmes plus humains en termes d’éducation et de renforcement des capacités. Je dis depuis environ 10 ans maintenant que nous devrions vraiment transformer le système d’enseignement obligatoire afin qu’il soit plus aligné sur le 21e siècle. Je pense que le système éducatif dans de nombreux pays est issu de la deuxième révolution industrielle, mais nous sommes dans la quatrième révolution industrielle. Je pense aussi que nous devons investir davantage dans le développement des compétences humaines qui ont été très importantes pour notre propre survie : notre intelligence sociale, notre intelligence émotionnelle, notre créativité, notre capacité à travailler ensemble, à nous adapter. Et au-delà de l’éducation formelle, je pense qu’il est très important d’investir dans des programmes de perfectionnement et de recyclage pour les professionnels dont les emplois sont touchés par l’IA. Et je pense qu’il y a un lien avec certains des autres prix VentureBeat, comme le Prix ​​de mentorat IA Katia Walsh Gagné. Et puis investir également dans l’éducation de la population en général et des décideurs politiques afin que nous puissions réellement prendre des décisions éclairées concernant cette discipline très importante de l’IA.

Et je l’ai mentionné brièvement, mais il existe de nombreux défis liés aux données : accéder, partager, analyser, garantir la qualité et les implications en matière de confidentialité. Parce que même si les données sont des données non personnelles, vous pouvez en déduire des attributs personnels, comme des opinions politiques, l’orientation sexuelle, le sexe ou l’âge. Et bien sûr, il existe de nombreux obstacles liés à la gouvernance de ces systèmes et aux cadres éthiques nécessaires pour s’assurer que l’énorme pouvoir de l’IA sera réellement utilisé pour le bien social. Je dis toujours qu’il ne faut pas confondre développement technologique et progrès.

VentureBeat : De nouveaux articles et découvertes sur l’IA sont publiés chaque jour, et comme vous l’avez dit, les avancées ne sont pas toujours des progrès. Alors, quels conseils avez-vous pour les professionnels techniques et les décideurs sur la façon dont ils peuvent suivre, comprendre les changements dans le domaine et analyser quelles recherches ont vraiment un impact ?

C’est une très bonne question car le domaine a connu une croissance exponentielle au point où des articles sont publiés en permanence. Et en fait, de nombreux articles influents ne sont même plus publiés dans les conférences scientifiques ; ils sont publiés dans des systèmes de référentiel ouverts comme arXiv sans aucune évaluation par les pairs. Je pense donc qu’il est important de comprendre que ce travail est incrémental. Si vous êtes un praticien ou un chef d’entreprise, comprenez les principaux concepts ainsi que les capacités et les limites des systèmes d’IA existants. Essayez de penser à la façon dont ils peuvent profiter à votre entreprise sans nécessairement entrer dans tous les détails des derniers articles.

VentureBeat : Tout au long de la conversation, nous avons abordé cette idée d’IA responsable et éthique. Selon vous, quel est le rôle des chercheurs en IA à cet égard et dans la prévention des dommages potentiels de ces technologies ? En quoi la responsabilité est-elle la même ou différente de celle des entrepreneurs et des entreprises ?

Olivier : De plus en plus, les principales conférences sur l’apprentissage automatique demandent une discussion éthique claire sur les implications du travail. C’est donc vraiment un pas dans la bonne direction. De nombreuses universités incluent désormais l’éthique dans le diplôme en informatique. Mon message principal ici serait que si vous utilisez l’IA, développez une approche centrée sur l’humain dès le début. Prenez la direction que prennent le terrain et la législation. Je pense que l’Europe reconnaît que s’il n’y a pas de réglementation des systèmes d’IA, les conséquences négatives involontaires de ces systèmes peuvent être assez graves. Et comme je l’ai dit, vous savez, nous n’aurons peut-être pas de progrès du tout.