La conception inclusive aidera à créer une IA qui fonctionne pour tout le monde

Vous n'avez pas pu assister à Transform 2022 ? Découvrez dès maintenant toutes les sessions du sommet dans notre bibliothèque à la demande ! Regardez ici.

Il y a quelques années, un homme du New Jersey a été arrêté pour vol à l'étalage et a passé dix jours en prison. Il était en fait à 30 milles au moment de l'incident; le logiciel de reconnaissance faciale de la police l'a identifié à tort.

Les défauts de race et de genre de la reconnaissance faciale sont bien connus. Souvent formée sur des ensembles de données d'hommes principalement blancs, la technologie ne parvient pas à reconnaître d'autres données démographiques avec autant de précision. Ce n'est qu'un exemple de conception qui exclut certaines données démographiques. Pensez aux assistants virtuels qui ne comprennent pas les dialectes locaux, aux robots humanoïdes qui renforcent les stéréotypes de genre ou aux outils médicaux qui ne fonctionnent pas aussi bien sur les peaux plus foncées.

Londa Schiebinger, professeure d'histoire des sciences John L. Hinds à l'université de Stanford, est la directrice fondatrice du Gendered Innovations in Science, Health & Medicine, Engineering, and Environment Project et fait partie de l'équipe d'enseignants pour Innovations in Conception inclusive.

Dans cette interview, Schiebinger discute de l'importance de la conception inclusive dans l'intelligence artificielle (IA), des outils qu'elle a développés pour aider à réaliser une conception inclusive et de ses recommandations pour intégrer la conception inclusive dans le processus de développement de produits.

MétaBeat 2022

MetaBeat réunira des leaders d'opinion pour donner des conseils sur la manière dont la technologie métaverse transformera la façon dont toutes les industries communiquent et font des affaires le 4 octobre à San Francisco, en Californie.

Votre cours explore une variété de concepts et de principes de conception inclusive. Que signifie le terme conception inclusive   ?

Londa Schiebinger : C'est un design qui fonctionne pour tout le monde dans toute la société. Si la conception inclusive est l'objectif, alors les outils intersectionnels sont ce qui vous y mènera. Nous avons développé des cartes de conception intersectionnelles qui couvrent une variété de facteurs sociaux tels que la sexualité, la situation géographique, la race et l'origine ethnique, et le statut socio-économique (les cartes ont remporté une distinction notable aux Core77 Design Awards 2022). Ce sont des facteurs où l'on voit apparaître des inégalités sociales, notamment aux États-Unis et en Europe de l'Ouest. Ces cartes aident les équipes de conception à voir quelles populations elles n'auraient peut-être pas prises en compte, afin qu'elles ne conçoivent pas pour une personne abstraite et inexistante. Les facteurs sociaux de nos cartes ne sont en aucun cas une liste exhaustive, nous incluons donc également des cartes vierges et invitons les gens à créer leurs propres facteurs. L'objectif de la conception inclusive est de s'éloigner de la conception pour l'homme de taille moyenne par défaut et de prendre en compte l'ensemble des utilisateurs.

Pourquoi la conception inclusive est-elle importante pour le développement de produits en IA ? Quels sont les risques de développer des technologies d'IA qui ne sont pas inclusives ?

Schiebinger : Si vous n'avez pas de conception inclusive, vous allez réaffirmer, amplifier et renforcer les préjugés inconscients. Prenons l'exemple des robots infirmiers. L'objectif du robot infirmier est d'amener les patients à se conformer aux consignes de santé, qu'il s'agisse de faire des exercices ou de prendre des médicaments. L'interaction homme-robot nous montre que les gens interagissent davantage avec des robots humanoïdes, et nous savons aussi que les infirmières sont à 90% des femmes dans la vraie vie. Cela signifie-t-il que nous obtenons une meilleure observance des patients si nous féminisons les robots infirmiers ? Peut-être, mais si vous faites cela, vous renforcez également le stéréotype selon lequel les soins infirmiers sont une profession féminine et vous éliminez les hommes qui s'intéressent aux soins infirmiers. Fem...