Entrevue avec Lux Miranda : comment allier robotique et inclusivité ?
Tiffanie Weber
Au cours de mes recherches sur les biais misogynes des IA génératrices d’images, les responsables de notre salle de nouvelles virtuelle m’ont partagé un article sur une IA adoptant un comportement féministes résultant en une représentation humaine plus réaliste. Cette expérience fût menée par la chercheuse suédoise Katie Winkle, et en m'intéressant à ses collaborateur.ice.s, j’ai découvert Lux Miranda (pronoms elle/iel).
Cette doctorante au laboratoire de robotique sociale de l’Université d'Uppsala en Suède oriente actuellement ses recherches vers l'impact humain et éthique sur l’identité des robots. En 2023, iel a mené une expérience sur la performance des robots dans le milieu scolaire en fonction de leurs identités sociales.
Les recherches de Lux Miranda entrent particulièrement en écho avec mon intérêt pour la diversité et la représentation. Iel inclut dans ses travaux une perspective queer novatrice, et j’étais très encline à échanger avec une femme dans le milieu encore très androcentré de la robotique.
Le 2 avril dernier, j’ai pu m’entretenir avec Lux Miranda. De cet échange mené en anglais sont ressorties des réflexions sur l’identité des robots et leur rôle dans le milieu scolaire.1
L’étude de la robotique sociale comme vocation.
Au début de notre échange, Lux m’explique :
« Une grande partie de mon travail porte sur les identités sociales représentées par les robots. Ce domaine m’intéresse particulièrement car j'interagis moi-même de manière intime avec les normes sociales et les stéréotypes. Je m’interroge alors si les modèles de robots que l’on crée renforcent ou transgressent les normes et les dynamiques de pouvoir présentes dans notre société. L’étude de ces facteurs est récent en robotique.»
Et lorsque je lui pose plusieurs questions sur ces recherches au sein de laboratoire de robotique sociale de l’Université d’Uppsala, Lux a conscience du caractère innovant de ces travaux. Iel ajoute :
«Les travaux que je mène au sein du laboratoire de robotique sociale de l’Université d’Uppsala approche la robotique sous un nouveau paradigme à travers une série de projets.»
Une expérience pionnière
Je demande à Lux sur quoi elle travaille en ce moment :
« En septembre 2023, j’ai mené avec Katie Winkle et Ginevra Castellano une expérience sur le rôle de l’identité sociale des robots éducateurs. Nous voulions vraiment accorder une plus grande attention à l’identité sociale représentée par le robot, pour mieux comprendre les normes et stéréotypes auxquels ils répondent traditionnellement. Auparavant, les chercheurs en robotique ont beaucoup écrit sur le genre des robots, leurs phénotypes et les intéractions qui en découlent, en étudiant également ce qui était socialement accepté. Mais le le genre ne représente qu’un aspect de l’identité, vous savez ? Nous voulions donc adopter une approche plus intersectionnelle et incorporer aux robots des caractéristiques ethniques, un facteur identitaire supplémentaire donc », précise-t-elle.
Je suis alors curieuse d’en savoir plus sur les détails du déroulement de cette expérience.
« Nous avons décidé de mener notre expérience dans un contexte éducatif car c’est un domaine dans lequel nous avons de l’habitude de mener nos recherches. Nous nous intéressons beaucoup à la présence des robots dans les salles de classe, sur l’impact qu’ils peuvent avoir dans l’apprentissage des enfants, etc. Nous nous penchons notamment sur la réussite des étudiants, les inégalités qu’on observe, avec un intérêt particulier pour ce qu’il se passe au niveau de l’identité sociale.
L’équipe et moi avons mené cette étude au sein d’une école internationale locale avec 161 enfants de 9 à 12 ans. Nous avons alors voulu mettre un robot dans la salle de classe et nous intéresser à la façon dont l’identité qu’on lui attribue a un effet et comment elle affecte les préjugés sociaux des élèves. Nous voulions également étudier la perception des élèves sur la science et la robotique et connaître leur intention de poursuivre une carrière dans ce domaine.
Car en tant que domaine, la robotique a tendance à être dominé par les hommes. Parfois même d’hommes d’une ethnie précise comme aux Etats-Unis et en Suède, mais cela dépend des pays.
Aussi, nous nous sommes interrogées sur la confiance qu’accordent les étudiantes aux robots, car c’est une question courante qui est souvent discutée en robotique. Nous avons donc mis en place un robot qui a donné un cours, juste une petite présentation à des groupes d’étudiantes sur l’apprentissage automatique expliqué de sorte à ce qu’elles puissent le comprendre.
Le robot-enseignant est un robot Furhat qui fonctionne avec un visage translucide à l’intérieur duquel se trouve un projecteur. On est donc capable de projeter tous les types de visage, et en changer comme on le souhaite. Nous changions le visage en fonction du sexe et de l’origine ethnique choisis. C’est assez cool, comme un vrai personnage de jeu vidéo !, » m’informe Lux.
Étudier la tolérance
Le choix de l’équipe de travailler avec les élèves d’une école internationale m’interpelle, et je demande à Lux pourquoi cette décision était pertinente dans leur étude. Iel me précise :
« Nous avions plusieurs motivations pour travailler avec cette école internationale. Déjà, pour des raisons pratiques, bien sûr. Une majorité de notre équipe n’est pas suédoise, et il était donc plus simple de travailler avec des élèves anglophones. La langue d’enseignement de l’école est l’anglais, et la présentation était également en anglais.
Mais ce choix vient surtout de notre volonté d'étudier une population originaire de nationalités et de milieux culturels diversifiés. L'école internationale était donc un excellent choix pour cela.
L’interaction humain-robot est complexe, et l’identité du robot est importante dans notre recherche, mais c’est également le cas de l’identité de l’humain avec lequel il interagit…»
Lux détaille ensuite la présentation menée par le robot :
« Chaque robot se présente avec son nom, sa prononciation, et une langue supplémentaire qu'il parle en plus de l'anglais. Par exemple "Hi ! Hallå (bonjour en suédois) ! Je m'appelle Elvie, mes pronoms sont she/her, et je parle anglais et suédois. Les enfants savent donc qu'il s'agit d'un robot bilingue, et qu’il parle entre autres suédois. »
Lux poursuit :
« Nous avions en fait une interrogation : les enfants font-ils confiance aux équipes qui présentent une plus grande diversité de genre ? Et nous n'avons pas mesuré d'interactions négatives. L'impact de la diversité ethnique indiquait que tout allait bien, que les enfants se disaient vraiment : “Cool ! Nous avons juste des robots différents et ce n'est pas un problème.” C'était très bien, » me dit-elle avec enthousiasme.
Elle précise ensuite :
« Le multilinguisme était également important pour la confiance, car nous avons constaté que les enfants qui répondaient aux enquêtes en suédois avaient tendance à accorder moins de confiance aux équipes de personnages dont un seul des trois robots parlait suédois. Ce qui est logique, si seul un des trois robots parle la langue dans laquelle vous vous sentez à l'aise, alors vous pourriez être moins enclin à leur faire confiance.
La diversité des genres est une bonne chose dans ce cas, et la diversité ethnique est également une bonne chose par la représentation qu’elle apporte. Voir des gens qui nous ressemblent dans le domaine de l’intelligence artificielle peut avoir un impact très important dans notre choix de carrière, nous le savons. Même s'il ne s'agit que d'un personnage fictif, cela peut toujours avoir un effet bénéfique. »
Cette dernière explication me fascine, et je lui demande de m’en dire plus sur le rôle de la représentation dans l’orientation des enfants.
« Nous avons entre autres mesuré les préjugés sexistes en posant les deux questions suivantes : “Pensez-vous qu'il est plus difficile pour les filles que pour les garçons de comprendre l'informatique ? Ou pensez-vous que c'est plus facile pour les filles ?".
Nous avons posé ces questions avant et après qu'ils aient vu les robots, et quel que soit l’ensemble de personas qu'ils aient vu, même s'il s’agissait des trois robots caractérisés en tant qu'hommes, il y a eu une réduction des préjugés sexistes.
Nous pensons que c'est parce que j'étais la personne qui dirigeait l'étude, car je gérais les robots et dirigeais l'expérience dans la salle. Je suis bien sûr une femme humaine, et nous pensons donc que la représentation réelle de moi en tant que chercheuse en robotique a eu un impact plus important que la représentation factice des robots.
La représentation réelle que j’ai joué a certainement eu un effet de substitution, mais nous pensons toujours que la représentation artificielle des robots peut être une aide. »
Représenter sans stéréotyper : un défi social
Mener cette expérience amène à rencontrer différents challenge, et quand j’en parle à Lux, iel clarifie :
« Nous avons dû aborder avec beaucoup de prudence la question de la diversité ethnique et de genre dans l'étude.
Le concept de robot non binaire était encore assez nouveau pour beaucoup de gens. Certaines personnes essaient depuis de nombreuses années de créer un robot neutre, mais je pense que c'est impossible parce que tout le monde est toujours en train d’associer des figures à un genre.
Un robot est un cylindre, il se déplace, et les gens lui attribuent toujours un genre, des pronoms et un nom. Il ne faut pas grand-chose pour que nous commencions à anthropomorphiser les choses. Nous voulions donc explorer la possibilité d'avoir un robot non binaire, qui s'introduirait lui-même avec un nom et des pronoms, et qui aurait un nom de genre neutre.
Nous avons collaboré avec mes amis suédois non binaires pour nous aider à choisir un bon nom, qui soit neutre et ethniquement suédois. Les enfants étaient enthousiastes, et disaient "Cool ! Un robot non-binaire !". D’ailleurs, quelques élèves étaient eux-mêmes non-binaires. C'était vraiment facile d'apporter un peu de perspective queer. »
Et pour ce qui est de l’ethnicité du robot, la chercheuse explique :
« L'aspect ethnique était évidemment un peu plus délicat. En particulier parce qu'ici, en Suède, contrairement à des pays comme les États-Unis, collecter des données sur l'appartenance ethnique des personnes n'est pas techniquement illégal mais extrêmement réglementé. Il faut une autorisation gouvernementale très stricte pour poser la question "à quelle ethnie vous identifiez-vous ?”.
Nous n'avons donc jamais demandé aux participants quelle était leur appartenance ethnique, mais nous pouvions leur demander quelle était leur nationalité. Comme "à quelle nationalité vous identifiez-vous ?", ce qui est en quelque sorte une approximation de l'ethnicité en fonction du pays d'où vous venez, car il existe des nations multiculturelles.
Aussi, en choisissant l'ethnie représentée par les robots eux-mêmes, nous avons fait très attention. Nous voulions qu'il y ait une distance culturelle raisonnable entre eux. »
Lux approfondit ensuite :
« Nous avons donc choisi trois ethnies représentant trois continents différents : l’Europe avec la Suède, l'Afrique avec la Somalie, et l'Asie avec la Syrie. L’Afrique et l’Asie sont les deux principaux pays d'origine des immigrants vivant en Suède.
Par ailleurs, nous avons biensûr fait attention au fait qu'un robot ne peut pas s'identifier, et quand il s'agit d'un sexe ou d'une ethnie, on ne peut en connaître la valeur réelle qu'en demandant à quelqu'un. On ne peut pas se contenter de supposer. Nous avons donc pris soin de souligner le fait que ces robots n'ont pas de sexe ou d'ethnicité. Ils ont certains indices dans leur apparence, leur façon de parler et leur comportement qui amènent les gens à les étiqueter avec certains genres ou ethnies. »
Ces explications, à nouveau, me fascine et quand je souhaite alors en savoir plus sur le traitement des données, Lux m’annonce :
« J'ai récemment publié le dossier associé à cette étude, mais je travaille toujours sur une partie des données collectées. A ce jour, seule la moitié des données collectées ont été traitées et publiées.
Nous avons recueilli tout un ensemble de données supplémentaires suite à une activité que nous avions proposée aux enfants. Nous leur avions demandé de faire un petit dessin sur l'activité du robot, et après l'exposé, nous leur avons donné ces questions. Nous leur avons fourni le dessin d’un visage de robot semblable à celui avec lequel ils venaient d'interagir. Ce visage était vierge, et les enfants ont donc dû le colorier comme ils le souhaitaient, lui donner un nom, des pronoms, une nationalité et un ensemble de compétences.
Nous étions très intéressés par la manière dont la manipulation que nous avons faite avec les différents traitements des identités a pu influencer la créativité des enfants dans l'imagination d'un robot qu'ils auraient pu choisir de concevoir. Nous venons tout juste de convertir les données papier originales en données numériques. »
L’avenir des IA selon la chercheuse.
Imaginer et concevoir une IA progressiste laisse entrevoir un futur riche en avancements. Qu’en pense Lux?
«Il y a beaucoup de pessimisme sur les implications sociales de l'IA, ce qui n'est certainement pas infondé. Nous avons déjà eu la preuve que l'IA et les robots en général peuvent s'emparer des préjugés sociaux et les amplifier de manière vraiment néfaste.
Mais je pense que nous commençons à comprendre exactement comment et pourquoi cela se produit. Et aujourd'hui, nous pouvons réfléchir à comment empêcher cela de se produire, notamment en utilisant cette IA et ces systèmes d'animation.
Je perçois que tout cela mène à une connaissance sur la façon de concevoir ces IA de manière à réaliser un plus grand progrès social. Elles pourraient permettre de promouvoir plus de compassion et de normes sociales pour mettre fin à la prolifération des stéréotypes et peut-être même inverser cette tendance.
C'est ce que j'espère.
Bien sûr, cela nécessite beaucoup de soutien public et de réglementations. Mais les connaissances sur la manière d'y parvenir sont au moins ce que nous produisons dans le cadre de cette recherche, »
Pour sa production, inspirée des principes du journalisme de solutions, Tiffanie a été accompagné et son travail édité par l’équipe de rédaction de numérIA en mode solutions, composée de Karoline Truchon, professeure et directrice du projet de recherche, Diane Bérard, rédactrice en cheffe et Marie-Sophie Bérard, accompagnatrice à la rédaction.