ENTRETIEN. « Il faut encourager les filles à coder » – Sciences et Avenir › Geeky News

Cet article est issu du hors-série de Sciences et Avenir n°199 d’octobre-novembre 2019.

Aude Bernheim est généticienne à l’Institut national de la recherche médicale et en santé (Inserm).

Sciences et Avenir: Can AI reduce inequalities?

Aude Bernheim : Oui, à condition d’être attentif à la conception de ces systèmes de machine learning. Les scientifiques travaillent déjà à produire des algorithmes inclusifs, des cartes pour une IA équitable. Il faut se poser des questions précises à chaque étape du développement : l’algorithme a-t-il été conçu avec différentes communautés ? Les données à partir desquelles le logiciel est constitué sont-elles représentatives de la population ? Est-ce qu’il véhicule des stéréotypes et lesquels ? Pouvons-nous apporter des corrections ? A quelle étape ? Rosabeth Kanter de la Harvard Business School a montré que la diversité dans les équipes favorise l’émergence de points de vue différents. Si quelqu’un comme la chercheuse Joy Buolamwini avait participé au développement d’un logiciel de reconnaissance faciale, il aurait pu pointer a priori sa carence pour les visages des femmes de couleur.

La mathématicienne et lanceuse d’alerte américaine Cathy O’Neil a fondé Orcaa, un institut privé qui évalue les biais ou l’éthique des algorithmes pour les entreprises clientes. Une bonne initiative ?

C’est une des solutions, mais pas la seule. Les entreprises qui les développent ont intérêt à améliorer leurs outils technologiques si elles ne veulent pas perdre des parts de marché, mais on ne peut pas compter sur leur seule bonne volonté. Les consommateurs, les citoyens ont également un rôle à jouer et les États doivent participer à la régulation de l’IA. Par exemple, l’Union Européenne a développé le RGPD (Règlement Général sur la Protection des Données).

L’« égalité de codage » dans les écoles d’informatique et de mathématiques peut-elle faire la différence ?

Les filles doivent apprendre à coder, les inciter à participer à ces secteurs dont « l’élitisme » génère un phénomène d’autocensure. Les établissements mettent en œuvre des politiques ambitieuses pour attirer et retenir les étudiantes. L’exemple le plus spectaculaire est le campus numérique de l’École 42 à Paris. Sa directrice, Sophie Viger, a développé 35 mesures concrètes : relèvement de la barrière d’âge à l’admission, mise en place de politiques strictes contre le harcèlement sexuel, ciblage d’un public spécifique via Pôle Emploi… Ces mesures ont permis d’augmenter significativement le recrutement des femmes.