Pourquoi les algorithmes sont-ils sexistes ? par Katia Elkaim

Rien ne peut décrire mon mouvement d’humeur lorsque, pour la cinquantième fois, mon logiciel de traduction adoré a persisté à mettre au masculin, les belles tournures de phrases bien féminines que je lui demandais de me traduire en anglais. Mon interlocuteur, le programme, prenait ses aises en utilisant toute la latitude grammaticale unisexe que la langue de Shakespeare lui donne pour, subrepticement, dissimuler mes « elle » ou « sa » en « he » ou « his ».

Alors j’ai voulu en savoir plus : pourquoi nom d’un petit bonhomme, même chez une machine, le genre masculin prédomine spontanément ? Ce sont les algorithmes, me suis-je immédiatement imaginée, tout en me disant au fond de moi-même que lesdits algorithmes, que je visualisais comme une suite mathématique incompréhensible, ne pouvaient avoir de préférence de genre. Alors, comme toute curieuse qui se respecte, je suis allée me renseigner.

Point 1 : L’algorithme pour les nuls.

L’algorithme est une sorte de mode d’emploi par étapes pour parvenir à un but donné. La comparaison la plus souvent proposée est celle de la recette de cuisine. Par exemple, si votre but est de faire une pizza, alors votre recette algorithmique sera : prendre de la farine, puis de l’eau, puis de l’huile d’olive, puis de la sauce tomate etc…les étapes allant jusqu’à mettre la pizza façonnée au four à 180 degrés. La chose se complique lorsqu’il y a plusieurs options. Ainsi, au moment de mettre la garniture sur la pizza, l’algorithme pourra introduire, sous la forme d’un arbre, les variables en fonction de ce que vous avez dans le frigo. Par exemple, dans votre recette, à l’étape « choix de la garniture », l’algorithme peut définir que s’il y a des champignons, on en met. S’il n’y a pas de champignons, mais qu’il y a du jambon alors, on met du jambon. S’il n’y a ni champignon, ni jambon, alors on ne met rien d’autre que de la sauce tomate. S’il y a des champignons et du jambon, l’algorithme pourra examiner vos choix par le passé et décider tout seul ce qu’il vous proposera, en fonction de ceux-ci. C’est ainsi que l’on passe de la voiture autonome au diagnostic médical par l’intelligence artificielle ou encore à une analyse en temps réel des marchés financiers.

Bien entendu, derrière ce processus, il y a un humain qui traduit cette recette de cuisine en termes compréhensibles pour une machine, et c’est là que le bât blesse.

Flora Vincent et Aude Bernheim, dans « L’Intelligence artificielle, pas sans elles ! », paru en 2019 relèvent que l’IA reflète la société dans laquelle nous vivons et ses biais, et Aude Bernheim de prendre précisément l’exemple des logiciels de traduction.

Alléluia ! Je n’étais pas complètement dans le faux en m’interrogeant. Ainsi, « the doctor » est toujours « le docteur » et « the nurse » toujours l’infirmière.

Vous me direz que c’est assez anecdotique, mais ça l’est moins lorsque les logiciels de reconnaissance faciale s’entraînent majoritairement sur des images d’hommes blancs ou que les algorithmes de certaines IA ont appris à associer le genre féminin avec l’espace cuisine d’une habitation à travers les milliers d’images de femmes dans ce type de pièce. Les biais que l’on a connu jusqu’à ce jour sont non seulement répliqués, mais aussi et surtout amplifiés, comme le relève Hannah Kuchler dans un article du Financial Times du 9 mars 2018, « Tech’s sexist algorithms and how to fix them ».

Plus délicat encore, l’algorithme qui détermine une fourchette salariale inférieure pour les femmes, en se basant sur la statistique de ce qu’une femme, dans tel ou tel poste, a gagné par le passé.

Dans le domaine du travail, l’un des exemples criants est le système d’embauche d’Amazon qui a dû purement et simplement être mis aux oubliettes lorsqu’il s’est révélé sexiste et discriminatoire, parce qu’il ne se fondait que sur des CV masculins.

Le danger d’un accroissement exponentiel des inégalités est bien réel. En effet, si je reprends l’exemple de ma pizza de tout à l’heure, imaginons que mon algorithme détecte que j’ai mangé des champignons dans la majorité des cas, il pourrait ne plus me proposer de pizza au jambon et me cantonner à une éternité de champignons.

Ouf ! Le mal est beaucoup plus étendu que je ne croyais. Je suis assaillie d’articles sur le sujet et je m’étonne donc que l’on n’ait pas encore trouvé de solution.

Apparemment, selon Flora Vincent, l’univers geek est encore très majoritairement masculin, les filles considérant elles-mêmes que ce sont des filières élitistes, difficile d’accès pour elles et s’autocensurant.

Mais enfin les filles, pourquoi ?

Joy Adowaa Buolamwini informaticienne au MIT combat depuis des années les préjugés en matière de processus décisionnels dans les logiciels. Elle est la fondatrice de l’Algorithmic Justice League et propose des solutions pour déjouer ce qui ne doit pas être une fatalité.

D’ailleurs, juridiquement, qui serait responsable des discriminations et préjugés propagés par une IA ? Le codeur de l’algorithme, l’auteur de la base de données source ou l’utilisateur ?

À partir du stupide constat que j’ai fait, j’ai ouvert une boîte de Pandore à laquelle je ne m’attendais pas. En effet, naïve, je me disais qu’à l’ère du tout technologique, où la machine n’a ni état d’âme, ni genre, ces travers allaient peu à peu disparaître.

Convaincue que nous sommes tous piégés dans nos algorithmes mentaux, femme comme homme, il n’y a qu’une façon de changer les choses et c’est d’en parler et d’en parler encore, et de rappeler que la première à avoir codé un algorithme au XIXème siècle s’appelait Ada Lovelace et qu’elle a précédé des scientifiques illustres comme Ida Rhodes qui a conçu le langage informatique C-10 en collaboration avec Betty Holberton au début des années 1950, Grace Hopper qui a joué un rôle pivot dans le développement du langage COBOL, Fran Allen première femme à avoir obtenu le titre d’IBM Fellow et la distinction de l’ACM Turing Award qui récompense les «contributions importantes et durables dans le domaine de l’informatique », Karen Spärck Jones, à l’origine du concept de fréquence de document inverse, technologie à la base des moteurs de recherche modernes tels que Google, Adele Goldberg, créatrice du langage Smalltalk-80, langage qui a été intégré par Apple dans la configuration de programmation du premier modèle de Macintosh, Rosalind Picard Professeure au MIT Media Lab, où elle dirige la recherche en informatique affective, Nnenna Nwakanma qui milite pour un accès abordable d’internet au travers de sa fondation Free Software and Open Source Foundation for Africa, FOSSFA, l’indienne Neelam Dhawan, spécialisée en IA et classée par le magazine Forbes comme l’une des femmes les plus influentes au monde et enfin Hedy Lamarr, actrice reconnue et inventrice de génie.

Mesdames, je tenais à vous rendre hommage ici.

Picture by Ali Pazani