L'IA, une solution contre le sexisme ? Une start-up de Nice, créée par une femme, trouve la solution !

Unbias, start-up incubée à Telecom Paris Eurecom Sophia Antipolis, est née de la volonté de passer à l’action et de donner les moyens techniques au développement d’une IA éthique.

Une anthropologue s’est associée avec un data scientist pour créer un modèle d’apprentissage capable de détecter des biais sexistes dans les phrases et de les remplacer par des mots ou des syntaxes moins discriminants. 

Les algorithmes sont-ils vraiment sexistes ? 

Le modèle peut débiaiser un autre modèle ou « machine » comme un traducteur automatique, un agent conversationnel (chat-bot). Or les entreprises s’équipent de plus en plus de chat-bots pour gérer leur relation client ou leurs ressources humaines. L’idée est d’agir au cur de ce discours pour changer profondément les éléments de langage. La machine peut aider l’humain à mettre en oeuvre ce changement. 

La question mérite d’être posée tant les discriminations sexistes ou raciales liées aux algorithmes sont pointées du doigt (des IA discriminantes chez Microsoft, Google, Amazon). 

Oui, une IA peut avoir des préjugés sexistes tout simplement parce qu’elle apprend en imitant l’Homme. Les corpus d’apprentissage sont biaisés, comme ceux qui conçoivent les machines. Il y a peu de diversité parmi la communauté des data scientists tant du point de vue du genre, que de l’origine sociale et ethnique. Selon l’UNESCO, 22% des professionnels de l’IA à travers le monde sont des femmes. 

Dans ce contexte, difficile pour eux d’avoir une réflexivité suffisante pour construire des modèles neutres du point de vue de la discrimination. 

Quatre types de sexisme dans les corpus des agents conversationnels

 Les premières recherches des deux fondateurs ont permis de repérer quatre types de sexisme dans les corpus des agents conversationnels : Hostile – celui qui insulte, dévalorise un genre ; Dominant – celui qui instaure un rapport de force, une supériorité entre les genres ; Essentialiste – celui qui associe un genre à une activité, un métier inutilement ; Suggestif – celui qui peut provoquer une réception discriminante par la sur-représentation d’un genre dans une phrase. Ce qui est un cas récurrent en langue française cf. la règle du masculin l’emporte sur le féminin.