La «misogynie des intelligences artificielles»: au-delà des biais cognitifs
Parler de «misogynie» des IA relève de l’anthropomorphisme. Les biais algorithmiques reflètent ceux des données; ils deviennent visibles et mesurables, ce qui permet de choisir par des méthodes scientifiques les biais que l’on veut pour nos sociétés.
Cet article date de plus d’un an. Certains constats ont pu évoluer depuis.
Comment parler de biais cruciaux sans tomber dans l'anthropomorphisme
La «misogynie des intelligences artificielles», ou comment parler de biais cruciaux en tombant dans des biais cognitifs de généralisation et d'anthropomorphisme.
Repenser la nature des biais algorithmiques
La question des biais dans nos productions algorithmiques n'est ni une question de misogynie ni même de genre. Elle n'en demeure pas moins essentielle.
Tout calcul est intrinsèquement biaisé, qu'il soit réalisé par un cerveau humain ou non (il fait une chose et pas une autre).
Il faudrait ainsi pouvoir discuter ouvertement, sur la base de preuves empiriques et de méthodes scientifiques, du choix des biais qu'on souhaite pour nos sociétés. Souhaite-t-on privilégier une représentation égale des genres dans tous les postes, ou souhaite-t-on optimiser la qualité de vie du plus grand nombre? Souhaite-t-on viser des performances égales entre algorithmes de santé, ou tirer parti de la mosaïque des différences biologiques pour faire au mieux pour tous?
Les limites du discours simplificateur
Dans un contexte où certains algorithmes affectent démesurément l'un ou l'autre genre, le discours simplificateur sert évidemment une noble cause. On peut déplorer cependant qu'il introduise de nouveaux biais dans la compréhension et la perception des algorithmes; biais qui ont des répercussions négatives dans le domaine de la santé notamment.
L'opportunité scientifique des algorithmes
Les algorithmes qui s'écrivent automatiquement par exposition à des données (les «IA» d'aujourd'hui) reflètent généralement les biais de celles-ci. Ils deviennent la réflexion fidèle de la réalité qu'on leur présente.
La nouveauté cruciale, cependant, est qu'ils rendent enfin ces biais visibles et surtout quantifiables par des méthodes scientifiques. Ils nous permettent enfin de porter un regard plus objectif sur nous-mêmes et de choisir en meilleure connaissance de cause les biais qu'on souhaite remplacer dans nos sociétés.
Non, les algorithmes en général ne nous placent pas dans des cases, sauf si on leur demande. Ils permettent même aujourd'hui le plus souvent de défaire les cases introduites depuis des siècles par les biais cognitifs humains, tels que hommes vs femmes, hyperactifs vs «normaux», malades d'Alzheimer vs malades de démences diverses, etc.
Vers une approche scientifique rigoureuse
En neuro AI, on reproduit chaque jour davantage de parties du calcul fait par un cerveau. À mesure qu'on s'approche d'algorithmes qui reproduisent ou augmentent l'humain, il faudrait peut-être éviter de discriminer ou stigmatiser comme on l'a toujours fait entre humains; ou au moins aborder le sujet avec rigueur scientifique.
L'enjeu n'est pas de nier l'existence de biais problématiques, mais de développer une compréhension nuancée qui permette d'agir efficacement. Cela nécessite de dépasser les raccourcis conceptuels pour embrasser la complexité réelle des systèmes algorithmiques et de leurs interactions avec la société.