Zoom sur les biais

Bzz : clique sur les boutons pour découvrir le contenu

Exemples de biais

Différents types de biais

Zoom sur les biais

Génération d'images

Des recherches ont démontré que l'IA générative, comme Midjourney, présentaient des biais dans la représentation des professions spécialisées, en attribuant systématiquement des rôles de leadership aux hommes plus âgés, excluant ainsi une représentation équitable des femmes.

Biais de confirmation

L'algorithme tend à rechercher des modèles qui correspondent à des schémas déjà connus, excluant des données contradictoires. Ce phénomène renforce les stéréotypes existants et peut conduire à des décisions discriminatoires.

Publicité en ligne

Des biais dans les algorithmes publicitaires peuvent renforcer les inégalités de genre. Une étude de l’Université Carnegie Mellon a révélé que Google montrait plus souvent des offres d’emplois à haute rémunération aux hommes qu’aux femmes.

Biais de représentativité

Il survient lorsque les données de formation ne reflètent pas la diversité des situations réelles. Par exemple : un algorithme de reconnaissance faciale entraîné sur un groupe ethnique dominant risque d'être moins précis pour d'autres groupes.

Soin de santé

Des études ont révélé que les systèmes de diagnostic assisté par ordinateur fournissaient des résultats moins précis pour les patients noirs que pour les patients blancs, en raison d’une sous-représentation des données les concernant.

Biais intersectionnel

Il apparaît lorsque l’IA ne prend pas en compte les multiples facettes de l’identité d’un individu (genre, origine ethnique, orientation sexuelle, classe sociale), ce qui peut perpétuer des discriminations contre des groupes marginalisés.

Recrutement

Certains algorithmes de traitement de langage naturel peuvent produire des résultats biaisés. Par exemple, Amazon a abandonné un algorithme de recrutement après avoir constaté qu'il favorisait les CV masculins en raison de termes spécifiques plus courants chez les candidats hommes.