Bzz : clique sur les boutons pour découvrir le contenu
Zoom sur les biais
Différents types de biais
Exemples de biais
Des recherches ont démontré que l'IA générative, comme Midjourney, présentaient des biais dans la représentation des professions spécialisées, en attribuant systématiquement des rôles de leadership aux hommes plus âgés, excluant ainsi une représentation équitable des femmes.
Génération d'images
L'algorithme tend à rechercher des modèles qui correspondent à des schémas déjà connus, excluant des données contradictoires. Ce phénomène renforce les stéréotypes existants et peut conduire à des décisions discriminatoires.
Biais de confirmation
Des biais dans les algorithmes publicitaires peuvent renforcer les inégalités de genre. Une étude de l’Université Carnegie Mellon a révélé que Google montrait plus souvent des offres d’emplois à haute rémunération aux hommes qu’aux femmes.
Publicité en ligne
Il survient lorsque les données de formation ne reflètent pas la diversité des situations réelles. Par exemple : un algorithme de reconnaissance faciale entraîné sur un groupe ethnique dominant risque d'être moins précis pour d'autres groupes.
Biais de représentativité
Des études ont révélé que les systèmes de diagnostic assisté par ordinateur fournissaient des résultats moins précis pour les patients noirs que pour les patients blancs, en raison d’une sous-représentation des données les concernant.
Soin de santé
Il apparaît lorsque l’IA ne prend pas en compte les multiples facettes de l’identité d’un individu (genre, origine ethnique, orientation sexuelle, classe sociale), ce qui peut perpétuer des discriminations contre des groupes marginalisés.
Biais intersectionnel
Certains algorithmes de traitement de langage naturel peuvent produire des résultats biaisés. Par exemple, Amazon a abandonné un algorithme de recrutement après avoir constaté qu'il favorisait les CV masculins en raison de termes spécifiques plus courants chez les candidats hommes.
Recrutement
Zoom sur les biais
1001 Parcours
Created on March 11, 2025
Start designing with a free template
Discover more than 1500 professional designs like these:
View
Fill in Blanks
View
Countdown
View
Stopwatch
View
Unpixelator
View
Break the Piñata
View
Bingo
View
Create a Secret Code
Explore all templates
Transcript
Bzz : clique sur les boutons pour découvrir le contenu
Zoom sur les biais
Différents types de biais
Exemples de biais
Des recherches ont démontré que l'IA générative, comme Midjourney, présentaient des biais dans la représentation des professions spécialisées, en attribuant systématiquement des rôles de leadership aux hommes plus âgés, excluant ainsi une représentation équitable des femmes.
Génération d'images
L'algorithme tend à rechercher des modèles qui correspondent à des schémas déjà connus, excluant des données contradictoires. Ce phénomène renforce les stéréotypes existants et peut conduire à des décisions discriminatoires.
Biais de confirmation
Des biais dans les algorithmes publicitaires peuvent renforcer les inégalités de genre. Une étude de l’Université Carnegie Mellon a révélé que Google montrait plus souvent des offres d’emplois à haute rémunération aux hommes qu’aux femmes.
Publicité en ligne
Il survient lorsque les données de formation ne reflètent pas la diversité des situations réelles. Par exemple : un algorithme de reconnaissance faciale entraîné sur un groupe ethnique dominant risque d'être moins précis pour d'autres groupes.
Biais de représentativité
Des études ont révélé que les systèmes de diagnostic assisté par ordinateur fournissaient des résultats moins précis pour les patients noirs que pour les patients blancs, en raison d’une sous-représentation des données les concernant.
Soin de santé
Il apparaît lorsque l’IA ne prend pas en compte les multiples facettes de l’identité d’un individu (genre, origine ethnique, orientation sexuelle, classe sociale), ce qui peut perpétuer des discriminations contre des groupes marginalisés.
Biais intersectionnel
Certains algorithmes de traitement de langage naturel peuvent produire des résultats biaisés. Par exemple, Amazon a abandonné un algorithme de recrutement après avoir constaté qu'il favorisait les CV masculins en raison de termes spécifiques plus courants chez les candidats hommes.
Recrutement