Numérique et intelligence artificielle, chambre d'echo de la discrimination ou clé de l'inclusion ?
Dossier préparé par le service Enseignement numérique de Sciences Po Lyon
Le numérique envahit les espaces politiques, économiques et sociaux depuis plusieurs décenies. Et depuis, 2022, l'intelligence artificielle et plus particulièrement celle dite générative crève les écrans. Capable du meilleur en s'activant comme un levier d'équité et de progrès social, comme du pire en devenant l'agent multiplicateur des inégalités, le numérique et l'IA sauront-ils être au rendez-vous de l'inclusion ou au contraire, nous engagent-ils à perpette sur le chemin des biais, des préjugés et des discriminations ?
Identification des profils victimes de discrimination
Personnes racisées Personnes handicapées Classes sociales défavorisées Personnes âgées Femmes et communauté LGBTQ+
Identification des risques
Biais algorithmique Biais des données Dilvugation des données personnelles
Les défis de l'inclusion en matière ethnique
Comment les IAG imaginent un dealer, un détenu ou un terroriste
Prompt : personne s'adonnant au trafic de drogue
Prompt : terroriste (Firefly refuse le prompt)
Image générée par Crayion
Image générée par PicLumen
Image générée par PicLumen
Image générée par Crayion
Des stéréotypes sur les personnes racisées moins prégnants ?
Prompt : détenu pénitentiaire
Image générée par PicLumen
Image générée par Firefly
Les défis de l'inclusion en matière ethnique
La vidéo-surveillance dans les espaces publics
Les pays du Sud, largement oubliés par l'IA
La grande majorité des recherches sur les défis et les solutions de l’IA pour la diversité et l’inclusion proviennent des États-Unis. Cette concentration géographique pose question. En effet, les défis et les solutions identifiés sont-ils pertinents pour les pays du « Sud global », où les réalités sociales et culturelles sont très différentes ?
La télésurveillance et la police prédictive via la technologie (reconnaissance faciale, profilage des individus) mènent à une sur-représentation des personnes identifées dans les bases de données policières que sont les sans-abris, les sans-papier et les personnes racisées.
Emmanuelle de Buisseret, Conseillère juridique à la Ligue des droits humains, L'IA en perspective,
Les forçats du clic : Il a fallu que des travailleurs lisent et trient des textes au contenu violent afin que ChatGPT puisse se censurer et ne pas avoir de propos haineux et racistes générés. Les travailleurs du clic sont basés au Kenya, à Madagascar, en Malaisie, aux Philippines. Partout où la main-d’œuvre est « bon marché ».
Les défis de l'inclusion en matière de handicap
Les réponses du numérique face aux handicaps
35%
des personnes en situation de handicap pensent que l’IA aura un impact positif pour leur recrutement
Les failles et les défis
Des voix atypiques ou différentes mal prises en compte Des expressions faciales difficilement représentées Des solutions coûteuses, du matériel lourd et encombrant
Les défis de l'inclusion en matière sociale
BIAIS SOCIAUX DES DONNEES Données captées par les GAFAM et donc majoritairement fournies par les CSP+
BIAIS SOCIAUX ALGORITHMIQUES Reflet des intérêts de ceux qui créent ces systèmes :
Western => Occidentaux Educated => éduqués Industrialized => industrialisés Rich => riches Démocratic => démocratiques
Les défis de l'inclusion en matière d'âge
Une aide précieuse
Une fracture numérique renforcée
Les technologies numériques et le systèmes à base d'IA pour une personne âgée et handicapée permettent d'intervenir pour sécuriser la personne et ses aidants, dépister à distance les situations à risque et suivre l'évolution de son comportement.
Les compétences spécifiques à l'usage des intelligences artificielles génératives viennent accentuer la fracture numérique qui touche des populations éloignées, du fait de l'âge ou du déficit de diplôme, des formations aux outils, à leur fonctionnement et à leur histoire.
Les défis de l'inclusion en matière de genre
Diaporamas disponibles en grand format sur la page Moodle : Inclusion et numérique / Inclusion et intelligence artificielle
Bibliographie
« Étude sur l’impact des systèmes d’intelligence artificielle, leur potentiel de promotion de l’égalité, y compris l’égalité de genre, et les risques qu’ils peuvent entraîner en matière de non-discrimination », Council of Europe Publishing, consulté le 2 mars 2026
Bourgeois Marine, « Lutter contre les discriminations par le numérique ?:Promesses et réalités du scoring dans le logement social », Réseaux, 2025, vol. 254, nᵒ 6, pp. 275‑310
Impact AI, « IA et inclusion », consulté le 2 mars 2026
« L’Intelligence Artificielle est-elle l’alliée de la diversité ? », Goods to Know, consulté le 2 mars 2026
D’où viennent les biais dans l’intelligence artificielle... [Vidéo], 2025, consulté le 4 mars 2026
« Quand l’intelligence artificielle met en péril la défense des personnes exilées », Plein droit, 6 novembre 2025, vol. 146, nᵒ 3, pp. 38‑41
L'IA en perspective
Chan Marie, Bocquet Hélène, Esteve Daniel et Pous Jacques, « Intelligence artificielle et assistance aux personnes âgées », Gérontologie et société, 1995, vol. 1875, nᵒ 4, pp. 161‑168
Zuiderveen Borgesius Frederik, « Discrimination, intelligence artificielle et décisions algorithmiques », Conseil de l’Europe, 2018, consulté le 2 mars 2026
Cornelissen Adrien, « Derrière l’IA générative, la violente réalité des travailleurs du clic », Fisheye Immersive, 12 novembre 2024, consulté le 7 juillet 2025
Numérique et intelligence artificielle , chambre d'echo de la discrimination ou clé de l'inclusion ?
Sciences Po Lyon - IEP Lyon
Created on March 2, 2026
Start designing with a free template
Discover more than 1500 professional designs like these:
View
Search Bar Card
View
Piñata
View
Microlearning: When to Use Chat, Meetings or Email
View
Magazine dossier
View
Microlearning: Graphic Design
View
Microlearning: Enhance Your Wellness and Reduce Stress
View
Microlearning: Teaching Innovation with AI
Explore all templates
Transcript
Numérique et intelligence artificielle, chambre d'echo de la discrimination ou clé de l'inclusion ?
Dossier préparé par le service Enseignement numérique de Sciences Po Lyon
Le numérique envahit les espaces politiques, économiques et sociaux depuis plusieurs décenies. Et depuis, 2022, l'intelligence artificielle et plus particulièrement celle dite générative crève les écrans. Capable du meilleur en s'activant comme un levier d'équité et de progrès social, comme du pire en devenant l'agent multiplicateur des inégalités, le numérique et l'IA sauront-ils être au rendez-vous de l'inclusion ou au contraire, nous engagent-ils à perpette sur le chemin des biais, des préjugés et des discriminations ?
Identification des profils victimes de discrimination
Personnes racisées Personnes handicapées Classes sociales défavorisées Personnes âgées Femmes et communauté LGBTQ+
Identification des risques
Biais algorithmique Biais des données Dilvugation des données personnelles
Les défis de l'inclusion en matière ethnique
Comment les IAG imaginent un dealer, un détenu ou un terroriste
Prompt : personne s'adonnant au trafic de drogue
Prompt : terroriste (Firefly refuse le prompt)
Image générée par Crayion
Image générée par PicLumen
Image générée par PicLumen
Image générée par Crayion
Des stéréotypes sur les personnes racisées moins prégnants ?
Prompt : détenu pénitentiaire
Image générée par PicLumen
Image générée par Firefly
Les défis de l'inclusion en matière ethnique
La vidéo-surveillance dans les espaces publics
Les pays du Sud, largement oubliés par l'IA
La grande majorité des recherches sur les défis et les solutions de l’IA pour la diversité et l’inclusion proviennent des États-Unis. Cette concentration géographique pose question. En effet, les défis et les solutions identifiés sont-ils pertinents pour les pays du « Sud global », où les réalités sociales et culturelles sont très différentes ?
La télésurveillance et la police prédictive via la technologie (reconnaissance faciale, profilage des individus) mènent à une sur-représentation des personnes identifées dans les bases de données policières que sont les sans-abris, les sans-papier et les personnes racisées.
Emmanuelle de Buisseret, Conseillère juridique à la Ligue des droits humains, L'IA en perspective,
Les forçats du clic : Il a fallu que des travailleurs lisent et trient des textes au contenu violent afin que ChatGPT puisse se censurer et ne pas avoir de propos haineux et racistes générés. Les travailleurs du clic sont basés au Kenya, à Madagascar, en Malaisie, aux Philippines. Partout où la main-d’œuvre est « bon marché ».
Les défis de l'inclusion en matière de handicap
Les réponses du numérique face aux handicaps
35%
des personnes en situation de handicap pensent que l’IA aura un impact positif pour leur recrutement
Les failles et les défis
Des voix atypiques ou différentes mal prises en compte Des expressions faciales difficilement représentées Des solutions coûteuses, du matériel lourd et encombrant
Les défis de l'inclusion en matière sociale
BIAIS SOCIAUX DES DONNEES Données captées par les GAFAM et donc majoritairement fournies par les CSP+
BIAIS SOCIAUX ALGORITHMIQUES Reflet des intérêts de ceux qui créent ces systèmes :
Western => Occidentaux Educated => éduqués Industrialized => industrialisés Rich => riches Démocratic => démocratiques
Les défis de l'inclusion en matière d'âge
Une aide précieuse
Une fracture numérique renforcée
Les technologies numériques et le systèmes à base d'IA pour une personne âgée et handicapée permettent d'intervenir pour sécuriser la personne et ses aidants, dépister à distance les situations à risque et suivre l'évolution de son comportement.
Les compétences spécifiques à l'usage des intelligences artificielles génératives viennent accentuer la fracture numérique qui touche des populations éloignées, du fait de l'âge ou du déficit de diplôme, des formations aux outils, à leur fonctionnement et à leur histoire.
Les défis de l'inclusion en matière de genre
Diaporamas disponibles en grand format sur la page Moodle : Inclusion et numérique / Inclusion et intelligence artificielle
Bibliographie
« Étude sur l’impact des systèmes d’intelligence artificielle, leur potentiel de promotion de l’égalité, y compris l’égalité de genre, et les risques qu’ils peuvent entraîner en matière de non-discrimination », Council of Europe Publishing, consulté le 2 mars 2026
Bourgeois Marine, « Lutter contre les discriminations par le numérique ?:Promesses et réalités du scoring dans le logement social », Réseaux, 2025, vol. 254, nᵒ 6, pp. 275‑310
Impact AI, « IA et inclusion », consulté le 2 mars 2026
« L’Intelligence Artificielle est-elle l’alliée de la diversité ? », Goods to Know, consulté le 2 mars 2026
D’où viennent les biais dans l’intelligence artificielle... [Vidéo], 2025, consulté le 4 mars 2026
« Quand l’intelligence artificielle met en péril la défense des personnes exilées », Plein droit, 6 novembre 2025, vol. 146, nᵒ 3, pp. 38‑41
L'IA en perspective
Chan Marie, Bocquet Hélène, Esteve Daniel et Pous Jacques, « Intelligence artificielle et assistance aux personnes âgées », Gérontologie et société, 1995, vol. 1875, nᵒ 4, pp. 161‑168
Zuiderveen Borgesius Frederik, « Discrimination, intelligence artificielle et décisions algorithmiques », Conseil de l’Europe, 2018, consulté le 2 mars 2026
Cornelissen Adrien, « Derrière l’IA générative, la violente réalité des travailleurs du clic », Fisheye Immersive, 12 novembre 2024, consulté le 7 juillet 2025