IA-alterite-Mcurie-S3

IA et altérité

séance 3

START

Retour sur la séance 2

Les biais cognitifs

Mon cerveau

Mon cerveau, les biais, l'IA et les autres

Contourner les biais

L'IA et les biais

Les biais de l'IA

Les biais de l'IA

"L'intelligence artificielle est alimentée par les biais de l'humain"

Emmanuelle Aboaf, ingénieur études et développement Thanh Lan Doubier, développeuse spécialisée dans l'IA

Activité 1

Sélectionner 10 images pour entraîner une IA de reconnaissance de métiers

Activité 2

Création d'une affiche sur les jeux paralympiques

PROMPT Tu es un responsable d'une journal sportif et tu souhaites avoir une affiche dynamique pour les Jeux Paralympiques, pleine d'énergie et d'espoir. You're in charge of a sports newspaper and you want a dynamic poster for the Paralympic Games, full of energy and hope.

Les biais de collecte

Biais de sélection

Biais d'omission

Biais de disponibilité

Biais de représentativité

Biais d'étiquetage

Activité 3

Retournez 2 cartes

Activité 3

Retournez 8 cartes

Activité 3

Retournez 10 cartes

Activité 3

Combien y-a-t-il de nuages verts et bleus ?

Activité 3

Trèfle bleu ou plante verte ?

Exemples

Biais de sélection

Projet de reconnaissance faciale de la police de Los Angeles

Biais sociétal

Algorithme de Facebook sur les offres d'emploiLes tweet X produits par des afro-américainsLa génération de textes sur ChatGPT Amazon et son IA de recrutement

Les biais de collecte

Biais d'ancrage

Effet Dunning-Kruger

Biais de confirmation

Biais du survivant

Activité 4

Trèfle bleu ou plante verte ?

Activité 5

Voici des exemples de prédiction faits par des IA. Choisissez 2 prédictions et sans avoir de contexte ou d'explication, proposez des interprétations possibles.

• 75% de risque de récidive
• Ce candidat a 68% de compatibilité
• 87% de probabilité d'échec
• Risque élevé dans les 30 prochains jours
• Score de fiabilité de 3,7 sur 5
• Prévision de croissance de 12% pour le prochain trimestre
• Risque de défaillance estimé de 78%

Les biais de collecte

Biais d'automatisation

Illusion de connaissance

Biais de confirmation

Mise en pratique

Atelier "Vous êtes un algorithme de tri"

Imaginer et écrire une seule règle de tri, automatique et générale, que l’IA va utiliser pour sélectionner sans jugement, préjugés, stéréotypes des personnes.Vous devez essayer de limiter les biais humains :

• Éviter de juger sur le prénom, le quartier ou les stéréotypes.
• Préférer des critères aussi objectifs et justifiables que possible pour la situation.

A faire

Pour le 10/03 : Réalisez un court texte ou un schéma expliquant en quoi l'IA peut influencer notre regard sur l'autre

Eléments obligatoires :

• Une explication du fonctionnement de l'IA
• Une définition de l'altérité
• L'influence de l'IA sur le regard porté sur l'autre par chacun

Biais de disponibilité On juge la fréquence ou l’importance d’un phénomène à partir des exemples les plus faciles à se rappeler (souvent les plus récents, marquants, médiatisés). ​ Exemples :

• Après un accident d’avion vu au journal, tu penses que l’avion est le moyen de transport le plus dangereux.
• Après quelques vidéos choquantes sur un groupe de personnes, tu as l’impression que « c’est toujours comme ça ».

Piste « antidote » : Se demander : « Est-ce que j’ai des chiffres fiables ou juste quelques exemples marquants ? », replacer dans la réalité (statistiques, sources).

Un biais cognitif, est une manière tordue ou déformée de penser qui nous fait nous tromper sans nous en rendre compte.​C’est un raccourci automatique de notre cerveau, utile pour aller vite, mais qui peut conduire à des jugements injustes ou à des erreurs.

Les IA sont entraînées sur des données produites par des humains, qui eux-mêmes ont des biais.Si les données de départ sont biaisées (stéréotypes, généralisations abusives…), l’IA peut apprendre ces biais et les amplifier (recommandations qui renforcent les idées préconçues, stéréotypes dans les images, etc.).Il est donc important de connaître nos biais pour mieux comprendre les biais de l’IA.

Généralisation hâtive / corrélation illusoire On généralise à partir de quelques cas seulement (« tous les… ») ou on croit voir un lien entre deux phénomènes qui n’en ont pas forcément. ​ Exemples :

• Tu vis dans une ville touristique et, après avoir croisé quelques touristes bruyants, tu penses que « tous les touristes sont irrespectueux ».
• Un agent immobilier remarque qu’il vend souvent quand il neige et pense que la neige « fait vendre » (corrélation illusoire).

Piste « antidote » : Se demander : « Est-ce que j’ai assez de cas ? », « Est-ce que ce n’est pas juste un hasard ? », éviter les « tous les… ».

Biais de confirmation On cherche et on retient surtout ce qui confirme ce qu’on croit déjà. ​ On ignore ou minimise ce qui nous contredit. ​ Exemples :

• Tu es persuadé que « les IA volent le travail » : tu ne lis que les articles qui vont dans ce sens, tu évites les autres, puis tu dis « tout le monde est d’accord ». ​
• Supporter d’une équipe : à la fin du match, tu cries à l’injustice et tu es convaincu que l’arbitre était contre ton équipe. ​

Piste « antidote » : Aller voir des sources différentes, chercher aussi des informations qui ne vont pas dans notre sens, accepter de douter.

Mon cerveau analyse en permanence des informations (ce que je vois, entends, lis…). ​ Il va très vite, mais il ne traite pas l’information de façon parfaitement neutre ni parfaite, surtout à l’adolescence (émotions, prise de risque, pression du groupe). ​ Pour aller vite, il utilise des raccourcis de pensée qu’on appelle biais cognitifs. ​ Exemple : Après un reportage choc, j’ai l’impression que ce danger est partout, tout le temps.

Prendre le temps avant de juger une personne ou une situation.Se poser des questions : « Pourquoi je pense ça ? », « Quelle est ma source ? ».Accepter de douter, changer d’avis si de nouvelles informations apparaissent.Chercher la source et la qualité des informations (qui parle, avec quel intérêt ?).