L'évaluation de l'esprit critique face aux hallucinations

L'évaluation de l'esprit critique face aux hallucinations

Charlène Meyers (FTI-EII - UMONS) 26/05/2026 Matinée de réflexion sur l'IA générative / Thématique 2

Contexte

Séminaire de méthodologie de la recherche documentaire et critique des sources (Cours de terminologie) Objectif : trouver, critiquer et collecter documents pour 1) extraire terminologie 2) analyser des tendances au sein de textes Méthode : naviguer dans des bases de données, ressources bibliothèque, opérateurs logiques, filtres de recherche

et l'IA a débarqué ...

En recherche documentaire : Tout semble servi sur un plateau d'argent. Chat-GPT est devenu un jouet aussi divin que divinatoire : à une question... une réponse...

étudiants utilisent l'IAG 1 x/semaine dans le cadre de leurs études

75%

Enquête Ipsos 2026

... conséquences

les étudiants se sont détournés des ressources classiques (banques de données, moteurs de recherche) pour aller vers l'IAG Avec des attentes surréalistes !

Meyers (2025)

... et des constats

Frontière floue entre les réponses IA dans les moteurs de recherche et les "vraies occurrences"

... et des constats

... et des constats

Aperçu IA

Occurrences web

... et des constats

Les IAG sont connues pour créer des hallucinations = réponses non souhaitées et erronées du contenu (mais plausibles) Pourquoi les hallucinations > parce que les LLMs doivent produire une réponse coûte que coûte

hallucination simple à identifier

...et moins simple

hallucinations avec l'IAG

Tentative d'extraction terminologique avec ChatGPT: - hallucination car ajout de termes non présents - hallucination circulaire car répétition inutile

+ info

mais les étudiants lui font confiance aveuglément

L'IA c'est bien...

Il faut dépasser l'utilisation basique des IAG

Ateliers critique des sources et IA

• repérer des fake news
• repérer du texte généré par un agent converstionnel
• repérer des deep fakes (fausses images IAG)

Fake news detector

modèle open-source qui détecte les fake news

ChatGPT detector

modèle open-source qui détecte le contenu généré par ChatGPT

Meyers (2025)

ChatGPT detector

Objectif : tester chatGPT detector avec du texte écrit par un humain et du texte écrit par chatGPT Mais on constate vite les limites du modèle : Dans ma vidéo, le modèle se tompe ! Les étudiants sont invités à formuler des hypothèses sur les raisons qui expliqueraient cette erreur.

ChatGPT detector

Hypothèses identifiées pour expliquer l'erreur : - le ton (amical) utilisé qui imite le discours humain ("awesome" = registre familier) - longueur (courte) du texte = peu d'informations - influence du paramétrage interne et la personnalisation du GPT (discussions en mémoire, etc.) - ...

Importance réflexive

• Limite : utiliser l'IA pour détecter l'IA peut être une bonne idée, mais ce n'est pas infaillible
• Oblige les étudiants à s'intéresser à l'IA et émettre des hypothèses sur son fonctionnement (et ses erreurs)
• Vérification humaine souvent nécessaire

Quelques pistes

• Principes généraux de critique des sources à l'ère de l'IA :
• croiser les informations de l'IA avec de vraies sources et recouper l'information sur plusieurs sites internet différents
• poser plusieurs vairantes de la question et sélectionner la meilleure réponse
• se renseigner sur les failles et les biais de l'IAG
• quand on utilise un modèle sur un autre modèle, se renseigner sur les faiblesses

Quelques pistes

• Interroger l'IAG en tant qu'agent-expert avec la méthode ACTIF (Action, Context, Tonality, Identity, Format) et s'initier aux méthodes de prompting.

Quelques pistes

• Se tourner vers des outils IA ad hoc plutôt que l'IAG
• Exemple : Research Rabbit pour la recherche documentaire

Quelques pistes

• Exploiter l'IA tout en contrôlant les hallucinations : Google Notebook LM qui travaille essentiellement à partir des documents de l'utilisateur (plutôt que sur le modèle de langage qui le sous-tend)

Conclusion

• une utilisation naïve de l'IAG rend l'utilisateur moins sensible aux hallucinations
• pointer les faiblesses (hallucinations, biais) de l'IA en classe
• stimuler l'esprit critique et affiner la compréhension de ce qui se cache derrière la "boite noire" de l'IAG
• rediriger vers des modèles ad hoc mais avec précaution

Bibliographie

• Ipsos. (2026). Observatoire des usages de l’intelligence artificielle par les étudiants. https://www.ipsos.com/fr-fr/les-etudiants-face-lia-un-usage-generalise-devenu-difficile-contourner
• Meyers, C. (2025). IA, Terminologie et Linguistique de Corpus. Séminaire de recherche appliquée MA2 - Traduction Multilingue Spécialisée. Université Grenoble-Alpes. 97 pages.

• United Nations. (2026). Office of Information and Communications Technology. https://www.un.org/management/content/office-information-and-communications-technology

Tip: Interactivity is the key to capturing the interest and attention of your audience. A genially is interactive because your audience explores and engages with it.