La mésinformation: quand l’IA se trompe!

La mésinformation: quand l’IA se trompe!

Malgré son efficacité, l’IA n’est ni comparable ni équivalente à l’intelligence humaine. La responsabilité de vérifier les faits que présente l’IA revient à l’utilisatrice et l’utilisateur qui doit activer sa pensée critique et son sens éthique pour juger de la crédibilité des réponses générées par l’IA. Voici cinq exemples d’erreur à surveiller:

Les biais

Les infos désuètes

Les réponses trompeuses

Les faits inexacts

Les calculs erronés

Info

Info

Info

Info

Info

Les faits inexacts

Retour

Les outils d'IA créent parfois du contenu erroné, tel que des fausses informations, des réponses plausibles mais incorrectes et même des réponses absurdes. La vérification des faits est primordiale lors de l’utilisation de l’IA.

Exemple d'une requête

Réponse de l'IA

Est-ce vraie que la compagnie Lays crée une saveur de croustille à la bologne (baloney) frit ?

C’est l’une des nombreuses saveurs innovantes que Lays a mises en marché pour attirer les amatrices et amateurs de collations rapides. Si tu aimes le baloney, ça pourrait être intéressant à essayer!

CONSEILS

Les biais

Retour

L'IA générative utilise des informations trouvées sur Internet pour créer de nouveaux contenus, qui peuvent contenir des biais. Examine attentivement le contenu généré par l’IA pour détecter ces biais.

Exemple d'une requête

Réponse de l'IA

À l’aide d’un outil générateur d’image, génère une image qui présente un avion, le pilote et son copilote.

Source : Adobe Firefly

CONSEILS

Les réponses trompeuses

Retour

Les outils d'IA générative, comme ChatGPT, inventent parfois des informations et des références à des sources qui n'existent pas. Cela est couramment appelé «hallucination de l’IA». Les hallucinations de l'IA sont parfois difficiles à repérer, car les textes générés par l'IA sont souvent éloquents et convaincants malgré les inexactitudes qu'ils contiennent.

Exemple d'une requête

Réponse de l'IA

Le record pour traverser le lac Ontario à pied est de 14 heures et 10 minutes. Cette traversée a été réalisée par Vicki Keith le 17 août 1988. C'était un exploit remarquable car le lac Ontario est l'un des cinq Grands Lacs d'Amérique du Nord, et sa traversée à pied est un défi considérable en raison de sa taille et des conditions souvent difficiles rencontrées en cours de route.

Quel est le record pour traverser le lac Ontario à pied ?

CONSEILS

Les infos désuètes

Retour

Certains outils d'IA sont formés sur des données qui s'arrêtent à une certaine date, ce qui signifie que toutes les découvertes et développements survenus après cette date sont inconnus pour l'IA. Par exemple, la version 3.5 de Chat GPT date du mois de janvier 2022.

Exemple d'une requête

Réponse de l'IA

Quelle était la dernière équipe de la Ligue nationale de hockey (LNH) à gagner la coupe Stanley ?

La dernière équipe de la LNH à avoir remporté la Coupe Stanley était le Tampa Bay Lightning. Elle a remporté la Coupe Stanley lors de la saison 2020, en battant les Dallas Stars dans la finale de la Coupe Stanley qui s'est déroulée dans la bulle de la LNH à Edmonton en raison de la pandémie de COVID-19.

CONSEILS

Les calculs erronés

Retour

Les outils IA communément utilisés, comme Chat GPT, sont majoritairement des modèles de langage. Ces modèles ont été entraînés en convertissant de larges quantités d’écriture en code afin d’analyser rapidement l’information. Pour cette raison, certains modèles peuvent commettre des erreurs de calcul mathématiques. Regarde la réponse de l’IA suivante qui est erronée.

Exemple d'une requête

Réponse de l'IA

Après l'achat de 50 fruits supplémentaires, vous aurez : 40 + x pommes 24 + x oranges Vous voulez que le nombre de pommes soit égal au nombre d'oranges : 40 + x = 24 + x Pour résoudre cette équation, nous constatons que x se simplifie de chaque côté, donc : 40 = 24 Ce n'est pas correct. La formulation de l'équation semble problématique.

J'ai 40 pommes et 24 oranges. Je planifie acheter 50 autres fruits. Si je désire un rapport de 1:1 de pommes et d'oranges, combien de chaque fruit dois-je me procurer?

CONSEILS

Vérification de l’information et conseils

Comme vous pouvez le constater, notre requête a entraîné une confusion, car traverser un lac à pied n'est pas possible. La réponse de l'IA montre qu'elle n'a pas détecté cette erreur et a fourni des informations erronées en indiquant que Vicki Keith a traversé le lac Ontario à pied, alors qu'elle l'a fait à la nage.Voici quelques conseils pour repérer des réponses trompeuses :

Vérification des faits

Vicki Keith : la première personne à nager les cinq Grands Lacs

• Garde un esprit critique face aux réponses fournies par l'IA.

• Vérifie les faits en effectuant une recherche sur Internet provenant d'une source fiable.

• Demande à l'IA de vérifier ses résultats: "À quel point êtes-vous sûr de cette réponse ?"

• Plus ta requête sera précise, plus tu obtiendras de détails te permettant de bien analyser la véracité de la réponse. N’hésite pas à interagir avec l’IA en lui demandant de préciser ses sources et en défiant certains de ses points de vue.

Le 15 août 1986, Mme Keith a traversé le lac Ontario, de Toronto à Port Dalhousie. Ce trajet de 45,8 km a été accompli en nageant pour une durée de 26 heures 59 minutes.

Source: https://www.fifty-five-plus.com/wp-content/uploads/2019/07/IMG_4206-GOOD-2.jpg

Vérification de l’information et conseils

Voici la solution qu’a proposé l’IA Interactive Mathematics et qui est valable :

Comme vous pouvez le constater à l’écran précédent, l’IA a elle-même reconnu qu’elle avait fait une erreur. Ceci n’est pas toujours le cas. Il importe donc de choisir le bon outil IA en fonction de l’intention recherchée. Voici quelques exemples d’outils d’IA conçus pour la résolution de problèmes en mathématiques :

Soit : x = nombre de pommes et y = nombre d'oranges Nombre égal de fruits désirés : x = y Nombre total de fruits : x + y = 40 + 24 + 50 Substituons l'équation 1 dans l'équation 2 : x + x = 40 + 24 + 50 2x = 114 x = 57 Alors on veut 57 pommes et 57 oranges. On a 40 pommes alors on en achètera 17 de plus. On a 24 oranges alors on en achètera 33 de plus.

• Photomath;
• Socratic de Google;
• Mathway;
• ClassPoint AI;

• Symbolab;
• GeoGebra;
• MathType;
• MathSolver de Microsoft;
• Interactive Mathematics;
• Wolfwram Alpha.

Vérification de l’information et conseils

Vérification des faits

Voici quelques caractéristiques d’une réponse biaisée:

La photo générée par l’IA présente des biais, puisque comme le démontre les statistiques suivantes, les femmes sont très présentes en aviation. Il faudrait ainsi préciser la requête à l’IA pour avoir une photo plus représentative de la réalité.

• elle présente des opinions comme des faits;

• elle utilise un langage émotif et parfois extravagant ou lourd pour influencer l’opinion du lecteur;

• elle omet de présenter plusieurs perspectives d’un enjeu et ne présente qu’une perspective et les faits qui soutiennent cette perspective unique;

• elle généralise ou utilise des stéréotypes.

Selon les statistiques de l’Institute for Women of Aviation Worldwide (IWOAW), 13% des nouvelles licences de pilotes privés canadiennes ont été attribuées au public féminin en 2023.

Source : https://timesofindia.indiatimes.com/

Vérification de l’information et conseils

Vérification des faits

Pour t’assurer de l’exactitude de la réponse générée par l’IA, demande à l’IA de te fournir ses sources et contre-vérifie les faits présentés à l’aide d’autres sources primaires, en effectuant une recherche sur Internet sur les sites officiels en lien à ta question.

Les Panthers de la Floride remportent leur première Coupe Stanley

Vérifier différentes sources, comme les suivantes, t’aide à confirmer l’exactitude des informations générées par l’IA.

Le site web de la LNH

Le devoir, un quotidien de langue française

Sources : https://www.thestar.com/sports/hockey/

En juin 2024, les Panthers de la Floride célèbrent la première Coupe Stanley de leur histoire grâce à une victoire de 2-1 contre les Oilers d'Edmonton lors du match numéro 7. (Note : cette question a été posée à l’IA en 2024.)

Rappelle-toi que l'IA n'a pas toujours accès aux informations les plus récentes. Par exemple, ChatGPT 3.5 ne dispose que des données recueillies jusqu'en septembre 2021.

Vérification de l’information et conseils

Comment peut-on expliquer la diffusion de cette image ?

Pour t’assurer de l’exactitude de la réponse générée par l’IA :

• Vérifie les faits en consultant des sources fiables.
• Demande à l'IA de justifier ses réponses.

Exemple de requête : Comment sais-tu, peux-tu le prouver ? Réponse de l'IA : «Je n'ai pas accès à des sources en temps réel pour fournir des preuves directes. Cependant, pour vérifier l'informations sur les nouvelles saveurs de Lays, je te recommande de consulter leur site officiel, leurs réseaux sociaux ou des articles d'actualité sur des sites fiables.»

Image tirée de Facebook

Réponse de l'IA : «Il est possible que l'image que vous avez vue soit un concept ou une création humoristique. Cela se produit souvent en ligne, où des images de produits qui n'existent pas réellement sont fabriquées et diffusées.»