4. "Pourquoi l'IA hallucine-t-elle ?"

"Pourquoi l'IA hallucine-t-elle ?"

Les IA génératives peuvent produire des réponses fausses mais convaincantes, c'est ce qu'on appelle des « hallucinations ». Ce phénomène s'explique par leur mode de fonctionnement : elles prédisent des mots probables sans réellement comprendre le sens, et peuvent donc inventer des informations lorsque leurs données d'entraînement sont insuffisantes. Si ces erreurs peuvent parfois stimuler la créativité (certaines « hallucinations » peuvent parfois mener à des découvertes créatives. L’exemple donné est celui d’AlphaGo, qui avait surpris les experts avec des coups inattendus mais brillants au jeu de Go), elles restent dangereuses dans des domaines comme la santé ou l'information. La vigilance et la vérification des sources restent donc indispensables.

continuer