Utilisation responsable des IAG

Biais et Stéréotypes

Réponses partiales, Discrimination

Fiabilité des IAG ?

Un article académique vs. un ordinateur qui utilise des probabilités pour me répondre ?

Hallucinations

Réponses inexactes, Fausses informations, Références inventées...

Toujours besoin d'un bon prompt !

IA/IAg = INTELLIGENCE ?

Développement personnel

Outil d'apprentissage, Efforts personnels, Complément

a secretary

a CEO

Super assistant !

Utilisation Responsable des IAg ?

Honnêteté académique

Mentionner les IAG, transparence

Confidentialité

Informations personnelles, Sensible, Partage ?

Professionnalisme !

Orientation de vos brainstorming

N'utiliser l'IA qu'en 2ème intention

Impact environnemental

Coûts en ressources, Consommation énergétique, Modération

Sobriété

Originalité !

AI-JE LE BON COMPORTEMENT FACE A L'IAg ?

responsabilite legale et réglementaire

Droits d'auteurs et RGPD

Éthique

Règles éthiques, Contenu inapproprié, Trompeur

Maximilien dossa Céline Averseng IAE MONTPellier

Le chemin de la VERTU...

FIABILITE DES IAg ?

Les IAg, comment ça marche ??

Un article académique vs. un ordinateur qui utilise des probabilités pour me répondre ?

Les IAg ne sont pas une source de données fiable. Leur fonctionnement repose sur des modèles mathématiques qui font appel à des probabilités. Les résultats obtenus vont dépendre notamment de la qualité du prompt que vous allez rédiger et, dans tous les cas, les réponses peuvent être incomplètes ou incorrectes. Les IAg donnent l'impression qu'elles ont une intention (par exemple nous aider), alors qu'elles n'en ont pas... Enfin, dans leurs formulations, les IAg sont souvent très assertives : elles peuvent énoncer des énormités avec un aplomb incroyable...!

Outil qui peut servir de support à la réflexion plutôt que source fiable

Toujours besoin d'un bon prompt !

Super assistant !

Développement personnel

Outil d'apprentissage, Efforts personnels, Complément

Les IAg peuvent jouer un rôle intéressant dans votre développement personnel, mais elles ne doivent pas être un substitut à vos efforts intellectuels... Elles sont particulièrement utiles pour explorer de nouvelles perspectives, poser des questions, ou vous accompagner dans vos recherches, mais elles ne doivent pas remplacer un apprentissage actif. Exemple : Vous pouvez utiliser l’IAg pour vous aider à comprendre des concepts, mais il est essentiel de vous plonger personnellement dans les études et la réflexion. Une utilisation excessive des IAg pour automatiser certaines tâches peut entraîner une perte de compétences humaines importantes... Le risque est de devenir dépendant de l'IA au point de négliger le développement de ses propres capacités analytiques, rédactionnelles, ou créatives...

Une IAG sans connaissance et sans reflexion est un rasoir entre les mains d'un singe...

Confidentialité

Informations personnelles, Sensible, Partage ?

Quand on parle de confidentialité, on parle avant tout de la protection des informations personnelles des individus. Avec l'essor des IAg, qui ont besoin de données pour s'entraîner et fonctionner efficacement, le risque que ces données soient mal utilisées ou exposées augmente. En tant qu'utilisateurs ou concepteurs de ces technologies, il est de notre responsabilité de nous assurer que les informations personnelles sont traitées de manière sûre et respectueuse.

Imaginez que des données sensibles, comme des informations de santé, soient utilisées pour entraîner un modèle d'IA... Si ces données sont mal gérées, elles pourraient être exposées à des cyberattaques ou être partagées sans le consentement de la personne concernée. Cela ne concerne pas seulement des violations de la vie privée, mais aussi des impacts émotionnels et sociaux potentiels. Par exemple, des données de santé divulguées pourraient affecter l'assurance d'une personne ou son emploi... Il en est de même pour les données comptables d'une entreprise.

Ne pas partager d'informations personnelles sensibles avec l'IAg

Transformer les données pour qu'elles ne puissent pas être directement reliées à une personne spécifique, réduisant ainsi le risque d'atteinte à la vie privée en cas de fuite.

Orientation de vos brainstorming

N'utiliser les IAG qu'en 2ème intention

Originalité, pertinence !

Les IAg peuvent être des sources d'idées incroyables... mais aussi une source d'uniformisation... Si plusieurs étudiants font une requête sur un sujet donné, les idées retournées par l'IAg seront très similaires. Votre analyse sera orientée par les réponses données par l'IAg et vous risquez de passer à côté d'une partie du sujet.

Nous vous conseillons de n’avoir recours à l’IAg (et à Internet de manière plus générale) qu’en 2ème attention : effectuez votre recherche d’idée seul(e) dans un premier temps, puis vérifiez avec l’IA que vous n’avez rien oublié. Cela vous permettra d’avoir une démarche qui reste personnelle et originale et votre analyse ne sera pas influencée par l’IAg.

Hallucinations

Réponses inexactes, Fausses informations, Références inventées...

L'une des grandes limites des IAG est qu'elles peuvent générer des informations complètement fausses, souvent sans que l'utilisateur s'en rende compte. Ce phénomène, appelé hallucination, peut se traduire par des références erronées ou des concepts inventés de toutes pièces. Certaines réponses peuvent être totalement inexactes ou fausses. Parfois, l'IAG invente complètement des éléments, comme des citations ou des références académiques. Ce qui est surprenant, c'est que la référence peut être particulièrement convaincante...! Des avocats aux USA ont été sanctionnés pour avoir utilisé Chat GPT sans avoir vérifié la cohérence des articles cités...

Biais et Stéréotypes

Les biais et stéréotypes sont particulièrement visibles quand on utilise les IAg pour générer des images, comme vous pouvez le voir avec les exemples ci-contre...

Réponses partiales, Discrimination

Les IAg sont entraînées sur des ensembles de données qui peuvent contenir des biais sociaux, culturels ou idéologiques. Utiliser ces modèles sans conscience des biais peut entraîner des résultats discriminatoires, injustes ou orientés. N'oublions pas que la majorité des corpus est issue du monde occidental (plus précisément anglo-saxon)...

D'ailleurs, il est conseillé de rédiger les prompts en anglais si on souhaite avoir de résultats plus pertinents...

a secretary

a CEO

Cela soulève des questions sur la représentation de la diversité et la nécessité d’inclure des perspectives variées dans les modèles pour éviter de renforcer les inégalités...

Professionnalisme !

Honnêteté académique

Mentionner les IAg, Transparence

Contenu de l'annexe que nous vous demanderons de joindre à vos travaux

L’usage des IAg dans le cadre d’un travail universitaire doit être transparent. Cela signifie que toute utilisation d’un IAg dans la rédaction d’un document doit être mentionnée. Cela permet de respecter les principes d'honnêteté académique et d’éviter le plagiat. Exemple : Si vous utilisez une IAg pour générer une partie de votre devoir, vous devez mentionner explicitement que vous avez utilisé cet outil, par exemple dans la méthodologie ou une note de bas de page.

1. APPLICATIONS D'IAG Quels outils et version vous avez utilisé (Ex : Copilot de l'Université, Chat GPT version gratuite...) 2. LISTE DES USAGES DES IAG : Pour chaque usage, vous devrez présenter les éléments suivants : - USAGES de l'IAG (Ex : relecture, recherche d'élément bibliographique...) - Lien vers les PROMPTS - FIABILITE : Vérification et comparaison avec d'autres sources - ANALYSE CRITIQUE : ce que cela vous a apporté/limites Ces différents éléments seront évalués et feront l’objet de discussions lors des soutenances.

Recommandation :

Soyez prudents dans l'utilisation des IAg et veillez à créditer l’outil, tout en vous assurant que vous respectez les règles spécifiques de votre établissement en la matière...

Éthique

Règles éthiques, Contenu inapproprié, Trompeur

Les IAg peuvent être utilisées pour créer du contenu de manière très rapide, mais cela ne signifie pas que toutes les productions sont appropriées. Il est important de respecter les normes éthiques en veillant à ne pas générer du contenu inapproprié, trompeur ou nuisible. Exemple : Il pourrait être tentant de demander à l'IAg de rédiger des parties d’un devoir, mais cela violerait les règles d'intégrité académique. En outre, quand on vous demande de faire un devoir, l'objectif n'est pas de rendre le devoir en question. L'objectif est de vous amener à réfléchir, à comprendre, à acquérir de nouvelles connaissances. Vous pourrez ensuite réinvestir ce que vous avez appris dans d'autres circonstances. De même, générer des propos haineux ou offensants est contraire à une utilisation responsable. Les IAG vont forcemment entrainer la prolification de deepfakes...

Aucun intérêt si c'est produit sans réflexion avec les IAg...

Il faudra être d'autant plus vigilant pour détecter et vérifier l'authenticité des contenus générés...

responsabilite legale et réglementaire

Droits d'auteurs, RGPD et IA act

Les usages des IAg sont encadrés par des réglementations en matière de protection des données, de respect des droits d'auteur, et d'autres lois spécifiques selon les pays. Par exemple, en Europe, le RGPD impose des limites sur l'utilisation des données personnelles dans les systèmes d'IA. Les utilisateurs doivent également se conformer aux droits d'auteur lorsqu'ils utilisent l'IAg pour créer du contenu génératif. L'IA Act est une réglementation européenne visant à encadrer l'utilisation des intelligences artificielles. Il classe les systèmes d'IA en fonction de leur niveau de risque (faible, élevé, inacceptable) et impose des obligations strictes pour les usages les plus sensibles, comme la sécurité ou la santé. L'objectif est de garantir une utilisation éthique et sécurisée de l'IA tout en favorisant l'innovation.

Recommandations :

Informez-vous sur les réglementations locales et les lois applicables à l'utilisation des IAg dans vos projets. Respectez les droits d’auteur et veillez à ne pas enfreindre la propriété intellectuelle en générant ou utilisant du contenu produit par l'IAg.

Impact environnemental

Coûts en ressources, Consommation énergétique, Modération

Sobriété

L'utilisation des Intelligences Artificielles Génératives (IAg) a un coût environnemental élevé : elle nécessite des besoins massifs en ressources informatiques et énergétiques pour entraîner, héberger et faire fonctionner ces modèles. Chaque génération de contenu nécessite des calculs complexes qui consomment une grande quantité d'énergie électrique. En outre, le refroidissement des centres de données, où sont hébergés ces modèles, utilise d'énormes quantités d'eau et d'énergie. Selon des estimations, l'entraînement de GPT-3 aurait généré environ 552 tonnes de CO2, ce qui équivaut à environ 125 allers-retours transatlantiques en avion pour une personne...Par exemple, l'entraînement de certains modèles d'IA a une empreinte carbone équivalente à plusieurs trajets transatlantiques. Cela soulève des questions importantes concernant la durabilité environnementale de ces technologies...

Recommandations :

Modérer l'utilisation des IAg en limitant les générations répétées de contenu inutile ou excessif. Privilégier des approches moins énergivores lorsque cela est possible. Par exemple, favorisez des modèles ou outils moins gourmands en ressources lorsque la précision ou la taille du modèle n'est pas essentielle à votre tâche.

Utilisez l'IAG de manière ciblée et réfléchie

IA/IAg = INTELLIGENCE ?

L'intelligence artificielle est-elle vraiment "intelligente" comme un humain ?Explorons les différents niveaux d’IA !

Existe aujourd’hui

L’IA faible (Narrow AI) : spécialisée dans des tâches précises sans réelle compréhension (ex : ChatGPT, Siri, AlphaGo).

L’IA forte (AGI - Intelligence Artificielle Générale) : viserait une intelligence comparable à celle des humains, capable d’apprendre et de s’adapter seule.

Théorique

Hypothétique et philosophique

La Super Intelligence (ASI - Artificial Super Intelligence) : hypothèse où l’IA surpasserait l’intelligence humaine, soulevant des questions philosophiques et éthiques.

Vers une IA plus autonome et compréhensive ?Objectif actuel de la recherche : L’AGI Enjeu : Créer une IA puissante mais alignée avec les valeurs humaines.

Le futur des IA

Aujourd’hui, l’IA n’est pas "intelligente" au sens humain. C'est est un outil avancé basé sur des modèles et des probabilités. L’AGI et l’ASI restent des concepts d’avenir, mais doivent être réfléchis dès maintenant.

AI-JE LE BON COMPORTEMENT FACE A L'IAg ?

Les questions à se poser

Ai-je vérifié les sources citées par l’IA pour m’assurer qu’elles existent et sont fiables ?

Ai-je testé différentes reformulations de mon prompt pour voir si l’IA produit des réponses plus pertinentes ?

Ai-je réfléchi aux éventuels biais présents dans les réponses générées par l’IA ?

Ai-je évité de partager des informations personnelles sensibles avec l’IA ?

Ai-je structuré mon prompt en précisant clairement mon besoin, le format et le niveau de détail souhaité ?

Si j’utilise l’IA dans un travail académique, ai-je mentionné son utilisation de manière transparente ?

Ai-je comparé la réponse de l’IA avec d’autres sources académiques ou scientifiques ?

Suis-je conscient(e) de l’impact environnemental de l’IA et est-ce que je modère mon utilisation ?

Ai-je évité d’utiliser l’IA pour des pratiques interdites (plagiat, création de faux contenus, deepfakes, etc.) ?

Ai-je pris le temps d’évaluer la qualité de la réponse générée avant de l’utiliser ?

AI-JE LE BON COMPORTEMENT FACE A L'IAg ?

Pour exploiter l’IAg de manière éthique et efficace, j'utilise le chemin de la vertu (L. Dhorne, 2024)

alider

Valider la sortie initiale de l’IA pour voir si elle répond à l’objectif prévu et à vos besoins.

xaminer

Examiner les faits, chiffres, citations et données en utilisant des sources fiables pour s’assurer qu’il n’y a pas d’hallucinations ou de biais.

ÉDIGER

Rédiger sa demande et poser des questions pour que l’IA améliore sa sortie.

RANSFORMER

Transformer les résultats pour qu’ils reflètent les besoins et style uniques de l’utilisateur. La sortie de l’IA est un point de départ, mais ne devrait pas être le produit final.

TILISATEURS

Responsabilité de l’utilisateur pour tout ce qui est créé avec l’IA et l’importance de la transparence sur la manière dont ces outils sont utilisés.

Autrement dit : je valide la sortie, j’examine les faits, je reformule, je transforme à mon style, puis j’assume la responsabilité de l’usage.

QUESTION 1/3

Aller à la page qui contient la réponse...

QUESTION 2/3

Aller à la page qui contient la réponse...

QUESTION 3/3

Aller à la page qui contient la réponse...

Ce qu'il faut retenir !

Les IAg ne sont pas infaillibles :

Elles génèrent parfois des informations incorrectes ou inventées. Toujours vérifier les réponses avant de les utiliser.

Les IAg amplifient les biais existants :

Elles peuvent reproduire des stéréotypes ou des biais présents dans leurs données d'entraînement. Soyez critique face aux résultats.

Ne partagez pas d’informations personnelles sensibles :

Les risques de fuite ou de mauvaise gestion des données personnelles sont réels.

Utiliser les IAg comme un outil complémentaire :

Elles doivent soutenir votre réflexion, mais ne remplacer ni vos efforts intellectuels ni vos capacités créatives.

L'impact environnemental des IAg est significatif :

Leur usage massif consomme énormément d’énergie. Utilisez-les avec modération et conscience.

CRéDITS

Conception, Rédaction, et Réalisation du support

Maximilien Dossa et Céline Averseng

Relecture

Konstantin Todorov, Mathieu Lafourcade, Patricia Minouflet, David Billet, Amandine Bouchet et Matthieu Dereumaux.

Applications utilisées

Genially, Chat GPT 4o

Licence CC-by-nc-nd : Attribution / Pas d’utilisation commerciale / Pas de modification

Recommandations

Considérez l'IAG comme une ou un générateur d’idées, mais appuyez toujours vos travaux sur des pour garantir leur rigueur scientifique. Pensez à vérifier la véracité des informations produites par des IAG notamment par exemple les références bibliographiques qui peuvent ne pas exister ou être incomplètes.