Utilisation responsable des IAG

Utilisation Responsable des IAg ?

Fiabilité des IAG ?

Un article académique vs. un ordinateur qui utilise des probabilités pour me répondre ?

Hallucinations

12Réponses inexactes, Fausses informations, Références inventées...

Toujours besoin d'un bon prompt !

Biais et Stéréotypes

Réponses partiales, Discrimination

a secretary

a CEO

Confidentialité

Informations personnelles, Sensible, Partage ?

Éthique

Règles éthiques, Contenu inapproprié, Trompeur

Honnêteté académique

Mentionner les IAG, transparence

Développement personnel

Outil d'apprentissage, Efforts personnels, Complément

Super assistant !

Impact environnemental

Coûts en ressources, Consommation énergétique, Modération

Originalité !

N'OUBLIEZ PAS... UNE IAg NE COMPREND PAS LE SENS DE VOTRE QUESTION NI CELUI DE SA REPONSE...

Orientation de vos brainstorming

Professionnalisme !

Sobriété

Maximilien dossa Céline AversengIAE MONTPellier

responsabilite legale et réglementaire

Droits d'auteurs et RGPD

N'utiliser l'IA qu'en 2ème intention

FIABILITE DES IAg ?

Un article académique vs. un ordinateur qui utilise des probabilités pour me répondre ?

Toujours besoin d'un bon prompt !

Les IAg ne sont pas une source de données fiable. Leur fonctionnement repose sur des modèles mathématiques qui font appel à des probabilités. Les résultats obtenus vont dépendre notamment de la qualité du prompt que vous allez rédiger et, dans tous les cas, les réponses peuvent être incomplètes ou incorrectes.Les IAg donnent l'impression qu'elles ont une intention (par exemple nous aider), alors qu'elles n'en ont pas... Enfin, dans leurs formulations, les IAg sont souvent très assertives : elles peuvent énoncer des énormités avec un aplomb incroyable...!

Outil qui peut servir de support à la réflexion plutôt que source fiable

Les IAg, comment ça marche ??

Développement personnel

Outil d'apprentissage, Efforts personnels, Complément

Super assistant !

Les IAg peuvent jouer un rôle intéressant dans votre développement personnel, mais elles ne doivent pas être un substitut à vos efforts intellectuels... Elles sont particulièrement utiles pour explorer de nouvelles perspectives, poser des questions, ou vous accompagner dans vos recherches, mais elles ne doivent pas remplacer un apprentissage actif.Exemple : Vous pouvez utiliser l’IAg pour vous aider à comprendre des concepts, mais il est essentiel de vous plonger personnellement dans les études et la réflexion.Une utilisation excessive des IAg pour automatiser certaines tâches peut entraîner une perte de compétences humaines importantes... Le risque est de devenir dépendant de l'IA au point de négliger le développement de ses propres capacités analytiques, rédactionnelles, ou créatives...

Une IAG sans connaissance et sans reflexion est un rasoir entre les mains d'un singe...

Recommandation : Utilisez l’IAG comme un outil complémentaire à votre apprentissage, mais ne négligez pas l’importance du travail personnel et de la réflexion critique. C'est ce qui vous permettra d'utiliser pleinement les capacités des IAG et d'identifier les biais ou hallucinations.

Confidentialité

Informations personnelles, Sensible, Partage ?

Ne pas partager d'informations personnelles sensibles avec l'IAg

Quand on parle de confidentialité, on parle avant tout de la protection des informations personnelles des individus. Avec l'essor des IAg, qui ont besoin de données pour s'entraîner et fonctionner efficacement, le risque que ces données soient mal utilisées ou exposées augmente. En tant qu'utilisateurs ou concepteurs de ces technologies, il est de notre responsabilité de nous assurer que les informations personnelles sont traitées de manière sûre et respectueuse.

Imaginez que des données sensibles, comme des informations de santé, soient utilisées pour entraîner un modèle d'IA... Si ces données sont mal gérées, elles pourraient être exposées à des cyberattaques ou être partagées sans le consentement de la personne concernée. Cela ne concerne pas seulement des violations de la vie privée, mais aussi des impacts émotionnels et sociaux potentiels. Par exemple, des données de santé divulguées pourraient affecter l'assurance d'une personne ou son emploi... Il en est de même pour les données comptables d'une entreprise.

Transformer les données pour qu'elles ne puissent pas être directement reliées à une personne spécifique, réduisant ainsi le risque d'atteinte à la vie privée en cas de fuite.

Recommandation : Évitez de fournir des données personnelles ou sensibles à l'IAG. Utilisez ces outils pour générer des idées générales ou des suggestions, mais n'entrez jamais des informations confidentielles, comme les données d'entreprises.

Originalité, pertinence !

N'utiliser les IAG qu'en 2ème intention

Orientation de vos brainstorming

Nous vous conseillons de n’avoir recours à l’IAg (et à Internet de manière plus générale) qu’en 2ème attention : effectuez votre recherche d’idée seul(e) dans un premier temps, puis vérifiez avec l’IA que vous n’avez rien oublié. Cela vous permettra d’avoir une démarche qui reste personnelle et originale et votre analyse ne sera pas influencée par l’IAg.

Les IAg peuvent être des sources d'idées incroyables... mais aussi une source d'uniformisation... Si plusieurs étudiants font une requête sur un sujet donné, les idées retournées par l'IAg seront très similaires. Votre analyse sera orientée par les réponses données par l'IAg et vous risquez de passer à côté d'une partie du sujet.

Hallucinations

Réponses inexactes, Fausses informations, Références inventées...

L'une des grandes limites des IAG est qu'elles peuvent générer des informations complètement fausses, souvent sans que l'utilisateur s'en rende compte. Ce phénomène, appelé hallucination, peut se traduire par des références erronées ou des concepts inventés de toutes pièces.Certaines réponses peuvent être totalement inexactes ou fausses. Parfois, l'IAG invente complètement des éléments, comme des citations ou des références académiques. Ce qui est surprenant, c'est que la référence peut être particulièrement convaincante...!Des avocats aux USA ont été sanctionnés pour avoir utilisé Chat GPT sans avoir vérifié la cohérence des articles cités...

Recommandation : Il est impératif de vérifier les sources mentionnées par l'IAG, surtout dans un contexte académique. Croiser les informations avec des bases de données fiables (comme la bibliothèque universitaire, etc.) permet d'éviter la diffusion de fausses informations.

Biais et Stéréotypes

Réponses partiales, Discrimination

a secretary

a CEO

Les biais et stéréotypes sont particulièrement visibles quand on utilise les IAg pour générer des images, comme vous pouvez le voir avec les exemples ci-contre...

Les IAg sont entraînées sur des ensembles de données qui peuvent contenir des biais sociaux, culturels ou idéologiques. Utiliser ces modèles sans conscience des biais peut entraîner des résultats discriminatoires, injustes ou orientés. N'oublions pas que la majorité des corpus est issue du monde occidental (plus précisément anglo-saxon)...

D'ailleurs, il est conseillé de rédiger les prompts en anglais si on souhaite avoir de résultats plus pertinents...

Cela soulève des questions sur la représentation de la diversité et la nécessité d’inclure des perspectives variées dans les modèles pour éviter de renforcer les inégalités...

Recommandation : Il est important d’avoir un regard critique sur les réponses produites par l’IAG, en particulier lorsqu’elles touchent à des sujets sensibles comme le genre, l’origine ethnique ou la religion...

Honnêteté académique

Mentionner les IAg, Transparence

Professionnalisme !

L’usage des IAg dans le cadre d’un travail universitaire doit être transparent. Cela signifie que toute utilisation d’un IAg dans la rédaction d’un document doit être mentionnée. Cela permet de respecter les principes d'honnêteté académique et d’éviter le plagiat.Exemple : Si vous utilisez une IAg pour générer une partie de votre devoir, vous devez mentionner explicitement que vous avez utilisé cet outil, par exemple dans la méthodologie ou une note de bas de page.

1. APPLICATIONS D'IAGQuels outils et version vous avez utilisé (Ex : Copilot de l'Université, Chat GPT version gratuite...)2. LISTE DES USAGES DES IAG : Pour chaque usage, vous devrez présenter les éléments suivants :- USAGES de l'IAG (Ex : relecture, recherche d'élément bibliographique...) - Lien vers les PROMPTS - FIABILITE : Vérification et comparaison avec d'autres sources- ANALYSE CRITIQUE : ce que cela vous a apporté/limitesCes différents éléments seront évalués et feront l’objet de discussions lors des soutenances. 

Contenu de l'annexe que nous vous demanderons de joindre à vos travaux

Soyez prudents dans l'utilisation des IAg et veillez à créditer l’outil, tout en vous assurant que vous respectez les règles spécifiques de votre établissement en la matière...

Recommandation :

Éthique

Règles éthiques, Contenu inapproprié, Trompeur

Les IAg peuvent être utilisées pour créer du contenu de manière très rapide, mais cela ne signifie pas que toutes les productions sont appropriées. Il est important de respecter les normes éthiques en veillant à ne pas générer du contenu inapproprié, trompeur ou nuisible. Exemple : Il pourrait être tentant de demander à l'IAg de rédiger des parties d’un devoir, mais cela violerait les règles d'intégrité académique. En outre, quand on vous demande de faire un devoir, l'objectif n'est pas de rendre le devoir en question. L'objectif est de vous amener à réfléchir, à comprendre, à acquérir de nouvelles connaissances. Vous pourrez ensuite réinvestir ce que vous avez appris dans d'autres circonstances. De même, générer des propos haineux ou offensants est contraire à une utilisation responsable. Les IAG vont forcemment entrainer la prolification de deepfakes...

Aucun intérêt si c'est produit sans réflexion avec les IAg...

Il faudra être d'autant plus vigilant pour détecter et vérifier l'authenticité des contenus générés...

responsabilite legale et réglementaire

Droits d'auteurs, RGPD et IA act

Les usages des IAg sont encadrés par des réglementations en matière de protection des données, de respect des droits d'auteur, et d'autres lois spécifiques selon les pays. Par exemple, en Europe, le RGPD impose des limites sur l'utilisation des données personnelles dans les systèmes d'IA. Les utilisateurs doivent également se conformer aux droits d'auteur lorsqu'ils utilisent l'IAg pour créer du contenu génératif.L'IA Act est une réglementation européenne visant à encadrer l'utilisation des intelligences artificielles. Il classe les systèmes d'IA en fonction de leur niveau de risque (faible, élevé, inacceptable) et impose des obligations strictes pour les usages les plus sensibles, comme la sécurité ou la santé. L'objectif est de garantir une utilisation éthique et sécurisée de l'IA tout en favorisant l'innovation.

Recommandations :

Informez-vous sur les réglementations locales et les lois applicables à l'utilisation des IAg dans vos projets. Respectez les droits d’auteur et veillez à ne pas enfreindre la propriété intellectuelle en générant ou utilisant du contenu produit par l'IAg.

Impact environnemental

Coûts en ressources, Consommation énergétique, Modération

Sobriété

L'utilisation des Intelligences Artificielles Génératives (IAg) a un coût environnemental élevé : elle nécessite des besoins massifs en ressources informatiques et énergétiques pour entraîner, héberger et faire fonctionner ces modèles.Chaque génération de contenu nécessite des calculs complexes qui consomment une grande quantité d'énergie électrique. En outre, le refroidissement des centres de données, où sont hébergés ces modèles, utilise d'énormes quantités d'eau et d'énergie. Selon des estimations, l'entraînement de GPT-3 aurait généré environ 552 tonnes de CO2, ce qui équivaut à environ 125 allers-retours transatlantiques en avion pour une personne...Par exemple, l'entraînement de certains modèles d'IA a une empreinte carbone équivalente à plusieurs trajets transatlantiques. Cela soulève des questions importantes concernant la durabilité environnementale de ces technologies...

Modérer l'utilisation des IAg en limitant les générations répétées de contenu inutile ou excessif. Privilégier des approches moins énergivores lorsque cela est possible. Par exemple, favorisez des modèles ou outils moins gourmands en ressources lorsque la précision ou la taille du modèle n'est pas essentielle à votre tâche.

Recommandations :

Utilisez l'IAG de manière ciblée et réfléchie

QUESTION 1/3

Aller à la page qui contient la réponse...

QUESTION 2/3

Aller à la page qui contient la réponse...

QUESTION 3/3

Aller à la page qui contient la réponse...

Ce qu'il faut retenir !

Elles génèrent parfois des informations incorrectes ou inventées. Toujours vérifier les réponses avant de les utiliser.

Les IAg ne sont pas infaillibles :

Les IAg amplifient les biais existants :

Elles peuvent reproduire des stéréotypes ou des biais présents dans leurs données d'entraînement. Soyez critique face aux résultats.

Ne partagez pas d’informations personnelles sensibles :

Les risques de fuite ou de mauvaise gestion des données personnelles sont réels.

Utiliser les IAg comme un outil complémentaire :

L'impact environnemental des IAg est significatif :

Elles doivent soutenir votre réflexion, mais ne remplacer ni vos efforts intellectuels ni vos capacités créatives.

Leur usage massif consomme énormément d’énergie. Utilisez-les avec modération et conscience.

CRéDITS

Maximilien Dossa et Céline Averseng

Conception, Rédaction, et Réalisation du support

Relecture

Patricia Minouflet, David Billet, Amandine Bouchet et Matthieu Dereumaux

Applications utilisées

Genially, Chat GPT 4o

Licence CC-by-nc-nd : Attribution / Pas d’utilisation commerciale / Pas de modification

Recommandations

Considérez l'IAG comme une ou un générateur d’idées, mais appuyez toujours vos travaux sur des pour garantir leur rigueur scientifique. Pensez à vérifier la véracité des informations produites par des IAG notamment par exemple les références bibliographiques qui peuvent ne pas exister ou être incomplètes.