Want to make creations as awesome as this one?

Transcript

Rédiger un bon prompt

Le "Generated Knowledge" Prompting

Utiliser des connaissances pour guider les réponses du modèle

AUTRES ASTUCES ET techniques de prompt

IA spécialisées et rag

Maximilien dossa Céline AversengIAE MONTPellier

LE PROMPT ENGINEERING

Optimiser les requêtes pour améliorer les réponses d'un modèle

Le "Chain of Thought" prompting

Inciter le modèle à expliciter son raisonnement étape par étape pour améliorer la qualité de la réponse finale

Le "Least-to-Most" prompting

Guider le modèle pour résoudre des sous-tâches simples avant la tâche complexe

LES APPROCHES PAR L'EXEMPLE

Fournir des exemples spécifiques à un modèle d'IAG pour qu'il apprenne à reproduire des comportements similaires

LE MODELE MOTTIF-TV

Les 8 éléments clés d'un bon prompt

LE PROMPT INPUT/Output

Instruction donnée à l'IAg et réponse générée en retour

Multiplier les techniques de prompt pour maximiser la pertinence des réponses

LE PRIMING

Fourni des informations initiales pour orienter les réponses du modèle

LE PROMPT ENGINEERING

L’ingénierie de prompt est une discipline qui se concentre sur la conception et le développement de prompts.Un prompt correspond à une entrée (ou requête) qui contient les instructions fournies au modèle. Le modèle analyse ces instructions pour produire une réponse adaptée en sortie.L'objectif d'un prompt est de guider le modèle de langage vers une réponse pertinente et précise.À l'inverse des humains qui disposent de capacités de raisonnement, les modèles de langage fonctionnent exclusivement sur la base de formules mathématiques et d'ensembles de données. L’ingénierie de prompt est essentielle pour exploiter tout le potentiel des modèles et les guider dans des tâches complexes.

Méthodes basiques : simple question-réponse (input/output)

Les techniques d'ingénierie de prompt sont nombreuses

Stratégies plus avancées

Raisonnement étape par étape

Séquençage logique

Exploration de solutions multiples en parallèle

(similaires à celles que les humains emploient pour résoudre des problèmes)

LE PROMPT ENGINEERING

Les IAg ne sont pas dotées de capacités de reflexion. Elles fondent leurs résultats sur des formules mathématiques et des probabilités.

Une question générale, sans contexte, entrainera une réponse générale, la plus probable dans l'ensemble des données observées.

Une question ciblée, contextualisée, entrainera une réponse précise, la plus probable dans le sous-ensemble de données concernées par le contexte

LE PROMPT INPUT OUTPUT

Le prompt input/output (ou Interaction input/output) correspond à une interaction de base avec un modèle d'IA, où un utilisateur fournit une question ou une instruction (input) et l'IA génère une réponse (output).

Engager une discussion continue avec l'IA pour :

Cette approche peut donner des résultats généraux ou incomplets si le contexte ou les détails manquent...

Affiner les réponses par des questions supplémentaires.

Obtenir des résultats plus pertinents et détaillés.

Ajuster le contexte ou préciser des objectifs au fur et à mesure.

...

Qu'est-ce que l'apprentissage automatique, exactement ?

Les principaux domaines de l'IA incluent l'apprentissage automatique...

Peux-tu être plus précis sur les domaines de l'IA ?

L'intelligence artificielle est une branche de l'informatique qui développe des systèmes capables de réaliser des tâches nécessitant habituellement l'intelligence humaine.

Explique-moi l'intelligence artificielle.

Le priming consiste à fournir des instructions initiales au modèle de langage telles que des rôles, des tâches ou des contextes afin d'orienter et guider ses réponses tout au long de l'interaction.Le priming influence la pertinence, la précision et le style des réponses générées. En fournissant des informations contextuelles ou en définissant des attentes spécifiques, il facilite l'obtention de résultats plus ciblés et adaptés à des objectifs particuliers.

Le priming

Dans une même session de questions/réponses, un seul priming est généralement suffisant. Le modèle retient les informations tout au long de cette session.Un priming peut inclure diverses instructions, telles que le destinataire, le rôle, l'action, le format ou la tonalité. Parmi les différentes méthodes de priming, le modèle MOTTIF-TV identifie 8 modalités essentielles que chaque priming devrait idéalement contenir pour être efficace.

Peux-tu générer un cours sur l'intelligence artificielle ?

Ce cours est destiné à des élèves de masterCe cours a pour but d'introduire l'IALe vocabulaire utilisé doit être simpleLes contenus doivent être sous forme de tirets...

Bien sûr ! Je vais structurer un cours de base sur l’intelligence artificielle (IA) ...

Peux-tu ajouter une slide sur le prompt ?

...

Nous n'avons plus besoin de priming ici, car les informations du premier priming sont gardées en mémoire.

Requête

Priming

M

O

T

T

oi

LE MODELE MOTTIF-TV

bjectif

oi

âche

Le modèle MOTTIF-TV consiste à structurer un prompt en renseignant les éléments clés suivants :

I

nstructions

Identité de la personne qui formule la demande et contexte de la demande. Permet au modèle d'adapter sa réponse en fonction des connaissances, du niveau d'expertise ou des besoins particuliers de l'utilisateur.

But ou résultat souhaité. Cela aide à orienter le modèle vers ce que l'on espère obtenir comme réponse.

Le "Toi" spécifie la fonction, le rôle que le modèle doit remplir lorsqu'il répond. Cela aide à guider la façon dont le modèle aborde le sujet.

La tâche représente ce que le modèle doit faire en réponse au prompt. Cela peut inclure des actions comme expliquer, comparer, recommander...

Consignes spécifiques que l'on va donner au modèle. On pourra indiquer des étapes avec des stops si la tâche est complexe. Les instructions peuvent indiquer les priorités, pour que la réponse se concentre sur l'essentiel (Exemple : privilégier les recommandations pratiques plutôt que théoriques).

"Je suis étudiant en management"

"Je veux comprendre comment mieux prompter"

"Tu es expert en conception de prompt"

"Fais une synthèse des éléments qu'un bon prompt doit contenir"

"Tu vas d'abord lister les éléments clés d'un prompt. Stop et valide."

+

Remarque

Dans certains cas, les contenus générés par le modèle ne nous sont pas destinés. Il est donc important d'indiquer à qui ou à quoi s'adresse la réponse. Exemple : Un message destiné à un recruteur.

F

ormat

Manière dont la réponse doit être structurée ou présentée. Cela peut inclure des aspects comme le type de réponse (liste, tableau, paragraphe, etc), la longueur ou la structure du texte. Le format peut préciser des contraintes (Exemple : Répondre en moins de 150 mots, éviter les termes techniques...)

"Réponds sous forme de liste à puces"

T

ON

Attitude ou style de communication que le modèle doit adopter dans sa réponse, comme formel, informel, enthousiaste, neutre, etc.

"Sois clair et précis"

V

alidation

Consiste à demander au modèle de reformuler ou de confirmer ce qu'il a compris. Cela permet de vérifier que le modèle a bien saisi nos attentes et qu'il posera des questions de clarification si nécessaire.

"Est-ce que tu as bien compris ma demande ? Pose moi des questions si nécessaire"

-

C

ible

LE MODELE MOTTIF-TV

LE MODELE mottif-TV

Exemple d'application du modèle MOTTIF-TV

M

O

T

T

oi

bjectif

oi

âche

I

nstructions

F

ormat

T

ON

V

alidation

Je suis étudiant en master de management, spécialisé dans la gestion de projet. Voici mon cv. Je souhaite postuler à un poste en tant qu'assistant chef de projet dans une grande entreprise. Tu es expert en recrutement. Aide-moi à corriger, compléter et restructurer mon CV. J'aimerais que ce dernier mette en valeur mes compétences en gestion d'équipe, en organisation et en analyse stratégique, tout en faisant ressortir mes expériences professionnelles. Le CV doit suivre un format standard d'une page, avec des rubriques pour mes études, mes expériences professionnelles et mes compétences. Assure-toi que le ton soit professionnel et que les formulations soient concises. Après chaque section du CV, arrête-toi pour que je puisse vérifier et valider. Avant de commencer, pourrais-tu confirmer que tu as bien compris mon profil et ce que je souhaite mettre en avant ?

-

LES APPROCHES PAR L'EXEMPLE

En fournissant des exemples dans son prompt, on guide le modèle pour qu'il ajuste sa réponse selon le format et la structure souhaitée. Plus on donne d'exemples, plus la réponse du modèle se rapproche de ce qui est attendu.Il existe trois approches principales en fonction du nombre d'exemples fournis :

Zero-shot prompting : Le modèle est sollicité sans qu'aucun exemple spécifique ne lui soit fourni. Il s'appuie uniquement sur les connaissances acquises lors de son entraînement.

Réponse vague voire erronée, avec une grande variabilité.

Le degré de variabilité de la réponse du modèle est moins important que dans le zéro shot.

Le degré de variabilité de la réponse est nettement réduit par rapport aux autres approches

Question : "J'ai passé une soirée incroyable. Connotation positive ou négative ?"

One-shot prompting (shot = nombre d'exemples) : Le modèle reçoit un seul exemple comme référence pour comprendre la tâche et formuler sa réponse.

Exemple : Question "Le service était très lent... Connotation positive ou négative ?" / Réponse "Négative"Question : "J'ai passé une soirée incroyable... Connotation positive ou négative ?"

Few-shot prompting : Le modèle reçoit plusieurs exemples spécifiques. Ces exemples enrichissent le contexte, aidant le modèle à mieux comprendre la nature de la tâche.

Exemple 1: Question "Le service était très lent... Connotation positive ou négative ? "/ Réponse "Négative"Exemple 2: Question "Les plats étaient excellents... Connotation positive ou négative ? "/ Réponse "Positive"Question : "J'ai passé une soirée incroyable. Connotation positive ou négative ?"

Le "Least-to-Most" prompting

La méthode de prompt Least-to-Most (LtM), ou "du plus simple au plus complexe", est une stratégie utilisée pour résoudre des problèmes complexes en décomposant une tâche en étapes progressives.Cette méthode consiste à :

  1. Décomposer la question principale en sous-questions plus simples et précises.
  2. Traiter chaque sous-question séparément, ce qui permet de résoudre des tâches plus simples et accessibles.
  3. Collecter les réponses aux sous-questions pour ensuite répondre à la question globale.
En abordant les sous-questions les unes après les autres, le modèle cible les informations essentielles ou les étapes nécessaires à la construction de la réponse. Chaque sous-question est plus simple à traiter que la question initiale, permettant ainsi au modèle de gérer la tâche originale complexe de manière progressive et structurée.Une fois toutes les sous-questions traitées, le modèle agrège les informations collectées pour formuler une réponse complète à la question première.

Exemple :Question initiale :"Comment fonctionne l'apprentissage supervisé en intelligence artificielle ?"

"Qu'est-ce que l'apprentissage supervisé en IA ?"

Sous-questions décomposées :

"Quels sont les éléments clés dans un modèle d'apprentissage supervisé ?"

"Quelles sont les étapes d'entraînement d'un modèle d'apprentissage supervisé ?"

"..."

Le "Generated Knowledge" Prompting

Le "prompting de connaissances générées" ou "generated prompting" améliore les performances des modèles de langage en combinant des connaissances externes avec celles déjà acquises par le modèle.Cette méthode se décompose en trois étapes :

1. Nous fournissons des connaissances externes (articles, documents...) au modèle pour créer un contexte.2. Le modèle combine ces données avec ses connaissances internes pour approfondir le sujet.3. Il fusionne les informations externes et internes, offrant une vue complète et approfondie.

Cette approche est particulièrement efficace pour traiter des sujets récents ou complexes, en enrichissant la base de connaissances du modèle avec des informations actuelles.Les IA personnalisées et RAG (Retrieval Augmented Generation) utilisent cette approche pour se distinguer dans des domaines spécifiques comme la recherche bibliographique ou le droit.

Exemple

Article 1

Article 2

Article 3

Parle moi de ... en intégrant les informations contenues dans les articles que je t'ai soumis .

...

IA spécialisées et rag

Un RAG (Retrieval-Augmented Generation) est une méthode qui combine la génération de textes par l'IA et la récupération d'informations pertinentes depuis une base de données externe.

L'utilisateur peut personnaliser cette base spécialisée en y ajoutant les ressources de son choix, ce qui permet à l'IA d'offrir des réponses parfaitement adaptées à des domaines ou besoins spécifiques (recherche bibliographique, droit, cuisine...)

1. L'utilisateur écrit un prompt.2. L'IA complète ce prompt en recherchant des informations dans une base spécialisée (articles, références, documents…).3. Le prompt enrichi est ensuite renvoyé dans le modèle pour générer une réponse plus précise et contextualisée.

Gao et al., 2024

Fonctionnement :

Le "Chain of Thought" prompting

Le prompting par chaîne de pensée (Chain of Thought prompting) est une technique de prompting qui guide les modèles de langage à travers un processus de raisonnement séquentiel et linéaire. Cette méthode encourage le modèle à formuler un raisonnement structuré, étape par étape, pour parvenir à un résultat final optimal.Cette méthode est particulièrement efficace pour décomposer des problèmes complexes en sous-étapes plus simples, aidant ainsi le modèle à générer des réponses plus détaillées et organisées.Il existe deux façons d'utiliser le "Chain of Thought Prompting" :

Avec exemple(s) :Le modèle suit un ou plusieurs exemples pour structurer sa réponse de manière similaire à l'exemple fourni.

Sans exemple :Le modèle génère son propre raisonnement logique et séquentiel à partir d'une simple instruction comme "procédons étape par étape".

Cette technique est idéale pour des tâches nécessitant une analyse pas à pas comme la résolution de problèmes mathématiques ou la gestion de projet.

Exemples

Le "Chain of Thought" prompting

Sans exemple(s) :

Avec exemple(s) :

Problème : Un train part de la gare Saint Roch à 9h et voyage à une vitesse de 60 km/h. Une voiture part de la même gare une heure plus tard et roule à une vitesse de 90 km/h. En raisonnant étape par étape peux-tu me dire à quelle heure la voiture rattrapera-t-elle le train ?Chain of Thought :Étape 1 : Calculer la distance parcourue par le train en une heure (vitesse x temps).Étape 2 : Identifier la différence de vitesse entre la voiture et le train.Étape 3 : Calculer le temps nécessaire pour que la voiture rattrape le trainÉtape 4 : Ajouter ce temps à l'heure de départ de la voiture pour obtenir l'heure à laquelle elle rattrapera le train.

Question exemple : Roger a 5 balles de tennis. Il achète 2 boites de balles de tennis. Chaque boite contient 3 balles de tennis. De combien de balles de tennis Roger dispose-t-il ?Réponse exemple : Roger a commencé avec 5 balles de tennis. Il achète 2 boîtes contenant chacune 3 balles de tennis ce qui fait un total de 6 balles de tennis supplémentaires. Si Roger a démarré avec 5 balles de tennis et qu'il en a acheté 6 supplémentaires alors Roger dispose de 11 balles de tennis.Question au modèle : Marie a 23 pommes. Si elle en mange 2 et en achète 6 combien lui en restera-t-il ?

Autres ASTUCES ET techniques de prompt

Emotions prompting : Ajouter un contexte émotionnel (Li et Al., 2023) rend l’IA plus performante. Exemple : "j’ai vraiment besoin de ce résultat…"Rephrase and Respond (Deng et Al., 2023) : détailler une question en demandant à l’IA de nous réécrire le prompt.Ajuster le niveau de détail des prompts :Exemples :

Peux tu m'expliquer ce qu'est la physique quantique ?

La physique quantique étudie le comportement des particules subatomiques, régies par des lois différentes de celles de la physique classique.

Peux tu m'expliquer ce qu'est la physique quantique, comme si j'étais un enfant de 10 ans ?

La physique quantique étudie comment les toutes petites choses, comme les particules, agissent de manière surprenante et bizarre.

Peux tu m'expliquer ce qu'est la physique quantique, en utilisant la métaphore du foot ?

La physique quantique, c'est comme si un ballon de foot pouvait être à plusieurs endroits du terrain en même temps.

(www.promptingguide.ai)

Il existe de nombreuses autres méthodes et astuces de prompting Quelques exemples :

Utilisation de l'anglais :L'anglais fonctionne souvent mieux pour le prompting car les modèles de langage sont davantage entraînés sur des bases de données en anglais (la littérature en anglais est la plus riche). L'utilisation de l'anglais rend certaines parties de l'espace vectoriel plus fournies et donc plus précises.Structure de ponctuation :La structure de la ponctuation est essentielle dans un prompt car elle aide à clarifier le sens et l'intention du message. Une bonne ponctuation permet de structurer les idées, de séparer les informations clés et de guider le modèle dans l'interprétation du contexte. Par exemple, les prompts utilisant des listes numérotées ou à puces peuvent aider le modèle à structurer les réponses de manière plus organisée.Hiérarchisation des informations :L'ordre dans lequel les informations sont présentées dans un prompt peut influencer la réponse. Il s'agit de proposer d'abord les informations les plus importantes ou celles qui nécessitent une attention particulière.Usage des majuscules :L’usage de la majuscule pour un mot permet de le mettre en valeur et peut influencer la réponse du modèle. Par exemple : "Il est TRÈS IMPORTANT que la réponse soit concise."

Autres ASTUCES ET techniques de prompt

QUESTION 1/3

Aller à la page qui contient la réponse...

QUESTION 2/3

Aller à la page qui contient la réponse...

QUESTION 3/3

Aller à la page qui contient la réponse...

Ce qu'il faut retenir !

Optimisation des instructions pour des réponses plus précises.Donnez des consignes initiales pour guider l’IA.Structurez le raisonnement pour des réponses plus détaillées. Organisez le prompt avec les éléments clésUtilisez des exemples pour affiner les réponses de l’IA.

Prompt Engineering :

Priming :

Techniques avancées :

Modèle MOTTIF-TV :

M

O

T

T

oi

bjectif

oi

âche

I

nstructions

F

ormat

T

ON

V

alidation

-

Exemples :

One-shot/Few-shot

Chain of Thought

Generated Knowledge

Least-to-Most

Prompter en anglais !

Input/Output

CRéDITS

Maximilien Dossa et Céline Averseng

Conception, Rédaction, et Réalisation du support

Relecture

Patricia Minouflet, David Billet, Amandine Bouchet et Matthieu Dereumaux

Applications utilisées

Genially, Chat GPT 4o

Licence CC-by-nc-nd : Attribution / Pas d’utilisation commerciale / Pas de modification