L'Opacité des LLMQuiz

L'Opacité des LLMQuiz

Ça veut dire quoi, une IA "opaque" ?

C'est parti !

L'Opacité : c'est quoi ?

Une IA est dit opaque quand on ne comprend pas précisément comment elle arrive à une réponse.

L’opacité des LLM vient du fait qu’ils sont très complexes avec des milliards de paramètres qui agissent en même temps et se mélangent : on ne peux pas isoler une “raison”, c'est un système d’influences entremêlées

L'Explicabilité : la réponse à l'opacité ?

L’explicabilité, c’est la capacité à rendre compréhensible une réponse de l’IA pour un utilisateur, même si le modèle reste en partie opaque.

• Explicabilité par le texte : Le modèle explique sa réponse en langage naturel (justification "je propose ça car…”, raisonnement étape par étape), ce n’est pas le vrai raisonnement interne, c’est une rationalisation plausible
• Explicabilité par les sources : le llm attache sa réponse à des éléments externes en citant ses sources
• Explicabilité interne : c'est comprendre ce qui se passe dans le modèle : attention maps (quels mots impactent plus la réponse que d'autre), importance des tokens (si j'enlève un mot qu'est-ce que ça change), analyse des neurones ("Interprétabilité mécaniste"). C'est le plus compliqué à l'heure actuelle !

Commencer

Tester mes connaissances

Une IA générative (type ChatGPT) peut-elle expliquer pourquoi elle donne une réponse plutôt qu’une autre ?

Une IA recommande d’optimiser les processus existants sans expliquer comment elle a comparé les options. Pourquoi cette réponse illustre l’opacité ?

Quand une IA détaille son raisonnement étape par étape (chain-of-thought), qu’est-ce que cela prouve ?

Quelle dimension de l’IA est aujourd’hui la plus difficile à expliquer clairement dans la recherche théorique ?

Pourquoi les modèles les plus performants sont-ils souvent les plus opaques ?

🎉

Quiz fini !