Webinaire L'IA et ses enjeux - Comprendre, réfléchir et questionner

L’IA et ses enjeux

Comprendre, réfléchir et questionner

Les RochDurlesrochdur.com

start

objectifs du webinaire

CLARIFIER l'importance d’aborder les enjeux de l’IA

Appréhender le fonctionnement de l'Ia

Déconstruire le concept d'IA

Explorer les principaux enjeux de l'IA

INDEX

Applications de l'iA

Enjeux éthiques de l'IA

transparence

pourquoi cet intérêt ?

sécurité/vie privée

automatisation et emploi

Ce qu'il faut savoir sur l'IA

biais algorithmiques

ia générative

pas une ia mais des ia

responsabilité

Références pour aller plus loin

et l'ia générative ?

TECHNIQUES D'apprentissage

Questions/réponses

Applications de l'iA (1/2)

Les applications de l'IA sont aujourd'hui multiples

Dans quels domaines de notre société les retrouve-t-on ?

Applications de l'iA (2/2)

finances

Santé

Ex. Aider les médecins à diagnostiquer des maladies en analysantdes images médicales, des scans, et des données de patients

Ex. Analyser la capacité d’emprunt

sécurité

Transports

Ex. Assurer la sécurité nationale

Ex. Géolocaliser un individu ou un camion de livraison

travail

éducation

Ex. Évaluer la performance

Ex. Offrir un soutien personnalisé à une personne étudiante

environnement

consommation

Ex. Faciliter la surveillance environnementale

Ex. Recommander des produits ou des contenus en fonction de l’historique de navigation et du comportement en ligne d’un utilisateur

pourquoi cet intérêt ?

Nécessité de formation et d'adaptation professionnelle

Questions éthiques et sociales

• Ex. impact sur emploi, vie privée, prise de décision et responsabilité en cas d’erreurs
• Décalage entre l'évolution rapide de la technologie et l'évolution de la législation

• Vers un avenir où humain et machine coexistent et collaborent

Technologie sans frontières et multisectorielle

Changements profonds dans certains secteurs

• Capacité à traiter/analyser rapidement de grandes quantités de données
• Ex. Santé, finance et sécurité

• Vocation à toucher tous les pans de la société (comme l'électricité) au-delà des frontières

Ce qu'il faut savoir sur l'IA (1/2)

• Pas de définition officielle/de consensus

L'IA est une discipline qui en regroupe d'autres

Mathématiques (statistiques, algorithmes...) - Informatique (programmation...) - Technologie - Sciences cognitives (réseaux de neurones, techniques d'apprentissage...)...

• Influence de la science-fiction (ex : IA = robot)

Idées de conscience des machinesPeur autour de l'IA

• Difficulté à définir le concept d'intelligence

Notion d'anthropomorphisme dans le concept d'IA (ex. "réseaux de neurones artificielles", "apprentissage" automatique/profond....)

Ce qu'il faut savoir sur l'IA (2/2)

≃ Technologies informatiques capables d'imiter des comportements et des capacités intellectuelles généralement associés à l'intelligence humaine (raisonnement, apprentissage, créativité, résolution de problèmes, reconnaissance vocale et faciale, prise de décision, compréhension du langage naturel...)

Pour y arriver, application d'algorithmes complexes

= série précise et ordonnée d’instructions ou de règles bien définies à suivre pour résoudre un problème ou exécuter une tâche (comme une recette de cuisine)

= règles et processus que l'IA utilise pour fonctionner

Ces algorithmes sont nourris par des données numériques

Fonctionnement de l'IA repose sur la collecte et l'utilisation de données

Besoin d'un nombre conséquent de données (ex : pour la reconnaissance d'images ou la génération de texte)

pas une ia mais des ia

IA faible/étroite

IA générale

IA forte

= tâche spécifique comme la classification d'images ou la recommandation de produits

= pense et apprend comme un humain, voire mieux

= niveau comparable à un humain dans la réalisation de tâches intellectuelles (langage naturel, résolution de problèmes, perception visuelle)

= une seule tâche et pas d'adaptation à des situations imprévues

N'existe pas encore actuellement

IA théorique qui n'existe pas

Technologies actuellement présentes sur le marché

IA générative

et l'ia générative ? (1/2)

Type d'intelligence artificielle capable de générer du contenu original : texte, images ou d'autres médias (audio, vidéo...) sur base, très souvent, d’une requête textuelle (= prompt)

IA générative = modèles probabilistes qui ne génèrent pas de sens

Sur base d'une requête de l'utilisateur, calcul de la probabilité du premier "mot" de la réponse, puis du suivant, et ainsi de suite...

et l'ia générative ? (2/2)

TOKENS = mots, parties de mots, caractères ou signes de ponctuation

• Interface entre le langage humain et le langage machine

• Permettent de « comprendre » et de générer du langage

Token = unité de sens

Tokenisation

= "découpage du texte lorsqu'on tape une requête dans un chatbot" = processus qui permet aux modèles d’IA d’analyser le langage

à partir des identifiants, création de relations statistiques entre les tokens pour générer de nouveaux mots

Chaque token a un identifiant unique

Prédiction des mots (les plus probables) les uns à la suite des autres

TECHNIQUES D'apprentissage (1/2)

l'apprentissage automatique (machine learning)

Ici, appui sur un retour humain

Bases de connaissance

Modèles mathématiques

Mise en relation des informations

Recherche de connaissances à associer

Algorithmes

Si donné A = action 1

Réponse

Demande

C'est un chien

C'est quoi ?

TECHNIQUES D'apprentissage (2/2)

l'apprentissage profond (deep learning)

Ici, pas d'intervention humaine (juste une supervision)

= méthode de machine learning qui s'appuie sur des réseaux de neurones artificiels, càd des constructions mathématiques qui imitent "grossièrement" les neurones humains

Réponse

Demande

C'est un Welsh Corgi Pembroke

C'est quoi ?

Réseaux de neurones artificiels profonds

Les enjeux éthiques de l'IA (1/3)

De quoi parle-t-on ?

Ensemble des questions morales, sociétales et philosophiques soulevées par le développement, l’utilisation et les impacts des technologies d’IA

Les enjeux éthiques de l'IA (2/3)

les droits fondamentaux ?la justice sociale ? la transparence ? la responsabilité ? la sécurité ? l’impact environnemental ? l'impact sociétal ?

Quelle influence sur

Respect des valeurs humainesMinimisation des risques et discriminations Utilisation juste, responsable et bénéfique pour l’ensemble de la société

Les enjeux éthiques de l'IA (3/3)

Transparence

Sécurité/ vie privée

Automatisation et emploi

Biais algorithmiques

Responsabilité

IA générative

transparence (1/2)

« Boites noires » des systèmes d'IA (notamment ceux basés sur le deep learning)

= Difficulté de comprendre le fonctionnement interne

= Difficulté de comprendre comment un modèle arrive à une conclusion

SantéJustice Crédit bancaire Recrutement

Importance critique au niveau

Ex.

transparence (2/2)

Explicabilité de l'IA = domaine de recherche sur comment rendre l'IA plus compréhensible sans en sacrifier la performance

Enjeu

Développer des systèmes d'IA plus transparents

Confiance des citoyens en un usage sécuritaire de l'IA

Éducation des citoyens pour mieux en comprendre les capacités/limites

sécurité/vie privée (1/3)

Robustesse des systèmes d'IA

= capacité d'un système d'IA à fonctionner de manière fiable même en cas de conditions imprévues

Ex. au niveau des

>

Voitures autonomes

Cyberattaques

Cybersécurité

En cas de cyberattaque : risque plus grand en matière d'atteinte à la vie privée si IA gourmande en données personnelles

Vulnérabilité des systèmes d'IA face aux attaques

Éviter qu'une défaillance n'entraine des accidents graves

Tests réguliers pour garantir cette robustesse

sécurité/vie privée (2/3)

Technologies d'IA

SécuritéProtection Gestion

des données

Cadre européen du RGPD

Mais encore des défis à relever...

ProtectionRespect

Question en termes de

de la vie privée

Surveillance

CADRE EUROPéen de l'ai act

Individuelle

À grande échelle

Technologie de reconnaissance faciale ou analyse de comportement en ligne

Risque en termes de libertés individuelles (notamment en contexte autoritaire)

sécurité/vie privée (3/3)

Développer des systèmes qui respectent la confidentialité des utilisateurs en limitant la collecte de données avec des mesures de protection robustes

Enjeu

Enjeu de sécurité/de respect de la vie privée

Collecte, stockage et usage éthiques des données

Enjeu éducatif

Cybersécurité, données personnelles/sensibles et anonymisation

Enjeu politique/démocratique

Contrôle social et surveillance par les gouvernements

Enjeu géopolitique

Cyberattaques sophistiquées

automatisation et emploi (1/2)

Impact de l'automatisation des tâches sur l'emploi

Nouvelles opportunités d'emploi

Remplacement d'actuels emplois

(gestion des données, développement de logiciels et maintenance des systèmes automatisés)

(emplois aux tâches répétitives, notamment dans les secteurs administratifs et techniques)

Même si amélioration de l'efficacité et réduction des coûts, risque d'accroissement des inégalités pour les travailleurs peu qualifiés

Accroissement de la fracture numérique en termes de compétences et d'accès à l'IA

automatisation et emploi (2/2)

Accompagner cette transition au travers de l'éducation, la formation et la reconversion professionnelle

Enjeu

Enjeu éducatif

Développement de nouvelles compétences et reconversion professionnelle

Enjeu socio-économique

Perte et création d'emplois

Enjeu social et citoyen

Accès équitable à l'IA et à l'éducation

biais algorithmiques (1/3)

= fonctionnement d'un algorithme aux résultats partiaux, voire discriminatoires

L'IA s'appuie sur des données collectées par des humains

Entrainement d'un système d'IA sur des données biaisées ou non représentatives

Des données qui reflètent nos biais/stéréotypes/préjugés

Reproduction et/ou amplification de ce type de données

Discrimination

biais algorithmiques (2/3)

Discrimination : exemples

IA analytique/prédictive

IA générative

Crédit

Recrutement

Stéréotypes de genre

Ex. Dé/favoriser des personnes en fonction de leur genre, âge, origine ou parcours scolaire

Ex. Dé/favoriser des personnes en fonction de leur code postal

biais algorithmiques (3/3)

Enjeu

Origine de ces biais algorithmiques ?

• Données historiques biaisées
• Manque de diversité au niveau des données
• Préjugés des concepteurs de l'algorithme
• Interprétation des résultats

Développement de systèmes d'IA qui identifient et corrigent ces biais Réflexion sur la façon dont les données sont collectées, traitées et utilisées

ia générative (1/7)

= Systèmes d'IA générative capable de créer des textes, images, audios ou vidéos

Création de contenus réalistes

Défis éthiques en matière de désinformation

Malinformation Mésinformation Désinformation

ia générative (2/7)

Malinformation >>> info imparfaite

Mésinformation >>> info fausse

Désinformation >>> manipulation

ia > deep fake

fake news/infox

Fake news qui se présente sous la forme d'une vidéo falsifiée via IA

ia générative (3/7)

Désinformation

Lien

Solution

Ici, on est attentif à la détection des fakes !

ia générative (4/7)

Désinformation

Attention, ce montage contrevient aux conditions d'utilisation du site Hedra !

😵‍💫

ia générative (5/7)

Mésinformation

Trouvez l'erreur...

Trouvez l'erreur...

ia générative (6/7)

mésinformation

Et avec la fonction ChatGPT Search ?

ia générative (7/7)

Mais aussi...

La question des droits d'auteur

>

Création d'œuvres qui ressemblent/s'inspirent de celles réalisées par des humains

IAG

La question du respect de la diversité culturelle

Risque de renforcer les stéréotypes, la standardisation, voire la domination culturelle

>

Si apprentissage de l'IA à partir de données issues d'une seule culture

Enjeu éducatif et démocratiqueDéveloppement de l'esprit critique des citoyens face aux contenus générés par l'IA

Enjeu

responsabilité (1/4)

Quid de la responsabilité légale ?

Les systèmes d’IA peuvent causer des erreurs, des discriminations ou des dommages

Qui est responsable en cas de problème ?

• Le concepteur ou l’entreprise qui a développé l’IA (ex. OpenAI, Google, Tesla)

• L'utilisateur qui a utilisé l’IA à mauvais escient ?

• L’IA elle-même (mais une IA n’a pas de statut juridique propre) ?

Ex. Une voiture autonome provoque un accident. Qui est responsable ? Le constructeur ? Le conducteur ? Le programmeur qui a codé l’algorithme de freinage ?

responsabilité (2/4)

Quid de la responsabilité environnementale ?

Les IA nécessitent d’énormes quantités de données et d’énergie pour fonctionner

Quel impact écologique ?

• L’entraînement d’un grand modèle de langage (comme GPT-4) émet autant de CO₂ que 125 allers-retours Paris-New York en avion

• L’utilisation quotidienne des IA exige des centres de données gourmands en électricité et en eau

De la construction physique (limité dans le temps)De son entrainement (limité dans le temps)De son usage (non limité dans le temps)

Coût écologique

responsabilité (3/4)

Quel est le coût écologique de l'IA ?

Énergie et empreinte carbone

responsabilité (4/4)

Enjeu

Entreprises

Garantir transparence et éthique

Plusieurs acteurs concernés

Responsabilité des...

Gouvernements

Encadrer et former

Trouver un juste équilibre entre innovation technologique et éthique en gardant comme objectifs le bien-être de l'humanité et le respect des droits fondamentaux

Citoyens

Adopter un usage critique et éclairé

Références pour aller plus loin

Questions/réponses

Merci de votre écoute et de votre participation

IA plus qu'à échanger et réfléchir ensemble.... 😉

LES ROCHDUR

Franck Roch & Aurélie Duriau

Couple d’enseignants, formateurs et concepteurs technopédagogiques

AI Act européen (entré en vigueur ce 02 février 2025)

Approche proactive > 1re législation générale au monde sur l’IA

Règlement pour le développement et l'utilisation des systèmes d'intelligence artificielle

Classement des systèmes d'IA en fonction de leur niveau de risque

• Risque minimal ou nul (ex. chatbot basique)

• Risque limité (ex. IA dans les jouets)

• Risque élevé (ex. recrutement, diagnostic médical, reconnaissance faciale)

Exigences strictes en matière notamment de transparence et de robustesse

RGPD > encadre la protection des données personnelles dans l'utilisation des technologies d'IA

Données personnelles

Toute information qui permet d’identifier, directement ou indirectement, une personne

Données sensibles

Exemples :

Opinions politiquesConvictions religieuses/philosophiques Santé/antécédents médicaux Condamnations criminelles Renseignements financiers ...

Les bonnes réponses étaient 1 - 4 - 5 - 7 - 8

L’impact carbone en fonction de l’utilisation de l’IA : de la classification de texte à la génération d’images… (S.Luccioni)