MIROIR NOIR | Philosophie et enjeux de l'intelligence artificielle

PHILOSOPHIE ET ENJEUX DE L'INTELLIGENCE ARTIFICIELLE

DÉBUTER

MENU

Alexandre Chenette

monurl.ca/miroirnoir

DEUX TYPES D'IA

Après avoir donné plusieurs conférences sur l'IA spécifique ou faible, déjà omniprésente et agissante dans plusieurs sphères de nos vies, cette conférence s'attardera davantage à réfléchir aux enjeux éthiques et philosophiques du développement futur de l'intelligence artificielle.

ia faible (spécifique)

ia forte (générale)

monurl.ca/miroirnoir

AVERTISSEMENT surcharge cognitive

Chacune des nombreuses questions philosophiques et éthiques soulevées dans cette présentation pourraient faire l'objet d'un atelier en soi. Nous n'aurons malheureusement pas le temps d'aborder les sujets en profondeur aujourd'hui et devrons nous contenter d'un survol rapide mais si tout va bien, votre curiosité sera suffisamment piquée pour poursuivre votre exploration par vous-même ;)

monurl.ca/miroirnoir

FAUT-IL Y RÉFLÉCHIR MAINTENANT ?

monurl.ca/miroirnoir

le danger de baisser les bras

« Semer la peur des catastrophes hypothétiques, loin de sauvegarder l'avenir de l'humanité, peut la mettre en danger.»

STEPHEN PINKER

monurl.ca/miroirnoir

DU DOUBLE RÔLE DE LA SCIENCE FICTION

D'un côté, avec l'énorme popularité de films (Terminator, Matrix, etc.) et de téléséries (Westworld) de science fiction, il est souvent difficile pour le grand public de réfléchir à l'IA générale sans convoquer des scénarios dystopiques alarmistes. D'un autre côté, des séries populaires comme Black Mirror peuvent intéresser un plus large public à réfléchir aux enjeux éthiques et philosophiques de l'ère du numérique.

monurl.ca/miroirnoir

C'EST NÉCESSAIRE...

« Nous devons simplement être conscients des dangers, les identifier, utiliser les meilleures pratiques et la meilleure gestion possible, et préparer ses conséquences bien à l'avance.»

STEPHEN HAWKING

monurl.ca/miroirnoir

de la crainte à l'enquête

CitNum.ca

monurl.ca/miroirnoir

Le défi ultime ?

monurl.ca/miroirnoir

« C’est très probablement le défi le plus important et le plus redoutable que l'humanité ait jamais affronté. Et, que ce soit une réussite ou un échec, c'est probablement le dernier défi auquel nous seront jamais confrontés.»

nick bostrom

monurl.ca/miroirnoir

MAUVAISE NOUVELLE ? NOUS N'AURONS QU'UNE SEULE CHANCE

BONNE NOUVELLE NOUS EN SERONS LES CRÉATEURS

monurl.ca/miroirnoir

ENTRE OPTIMISME ET CRAINTE

En janvier 2015, Nick Bostrom a rejoint Stephen Hawking, Max Tegmark, Elon Musk et de nombreux chercheurs en IA, pour signer la lettre ouverte du Future of Life Institute parlant des risques et avantages potentiels associés à l'intelligence artificielle. Les signataires estiment que la recherche sur la manière de rendre les systèmes d'IA robustes et bénéfiques est à la fois importante et opportune, et qu'il existe des orientations de recherche concrètes qui peuvent être poursuivies aujourd'hui.

monurl.ca/miroirnoir

« Si une civilisation extraterrestre supérieure nous envoie un jour un message disant : « Nous arriverons dans quelques décennies », devrions-nous répondre simplement, « OK, appelez-nous quand vous arrivez ici – nous allons laisser les lumières allumées » ? Probablement pas – Et pourtant, c’est plus ou moins ce qui se passe avec l’IA. »

LETTRE OUVERTE FUTURE OF LIFE INSTITUTE

max tegmark

monurl.ca/miroirnoir

ACCUEIL

INTRODUCTION

CONCLUSION

CAPACITÉ

MORTALITÉ

TRAME

VÉRITÉ

HUMANITÉ

INTIMITÉ

MORALITÉ

monurl.ca/miroirnoir

CAPACITÉ

DÉBUTER

monurl.ca/miroirnoir

IA SPÉCIFIQUE

le PARADOXE de MORAVEC

Le plus difficile en robotique est souvent ce qui est le plus facile pour l'homme.

monurl.ca/miroirnoir

L'EFFET IA

THÉORÈME DE TESLER

l'IA est tout ce qui n'a pas encore été fait...

monurl.ca/miroirnoir

SUPERORDINATEUR FUGAKU

Le plus puissant superordinateur du monde est le japonais Fugaku, développé par le groupe informatique nippon Fujitsu. Il est capable d'atteindre, en pointe, 442 petaflops, soit 442 millions de milliards d'opérations par seconde. Mais les États-Unis et la Chine sont en tête dans cette course mondiale en matière de puissance installée et ont fait des investissements colossaux pour atteindre les premiers le supercalculateur exaflopique dépassant le seuil d'un milliard de milliards d'opérations par seconde.

monurl.ca/miroirnoir

RÉCHAUFFEMENT CLIMATIQUE

IMPACTS ENVIRONNEMENTAUX

Consommation d'électricité, de matières premières, d'énergie grise, climatisation, etc.

monurl.ca/miroirnoir

INFORMATIQUE QUANTIQUE

APRÈS LA LOI DE MOORE, LA LOI DE NEVEN

Une nouvelle technologie disruptive se profile à l'horizon et promet de porter la puissance de calcul à des sommets sans précédent et inimaginables. Et pour prédire la vitesse de progression de cette nouvelle technologie de «calcul quantique», le directeur des laboratoires d'IA quantiques de Google, Hartmut Neven, a proposé une nouvelle règle similaire à la loi de Moore qui mesure les progrès des ordinateurs depuis plus de 50 ans.

monurl.ca/miroirnoir

VÉRITÉ

DÉBUTER

monurl.ca/miroirnoir

l'UNIVERS DE L'IA a un rapport ambigu à la vérité...

monurl.ca/miroirnoir

AUTOMATE JOUEUR D'ÉCHECS

le tURC mécanique

Canular du 18e siècle

monurl.ca/miroirnoir

PROMESSES DÉÇUES

FAUSSE INTELLIGENCE ARTIFICIELLE

40% des startups d'IA n'en n'utilisent pas réellement

monurl.ca/miroirnoir

DÉSINFORMATION

FAUSSEs NOUVELLES

Produire | suggérer | détecter

monurl.ca/miroirnoir

DEEPFAKE

HYPER TRUCAGE

La technique existe grâce à l'IA et s'améliore extrêment vite

monurl.ca/miroirnoir

INTIMITÉ

DÉBUTER

monurl.ca/miroirnoir

SURVEILLANCE

RECONNAISANCE FACIALE

Enjeux de vie privée

monurl.ca/miroirnoir

CAREBOT

LE ROBOT ESCLAVE

Relation humain machine

monurl.ca/miroirnoir

FAUT-IL SE COMPORTER HUMAINEMENT AVEC LES MACHINES ?

monurl.ca/miroirnoir

ANDROÏDE ET GYNOÏDE

l'obsession ANTHROPOMORPHE

Créer la machine à son image

monurl.ca/miroirnoir

UNCANNY VALLEY

VALLÉE DE ÉTRANGE

Mori Masahiro - 1970

monurl.ca/miroirnoir

TEST DE TURING

JEU DE L'IMITATION

Alan Turing - 1950

monurl.ca/miroirnoir

SOUMISSION DES ROBOTS

3 lois de la ROBOTIQUE

Isaac Asimov - 1942

1. Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger ; 2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ; 3. Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.

monurl.ca/miroirnoir

ÉROBOTIQUE

TOMBER EN AMOUR AVEC UNE IA

Au-delà du robot sexuel...

monurl.ca/miroirnoir

moralité

DÉBUTER

monurl.ca/miroirnoir

AVEC QUELLE SORTE D'IA VOULONS-NOUS VIVRE ?

monurl.ca/miroirnoir

L'IA DOCILE

Imaginons que nous puissions créer l'IA parfaite, qui s'alimenterait du soleil, accomplirait docilement le travail demandé et offrirait à l'être humain une vie de luxe et de loisir.

monurl.ca/miroirnoir

MYTHE ALLÉGORIQUE

PROBLÈME DE MIDAS

Attention à ce que l'on souhaite.

monurl.ca/miroirnoir

EXPÉRIENCE DE PENSÉE

le MAXIMISEUR de TROMBONES

Nick Bostrom - 2003

monurl.ca/miroirnoir

EXPÉRIENCE DE PENSÉE

DILEMME DU TRAMWAY

Philippa Foot 1967

monurl.ca/miroirnoir

EXPÉRIENCE DE PENSÉE

VARIANTE DE LA PASSERELLE

Judith Jarvis Thomson

monurl.ca/miroirnoir

PHILOSOPHIE APPLIQUÉE

LA VOITURE AUTONOME

Qui sauver, qui sacrifier ?

monurl.ca/miroirnoir

BIAIS ALGORITHMIQUE

reproduction de NOS BIAIS

Dans les données mais aussi dans la conception des algorithmes

monurl.ca/miroirnoir

UNE MACHINE PEUT-ELLE ÊTRE TENUE RESPONSABLE LÉGALEMENT ET MORALEMENT DE SES ERREURS ?

monurl.ca/miroirnoir

DROITS ET RESPONSABILITÉS

AGENTS MORAUX ARTIFICIELS (A.M.A.)

L'écart de responsabilité

monurl.ca/miroirnoir

APPROCHE ARÉTAÏQUE

L'éthique de la vertu

Phronesis - capacité d'agir de la bonne manière au bon moment, de faire preuve de discernement

monurl.ca/miroirnoir

HUMANITÉ

DÉBUTER

monurl.ca/miroirnoir

DISRUPTION

PERTE MASSIVE D'EMPLOIS HUMAINS

4e révolution industrielle

monurl.ca/miroirnoir

COMMENT RÉAGIRONS-NOUS COMME HUMANITÉ ?

monurl.ca/miroirnoir

INÉGALITÉS

ACCÈS ET FRACTURE

Possible amplification des inégalités sociales...

monurl.ca/miroirnoir

INSTABILITÉS

RÉVOLTES NÉOLUDDITES ?

monurl.ca/miroirnoir

CYBERATTAQUES

VIRUS ET PIRATAGE

monurl.ca/miroirnoir

POLITIQUE

COURSE À L'IA MILITAIRE

monurl.ca/miroirnoir

UNE IA PEUT-ELLE DEVENIR CONSCIENTE ?

monurl.ca/miroirnoir

EXPÉRIENCE DE PENSÉE

CHAMBRE CHINOISE

John Searle - 1980

monurl.ca/miroirnoir

le DIFFICILE problème de la conscience

monurl.ca/miroirnoir

Qualia

« Comment expliquer pourquoi il y a quelque chose qui ressemble à une image mentale ou à l'expérience d'une émotion ? Il est largement admis que l'expérience découle d'une base physique, mais nous n'avons pas d'explication valable sur les raisons et la manière dont elle découle. Pourquoi le traitement physique devrait-il donner naissance à une vie intérieure riche ? Il semble objectivement déraisonnable qu'elle le fasse, et pourtant elle le fait. »

DAVID CHALMERS

monurl.ca/miroirnoir

QUALIA

MARIE DANS LA CHAMBRE

L'expérience consciente

monurl.ca/miroirnoir

MORTALITÉ

DÉBUTER

monurl.ca/miroirnoir

L'IA POURRAIT NÉANMOINS REDÉFINIR NOTRE RAPPORT À LA MORT, COMME ESPÈCE ET COMME INDIVIDUS...

monurl.ca/miroirnoir

SCÉNARIOS CATASTROPHES

SYNDROME DE FRANKENSTEIN

Peur de voir nos créations se retourner contre nous.

monurl.ca/miroirnoir

FABLE DE L'ÈRE DU NUMÉRIQUE

LE GRATTE-CIEL ET LA FOURMI

Nous ne cherchons pas nécessairement à éradiquer toutes les fourmis, seulement celles sur notre chemin...

monurl.ca/miroirnoir

OBÉISSANCE

PROBLÈME DE L'ALIGNEMENT

Plusieurs IA pourraient vouloir différentes choses à différents moments.

monurl.ca/miroirnoir

PORTE DE SORTIE

PROBLÈME DU CONTRÔLE

Doit être réglé en amont...

monurl.ca/miroirnoir

L'ISOLER

OPTION DE LA BOÎTE

Garder l'IA déconnectée comme un génie dans une bouteille

monurl.ca/miroirnoir

UTOPIE

SCÉNARIO OPTIMISTE

L'IA règle tous nos problèmes.

monurl.ca/miroirnoir

DYSTOPIE

SCÉNARIO PESSIMISTE

L'IA extermine l'espèce humaine.

monurl.ca/miroirnoir

GREY GOO

GELÉE GRISE

Le Grey goo est un scénario catastrophique global hypothétique impliquant la nanotechnologie moléculaire dans lequel des machines auto-réplicatives incontrôlables consomment toute la biomasse sur Terre (écophagie) tout en construisant davantage d'elles-mêmes.

monurl.ca/miroirnoir

TÉLÉCHARGEMENT DE L'ESPRIT

POURSUITE DE L'IMMORTALITÉ

Qu'adviendra-t-il d'Homo Sapiens ?

monurl.ca/miroirnoir

LA VOIE TRANSHUMANISTE ?

monurl.ca/miroirnoir

conclusion

DÉBUTER

monurl.ca/miroirnoir

« Le Canada a été pionnier dans le développement scientifique de l’IA, c’est ici qu’est né l’apprentissage profond. Nous faisons en sorte que le Canada devienne un leader moral, à l’avant-garde des discussions sur les impacts sociaux et les aspects éthiques.»

YOSHUA BENGIO

monurl.ca/miroirnoir

déclaration de montréal ia responsable

monurl.ca/miroirnoir

QUE FAIRE ?

la place de l'éducation

monurl.ca/miroirnoir

CitNum.ca

pour suivre nos travaux...

monurl.ca/miroirnoir

CRCN

AVRIL 2019

CADRE DE RÉFÉRENCE DE LA COMPÉTENCE NUMÉRIQUE

monurl.ca/miroirnoir

monurl.ca/miroirnoir

DOSSIER

RÉCIT

Un « Dossier RÉCIT» permet de mieux s'approprier un sujet et offrent des outils pour l'aborder en classe ou ailleurs.

monurl.ca/miroirnoir

POUR TERMINER...

Le basilic de roko

Désolé si cette présentation vous condamne à l'extermination... ;P

monurl.ca/miroirnoir

monurl.ca/miroirnoir

MERCI

Alexandre Chenette

ACCUEIL