Fiction ou Réalité

et dystopie...

Entre super-héros

L'homme augmenté

Bioéthique et Transhumanisme

Coordination du projet : David GUIGUI, Professeur de Documentation au lycée Mariette de Boulogne sur Mer (62)

Bonjour, cette présentation est interactive. Pour savoir sur quels éléments cliquer pour y naviguer, penser à utiliser l'icône en haut à droite de chaque page. Bonne visite...

Commencer

Connecter un cerveau à une IA...

vs

REALITE

FICTION

SOMMAIRE

HOME

FICTION

Médiatisation du "Projet NEURALINK"

Neuralink : 4 pics médiatiques en 2019

Fiction(s) : Ghost in the Shell

Elon Musk présente le projet NEURALINK

Ghost in the Shell : manga 1989

Facebook et son projet "BCI"

Ghost in the Shell : animé 1995

Jack Ma et Elon Musk s'opposent

Facebook rachète la start-up CTRL-labs

Ghost in the Shell : animé 2015

Les promesses de Neuralink

Ghost in the Shell : film 2017

Des avis partagés

Film 2017 : ICM et SCP

L'avis des experts scientifiques

REALITE

Les experts de la SCP

Enthousiasme scientifique

Aujourd'hui, il est possible de ...

Scepticisme et réalisme scientifique 1/2

Homme connectés

Scepticisme et réalisme scientifique 2/2

Objets connectés et domotique

Transhumanisme et bioéthique

Interfaces cerveau-machine (ICM)

Une carence législative et juridique

Implant de stimulation cérébrale profonde (SCP)

Risques et dérives envisageables

Une course au cerveau connecté et augmenté

Réflexion éthique

Précautions et limites bioéthiques

MENU

GHOST IN THE SHELL

FICTION(s)

2015

1989

1995

2017

BACK

Manga

Masamune SHIROW (Glénat, 1989)

Vignette page 57

BACK

BACK

Film d'animation

Mamoru OSHII (@ANIME, 1995)

Capture à 10 min 21s

PLAY

BACK

Film d'animation

Kazuya NOMURA (@ANIME, 2015)

Capture à 1h 22 min 52 s

PLAY

BACK

Film

Rupert SANDERS (Paramount, 2017)

DETAILS

Capture à 25 min 52 s

PLAY

BACK

Connexion cerveau / machine

Télechargement de la mémoire

Transfert, échange, ajout et suppression de données

BACK

HOME

Cerveaux connectés en réseaux

Aujourd'hui,il est possible de ...

BACK

BACK

NEXT

NEXT

MENU

Communiquer avec une machine... via un objet connecté

BACK

BACK

NEXT

NEXT

MENU

Communiquer avec une machine... via un objet connecté

BACK

BACK

NEXT

NEXT

MENU

Transformer un signal cérébral en signal numérique

Interfaces cerveau-machine (ICM)

Signal cérébral

Signal numérique

BACK

BACK

source : Richard ANDERSEN, Quand les machines décodent nos intentions, Pour la science, 26 juin 2019, p.72-79

NEXT

NEXT

MENU

MENU

Connecter le cerveau ...via un implant de stimulation cérébrale profonde (SCP)

• la maladie de Parkinson (1987)
• le tremblement essentiel
• les dystonies
• la maladie des tics de Gilles de la Tourette
• des cas rebelles d'épilepsie (2012)
• ou de douleurs chroniques (2013)
• cas extrêmes de dépression majeure (2005)
• les troubles obsessionnels compulsifs (2008)
• l'anorexie mentale (2013)
• les états végétatifs chroniques
• les addictions
• l'obésité
• la boulémie
• l'agressivité
• l'hypertension artérielle
• les troubles de la mémoires de la maladie d'Alzheimer (2010)

Utilisée depuis 1987, à des finsexclusivement thérapeutiques,dans les cas résistants à tous les traitements antérieurs pour les pathologies suivantes :

source : CCNE, Recours aux techniques biomédicales en vue de « neuro-amélioration » chez la personne non malade: enjeux éthiques, Avis N°122, p.9, Comité Consultatif National d'Éthique pour les Sciences de la Vie et de la Santé, Paris, 12 décembre 2013.

BACK

NEXT

Une course au cerveau connecté et augmenté

• Médiatisation

• Investissements privés

• Réflexion et anticipation (Fictions et documentaires)

• Recherche appliquée (brevets technologiques déposés)

• Investissements publics

• Recherche fondamentale

(publications scientifiques)

• Législation

BACK

BACK

NEXT

NEXT

MENU

MENU

Exemple du "Projet NEURALINK"

4 pics médiatiques en 2019

29

25 articles

AOÛT

17

40 articles

JUILLET

24

15 articles

SEPTEMBRE

33 articles

AOÛT

BACK

Recherche avec EUROPRESSE de mai à décembre 2019

17/07

01/08

29/08

24/09

mot-clé : "Neuralink"

MENU

BACK

"Un implant discret et indolore, permettant au cerveau de communiquer directement avec des machines ou des interfaces numériques : c'est le projet, en partie concrétisé, qu'a présenté mardi 16 juillet Neuralink, la société financée à hauteur de 100 millions de dollars par Elon Musk (Tesla, SpaceX)."source : Le Monde (site web), 17 juillet 2019

MENU

BACK

"Facebook annonce une avancée décisive dans son projet (présenté en avril 2017) d’interface cerveau-ordinateur (BCI en anglais). L’objectif est de créer un appareil permettant d’écrire simplement par la pensée. L’entreprise a financé une étude à base d’algorithmes en apprentissage automatique, pouvant convertir l’activité cérébrale en discours.."source : L'Obs (site web), 1er août 2019

MENU

BACK

"« Nous avons tendance à sous-estimer les capacités des intelligences artificielles , a répété Elon Musk sur la scène de la conférencede Shanghaï. On pense qu'elles se comporteront comme des humains malins. Mais elles seront bien plus intelligentes que l'homme le plus brillant que vous connaissez. » Jack Ma, de son côté, est plus sceptique. « Il est impossible que les hommes soient un jour contrôlés par des machines. Nous ne pouvons pas créer quelque chose de plus intelligent que nous , a insisté l'entrepreneur chinois.source : Le Figaro, 31 août 2019

MENU

BACK

MENU

BACK

"Facebook a annoncé lundi avoir acheté une start-up cherchant à rendre possible le contrôle d’ordinateurs ou d’autres appareils directement à l’aide du cerveau, et non plus d’une souris ou d’un mouvement de doigt.Avec cette acquisition de CTRL-labs, le réseau social renforce son ambition de créer un lien direct entre le cerveau humain et les machines."source : L'Obs (site web), 24 septembre 2019

BACK

NEXT

MENU

Suite à l'annonce des avancées du projet NEURALINK, mise en scène par Elon Musk en juillet 2019 à la California Academy of Sciences, et largement médiatisée dans le monde, les réactions critiques sont divisées entre enthousiasme, scepticisme, réalisme et éthique.

143 millions d'Euros investis dans l'implant neuronal connecté

pour

Communiquer avec une machine sans interface

Contrôler une machine par la pensée

Augmenter les capacités intellectuelles du cerveau

Permettre à l'homme de rester compétitif face aux IA

BACK

Etre testé sur l'homme en 2021

NEXT

MENU

"Un implant discret et indolore, permettant au cerveau de communiquer directement avec des machines ou des interfaces numériques : c'est le projet, en partie concrétisé, qu'a présenté mardi 16 juillet Neuralink, la société financée à hauteur de 100 millions de dollars par Elon Musk (Tesla, SpaceX)."source : Le Monde (site web), 17 juillet 2019

BACK

Sur l’ensemble des articles publiés entre mai et novembre 2019, concernant « Neuralink », une très large majorité est enthousiaste et favorable au projet d’Elon Musk

(source : Europresse)

BACK

NEXT

MENU

MENU

L'avis des experts scientifiques

"Rien de très nouveau, en réalité : de nombreux chercheurs travaillent déjà sur des implants cérébraux répondant à ces besoins. Mais tous, sans exception, ont suivi sa présentation sur YouTube. Avec une seule question : Musk et les 158 millions de dollars (143 millions d’euros) investis dans cette affaire parviendront-ils à lever les verrous technologiques et scientifiques auxquels ces spécialistes se heurtent ? La réponse s’avère mitigée. Les experts interrogés par L’Express sont unanimes : Elon Musk apporte des idées disruptives, qui pourraient permettre à leur domaine de faire des bonds de géant. Mais celles-ci doivent encore se voir confirmées par des publications scientifiques en bonne et due forme. Et, surtout, le chemin à parcourir reste immense…"

source : Stéphanie BENZ, Les folles promesses d'Elon Musk, L'Express, 16 octobre 2019, p.99

BACK

NEXT

Qui sont les "experts interrogés par L'Express" ?

Validité, pertinence, autorité, notoriété, caution, crédit ...

François BERGER, spécialiste des interfaces cerveau- ordinateur et neuro-oncologue au CHU de Grenoble

Blaise YVERT, Chercheur Inserm à l'université de Grenoble

Jérémi MATTOUT, Chercheur à l'INSERM de Lyon

Guillaume CHARVET, Ingénieur à Clinatec

Grégoire COURTINE, Chercheur à l'EPFL (Ecole polytechnique fédérale de Lausanne)

Thomas OXLEY, Chercheur à Synchron

John DONOGHE, coresponsable du consortium BrainGate

Claude CLEMENT, Directeur technique du Wyss Center à Genève

BACK

Pierre-Marie LLEDO, Directeur du Département de Neurosciences de l'Institut Pasteur

NEXT

MENU

MENU

Enthousiasme scientifique

"Au crédit de Neuralink se trouvent en premier lieu des électrodes innovantes, posées sur des fils d'or souples et fins entourés d'un polymère biocompatible. Chaque implant en comptera jusqu'à 1000, et les équipes de Musk estiment possible d'en placer jusqu'à 10 par patient, soit 10000 au total." S. Bz

"Mais le vrai coup de génie du Californien, c'est d'avoir trouvé comment implanter ces fils. Car cela revient peu ou prou à tenter d'enfoncer des spaghettis trop cuits dans du yaourt [...] La solution? Une « machine à coudre » robotisée, capable d'aller piquer ces électrodes de 20 millimètres dans la matière cérébrale. Le robot, doté d'un système d'analyse d'images sophistiqué, devrait aussi éviter de léser les minuscules vaisseaux qui alimentent les neurones. Une opération impossible sinon, car notre encéphale, en plus d'être mou, bouge en permanence sous l'effet de la respiration et des battements du coeur." S. Bz

"Au-delà du nombre, beaucoup espèrent que la souplesse de ces « fils » limitera la réaction immunitaire du cerveau, qui rend peu à peu inutilisables les électrodes rigides actuelles." S. Bz

source : Stéphanie BENZ, L'Express 16 octobre 2019.

Enfin, dernière avancée qui fait pâlir d'envie les experts du secteur, une puce électronique puissante et peu gourmande en énergie. La clef de voûte du système, qui doit amplifier, trier et numériser les signaux enregistrés par les électrodes avant de les transférer hors du corps." S. Bz

BACK

NEXT

MENU

Scepticisme et réalisme scientifique

"Pour autant, le projet de Neuralink est encore loin d'aboutir."

" « La réalité, c’est que le code neuronal n’a été que très partiellement déchiffré : le langage des neurones présente encore une très large part de mystère », résume Jérémie Mattout, chercheur à Lyon. Ce qui relativise beaucoup cette idée de symbiose entre l’homme et la machine prônée par ailleurs par Elon Musk, qui supposerait de « lire » dans nos pensées.." S. Bz

"Il s'agit avant tout d'une question d'isolation." S. Bz

"Le noeud du problème : protéger les points de jonction entre chacune des nombreuses électrodes et la puce." S. Bz

"Deuxième défi, et non des moindres, concevoir unsystème sans fil. Indispensable pour que ces implants puissent un jour être utilisés au quotidien par des patients. Mais le rat dévoilé par Neuralink, avec son port USB posé sur le crâne, illustre mieux qu'un long discours où en est la société en la matière : nulle part." S. Bz

" Des résultats fascinants, mais qui restent bien éloignés de l’idée d’écouter notre petite voix intérieure.." S. Bz

" Et quand bien même : « Ce qui fait l’humain, notre créativité,notre expérience subjective, tout cela restera inaccessible à l’analyse des algorithmes, car dépendant de notre passé, propre à chacun de nous », assure Pierre-Marie Lledo, directeur du département de neurosciences de l’Institut Pasteur."

" Transmettre plus de données supposerait de recourir à des radiofréquences très élevées. [...] A ce jour, le problème reste entier, et les équipes de Neuralink n'ont pas dit comment elles comptaient le résoudre." S. Bz

"Comprendre notre cerveau s’avère décidément bien pluscompliqué que d’envoyer des fusées dans l’espace." S. Bz

source : Stéphanie BENZ, L'Express 16 octobre 2019.

BACK

NEXT

MENU

Scepticisme et réalisme scientifique

" Reste la question essentielle : l’interface apportera-t-elle un bénéfice aux patients par rapport aux dispositifs existants? Pour le traitement des maladies neurodégénératives, on enest loin. Il faudrait stimuler électriquement des zones précises du cerveau, mais l’équipe californienne n’a pas encore montré que son dispositif pouvait envoyer du courant. Et quand bien même, les électrodes de stimulationactuelles, utilisées dans la maladie de Parkinson, par exemple, sont beaucoup plus longues que celles de Musk,et visent des zones profondes de l’encéphale. Bien loin des 20 millimètres des « fils » de Neuralink…" S. Bz

" Aujourd’hui, les scientifiques procèdent en associant des enregistrements de signaux neuronaux avec des intentions de mouvement du patient. Comme ces signaux varient tout letemps, ils multiplient les enregistrements pour alimenter un algorithme qui, ultérieurement, reliera une activité neuronale donnée à un geste." S. Bz

" Le même principe a été appliqué récemment à la visualisation d’images. Des singes ont été exposés à un très grand nombre de photos de visages pendant que leurs neurones étaient enregistrés. Un algorithme a ensuite pu reconstruire un nouveau visage vu par un singe à partir de ses signaux corticaux.." S. Bz

" A court terme, l’aide aux personnes paralysées devrait donc rester la première cible de l’entreprise. Différentes équipes ont déjà montré des résultats impressionnants : « En écoutant unecentaine de neurones, nous avons permis à des patients tétraplégiques de mouvoir un bras robotisé », rappelle John Donoghue, pionnier du domaine et coresponsable du consortium BrainGate, qui réunit plusieurs universités américaines autour de tels projets. Ces mouvements restent toutefois lents et peu naturels. Fera-t-on mieux en enregistrant plus de neurones ? " S. Bz

source : Stéphanie BENZ, L'Express 16 octobre 2019.

BACK

NEXT

MENU

Une carence législative et juridique

"L’utilisation de la SCP [Stimulation Cérébrale Profonde] à des fins de neuro-amélioration paraît inimaginable compte tenu de son caractère invasif, avec notamment un risque de 2 à 5% d’infection ou d’accident vasculaire cérébral, mais, le caractère très ciblé de son action, la potentielle réversibilité de ses effets, l’explosion actuelle de son spectre d’investigations cessent de rendre cette perspective irréaliste."

source : CCNE, Recours aux techniques biomédicales en vue de « neuro-amélioration » chez la personne non malade: enjeux éthiques, Avis N°122, p.9, Comité Consultatif National d'Éthique pour les Sciences de la Vie et de la Santé, Paris, 12 décembre 2013.

Christophe Euzet

"En tant que juristes, nous sommes en grande difficulté face à un progrès fluide, exponentiel, qu’il est de plus difficile de canaliser. Pour être honnête, j’ai le sentiment que nous ne résisterons pas à l’injonction de performance que vous avez évoquée : l’homme augmenté aura des attraits tels que nous ne saurons y résister, de même que nous ne résisterons pas aux exigences de la commercialisation du progrès – vous l’avez dit, lorsqu’il n’y a rien à vendre, c’est que nous sommes le produit. Il n’en demeure pas moins que le législateur a pour mission de définir des cadres et qu’il doit légiférer à court terme. Va donc se poser la question de la récurrence des dispositifs législatifs que nous sommes appelés à adopter, car le droit doit être opératoire."

source : Christophe EUZET (juriste), Compte rendu n°78, Commission des affaires sociales, p.15, XVème législature, Assemblée Nationale, Paris, 6 juin 2018

BACK

NEXT

MENU

Risques et dérives envisageables

Outre les risques infectieux liés aux contraintes d'un acte médical invasif, la neuroamélioration par stimulation cérébrale profonde présente des dangers liés à l'étendue du champ des possibles des neurotechnologies et de l'intelligence artificielle.

Confidentialité des données neuronales et consentement de l'usager

• Intrusion et hacking de l'ICM
• Transmission et commercialisation des données collectées
• Traitement et croisement des données dans le big data
• Tracking, profilage, contrôle, manipulation des individus

Activité cérébrale, fonctions cognitives et personnalité de l'usager

• Neurocharlatanisme et fausses promesses
• Coercition implicite, explicite, normative ou sociétale (pression, contrainte)
• Fatigues de l'hyperactivité, l'hyperconnectivité et de l'ultraperformance
• Confusion dans la détection entre intention et action
• Modification de l'humeur et de la personnalité (agentivité, troubles et addictions)
• Substitution de la personne humaine par une IA
• Glissement de l'individualité vers la singularité de l'hybridation "hommes-machines"

source : Hervé CHNEIWEISS, professeur, neurologue, directeur de recherche au CNRS, président du comité d’éthique de l’Inserm Compte rendu n°78, Commission des affaires sociales, p.3-4, XVème législature, Assemblée Nationale, Paris, 6 juin 2018

BACK

NEXT

MENU

Réflexion éthique sur la neuroamélioration par ICM et SCP

• A quoi pourrait servir une ICM ?
• Quelles personnes seraient les plus motivées pour en bénéficier ?
• Quels sont les pays à la pointe de l'ICM ?
• Qui finance la recherche appliquée dans les ICM ?
• Pourquoi les GAFAM s'intéressent tant aux ICM ?
• Comment une ICM pourrait générer des profits financiers ?
• A qui profiteraient les ICM ?
• La mise en oeuvre d'une SCP pourrait-elle devenir un acte non médical ?
• L'ICM pourrait-elle être une solution pour la réussite scolaire ?
• Comment protéger l'intégrité des données neuronales et de la pensée contre une intrusion tierce ? (attaque de l'homme du milieu) ?
• Une société pourrait-elle s'améliorer en utilisant les données neuronales et la pensée de ses citoyens ?
• Une IA pourrait-elle contrôler un individu via une ICM, à son insu ?
• Une personne pourrait-elle "aspirer" les données neuronales d'une autre personne ?
• Les connaissances de la carte neuronales sont-elles suffisantes pour corriger les problèmes d'agentivité ?
• Une ICM pourrait-elle augmenter le pouvoir et les possibilités d'y accéder ?
• Une ICM peut-elle augmenter significativement la sécurité d'une personne (risques d'accident) ?
• Peut-on penser qu'une personne ayant une ICM soit supérieure à celles qui n'en n'ont pas ?
• Les possibilités d'une ICM pourraient-elles dépasser un seuil raisonnable (super-pouvoirs) ?
• Les possibilités d'une ICM pourraient-elles simplifier la transgression des lois (crimes et délits) ?

BACK

NEXT

MENU

Précautions et limites bioéthiques

source : CCNE, Recours aux techniques biomédicales en vue de « neuro-amélioration » chez la personne non malade: enjeux éthiques, Avis N°122, p.9, Comité Consultatif National d'Éthique pour les Sciences de la Vie et de la Santé, Paris, 12 décembre 2013.

source : Christophe EUZET (juriste), Compte rendu n°78, Commission des affaires sociales, p.15, XVème législature, Assemblée Nationale, Paris, 6 juin 2018

source : Philippe BOYER, Cerveaux connectés, p.11-13, La Tribune, N°6769, 4 octobre 2019

BACK

NEXT

MENU

Merci pour votre attention

BACK

HOME