Fiction ou Réalité

et dystopie...

Coordination du projet : David GUIGUI, Professeur de Documentation au lycée Mariette de Boulogne sur Mer (62)

Bioéthique et Transhumanisme

L'homme augmenté

Entre super-héros

Commencer

Bonjour, cette présentation est interactive. Pour savoir sur quels éléments cliquer pour y naviguer, penser à utiliser l'icône en haut à droite de chaque page. Bonne visite...

vs

FICTION

REALITE

Connecter un cerveau à une IA...

HOME

Des avis partagés

REALITE

FICTION

Réflexion éthique

Risques et dérives envisageables

Précautions et limites bioéthiques

Transhumanisme et bioéthique

Une carence législative et juridique

Scepticisme et réalisme scientifique 2/2

Scepticisme et réalisme scientifique 1/2

Enthousiasme scientifique

Les experts de la SCP

L'avis des experts scientifiques

Médiatisation du "Projet NEURALINK"

Une course au cerveau connecté et augmenté

Implant de stimulation cérébrale profonde (SCP)

Les promesses de Neuralink

Facebook rachète la start-up CTRL-labs

Jack Ma et Elon Musk s'opposent

Ghost in the Shell : animé 1995

Objets connectés et domotique

Facebook et son projet "BCI"

Interfaces cerveau-machine (ICM)

Elon Musk présente le projet NEURALINK

Neuralink : 4 pics médiatiques en 2019

Aujourd'hui, il est possible de ...

Film 2017 : ICM et SCP

Ghost in the Shell : film 2017

Homme connectés

Ghost in the Shell : animé 2015

Ghost in the Shell : manga 1989

Fiction(s) : Ghost in the Shell

SOMMAIRE

MENU

BACK

1995

2015

2017

1989

FICTION(s)

GHOST IN THE SHELL

Vignette page 57

BACK

BACK

Manga

Masamune SHIROW (Glénat, 1989)

PLAY

BACK

Capture à 10 min 21s

Film d'animation

Mamoru OSHII (@ANIME, 1995)

PLAY

BACK

Capture à 1h 22 min 52 s

Film d'animation

Kazuya NOMURA (@ANIME, 2015)

DETAILS

PLAY

Capture à 25 min 52 s

BACK

Film

Rupert SANDERS (Paramount, 2017)

HOME

Transfert, échange, ajout et suppression de données

Télechargement de la mémoire

Connexion cerveau / machine

Cerveaux connectés en réseaux

BACK

MENU

BACK

BACK

NEXT

NEXT

Aujourd'hui,il est possible de ...

MENU

BACK

BACK

NEXT

NEXT

Communiquer avec une machine... via un objet connecté

MENU

BACK

BACK

NEXT

NEXT

Communiquer avec une machine... via un objet connecté

Interfaces cerveau-machine (ICM)

Signal cérébral

Signal numérique

source : Richard ANDERSEN, Quand les machines décodent nos intentions, Pour la science, 26 juin 2019, p.72-79

MENU

BACK

BACK

NEXT

NEXT

Transformer un signal cérébral en signal numérique

source : CCNE, Recours aux techniques biomédicales en vue de « neuro-amélioration » chez la personne non malade: enjeux éthiques, Avis N°122, p.9, Comité Consultatif National d'Éthique pour les Sciences de la Vie et de la Santé, Paris, 12 décembre 2013.

MENU

• la maladie de Parkinson (1987)
• le tremblement essentiel
• les dystonies
• la maladie des tics de Gilles de la Tourette
• des cas rebelles d'épilepsie (2012)
• ou de douleurs chroniques (2013)
• cas extrêmes de dépression majeure (2005)
• les troubles obsessionnels compulsifs (2008)
• l'anorexie mentale (2013)
• les états végétatifs chroniques
• les addictions
• l'obésité
• la boulémie
• l'agressivité
• l'hypertension artérielle
• les troubles de la mémoires de la maladie d'Alzheimer (2010)

BACK

Connecter le cerveau ...via un implant de stimulation cérébrale profonde (SCP)

NEXT

Utilisée depuis 1987, à des finsexclusivement thérapeutiques,dans les cas résistants à tous les traitements antérieurs pour les pathologies suivantes :

MENU

BACK

BACK

NEXT

NEXT

Une course au cerveau connecté et augmenté

• Médiatisation

• Investissements privés

• Réflexion et anticipation (Fictions et documentaires)

• Recherche appliquée (brevets technologiques déposés)

• Investissements publics

• Recherche fondamentale

(publications scientifiques)

• Législation

MENU

BACK

4 pics médiatiques en 2019

AOÛT

SEPTEMBRE

25 articles

15 articles

29

24

AOÛT

33 articles

JUILLET

40 articles

Exemple du "Projet NEURALINK"

17

MENU

BACK

24/09

29/08

01/08

17/07

mot-clé : "Neuralink"

Recherche avec EUROPRESSE de mai à décembre 2019

MENU

BACK

"Un implant discret et indolore, permettant au cerveau de communiquer directement avec des machines ou des interfaces numériques : c'est le projet, en partie concrétisé, qu'a présenté mardi 16 juillet Neuralink, la société financée à hauteur de 100 millions de dollars par Elon Musk (Tesla, SpaceX)."source : Le Monde (site web), 17 juillet 2019

MENU

BACK

"Facebook annonce une avancée décisive dans son projet (présenté en avril 2017) d’interface cerveau-ordinateur (BCI en anglais). L’objectif est de créer un appareil permettant d’écrire simplement par la pensée. L’entreprise a financé une étude à base d’algorithmes en apprentissage automatique, pouvant convertir l’activité cérébrale en discours.."source : L'Obs (site web), 1er août 2019

MENU

BACK

"« Nous avons tendance à sous-estimer les capacités des intelligences artificielles , a répété Elon Musk sur la scène de la conférencede Shanghaï. On pense qu'elles se comporteront comme des humains malins. Mais elles seront bien plus intelligentes que l'homme le plus brillant que vous connaissez. » Jack Ma, de son côté, est plus sceptique. « Il est impossible que les hommes soient un jour contrôlés par des machines. Nous ne pouvons pas créer quelque chose de plus intelligent que nous , a insisté l'entrepreneur chinois.source : Le Figaro, 31 août 2019

MENU

BACK

MENU

BACK

NEXT

"Facebook a annoncé lundi avoir acheté une start-up cherchant à rendre possible le contrôle d’ordinateurs ou d’autres appareils directement à l’aide du cerveau, et non plus d’une souris ou d’un mouvement de doigt.Avec cette acquisition de CTRL-labs, le réseau social renforce son ambition de créer un lien direct entre le cerveau humain et les machines."source : L'Obs (site web), 24 septembre 2019

MENU

Etre testé sur l'homme en 2021

pour

Communiquer avec une machine sans interface

Augmenter les capacités intellectuelles du cerveau

BACK

Permettre à l'homme de rester compétitif face aux IA

Contrôler une machine par la pensée

143 millions d'Euros investis dans l'implant neuronal connecté

NEXT

Suite à l'annonce des avancées du projet NEURALINK, mise en scène par Elon Musk en juillet 2019 à la California Academy of Sciences, et largement médiatisée dans le monde, les réactions critiques sont divisées entre enthousiasme, scepticisme, réalisme et éthique.

BACK

"Un implant discret et indolore, permettant au cerveau de communiquer directement avec des machines ou des interfaces numériques : c'est le projet, en partie concrétisé, qu'a présenté mardi 16 juillet Neuralink, la société financée à hauteur de 100 millions de dollars par Elon Musk (Tesla, SpaceX)."source : Le Monde (site web), 17 juillet 2019

MENU

BACK

NEXT

(source : Europresse)

Sur l’ensemble des articles publiés entre mai et novembre 2019, concernant « Neuralink », une très large majorité est enthousiaste et favorable au projet d’Elon Musk

L'avis des experts scientifiques

source : Stéphanie BENZ, Les folles promesses d'Elon Musk, L'Express, 16 octobre 2019, p.99

"Rien de très nouveau, en réalité : de nombreux chercheurs travaillent déjà sur des implants cérébraux répondant à ces besoins. Mais tous, sans exception, ont suivi sa présentation sur YouTube. Avec une seule question : Musk et les 158 millions de dollars (143 millions d’euros) investis dans cette affaire parviendront-ils à lever les verrous technologiques et scientifiques auxquels ces spécialistes se heurtent ? La réponse s’avère mitigée. Les experts interrogés par L’Express sont unanimes : Elon Musk apporte des idées disruptives, qui pourraient permettre à leur domaine de faire des bonds de géant. Mais celles-ci doivent encore se voir confirmées par des publications scientifiques en bonne et due forme. Et, surtout, le chemin à parcourir reste immense…"

MENU

BACK

NEXT

Thomas OXLEY, Chercheur à Synchron

John DONOGHE, coresponsable du consortium BrainGate

Pierre-Marie LLEDO, Directeur du Département de Neurosciences de l'Institut Pasteur

Jérémi MATTOUT, Chercheur à l'INSERM de Lyon

Guillaume CHARVET, Ingénieur à Clinatec

Grégoire COURTINE, Chercheur à l'EPFL (Ecole polytechnique fédérale de Lausanne)

Claude CLEMENT, Directeur technique du Wyss Center à Genève

François BERGER, spécialiste des interfaces cerveau- ordinateur et neuro-oncologue au CHU de Grenoble

Blaise YVERT, Chercheur Inserm à l'université de Grenoble

Validité, pertinence, autorité, notoriété, caution, crédit ...

Qui sont les "experts interrogés par L'Express" ?

MENU

BACK

NEXT

source : Stéphanie BENZ, L'Express 16 octobre 2019.

Enfin, dernière avancée qui fait pâlir d'envie les experts du secteur, une puce électronique puissante et peu gourmande en énergie. La clef de voûte du système, qui doit amplifier, trier et numériser les signaux enregistrés par les électrodes avant de les transférer hors du corps." S. Bz

"Mais le vrai coup de génie du Californien, c'est d'avoir trouvé comment implanter ces fils. Car cela revient peu ou prou à tenter d'enfoncer des spaghettis trop cuits dans du yaourt [...] La solution? Une « machine à coudre » robotisée, capable d'aller piquer ces électrodes de 20 millimètres dans la matière cérébrale. Le robot, doté d'un système d'analyse d'images sophistiqué, devrait aussi éviter de léser les minuscules vaisseaux qui alimentent les neurones. Une opération impossible sinon, car notre encéphale, en plus d'être mou, bouge en permanence sous l'effet de la respiration et des battements du coeur." S. Bz

"Au-delà du nombre, beaucoup espèrent que la souplesse de ces « fils » limitera la réaction immunitaire du cerveau, qui rend peu à peu inutilisables les électrodes rigides actuelles." S. Bz

MENU

"Au crédit de Neuralink se trouvent en premier lieu des électrodes innovantes, posées sur des fils d'or souples et fins entourés d'un polymère biocompatible. Chaque implant en comptera jusqu'à 1000, et les équipes de Musk estiment possible d'en placer jusqu'à 10 par patient, soit 10000 au total." S. Bz

BACK

NEXT

Enthousiasme scientifique

"Comprendre notre cerveau s’avère décidément bien pluscompliqué que d’envoyer des fusées dans l’espace." S. Bz

" Et quand bien même : « Ce qui fait l’humain, notre créativité,notre expérience subjective, tout cela restera inaccessible à l’analyse des algorithmes, car dépendant de notre passé, propre à chacun de nous », assure Pierre-Marie Lledo, directeur du département de neurosciences de l’Institut Pasteur."

" « La réalité, c’est que le code neuronal n’a été que très partiellement déchiffré : le langage des neurones présente encore une très large part de mystère », résume Jérémie Mattout, chercheur à Lyon. Ce qui relativise beaucoup cette idée de symbiose entre l’homme et la machine prônée par ailleurs par Elon Musk, qui supposerait de « lire » dans nos pensées.." S. Bz

" Des résultats fascinants, mais qui restent bien éloignés de l’idée d’écouter notre petite voix intérieure.." S. Bz

"Il s'agit avant tout d'une question d'isolation." S. Bz

source : Stéphanie BENZ, L'Express 16 octobre 2019.

"Deuxième défi, et non des moindres, concevoir unsystème sans fil. Indispensable pour que ces implants puissent un jour être utilisés au quotidien par des patients. Mais le rat dévoilé par Neuralink, avec son port USB posé sur le crâne, illustre mieux qu'un long discours où en est la société en la matière : nulle part." S. Bz

" Transmettre plus de données supposerait de recourir à des radiofréquences très élevées. [...] A ce jour, le problème reste entier, et les équipes de Neuralink n'ont pas dit comment elles comptaient le résoudre." S. Bz

"Le noeud du problème : protéger les points de jonction entre chacune des nombreuses électrodes et la puce." S. Bz

MENU

"Pour autant, le projet de Neuralink est encore loin d'aboutir."

BACK

NEXT

Scepticisme et réalisme scientifique

Scepticisme et réalisme scientifique

" Le même principe a été appliqué récemment à la visualisation d’images. Des singes ont été exposés à un très grand nombre de photos de visages pendant que leurs neurones étaient enregistrés. Un algorithme a ensuite pu reconstruire un nouveau visage vu par un singe à partir de ses signaux corticaux.." S. Bz

" A court terme, l’aide aux personnes paralysées devrait donc rester la première cible de l’entreprise. Différentes équipes ont déjà montré des résultats impressionnants : « En écoutant unecentaine de neurones, nous avons permis à des patients tétraplégiques de mouvoir un bras robotisé », rappelle John Donoghue, pionnier du domaine et coresponsable du consortium BrainGate, qui réunit plusieurs universités américaines autour de tels projets. Ces mouvements restent toutefois lents et peu naturels. Fera-t-on mieux en enregistrant plus de neurones ? " S. Bz

" Aujourd’hui, les scientifiques procèdent en associant des enregistrements de signaux neuronaux avec des intentions de mouvement du patient. Comme ces signaux varient tout letemps, ils multiplient les enregistrements pour alimenter un algorithme qui, ultérieurement, reliera une activité neuronale donnée à un geste." S. Bz

source : Stéphanie BENZ, L'Express 16 octobre 2019.

MENU

" Reste la question essentielle : l’interface apportera-t-elle un bénéfice aux patients par rapport aux dispositifs existants? Pour le traitement des maladies neurodégénératives, on enest loin. Il faudrait stimuler électriquement des zones précises du cerveau, mais l’équipe californienne n’a pas encore montré que son dispositif pouvait envoyer du courant. Et quand bien même, les électrodes de stimulationactuelles, utilisées dans la maladie de Parkinson, par exemple, sont beaucoup plus longues que celles de Musk,et visent des zones profondes de l’encéphale. Bien loin des 20 millimètres des « fils » de Neuralink…" S. Bz

BACK

NEXT

source : Christophe EUZET (juriste), Compte rendu n°78, Commission des affaires sociales, p.15, XVème législature, Assemblée Nationale, Paris, 6 juin 2018

Christophe Euzet

"En tant que juristes, nous sommes en grande difficulté face à un progrès fluide, exponentiel, qu’il est de plus difficile de canaliser. Pour être honnête, j’ai le sentiment que nous ne résisterons pas à l’injonction de performance que vous avez évoquée : l’homme augmenté aura des attraits tels que nous ne saurons y résister, de même que nous ne résisterons pas aux exigences de la commercialisation du progrès – vous l’avez dit, lorsqu’il n’y a rien à vendre, c’est que nous sommes le produit. Il n’en demeure pas moins que le législateur a pour mission de définir des cadres et qu’il doit légiférer à court terme. Va donc se poser la question de la récurrence des dispositifs législatifs que nous sommes appelés à adopter, car le droit doit être opératoire."

Une carence législative et juridique

source : CCNE, Recours aux techniques biomédicales en vue de « neuro-amélioration » chez la personne non malade: enjeux éthiques, Avis N°122, p.9, Comité Consultatif National d'Éthique pour les Sciences de la Vie et de la Santé, Paris, 12 décembre 2013.

MENU

"L’utilisation de la SCP [Stimulation Cérébrale Profonde] à des fins de neuro-amélioration paraît inimaginable compte tenu de son caractère invasif, avec notamment un risque de 2 à 5% d’infection ou d’accident vasculaire cérébral, mais, le caractère très ciblé de son action, la potentielle réversibilité de ses effets, l’explosion actuelle de son spectre d’investigations cessent de rendre cette perspective irréaliste."

BACK

NEXT

• Neurocharlatanisme et fausses promesses
• Coercition implicite, explicite, normative ou sociétale (pression, contrainte)
• Fatigues de l'hyperactivité, l'hyperconnectivité et de l'ultraperformance
• Confusion dans la détection entre intention et action
• Modification de l'humeur et de la personnalité (agentivité, troubles et addictions)
• Substitution de la personne humaine par une IA
• Glissement de l'individualité vers la singularité de l'hybridation "hommes-machines"

Activité cérébrale, fonctions cognitives et personnalité de l'usager

• Intrusion et hacking de l'ICM
• Transmission et commercialisation des données collectées
• Traitement et croisement des données dans le big data
• Tracking, profilage, contrôle, manipulation des individus

Confidentialité des données neuronales et consentement de l'usager

source : Hervé CHNEIWEISS, professeur, neurologue, directeur de recherche au CNRS, président du comité d’éthique de l’Inserm Compte rendu n°78, Commission des affaires sociales, p.3-4, XVème législature, Assemblée Nationale, Paris, 6 juin 2018

MENU

Outre les risques infectieux liés aux contraintes d'un acte médical invasif, la neuroamélioration par stimulation cérébrale profonde présente des dangers liés à l'étendue du champ des possibles des neurotechnologies et de l'intelligence artificielle.

BACK

NEXT

Risques et dérives envisageables

MENU

BACK

NEXT

• A quoi pourrait servir une ICM ?
• Quelles personnes seraient les plus motivées pour en bénéficier ?
• Quels sont les pays à la pointe de l'ICM ?
• Qui finance la recherche appliquée dans les ICM ?
• Pourquoi les GAFAM s'intéressent tant aux ICM ?
• Comment une ICM pourrait générer des profits financiers ?
• A qui profiteraient les ICM ?
• La mise en oeuvre d'une SCP pourrait-elle devenir un acte non médical ?
• L'ICM pourrait-elle être une solution pour la réussite scolaire ?
• Comment protéger l'intégrité des données neuronales et de la pensée contre une intrusion tierce ? (attaque de l'homme du milieu) ?
• Une société pourrait-elle s'améliorer en utilisant les données neuronales et la pensée de ses citoyens ?
• Une IA pourrait-elle contrôler un individu via une ICM, à son insu ?
• Une personne pourrait-elle "aspirer" les données neuronales d'une autre personne ?
• Les connaissances de la carte neuronales sont-elles suffisantes pour corriger les problèmes d'agentivité ?
• Une ICM pourrait-elle augmenter le pouvoir et les possibilités d'y accéder ?
• Une ICM peut-elle augmenter significativement la sécurité d'une personne (risques d'accident) ?
• Peut-on penser qu'une personne ayant une ICM soit supérieure à celles qui n'en n'ont pas ?
• Les possibilités d'une ICM pourraient-elles dépasser un seuil raisonnable (super-pouvoirs) ?
• Les possibilités d'une ICM pourraient-elles simplifier la transgression des lois (crimes et délits) ?

Réflexion éthique sur la neuroamélioration par ICM et SCP

MENU

BACK

NEXT

source : Philippe BOYER, Cerveaux connectés, p.11-13, La Tribune, N°6769, 4 octobre 2019

source : Christophe EUZET (juriste), Compte rendu n°78, Commission des affaires sociales, p.15, XVème législature, Assemblée Nationale, Paris, 6 juin 2018

source : CCNE, Recours aux techniques biomédicales en vue de « neuro-amélioration » chez la personne non malade: enjeux éthiques, Avis N°122, p.9, Comité Consultatif National d'Éthique pour les Sciences de la Vie et de la Santé, Paris, 12 décembre 2013.

Précautions et limites bioéthiques

MENU

BACK

HOME

Merci pour votre attention