Comité Consultatif National d’Éthique pour les Sciences de la Vie et de la Santé
Avis N°122
Paris, le 12 décembre 2013

Anne Fagot-Largeault, Professeur honoraire au Collège de France, chaire des sciences biologiques et médicales.
Etienne Klein, Directeur de recherches au Commissariat à Energie Atomique et aux énergies alternatives.
Hervé Chneiweiss, Directeur de recherches au CNRS, Centre de recherches neurosciences Paris Seine, université Pierre et Marie Curie.

Dans le cadre de la mission de veille éthique sur les progrès des neurosciences qui lui a été confiée par la loi de bioéthique du 7 juillet 2011, le Comité Consultatif National d’Ethique, a choisi de conduire une réflexion sur la neuro-amélioration.

Enjeux éthiques

[…]

Les inconnues actuelles qui entourent le phénomène de neuro-amélioration biomédicale soulignent l’intérêt d’études d’observation au long cours à même de fournir les données quantitatives et qualitatives – actuellement inexistantes en France – nécessaires à la mise en place éventuelle de mesures de prévention, voire de régulation. De telles mesures concerneraient non seulement les médicaments et les dispositifs médicaux qui sont soumis à un cadre réglementaire — d’ailleurs moins contraignants pour les dispositifs qui ne sont pas tenus d’effectuer d’études du rapport bénéfice/risque — mais aussi les outils de stimulation cérébrale transcrânienne à visée non médicale qui fleurissent sur Internet avec des publicités mensongères sur leur efficacité dite « neuro- amélioratrice » et de surcroît sans les garanties sanitaires de mise sur le marché.

[…]

Les conséquences ne sont cependant pas qu’individuelles,

Car le risque est grand d’aboutir à une classe sociale « améliorée » constituée d’une petite minorité d’individus bien informés et disposant des ressources financières suffisantes pour y accéder. Il en résulterait une aggravation de l’écart qui ne cesse de se creuser entre riches et pauvres, les riches devenant non seulement de plus en plus riches mais aussi plus puissants, plus intelligents, voire plus heureux que les autres, avec un risque évident de discrimination et même de domination (Chatterjee 2004). La perception qu’aurait cette classe sociale « augmentée » des paramètres de la bonne santé psycho-cognitive pourrait même s’en trouver modifiée au point que soient considérés comme pathologiques les « non augmentés », les « diminués ».

En résumé le recours aux techniques de neuro-amélioration (en supposant que celle-ci soit efficace) met à mal l’égalité des chances et de réussite à l’échelle de chaque citoyen et comporte un risque d’émergence d’une classe sociale « améliorée » contribuant à aggraver encore l’écart entre riches et pauvres.

[…]

V La neuro-amélioration : la question des limites

La compréhension du développement des techniques biomédicales en vue de neuro-amélioration requiert un aperçu de l’évolution récente des conceptions scientifiques dominantes de la physiologie cérébrale. La prise en compte de ces conceptions restitue une représentation non caricaturale du fonctionnement cérébral et ouvre sur les interactions cerveau/machine. De nouvelles conceptions comme le transhumanisme et le posthumanisme se sont fait jour à partir de ces interactions.

[…]

V.2. Interaction cerveau/machine

L’intelligence artificielle (IA) redonne dans les années 1980 une actualité au projet cybernétique : il s’agit de traduire en machine les processus cognitifs pour mieux en évaluer la portée et pour les rendre plus performants. Cette traduction est devenue aisée grâce aux techniques permettant d’enregistrer les activités électriques ou biochimiques (Michel Imbert, 1992) : détecter un stimulus, un son, etc. L’intelligence artificielle a permis le développement de systèmes experts. Elle met en évidence l’idée selon laquelle les tâches réputées simples supposent une immense quantité de connaissances que nous avons du mal à formuler (Daniel Kayser, 1992).

L’idée qui sous-tend le projet de l’IA est la suivante :

Plus on fragmente les problèmes, plus on sépare les fonctions cérébrales, plus on se donne les moyens de les augmenter. La séparation induit l’augmentation et l’augmentation induit la séparation. La séparation des fonctions est à la base de la robotique qui suppose une décomposition des tâches. Les tâches ne sont plus considérées comme humaines ou machinales, ce sont d’abord des tâches reconnues comme telles et susceptibles d’être accomplies par l’homme ou par la machine.

Un exemple d’interaction entre un cerveau et une machine, se rencontre dans les techniques dites de BCI (brain computer interface) qui permettent de restituer à des malades conscients mais paralysés une certaine capacité de communication fonctionnelle, voire d’action. Par exemple, l’enregistrement de l’EEG ou des mouvements oculaires permet de décoder en temps réel certaines intentions motrices ou certains choix. Ces techniques sont déjà utilisées pour permettre à des patients paralysés de déplacer un objet (par exemple un curseur sur un écran ou un fauteuil roulant), ou pour composer un message verbal.

Ces techniques, essentiellement conçues pour pallier des pathologies de la motricité (atteintes motrices sévères comme dans les phases avancées de la maladie de Charcot, ou chez les patients souffrant d’un « locked-in syndrome ») connaissent également des développements dans le champ de la sécurité des transports et dans celui des jeux-vidéos de nouvelle génération (exemple : console kinect, et systèmes de BCI utilisant l’EEG).

Le développement des techniques du virtuel à partir de l’interaction homme/machine « change radicalement les critères d’objectivité et de rationalité du monde » (Jouvent, 2009). Notons que l’accès à la virtualité est réel pour le cerveau (Sirigu, 2011) : « Quand on plonge l’individu dans la réalité virtuelle et la simulation, le sujet porte un casque et se retrouve dans un environnement complexe. Même si cet environnement est irréel, il peut être réel pour le cerveau ».

C’est dans ce cadre d’interaction homme/machine que l’on s’est mis à parler des cyborgs, ces êtres hybrides, organiques et électroniques à la fois.

« En substituant à des parties de notre corps des dispositifs bioniques bourrés d’électronique et autres avatars mécaniques, l’humanité acquiert progressivement la capacité de pouvoir remplacer l’homo sapiens par une autre espèce humaine » (Ferone et Al., 2011).

C’est dans le cadre des conquêtes spatiales que ce terme s’est imposé. Il traduit le couplage entre l’astronaute et le vêtement cybernétique, il s’inscrit dans une stratégie d’augmentation des capacités de l’agent. À partir de là, peut se poser la question suivante : Y a-t-il une limite à l’artificialisation de la nature ? Comment s’estompe la frontière entre le naturel et l’artificiel par le cyborg et les prothèses bioniques ?

En résumé, la fragmentation des fonctions cognitives ne reflète ni la plasticité du cerveau, ni la globalité de son fonctionnement. L’interaction cerveau/machine et les cyborgs ne constituent-ils pas de nouvelles formes de neuro-amélioration ?

[…]

V.3.2. Humanisme, transhumanisme, posthumanisme

Le mouvement post humaniste, né dans les années 1980, repose sur l’idée selon laquelle il n’y a ni norme intrinsèque à la nature humaine, ni stabilité de cette nature (Anders, G. 2002). Ce mouvement a développé une critique sévère de l’humanisme classique incapable selon lui de traduire en faits ses prétentions. Le post humanisme se veut héritier des lumières, au sens où il veut donner plus d’autonomie à l’être humain considéré comme indéfiniment perfectible. Il voudrait, comme l’a indiqué Anne Fagot-Largeault lors des JAE (journées annuelles d’éthique du CCNE) de 2012, dans le descriptif qu’elle a proposé de ce mouvement, « prendre en main notre évolution, la diriger pour qu’elle nous soit favorable », comme si l’imprédictibilité de l’espèce humaine était un obstacle et non une condition de tout projet de liberté. Le défi est, selon une maximisation continue des capacités humaines, de repousser indéfiniment les limites de l’évolution humaine: l’âge et ses dépendances, la douleur, et même la mort.

Mais ce mouvement a pour ancêtre le transhumanisme qui envisage la possibilité d’une évolution où les mécanismes autorégulés interviennent dans une sélection artificielle qui n’est plus livrée à la seule évolution darwinienne (J.Proust, 2011) et qui permettrait à l’humain de se dépasser en mettant à contribution l’ingénierie génétique, la robotique, les nanotechnologies et la réalité virtuelle. Ce dépassement s’entend comme un accès à une transcendance (E. Regis, 2002) et se présente le plus souvent comme un ensemble de doléances que l’humanité fait à la nature (M. More, 1999).

Ces doléances portent notamment sur le déficit d’instinct et de perception de l’homme à l’égard des autres vivants : il s’agirait dès lors d’améliorer les facultés de perception et de remémoration de l’homme par une meilleure incorporation des techniques disponibles et des techniques futures. Par exemple, les personnes bénéficiant de prothèses auditives deviennent le paradigme pour penser ce type d’incorporation. Certains nanorobots agissant au niveau cellulaire prolongeront, dit-on, la vie mieux que ne le font les cellules naturelles (Maestrutti, 2011), d’autres nettoieront le sang et élimineront les agents pathogènes.

Mais l’exemple limite, aujourd’hui pure fiction, est de penser l’esprit humain en termes de téléchargement grâce à un ordinateur très puissant (Goffi, 2011). On a là le rêve d’un cerveau conçu comme un pur système de traitement de l’information, un cerveau qui n’est pas en interaction avec le monde, mais qui se réduit à n’être qu’un « flux d’informations dans des réseaux informatiques : non pas dans le monde, encore moins du monde, mais à tout jamais hors du monde » (Goffi, 2011). Certains défendent ainsi l’idée selon laquelle l’action conjointe des réseaux informatiques et de l’intelligence humaine pourrait déboucher sur une intelligence plus puissante que celle de ces réseaux ou de l’homme (Kurtzweil, 2005).

Selon les tenants du transhumanisme, le véritable cyborg a un cerveau biologique capable de contrôler des robots et d’utiliser des extensions artificielles à son corps. Certains se plaisent à rêver que les technologies convergentes, combinant nanotechnologies, biotechnologies et biomédecine, technologies de l’information, sciences cognitives (NBIC), « pourraient permettre en théorie un contrôle pratiquement total car elles obtiendraient les clés de compréhension du code informationnel de la matière à tous les niveaux grâce à la capacité de manipuler bits, atomes, neurones et gènes ».

Le post humanisme, couplé au transhumanisme, voudrait libérer l’homme de l’idée de finalité :

L’homme ne serait pas asservi à une finalité quelconque, mais il apprendrait à faire de la finalité, à l’organiser, d’où l’intérêt pour les systèmes intentionnels, qu’ils soient humains ou mécaniques (systèmes à rétroaction ou de feedback). Mais la question éthique reste entière : à multiplier les systèmes intentionnels comme des projets individuels, ne perd-on pas de vue le but d’ensemble, le projet social de développement humain ?

Le post humain vise à faire du cerveau une instance de contrôle du corps à distance au moyen d’une connexion électronique, d’un réseau informatique. Il semblerait pour certains post humanistes qu’il est contingent que le cerveau humain soit lié à un corps. Le cerveau dialoguerait alors avec le corps comme si celui-ci était quelque chose de séparable.

La robotique sera-t-elle un service à la personne ou contribuera-t-elle à une forme de transhumanisme ?

La position optimiste consiste à dire que plus les systèmes hybrides s’éloignent des systèmes naturels, moins ils sont viables, et qu’au contraire plus ils interagissent avec les systèmes naturels, plus ils sont adaptatifs (Weissenbach J., 2012).

Certains, comme le philosophe J. Habermas, s’inquiètent du déplacement des frontières entre l’homme et l’animal, entre le naturel et l’artificiel. Il craint que le développement de l’homme emprunte exclusivement les formes techniques actuelles et abandonne « les voies symboliques (langagières) qui permettent l’intériorisation et la discussion des normes ». Comment éviter le face à face entre un « pré-humain animal (régulation instinctuelle) » et « une post-humanité mécaniquement régulée » (Hottois, 2009)?

D’autres rappellent que « l’espèce humaine a dès le départ été une « espèce technique », c’est- à-dire artificieuse, qui, inlassablement s’invente et se réinvente elle-même ». Dans le cadre de cette hypothèse, il n’y a ni posthumanisme, ni transhumanisme, mais une simple variation continue de l’humain qui utilise sa neuro plasticité et les méthodes de feedback dont il dispose pour apprendre et améliorer ses capacités (Clark & Chalmers, 2003).

D’un point de vue anthropologique, certains soulignent le fait que « l’humanité change un peu d’espèce à chaque fois qu’elle change à la fois d’outils et d’institutions » (Leroi-Gourhan, 1964). L’humanisation de l’homme interagit avec son hominisation (Delmas Marty, 2013). L’humanisation se rapporte aux institutions et aux cultures, l’hominisation s’entend au sens darwinien du développement de l’espèce humaine. Leur « interaction » est un défi de civilisation.

En résumé

L’humanisme classique, celui du siècle des Lumières notamment, repose sur la perfectibilité humaine. Il est de plus en plus confronté à un transhumanisme et à un posthumanisme, deux mouvements de pensée qui inscrivent la bio-finalité humaine dans des formes de contrôle.

[…]

Les utilisateurs de techniques de neuro-amélioration revendiquent fortement la liberté du choix de leur style de vie sans se rendre compte qu’une telle liberté obéit le plus souvent à un environnement socio-économique de course à la compétitivité et de culte de la performance favorisant une coercition souvent implicite. Dans son avis n° 81, le CCNE avait indiqué que « La recherche éperdue d’une performance mue par le désir impérieux de progresser peut masquer la plus contraignante des aliénations ». Le désir d’être neuro-amélioré peut sembler être largement partagé, par conformité sociale, mais sa réalisation n’est possible que pour quelques-uns.

Le risque est alors grand d’aboutir à une classe sociale « améliorée», constituée d’une petite minorité d’individus bien informés et disposant des ressources financières suffisantes pour y accéder. La course à la compétitivité, le culte de la performance, voire le désir de domination et même de manipulation peuvent aussi générer des situations fort préoccupantes de coercition explicite dans lesquelles les techniques de neuro-amélioration biomédicale sont appliquées sans ou même contre l’avis des personnes.

Ces conclusions incitent à considérer la neuro-amélioration avec un mélange de modestie, d’ouverture d’esprit et de questionnement scientifique, en évitant de verser tant dans l’optimisme des « mélioristes » que dans le pessimisme des « antimélioristes », dont les plus extrémistes voient poindre, pour les premiers, un homme « amélioré » pouvant même dépasser l’humain, pour les autres, un homme diminué.

Plus que jamais, une veille éthique qui met au crible de la conscience humaine les rationalités techniques s’imposent, non comme un frein au développement des techniques, mais en vue de leur articulation à leur usage humain, au débat qu’elles suscitent et à l’information souvent déficitaire qui accompagnent leur apparition.

Téléchargez la réflexion sur la neuro-amélioration 29 p. (PDF)