Éthique sur le champ de bataille dans un futur proche

Le récent rapport de l’armée américaine “Visualizing the Tactical Ground Battlefield in the Year 2050” décrit un certain nombre de scénarios de guerre qui soulèvent des dilemmes éthiques épineux. Parmi les nombreux développements tactiques envisagés par les auteurs, un groupe d’experts réunis par le laboratoire de recherche de l’armée américaine, trois se distinguent à la fois plausibles et plein de défis moraux : les humains augmentés, des armes à énergie dirigée, et des robots tueurs autonomes. Les deux premières technologies affectent directement l’homme, et donc présentent deux défis militaires et médicaux éthiques. Le troisième développement, des robots remplaceraient les humains, et pose donc des questions difficiles sur la mise en œuvre du droit de la guerre, sans aucun sens de la justice.

Humains augmentés. Médicaments, interfaces cerveau-machine, prothèses neurales, et le génie génétique sont toutes les technologies qui peuvent être utilisées dans les prochaines décennies pour renforcer la capacité des soldats au combat, les garder en alerte, les aider à survivre plus longtemps avec moins de nourriture, soulager la douleur, aiguiser et renforcer leurs capacités cognitives et physiques. Tous soulèvent des difficultés éthiques et bioéthiques graves.

Médicaments et prothèses sont des interventions médicales. Leur but est de sauver des vies, soulager la souffrance, ou améliorer la qualité de vie. Lorsqu’il est utilisé pour la mise en valeur, cependant, ils ne sont plus thérapeutiques. Les soldats désignés pour l’amélioration ne seraient pas malades. Les commandants s’efforceraient d’améliorer les capacités de combat d’un soldat tout en réduisant les risques pour leur vie et leur intégrité physique. Cela soulève plusieurs questions connexes.

D’abord, les sciences médicales devraient-elles servir les fins de la guerre ? Ce n’est pas une nouvelle question – elle a surgi la première fois quand l’armée américaine a recruté des médecins pour développer les armes chimiques et biologiques pendant la deuxième guerre mondiale. Et bien qu’il puisse y avoir de bonnes raisons militaires d’avoir les médecins à aider à la fabrication de bombes, la communauté médicale a fermement rejeté ce rôle. Les médecins sont des guérisseurs, pas des guerriers; augmenter des soldats pour tuer sape l’intégrité de la médecine.

Une autre difficulté éthique parle sur les effets transformateurs d’améliorations. De nombreux agents pharmaceutiques soulèvent des préoccupations légitimes au sujet des changements de personnalité. Par exemple, si les soldats utilisent des drogues pour maximiser la prouesse cognitive en réduisant l’anxiété et éliminer les craintes, les visions de puissance et la grandeur peuvent en résulter. Certains médicaments, pourraient bloquer les souvenirs d’événements du champ de bataille. Sans mémoire, il n’y a pas de remords, et sans remords, il n’y a pas de contrainte.

Enfin, nous devons considérer les droits des soldats désignés pour l’amélioration. Les soldats n’ont pas le droit de refuser des traitements médicaux standards qui les maintiennent en forme pour le devoir. Mais les soldats doivent-ils être d’accord sur l’amélioration ? (…) En conséquence, l’amélioration devrait exiger le consentement éclairé ainsi que la surveillance médicale nécessaire pour surveiller la sécurité. Et parce que les effets à long terme de l’augmentation médical demeurent inconnus, les autorités militaires doivent faire tous les efforts pour utiliser des alternatives non médicales (telles que l’armure de corps, transport blindé, et l’amélioration de l’armement) pour améliorer les performances de la troupe.

Le respect de ces conditions, cependant, sera problématique. Pour une chose, le consentement éclairé est souvent difficile à atteindre dans une hiérarchie militaire où “les ordres sont les ordres.” D’autre part, les effets médicaux de certaines améliorations ne seront pas nécessairement connus. Les soldats peuvent ne pas avoir suffisamment d’informations pour prendre des décisions éclairées qui nécessitent une éthique médicale.

Armes à énergie dirigée. Le rapport de l’armée prédit qu’une variété d’armes à énergie dirigée sera utilisé en 2050. Il ne fouille pas profondément dans les détails, mais cette catégorie pourrait inclure les lasers aveuglants, rayonnement électromagnétique, et la stimulation magnétique, toutes les technologies à portée de main. Aucun est conçus pour être mortelle. Les lasers aveuglants émettent des impulsions d’énergie dirigée de façon permanente ou temporaire et neutralisent des combattants. Le droit international interdit maintenant les lasers aveuglants en permanence, mais le laser “dazzlers” provoque seulement une cécité temporaire et permettrait aux troupes le désarmement et l’arrestation d’assaillants. Une autre arme à énergie dirigée de l’armée américaine est Active Denial System, ou ADS, qui émet un faisceau d’onde électromagnétique d’une fréquence de 95 gigahertz qui pénètre la peau pour créer une sensation de brûlure intense, sans endommager les tissus. (note : une impulsion de 2 secondes porterait la peau jusqu’à une température d’environ 55 °C, causant une intense sensation de brûlure très douloureuse. Il faudrait une exposition au faisceau de 250 secondes pour brûler la peau). Les deux lasers aveuglants et des armes de type ADS pourraient être particulièrement utile dans des conditions de champ de bataille où les armées sont confrontées à des populations mixtes de civils et des guérilleros ou des terroristes qui ne portent pas d’uniformes. En utilisant la technologie, les soldats pourraient neutraliser les combattants et les non-combattants, puis arrêter et de détenir l’ancien tout en libérant ce dernier indemne.

Stimulation magnétique transcrânienne (TMS) pourrait également être utile pour cibler les foules indifférenciées, il dirigerait un champ magnétique intense pour manipuler l’activité du cerveau. Actuellement à l’étude comme traitement pour la dépression, TMS pourrait, par exemple, être en mesure de modifier l’humeur d’une personne et de transformer l’hostilité et la haine en confiance et à la coopération. Les dispositifs existants sont de petite taille et nécessitent un opérateur pour passer une bobine directement sur la tête d’une personne, mais les applications futures pourraient permettre un fonctionnement de longue distance. Ainsi une force militaire pourrait sans douleur et de manière non-létale modifier l’état d’esprit et le comportement d’un ennemi et l’emporter dans une bataille.

À première vue, ces technologies suscitent révulsion. Mais quel est exactement le problème? Tout d’abord, en violation de son rôle traditionnel, la science médicale développe des armes qui infligent la douleur. Il peut être une douleur transitoire, mais implique néanmoins la souffrance. Deuxièmement, les armes médicalisées minent le corps humain d’une manière particulièrement insidieuse. La plupart des armes tuent ou blessent en infligeant un traumatisme contondant ou perte de sang, mais les lasers aveuglants, l’Active Denial System, et la stimulation transmagnétique (TMS) manipulent les systèmes physiologiques spécifiques plutôt que de traumatiser tout simplement le corps humain. Ces armes font craindre des blessures qui défient les soins médicaux et sont des technologies qui pourraient éventuellement modifier les humains au-delàs de toute reconnaissance. Les caractéristiques particulières de certaines armes modernes ont conduit le Comité international de la Croix-Rouge à recommander une interdiction sur les armes spécifiquement conçues pour tuer ou blesser pour provoquer une maladie ou un état physiologique anormal spécifique, comme étant aveuglé ou brûlé. Il y a de bonnes raisons de faire preuve de prudence extrême à mesure que nous avançons avec des armes qui envahissent le corps directement.

Stimulation magnétique transcrânienne propose surtout des raisons impérieuses de préoccupation. Réalisé au cerveau, il perturbe les processus cognitifs et modifie temporairement les caractéristiques humaines essentielles. Est-ce là où la technologie militaire devrait aller? En plus de médicaliser la guerre, les interventions neurologiques augmentent le risque de déshumanisation et les infractions de « liberté cognitive » – le droit de penser par soi-même, libre de contraintes externes ou contrôle de l’esprit. Étroitement liée au droit à la vie privée, la liberté cognitive devrait interdire aux autres d’envahir l’esprit-espace personnel, perturber ses processus ou de révéler son contenu.

Si le droit de l’ennemi à la liberté cognitive est inviolable ou soumis aux diktats la nécessité militaire reste une question ouverte. Forts de notre compréhension que les privations de liberté physique (telles que l’incarcération) nécessitent une procédure régulière, on peut dire de façon convaincante que les privations de liberté cognitive, si autorisée à tous, nécessitent une barre beaucoup plus élevée. Mener une guerre ne permet pas chaque usage de la force. Ceci est un axiome fondamental du droit international humanitaire. Bien que non létales, les armes qui modifient les états d’esprit peuvent aller au-delà du pâle. À tout le moins, ils exigent des autorités militaires et politiques de suivre de près leur utilisation et les effets encore non connus.

Robots tueurs autonomes. Le rapport de l’armée américaine affirme que «les robots déployés seraient capables de fonctionner dans une variété de modes de « contrôle » de l’autonomie totale à la gestion active par les humains.” Considérons le mode «autonomie totale». Tourné en vrac sur le champ de bataille, des robots tueurs (ces armées avec des armes létales) pourraient agir individuellement ou collectivement. Programmés avec une mission, ils seraient capables de dégrader ou de désactiver les forces ennemies en utilisant des tactiques cohérentes avec le droit des conflits armés et le droit international humanitaire.

D’une façon minimum, les robots tueurs doivent comprendre et appliquer la loi pendant qu’ils accomplissent leur mission. Est-il possible de les programmer simplement pour le faire ainsi ? Le droit des conflits armés a une composante éthique très saillante.

Depuis le 19ème siècle, les juristes internationaux ont compris qu’aucune loi ne peut couvrir toutes les situations possibles. Cela laisse deux logiques par défaut pour la prise de décision : la nécessité militaire ou une norme de conduite plus élevée. Si un officier manque d’orientation claire se rabattre sur l’accomplissement de sa mission, ou se reporter aux principes moraux ? La réponse est aussi claire aujourd’hui qu’elle l’était en 1899, lorsque les délégués à la Convention de La Haye sur le droit et les coutumes de la guerre ont déclaré :

Les Hautes Parties contractantes pensent qu’il est juste de déclarer que dans les cas non inclus dans les règlements adoptés par ceux-ci, les populations et les belligérants restent sous la sauvegarde et sous l’empire des principes du droit international, tels qu’ils résultent des usages établis entre nations civilisées, des lois de l’humanité et les exigences de la conscience publique.

Donc, la programmation d’un robot tueur à se comporter avec justice est beaucoup plus difficile que de télécharger le corpus du droit international. Il faut inculquer un sens de la justice. Est-ce possible ? Une solution peut être d’établir des principes de base et certains éléments de supervision, mais il ne sera pas facile à mettre en application ni l’un ni l’autre. Par exemple, la règle de la proportionnalité exige qu’un dirigeant de champ pèse l’avantage militaire d’attaquer une cible militaire contre le mal qui arrivera aux civils ennemis en conséquence. C’est une décision extrêmement ardue parce que les éléments de l’équation-avantage militaire et blesser les civils – sont sans commune mesure. Décès et blessure mesure des pertes civiles, mais quelles mesures avantagent le militaire? La vie des compatriotes enregistrés, les ressources ennemies dégradées, crédibilité de la dissuasion restaurée, ou une combinaison de ces facteurs ? Les commandants humains ont assez de mal avec ce genre de décision. Les robots tueurs peuvent-ils gérer les choses un peu mieux ?

Même s’ils le pouvaient, il y aurait encore des sensibilités politiques à considérer. Par exemple, qui compte comme un civil ? Après la guerre de Gaza de 2008 à 2009 entre Israël et les forces palestiniennes, chaque côté a reconnu que près de 1.200 Palestiniens ont perdu leurs vies. Mais Israël a affirmé que 75 pour cent étaient des combattants alors que les Palestiniens ont affirmé que 75 pour cent étaient des civils. (…) Les “lois de l’humanité” reposent avec les humains, pas des robots. Tout comme nous pouvons arrêter et juger les soldats qui violent la loi et la morale, il doit être possible d’arrêter et de juger les autorités de surveillance (les superviseurs) des droits de robots qui font de même. Pleine autonomie pour les robots est loin d’être idéale. La responsabilité de la conduite de la guerre doit par la suite incomber aux êtres humains.

Ce que la technologie ne peut résoudre. Augmentation de l’homme, armes à énergie dirigée, et robots tueurs sont tous en cours d’élaboration dans le but de sauver des vies des combattants et non combattants. Comment vont-ils réussir à cet objectif dépendra de la façon dont les opérateurs civils et militaires naviguent plusieurs détroits.

Premièrement, les dirigeants doivent se méfier de la pente glissante. L’augmentation de soldats peut conduire à l’amélioration des policiers ou de l’amélioration des criminels. De même, les opérateurs peuvent utiliser des armes à énergie dirigée à la torture plutôt que de neutraliser leurs cibles. Ou bien la technologie pourrait finir par saper les libertés civiles.

Deuxièmement, les opérateurs et les concepteurs d’armes doivent être conscients des écueils de la multiplication de la force. Cela est particulièrement vrai dans la guerre asymétrique. Les armes conçues pour atténuer les blessures et la perte de la vie peuvent aussi intensifier le mal. Comment un état armé de soldats augmentée, armes à énergie dirigée, et robots tueurs va lutter contre les insurgés ? Emploierait-il son arsenal pour frapper, neutraliser, soumettre, et arrêter des guérilleros, ou tuerait-il simplement des militants handicapés ?

Comme nous cherchons des réponses à ces questions, nous devons nous méfier de placer trop d’importance dans la technologie. Le conflit armé contemporain démontre amplement comment les guérilleros, les insurgés, et les terroristes ont trouvé de nouveau moyen de surmonter les technologies de pointe grâce à des tactiques relativement à faible contenu technologique comme les attentats-suicides, des engins explosifs improvisés, boucliers humains, la prise d’otages, et de la propagande. Il y a peu de doute que ces tactiques fassent profit parce que de nombreuses armées de l’Etat cherchent à embrasser les « lois de l’humanité et les exigences de la conscience publique », et, en tant que démocraties, choisissent souvent de se battre avec une main attachée derrière le dos. Les technologies émergentes qui accompagneront la guerre du futur aiguisent ce dilemme, d’autant plus que la guerre asymétrique s’intensifie et certains se demandent inévitablement si des robots tueurs manquaient un sens de la justice ce ne serait pas une si mauvaise chose après tout.


Michael L. Gross est professeur à l’Université de Haïfa en Israël, où il est également à la tête de l’École des sciences politiques. Il est l’auteur de la bioéthique et les conflits armés (2006), dilemmes moraux de la guerre moderne (2010), et L’éthique de l’Insurrection (2015).

Source : Bulletin of the Atomic Scientists 17/12/2015

National Geographic : Les expériences secrètes de la CIA

Maj 04/09/16 : Nouveau rapport!! → voir le PDF de The New York Times : PROJECT MKULTRA THE CIA’S PROGRAM OF RESEARCH IN BEHAVIORAL MODIFICATION (on ligne) : autres liens : ici (on ligne), ou ici


Ce documentaire du National Geographic de 2006, se penche sur les expériences secrètes de la CIA menées pendant la guerre froide. Il se concentre principalement sur le contrôle de l’esprit et les techniques de lavage de cerveau qui s’y rattachent : hypnose, thérapie par électrochocs, par les drogues, contrôle biologique et chimique du comportement humain.

Mais aussi sur la mort mystérieuse par défenestration du docteur Frank Olson, le 28 novembre 1953. Un chimiste affecté à Fort Detrick, chargé d’étudier les applications militaires des drogues. En 1975, face aux enquêteurs de la Commission Rockefeller, l’US Army avait admis avoir fait absorber au chercheur du LSD à son insu, ce qui aurait provoqué une crise de délire pendant laquelle il se serait défenestré. Le Pentagone avait offert 750 000 dollars d’indemnisation à sa famille. Mais, en 1994, une expertise médico-légale pratiquée après exhumation du corps avait invalidé la version officielle et conclue à un probable homicide.

La CIA n’avait rien à envier à son homologue soviétique sur le plan de l’horreur…

De nouveaux documents attestent que le docteur Olson dirigea diverses expériences de guerre chimique, notamment… à Pont-Saint-Esprit.


Documents déclassifiés relatifs à l’affaire Olson (PDF)

Pour en savoir plus : CIA Secret Experiments A National Geographic Documentary
Mind Control: America’s Secret War A History Channel Video Documentary
Mind Control Summary The Secrets of Mind Control Based on Three Books by Top Mind Control Researchers
Mind Control Cover-up The Secrets of Mind Control

*Opération Paperclip : Exfiltration de criminels de guerre nazis détenteurs de connaissances exploitables

Voir aussi : France 5 : CIA Projet MK-Ultra / Les techniques de contrôle mental de la CIA, ABC News 1979 (vosf) / France 3 : Un village empoisonné par la CIA ? – Pont-Saint-Esprit 1951

Pour aller plus loin :
Wired : April 13, 1953: CIA OKs MK-ULTRA Mind-Control Tests (https://www.wired.com/2010/04/0413mk-ultra-authorized/)
CIA : https://www.cia.gov/library/readingroom/search/site/mk%20ultra
The New York Times : Sidney Gottlieb, 80, Dies; Took LSD to C.I.A. (https://www.nytimes.com/1999/03/10/us/sidney-gottlieb-80-dies-took-lsd-to-cia.html?pagewanted=all&src=pm)
Project Mkultra: One of the Most Shocking CIA Programs of All Time

France 3 : Un village empoisonné par la CIA ? – Pont-Saint-Esprit 1951

Maj 04/09/16 : Nouveau rapport!! → voir le PDF de The New York Times : PROJECT MKULTRA THE CIA’S PROGRAM OF RESEARCH IN BEHAVIORAL MODIFICATION (on ligne)  : autres liens : ici (on ligne), ou ici


Documentaire Diffusé sur France 3 le mercredi 8 juillet 2015

Le 17 août 1951 à Pont-Saint-Esprit, dans le Gard, le village entier semble pris de folie, après ce qui ressemble à une banale intoxication collective. Pendant une semaine, les scènes surréalistes s’enchaînent, avec des habitants en proie au délire et à des hallucinations. A l’issue de cette semaine, on déplore cinq morts et 300 malades, dont une soixantaine internée dans des hôpitaux psychiatriques. En 2009, le journaliste américain Hank Albarelli assure dans un livre que le village aurait été victime d’une expérience sur les effets du LSD, menée conjointement par l’armée américaine et la CIA. Une théorie qui prend place aux côtés de l’empoisonnement par l’ergot de seigle ou les mycotoxines dans le catalogue des hypothèses.

Voir aussi : France 5 : CIA Projet MK-Ultra / Les techniques de contrôle mental de la CIA, ABC News 1979 (vosf)
National Geographic : Les expériences secrètes de la CIA

Pour aller plus loin :
Wired : April 13, 1953: CIA OKs MK-ULTRA Mind-Control Tests (https://www.wired.com/2010/04/0413mk-ultra-authorized/)
CIA : https://www.cia.gov/library/readingroom/search/site/mk%20ultra
The New York Times : Sidney Gottlieb, 80, Dies; Took LSD to C.I.A. (https://www.nytimes.com/1999/03/10/us/sidney-gottlieb-80-dies-took-lsd-to-cia.html?pagewanted=all&src=pm)
Project Mkultra: One of the Most Shocking CIA Programs of All Time

CIA Projet MK-Ultra / Les techniques de contrôle mental de la CIA

Maj 04/09/16 : Nouveau rapport!! → voir le PDF de The New York Times : PROJECT MKULTRA THE CIA’S PROGRAM OF RESEARCH IN BEHAVIORAL MODIFICATION (on ligne) autres liens : ici (on ligne), ou ici


Le projet MK-Ultra (ou MKUltra), dévoilé en 1975, est le nom de code d’un projet secret illégal de la CIA des années 1950 à 1970 visant à manipuler mentalement certaines personnes par l’injection de substances psychotropes ou par signaux bioélectriques (sous-programme 119). De 1951 à 1963, il se nommait projet Artichoke ; le projet Bluebird (1951-1953) lui est apparenté.

Dirigé par le Dr Sidney Gottlieb, le projet MK-ULTRA fut lancé sous l’impulsion du directeur de la CIA Allen Dulles le 13 avril 1953, en réponse à des utilisations supposées de techniques de contrôle mental qui auraient été faites par l’Union soviétique, la Chine et la Corée du Nord sur des prisonniers de guerre américains lors de la guerre de Corée. La CIA voulait développer des techniques similaires. L’agence voulait aussi être capable de manipuler des dirigeants étrangers et tentera d’ailleurs d’utiliser certaines de ces techniques sur Fidel Castro.

En 1964, le projet fut renommé MKSEARCH. Le but était de produire un sérum de vérité parfait (également nommé la sauce) destiné aux interrogatoires de personnes soupçonnées d’être des espions soviétiques et plus généralement d’explorer les techniques de contrôle mental.

En 1972, Richard Helms, directeur de la CIA ordonna la destruction des archives du projet. Il est donc difficile d’avoir une compréhension complète de MK-ULTRA étant donné que plus de 150 sous-projets différents ont été financés dans le cadre de ce programme. Cependant des milliers de documents furent découverts en 1977. Le projet fut définitivement stoppé en 1988.

source Wikipedia

MK Ultra

Stimulation magnétique transcrânienne

Manipulation mentale

Les techniques de contrôle mental de la CIA (ABC News – 1979)

Ce documentaire porte sur les différents projets secrets menés par la CIA concernant le contrôle mental. Ces études, totalement illégales, s’intensifièrent avec la découverte du LSD, substance qui sera administrée, entre autres, à des citoyens américains à leur insu.

A l’aide de John Marks (Auteur de « Un crime dans la tête) et de documents déclassifiés, les journalistes tentent de démêler les affaires suivantes :

Harold Blauer
Joueur de tennis professionnel admit comme patient à l’Institut Psychiatrique privé de l’Etat de New York. Ce dernier trouva la mort après 5 injections d’un dérivé de Mescaline.

Franck Olson
Scientifique qui travailla pour l’US Army dans une division top secret de Fort Detrick à Frederick et qui mourut dans des circonstances suspectes à New York.

James Thornwell
Militaire américain basé à Orléans, accusé de vol à tort, qui fût torturé dans sa caserne à Orléans.

Velma Orlikow
Epouse d’un parlementaire canadien, elle entra dans un institut privé pour soigner sa dépression.
Un traitement de choc lui fût administré par le Dr Ewen Cameron.

Cette série d’interviews d’anciens agents de la CIA, et autres docteurs sans scrupules, vient confirmer l’horreur et le secret de ses projets ayant eu cours entre les années 50 et 70.

National Geographic : Les expériences secrètes de la CIA

Qu’en est-il de nos jours ? Jusqu’où sont allées les agences de renseignements ?

Les « docteurs » :
Dr Ewen Cameron
Dr Sidney Gottlieb
Dr José Delgado
Dr Albert Hofmann
Dr Timothy Leary
Dr Russell Monroe
Dr Sidney Cohen
Dr James Cattell
Dr Laurent Frenkel
Dr Milton Kline
Dr James Moore
Dr Robert Cleghorn
Dr Maurice Dongier

Les agents de la CIA :
John Gittinger
Lyman Kirkpatrick
Stansfield Turner
William Donovan
Mike Burke
Stanley Lovell
George White
Charles Siragusa

Autres intervenants :
John Marks
Robert Gordon Wasson
Maria Sabina
Jozsef Mindszenty
Robert Lashbrook
Lyman Kirkpatrick

AgoraVox

Pour aller plus loin :
Wired : April 13, 1953: CIA OKs MK-ULTRA Mind-Control Tests (https://www.wired.com/2010/04/0413mk-ultra-authorized/)
CIA : https://www.cia.gov/library/readingroom/search/site/mk%20ultra
The New York Times : Sidney Gottlieb, 80, Dies; Took LSD to C.I.A. (https://www.nytimes.com/1999/03/10/us/sidney-gottlieb-80-dies-took-lsd-to-cia.html?pagewanted=all&src=pm)
Project Mkultra: One of the Most Shocking CIA Programs of All Time

Voir aussi :

National Geographic : Les expériences secrètes de la CIA
France 3 : Un village empoisonné par la CIA ? – Pont-Saint-Esprit 1951
Project Mkultra: One of the Most Shocking CIA Programs of All Time

José Delgado et ses dispositifs de contrôle de l’esprit par la stimulation électrique du cerveau

Recours aux techniques biomédicales en vue de « neuro-amélioration » chez la personne non malade

Comité Consultatif National d’Éthique pour les Sciences de la Vie et de la Santé
Avis N°122
Paris, le 12 décembre 2013

Anne Fagot-Largeault, Professeur honoraire au Collège de France, chaire des sciences biologiques et médicales.
Etienne Klein, Directeur de recherches au Commissariat à Energie Atomique et aux énergies alternatives.
Hervé Chneiweiss, Directeur de recherches au CNRS, Centre de recherches neurosciences Paris Seine, université Pierre et Marie Curie.

Dans le cadre de la mission de veille éthique sur les progrès des neurosciences qui lui a été confiée par la loi de bioéthique du 7 juillet 2011, le Comité Consultatif National d’Ethique, a choisi de conduire une réflexion sur la neuro-amélioration.

Enjeux éthiques

[…]

Les inconnues actuelles qui entourent le phénomène de neuro-amélioration biomédicale soulignent l’intérêt d’études d’observation au long cours à même de fournir les données quantitatives et qualitatives – actuellement inexistantes en France – nécessaires à la mise en place éventuelle de mesures de prévention, voire de régulation. De telles mesures concerneraient non seulement les médicaments et les dispositifs médicaux qui sont soumis à un cadre réglementaire — d’ailleurs moins contraignants pour les dispositifs qui ne sont pas tenus d’effectuer d’études du rapport bénéfice/risque — mais aussi les outils de stimulation cérébrale transcrânienne à visée non médicale qui fleurissent sur Internet avec des publicités mensongères sur leur efficacité dite « neuro- amélioratrice » et de surcroît sans les garanties sanitaires de mise sur le marché.

[…]

Les conséquences ne sont cependant pas qu’individuelles,

Car le risque est grand d’aboutir à une classe sociale « améliorée » constituée d’une petite minorité d’individus bien informés et disposant des ressources financières suffisantes pour y accéder. Il en résulterait une aggravation de l’écart qui ne cesse de se creuser entre riches et pauvres, les riches devenant non seulement de plus en plus riches mais aussi plus puissants, plus intelligents, voire plus heureux que les autres, avec un risque évident de discrimination et même de domination (Chatterjee 2004). La perception qu’aurait cette classe sociale « augmentée » des paramètres de la bonne santé psycho-cognitive pourrait même s’en trouver modifiée au point que soient considérés comme pathologiques les « non augmentés », les « diminués ».

En résumé le recours aux techniques de neuro-amélioration (en supposant que celle-ci soit efficace) met à mal l’égalité des chances et de réussite à l’échelle de chaque citoyen et comporte un risque d’émergence d’une classe sociale « améliorée » contribuant à aggraver encore l’écart entre riches et pauvres.

[…]

V La neuro-amélioration : la question des limites

La compréhension du développement des techniques biomédicales en vue de neuro-amélioration requiert un aperçu de l’évolution récente des conceptions scientifiques dominantes de la physiologie cérébrale. La prise en compte de ces conceptions restitue une représentation non caricaturale du fonctionnement cérébral et ouvre sur les interactions cerveau/machine. De nouvelles conceptions comme le transhumanisme et le posthumanisme se sont fait jour à partir de ces interactions.

[…]

V.2. Interaction cerveau/machine

L’intelligence artificielle (IA) redonne dans les années 1980 une actualité au projet cybernétique : il s’agit de traduire en machine les processus cognitifs pour mieux en évaluer la portée et pour les rendre plus performants. Cette traduction est devenue aisée grâce aux techniques permettant d’enregistrer les activités électriques ou biochimiques (Michel Imbert, 1992) : détecter un stimulus, un son, etc. L’intelligence artificielle a permis le développement de systèmes experts. Elle met en évidence l’idée selon laquelle les tâches réputées simples supposent une immense quantité de connaissances que nous avons du mal à formuler (Daniel Kayser, 1992).

L’idée qui sous-tend le projet de l’IA est la suivante :

Plus on fragmente les problèmes, plus on sépare les fonctions cérébrales, plus on se donne les moyens de les augmenter. La séparation induit l’augmentation et l’augmentation induit la séparation. La séparation des fonctions est à la base de la robotique qui suppose une décomposition des tâches. Les tâches ne sont plus considérées comme humaines ou machinales, ce sont d’abord des tâches reconnues comme telles et susceptibles d’être accomplies par l’homme ou par la machine.

Un exemple d’interaction entre un cerveau et une machine, se rencontre dans les techniques dites de BCI (brain computer interface) qui permettent de restituer à des malades conscients mais paralysés une certaine capacité de communication fonctionnelle, voire d’action. Par exemple, l’enregistrement de l’EEG ou des mouvements oculaires permet de décoder en temps réel certaines intentions motrices ou certains choix. Ces techniques sont déjà utilisées pour permettre à des patients paralysés de déplacer un objet (par exemple un curseur sur un écran ou un fauteuil roulant), ou pour composer un message verbal.

Ces techniques, essentiellement conçues pour pallier des pathologies de la motricité (atteintes motrices sévères comme dans les phases avancées de la maladie de Charcot, ou chez les patients souffrant d’un « locked-in syndrome ») connaissent également des développements dans le champ de la sécurité des transports et dans celui des jeux-vidéos de nouvelle génération (exemple : console kinect, et systèmes de BCI utilisant l’EEG).

Le développement des techniques du virtuel à partir de l’interaction homme/machine « change radicalement les critères d’objectivité et de rationalité du monde » (Jouvent, 2009). Notons que l’accès à la virtualité est réel pour le cerveau (Sirigu, 2011) : « Quand on plonge l’individu dans la réalité virtuelle et la simulation, le sujet porte un casque et se retrouve dans un environnement complexe. Même si cet environnement est irréel, il peut être réel pour le cerveau ».

C’est dans ce cadre d’interaction homme/machine que l’on s’est mis à parler des cyborgs, ces êtres hybrides, organiques et électroniques à la fois.

« En substituant à des parties de notre corps des dispositifs bioniques bourrés d’électronique et autres avatars mécaniques, l’humanité acquiert progressivement la capacité de pouvoir remplacer l’homo sapiens par une autre espèce humaine » (Ferone et Al., 2011).

C’est dans le cadre des conquêtes spatiales que ce terme s’est imposé. Il traduit le couplage entre l’astronaute et le vêtement cybernétique, il s’inscrit dans une stratégie d’augmentation des capacités de l’agent. À partir de là, peut se poser la question suivante : Y a-t-il une limite à l’artificialisation de la nature ? Comment s’estompe la frontière entre le naturel et l’artificiel par le cyborg et les prothèses bioniques ?

En résumé, la fragmentation des fonctions cognitives ne reflète ni la plasticité du cerveau, ni la globalité de son fonctionnement. L’interaction cerveau/machine et les cyborgs ne constituent-ils pas de nouvelles formes de neuro-amélioration ?

[…]

V.3.2. Humanisme, transhumanisme, posthumanisme

Le mouvement post humaniste, né dans les années 1980, repose sur l’idée selon laquelle il n’y a ni norme intrinsèque à la nature humaine, ni stabilité de cette nature (Anders, G. 2002). Ce mouvement a développé une critique sévère de l’humanisme classique incapable selon lui de traduire en faits ses prétentions. Le post humanisme se veut héritier des lumières, au sens où il veut donner plus d’autonomie à l’être humain considéré comme indéfiniment perfectible. Il voudrait, comme l’a indiqué Anne Fagot-Largeault lors des JAE (journées annuelles d’éthique du CCNE) de 2012, dans le descriptif qu’elle a proposé de ce mouvement, « prendre en main notre évolution, la diriger pour qu’elle nous soit favorable », comme si l’imprédictibilité de l’espèce humaine était un obstacle et non une condition de tout projet de liberté. Le défi est, selon une maximisation continue des capacités humaines, de repousser indéfiniment les limites de l’évolution humaine: l’âge et ses dépendances, la douleur, et même la mort.

Mais ce mouvement a pour ancêtre le transhumanisme qui envisage la possibilité d’une évolution où les mécanismes autorégulés interviennent dans une sélection artificielle qui n’est plus livrée à la seule évolution darwinienne (J.Proust, 2011) et qui permettrait à l’humain de se dépasser en mettant à contribution l’ingénierie génétique, la robotique, les nanotechnologies et la réalité virtuelle. Ce dépassement s’entend comme un accès à une transcendance (E. Regis, 2002) et se présente le plus souvent comme un ensemble de doléances que l’humanité fait à la nature (M. More, 1999).

Ces doléances portent notamment sur le déficit d’instinct et de perception de l’homme à l’égard des autres vivants : il s’agirait dès lors d’améliorer les facultés de perception et de remémoration de l’homme par une meilleure incorporation des techniques disponibles et des techniques futures. Par exemple, les personnes bénéficiant de prothèses auditives deviennent le paradigme pour penser ce type d’incorporation. Certains nanorobots agissant au niveau cellulaire prolongeront, dit-on, la vie mieux que ne le font les cellules naturelles (Maestrutti, 2011), d’autres nettoieront le sang et élimineront les agents pathogènes.

Mais l’exemple limite, aujourd’hui pure fiction, est de penser l’esprit humain en termes de téléchargement grâce à un ordinateur très puissant (Goffi, 2011). On a là le rêve d’un cerveau conçu comme un pur système de traitement de l’information, un cerveau qui n’est pas en interaction avec le monde, mais qui se réduit à n’être qu’un « flux d’informations dans des réseaux informatiques : non pas dans le monde, encore moins du monde, mais à tout jamais hors du monde » (Goffi, 2011). Certains défendent ainsi l’idée selon laquelle l’action conjointe des réseaux informatiques et de l’intelligence humaine pourrait déboucher sur une intelligence plus puissante que celle de ces réseaux ou de l’homme (Kurtzweil, 2005).

Selon les tenants du transhumanisme, le véritable cyborg a un cerveau biologique capable de contrôler des robots et d’utiliser des extensions artificielles à son corps. Certains se plaisent à rêver que les technologies convergentes, combinant nanotechnologies, biotechnologies et biomédecine, technologies de l’information, sciences cognitives (NBIC), « pourraient permettre en théorie un contrôle pratiquement total car elles obtiendraient les clés de compréhension du code informationnel de la matière à tous les niveaux grâce à la capacité de manipuler bits, atomes, neurones et gènes ».

Le post humanisme, couplé au transhumanisme, voudrait libérer l’homme de l’idée de finalité :

L’homme ne serait pas asservi à une finalité quelconque, mais il apprendrait à faire de la finalité, à l’organiser, d’où l’intérêt pour les systèmes intentionnels, qu’ils soient humains ou mécaniques (systèmes à rétroaction ou de feedback). Mais la question éthique reste entière : à multiplier les systèmes intentionnels comme des projets individuels, ne perd-on pas de vue le but d’ensemble, le projet social de développement humain ?

Le post humain vise à faire du cerveau une instance de contrôle du corps à distance au moyen d’une connexion électronique, d’un réseau informatique. Il semblerait pour certains post humanistes qu’il est contingent que le cerveau humain soit lié à un corps. Le cerveau dialoguerait alors avec le corps comme si celui-ci était quelque chose de séparable.

La robotique sera-t-elle un service à la personne ou contribuera-t-elle à une forme de transhumanisme ?

La position optimiste consiste à dire que plus les systèmes hybrides s’éloignent des systèmes naturels, moins ils sont viables, et qu’au contraire plus ils interagissent avec les systèmes naturels, plus ils sont adaptatifs (Weissenbach J., 2012).

Certains, comme le philosophe J. Habermas, s’inquiètent du déplacement des frontières entre l’homme et l’animal, entre le naturel et l’artificiel. Il craint que le développement de l’homme emprunte exclusivement les formes techniques actuelles et abandonne « les voies symboliques (langagières) qui permettent l’intériorisation et la discussion des normes ». Comment éviter le face à face entre un « pré-humain animal (régulation instinctuelle) » et « une post-humanité mécaniquement régulée » (Hottois, 2009)?

D’autres rappellent que « l’espèce humaine a dès le départ été une « espèce technique », c’est- à-dire artificieuse, qui, inlassablement s’invente et se réinvente elle-même ». Dans le cadre de cette hypothèse, il n’y a ni posthumanisme, ni transhumanisme, mais une simple variation continue de l’humain qui utilise sa neuro plasticité et les méthodes de feedback dont il dispose pour apprendre et améliorer ses capacités (Clark & Chalmers, 2003).

D’un point de vue anthropologique, certains soulignent le fait que « l’humanité change un peu d’espèce à chaque fois qu’elle change à la fois d’outils et d’institutions » (Leroi-Gourhan, 1964). L’humanisation de l’homme interagit avec son hominisation (Delmas Marty, 2013). L’humanisation se rapporte aux institutions et aux cultures, l’hominisation s’entend au sens darwinien du développement de l’espèce humaine. Leur « interaction » est un défi de civilisation.

En résumé

L’humanisme classique, celui du siècle des Lumières notamment, repose sur la perfectibilité humaine. Il est de plus en plus confronté à un transhumanisme et à un posthumanisme, deux mouvements de pensée qui inscrivent la bio-finalité humaine dans des formes de contrôle.

[…]

Les utilisateurs de techniques de neuro-amélioration revendiquent fortement la liberté du choix de leur style de vie sans se rendre compte qu’une telle liberté obéit le plus souvent à un environnement socio-économique de course à la compétitivité et de culte de la performance favorisant une coercition souvent implicite. Dans son avis n° 81, le CCNE avait indiqué que « La recherche éperdue d’une performance mue par le désir impérieux de progresser peut masquer la plus contraignante des aliénations ». Le désir d’être neuro-amélioré peut sembler être largement partagé, par conformité sociale, mais sa réalisation n’est possible que pour quelques-uns.

Le risque est alors grand d’aboutir à une classe sociale « améliorée», constituée d’une petite minorité d’individus bien informés et disposant des ressources financières suffisantes pour y accéder. La course à la compétitivité, le culte de la performance, voire le désir de domination et même de manipulation peuvent aussi générer des situations fort préoccupantes de coercition explicite dans lesquelles les techniques de neuro-amélioration biomédicale sont appliquées sans ou même contre l’avis des personnes.

Ces conclusions incitent à considérer la neuro-amélioration avec un mélange de modestie, d’ouverture d’esprit et de questionnement scientifique, en évitant de verser tant dans l’optimisme des « mélioristes » que dans le pessimisme des « antimélioristes », dont les plus extrémistes voient poindre, pour les premiers, un homme « amélioré » pouvant même dépasser l’humain, pour les autres, un homme diminué.

Plus que jamais, une veille éthique qui met au crible de la conscience humaine les rationalités techniques s’imposent, non comme un frein au développement des techniques, mais en vue de leur articulation à leur usage humain, au débat qu’elles suscitent et à l’information souvent déficitaire qui accompagnent leur apparition.

Téléchargez la réflexion sur la neuro-amélioration 29 p. (PDF)