Le développement rapide des technologies dites NBIC – la nanotechnologie, la biotechnologie, les technologies de l’information et la science cognitive – donne lieu à des possibilités qui ont longtemps été du domaine de la science-fiction. La maladie, le vieillissement et même la mort sont autant de réalités humaines auxquelles ces technologies cherchent à mettre fin.

Elles peuvent nous permettre de jouir d’une plus grande « liberté morphologique » – nous pourrions prendre de nouvelles formes par le biais de prothèses ou du génie génétique, ou faire progresser nos capacités cognitives. Nous pourrions utiliser les interfaces cerveau-ordinateur pour nous connecter à une intelligence artificielle avancée.

Des nanobots pourraient parcourir notre circulation sanguine pour surveiller notre santé et améliorer nos propensions émotionnelles à la joie, l’amour et autres émotions. Les progrès dans un domaine créent souvent de nouvelles possibilités dans d’autres secteurs, et cette « convergence » peut entraîner des changements radicaux dans notre monde à court terme.

Le « transhumanisme » est l’idée que les humains devraient transcender leur état naturel et leurs limites actuels grâce à l’utilisation de la technologie, c.-à-d. que nous devrions adopter une évolution humaine autodirigée. Si l’histoire du progrès technologique peut être considérée comme la tentative de l’humanité de dompter la nature pour mieux répondre à ses besoins, le transhumanisme est la suite logique : la révision de la nature de l’humanité pour mieux servir ses fantasmes.

Le Rapport NBIC

Comme le dit David Pearce, principal défenseur du transhumanisme (ainsi que de l’« impératif hédoniste », exigence morale selon laquelle les hommes doivent travailler à la réduction — voire à l’abolition — de la souffrance pour tous les organismes dotés de sensibilité (sentient beings)) et cofondateur de Humanity + :

« Si nous voulons vivre dans un paradis, nous devrons l’élaborer nous-mêmes. Si nous voulons la vie éternelle, nous aurons besoin de réécrire notre code génétique truffé de bogues et devenir semblables à Dieu… Seules les solutions de haute technologie peuvent éradiquer les souffrances du monde. La compassion seule ne suffit pas. »

Mais il y a un aspect plus sombre à la foi naïve que Pearce et d’autres partisans ont dans le transhumanisme, aspect incontestablement dystopique.

Il est peu probable que nous devenions des transhumains du jour au lendemain. Les technologies deviendront plutôt davantage intrusives et s’intégreront parfaitement au corps humain. La technologie a longtemps été considérée comme une extension de soi. De nombreux aspects de notre monde social, notamment nos systèmes financiers, sont déjà largement basés sur les machines. Il y a beaucoup à apprendre de ces systèmes hybrides homme/machine en constante évolution.

Pourtant, le langage et les attentes souvent utopiques qui entourent et façonnent notre compréhension de ces développements n’ont pas fait l’objet d’une grande analyse. Les changements profonds qui nous attendent sont souvent abordés de manière abstraite, car les « progrès » évolutifs sont considérés comme si radicaux qu’ils ignorent la réalité des conditions sociales actuelles.

Ce faisant, le transhumanisme devient une sorte de « technoanthropocentrisme », dans lequel les transhumanistes sous-estiment souvent la complexité de la relation que nous entretenons avec la technologie. Ils le voient comme un outil contrôlable et malléable qui, avec la bonne logique et la rigueur scientifique, peut être tourné vers n’importe quelle fin. En fait, tout comme les avancées technologiques dépendent et tiennent compte de l’environnement dans lequel elles s’accomplissent, elles se répercutent dans la culture et créent de nouvelles dynamiques, souvent imperceptiblement.

Ainsi, situer le transhumanisme dans les contextes sociaux, culturels, politiques et économiques plus larges au sein desquels il émerge est essentiel pour comprendre sa portée éthique.

Environnements concurrentiels

Max More et Natasha Vita-More, dans leur ouvrage intitulé « The Transhumanist Reader », revendiquent le besoin d’un transhumanisme pour « l’inclusion, la pluralité et la remise en question perpétuelle de notre connaissance ».

Pourtant, ces trois principes sont incompatibles avec le développement de technologies transformatrices dans le système actuel duquel elles émergent aujourd’hui : le capitalisme avancé.

L’un des problèmes réside dans le fait qu’un contexte social hautement concurrentiel ne se prête pas à diverses façons d’être. Il exige plutôt des comportements de plus en plus efficaces. Prenez le cas des étudiants, par exemple. Si certains ont accès à des pilules qui leur permettent d’obtenir de meilleurs résultats, les autres étudiants peuvent-ils se permettre de ne pas faire de même ? Il s’agit bien d’un dilemme. Un nombre croissant d’étudiants prennent déjà des pilules améliorant leur performance. Et si les pilules deviennent plus puissantes, ou si les améliorations font appel au génie génétique ou à la nanotechnologie intrusive qui offre des avantages concurrentiels encore plus grands, alors quelle est la suite ? Rejeter une orthodoxie technologique avancée pourrait rendre quelqu’un socialement et économiquement moribond (peut-être même sur le plan de l’évolution), alors que tous ceux qui ont accès aux pilules sont effectivement forcés de la suivre pour garder la cadence.

Passer outre les limites quotidiennes suggère une sorte de libération. Cependant, il s’agit plutôt d’une impulsion contraignante d’agir d’une manière déterminée. Nous devons littéralement nous transcender afin de nous conformer (et survivre). Plus la transcendance est extrême, plus la décision de se conformer est délibérée et plus il est impératif de le faire.

Les forces systémiques qui poussent l’individu à s’« améliorer » pour rester compétitif jouent également un rôle géopolitique. Un domaine où la recherche et le développement technologique ont le plus grand potentiel transhumaniste est celui de la défense. DARPA (le département de la défense américaine chargé de développer des technologies militaires), qui tente de créer des « soldats métaboliquement dominants » – Metabolically Dominant Soldier ou MDS – est un exemple concret de la façon dont les intérêts particuliers d’un système social donné pourraient déterminer le développement de technologies transformatrices radicalement puissantes à des fins destructrices plutôt qu’utopiques.

La précipitation pour développer une IA super intelligente par des États-nations mondiaux concurrentiels et mutuellement méfiants pourrait également devenir une course aux armements. Dans « Radical Evolution », Verner Vinge décrit un scénario dans lequel l’intelligence surhumaine est l’« arme ultime ». Idéalement, l’humanité prendrait le plus grand soin de développer une innovation aussi puissante et transformatrice.

Il y a à juste titre une grande inquiétude entourant la création d’une superintelligence et l’émergence de la singularité, c.-à-d. l’idée qu’une fois que l’IA atteindra un certain niveau, elle se redéveloppera rapidement, entraînant une explosion d’intelligence qui dépassera rapidement celle des humains (quelque chose qui se passera d’ici 2029 selon le futuriste Ray Kurzweil). Si le monde prenait la forme de ce que l’IA la plus puissante est programmée (ou s’est reprogrammée) à obtenir, son évolution pourrait prendre un tournant pour le tout banal – une IA pourrait-elle détruire l’humanité parce qu’elle désire produire le plus de trombones possible par exemple?

Il est également difficile de concevoir un aspect de l’humanité dont l’efficacité ne pourrait être « améliorée » pour satisfaire les exigences d’un système concurrentiel. C’est donc le système qui détermine l’évolution de l’humanité, sans avoir de vision sur ce que sont les humains ou sur ce qu’ils devraient être. Une des façons dont le capitalisme avancé se révèle extrêmement dynamique est dans son idéologie de neutralité morale et métaphysique. Comme l’affirme le philosophe Michael Sandel : « les marchés ne font aucune distinction entre le bien et le mal » (Michael J. Sandel, Ce que l’argent ne saurait acheter. Les limites morales du marché, Paris, Seuil, 2014). Dans le capitalisme avancé, maximiser notre pouvoir d’achat maximise notre capacité à nous épanouir – par conséquent, acheter pourrait être considéré comme un impératif moral primaire de l’individu.

Le Philosophe Bob Doede suggère à juste titre que c’est cette logique banale du marché qui dominera :

« Si la biotech a fait en sorte que la nature humaine soit entièrement révisable, elle ne peut aucunement diriger ni contraindre la forme que nous lui donnons. Ainsi, quelle forme les artéfacts posthumains prendront-ils ? Je ne doute point que notre grande société de consommation, notre économie capitaliste saturée de médias et nos forces commerciales parviendront à leur fin. Alors, l’impératif commercial deviendrait le vrai architecte de l’humain futur. »

Que le processus évolutif soit déterminé par une IA super intelligente ou un capitalisme avancé, nous pourrions être obligés de nous conformer à une transcendance perpétuelle qui ne nous rendra plus efficaces que dans les activités nécessaires au système le plus puissant. Le résultat final serait, d’une manière prévisible, une entité technologique entièrement non humaine – bien que très efficace – issue de l’humanité qui ne servirait pas nécessairement un but que l’homme moderne ne valorise en aucune façon. La capacité de servir efficacement le système sera la force motrice. Cela vaut également pour l’évolution naturelle, la technologie n’étant pas un outil simple nous permettant d’élucider cette énigme. Mais le transhumanisme pourrait amplifier la vitesse et les aspects les moins souhaitables du processus.

L’autoritarisme de l’information

Pour le bioéthicien Julian Savulescu, la raison principale pour laquelle les humains doivent être améliorés est pour que notre espèce survive. Il affirme que nous sommes confrontés à un Triangle des Bermudes de l’extinction : le pouvoir technologique radical, la démocratie libérale et notre nature morale. En tant que transhumaniste, Savulescu exalte le progrès technologique et le considère comme inévitable et infreinable. C’est la démocratie libérale, en particulier notre nature morale, qui devrait changer.

L’incapacité de l’humanité à régler les problèmes mondiaux est de plus en plus évidente. Mais Savulescu néglige de situer nos faiblesses morales dans leur contexte culturel, politique et économique général, croyant plutôt que les solutions se trouvent dans notre composition biologique.

« Nous devrons renoncer à une protection maximale de la vie privée. Nous constatons une augmentation de la surveillance des individus et elle sera nécessaire si nous voulons éviter les menaces que les personnes ayant un trouble de la personnalité antisociale et les fanatiques représentent par leur accès à une technologie radicalement améliorée. »

Une telle surveillance permet aux entreprises et aux gouvernements d’accéder à des informations extrêmement précieuses et de les utiliser. Dans « Who Owns the Future », le pionnier de l’Internet, Jaron Lanier, explique :

« Les multiples données sur la vie privée et les habitudes des gens ordinaires, colligées sur les réseaux numériques, sont groupés pour former une nouvelle forme privée de monnaie d’élite… c’est une nouvelle forme de sécurité négociée par les plus nantis, et sa valeur augmente naturellement. C’est devenu un énorme levier inaccessible aux gens ordinaires. »

Essentiellement, ce levier est aussi invisible pour la plupart des gens. Il ne fait pas que dévier le système économique vers les élites, mais modifie de manière significative la conception même de la liberté, car l’autorité du pouvoir est à la fois radicalement plus efficace et dispersée.

La notion de Foucault selon laquelle nous vivons dans une société panoptique – où le sentiment d’être perpétuellement surveillé instille la discipline – s’étend maintenant au point où la machinerie incessante d’aujourd’hui a été appelée « superpanopticon ». Les connaissances et l’information que les technologies transhumanistes auront tendance à générer pourraient renforcer les structures du pouvoir existantes qui consolident la logique inhérente du système duquel la connaissance émane.

On peut notamment le constater dans la tendance des algorithmes à établir des discriminations raciales et sexistes, lesquelles reflètent déjà nos échecs sociaux existants. La technologie de l’information tend à interpréter le monde de façons définies : elle privilégie l’information facilement mesurable, comme le PIB, aux dépens de l’information non quantifiable, comme le bonheur ou le bien-être. À mesure que les technologies invasives fourniront davantage de données granulaires sur notre personne, ces données pourraient vraisemblablement en venir à définir notre monde, et l’information intangible pourrait perdre sa place légitime dans les affaires humaines.

Déshumanisation systémique

Les inégalités actuelles seront sûrement amplifiées avec l’introduction de psychopharmaceutiques ultra puissants, de la modification génétique, de la surperintelligence, des interfaces cerveau-ordinateur, de la nanotechnologie, de la prosthétique robotique et du progrès possible dans le domaine du prolongement de la vie. Ils sont tous fondamentalement inégalitaires et reposent sur une notion de non-limitation plutôt que sur le niveau standard de bien-être physique et mental que nous acceptons dans le domaine des soins de santé. Il est difficile de concevoir une façon où tous pourront jouir de ces possibilités.

La sociologiste Saskia Sassen parle de « nouvelles logiques d’exclusion », qui reflètent « les pathologies du capitalisme mondial d’aujourd’hui ». Les exclus englobent les 60 000 migrants et plus qui ont perdu leur vie dans des trajets mortels au cours des 20 dernières années et les victimes du profilage racial de la population carcérale grandissante.

En Grande-Bretagne, ces exclus sont les 30 000 personnes dont la mort en 2015 était liée aux coupures dans les soins de santé et l’aide sociale et tous les autres qui ont péri dans l’incendie de la Tour Grenfell. On pourrait dire que leur mort est due à la marginalisation systématique.

La concentration aiguë et sans précédent de la richesse va de pair avec ces exclusions. Les exploits économiques et techniques avancés favorisent cette richesse et l’exclusion de groupes excédentaires. En même temps, Sassen avance qu’ils créent une sorte de contexte nébuleux sans centre semblable au lieu de pouvoir :

« Les opprimés se sont souvent élevés contre leurs maîtres. Mais aujourd’hui, ils ont été pour la plupart exilés et survivent à grande distance de leurs oppresseurs… L’« oppresseur » est un système de plus en plus complexe combinant individus, réseaux et machines dont le centre n’est pas défini. »

La population excédentaire retirée des aspects productifs du monde social pourrait rapidement augmenter dans un proche avenir à mesure que les améliorations apportées à l’IA et à la robotique engendreront possiblement une importante automaticité du chômage. De vastes pans de la société pourraient devenir productivement et économiquement excédentaires. Pour l’historien Yuval Noah Harari, « la question la plus importante dans l’économie du 21^e siècle pourrait être la suivante : que fera-t-on de tous ces gens inutiles ? »

Nous n’aurions d’autre scénario que celui d’une petite élite possédant la presque totalité de la richesse et ayant accès à la plus puissante des technologies transformatrices de l’histoire de l’humanité et d’une masse de gens accessoires, ne pouvant suivre le contexte évolutif dans lequel ils se trouvent et dépendant entièrement de la bienveillance de cette élite. Le traitement déshumanisant accordé aux groupes exclus d’aujourd’hui démontre que les valeurs libérales des pays développés ne s’étendent pas toujours à ceux qui ne partagent pas les mêmes privilèges et la même race, culture ou religion.

Au sein d’une ère de pouvoir technologique radical, les masses pourraient même représenter une importante menace pour la sécurité de l’élite, ce qui pourrait justifier des mesures agressives et autoritaires (et peut-être d’autres mesures plus radicales grâce à une culture de la surveillance).

Dans leur traité sur le transhumanisme, « The Proactionary Imperative », Steve Fuller et Veronika Lipinska allèguent que nous sommes obligés de poursuivre sans relâche le progrès technoscientifique jusqu’à ce que nous accomplissions notre destin semblable à celui de Dieu ou que nous atteignons un pouvoir infini – soit celui de servir Dieu en devenant Dieu. Ils nous révèlent imperturbablement le processus de violence et de destruction naissant que ces visées prométhéennes nécessiteraient : « remplacer la nature par de l’artificiel est la clé d’une stratégie proactionnaire… du moins il est sérieusement possible, sinon probable, que cela entraîne une dégradation environnementale de la Terre à long terme. »

L’ampleur de toute la souffrance qu’ils seraient prêts à mettre en jeu dans leur cruel casino ne peut être entièrement comprise que lorsque nous analysons ce que leur projet signifie pour les êtres humains :

« Un monde proactionnaire ne ferait pas que tolérer la prise de risque, mais l’encouragerait, puisque les gens se verront fournir des incitatifs juridiques pour spéculer sur leurs actifs bioéconomiques. Vivre dangereusement deviendrait une entreprise en soi… les proactionnaires cherchant d’importants bénéfices à long terme sur les survivants d’un régime révolutionnaire qui encouragerait bien des préjudices pour y parvenir. »

Survivre demandera de nombreux sacrifices.

La fragilité économique à laquelle les humains devront bientôt faire face et son chômage automatisé se révéleront probablement extrêmement utiles aux buts proactionnaires. Dans une société où une vaste majorité de la population dépendra d’aumônes pour survivre, les forces du marché feront en sorte que le manque de sécurité sociale poussera les gens à prendre plus de risques pour peu d’avantages, alors les « proactionnaires réinventeraient le système d’assistance sociale en tant que véhicule favorisant la prise de risque en tant qu’instrument du marché » pendant que « l’état proactionnaire serait exploité en tant qu’énorme capital-risque ».

Au cœur de cet état se trouve le remplacement des droits fondamentaux de « l’Humanité 1.0 », terme de Fuller pour définir les êtres humains non augmentés modernes, par des obligations envers l’Humanité 2.0 augmentée future. Ainsi, nos codes de valeurs peuvent et doivent même être monétisés : « l’autonomie personnelle devrait être perçue comme une franchise accordée par le gouvernement où les individus envisageraient leur corps comme une parcelle de terrain dans ce que l’on peut appeler un « patrimoine génétique commun ».

La préoccupation néolibérale entourant la privatisation s’étendrait alors aux êtres humains. En effet, l’endettement à vie qui fait partie de la réalité de la plupart des citoyens des nations développées capitalistes prendrait une tout autre signification lorsqu’une personne naîtrait endettée : être en vie équivaudrait à « vous investir dans un capital où des résultats sont attendus ».

Les masses socialement moribondes pourraient être forcées de servir le super-projet technoscientifique de l’Humanité 2.0, qui utilise l’idéologie du fondamentalisme commercial dans sa quête d’un progrès perpétuel et d’une productivité maximale. La seule différence significative est que le but déclaré des capacités divines de l’Humanité 2.0 est patent, par opposition à la fin indéfinie déterminée par le « progrès » infini d’une logique commerciale encore plus efficiente que celle que nous avons à l’heure actuelle.

Une nouvelle politique

Certains transhumanistes commencent à comprendre que les plus sérieuses limites aux objectifs des humains sont sociales et culturelles, et non techniques. Cependant, le plus souvent leur reformulation des politiques tombe dans les mêmes pièges que leur vision globale technocentrique. Ils allègent généralement que les nouveaux pôles politiques ne seront plus de droite ou de gauche mais plutôt technoconservateur ou technoprogressiste (et même technolibertaire ou technoseptique). Aussi, Fuller et Lipinska ergotent qu’ils seront situés de haut en bas plutôt que de gauche à droite : ceux qui veulent dominer le ciel et devenir puissants, et ceux qui veulent préserver la Terre et sa diversité d’espèces. Il s’agit d’une fausse dichotomie. La préservation des derniers est nécessaire à toute réalisation des premiers.

Le transhumanisme et le capitalisme avancé sont deux processus qui valorisent avant toute chose le « progrès » et l’« efficience ». Le progrès en tant que moyen d’accéder au pouvoir et l’efficience en tant que moyen de faire du profit. Les humains deviennent des véhicules pour servir ces valeurs. Les possibilités du transhumanisme nécessitent urgemment une politique ayant des valeurs humaines davantage délimitées et explicites pour procurer un environnement sécuritaire à ceux qui favorisent ces changements profonds. La position que nous prenons concernant les questions de justice sociale et de durabilité environnementale n’a jamais été aussi cruciale. La technologie ne nous permet pas de nous soustraire à ces questions, elle ne permet pas la neutralité politique. L’inverse est aussi vrai : nos politiques n’ont jamais été aussi importantes. Savulescu dit vrai lorsqu’il affirme que les technologies radicales s’en viennent. Par contre, il a tort de penser qu’elles corrigeront nos valeurs morales… elles les refléteront.

traduit avec la collaboration de Stéphanie S.

Daily Mail par Alexander Thomas With The Conversation