Skip to content

Les vertiges du transhumanisme

S’il fallait résumer la philosophie transhumaniste d’une idée, la plus extrême mais aussi la plus saisissante, ce serait celle-ci : un jour, l’homme ne sera plus un mammifère. Il se libérera de son corps, ne fera plus qu’un avec l’ordinateur et, grâce à l’intelligence artificielle, accédera à l’immortalité.

[…]

Biohackers
Les transhumanistes se situent à l’extrême de cette logique techno-utopiste. C’est l’individu lui-même qu’ils rêvent de transformer. Ils veulent abolir les contraintes de la condition humaine et revendiquent le droit individuel à la prise de risques, aux greffes d’organes artificiels, aux modifications génétiques.

Les partisans de l’homme + croient à la liberté morphologique : le droit absolu de disposer de son corps. Ils discutent ouvertement de l’allongement indéfini de la vie, de l’éradication des maladies, du moment où les micro-robots iront détecter les cellules cancéreuses à l’intérieur des organes.

[…]
Résurrection technologique

Si le transhumanisme se diffuse, selon Jaron Lanier, membre de l’équipe de recherche de Microsoft, c’est parce qu’il baigne dans la mythologie de la Vallée. « La montée en puissance des monopoles du Net coïncide avec une nouvelle sorte de religion fondée sur l’immortalité », estime-t-il.

« C’est un mouvement qui reste marginal, mais dont la vision du monde se répand, en particulier dans la Silicon Valley », confirme Marcy Darnosky, la directrice du Center for Genetics and Society, un institut de politique publique installé à quelques rues du campus de l’université de Berkeley.

[…]
« Si l’impact à court terme de l’intelligence artificielle dépend de qui la contrôle, à long terme l’impact est de savoir si elle peut tout simplement être contrôlée », y soulignaient l’astrophysicien Stephen Hawking et trois autres chercheurs de renom. Depuis, d’autres grands noms – Elon Musk, le fondateur de Tesla, ou Bill Gates – ont fait écho à ces préoccupations.

[…]

Les plus extrêmes pensent que c’est le destin de la race humaine de créer des entités plus intelligentes qu’elle, et peu importe qu’elle disparaisse au passage, tout comme les animaux ont dû s’effacer devant les besoins humains. L’homme ne représentera plus, selon eux, qu’un paquet d’atomes, à la merci des besoins en molécules de la super-intelligence. D’autres prévoient plutôt une combinaison cerveau-machine : l’espèce humaine ne disparaîtrait pas mais serait transformée.

Au mieux, la machine trouvera à l’homme quelque utilité. « On nous gardera peut-être comme animaux de compagnie », ironise Jaron Lanier. Le moment où la machine surpassera l’homme est appelé « singularité », un concept défini par le mathématicien et auteur de science-fiction Vernor Vinge en 1993. La majorité des scientifiques parlent plutôt d’« explosion d’intelligence », selon le terme du statisticien Irvine J. Good en 1965 : ce moment où la machine sera capable de se reprogrammer elle-même pour augmenter à l’infini ses capacités.

L’homme, avec son nombre limité de neurones (100 milliards tout au plus), ne sera plus qu’un nain face à l’ordinateur : à l’image de ce qu’est la méduse (800 neurones) au cerveau humain aujourd’hui…

Relais actifs

Le mouvement a des relais actifs : Ray Kurzweil, 66 ans, considéré comme un génie par la plupart de ses pairs pour ses inventions dans le domaine de la reconnaissance optique (scanner) et vocale (lecture à haute voix pour aveugles), qui a popularisé le concept de singularité.

Peter Thiel, le techno-libertarien fondateur de PayPal, qui se revendique rarement publiquement d’un courant que certains, selon sa propre expression, « voient comme au-delà des limites respectables », mais qui en est un des piliers financiers.

Ou Peter Diamandis, médecin diplômé de Harvard, ingénieur passionné de conquête de l’espace, qui promet « l’abondance » pour tous et qui a lui-même investi dans nombre d’activités, du séquençage du génome aux espoirs de forages miniers dans l’espace.

Ray Kurzweil se flatte que ses prédictions (au nombre de 108 entre 1990 et 2009) se soient réalisées à 86 %, le reste lui ayant échappé à quelques années près. Il avait prévu l’arrivée de la voiture sans chauffeur, à un moment où l’Internet était encore à ses débuts. Depuis, « davantage de gens le prennent au sérieux », remarque Max Tegmark. Kurzweil pense que la marche vers l’intelligence artificielle va continuer à s’accélérer. Aux environs de 2029, « les ordinateurs seront indistincts des humains pour ce qui concerne le langage ».

Vers 2045, « la civilisation sera intégrée. Nous étendrons les capacités du néocortex », qui sera connecté à un équivalent synthétique dans le cloud (stockage de données). Ses prédictions s’arrêtent là. L’humain aura été tellement manipulé dans ses fonctions qu’il est impossible, passé ce point de non-retour, de prédire à quoi la vie ressemblera… « Potentiellement, c’est l’événement le plus dangereux pour la civilisation.

Tout à coup, nous ne serons plus seuls », assène Zoltan Istvan, auteur, en 2013, du roman The Transhumanist Wager (« Le Pari transhumaniste), qui s’est vendu à 40 000 exemplaires.

Faut-il prendre ces perspectives au sérieux ? Après tout, Ray Kurzweil ne publie pas d’articles sur ses travaux dans les revues scientifiques, et il n’intervient pas dans les congrès traditionnels sur l’intelligence artificielle. Marcy Darkovsky, dont l’institut est devenu une sorte de « watchdog » (« chien de garde ») des transhumanistes, met toutefois en garde contre un excès de réserve de la part de la communauté des chercheurs – réserve qu’elle avait déjà constatée il y a une quinzaine d’années après les premiers clonages d’animaux.

« On ne veut pas donner une légitimité aux transhumanistes, mais on ne peut pas non plus les ignorer, déclare-t-elle. Que ce qu’ils disent soit techniquement possible ou non, ils ont le potentiel pour changer notre culture en substituant des solutions techniques aux changements politiques et sociaux qui amélioreraient la vie des gens. »

Jusqu’ici, les scientifiques s’employaient surtout à perfectionner les machines, répond le physicien Max Tegmark. Mais devant les investissements énormes et la compétition qui règne entre les géants de la technologie – car tous ou presque ont maintenant leur laboratoire sur l’intelligence artificielle, sans parler de ce que préparent sans doute les ingénieurs sur les rives asiatiques du Pacifique –, ils commencent donc à se mobiliser.

« C’est une course entre le potentiel grandissant de l’Intelligence artificielle et notre sagesse pour le gérer, ajoute le physicien. Tous les investissements sont consacrés à essayer d’augmenter les capacités des machines, et pratiquement rien n’est investi du côté de la sagesse ».

« Culture de responsabilité »

Selon les chercheurs signataires de la lettre publiée par Future of Life Institute, l’intelligence artificielle a le même potentiel de destruction que le nucléaire, dont l’humanité, des décennies après sa mise en œuvre, essaie toujours de contenir les dangers. «

[…]
L’initiative a rencontré un écho inattendu : 5 000 signataires. « C’est le signe qu’une culture de responsabilité est en train de se développer dans la communauté de l’intelligence artificielle elle-même », se félicite M. Tegmark.

Parmi les signataires figurent une cinquantaine d’ingénieurs de Google, le directeur de l’intelligence artificielle de Facebook, l’équipe du superordinateur Watson d’IBM, les trois cofondateurs de DeepMind, le laboratoire d’intelligence artificielle racheté par Google, et Elon Musk, qui a décidé de donner 10 millions de dollars (8,9 millions d’euros) à l’institut pour encourager les recherches sur les risques encourus.

On y trouve même des transhumanistes, ainsi que l’inventeur du mot « singularité », Vernor Vinge. Un absent de marque : Ray Kurzweil.

Conséquences néfastes

Sur le plan politique, les transhumanistes voient grand, large et lointain. Ils sont à la science ce que les néoconservateurs ont été à la diplomatie. Des théoriciens de la transformation qui balaient comme passéistes tous ceux qui leur opposent une réalité autre que celle qu’ils sont en train de fabriquer en 3D. Ils pensent que la technologie va sortir l’humanité de l’âge de la pénurie. L’énergie sera illimitée grâce au solaire.

Plus de problèmes de nourriture : la viande sera « imprimée ». Certains expriment des soucis de justice sociale. Mais, là encore, la technologie y pourvoira.

« Un Masai muni d’un téléphone portable dispose de plus d’informations aujourd’hui que le président des États-Unis il y a quinze ans », affirme Peter Diamandis, qui se réjouit de savoir que « 3 milliards d’individus de plus seront connectés » dans la prochaine décennie.

Il suffira aux villageois du fin fond de l’Afrique d’expédier, grâce à leurs smartphones, leurs résultats médicaux à un spécialiste sur un continent lointain. Celui-ci établira le diagnostic, et les médicaments seront obligeamment livrés par un drone.

Les humanistes jugent cette approche simpliste, voire dangereuse.

Pour eux, le transhumanisme néglige les conséquences néfastes des technologies dans le monde d’ici et maintenant : l’augmentation des inégalités, les millions d’emplois menacés au fur et à mesure que les ordinateurs rempliront nombre de tâches mieux que les humains.

« Quel sera le rôle de l’homme ? Quelles structures sociales faudra-t-il pour parvenir à une société de faible emploi mais florissante ? », demande Max Tegmark.

Comment empêchera-t-on les « armes autonomes » de déclencher des conflits accidentels ? Sans parler des critères éthiques qui présideront aux choix des machines : entre renverser un cycliste et provoquer des dommages matériels coûteux, que décidera une voiture sans chauffeur ?

Derrière les big data, les humanistes voient aussi pointer le « big money ». « On nous vend la technologie comme si c’était un bienfait intégral, estime Peter Shanks, du Center for Genetics and Society, mais le résultat pourrait bien être que ce que nous prenons pour des merveilles high-tech soit en fait l’instrument du pouvoir exercé par quelques-uns sur le reste d’entre nous ». L’« immortalité » rêvée par les transhumanistes deviendrait l’apanage des puissants.

lire la suite sur Le Monde

12 Comments »

  1. Ce texte appelle une réponse de l’Association Française Transhumaniste – Technoprog parce qu’il donne du transhumanisme une vision univoque, partielle et exclusivement centrée sur le transhumanisme californien. A force de généralisations, il tombe plus d’une fois dans ce qui nous paraît relever de la caricature, voire de la contre-vérité.

    Madame Corinne Lesnes s’est livrée à une analyse fouillée et intéressante du transhumanisme californien. Cependant ce qui n’est pas suffisamment visible dans son article, c’est que les transhumanistes ne sont pas un groupe uniforme, mais une galaxie d’opinions. On y retrouve toujours l’idée que la condition biologique de l’humain que nous connaissons aujourd’hui n’est pas immuable ainsi que le souhait d’une vie en bonne santé beaucoup plus longue, mais aussi bien, plus souvent qu’ailleurs, la conscience des risques technologiques.

    Quel dommage que Madame Lesnes ne se soit pas penchée sur ce qui se passe en France. La seule organisation ouvertement déclarée comme transhumaniste est l’Association Française Transhumaniste – Technoprog. Elle se réclame du «techno-progressisme ». Elle est peut-être la seule organisation française à réclamer que soit doublée la part des budgets de recherche sur les nanotechnologies consacrés à la prévention des risques. Elle défend le principe d’un Revenu Universel d’existence et met en avant aussi bien la culture et l’éducation que le progrès technologique dans l’espoir d’améliorer la condition humaine.

    Notre réaction plus détaillée

    Dès le premier paragraphe, les premières idées retenues pour présenter la pensée transhumaniste relèvent de la simplification et de l’exagération. Il est avancé que selon LE transhumanisme, «l’homme ne sera plus un mammifère. Il se libérera de son corps, ne fera plus qu’un avec l’ordinateur et, grâce à l’intelligence artificielle, accédera à l’immortalité. » Cette accroche suscite trois critiques :

    – Ne faire plus qu’un avec l’ordinateur, c’est ce qu’on appelle l’hypothèse du téléchargement de la pensée, ou mind-uploading. Il s’agit d’une hypothèse, certes dans le vent, mais très spéculative et surtout pas partagée par tous les transhumanistes. Elle fait au contraire l’objet de très nombreux débats techniques et éthiques.

    – Dire que les transhumanistes prétendent accéder à l’immortalité, sans plus de précision, c’est sous entendre d’entrée que ce mouvement de pensée se place lui-même dans le domaine de l’irrationnel et de la métaphysique. Or, pour qui pousse un tout petit peu plus loin que les slogans de certaines figures du transhumanisme anglo-saxon, il est évident que ses partisans ne soutiennent jamais que l’accès à une durée de vie en bonne santé beaucoup plus longue, voire d’une durée indéterminée. La différence vous paraît-elle difficile à cerner ? Elle correspond à tout ce qui sépare une pensée rationnelle et matérialiste d’une pensée religieuse.

    – Enfin, cette présentation donne à comprendre la pensée transhumanisme comme un bloc cohérent, pour ne pas dire dogmatique, qui serait organisé autour d’un corpus d’idées bien arrêtées. Or quiconque se penche avec attention sur ce mouvement peut se rendre compte que l’une de ses caractéristiques est son hétérogénéité. En fait, la plupart des concepts qui sont censés le définir font l’objet de débats internes permanent. Tout au plus s’entendent-ils pour considérer que la condition biologique de l’humain que nous connaissons aujourd’hui ne saurait être un aboutissement et que le degré de maîtrise technique auquel est maintenant parvenue l’humanité nous met en situation de choix et de responsabilité devant notre propre évolution : que voulons-nous faire de l’humain ? Mais à partir de là, les motivations, les procédés à mettre en œuvre et les orientations, techniques ou politiques, à prendre divergent considérablement.

    Le reste de l’article pratique allègrement l’amalgame. Il nous est d’abord dit que ce dont il est question concerne essentiellement la Silicon Valley, mais c’est rapidement pour généraliser à l’ensemble du mouvement transhumaniste. Par ailleurs, les informations factuelles (concernant les personnes et les institutions impliquées par exemple), côtoient en permanence les jugements de valeurs. Du coup, on peut lire que « peu se soucient que les mutations promettent de mettre sur la paille des industries entières », ou encore que les transhumanistes – donc tous les transhumanistes – prônent exclusivement des solutions technologiques « au lieu d’améliorer la condition humaine par l’éducation ou la culture ». Cela revient à ranger tous les partisans de « l’amélioration humaine » dans les rangs des scientistes néolibéraux.

    Mais l’article ne s’en tient pas à ces considérations. Il est parsemé de formules péjoratives comme ces qualifications de « jusqu’au-boutistes cinglés » qui poursuivent un « saint graal » et qui cherchent à « étayer leurs croyances ». Lorsqu’il est question de citer l’inventeur du mot transhumanisme, Julian Huxley (le frère d’Aldous), on n’oublie pas d’indiquer qu’il fut un « théoricien de l’eugénisme » (à une époque où cette théorie n’avait pas connu les dérives mortelles que l’on sait). On néglige par contre de dire qu’il fut aussi le fondateur du WWF et le premier directeur de l’UNESCO !

    Puis, une part notable de l’article est consacrée à l’importante déclaration du Future of Life Institute concernant les risques dramatiques qui pourraient découler de la mise au point d’une Intelligence Artificielle Forte (c’est-à-dire dépassant toutes les capacités humaines). Cette déclaration est présentée comme constituant une prise de conscience des milieux scientifiques que certaines des perspectives transhumanistes sont à la fois sérieuses et même porteuses de dangers considérables. Mais, s’il est reconnu que « On y trouve même des transhumanistes, ainsi que l’inventeur du mot « singularité », Vernor Vinge », il est surtout insisté sur « un absent de marque : Ray Kurzweil. » (Figure du transhumanisme américain, présenté ailleurs comme le « bateleur » de Google). Or, qui prend la peine de consulter la liste des signataires de ce texte peut constater que ce ne sont pas n’importe quels transhumanistes qui le soutiennent. On y trouve en très bonne place Nick Bostrom, co-fondateur de l’Association Transhumaniste Mondiale (aujourd’hui Humanity+), Ben Goertzel, spécialiste de l’IA de renommée mondiale et membre du directoire de Humanity+, ainsi que d’autres parmi les plus en pointe de la pensée transhumaniste contemporaine. Comment ne pas relever la contradiction ? Les transhumanistes les plus éminents défendent une dénonciation d’une perspective transhumaniste !

    C’est ne pas comprendre, ou ne pas savoir, ou ne pas vouloir dire que les transhumanistes, en même temps qu’ils sont des prospectivistes qui regardent vers l’avenir sans tabou, sont souvent du même coup parmi les tous premiers à percevoir les risques. Ceux, par exemple, qui sont les chercheurs du Future of Humanity Institute (Oxford) se font alors un devoir de les mettre en évidence et d’essayer de proposer des moyens pour les circonscrire (Pourquoi ne pas citer le dernier ouvrage de Nick Bostrom, Superintelligence : Paths, Dangers, Strategies – 2014) ?

    La dernière partie « Conséquences néfastes » condense une condamnation sans appel : « les transhumanistes […] sont à la science ce que les néoconservateurs ont été à la diplomatie. Des théoriciens de la transformation qui balaient comme passéistes tous ceux qui leur opposent une réalité autre que celle qu’ils sont en train de fabriquer en 3D. » Et encore : « L’ « immortalité » rêvée par les transhumanistes » ne saurait devenir que « l’apanage des puissants. »

    Quel dommage que l’auteur n’ait pas eu le temps de faire aussi un crochet sur la rive est des Etats-Unis, pour rencontrer par exemple un James Hughes (directeur exécutif du think tank IEET). Cet ancien président de Humanity+ a montré que, chez les militants du transhumanisme, même aux Etats-Unis, dominent les tenants d’un « techno-progressisme », c’est-à-dire des gens qui se préoccupent au premier chef des conséquences sanitaires, environnementales et sociales des projets de « l’amélioration humaine ». La question de l’avenir du travail, par exemple, est chez eux un sujet de réflexion permanent.

    Quel dommage également que, après être allé regarder ce qui se passait de l’autre côté de l’Amérique, le temps n’ait pas été pris de se pencher sur ce qui se passe en France. Il aurait été alors possible de se rendre compte que des interprétations très différentes du transhumanisme sont possibles. En France, la seule organisation ouvertement déclarée comme transhumaniste est l’Association Française Transhumaniste – Technoprog. Comme son nom l’indique, elle se réclame du « techno-progressisme ». Elle est par exemple peut-être la seule organisation française à réclamer que soit doublée la part des budgets de recherche sur les nanotechnologies consacrés à la prévention des risques. Elle défend le principe d’un Revenu Universel d’existence et elle met en avant aussi bien la Culture et l’Éducation que le progrès technologique dans l’espoir d’améliorer la condition humaine.

    AFT-Technoprog, février 2015

    J'aime

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s

%d blogueurs aiment cette page :