Aventures chez les transhumanistes
Cyborgs, techno-utopistes, hackers et tous ceux qui veulent résoudre le modeste problème de la mort
isbn 9782373090376
Le transhumanisme peut sembler aussi bien porteur d’un immense espoir que terrifiant. Voire totalement absurde… Son but étant d' »améliorer » la condition humaine – le corps et l’esprit – jusqu’au stade où maladie, vieillesse et mort appartiendront au passé, le futur que prônent ses adeptes relève pour l’instant de la science-fiction. Mais ils sont de plus en plus nombreux, notamment parmi les dirigeants de la Silicon Valley, à croire que l’homme vaincra la mort et à plancher sur la question. Fasciné par ce mouvement en plein essor, le journaliste et essayiste irlandais Mark O’Connell est parti à leur rencontre.
Au fil de son enquête au long cours, il a fait la connaissance des figures majeures du mouvement et a exploré les lieux où ils élaborent leurs projets : laboratoires ultramodernes, espaces de stockage cryonique, caves dédiées au biohacking… On y croise des tenants du téléchargement de l’esprit, des immortalistes, des programmeurs informatiques redessinant le monde dans leur coin ou encore des développeurs de robots de guerre. Aventures chez les transhumanistes dévoile les facettes glaçantes de cette galaxie en pleine expansion.
Mark O’Connell est un journaliste et essayiste irlandais dont les travaux sur le transhumanisme ont été publiés dans Slate, le New Yorker et le New York Times Magazine. Livre paru en mars 2017 et déjà traduit dans 10 pays (Chine, République Tchèque, Pays-Bas, Allemagne, Italie, Japon, Corée du Sud, Pologne, Russie, Turquie).
« Une plongée unique au cœur du milieu transhumaniste, qui permet de mieux saisir cette foi dans la technologie (parfois) sinistre et (toujours) excessivement arrogante qui irradie de la Silicon Valley. » —The Guardian
« Les lecteurs apprécieront le sens de l’humour et l’écriture nerveuse de O’Connell, partageant ses nombreuses interrogations sur les conséquences éthiques et les dilemmes moraux qu’implique le transhumanisme. » — Booklist
« Le transhumanisme – défini comme « un mouvement prônant ni plus ni moins que l’émancipation totale visàvis de notre condition biologique » – est passé au crible dans cette enquête très fouillée et provocante à souhait. » — Publishers Weekly
« O’Connell présente aux lecteurs une galerie de personnages burlesques voire délirants, parmi lesquels Max More, un philosophe “extropien” diplômé d’Oxford, qui aspire à repousser toujours plus loin les limites du vivant ; ou encore Zoltan Istvan, le candidat transhumaniste à la présidentielle américaine en 2016, qui mena sa campagne en sillonnant les routes à bord d’un bus en forme de cercueil… » — New Statesman
Extraits
Plus j’approfondissais le sujet, plus je découvrais que le transhumanisme, malgré son apparente radicalité et bizarrerie, exerçait une influence patente sur la culture de la Silicon Valley – et donc, plus largement, sur l’imaginaire des nouvelles technologies. Elle se manifestait par exemple chez de nombreux entrepreneurs tech adhérant à l’idéal d’une extension conséquente de la durée de vie : c’est notamment le cas du cofondateur de PayPal et investisseur précoce de Facebook Peter Thiel, à l’origine de divers projets allant dans ce sens ; ou de Google, qui a ouvert une filiale spécialisée dans les biotechnologies, Calico, laquelle vise à résoudre le problème de la vieillesse.
On perçoit également cette influence dans les avertissements de plus en plus pressants de personnalités comme Elon Musk, Bill Gates ou Stephen Hawking, qui s’inquiètent de voir un jour notre espèce annihilée par une superintelligence artificielle. Sans oublier l’embauche par Google de Ray Kurzweil, le grand gourou de la « singularité technologique », au poste de directeur de l’ingénierie. Je vois aussi l’empreinte du transhumanisme dans des déclarations telles que celle-ci, signée Eric Schmidt, ex-PDG de Google : « Vous disposerez d’un implant qui vous donnera automatiquement une réponse dès que vous vous poserez une question. » Ces hommes – il s’agissait d’hommes pour l’essentiel – parlaient d’un avenir dans lequel les humains ne feraient plus qu’un avec les machines. Quelles que soient leurs divergences, ils évoquaient tous un futur post-humain, dans lequel le techno-capitalisme survivrait à ses propres inventeurs, trouvant de nouvelles formes pour se perpétuer et tenir ses promesses.
[…]
Une partie de la communauté scientifique se montre de plus en plus inquiète à l’idée qu’une intelligence supérieure balaye l’humanité de la surface de la terre. En découvrant que cette vision de notre avenir technologique était partagée par d’autres personnes que moi, ma nature fataliste y a trouvé matière à entretenir son angoisse.
Les journaux s’empressent souvent de relayer ce genre de prophéties sinistres, généralement illustrées par une image apocalyptique tirée de la franchise Terminator – un robot tueur au crâne de titane dévisageant le lecteur de ses yeux rouges et cruels.
Après avoir qualifié l’IA de « plus grand menace existentielle qui pèse sur l’humanité », Elon Musk a ainsi souligné que nous risquions d’« ouvrir la boîte de Pandore » en la laissant se développer de manière exponentielle. (« J’espère que nous ne serons pas l’amorce de cette superintelligence numérique », a-t-il tweeté en août 2014.) Pour sa part, Peter Thiel a déclaré que « les gens passent trop de temps à se soucier du changement climatique et pas assez à se préoccuper de l’IA ». Quant à Stephen Hawking, il a publié une tribune dans The Independent, qui se présentait clairement sous forme d’avertissement : si l’aboutissement d’un tel projet représenterait sans doute « le plus grand événement de toute l’histoire de l’humanité », celui-ci pourrait « tout aussi bien être le dernier, à moins que nous trouvions dès à présent un moyen de réduire les risques au maximum ». Même Bill Gates a publiquement exprimé ses craintes à ce sujet, ajoutant « ne pas comprendre pourquoi certaines personnes ne s’en inquiètent pas ».
Suis-je moi-même inquiet ? Oui et non. Malgré le fait qu’elles entrent en résonance avec ma tendance innée au pessimisme, je ne suis pas vraiment convaincu par ces augures apocalyptiques, en grande partie parce qu’elles me semblent être le pendant des prophéties les plus optimistes sur l’IA – où l’on assisterait à une grande redistribution des rôles, où les humains seraient propulsés au plus haut sommet de la connaissance et la puissance, où ils vivraient pour l’éternité dans la lumière resplendissante de la Singularité. Au fil de ma réflexion, j’ai pourtant vite compris que mon scepticisme était davantage lié à mon tempérament qu’à des arguments logiques. Le fait est que j’ignore à peu près tout des raisons scientifiques (probablement excellentes) qui motivent une telle frayeur. Et même si je n’y crois pas, je reste néanmoins fasciné par cette idée morbide : nous pourrions être sur le point de créer une machine capable de rayer notre espèce de la carte.
[…]
Nate Soares leva une main en direction de son crâne rasé de frais, qui lui conférait de faux airs de moine, et se tapota le front à coups secs afin d’accompagner le geste à la parole : « Encore aujourd’hui, pour faire fonctionner un être humain, il faut obligatoirement passer par cette masse de viande et de neurones. »
Nous discutions des avantages qui pourraient découler de l’avènement d’une superintelligence artificielle. Pour Nate, le principal d’entre eux serait la capacité de faire fonctionner un être humain – à commencer par lui-même – sur un autre support que celui qu’il pointait du doigt.
C’était un homme trapu et calme, aux larges épaules, âgé d’environ 25 ans. Autre détail : il portait un T-shirt orné de l’inscription « Nate le Grand ». Tandis qu’il se rasseyait sur sa chaise de bureau et croisait les jambes, je remarquais aussitôt 1) qu’il avait retiré ses chaussures ; 2) que ses chaussettes étaient dépareillées – l’une bleue unie, l’autre blanche avec des motifs.
La pièce était totalement vide à l’exception des chaises sur lesquelles nous étions assis, d’un tableau blanc et d’un bureau, où étaient posés un ordinateur portable ouvert et une édition papier du livre Superintelligence de Nick Bostrom. Nous nous trouvions dans le bureau de Nate au Machine Intelligence Research Institute (MIRI) de Berkeley. L’aspect dépouillé de la pièce tenait sans doute au fait qu’il venait tout juste de décrocher un nouveau travail ici, celui de directeur exécutif. Il avait quitté l’an passé son poste lucratif d’ingénieur logiciel chez Google, avant de gravir rapidement les échelons au sein du MIRI. Son prédécesseur était Eliezer Yudkowsky – le théoricien de l’IA cité par Bostrom dans son livre –, qui avait fondé l’institut en 2000.
Je savais que Nate nourrissait des projets ambitieux pour le MIRI après avoir lu ses nombreux articles publiés sur le site Less Wrong, où il évoquait l’objectif qu’il s’était depuis longtemps assigné : sauver le monde d’une destruction certaine. Dans l’un de ces textes, il revenait sur son éducation catholique stricte, sa rupture avec la foi à l’adolescence et le déploiement subséquent de son énergie dans « l’optimisation de l’avenir » – bien entendu grâce aux lumières de la raison. Ses arguments rhétoriques me semblaient être une version hypertrophiée du verbiage de la Silicon Valley, où chaque nouveau réseau social ou start-up centrée sur l’économie du partage avait la ferme intention de « changer le monde ».
[…]
D’une manière ou d’une autre, les robots représentent notre avenir. C’est en tout cas ce que m’ont assuré les transhumanistes auxquels j’ai parlé. Qu’il s’agisse de Randal Koene, Natasha Vita-More ou Nate Soares, ils en sont tous persuadés à des degrés divers et variés. Soit que nous devenions nous-mêmes des robots et que nos esprits soient téléchargés dans des machines plus performantes que nos corps de primates. Soit que nous vivions au milieu de machines toujours plus évoluées, au point de leur céder chaque jour des pans toujours plus grands de notre travail et de notre autonomie. Soit qu’ils finissent par nous rendre obsolètes et par remplacer complètement notre espèce.
Tandis que je prenais mon petit-déjeuner en regardant mon fils jouer avec le petit robot que je lui avais rapporté de San Francisco, l’objet vacillant sur la table tel Frankenstein en direction du saladier à fruits, je me demandais quel rôle les véritables robots joueraient dans son avenir. Parmi toutes les carrières professionnelles que je lui avais imaginées, combien existeraient encore dans vingt ans ? Et combien auraient été rattrapées par l’automatisation totale, le rêve ultime du techno-capitalisme entrepreneurial ? Un jour, il m’intercepta dans le couloir après avoir regardé deux ou trois épisodes d’un dessin-animé pour enfants.
« Je-suis-une-machine-qui-marche », dit-il, alors qu’il mimait la démarche saccadée des robots tout en décrivant des cercles autour de mes jambes. Cela semblait une chose étrange à dire. Il est vrai, cependant, que la majeure partie de ses propos relevaient de cette catégorie : l’étrangeté.
J’avais beaucoup réfléchi aux robots sans pour autant en avoir jamais vu pour de vrai. Pas en chair et en os, si je suis dire, pas en action. De sorte que je ne savais pas exactement ce à quoi j’étais en train de réfléchir. Jusqu’à ce j’entende parler du DARPA Robotics Challenge, un événement au cours duquel les ingénieurs en robotique les plus réputés de la planète se réunissaient pour faire concourir leurs robots les uns contre les autres, dans une série d’épreuves conçues pour tester leurs performances dans des environnements hostiles ou dans des situations génératrices de stress pour l’homme. Notant que le New York Times décrivait l’évènement comme « le Woodstock des robots », je décidai sur-le-champ qu’il me fallait y assister.
