Liberté, Égalité, Singularité

À l’heure de la globalisation, les frontières ne disparaissent pas qu’entre les pays. Longtemps confinée aux domaines de la science, de l’industrie et du divertissement, la technologie envahit désormais des territoires considérés jusque-là comme essentiellement humains : les relations intimes, la psychologie, l’art, l’éducation et même… la politique. La conquête se fait sur plusieurs fronts simultanément : la sécurité, l’économie, le droit, l’environnement, la santé, mais aussi sur le plan électoral lui-même, et tout cela à grand renfort de big data. Cette évolution, qui soulève pourtant de nombreuses questions éthiques, ne semble pas inquiéter les citoyens et les citoyennes de nos chères démocraties, probablement usées par des décennies de scandales et de crises à répétition. En effet, dans un sondage réalisé le 21 mars 2019 par l’Université IE de Madrid, on apprend que « 25% des Européens seraient prêts à laisser des algorithmes gouverner plutôt que des hommes politiques pour prendre les bonnes décisions (…) Un chiffre qui monte à 30% en Allemagne, en Italie, en Irlande, au Royaume-Uni et même à 43% aux Pays-Bas »… Saint George (Orwell), priez pour nous.

Big data, big brother, big control

Les temps changent et, avec eux, les pratiques politiques. Enfin, les outils évoluent, mais les objectifs des puissants restent, eux, désespérément identiques au fil des siècles. Parmi ces objectifs, la clé de voûte du pouvoir : le contrôle. Et c’est ce que le big data permet aujourd’hui, dans des proportions inédites. Nous sommes scrutés sous toutes les coutures, nos actions sont observées, mesurées et enregistrées sans que nous en ayons conscience : caméras de surveillance dans les rues, reconnaissance faciale, géolocalisation, analyse de nos habitudes de consommation via nos cartes de paiement, de nos préférences culturelles et de nos orientations politiques sur les réseaux sociaux… Nous savons même désormais avec certitude que nous sommes écoutés par nos téléphones portables, nos tablettes et nos ordinateurs. Bien sûr, pour le moment cette collecte de données se fait officiellement à titre anonyme et pour des motivations commerciales. Mais il est clair que leur exploitation ne se limite pas à un usage mercantile et que ces pratiques ont d’ores et déjà des visées politiques, comme l’a démontré récemment le scandale Cambridge Analytica. Ajoutons à ce tableau le développement de nouvelles techniques comme le facial coding, qui consiste à décrypter les émotions sur le visage d’une personne, ou encore le déploiement du nudge, discipline qui vise à influer sur le comportement du consommateur (ou de l’électeur) par des moyens subtils et donc à guider sournoisement ses choix, et nous voyons se dessiner les contours d’une société où les notions de vie privée et de liberté ne seront bientôt plus qu’un lointain souvenir. Or, cette liberté est l’un des fondements de la démocratie et si les avancées technologiques la mettent en péril, alors il ne s’agit plus de progrès, mais d’une terrible régression. Le journaliste et essayiste Philippe Vion-Dury, auteur de La nouvelle servitude volontaire, le confirme : « Les entreprises de la Silicon Valley sont porteuses d’un véritable projet politique. Leurs algorithmes mettent sous leur coupe ceux qui s’y soumettent, volontairement. Aveuglant les consommateurs et les États par l’éclat de leur spectaculaire réussite économique, ces entreprises sont en train d’accumuler des sommes incalculables de données, grâce auxquelles elles ambitionnent de tout mesurer, tout contrôler, tout prévoir. Ou quand les mathématiques deviennent totalitaires. »

Power of equality

Les algorithmes sont-ils égalitaires, par nature ? Dans un rapport de la Human Technology Fondation intitulé « Intelligence artificielle, solidarité et assurances en Europe et au Canada » et daté du 20 janvier 2020, des acteurs majeurs du monde de l’assurance dressent un constat clair : « La montée en puissance des technologies et de l’IA nous force à réfléchir à ces pratiques et à leur futur. Ainsi, le recours, par les assureurs, aux objets connectés qui fournissent des informations précieuses sur le comportement de l’assuré, peut entrer en conflit avec le droit fondamental des personnes de mener leur existence selon leur propre conception de la vie bonne. En outre, l’hypersegmentation, qui aboutirait, à son point limite à la personnalisation complète des tarifs, pourrait remettre en question le principe de mutualisation entre les assurés. » En d’autres termes, l’IA et le big data pourraient accroître les inégalités en faisant payer davantage les citoyens dont on jugera le mode de vie « non conforme ». Les algorithmes pourraient devenir, si l’on n’y prend garde, des outils au service d’une discrimination sans précédent. Et ce qui est valable dans le monde de l’assurance, l’est tout autant dans les domaines de la culture, de l’éducation, de l’orientation religieuse, politique ou même sexuelle… Qui établira ce qui est conforme et ce qui ne l’est pas ? Quels seront les intérêts défendus par les instances en charge de telles décisions ? C’est là que l’État, en tant que représentant de l’intérêt général, a plus que jamais son rôle à jouer. Oui, mais voilà… Pour certains militants radicaux de la big tech, l’État, c’est justement la bête à abattre. Curtis Yarvin, ingénieur quadragénaire de la Silicon Valley et membre du mouvement néo-réactionnaire NRx, déclare : « Les États doivent devenir des entreprises lourdement armées et ultra rentables, qui aboliront le pouvoir de la presse, écraseront les universités, vendront les écoles publiques et transféreront les « populations décivilisées » dans des enclaves sécurisées pour les rééduquer ». Pour David Golumbia, professeur à la Virginia Commonwealth University, ce mépris pour la démocratie ferait partie de l’ADN même des fondateurs de la Valley : « Des gens comme Peter Thiel ou Elon Musk, pour ne citer qu’eux, dont le mépris est encore plus flagrant, sont célébrés comme des héros par les néo-réactionnaires ». Derrière les outils technologiques, il est donc bien question d’idéologie politique.

Make America tech again

Comme tout courant de pensée, l’idéologie techno-futuriste a ses penseurs. D’aucuns diraient ses gourous. Malgré une posture anti-politique de façade, certains ne cachent pas leurs ambitions dans ce domaine, à l’instar de Peter Thiel. Le cofondateur de Paypal et de Palantir Technologies, une société spécialisée dans le big data, a soutenu la candidature de Donald Trump à la présidentielle américaine de 2016 et est resté, depuis, l’un de ses proches conseillers. Pour le très libertarien Thiel, « le sort de notre monde dépend d’un seul individu, d’une personne, qui sera capable de bâtir et diffuser des outils technologiques favorisant la liberté et permettant un monde plus sûr pour l’épanouissement du capitalisme »… Cette personne serait-elle Elon Musk ? Avec son entreprise Neuralink, le patron de Tesla entend augmenter l’être humain grâce à des interfaces homme-machine implantées directement dans le cerveau et ce, afin d’augmenter la mémoire, de piloter des logiciels par la pensée ou encore de bénéficier d’un moteur de recherche cérébral… De quoi donner des sueurs froides à la CNIL, dans une France encore très attachée à la protection des données et aux libertés individuelles. Catherine Vidal, neurobiologiste et membre du comité d’éthique de l’Inserm, estime qu’« une vigilance éthique accrue s’impose face au développement spectaculaire des technologies de manipulations cérébrales qui dépassent désormais le cadre de la médecine, avec des applications commerciales destinées à la population en bonne santé (…) Les stimulations (électriques ou magnétiques) peuvent altérer le fonctionnement normal du cerveau, ses capacités de plasticité, et porter atteinte à l’autonomie du patient en interférant avec ses pensées, ses émotions, son libre arbitre ». Mais si la plupart des chercheurs français se montrent prudents quant à l’impact des neurotechnologies sur la société, les américains sont plus décomplexés, voire carrément débridés. Parmi eux, le pape transhumaniste Ray Kurzweil qui considère que « l’existence humaine ne dépend pas d’un corps biologique » et que « la biologie elle-même n’est qu’un ensemble de nanomachines ». Pour le directeur de l’ingénierie de Google, « les machines dépasseront nos capacités » très bientôt et nous n’aurions d’autres choix, pauvres humains limités que nous sommes, que de fusionner avec une super intelligence artificielle pour survivre. Une vision que partage le leader du parti transhumaniste Zoltan Istvan, candidat aux élections présidentielles de 2020, qui fait campagne « pour mettre fin à l’idée de la mort ». Dans son programme, quelques grands classiques ultralibéraux et technophiles : fin de l’impôt sur le revenu et de l’IRS (l’administration fiscale américaine), réduction du nombre de fonctionnaires grâce aux robots et aux nouvelles technologies, lutte contre le réchauffement climatique avec la géo-ingénierie, développement des utérus artificiels… Mais aussi, en toute logique, des mesures orientées plus radicalement vers le transhumanisme. « Le gouvernement ne devrait pas être en mesure de limiter ce que nous pouvons faire à notre corps, quelles que soient les normes culturelles, les préjugés religieux ou l’orientation politique », déclare le candidat sur son site de campagne. Si Istvan souhaite accéder à la fonction suprême, c’est pour « interdire les lois qui entravent la recherche de la santé et de la longévité pour les citoyens, notamment les interdictions sur l’édition génétique, le clonage et d’autres sciences radicales (…), déréglementer autant que possible l’innovation scientifique et technologique (…), explorer des options telles que donner aux criminels le choix du reconditionnement cérébral plutôt que de l’exécution (…), jeter les bases de droits civils pour de futurs êtres avancés comme les robots conscients, les cyborgs et les êtres vivants génétiquement créés »… Le Docteur Frankenstein est sorti de son laboratoire pour convertir le monde à la religion scientiste. Le président américain ne prêtera-t-il bientôt plus serment sur la Bible lors de son investiture, mais sur l’ouvrage du médecin philosophe Julien Offray de La Mettrie, L’Homme Machine ? Amérique, pays de tous les extrêmes.

Opération Crossroads 2020

« Il est évident que la guerre, peut-être même les civilisations, sont arrivées à un point critique grâce à cette arme révolutionnaire ». Telles sont les paroles du vice-amiral William Blandy, chef de l’opération Crossroads (« À la croisée des chemins »), une série d’essais nucléaires qui eurent lieu dans l’atoll de Bikini, au cours de l’été 1946, et dont le but était de valider la puissance destructrice des bombes A sur des navires et des sous-marins situés aux alentours. À la croisée des chemins, c’est probablement là que nous nous situons actuellement, avec le développement spectaculaire des neurotechnologies, de l’intelligence artificielle et du transhumanisme. Les enjeux de ces progrès sont, tout comme ceux liés à l’invention de la bombe atomique, planétaires et historiques. Nous parlons bel et bien ici, sans exagération, de l’avenir de l’humanité. À nos pieds, s’étendent deux voies, deux visions politiques, deux futurs possibles. L’une de ces routes nous mènerait vers un monde imprégné de scientisme, dans lequel la technologie serait mise au service d’une minorité recherchant toujours plus de richesses et de pouvoir, au détriment d’une population de plus en plus déclassée et soumise. Laurie Pycroft, chercheur en neurochirurgie à l’Université d’Oxford, analyse parfaitement ce risque : « Des neurotechnologies de pointe dont l’usage serait large pourraient offrir des modes de manipulation politique inimaginables jusqu’ici (…) Ce qui nous inquiète, c’est que si les mesures de sécurité appropriées ne sont pas mises en place, les patients pourraient être victimes de sévères effets secondaires, et leurs pensées pourraient être ciblées par des cyberattaques (…)L’attraction que pourrait générer la manipulation des souvenirs chez certains dirigeants politiques me semble évidente ! Modifier la mémoire ou changer notre point de vue sur un sujet est l’un des principaux objectifs de n’importe quel propagandiste. » Si le corps a déjà commencé à être envahi par la société de consommation, à travers la chirurgie esthétique et le transhumanisme, la conscience était restée jusque-là un territoire imprenable. Mais aujourd’hui, ce dernier bastion de la liberté humaine est menacé et pourrait bien être colonisé avec une efficacité redoutable, si nous n’y prenons pas garde. Les capitaines de la big tech eux-mêmes multiplient les déclarations chocs, comme pour se préserver de leur propre hubris. Brad Smith, le président de Microsoft, déclarait en 2018 au Web Summit de Lisbonne : « Pour la première fois, le monde est au seuil de technologies qui donneraient à un gouvernement la possibilité de suivre n’importe qui, n’importe où (…) Il pourrait savoir exactement où vous allez, où vous êtes allé et où vous étiez hier. Et cela a de profondes ramifications potentielles, même pour les libertés civiles fondamentales sur lesquelles reposent les sociétés démocratiques. Avant de nous réveiller et de constater que l’année 2024 ressemble à l’ouvrage « 1984 », déterminons le genre de monde que nous voulons créer, quels sont les garde-fous et les limites des entreprises et des gouvernements dans l’utilisation de ces technologies. » Nous devons, en effet, déterminer le monde dans lequel nous voulons vivre. La crise du Covid-19 nous le rappelle de manière brutale : le marché et ses lois ne nous guident pas vers un monde meilleur, et aujourd’hui sa main invisible doit être désinfectée chaque jour avec du gel hydroalcoolique, sous peine de mort. Pourtant, certaines autorités tentent actuellement de renforcer leur pouvoir – et celui de l’économie néolibérale – en proposant des mesures radicales de surveillance numérique, au prétexte de vouloir protéger les populations… Mais gardons espoir, car il existe une deuxième voie. Nous pouvons bâtir un autre avenir, un monde dans lequel la technologie ne tiendra pas un rôle oppressif, mais libérateur. Une société low tech où le numérique régulera la surconsommation, au lieu de l’aggraver ; où la technologie apportera un soutien à chaque citoyen, quel que soit son niveau social ; où la priorité ne sera pas la rentabilité d’un médicament, mais son efficacité ; où l’épanouissement des salariés prévaudra sur le niveau des dividendes ; où les tâches pénibles et dangereuses seront assurées par des robots, au bénéfice de l’homme ; où les solutions énergétiques durables ne seront pas enterrées parce qu’elles menacent les intérêts de certaines industries polluantes ; où chaque être humain mangera à sa faim, où qu’il soit sur Terre ; où le besoin de sécurité ne sera pas assuré par des politiques de surveillance liberticides, mais par la disparition des inégalités… Un nouvel Éden, où le progrès technique sera au service de l’humanité tout entière. Cette société est possible, ce n’est pas une utopie. Mais pour la faire advenir, nous avons des choix à faire. Des choix politiques, au sens le plus philosophique du terme.

In Google We Trust

Depuis son adoption par le Congrès en 1956, « In God We Trust » (« Nous avons confiance en Dieu ») est devenue la devise officielle des États-Unis. Quelle ironie de voir une nation qui a fondé ses valeurs sur la foi religieuse, devenir le fer de lance de la foi transhumaniste et promettre à qui veut l’entendre, par la bouche de ses techno-prophètes, que l’immortalité numérique est pour bientôt ! C’est justement là qu’une réflexion philosophique s’impose. Paradoxalement, l’intelligence artificielle, aboutissement ultime du matérialisme, va nous obliger à nous poser des questions d’ordre spirituel. Rappelons que la singularité annoncée par Ray Kurzweil, ce moment où l’intelligence artificielle dépassera l’intelligence humaine et où son développement échappera à tout contrôle, a son équivalent en mathématiques et en astrophysique : il s’agit de la frontière d’un trou noir, appelé « horizon des évènements », au-delà de laquelle les lois de la physique ne s’appliquent plus, une réalité littéralement métaphysique. Et c’est l’ultime raison pour laquelle le politique doit s’emparer des questions soulevées par la big tech : pour ne pas laisser ce qui relève de la pérennité de l’humanité aux seuls industriels, dont les choix sont encore trop dictés, aujourd’hui, par des objectifs uniquement financiers. L’humanité est, nous le pressentons tous, à un tournant de son histoire. Il se pourrait que, demain, de nouvelles découvertes scientifiques sur la conscience changent complètement la donne et redéfinissent les priorités de la recherche, autant que la vision que nous avons de la vie elle-même… Que deviendraient les promesses des transhumanistes et leur obsession de « guérir la mort », si nous découvrions que nous avons une âme et qu’elle existe dans une autre dimension ? Zoltan Istvan a-t-il envisagé cette possibilité ? Ray Kurzweil en a-t-il tenu compte dans son business plan ? Qu’elle soit spirituelle ou technologique, la singularité à venir ne peut, par définition, pas être anticipée. Mais une chose est sûre, elle sera le résultat des intentions que nous aurons déposées, aujourd’hui, collectivement, pour la construction de notre futur. Citoyennes, citoyens, nous sommes à la croisée des chemins.

Grégory Aimar
Auteur du roman d’anticipation I.AM

Une mère retrouve son enfant décédé en RV

Souhaitez-vous revoir un être cher décédé – dans un monde virtuel ?

En 2016, Nayeon, la fille de sept ans de Jang Ji-sung, est morte d’une maladie incurable. Trois ans plus tard, la mère sud-coréenne a retrouvé Nayeon – en quelque sorte – dans un monde virtuel créé pour un documentaire télévisé.

La Munhwa Broadcasting Corporation a diffusé sur sa page YouTube un extrait du documentaire spécial intitulé “I Met You”, dont les images se situent entre le “monde réel” et le monde virtuel.

Dans un premier temps, Jang se tient devant un écran vert massif tout en portant à la fois un casque VR et ce qui semble être une sorte de gants haptiques. Puis, elle et sa fille discutent, se tiennent la main et organisent même une fête d’anniversaire avec un gâteau.

La rencontre avec la réalité virtuelle est, comme on peut s’y attendre, extrêmement émouvante. Jang semble se mettre à pleurer dès qu’elle voit sa fille virtuelle, tandis que le reste de la famille – le père, le frère et la sœur de Nayeon – regarde les retrouvailles se dérouler avec des expressions plus sombres et quelques larmes occasionnelles.

“Peut-être que c’est le vrai paradis”, a déclaré Jang à propos des retrouvailles en RV, selon l’Aju Business Daily. “J’ai retrouvé Nayeon, qui m’a appelée avec un sourire, pendant une très courte durée, mais c’est un moment très joyeux. Je crois que j’ai réalisé le rêve que j’ai toujours souhaité”.

Selon Aju Business Daily, l’équipe de production a passé huit mois sur le projet. Ils ont conçu le parc virtuel d’après celui visité par la mère et la fille dans le monde réel, et ont utilisé la technologie de capture de mouvement pour enregistrer les mouvements d’un enfant acteur qu’ils pourraient ensuite utiliser comme modèle pour représenter leur Nayeon virtuel.

Tout cela pour dire que le processus n’est peut-être pas si simple et que le produit final n’est probablement pas parfait, mais nous disposons maintenant de la technologie nécessaire pour recréer les morts en RV – de manière suffisamment convaincante pour émouvoir leurs proches jusqu’aux larmes.

Les implications sont impossibles à prévoir. Quel type d’impact cela aura-t-il sur le processus de deuil ? Le fait de voir un être cher en RV aidera-t-il les gens à tourner la page et à aller de l’avant après un décès ? Certaines personnes deviendront-elles dépendantes de ce monde virtuel, en y passant de plus en plus de temps et de moins en moins dans le monde réel ? Et cela s’arrêtera-t-il avec la RV ? Ou est-ce seulement la première étape vers des androïdes conçus pour imiter nos proches décédés, tant dans leur apparence que dans leur personnalité ?

Plusieurs startups préparent le terrain pour ce futur, en compilant des données sur les personnes vivantes et décédées afin de pouvoir créer des “avatars numériques” de ces personnes. D’autres entreprises construisent déjà des clones robotisés de personnes réelles.

Aju Business Daily, DailyMail

Aventures chez les transhumanistes

Cyborgs, techno-utopistes, hackers et tous ceux qui veulent résoudre le modeste problème de la mort

isbn 9782373090376

Le transhumanisme peut sembler aussi bien porteur d’un immense espoir que terrifiant. Voire totalement absurde… Son but étant d'”améliorer” la condition humaine – le corps et l’esprit – jusqu’au stade où maladie, vieillesse et mort appartiendront au passé, le futur que prônent ses adeptes relève pour l’instant de la science-fiction. Mais ils sont de plus en plus nombreux, notamment parmi les dirigeants de la Silicon Valley, à croire que l’homme vaincra la mort et à plancher sur la question. Fasciné par ce mouvement en plein essor, le journaliste et essayiste irlandais Mark O’Connell est parti à leur rencontre.

Au fil de son enquête au long cours, il a fait la connaissance des figures majeures du mouvement et a exploré les lieux où ils élaborent leurs projets : laboratoires ultramodernes, espaces de stockage cryonique, caves dédiées au biohacking… On y croise des tenants du téléchargement de l’esprit, des immortalistes, des programmeurs informatiques redessinant le monde dans leur coin ou encore des développeurs de robots de guerre. Aventures chez les transhumanistes dévoile les facettes glaçantes de cette galaxie en pleine expansion.

Mark O’Connell est un journaliste et essayiste irlandais dont les travaux sur le transhumanisme ont été publiés dans Slate, le New Yorker et le New York Times Magazine. Livre paru en mars 2017 et déjà traduit dans 10 pays (Chine, République Tchèque, Pays-Bas, Allemagne, Italie, Japon, Corée du Sud, Pologne, Russie, Turquie).

https://iatranshumanisme.com/transhumanisme/politique-transhumanisme-james-hughes/le-transhumanisme-democratique-2-0/

« Une plongée unique au cœur du milieu transhumaniste, qui permet de mieux saisir cette foi dans la technologie (parfois) sinistre et (toujours) excessivement arrogante qui irradie de la Silicon Valley. » —The Guardian

« Les lecteurs apprécieront le sens de l’humour et l’écriture nerveuse de O’Connell, partageant ses nombreuses interrogations sur les conséquences éthiques et les dilemmes moraux qu’implique le transhumanisme. » — Booklist

« Le transhumanisme – défini comme “un mouvement prônant ni plus ni moins que l’émancipation totale vis­à­vis de notre condition biologique” – est passé au crible dans cette enquête très fouillée et provocante à souhait. » — Publishers Weekly

« O’Connell présente aux lecteurs une galerie de personnages burlesques voire délirants, parmi lesquels Max More, un philosophe “extropien” diplômé d’Oxford, qui aspire à repousser toujours plus loin les limites du vivant ; ou encore Zoltan Istvan, le candidat transhumaniste à la présidentielle américaine en 2016, qui mena sa campagne en sillonnant les routes à bord d’un bus en forme de cercueil… » — New Statesman

https://iatranshumanisme.com/transhumanisme/les-organismes-transhumanistes/transhumanistes-extropiens/principes-transhumanistes-dextropie/

Extraits

Plus j’approfondissais le sujet, plus je découvrais que le transhumanisme, malgré son apparente radicalité et bizarrerie, exerçait une influence patente sur la culture de la Silicon Valley – et donc, plus largement, sur l’imaginaire des nouvelles technologies. Elle se manifestait par exemple chez de nombreux entrepreneurs tech adhérant à l’idéal d’une extension conséquente de la durée de vie : c’est notamment le cas du cofondateur de PayPal et investisseur précoce de Facebook Peter Thiel, à l’origine de divers projets allant dans ce sens ; ou de Google, qui a ouvert une filiale spécialisée dans les biotechnologies, Calico, laquelle vise à résoudre le problème de la vieillesse.

On perçoit également cette influence dans les avertissements de plus en plus pressants de personnalités comme Elon Musk, Bill Gates ou Stephen Hawking, qui s’inquiètent de voir un jour notre espèce annihilée par une superintelligence artificielle. Sans oublier l’embauche par Google de Ray Kurzweil, le grand gourou de la « singularité technologique », au poste de directeur de l’ingénierie. Je vois aussi l’empreinte du transhumanisme dans des déclarations telles que celle-ci, signée Eric Schmidt, ex-PDG de Google : « Vous disposerez d’un implant qui vous donnera automatiquement une réponse dès que vous vous poserez une question. » Ces hommes – il s’agissait d’hommes pour l’essentiel – parlaient d’un avenir dans lequel les humains ne feraient plus qu’un avec les machines. Quelles que soient leurs divergences, ils évoquaient tous un futur post-humain, dans lequel le techno-capitalisme survivrait à ses propres inventeurs, trouvant de nouvelles formes pour se perpétuer et tenir ses promesses.

[…]

Une partie de la communauté scientifique se montre de plus en plus inquiète à l’idée qu’une intelligence supérieure balaye l’humanité de la surface de la terre. En découvrant que cette vision de notre avenir technologique était partagée par d’autres personnes que moi, ma nature fataliste y a trouvé matière à entretenir son angoisse.

Les journaux s’empressent souvent de relayer ce genre de prophéties sinistres, généralement illustrées par une image apocalyptique tirée de la franchise Terminator – un robot tueur au crâne de titane dévisageant le lecteur de ses yeux rouges et cruels.

Après avoir qualifié l’IA de « plus grand menace existentielle qui pèse sur l’humanité », Elon Musk a ainsi souligné que nous risquions d’« ouvrir la boîte de Pandore » en la laissant se développer de manière exponentielle. (« J’espère que nous ne serons pas l’amorce de cette superintelligence numérique », a-t-il tweeté en août 2014.) Pour sa part, Peter Thiel a déclaré que « les gens passent trop de temps à se soucier du changement climatique et pas assez à se préoccuper de l’IA ». Quant à Stephen Hawking, il a publié une tribune dans The Independent, qui se présentait clairement sous forme d’avertissement : si l’aboutissement d’un tel projet représenterait sans doute « le plus grand événement de toute l’histoire de l’humanité », celui-ci pourrait « tout aussi bien être le dernier, à moins que nous trouvions dès à présent un moyen de réduire les risques au maximum ». Même Bill Gates a publiquement exprimé ses craintes à ce sujet, ajoutant « ne pas comprendre pourquoi certaines personnes ne s’en inquiètent pas ».

Suis-je moi-même inquiet ? Oui et non. Malgré le fait qu’elles entrent en résonance avec ma tendance innée au pessimisme, je ne suis pas vraiment convaincu par ces augures apocalyptiques, en grande partie parce qu’elles me semblent être le pendant des prophéties les plus optimistes sur l’IA – où l’on assisterait à une grande redistribution des rôles, où les humains seraient propulsés au plus haut sommet de la connaissance et la puissance, où ils vivraient pour l’éternité dans la lumière resplendissante de la Singularité. Au fil de ma réflexion, j’ai pourtant vite compris que mon scepticisme était davantage lié à mon tempérament qu’à des arguments logiques. Le fait est que j’ignore à peu près tout des raisons scientifiques (probablement excellentes) qui motivent une telle frayeur. Et même si je n’y crois pas, je reste néanmoins fasciné par cette idée morbide : nous pourrions être sur le point de créer une machine capable de rayer notre espèce de la carte.

[…]

Nate Soares leva une main en direction de son crâne rasé de frais, qui lui conférait de faux airs de moine, et se tapota le front à coups secs afin d’accompagner le geste à la parole : « Encore aujourd’hui, pour faire fonctionner un être humain, il faut obligatoirement passer par cette masse de viande et de neurones. »

Nous discutions des avantages qui pourraient découler de l’avènement d’une superintelligence artificielle. Pour Nate, le principal d’entre eux serait la capacité de faire fonctionner un être humain – à commencer par lui-même – sur un autre support que celui qu’il pointait du doigt.

C’était un homme trapu et calme, aux larges épaules, âgé d’environ 25 ans. Autre détail : il portait un T-shirt orné de l’inscription « Nate le Grand ». Tandis qu’il se rasseyait sur sa chaise de bureau et croisait les jambes, je remarquais aussitôt 1) qu’il avait retiré ses chaussures ; 2) que ses chaussettes étaient dépareillées – l’une bleue unie, l’autre blanche avec des motifs.

La pièce était totalement vide à l’exception des chaises sur lesquelles nous étions assis, d’un tableau blanc et d’un bureau, où étaient posés un ordinateur portable ouvert et une édition papier du livre Superintelligence de Nick Bostrom. Nous nous trouvions dans le bureau de Nate au Machine Intelligence Research Institute (MIRI) de Berkeley. L’aspect dépouillé de la pièce tenait sans doute au fait qu’il venait tout juste de décrocher un nouveau travail ici, celui de directeur exécutif. Il avait quitté l’an passé son poste lucratif d’ingénieur logiciel chez Google, avant de gravir rapidement les échelons au sein du MIRI. Son prédécesseur était Eliezer Yudkowsky – le théoricien de l’IA cité par Bostrom dans son livre –, qui avait fondé l’institut en 2000.

Je savais que Nate nourrissait des projets ambitieux pour le MIRI après avoir lu ses nombreux articles publiés sur le site Less Wrong, où il évoquait l’objectif qu’il s’était depuis longtemps assigné : sauver le monde d’une destruction certaine. Dans l’un de ces textes, il revenait sur son éducation catholique stricte, sa rupture avec la foi à l’adolescence et le déploiement subséquent de son énergie dans « l’optimisation de l’avenir » – bien entendu grâce aux lumières de la raison. Ses arguments rhétoriques me semblaient être une version hypertrophiée du verbiage de la Silicon Valley, où chaque nouveau réseau social ou start-up centrée sur l’économie du partage avait la ferme intention de « changer le monde ».

[…]

D’une manière ou d’une autre, les robots représentent notre avenir. C’est en tout cas ce que m’ont assuré les transhumanistes auxquels j’ai parlé. Qu’il s’agisse de Randal Koene, Natasha Vita-More ou Nate Soares, ils en sont tous persuadés à des degrés divers et variés. Soit que nous devenions nous-mêmes des robots et que nos esprits soient téléchargés dans des machines plus performantes que nos corps de primates. Soit que nous vivions au milieu de machines toujours plus évoluées, au point de leur céder chaque jour des pans toujours plus grands de notre travail et de notre autonomie. Soit qu’ils finissent par nous rendre obsolètes et par remplacer complètement notre espèce.

Tandis que je prenais mon petit-déjeuner en regardant mon fils jouer avec le petit robot que je lui avais rapporté de San Francisco, l’objet vacillant sur la table tel Frankenstein en direction du saladier à fruits, je me demandais quel rôle les véritables robots joueraient dans son avenir. Parmi toutes les carrières professionnelles que je lui avais imaginées, combien existeraient encore dans vingt ans ? Et combien auraient été rattrapées par l’automatisation totale, le rêve ultime du techno-capitalisme entrepreneurial ? Un jour, il m’intercepta dans le couloir après avoir regardé deux ou trois épisodes d’un dessin-animé pour enfants.

« Je-suis-une-machine-qui-marche », dit-il, alors qu’il mimait la démarche saccadée des robots tout en décrivant des cercles autour de mes jambes. Cela semblait une chose étrange à dire. Il est vrai, cependant, que la majeure partie de ses propos relevaient de cette catégorie : l’étrangeté.

J’avais beaucoup réfléchi aux robots sans pour autant en avoir jamais vu pour de vrai. Pas en chair et en os, si je suis dire, pas en action. De sorte que je ne savais pas exactement ce à quoi j’étais en train de réfléchir. Jusqu’à ce j’entende parler du DARPA Robotics Challenge, un événement au cours duquel les ingénieurs en robotique les plus réputés de la planète se réunissaient pour faire concourir leurs robots les uns contre les autres, dans une série d’épreuves conçues pour tester leurs performances dans des environnements hostiles ou dans des situations génératrices de stress pour l’homme. Notant que le New York Times décrivait l’évènement comme « le Woodstock des robots », je décidai sur-le-champ qu’il me fallait y assister.

https://iatranshumanisme.com/transhumanisme/politique-transhumanisme-james-hughes/

Transhumanisme : Adam Savage interviewe Natasha Vita-More

Natasha Vita-More explique ce que le transhumanisme signifie pour les humains ordinaires, comment cela va influencer l’évolution de l’humanité, et à quel point nous sommes proches de télécharger notre cerveau dans des bases de données, assurant notre immortalité.

Immortalité, dernière frontière – ARTE

Aubrey de Grey & Ray Kurzweil la mort sera bientôt conquise

L’Invention des corps

Dès les premières pages, L’invention des corps s’élance dans le sillage d’Álvaro, jeune prof mexicain, surdoué de l’informatique, en cavale après les tragiques événements d’Iguala, la nuit du 26 septembre 2014 où quarante-trois étudiants disparurent, enlevés et assassinés par la police. Rescapé du massacre, Álvaro file vers la frontière américaine, il n’est plus qu’élan, instinct de survie. Aussi indomptable que blessé, il se jette entre les griffes d’un magnat du Net, apprenti sorcier de la Silicon Valley, mécène et apôtre du transhumanisme, qui vient de recruter une brillante biologiste française. En mettant sa vie en jeu, Álvaro s’approche vertigineusement de l’amour, tout près de trouver la force et le désir d’être lui-même. Exploration tentaculaire des réseaux qui irriguent et reformulent le contemporain – du corps humain au World Wide Web –, L’invention des corps cristallise les enjeux de la modernité avec un sens crucial du suspense, de la vitesse et de la mise en espace. Il y a une proportion élevée de réalité dans cette histoire étourdissante, sans doute sa part la plus fantastique, la plus effrayante. Mais c’est dans sa foi butée, parfois espiègle, en l’être humain que ce roman d’alerte déguisé en page-turner puise son irrésistible force motrice.

Lire un extrait

Transhumanisme. Utopie ou néofascisme ?

Humanité Dimanche, 30 juillet 2015

2045, l’intelligence des machines va nous dépasser… 2030, vous serez tous équipés de prothèses. Les transhumanistes imaginent ainsi améliorer l’espèce humaine par la technologie et la science, tuer la mort en quelque sorte. A priori, on aurait envie de reléguer ces scénarios au rayon science-fiction. En réalité, c’est un projet sérieux, à la fois structuré philosophiquement et politiquement. Issu des libertariens, le mouvement s’épanouit grâce aux millions déversés par les géants du numérique. Balade en Transhumanie, un monde où l’espèce humaine doit disparaître…

lire la suite, télécharger le PDF

[note admin : Les extropiens constituent un groupe de transhumanistes fondé par Tom M. Morrow et Max More. En 1990, un code plus formel et concret pour les transhumanistes libertariens prend la forme des Principes transhumanistes d’Extropie (Transhumanist Principles of Extropy, traduction française), l’extropianisme étant une synthèse du transhumanisme et du néolibéralisme.

Transhumanisme : l’homme et après ? France Culture

Émission du 15 août 2016

https://media.radiofrance-podcast.net/podcast09/13983-15.08.2016-ITEMA_21051047-1.mp3?_=1

 

Intervenants : Guy Vallancien : chirurgien, professeur de médecine, Pascal Picq : paléoanthropologue

“La mort n’est pas une maladie. La mort et la vie sont indissociables.”

Immortalité, dernière frontière – ARTE

Aux antipodes de la science-fiction, chercheurs et entrepreneurs veulent défier l’inéluctabilité de la mort. Un état des lieux passionnant de la quête de l’immortalité.

Avec les progrès de la médecine, le vieux rêve de l’immortalité vit une nouvelle jeunesse. Les avancées combinées de la biologie et du numérique pourraient-elles nous permettre d’en finir avec la mort ? À travers le monde, des scientifiques et des entrepreneurs se penchent déjà avec le plus grand sérieux sur la question. La cryogénie se perfectionne, et de nombreux défunts ont confié à des capsules en aluminium leur espoir de défier l’inéluctable. Le clonage, lui aussi, laisse entrevoir cette possibilité. Il suffirait de dupliquer numériquement son cerveau, pour le reproduire, après sa mort, dans un corps “augmenté”. Oui, l’avenir semble bel et bien rimer avec l’immortalité. Mais à quel prix ? Comment nos sociétés, déjà exsangues, pourraient-elles s’accommoder d’une explosion démographique ? Sans parler des multiples questions philosophiques entourant ce phénomène. L’immortalité est-elle d’ailleurs promise à tous ? Aux États-Unis, les villes de seniors, censées prolonger la durée de vie (comme Sun City, interdite aux moins de 65 ans), donnent une indication : seuls les plus fortunés y sont admis

Qui sont ces transhumanistes, persuadés que le prochain stade d’évolution de l’homme sera la victoire sur la mort ? Des cryogénistes anglais à Dmitry Itskov, milliardaire russe ayant investi sa fortune dans la quête de l’immortalité, en passant par Google qui, flairant le jackpot, a engagé ses meilleurs chercheurs sur le sujet, les réalisatrices font le bilan de ces nouveaux espoirs et de leurs enjeux économiques, sociaux et éthiques. Avec cette question en fil rouge : une vie sans fin vaut-elle la peine d’être vécue ?

Un documentaire de Sylvie Blum (France, 2014, 1h31mn). Diffusion sur ARTE le mardi 12 avril à 22h40

https://rutube.ru/video/7c305c1501d6d6bd6025311839584c59/

 

https://rutube.ru/video/f82ef394be8337a6549a01f2ef980620/