Les fondements, avantages et la possible menace existentielle de l’IA

Au cours des derniers siècles, la condition humaine a été profondément modifiée par les révolutions agricole et industrielle. Avec la création et le développement continu de l’intelligence artificielle, nous sommes en plein essor d’une révolution de l’intelligence qui pourrait s’avérer bien plus transformatrice que les deux précédentes. Comment en sommes-nous arrivés là, et quels étaient les fondements intellectuels nécessaires à la création de l’intelligence artificielle ? Quels avantages pouvons-nous tirer de l’alignement des systèmes d’intelligence artificielle, et quels sont les risques et les pièges potentiels ? À plus long terme, les systèmes d’IA superintelligents présenteront-ils un risque existentiel pour l’humanité ? Steven Pinker, auteur à succès et professeur de psychologie à Harvard, et Stuart Russell, professeur d’informatique à l’Université de Berkeley, répondent à ces questions.

Steven Pinker and Stuart Russell on the Foundations, Benefits, and Possible Existential Threat of AI by Future of Life Institute

Intelligence artificielle : entre mythe et réalité

Les machines risquent-elles de devenir plus intelligentes que les hommes ?

Non, répond Jean-Gabriel Ganascia : il s’agit là d’un mythe inspiré par la science-fiction. Il rappelle les grandes étapes de ce domaine de recherche, les prouesses techniques actuelles et les questions éthiques qui requièrent des réponses de plus en plus urgentes.

L’intelligence artificielle est une discipline scientifique qui a vu officiellement le jour en 1956, au Dartmouth College, à Hanovre, aux États-Unis, lors d’une école d’été organisée par quatre chercheurs américains : John McCarthy, Marvin Minsky, Nathaniel Rochester et Claude Shannon. Depuis, le terme « intelligence artificielle », qui à l’origine avait sans doute été inventé pour frapper les esprits, a fait fortune, puisqu’il est devenu très populaire au point qu’aujourd’hui plus personne ne l’ignore, que cette composante de l’informatique a pris de plus en plus d’ampleur au fil du temps et que les technologies qui en sont issues ont grandement contribué à changer le monde pendant les soixante dernières années.

Cependant, le succès du terme « intelligence artificielle » repose parfois sur un malentendu lorsqu’il désigne une entité artificielle douée d’intelligence et qui, de ce fait, rivaliserait avec les êtres humains.

Cette idée, qui renvoie à des mythes et des légendes anciennes, comme celle du Golem, a récemment été réactivée par des personnalités du monde contemporain comme le physicien britannique Stephen Hawking (1942-2018), l’entrepreneur américain Elon Musk, le futuriste américain Ray Kurzweil ou encore par les tenants de ce que l’on appelle aujourd’hui l’« IA forte » ou l’« IA générale ». Nous ne ferons toutefois pas plus état, ici, de cette acception seconde, car elle atteste uniquement d’un imaginaire foisonnant, inspiré plus par la science-fiction que par une réalité scientifique tangible confirmée par des expérimentations et des observations empiriques.

Intelligence Artificielle Générale : Les gouvernements doivent investir

Pour John McCarthy et Marvin Minsky, comme pour les autres promoteurs de l’école d’été du Dartmouth College, l’intelligence artificielle visait initialement à la simulation, par des machines, de chacune des différentes facultés de l’intelligence, qu’il s’agisse de l’intelligence humaine, animale, végétale, sociale ou phylogénétique.

Plus précisément, cette discipline scientifique reposait sur la conjecture selon laquelle toutes les fonctions cognitives, en particulier l’apprentissage, le raisonnement, le calcul, la perception, la mémorisation, voire même la découverte scientifique ou la créativité artistique, peuvent être décrites, avec une précision telle qu’il serait possible de programmer un ordinateur pour les reproduire. Depuis plus de soixante ans que l’intelligence artificielle existe, rien n’a permis ni de démentir, ni de démontrer irréfutablement cette conjecture qui demeure à la fois ouverte et féconde.

Une histoire en dents de scie

Au cours de sa courte existence, l’intelligence artificielle a connu de nombreuses évolutions. On peut les résumer en six étapes.

Le temps des prophètes

Tout d’abord, dans l’euphorie des origines et des premiers succès, les chercheurs s’étaient laissé aller à des déclarations un peu inconsidérées qu’on leur a beaucoup reprochées par la suite.

C’est ainsi qu’en 1958, l’Américain Herbert Simon, qui deviendrait par la suite prix Nobel d’économie, avait déclaré que d’ici à dix ans les machines seraient championnes du monde aux échecs, si elles n’étaient pas exclues des compétitions internationales.

Les années sombres

Au milieu des années 1960, les progrès tardaient à se faire sentir. Un enfant de dix ans avait battu un ordinateur au jeu d’échecs en 1965 ; un rapport commandé par le Sénat américain faisait état, en 1966, des limitations intrinsèques de la traduction automatique. L’IA eut alors mauvaise presse pendant une dizaine d’années.

L’IA sémantique

Les travaux ne s’interrompirent pas pour autant, mais on axa les recherches dans de nouvelles directions. On s’intéressa à la psychologie de la mémoire, aux mécanismes de compréhension, que l’on chercha à simuler sur un ordinateur, et au rôle de la connaissance dans le raisonnement. C’est ce qui donna naissance aux techniques de représentation sémantique des connaissances, qui se développèrent considérablement dans le milieu des années 1970, et conduisit aussi à développer des systèmes dits experts, parce qu’ils recouraient au savoir d’hommes de métiers pour reproduire leurs raisonnements. Ces derniers suscitèrent d’énormes espoirs au début des années 1980 avec de multiples applications, par exemple pour le diagnostic médical.

Science des données, Machine Learning et Deep Learning

Néo-Connexionnisme et apprentissage machine

Le perfectionnement des techniques conduisit à l’élaboration d’algorithmes d’apprentissage machine (machine learning), qui permirent aux ordinateurs d’accumuler des connaissances et de se reprogrammer automatiquement à partir de leurs propres expériences.

Cela donna naissance à des applications industrielles (identification d’empreintes digitales, reconnaissance de la parole, etc.), où des techniques issues de l’intelligence artificielle, de l’informatique, de la vie artificielle et d’autres disciplines se côtoyaient pour donner des systèmes hybrides.

De l’intelligence artificielle aux interfaces homme-machine

À partir de la fin des années 1990, on coupla l’intelligence artificielle à la robotique et aux interfaces homme-machine, de façon à produire des agents intelligents qui suggèrent la présence d’affects et d’émotions. Cela donna naissance, entre autres, au calcul des émotions (affective computing), qui évalue les réactions d’un sujet ressentant des émotions et les reproduit sur une machine, et surtout au perfectionnement des agents conversationnels (chatbots).

Renaissance de l’intelligence artificielle

Depuis 2010, la puissance des machines permet d’exploiter des données de masse (big data) avec des techniques d’apprentissage profond (deep learning), qui se fondent sur le recours à des réseaux de neurones formels. Des applications très fructueuses dans de nombreux domaines (reconnaissance de la parole, des images, compréhension du langage naturel, voiture autonome, etc.) conduisent à parler d’une renaissance de l’intelligence artificielle.

https://iatranshumanisme.com/transhumanisme/intelligence-artificielle-dimensions-socio-economiques-politiques-et-ethiques/

Applications

Beaucoup de réalisations mettant à profit des techniques d’IA dépassent les facultés humaines : une machine a vaincu, au jeu d’échecs, le champion du monde en titre en 1997 et, plus récemment, en 2016, d’autres l’ont emporté sur l’un des meilleurs joueurs au monde au jeu de go et sur d’excellents joueurs de poker ; des ordinateurs démontrent ou aident à démontrer des théorèmes mathématiques ; on construit automatiquement des connaissances à partir de masses immenses de données dont le volume se compte en téraoctets (10 12 octets), voire en pétaoctets (10 15 octets), avec les techniques d’apprentissage machine.

Grâce à ces dernières, des automates reconnaissent la parole articulée et la transcrivent, comme les secrétaires dactylographes d’antan, et d’autres identifient avec précision des visages ou des empreintes digitales parmi des dizaines de millions et comprennent des textes écrits en langage naturel. Toujours grâce à ces techniques d’apprentissage machine, des voitures se conduisent seules ; des machines diagnostiquent mieux que des médecins dermatologues des mélanomes à partir de photographies de grains de beauté prises sur la peau avec des téléphones portables ; des robots font la guerre à la place des hommes  ; et des chaînes de fabrication dans les usines s’automatisent toujours plus.

Par ailleurs, les scientifiques utilisent ces techniques pour déterminer la fonction de certaines macromolécules biologiques, en particulier de protéines et de génomes, à partir de la séquence de leurs constituants – acides aminées pour les protéines, bases pour les génomes. Plus généralement, toutes les sciences subissent une rupture épistémologique majeure avec les expérimentations dites in silico, parce qu’elles s’effectuent à partir de données massives, grâce à des processeurs puissants dont le cœur est fait de silicium, et qu’elles s’opposent en cela aux expérimentations in vivo, sur le vivant, et, surtout, in vitro, c’est-à-dire dans des éprouvettes de verre.

Ces applications de l’intelligence artificielle affectent presque tous les domaines d’activités, en particulier dans les secteurs de l’industrie, de la banque, des assurances, de la santé, de la défense : en effet, de nombreuses tâches routinières sont désormais susceptibles d’être automatisées, ce qui transforme bien des métiers et éventuellement en supprime certains.

L’initiative mondiale de l’IEEE pour les considérations éthiques en Intelligence Artificielle et des Systèmes Autonomes

Quels risques éthiques ?

Avec l’intelligence artificielle, non seulement, la plupart des dimensions de l’intelligence – sauf peut-être l’humour – font l’objet d’analyses et de reconstructions rationnelles avec des ordinateurs, mais de plus les machines outrepassent nos facultés cognitives dans la plupart des domaines, ce qui fait craindre à certains des risques éthiques. Ces risques sont de trois ordres : la raréfaction du travail, qui serait exécuté par des machines à la place des hommes ; les conséquences pour l’autonomie de l’individu, en particulier pour sa liberté et sa sécurité ; le dépassement de l’humanité qui disparaîtrait au profit de machines plus « intelligentes ».

Or, un examen de détail montre que le travail ne disparaît pas, bien au contraire, mais qu’il se transforme et fait appel à de nouvelles compétences. De même, l’autonomie de l’individu et sa liberté ne sont pas inéluctablement remises en cause par le développement de l’intelligence artificielle, à condition toutefois de demeurer vigilants face aux intrusions de la technologie dans la vie privée.

Enfin, contrairement à ce que certains prétendent, les machines ne constituent aucunement un risque existentiel pour l’humanité, car leur autonomie n’est que d’ordre technique, en cela qu’elle ne correspond qu’à des chaînes de causalités matérielles qui vont de la prise d’information à la décision ; en revanche, les machines n’ont pas d’autonomie morale, car, même s’il arrive qu’elles nous déroutent et nous fourvoient dans le temps de l’action, elles n’ont pas de volonté propre et restent asservies aux objectifs que nous leur avons fixés.

Professeur d’informatique à Sorbonne Université, Jean-Gabriel Ganascia (France) est également chercheur au LIP6, EurAI fellow, membre de l’Institut Universitaire de France et président du comité d’éthique du CNRS. Ses activités de recherche portent actuellement sur l’apprentissage machine, la fusion symbolique de données, l’éthique computationnelle, l’éthique des ordinateurs et les humanités numériques.

Le Courrier de l’UNESCO • juillet-septembre 2018

Upgrade un thriller futuriste et transhumaniste

Situé dans un futur proche, la technologie contrôle presque tous les aspects de la vie. Grey Trace (Logan Marshall-Green), un technophobe, est devenu paralysé suite à une agression et au meurtre de sa femme. Lorsqu’il est approché par un inventeur milliardaire, il est équipé d’un implant cérébral appelé STEM, qui se révèle être une redoutable intelligence artificielle et qui lui donne des capacités presque surhumaines, ainsi qu’une occasion de traquer le tueur de sa femme. Un thriller futuriste et transhumaniste.

Upgrade a été écrit et réalisé par Leigh Whannell (Saw) et sera dans les salles américaines à partir du 1er juin 2018. Il n’y a pas encore de date de sortie au Royaume-Uni ni en France. Le film est produit par Blumhouse Productions.

Transhumanisme : business d’un mythe

S’il est un terme qui revient systématiquement à l’évocation des promesses technologiques actuelles, c’est celui de transhumanisme – à savoir, cette idéologie du dépassement de la nature humaine par la technologie. Celui-ci fait désormais florès, que ce soit en fin d’éditorial sur l’intelligence artificielle, lors d’un reportage sur la médecine réparatrice ou dans un rapport sur l’ingénierie génétique. Toujours, la perspective de la fin de l’humanité sinon celle du travail, le mirage de l’immortalité ou encore l’espoir d’une fusion salutaire entre l’Homme et la machine alimentent tous types d’appels à la régulation et d’admonestations éthiques, repris en cœur dans le paysage médiatique français comme autant de litanies post-modernes. Or, pour dénoncer les vraies erreurs scientifiques de ceux qui profitent de ce business du mythe, il s’agit de ne pas se tromper de procès.

Une humanité à deux vitesses ?

Le transhumanisme subit le tir croisé de bons et de mauvais procès. Dans cette dernière catégorie, le plus courant consiste à dire que seuls les plus riches auront accès aux technologies augmentatives (implants neuronaux, prothèses bioniques voire modifications génétiques), leur conférant un avantage concurrentiel indéniable sur le reste de la population. Faux procès puisque les technologies sur lesquelles les transhumanistes portent leurs espoirs, regroupées sous l’acronyme NBIC, (nanotechnologies, biotechnologies, informatique et sciences cognitives) progressent à un rythme exponentiel proportionnel à l’effondrement de leur coût. L’exemple le plus marquant est celui du coût du séquençage de l’ADN – le premier de ce genre ayant été finalisé en 2003 après quinze ans de recherches pour une dépense de deux milliards d’euros. Ce même exercice se réalise aujourd’hui en quelques heures pour moins de 750€.

Le coût des technologies de pointe s’effondre en effet grâce à plusieurs phénomènes. En raison, d’abord, d’économies d’échelles dues à une augmentation de la production technologique procédant de celle de la demande. De même, les innovations croisées dans les méthodes de productions – terme qui désigne le fait que les progrès dans un domaine permettent des innovations dans un autre – donnent lieu à des observations remarquables : citons par exemple la réalisation, par Joel Gibbard, d’une prothèse de main grâce à une imprimante 3D. Imprimable en une quarantaine d’heures seulement, cette prothèse coûte un peu moins de 1 370€ contre des tarifs habituellement compris entre 41 000 à 82 000€.

Dans le même ordre d’idée, on associe souvent l’eugénisme – cette volonté de modifier le patrimoine génétique humain – transhumaniste à celui d’autres idéologies totalitaires. La sélection des embryons ou la modification de son propre génome ne serait pourtant pas l’apanage des régimes inégalitaires : Luc Ferry considère au contraire, dans La Révolution transhumaniste, qu’elle permettrait la réalisation de l’utopie égalitaire. Après avoir gommé autant que possible les sources d’inégalités socialement construites, l’ultime bastion de l’inégalité entre les individus demeure, puisque l’on ne choisit pas son génome. « From Chance to Choice » serait alors le slogan tout désigné d’une société où la liberté des individus à s’autodéterminer ferait office de valeur universelle.

L’intelligence humaine bientôt dépassée ?

Le Professeur Laurent Alexandre, très entendu sur le thème de l’intelligence artificielle (IA), invoque régulièrement le risque d’une humanité dépassée dans tous les domaines par la puissance technologique.

Kevin Kelly, essayiste et co-fondateur du magasine Wired, s’attaque à cette idée dans un article publié en avril 2017. Il y démontre que l’idée de l’avènement d’une intelligence technologique supérieure en tout point à la nôtre n’est que le produit d’une série d’erreurs scientifiques pourtant largement répandues dans la Silicon Valley. En réalité, les erreurs attachées à l’intelligence artificielle trahissent une incompréhension de ce qu’est l’intelligence d’une manière générale. Par exemple, la vision unidimensionnelle de l’intelligence, pourtant reprise par Nick Bostrom, transhumaniste et auteur de Superintelligence, s’avère poser problème. Il n’existe pas d’échelle d’évolution sur laquelle puisse se situer de successives formes d’intelligences. L’intelligence, au contraire, est pluridimensionnelle et non linéaire, c’est-à-dire que chaque type de cognition répond à un besoin spécifique (lié à l’adaptation d’un système biologique à son environnement).

Certes, des programmes d’IA sont d’ores et déjà imbattables en calcul, aux échecs ou au jeu de Go. Il est à admettre qu’aucun être humain n’a la mémoire nécessaire pour retenir tout Wikipédia, comme l’a fait le superordinateur Watson d’IBM pour vaincre le champion du monde de Jeopardy dans une séquence largement relayée par les médias. Mais l’intelligence humaine est-elle réellement mesurable à cette aune ? Un écureuil peut retenir la localisation exacte d’un millier de cachettes à noisettes pendant toute sa vie : cet animal est-il pour autant plus intelligent que notre voisin qui n’a de cesse d’égarer ses clés ? Kevin Kelly revendique l’idée qu’il ne saurait exister d’intelligence absolue, dite de general purpose. La question du sens, ou de la fonction de l’intelligence, est primordiale.

En effet, chaque type de cognition a une fonction au sens physiologique comme cela a été démontré par les neuroscientifiques modernes (Antonio Damasio par exemple). La question du support (corps carboné versus puces en silicium) conditionne et « donne un sens » à la nature profonde d’une intelligence. Sans corps biologique, l’intelligence artificielle ne peut se comparer à la nôtre. Il en découle que le type de cognition attaché au corps biologique humain ne permet pas de retenir des terra octets de données par cœur. En revanche, lui seul sait donner un sens à chacune des phrases d’un livre, sens qui résulte des liaisons neuronales complexes ramenant chaque concept à une sensation de plaisir ou de déplaisir inhérente à la neurophysiologie humaine.

L’intelligence humaine restera ainsi toujours la seule adaptée à un contexte proprement humain. Si elle peut avoir utilité des applications dérivées du machine-learning, celles-ci ne sauraient rester que des outils mis à notre disposition. Bien que leur complexité donne à ces outils les formes de certains types de cognitions avancées (calcul, déduction, analyse, synthèse, etc.), l’intelligence humaine sera toujours nécessaire pour redonner un sens proprement humain à leurs produits.

Le nouveau business du mythe : entre marketing de la peur et logique d’escalade

Il conviendrait dès lors de relayer les prophéties d’une super-intelligence artificielle au rang de mythes fondés sur nombre de biais et d’erreurs scientifiques. Il se trouve pourtant que derrière les discours apocalyptiques qui s’en nourrissent peuvent se cacher d’importants intérêts économiques.

Entretenus par Hollywood et renforcés par l’entremise de tribunes, ces mythes permettent de faire monter l’anxiété dans l’opinion, à grand renfort de tweets annonciateurs de l’extinction prochaine de l’humanité. Encore récemment (4 septembre 2017), le très populaire dirigeant de Tesla, Elon Musk, annonçait que la compétition pour créer une IA supérieure déclenchera une troisième guerre mondiale.

Des propos qui font écho à ceux de nos techno-prophètes hexagonaux qui déplorent le retard et les valeurs conservatrices d’une Europe, en retard sur le terrain des technologies NBIC. Ici, on agite le spectre de la supériorité chinoise et américaine pour justifier la course à l’armement technologique. « Nous ne les convaincrons pas de devenir conservateurs, alors que fait-on ? Acceptons-nous d’être déclassés, de devenir les Amish du XXème siècle, en défendant nos valeurs ? […] Il est urgent de prendre la mesure de l’ampleur de cette révolution. » écrit ainsi Laurent Alexandre, dont le dernier livre s’intitule La Guerre des Intelligences.

L’horizon indépassable de ce conflit annoncé a pour effet paradoxal de nous précipiter dans une logique d’escalade pour la dominance technologique. Pour pallier l’absence de concertation internationale à un niveau étatique sur ces enjeux, certains intérêts privés s’allient. En septembre 2016, Amazon, Facebook, Google, Deepmind, Microsoft, IBM, s’unissaient dans un consortium technologique nommé Partnership on AI. Bientôt rejoints par Apple, ces géants du digital affichent vouloir s’entendre sur une utilisation éthique de l’IA.

Insuffisant pour Elon Musk, qui a fait savoir par tweets interposés aux patrons de Google et de Facebook qu’ils ne prenaient pas la perspective de l’avènement d’une super-intelligence à sa juste mesure. Un an auparavant, il créait lui-même une association à but non lucratif destinée à promouvoir la recherche favorisant « une IA à visage humain » nommée Open AI. Après deux ans de recherche, la conclusion de l’industriel est sans appel : « Il est urgent d’hybrider nos cerveaux avec des micro-processeurs, avant que l’intelligence artificielle nous transforme en animaux domestiques ».

Il est fort à parier qu’avec de tels discours, les sommes investies dans Open AI trouveront la voie de la rentabilité : Neuralink, nouvelle start-up dévoilée par Elon Musk le 28 Mars 2017, propose à ses clients de rester dans la course à l’intelligence grâce à ses implants intracérébraux connectés (disponibles d’ici cinq ans selon les dernières annonces).

Une nécessaire prise de recul

Il est nécessaire de prendre un certain recul épistémologique ainsi que d’être conscients de nos biais culturels si nous voulons faire le tri entre les effets d’annonce, les promesses démiurgiques et la réalité des avancées scientifiques, entre les questionnements légitimes et le marketing de l’anxiété.

Les avancées technologiques des NBIC portent en effet des promesses importantes dont il ne sera possible de profiter qu’une fois nos imaginaires débarrassés de nombre de fantasmes qui y sont rattachés. Il ne s’agit pas de refuser d’emblée les implants intracérébraux, la thérapie génique, les prothèses bioniques ou la sélection des cellules souches, mais de rester vigilants quant au rôle systémique des usages qui en sera fait. Dans un récent rapport, les Vendredis de la Colline énoncent un principe thérapeutique selon lequel doit se refuser le dopage et la mutilation d’un corps sain qui souhaiterait s’augmenter : prenons le cas d’un athlète qui demanderait à se sectionner les jambes pour pouvoir porter des prothèses en carbone, plus performantes. Le principe thérapeutique est une boussole importante pour éviter de nombreuses dérives, mais il doit être intégré à une vision systémique plus large. En effet il importe également que ne soit pas banalisé le recours à la thérapeutique quand cette dernière ne fait que pallier les carences d’une démarche préventive efficiente. Par exemple, le recours aux implants pancréatiques ne doit pas se substituer à une prévention globale contre le diabète de type II, dont on connaît les liens avec le mode de vie et l’environnement social.

Prendre du recul, discuter de la fonction et des usages, tel pourrait être le rôle d’une Convention of Parties (COP) digitale autour des sujets du numérique et de l’humain, idée pour laquelle milite notamment le Professeur Guy Vallancien. Sans doute est-ce un moyen d’éviter la logique d’escalade dans laquelle nous précipitent les businessmen du techno-frisson.

Par Ken LeCoutre, responsable du département “Santé & Innovation” des Vendredis de la Colline.

Life 3.0 : Être humain à l’ère de l’intelligence artificielle

Life 3.0: Being Human in the Age of Artificial Intelligence

Nous sommes au début d’une nouvelle ère. Ce qui était autrefois de la science-fiction, devient réalité, car l’intelligence artificielle transforme la guerre, le crime, la justice, les emplois et la société, et même notre sens de ce que signifie être humain.

Plus que toute autre technologie, l’intelligence artificielle a le potentiel de révolutionner notre avenir collectif – et personne n’est mieux situé ou qualifié pour explorer cet avenir que Max Tegmark, un professeur du MIT et cofondateur de Future of Life Institute, dont le travail a contribué à intégrer la recherche sur la façon de garder l’intelligence artificielle bénéfique.

Dans ce nouvel ouvrage profondément étudié et d’une importance vitale, Tegmark nous conduit au cœur de la pensée de l’intelligence artificielle et de la condition humaine, en nous confrontant aux questions essentielles de notre temps.

Comment pouvons-nous accroître notre prospérité grâce à l’automatisation, sans laisser les gens dépourvues de revenu ou de but ? Quels conseils de carrière devrions-nous donner aux enfants d’aujourd’hui ? Comment pouvons-nous nous assurer que les futurs systèmes d’intelligence artificielle vont faire ce que nous voulons sans dysfonctionner ou être piraté ? Devrions-nous craindre une course aux armements pour des armes autonomes mortelles ? Est-ce que l’intelligence artificielle nous aidera à nous épanouir dans la vie comme jamais auparavant ou nous donnera plus de pouvoir que nous ne pouvons gérer ?

Life 3.0 donne les outils pour entrer dans ce qui peut être la conversation la plus importante de notre temps, nous guider à travers les questions les plus controversées autour de l’intelligence artificielle – de la super-intelligence au sens, à la conscience et aux limites physiques ultimes de la vie dans le cosmos.

Quel avenir voulez-vous?

Future of Life Institute, Nature doi:10.1038/548520a

Lire un extrait

La science du transhumanisme : comment la technologie mènera à une nouvelle race d’êtres immortels superintelligents

Le développement rapide des technologies dites NBIC – la nanotechnologie, la biotechnologie, les technologies de l’information et la science cognitive – donne lieu à des possibilités qui ont longtemps été du domaine de la science-fiction. La maladie, le vieillissement et même la mort sont autant de réalités humaines auxquelles ces technologies cherchent à mettre fin.

Elles peuvent nous permettre de jouir d’une plus grande « liberté morphologique » – nous pourrions prendre de nouvelles formes par le biais de prothèses ou du génie génétique, ou faire progresser nos capacités cognitives. Nous pourrions utiliser les interfaces cerveau-ordinateur pour nous connecter à une intelligence artificielle avancée.

Des nanobots pourraient parcourir notre circulation sanguine pour surveiller notre santé et améliorer nos propensions émotionnelles à la joie, l’amour et autres émotions. Les progrès dans un domaine créent souvent de nouvelles possibilités dans d’autres secteurs, et cette « convergence » peut entraîner des changements radicaux dans notre monde à court terme.

Le « transhumanisme » est l’idée que les humains devraient transcender leur état naturel et leurs limites actuels grâce à l’utilisation de la technologie, c.-à-d. que nous devrions adopter une évolution humaine autodirigée. Si l’histoire du progrès technologique peut être considérée comme la tentative de l’humanité de dompter la nature pour mieux répondre à ses besoins, le transhumanisme est la suite logique : la révision de la nature de l’humanité pour mieux servir ses fantasmes.

https://iatranshumanisme.com/transhumanisme/les-technologies-emergentes/le-rapport-nbic/

Comme le dit David Pearce, principal défenseur du transhumanisme (ainsi que de l’« impératif hédoniste », exigence morale selon laquelle les hommes doivent travailler à la réduction — voire à l’abolition — de la souffrance pour tous les organismes dotés de sensibilité (sentient beings)) et cofondateur de Humanity + :

« Si nous voulons vivre dans un paradis, nous devrons l’élaborer nous-mêmes. Si nous voulons la vie éternelle, nous aurons besoin de réécrire notre code génétique truffé de bogues et devenir semblables à Dieu… Seules les solutions de haute technologie peuvent éradiquer les souffrances du monde. La compassion seule ne suffit pas. »

Mais il y a un aspect plus sombre à la foi naïve que Pearce et d’autres partisans ont dans le transhumanisme, aspect incontestablement dystopique.

Il est peu probable que nous devenions des transhumains du jour au lendemain. Les technologies deviendront plutôt davantage intrusives et s’intégreront parfaitement au corps humain. La technologie a longtemps été considérée comme une extension de soi. De nombreux aspects de notre monde social, notamment nos systèmes financiers, sont déjà largement basés sur les machines. Il y a beaucoup à apprendre de ces systèmes hybrides homme/machine en constante évolution.

Pourtant, le langage et les attentes souvent utopiques qui entourent et façonnent notre compréhension de ces développements n’ont pas fait l’objet d’une grande analyse. Les changements profonds qui nous attendent sont souvent abordés de manière abstraite, car les « progrès » évolutifs sont considérés comme si radicaux qu’ils ignorent la réalité des conditions sociales actuelles.

Ce faisant, le transhumanisme devient une sorte de « technoanthropocentrisme », dans lequel les transhumanistes sous-estiment souvent la complexité de la relation que nous entretenons avec la technologie. Ils le voient comme un outil contrôlable et malléable qui, avec la bonne logique et la rigueur scientifique, peut être tourné vers n’importe quelle fin. En fait, tout comme les avancées technologiques dépendent et tiennent compte de l’environnement dans lequel elles s’accomplissent, elles se répercutent dans la culture et créent de nouvelles dynamiques, souvent imperceptiblement.

Ainsi, situer le transhumanisme dans les contextes sociaux, culturels, politiques et économiques plus larges au sein desquels il émerge est essentiel pour comprendre sa portée éthique.

Environnements concurrentiels

Max More et Natasha Vita-More, dans leur ouvrage intitulé « The Transhumanist Reader », revendiquent le besoin d’un transhumanisme pour « l’inclusion, la pluralité et la remise en question perpétuelle de notre connaissance ».

Pourtant, ces trois principes sont incompatibles avec le développement de technologies transformatrices dans le système actuel duquel elles émergent aujourd’hui : le capitalisme avancé.

L’un des problèmes réside dans le fait qu’un contexte social hautement concurrentiel ne se prête pas à diverses façons d’être. Il exige plutôt des comportements de plus en plus efficaces. Prenez le cas des étudiants, par exemple. Si certains ont accès à des pilules qui leur permettent d’obtenir de meilleurs résultats, les autres étudiants peuvent-ils se permettre de ne pas faire de même ? Il s’agit bien d’un dilemme. Un nombre croissant d’étudiants prennent déjà des pilules améliorant leur performance. Et si les pilules deviennent plus puissantes, ou si les améliorations font appel au génie génétique ou à la nanotechnologie intrusive qui offre des avantages concurrentiels encore plus grands, alors quelle est la suite ? Rejeter une orthodoxie technologique avancée pourrait rendre quelqu’un socialement et économiquement moribond (peut-être même sur le plan de l’évolution), alors que tous ceux qui ont accès aux pilules sont effectivement forcés de la suivre pour garder la cadence.

Passer outre les limites quotidiennes suggère une sorte de libération. Cependant, il s’agit plutôt d’une impulsion contraignante d’agir d’une manière déterminée. Nous devons littéralement nous transcender afin de nous conformer (et survivre). Plus la transcendance est extrême, plus la décision de se conformer est délibérée et plus il est impératif de le faire.

Les forces systémiques qui poussent l’individu à s’« améliorer » pour rester compétitif jouent également un rôle géopolitique. Un domaine où la recherche et le développement technologique ont le plus grand potentiel transhumaniste est celui de la défense. DARPA (le département de la défense américaine chargé de développer des technologies militaires), qui tente de créer des « soldats métaboliquement dominants » – Metabolically Dominant Soldier ou MDS – est un exemple concret de la façon dont les intérêts particuliers d’un système social donné pourraient déterminer le développement de technologies transformatrices radicalement puissantes à des fins destructrices plutôt qu’utopiques.

La précipitation pour développer une IA super intelligente par des États-nations mondiaux concurrentiels et mutuellement méfiants pourrait également devenir une course aux armements. Dans « Radical Evolution », Verner Vinge décrit un scénario dans lequel l’intelligence surhumaine est l’« arme ultime ». Idéalement, l’humanité prendrait le plus grand soin de développer une innovation aussi puissante et transformatrice.

Il y a à juste titre une grande inquiétude entourant la création d’une superintelligence et l’émergence de la singularité, c.-à-d. l’idée qu’une fois que l’IA atteindra un certain niveau, elle se redéveloppera rapidement, entraînant une explosion d’intelligence qui dépassera rapidement celle des humains (quelque chose qui se passera d’ici 2029 selon le futuriste Ray Kurzweil). Si le monde prenait la forme de ce que l’IA la plus puissante est programmée (ou s’est reprogrammée) à obtenir, son évolution pourrait prendre un tournant pour le tout banal – une IA pourrait-elle détruire l’humanité parce qu’elle désire produire le plus de trombones possible par exemple?

Il est également difficile de concevoir un aspect de l’humanité dont l’efficacité ne pourrait être « améliorée » pour satisfaire les exigences d’un système concurrentiel. C’est donc le système qui détermine l’évolution de l’humanité, sans avoir de vision sur ce que sont les humains ou sur ce qu’ils devraient être. Une des façons dont le capitalisme avancé se révèle extrêmement dynamique est dans son idéologie de neutralité morale et métaphysique. Comme l’affirme le philosophe Michael Sandel : « les marchés ne font aucune distinction entre le bien et le mal » (Michael J. Sandel, Ce que l’argent ne saurait acheter. Les limites morales du marché, Paris, Seuil, 2014). Dans le capitalisme avancé, maximiser notre pouvoir d’achat maximise notre capacité à nous épanouir – par conséquent, acheter pourrait être considéré comme un impératif moral primaire de l’individu.

Le Philosophe Bob Doede suggère à juste titre que c’est cette logique banale du marché qui dominera :

« Si la biotech a fait en sorte que la nature humaine soit entièrement révisable, elle ne peut aucunement diriger ni contraindre la forme que nous lui donnons. Ainsi, quelle forme les artéfacts posthumains prendront-ils ? Je ne doute point que notre grande société de consommation, notre économie capitaliste saturée de médias et nos forces commerciales parviendront à leur fin. Alors, l’impératif commercial deviendrait le vrai architecte de l’humain futur. »

Que le processus évolutif soit déterminé par une IA super intelligente ou un capitalisme avancé, nous pourrions être obligés de nous conformer à une transcendance perpétuelle qui ne nous rendra plus efficaces que dans les activités nécessaires au système le plus puissant. Le résultat final serait, d’une manière prévisible, une entité technologique entièrement non humaine – bien que très efficace – issue de l’humanité qui ne servirait pas nécessairement un but que l’homme moderne ne valorise en aucune façon. La capacité de servir efficacement le système sera la force motrice. Cela vaut également pour l’évolution naturelle, la technologie n’étant pas un outil simple nous permettant d’élucider cette énigme. Mais le transhumanisme pourrait amplifier la vitesse et les aspects les moins souhaitables du processus.

L’autoritarisme de l’information

Pour le bioéthicien Julian Savulescu, la raison principale pour laquelle les humains doivent être améliorés est pour que notre espèce survive. Il affirme que nous sommes confrontés à un Triangle des Bermudes de l’extinction : le pouvoir technologique radical, la démocratie libérale et notre nature morale. En tant que transhumaniste, Savulescu exalte le progrès technologique et le considère comme inévitable et infreinable. C’est la démocratie libérale, en particulier notre nature morale, qui devrait changer.

L’incapacité de l’humanité à régler les problèmes mondiaux est de plus en plus évidente. Mais Savulescu néglige de situer nos faiblesses morales dans leur contexte culturel, politique et économique général, croyant plutôt que les solutions se trouvent dans notre composition biologique.

« Nous devrons renoncer à une protection maximale de la vie privée. Nous constatons une augmentation de la surveillance des individus et elle sera nécessaire si nous voulons éviter les menaces que les personnes ayant un trouble de la personnalité antisociale et les fanatiques représentent par leur accès à une technologie radicalement améliorée. »

Une telle surveillance permet aux entreprises et aux gouvernements d’accéder à des informations extrêmement précieuses et de les utiliser. Dans « Who Owns the Future », le pionnier de l’Internet, Jaron Lanier, explique :

« Les multiples données sur la vie privée et les habitudes des gens ordinaires, colligées sur les réseaux numériques, sont groupés pour former une nouvelle forme privée de monnaie d’élite… c’est une nouvelle forme de sécurité négociée par les plus nantis, et sa valeur augmente naturellement. C’est devenu un énorme levier inaccessible aux gens ordinaires. »

Essentiellement, ce levier est aussi invisible pour la plupart des gens. Il ne fait pas que dévier le système économique vers les élites, mais modifie de manière significative la conception même de la liberté, car l’autorité du pouvoir est à la fois radicalement plus efficace et dispersée.

La notion de Foucault selon laquelle nous vivons dans une société panoptique – où le sentiment d’être perpétuellement surveillé instille la discipline – s’étend maintenant au point où la machinerie incessante d’aujourd’hui a été appelée « superpanopticon ». Les connaissances et l’information que les technologies transhumanistes auront tendance à générer pourraient renforcer les structures du pouvoir existantes qui consolident la logique inhérente du système duquel la connaissance émane.

On peut notamment le constater dans la tendance des algorithmes à établir des discriminations raciales et sexistes, lesquelles reflètent déjà nos échecs sociaux existants. La technologie de l’information tend à interpréter le monde de façons définies : elle privilégie l’information facilement mesurable, comme le PIB, aux dépens de l’information non quantifiable, comme le bonheur ou le bien-être. À mesure que les technologies invasives fourniront davantage de données granulaires sur notre personne, ces données pourraient vraisemblablement en venir à définir notre monde, et l’information intangible pourrait perdre sa place légitime dans les affaires humaines.

Déshumanisation systémique

Les inégalités actuelles seront sûrement amplifiées avec l’introduction de psychopharmaceutiques ultra puissants, de la modification génétique, de la surperintelligence, des interfaces cerveau-ordinateur, de la nanotechnologie, de la prosthétique robotique et du progrès possible dans le domaine du prolongement de la vie. Ils sont tous fondamentalement inégalitaires et reposent sur une notion de non-limitation plutôt que sur le niveau standard de bien-être physique et mental que nous acceptons dans le domaine des soins de santé. Il est difficile de concevoir une façon où tous pourront jouir de ces possibilités.

La sociologiste Saskia Sassen parle de « nouvelles logiques d’exclusion », qui reflètent « les pathologies du capitalisme mondial d’aujourd’hui ». Les exclus englobent les 60 000 migrants et plus qui ont perdu leur vie dans des trajets mortels au cours des 20 dernières années et les victimes du profilage racial de la population carcérale grandissante.

En Grande-Bretagne, ces exclus sont les 30 000 personnes dont la mort en 2015 était liée aux coupures dans les soins de santé et l’aide sociale et tous les autres qui ont péri dans l’incendie de la Tour Grenfell. On pourrait dire que leur mort est due à la marginalisation systématique.

La concentration aiguë et sans précédent de la richesse va de pair avec ces exclusions. Les exploits économiques et techniques avancés favorisent cette richesse et l’exclusion de groupes excédentaires. En même temps, Sassen avance qu’ils créent une sorte de contexte nébuleux sans centre semblable au lieu de pouvoir :

« Les opprimés se sont souvent élevés contre leurs maîtres. Mais aujourd’hui, ils ont été pour la plupart exilés et survivent à grande distance de leurs oppresseurs… L’« oppresseur » est un système de plus en plus complexe combinant individus, réseaux et machines dont le centre n’est pas défini. »

La population excédentaire retirée des aspects productifs du monde social pourrait rapidement augmenter dans un proche avenir à mesure que les améliorations apportées à l’IA et à la robotique engendreront possiblement une importante automaticité du chômage. De vastes pans de la société pourraient devenir productivement et économiquement excédentaires. Pour l’historien Yuval Noah Harari, « la question la plus importante dans l’économie du 21e siècle pourrait être la suivante : que fera-t-on de tous ces gens inutiles ? »

Nous n’aurions d’autre scénario que celui d’une petite élite possédant la presque totalité de la richesse et ayant accès à la plus puissante des technologies transformatrices de l’histoire de l’humanité et d’une masse de gens accessoires, ne pouvant suivre le contexte évolutif dans lequel ils se trouvent et dépendant entièrement de la bienveillance de cette élite. Le traitement déshumanisant accordé aux groupes exclus d’aujourd’hui démontre que les valeurs libérales des pays développés ne s’étendent pas toujours à ceux qui ne partagent pas les mêmes privilèges et la même race, culture ou religion.

Au sein d’une ère de pouvoir technologique radical, les masses pourraient même représenter une importante menace pour la sécurité de l’élite, ce qui pourrait justifier des mesures agressives et autoritaires (et peut-être d’autres mesures plus radicales grâce à une culture de la surveillance).

Dans leur traité sur le transhumanisme, « The Proactionary Imperative », Steve Fuller et Veronika Lipinska allèguent que nous sommes obligés de poursuivre sans relâche le progrès technoscientifique jusqu’à ce que nous accomplissions notre destin semblable à celui de Dieu ou que nous atteignons un pouvoir infini – soit celui de servir Dieu en devenant Dieu. Ils nous révèlent imperturbablement le processus de violence et de destruction naissant que ces visées prométhéennes nécessiteraient : « remplacer la nature par de l’artificiel est la clé d’une stratégie proactionnaire… du moins il est sérieusement possible, sinon probable, que cela entraîne une dégradation environnementale de la Terre à long terme. »

L’ampleur de toute la souffrance qu’ils seraient prêts à mettre en jeu dans leur cruel casino ne peut être entièrement comprise que lorsque nous analysons ce que leur projet signifie pour les êtres humains :

« Un monde proactionnaire ne ferait pas que tolérer la prise de risque, mais l’encouragerait, puisque les gens se verront fournir des incitatifs juridiques pour spéculer sur leurs actifs bioéconomiques. Vivre dangereusement deviendrait une entreprise en soi… les proactionnaires cherchant d’importants bénéfices à long terme sur les survivants d’un régime révolutionnaire qui encouragerait bien des préjudices pour y parvenir. »

Survivre demandera de nombreux sacrifices.

La fragilité économique à laquelle les humains devront bientôt faire face et son chômage automatisé se révéleront probablement extrêmement utiles aux buts proactionnaires. Dans une société où une vaste majorité de la population dépendra d’aumônes pour survivre, les forces du marché feront en sorte que le manque de sécurité sociale poussera les gens à prendre plus de risques pour peu d’avantages, alors les « proactionnaires réinventeraient le système d’assistance sociale en tant que véhicule favorisant la prise de risque en tant qu’instrument du marché » pendant que « l’état proactionnaire serait exploité en tant qu’énorme capital-risque ».

Au cœur de cet état se trouve le remplacement des droits fondamentaux de « l’Humanité 1.0 », terme de Fuller pour définir les êtres humains non augmentés modernes, par des obligations envers l’Humanité 2.0 augmentée future. Ainsi, nos codes de valeurs peuvent et doivent même être monétisés : « l’autonomie personnelle devrait être perçue comme une franchise accordée par le gouvernement où les individus envisageraient leur corps comme une parcelle de terrain dans ce que l’on peut appeler un « patrimoine génétique commun ».

La préoccupation néolibérale entourant la privatisation s’étendrait alors aux êtres humains. En effet, l’endettement à vie qui fait partie de la réalité de la plupart des citoyens des nations développées capitalistes prendrait une tout autre signification lorsqu’une personne naîtrait endettée : être en vie équivaudrait à « vous investir dans un capital où des résultats sont attendus ».

Les masses socialement moribondes pourraient être forcées de servir le super-projet technoscientifique de l’Humanité 2.0, qui utilise l’idéologie du fondamentalisme commercial dans sa quête d’un progrès perpétuel et d’une productivité maximale. La seule différence significative est que le but déclaré des capacités divines de l’Humanité 2.0 est patent, par opposition à la fin indéfinie déterminée par le « progrès » infini d’une logique commerciale encore plus efficiente que celle que nous avons à l’heure actuelle.

Une nouvelle politique

Certains transhumanistes commencent à comprendre que les plus sérieuses limites aux objectifs des humains sont sociales et culturelles, et non techniques. Cependant, le plus souvent leur reformulation des politiques tombe dans les mêmes pièges que leur vision globale technocentrique. Ils allègent généralement que les nouveaux pôles politiques ne seront plus de droite ou de gauche mais plutôt technoconservateur ou technoprogressiste (et même technolibertaire ou technoseptique). Aussi, Fuller et Lipinska ergotent qu’ils seront situés de haut en bas plutôt que de gauche à droite : ceux qui veulent dominer le ciel et devenir puissants, et ceux qui veulent préserver la Terre et sa diversité d’espèces. Il s’agit d’une fausse dichotomie. La préservation des derniers est nécessaire à toute réalisation des premiers.

Le transhumanisme et le capitalisme avancé sont deux processus qui valorisent avant toute chose le « progrès » et l’« efficience ». Le progrès en tant que moyen d’accéder au pouvoir et l’efficience en tant que moyen de faire du profit. Les humains deviennent des véhicules pour servir ces valeurs. Les possibilités du transhumanisme nécessitent urgemment une politique ayant des valeurs humaines davantage délimitées et explicites pour procurer un environnement sécuritaire à ceux qui favorisent ces changements profonds. La position que nous prenons concernant les questions de justice sociale et de durabilité environnementale n’a jamais été aussi cruciale. La technologie ne nous permet pas de nous soustraire à ces questions, elle ne permet pas la neutralité politique. L’inverse est aussi vrai : nos politiques n’ont jamais été aussi importantes. Savulescu dit vrai lorsqu’il affirme que les technologies radicales s’en viennent. Par contre, il a tort de penser qu’elles corrigeront nos valeurs morales… elles les refléteront.

traduit avec la collaboration de Stéphanie S.

Daily Mail par Alexander Thomas With The Conversation

Conférence : Amélioration de l’homme par la technologie ?

La conférence sera animée par Vincent Guérin. L’objet de cette soirée est de sonder les origines du transhumanisme, explorer les discours de ses représentants, analyser ses concepts, ses incarnations, ses résonances, afin de donner du sens à cette idéologie et observer la manière dont elle exprime notre temps.

date : 15 juin 2017, 18h30
à : IN’TECH Sud-Ouest, Amphithéâtre de l’ENAP, 440 avenue Michel Serres, 47000 Agen.

Renseignements complémentaires : m.bru@intech-so.fr

De quoi discutent Larry Page, Elon Musk et Yann Le Cun ? (Beneficial AI 2017)

« Technology is giving life the potential to flourish like never before… or to self-destruct. Let’s make a difference ! » Future of Life Institute

En janvier dernier s’est tenu à Asilomar (Californie) le second colloque organisé par Future of life Institute (FLI) dont l’objectif était d’anticiper l’évolution de l’intelligence artificielle afin qu’elle soit bénéfique pour l’humanité.

Cette association a été créée en 2014 par Jaan Tallinn, informaticien et cofondateur de Skype et Kazaa, Meia Chita-Tegmark (Université de Boston), Vicktorya Krakovna (DeepMind) et les cosmologistes Anthony Aguirre (Université de Californie) et Max Tegmark (MIT).

On trouve au sein du comité scientifique Stephen Hawking (Cambridge), Erik Brynjolfsson (MIT), Martin Rees (Cambridge), Nick Boström (Oxford), Elon Musk (Tesla, Space X), etc1. En 2015, ce dernier a fait don au FLI de 10 millions de dollars.

L’objectif de cette institution est d’anticiper les risques existentiels (qui menacent l’humanité toute entière) anthropiques (du fait de l’homme) comme le réchauffement climatique global, l’arsenal nucléaire2, les biotechnologies mais aussi et surtout ceux liées à l’IA3.

En janvier 2015, le FLI avait publié une lettre ouverte sur les risques/bénéfices liés à l’IA qui a reçu à ce jour plus de 8000 signatures.

L’idée : impulser une réflexion pluridisciplinaire afin de stimuler des recherches dans le sens d’une intelligence artificielle puissante (robust AI) tout en prenant soin qu’elle soit bénéfique pour la société. L’esprit : « Our AI systems must do what we want them to do ».

Ce colloque interdisciplinaire constitué de conférences et d’ateliers (workshops) fait suite à celui qui s’était déroulé à Puerto Rico en 2015 et qui avait réuni des chercheurs du champ de l’IA mais aussi des spécialistes de l’économie, du droit, de l’éthique et de la philosophie.

Au programme, cette année, se trouvait un panel de « célébrités » comme Erik Brynjolfsson (MIT), Yann Le Cun (Facebook/NYU), Ray Kurzweil (Google), Andrew McAfee (MIT), Nick Boström (Oxford), Elon Musk (Tesla/Space X), David Chalmers (NYU), Stuart Russel (Berkeley), Peter Norvig (Google), Larry Page (Google), Yoshua Bengio (Montreal Institute for learning algorithms), Oren Etzioni (Allen Institute), Martin Rees (Cambridge/CSER), Wendell Wallach (Yale), Eric Drexler (MIT), Eliezer Yudkowsky (MIRI), etc4. Les thématiques des conférences et workshops, très riches, portaient sur l’impact à venir de l’automatisation, le concept de superintelligence, les chemins possibles vers l’IA « réelle », la gestion des risques liés à l’IA, etc. On trouvera ici les PowerPoints et vidéos des intervenants.

Des discussions sont nées 23 principes dits « Asilomar » signés d’ores et déjà par plus de 3500 personnalités dont 1171 du champ de l’IA. Non figés, ces principes ont pour objectif de générer des discussions et réflexions sur le site du FLI et ailleurs.

Notes :

2 Une lettre ouverte signée par 3400 scientifiques a récemment été communiquée à l’ONU afin de soutenir son initiative de bannir les armes nucléaires.
3 Depuis quelques années, de nombreuses institutions se sont développées pour anticiper les risques existentiels naturels et anthropogènes. Parmi ces dernières, l’intelligence artificielle est souvent mise en avant. Ainsi, outre le FLI, on citera Machine intelligence research institute (MIRI/Berkeley), Future of humanity institute (FHI/Oxford), Centre for the study of existential risk (CSER/Cambridge), Open AI (Elon Musk), One hundred years study on artificial intelligence (AI100/Stanford), Global catastrophic risk institute (GCRI) et dernièrement Leverhulme centre for the future of intelligence (Cambridge). Sur le Leverhulme centre for the future of intelligence et Center for the study of existential risk on peut lire « Meet Earth’s guardians, the real-world X-men and women saving us from existential threats », Wired, 12 février 2017 ; sur Future of humanity institute Ross Andersen, « Omens », Aeon, 25 février 2013.

« Réinventer le rêve américain » : Le parti transhumaniste

Publié in Marianne Celka, Matthijs Gardenier, Éric Gondard et Bertrand Vidal (éd.), Utopies, dystopies et uchronies, RUSCA, revue électronique de sciences humaines et sociales, n° 9, 2016/2, p. 16-24.

« Vote for Zoltan if you want to live forever »

Digitaliser le cerveau, télécharger la conscience dans un ordinateur, le cloud computing, naître d’un utérus artificiel, créer des bébés sur mesure, vivre indéfiniment et en bonne santé : science-fiction ? Pas pour Zoltan Istvan, candidat à l’élection présidentielle aux États-Unis.

Zoltan Istvan est transhumaniste, un courant de pensée qui prône l’affranchissement des limites physiques, cognitives et émotionnelles humaines par les technosciences et une prise en main de l’évolution naturelle jugée imparfaite1. En 2014, il a fondé le parti transhumaniste américain. Depuis, il s’est lancé dans la campagne présidentielle. En décembre dernier, après trois mois de voyage à travers les États-Unis à bord du « bus de l’immortalité » (en forme de cercueil), il a déposé symboliquement une Bill of Rights au Capitol, à Washington, revendiquant entre autres, pour les humains mais aussi les intelligences artificielles « sensibles » et les cyborgs, que des recherches soient effectuées afin de favoriser l’extension de la longévité en bonne santé2.

L’objet de ce texte est d’observer un désir d’insuffler, donner du sens, à une perfectivité technoscientifique radicale, un « nulle part3 » en quête de légitimité.

Qui est Zoltan Istvan ?

Zoltan Istvan est né aux États-Unis en 1973 de parents ayant fui la Hongrie et le régime communiste4. Il étudié la philosophie et la religion à Colombia University de New York5. C’est lors d’un cours qu’il découvre la cryonie : c’est une révélation6.

À 21 ans, il embarque sur un bateau avec 500 livres et entreprend un voyage transocéanique de plusieurs années. Devenu reporter, il publie pour The New York Times Syndicate, National Geographic.com, Sunday San Francisco Chronique, etc7. Il sera ensuite recruté par National Geographic Channel. En 1999, il couvre la guerre du Cachemire opposant l’Inde et le Pakistan et réalise Pawns of paradise : inside the brutal Kachmir Conflit, un documentaire qui sera récompensé par plusieurs prix. Athlète de l’extrême, il inaugure une pratique sportive pour le moins originale : la planche sur volcan8.

En 2004, alors qu’il accompagne des « chasseurs de bombes » américains au Vietnam, directement exposé à la mort, il revient avec deux convictions : vivre le plus longtemps possible et pour cela consacrer sa vie à promouvoir le combat contre la mort9.

En 2013, il publie The transhumanist Wager (Le pari transhumaniste), un roman de science-fiction. L’action se situe aux États-Unis dans un futur proche. Alors que des changements technologiques radicaux sont en cours dans l’intelligence artificielle, l’ingénierie génétique, la cryonie, etc., les transhumanistes font l’objet d’attaques de la part de politiciens, de religieux chrétiens, des scientifiques sont assassinés. Dans ce contexte, Jethro Knights, son personnage principal, défend une philosophie radicale qu’il nomme Teleological Egocentric Functionalism, qui consiste à promouvoir l’augmentation et l’immortalité.

Pour Zoltan Istvan, il s’agit d’explorer ce que nous serions prêts à faire pour vivre indéfiniment10. En partie autobiographique : Jethro Knights est étudiant en philosophie, il a traversé les Océans, couvert le conflit du Cachemire, fait de la planche sur les volcans et oeuvre pour le magazine International Geographic. Récusant la posture radicale, violente, de son personnage, Zoltan Istvan évoque la fiction.

Le parti transhumaniste américain

En octobre 2014, il passe à l’action et fonde le parti transhumaniste américain11. Jusqu’alors les éventuels sympathisants, souvent ingénieurs, scientifiques, étaient peu versés dans la politique12. Simultanément il crée, avec l’Anglais Amon Twyman, le Party Transhumanism Global qui vise à favoriser le développement et la coopération entre les différents partis transhumanistes émergeants13.

La naissance de ce parti est une nouvelle étape dans l’histoire du transhumanisme. Si le terme est né sous la plume du biologiste Julian Huxley (frère d’Aldous) en 192714, c’est seulement dans les années 1980 qu’il prend son sens contemporain. Longtemps diffuse, cette constellation s’incarne en 1998 avec le World Transhumanist Association, une organisation créée par les philosophes David Pearce et Nick Boström qui a pour but non seulement de donner corps au transhumanisme, mais aussi du crédit à ses idées afin de générer des recherches académiques15.

L’objectif de Zoltan Istvan est d’unifier politiquement le transhumanisme, lui donner une voix16. Le parti est affilié à un think tank : Zero State/Institute for Social Futurism. L’expression Social Futurism, forgée par Amon Twyman est synonyme de techno-progressisme. Apparenté à la gauche libérale, se présentant comme une alternative aux libertariens, il a pour slogan « positif social change throught technology ». Le Social Futurism, qui associe socialisme et technologie, a pour objectif de faire converger justice sociale et transformation radicale de la société par la technologie17. Dans la nébuleuse transhumaniste, les technoprogressistes tranchent par leur volonté de favoriser des changements devant bénéficier à tous18.

En octobre 2014, Zoltan Istvan s’est ouvertement déclaré candidat à la présidence des États-Unis. À cette fin, il s’est entouré des célébrités anciennes et montantes du transhumanisme. Le « biogérontologue » anglais Aubrey de Grey et la jeune biophysicienne Maria Konovalenko, cofondatrice en Russie du Parti de la longévité, sont ses conseillers anti-âges. Natasha Vita-More, figure mythique du transhumanisme, est sa conseillère transhumanisme, Jose Luis Cordeira, membre de la Singularity University, est son conseiller technique. Gabriel Rothblatt, qui a concouru comme démocrate pour un siège au Congrès en 2014, est son conseiller politique19.

Il évalue ses supporters, regroupant ingénieurs, scientifiques, futuristes et techno-optimistes à 25 00020. Initialement constitué surtout d’hommes blancs, situés académiquement, le mouvement serait en train de se diversifier, avec de jeunes hommes et femmes, d’horizons géographiques, politiques et professionnels divers. Certains seraient LGBT, d’autres handicapées, beaucoup athées21.

L’objectif de la campagne est de toucher ces trois groupes spécifiques : les athées, les LGBT et la communauté handicapée, soit environ 30 millions de personnes aux États-Unis22.

Lucide, il considère ses chances de remporter l’élection proche de 0. Ses ambitions sont toutes autres : faire croître le parti, promouvoir des idées politiques qui unissent les nations dans une vision techno-optimiste, favoriser des désirs illimités23. Avec une population américaine à 75 % chrétienne et alors que 100 % du Congrès est religieux, il estime que son plus grand obstacle est son athéisme24.

En octobre dernier, Amon Twyman apportait une autre limite à l’ambition politique de Zoltan Istvan en réaffirmant la pluralité du transhumanisme. Selon lui, la force du parti réside dans sa diversité. Les idées de Zoltan Istvan, perçues comme libertariennes25 et potentiellement schismatiques, risquent d’affaiblir le transhumanisme. Tout en reconnaissant le bien fondé de son action, Amon Twyman considère qu’un discours centré sur la longévité fait oublier les autres aspects du transhumanisme et se heurte au techno-progressivisme26. Confrontée au réel, l’utopie s’affaiblit.

« Réinventer le rêve américain »

Trois thèmes dominent la campagne : la superintelligence artificielle, le devenir cyborg et le dépassement de la culture mortifère.

Zoltan Istvan défend l’idée que dans 30 ans le président des États-Unis pourrait être une intelligence artificielle27. Considérée comme peu influençable par un lobby, une intelligence artificielle agirait, « de manière altruiste », pour le bien de la société. Mais un dysfonctionnement, une prise de contrôle par une autorité malveillante, un devenir « égocentré » de la machine seraient les faiblesses de cette prospective28. Cette idée fait écho aux préoccupations « académiques » de deux transhumanistes : Eliezer Yudkowsky du Machine Intelligence Research Institute et Nick Boström (Université d’Oxford), directeur de l’Institut for Future of Humanity. Ces derniers sont inquiets des risques anthropiques liés, entre autres, à l’émergence possible d’une superintelligence inamicale29. Zoltan Istvan occulte ce danger en postulant que les transhumanistes n’ont pas pour ambition de laisser les machines agir à leur guise. Proche du discours techno-optimiste libertarien de Ray Kurzweil et Peter Diamandis, dans une vision plutôt adaptative qu’émancipatoire30, la fusion avec la machine, le devenir cyborg, permettra selon lui de réduire le risque31. La faiblesse de l’argumentaire éthico-politique est ici frappante.

Techno-évolutionniste, se positionnant ouvertement au-delà de l’humain, il souhaite améliorer le corps humain par la science et la technologie, faire mieux et plus rapidement que la sélection naturelle. Zoltan Istvan se dit porteur d’une « nouvelle façon de penser », un nouveau territoire pour l’espèce humaine32. Qualifiant d’anti-progrès, d’anti-innovation le moratoire sur l’ingénierie génétique, il souhaite que les recherches se poursuivent dans un cadre éthiquement borné ; l’enjeu : vivre mieux. Il défend l’idée qu’avec cette ingénierie les maladies du cœur, les cancers, les hérédités pathogènes seront éliminées. Dans une approche résolument eugéniste, il serait donné aux parents le choix de leur enfant : couleur des cheveux, taille, genre, aptitudes athlétiques et cognitives. Récusant les critiques, il les estime infondées et fruits de la religion. La crainte de créer une race non-humaine, des êtres monstrueux, est, selon lui, surestimée et habitée par un imaginaire hollywoodien. À cela, il oppose la création d’une population libérée de la maladie. Ici techno-progressiste, il évoque le risque que seuls les riches pourraient se le permettre33. Au-delà du devenir cyborg, c’est la mort qui est visée.

Un des obstacles majeurs à la croissance du transhumanisme résiderait, selon Zoltan Istvan dans la culture mortifère (deathist culture). 85 % de la population mondiale croit à la vie après la mort et au moins 4 milliards d’habitants considèrent le dépassement de celle-ci par la technologie comme un blasphème. Beaucoup de gens souscrivent à une culture qui suit les principes de La Bible : mourir et aller au paradis34. Partant du constat que 150 000 personnes meurent chaque jour, pour la plupart de vieillesse et de maladie, il suggère deux voies « prometteuses » pour réduire cette mortalité : la digitalisation du cerveau et le téléchargement de l’esprit ainsi que l’inversion du processus de vieillissement développé par Aubrey de Grey35. Les millions de dollars investis dans la recherche anti-âge et la longévité grâce notamment par Google et le projet Calico, Human LLC et Insilico, le rendent optimiste. Mieux encore, l’idée de faire une fortune autour de l’immortalité ferait son chemin36. Matérialiste, comme Aubrey de Grey, il perçoit le corps comme une voiture que l’on peut réparer37. Il ne s’agit pas de vivre éternellement mais plutôt de choisir de mourir ou non. C’est une transcendance opératoire, un ici et maintenant, qu’il propose38.

Récemment, Zoltan Istvan a fait scandale en évoquant le contrôle des naissances. Dans la perspective d’une conquête de la mort, il s’interroge : « Devra-t-on encore permettre à n’importe qui d’avoir autant d’enfants qu’il souhaite ? » Il imagine un permis, accordé suite à une série de tests, qui permettrait l’accès à la procréation et la possibilité d’élever des enfants. En seraient exclus les sans domicile fixe, les criminels et les drogués. Mobilisant, tout à tour, l’argument humanitaire – donner une meilleure vie aux enfants –, environmental, démographique, féministe – les enfants qui nuisent à la carrière professionnelle –, il conclut qu’il ne s’agit pas de restreindre la liberté mais de maximiser les ressources pour les enfants présents et à venir39. Ces propos tenus dans la revue libertarienne Wired co.uk, lui ont valu l’ire d’une presse40 qu’il qualifie de « conservatrice ». Il aurait même reçu des menaces de mort41.

Conclusion

Le transhumanisme sort de sa sphère techno-scientifique et philosophique, il s’aventure maintenant sur le terrain politique, éprouve ses forces. Sans surprise, cette irruption dans le réel attise le conflit entre les bioconservateurs et les bioprogressistes. Plus intéressant, cette campagne électorale révèle un obstacle encore largement invisible : la colonisation politique de l’utopie, qui s’incarne dans les tensions entre les libertariens et les technoprogressistes.

Si les résultats de l’élection seront sans surprise pour Zoltan Istvan, le « pari » de faire connaître le transhumanisme à une large audience est d’ores et déjà remporté, quant à l’idée d’unifier les forces potentielles en présence : nous le verrons lors de l’élection.

Cette candidature doit attirer notre attention sur les mutations technologiques radicales en cours, leurs ressorts et motivations. Plus encore, c’est une invitation cruciale à penser les implications politiques et sociales et la nécessité d’anticiper les arbitrages et risques associés.

Notes :

1 MORE M. & VITA-MORE N., The transhumanist reader, Hoboken, John Wiley & Sons, 2013 ; BOSTROM, N., « A history of transhumanist Though », Journal of Evolution & Technology, 14, 1, 2005.
2 ISTVAN Z., « Immortality Bus delivers Transhumanist Bill of Rights to US Capitol », IBT, 21 décembre 2015.
3 RICOEUR P., L’idéologie et l’utopie, Paris, Seuil, 1997, p. 37.
4 LESNES C., « Zoltan Istvan, le candidat de la vie éternelle », Le Monde, 14 septembre 2015.
5 RAJ A., « The transhumanist who would be president », Reform, 6 mars 2014.
6 NUSCHKE M., « Fireside Chat with Zoltan Istvan – Author of ‘The Transhumanist Wager’ », Retirement singularity, 4 mai 2014.
7 Site de Zoltan Istvan.
8 ISTVAN Z., « EXTREME SPORTS / Really Good Pumice, Dude! / Volcano boarding: Russian roulette on a snowboard », Sfgate, 8 décembre, 2002.
9 ISTVAN Z., « Forget Donald Trump. Meet Zoltan Istvan, the only presidential candidate promising eternal life », Vox, 8 septembre 2015.
10 Idem.
12 RAJ A., « The transhumanist who would be president », Op. Cit.
14 HUXLEY J., Religion without revelation, Santa Barbara, Greenwood Press, 1979 (1927).
15 BOSTROM, N., « A history of transhumanist Though », Op. Cit.
16 ISTVAN Z., « An interview with Zoltan Istvan, founder of the transhumanist party and 2016 U.S. presidential candidate », Litost Publishing Collective, 23 novembre 2014.
17 Institute for social futurism, Op. Cit.
18 TREDER M., « Technoprogressives and transhumanists : What’s the difference ? », IEET, 25 juin 2009.
19 ISTVAN Z., « Why I’m running for president as the transhumanist candidat », GIZMODO, 5 juillet 2015.
20 Idem.
21 ISTVAN Z., « A new generation of transhumanists is emerging », Huffpost, 3 octobre 2014.
22 ISTVAN Z., « Why I’m running for president as the transhumanist candidat », Op. Cit.
23 Idem.
24 Idem.
25 BENEDIKTER R et al., « Zoltan Istvan’s ‘Teleological Egocentric Functionalism’: A approach to viable politics ? », Op. Cit.
26 TWYMAN A., « Zoltan Istvan does not speak for the Transhumanist Party », Transhumanity.net, 12 octobre 2015.
27 HENDRICKON J., « Can this man and his massive robot network save America », Esquire predicts, 19 mai 2005.
28 Idem.
29 Cf. Superintelligence, Paths, Dangers, Strategies de Nick Bostrom (oup, 2014).
30 DEVELEC LE N., « De l’humanisme au post-humanisme : mutations de la perfectibilité humaine », Revue MAUSS, 21 décembre 2008.
31 ISTVAN Z., « The morality of artificial intelligence and the three laws of transhumanism », Huffpost, 2 février 2014.
32 ISTVAN Z., « The culture of transhumanism is about self-improvement », Huffpost, 4 septembre 2015.
33 ISTVAN Z., « Transhumanist party scientists frown on talk of engineering moratorium », Huffpost, 5 avril 2015.
34 ISTVAN Z., « Why I’m running for president as the transhumanist candidat », Op. Cit.
35 ISTVAN Z., « Transhumanism is booming and big business is noticing », Huffpost, 17 juillet 2015.
36 Idem.
37 GREY A. de avec RAE M., Ending Aging. The Rejuvenation Breakthrought That could Reverse Human Aging in Our Lifetime, NY, St Martin Griffin, 2007, p. 326.
38 ISTVAN Z., « Can transhumanism overcome a widespread deathist Culture ? », Huffpost, 26 mai 2015.
39 ISTVAN Z., « It’s time to consider restricting human breeding », Wired. co.uk, 14 août 2014.
40 McCLAREY D., « Hitler : “Born Before this time” », The American Catholic, 21 août 2014 ; SMITH WESLEY J., « Tranhumanism’s Eugenics Authoritarianism », Evolution. News.net, 15 août 2014.
41 ISTVAN Z., « Death, threats, freedom, Transhumanism, and the future », Huffpost, 25 août 2014.