Le vol du futur : la singularité technologique en question

En 2017, Jean-Gabriel Ganascia, professeur d’informatique à la Sorbonne, chercheur en intelligence artificielle et président du comité d’éthique du CNRS, publiait un ouvrage remarquable : Le mythe de la singularité technologique. Faut-il craindre l’intelligence artificielle ?1. Un des fils qui trament cet ouvrage porte sur un couplage inattendu entre une « pseudomorphose » technologique et politique. Étymologiquement, pseudomorphose vient du grec « pseudès » faux, trompeur et « morphosis », action donnant forme. Un processus physico-chimique lent qui par adjonction, altération, imprégnation d’éléments extérieurs ou en fonction d’un changement de l’environnement comme la température, modifie un corps qui, en apparence, reste semblable. Selon Jean-Gabriel Ganascia avec l’intelligence artificielle « forte » et l’intelligence artificielle « générale » nous sommes en présence de deux pseudomorphoses de l’intelligence artificielle.

Intelligence(s) artificielle(s)

Tout commence dans les années 1950, l’intelligence artificielle, comme discipline nouvelle, amorce une « quête » scientifique, celle de la compréhension de l’intelligence, sa décomposition en facultés élémentaires (mémoire, perception, calcul), sa reproduction et sa simulation numérique2. Latéralement coexiste un dessein philosophique aux ambitions démiurgiques, faisant écho à la science-fiction, qui vise à reproduire une conscience sur un ordinateur. Dans les années 1980, le philosophe John Searle, avec l’expérience fictive de « la chambre chinoise », distingue la discipline scientifique, technologique, empirique, l’intelligence artificielle « faible » (weak) de l’approche philosophique, l’intelligence artificielle « forte » (strong), qu’il dénonce. En 2011, lors de la « victoire » de l’algorithme Watson développé par IBM au jeu télévisé américain Jeopardize!, John Searle ironisait : « Watson doesn’t know it won on Jeopardy !3 ». Au début des années 2000, l’intelligence artificielle « forte », discursive, se mêle aux idées de mathématiciens qui veulent refondre l’intelligence artificielle sur de nouvelles bases : c’est la naissance du concept d’intelligence artificielle « générale », qui a pour objectif la réalisation d’une intelligence artificielle totale, sans limite4. Ben Goertzel, Marcus Hutter, Jürgen Schmidhuber fondent leurs espoirs sur la complexité de Kolmogorov et la théorie de l’inférence inductive de Solomonov, d’autres, sur l’utilisation des réseaux de neurones formels (deep learning) ou l’apprentissage par renforcement, que l’on a pu observer chez AphaZero qui a « battu » Stockfish au jeu d’échecs en décembre dernier5.

Malgré leurs différences, selon Jean-Gabriel Ganascia, les partisans de ces deux pseudomorphoses se retrouvent aujourd’hui dans le concept de singularité technologique. Une accélération technologique d’après le transhumaniste Ray Kurzweil (Singularity University, Google) qui pourrait conduire à l’émergence d’une intelligence artificielle générale, le fantasme, vers 20456.

Spiritualité gnostique

Au cœur de l’ouvrage, Jean-Gabriel Ganascia développe une comparaison audacieuse entre deux pseudomorphoses : la gnose spirituelle et la singularité technologique. Si, a priori, tout les oppose, Jean-Gabriel Ganascia perçoit dans le rapport d’opposition/récupération de la gnose à la religion, une analogie propre à dégager une grille d’analyse qui aide à saisir la singularité technologique dans son rapport à la science contemporaine.

Qu’est-ce que la gnose ? Gnose vient de gnosis qui veut dire « connaissance ». La spiritualité gnostique atteint son point culminant au IIe siècle. Elle s’inspire de traditions spirituelles anciennes et notamment des croyances magiques égyptiennes, babyloniennes et perses et s’exprime par une dualité radicale entre un vrai Dieu, un Dieu suprême, qui reste caché, et un faux Dieu, un usurpateur qui aurait créé l’Univers à l’insu du vrai Dieu et qui serait ainsi à l’origine de nos maux, souffrances et finitude.

Dans la spiritualité gnostique, le monde dans lequel nous vivons est un faux-semblant, qu’il faut « réparer » pour accéder à la plénitude de l’être, l’être véritable. À cette fin, il faut s’arracher à l’autorité du démiurge, rompre avec sa domination. Cet arrachement passe par l’acquisition d’un savoir qui doit permettre de dissiper l’illusion et autoriser l’accès au monde caché. S’extraire de l’emprise du faux Dieu, suppose une « brisure » capable d’apporter la « dislocation salutaire » …

Pseudomorphose politique

En rendant « plausible » l’idée de singularité technologique via des catégorie de pensées disponibles, populaires, Jean-Gabriel Ganascia considère qu’on la rend « possible », au sens de quelque chose « susceptible de se produire ». Si ce concept est douteux sur le plan scientifique, il est, selon lui, plus encore « répréhensible » sur le plan moral, irresponsable de la part de scientifiques qui ont pour mission d’ouvrir des perceptives. En occultant les autres risques, mais aussi les alternatives, le degré de liberté humaine disponible, ils contribuent ainsi à opacifier le futur en masquant les possibles.

Plus encore, la « brisure » renvoie à un temps futur qui n’appartiendra plus à l’homme. Inéluctable, l’inflexion semble pouvoir ne se faire qu’a minima comme tentée de gauchir l’évolution de l’intelligence artificielle, la rendre « amicale ». Aussi la singularité technologique conduit-elle à un enfermement. L’action libre, si elle subsiste, déroge à la perfection.

In fine, la singularité débouche sur une pseudomorphose politique, celle de l’humanisme des Lumières qui était basé sur la perfectibilité. À l’issu de ce réquisitoire, Jean-Gabriel Ganascia conclut à la liberté que l’on abdique, au futur qui se dissipe.

Notes :

3 John Searle, « Watson doesn’t know it won on ‘Jeopardy’ », The Wall Street Journal, 23 février 2011.

4 Lire Hugo Roland de Garis et Ben Goertzel, « Report on the first conference on artificial general intelligence (AGI-08) », AI Magazine, printemps 2009, p. 121-123.

5 Pierre Barthélémy, « AlphaZero, algorithme prodige de l’échiquier », Le Monde, 12 décembre 2017.

6 Dom Galeom et Christiana Reedy, « Kurzweil claims that the singularity will happen by 2045 », Futurism, 5 octobre 2017.

Le transhumanisme, le symbolique et la gnose

Les technosciences qui inspirent le transhumanisme entreprennent de supprimer l’altérité sous ses diverses formes : la mal et la finitude, le vieillissement et la mort, la reproduction sexuée et le temps… Appliquées à l’humain, elles évacuent la dimension symbolique de l’existence, par exemple en réduisant la maladie et la mort à de simples pannes qu’on doit pouvoir réparer. Cette élimination du symbolique équivaut à une évacuation de la castration dont on ne s’étonne pas qu’elle mobilise l’activité technique. Il s’agit d’assurer une non-séparation et d’instaurer le règne d’une immédiateté pouvant se traduire dans le triomphe des automatismes et de la « pensée intégrale ». De là à considérer le transhumanisme comme l’avatar d’un paganisme dont la Gnose a pu porter le message dans les premiers siècles de la chrétienté, c’est ce que l’exposé s’aventurera à suggérer.

Jean-Michel Besnier, séminaire Le corps augmenté et ses symptômes, 18 novembre 2016 ISCC

De la Gnose au Transhumanisme

Qu’est-ce que la Gnose, le Transhumanisme et comment remédier à ces terribles maux ? Cet ouvrage essaye de répondre à ces trois questions fondamentales à travers cinq parties distinctes et complémentaires. La première retrace l’histoire de France jusqu’au 20e siècle, en insistant sur les causes de divisions engendrées par la Gnose au fil du temps, à travers des textes anciens et des témoignages historiques relatifs à certaines époques capitales. La deuxième aborde la problématique du Transhumanisme en dévoilant son véritable visage grâce à des faits contemporains en lien avec les géants du web également surnommés GAFA. La troisième apporte un éclairage nouveau, à travers des textes et contes originaux, en donnant des outils pratiques qui permettent de détecter et de comprendre les enjeux de différentes hérésies contemporaines. La quatrième propose une réflexion chrétienne approfondie sur les problématiques majeures de notre antique nation, dans l’optique de la renouveler selon les commandements de Jésus-Christ en s’appuyant également sur les recommandations des plus grands saints qui ont contribué à Son œuvre salvatrice. Enfin, la dernière partie vient compléter l’ouvrage grâce à des contes chrétiens originaux qui permettent de méditer sur les questions cruciales du Bien et du Mal ainsi que sur leurs conséquences. Le lecteur découvrira, non seulement, un ouvrage d’analyse qui essaye d’apporter, selon le dogme catholique traditionnel, des solutions concrètes aux problèmes contemporains, mais également une œuvre composée de textes méditatifs et de contes anticipatifs qui sont le fruit de cinq années de travail. L’auteur, qui travaille dans le milieu social, est informaticien spécialisé dans le domaine des logiciels libres depuis plus de quinze années.

Sommaire de l’ouvrage

Pour aller plus loin :

Les Religions, Jean Chevalier, éditions CEPL, 1972
– Michèle Broze, « L’hermétisme et la gnose : tradition et distorsion dans la transmission du savoir », Civilisations [En ligne], 52-1 | 2004, mis en ligne le 28 janvier 2009, consulté le 02 mars 2018. URL : http://journals.openedition.org/civilisations/739 ; DOI : 10.4000/civilisations.739
– Henri-Charles Puech, En quête de la Gnose I, La Gnose et le temps et autres essais. En quête de la Gnose II. Sur l’évangile selon Thomas. Paris, Collection Bibliothèque des Sciences humaines, Gallimard, 1978. 2 vol.
Les enseignements secrets de la Gnose (1907) publié sous la signature gnostique Simon—Théophane