Skip to content

Le vol du futur : la singularité technologique en question

En 2017, Jean-Gabriel Ganascia, professeur d’informatique à la Sorbonne, chercheur en intelligence artificielle et président du comité d’éthique du CNRS, publiait un ouvrage remarquable : Le mythe de la singularité technologique. Faut-il craindre l’intelligence artificielle ?1. Un des fils qui trament cet ouvrage porte sur un couplage inattendu entre une « pseudomorphose » technologique et politique. Étymologiquement, pseudomorphose vient du grec « pseudès » faux, trompeur et « morphosis », action donnant forme. Un processus physico-chimique lent qui par adjonction, altération, imprégnation d’éléments extérieurs ou en fonction d’un changement de l’environnement comme la température, modifie un corps qui, en apparence, reste semblable. Selon Jean-Gabriel Ganascia avec l’intelligence artificielle « forte » et l’intelligence artificielle « générale » nous sommes en présence de deux pseudomorphoses de l’intelligence artificielle.

Intelligence(s) artificielle(s)

Tout commence dans les années 1950, l’intelligence artificielle, comme discipline nouvelle, amorce une « quête » scientifique, celle de la compréhension de l’intelligence, sa décomposition en facultés élémentaires (mémoire, perception, calcul), sa reproduction et sa simulation numérique2. Latéralement coexiste un dessein philosophique aux ambitions démiurgiques, faisant écho à la science-fiction, qui vise à reproduire une conscience sur un ordinateur. Dans les années 1980, le philosophe John Searle, avec l’expérience fictive de « la chambre chinoise », distingue la discipline scientifique, technologique, empirique, l’intelligence artificielle « faible » (weak) de l’approche philosophique, l’intelligence artificielle « forte » (strong), qu’il dénonce. En 2011, lors de la « victoire » de l’algorithme Watson développé par IBM au jeu télévisé américain Jeopardize!, John Searle ironisait : « Watson doesn’t know it won on Jeopardy !3 ». Au début des années 2000, l’intelligence artificielle « forte », discursive, se mêle aux idées de mathématiciens qui veulent refondre l’intelligence artificielle sur de nouvelles bases : c’est la naissance du concept d’intelligence artificielle « générale », qui a pour objectif la réalisation d’une intelligence artificielle totale, sans limite4. Ben Goertzel, Marcus Hutter, Jürgen Schmidhuber fondent leurs espoirs sur la complexité de Kolmogorov et la théorie de l’inférence inductive de Solomonov, d’autres, sur l’utilisation des réseaux de neurones formels (deep learning) ou l’apprentissage par renforcement, que l’on a pu observer chez AphaZero qui a « battu » Stockfish au jeu d’échecs en décembre dernier5.

Malgré leurs différences, selon Jean-Gabriel Ganascia, les partisans de ces deux pseudomorphoses se retrouvent aujourd’hui dans le concept de singularité technologique. Une accélération technologique d’après le transhumaniste Ray Kurzweil (Singularity University, Google) qui pourrait conduire à l’émergence d’une intelligence artificielle générale, le fantasme, vers 20456.

Spiritualité gnostique

Au cœur de l’ouvrage, Jean-Gabriel Ganascia développe une comparaison audacieuse entre deux pseudomorphoses : la gnose spirituelle et la singularité technologique. Si, a priori, tout les oppose, Jean-Gabriel Ganascia perçoit dans le rapport d’opposition/récupération de la gnose à la religion, une analogie propre à dégager une grille d’analyse qui aide à saisir la singularité technologique dans son rapport à la science contemporaine.

Qu’est-ce que la gnose ? Gnose vient de gnosis qui veut dire « connaissance ». La spiritualité gnostique atteint son point culminant au IIe siècle. Elle s’inspire de traditions spirituelles anciennes et notamment des croyances magiques égyptiennes, babyloniennes et perses et s’exprime par une dualité radicale entre un vrai Dieu, un Dieu suprême, qui reste caché, et un faux Dieu, un usurpateur qui aurait créé l’Univers à l’insu du vrai Dieu et qui serait ainsi à l’origine de nos maux, souffrances et finitude.

Dans la spiritualité gnostique, le monde dans lequel nous vivons est un faux-semblant, qu’il faut « réparer » pour accéder à la plénitude de l’être, l’être véritable. À cette fin, il faut s’arracher à l’autorité du démiurge, rompre avec sa domination. Cet arrachement passe par l’acquisition d’un savoir qui doit permettre de dissiper l’illusion et autoriser l’accès au monde caché. S’extraire de l’emprise du faux Dieu, suppose une « brisure » capable d’apporter la « dislocation salutaire » …

Pseudomorphose politique

En rendant « plausible » l’idée de singularité technologique via des catégorie de pensées disponibles, populaires, Jean-Gabriel Ganascia considère qu’on la rend « possible », au sens de quelque chose « susceptible de se produire ». Si ce concept est douteux sur le plan scientifique, il est, selon lui, plus encore « répréhensible » sur le plan moral, irresponsable de la part de scientifiques qui ont pour mission d’ouvrir des perceptives. En occultant les autres risques, mais aussi les alternatives, le degré de liberté humaine disponible, ils contribuent ainsi à opacifier le futur en masquant les possibles.

Plus encore, la « brisure » renvoie à un temps futur qui n’appartiendra plus à l’homme. Inéluctable, l’inflexion semble pouvoir ne se faire qu’a minima comme tentée de gauchir l’évolution de l’intelligence artificielle, la rendre « amicale ». Aussi la singularité technologique conduit-elle à un enfermement. L’action libre, si elle subsiste, déroge à la perfection.

In fine, la singularité débouche sur une pseudomorphose politique, celle de l’humanisme des Lumières qui était basé sur la perfectibilité. À l’issu de ce réquisitoire, Jean-Gabriel Ganascia conclut à la liberté que l’on abdique, au futur qui se dissipe.

Notes :

3 John Searle, « Watson doesn’t know it won on ‘Jeopardy’ », The Wall Street Journal, 23 février 2011.

4 Lire Hugo Roland de Garis et Ben Goertzel, « Report on the first conference on artificial general intelligence (AGI-08) », AI Magazine, printemps 2009, p. 121-123.

5 Pierre Barthélémy, « AlphaZero, algorithme prodige de l’échiquier », Le Monde, 12 décembre 2017.

6 Dom Galeom et Christiana Reedy, « Kurzweil claims that the singularity will happen by 2045 », Futurism, 5 octobre 2017.

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Shares