La singularité technologique est un concept qui voit dans certaines avancées scientifiques la prévision d’une croissance explosive de la connaissance humaine. Ses aspects révolutionnaires ne se trouvent pas tant au niveau épistémologique que dans les conséquences politiques et sociales d’un tel essor du savoir.

L’humain est mort, vive le transhumain ! Des mots qui claquent et rayent nos consciences forgées par des siècles d’une lente et douloureuse dialectique qui n’a eu de cesse de faire et défaire l’humain. Et voilà que quelques extravagants viennent bousculer une construction séculaire ! Les esprits politisés de nos vieux pays tentent cahin-caha d’ignorer ces visions annonciatrices de chaos, et continuent de penser la polis munis de poussiéreuses idées – antiques concepts qui nous ont certes menés à un précaire équilibre social. Pourtant, ces énergumènes terrés devant leurs ordinateurs, que l’on qualifie avec dédain de techno-béats, cyberutopistes, geeks apolitiques, qui ne nourrissent leurs rêves que d’une science-fiction doucereuse, pensent le monde et construisent l’avenir.

Humani Victus Instrumenta: Ars Coquinaria

Crédit image : Wikimedia Commons

Quelle est alors cette menace contre l’humain qui grandit dans la pensée scientifique ? Quelle est cette singularité qui prédit la fin d’un monde ? La singularité n’est point une menace mais une révolution qui fait de la croissance explosive de la connaissance la voie vers le dépassement de l’humain. Une nouvelle ère se dresse devant nous, et la science modèlera l’avenir. Alors risquons-nous à la technomancie !

Singulière singularité

Cet étrange terme singularité correspond à l’avènement d’une courbe exponentielle de l’évolution de la connaissance. La civilisation humaine connaîtra grâce à une découverte scientifique une croissance telle que tous les fondements de notre société ne pourront plus être pensés avec leurs valeurs actuelles. Nombreux sont ceux qui estiment que la singularité technologique sera l’intelligence artificielle. Ce concept trouve ses sources dans la pensée cybernétique du début du XXe siècle, et se trouve être attribué au mathématicien John von Neumann. Il estima dans les années 1950 que l’accélération du progrès humain entraînerait une singularité dans l’histoire humaine.

Echelle linéaire de la Singularité : Temps entre le prochain évènement marquant une évolution en fonction d’une échelle de temps jusqu’au présent.

Crédit image : Wikipedia Commons Coutesy of Ray Kurzweil and Kurzweil Technologies, Inc. 

La singularité technologique fait référence à la singularité gravitationnelle, zone de l’espace-temps où les quantités permettant de calculer le champ gravitationnel deviennent infinies et les connaissances scientifiques actuelles ne peuvent plus s’appliquer. La singularité technologique annoncerait un évènement à nul autre pareil dont l’historicité fausserait toutes les analyses des sciences humaines et sociales. Ce « trou noir » de l’histoire a été popularisé  par Vernor Vinge, notamment dans un article de 1993 qui fut largement diffusé, The Coming Technological Singularity : How to Survive in the Post-Human Era. Il voit le début de cette ère dans l’apparition d’une intelligence surhumaine ; elle peut se manifester tantôt dans le développement d’ordinateurs intelligents, notamment à travers une architecture en réseau, tantôt dans l’accroissement de l’intelligence humaine par les avancées de la biologie.

C’est pour quand ?

Les prévisions varient entre 2020 et 2050. Ray Kurzweil, informaticien, futurologue et transhumaniste, estime dans son livre The singularity is near que la singularité apparaîtrait en 2045, tandis que Vernor Vinge prédit, dans son article précédemment cité, une date aux alentours de 2030. Face à une courbe exponentielle de la croissance du savoir, toute la question serait de trouver le nombre e de la fonction exponentielle de l’évolution humaine.

A cette fin, la loi de Moore est intéressante. Gordon E. Moore, chimiste et cofondateur de la société Intel, a expliqué de manière empirique que le nombre de transistors sur les microprocesseurs double tous les deux ans environ. Cela entraîne une croissance exponentielle de la capacité de calcul des ordinateurs. Ray Kurzweil estime néanmoins une possible stagnation de cette loi avec l’atteinte des limites des microprocesseurs actuels en 2019. Elles seraient toutefois rapidement dépassées par de nouvelles technologies comme l’ordinateur quantique, qui catalysera sans aucun doute la recherche informatique. Il envisage la généralisation de la loi de Moore dans sa théorie the law of accelerating returns à d’autres domaines scientifiques liés à cette capacité de calcul. Cette croissance exponentielle continuerait jusqu’à atteindre la singularité, soit une intelligence surhumaine pour Kurzweil. Il estime que le progrès qui aura lieu au cours du XXIe siècle correspondra à l’équivalent de 20 000 ans d’évolution humaine. L’ingénieur Robert Zubrin juge que la singularité technologique nous conduirait à une civilisation de Type I sur l’échelle de Kardashev, qui mesure l’évolution des civilisations sur une base technologique en fonction de la quantité d’énergie pouvant être utilisée. Nikolaï Kardashev estimait qu’une civilisation de Type I aurait le pouvoir d’utiliser l’équivalent de toute l’énergie disponible sur sa planète, de toute son étoile pour le Type II et de toute sa galaxie pour le Type III. Selon Guillermo A. Lemarchand, l’énergie en question pour une civilisation de Type I correspond à une valeur entre 10¹⁶ et 10¹⁷ watts.

Une telle idée d’accélération du progrès alarme l’esprit qui tente de la cerner, mais de quelle façon notre société envisagera sa propre croissance technologique ?

Nébuleuse appréhension de la singularité technologique

La singularité technologique, concept qui prévoit une accélération du progrès scientifique, correspond le plus souvent au développement d’une intelligence surhumaine. L’appréhension de la singularité se trouve trop souvent teintée d’une inquiétude qui fausse les prévisions des possibles conséquences d’une telle croissance de la connaissance humaine. Notre société est dans l’obligation d’estimer à sa juste valeur le futur technologique – sans tomber dans une quelconque fantasmagorie – si elle ne souhaite pas être submergée par ses propres découvertes.

L’humain sera le premier robot 

Empreint de fiction, l’imaginaire collectif est saisi d’effroi à l’idée d’une intelligence surhumaine. Des robots, des ordinateurs contrôlant le vivant, d’implacables machines étouffant le sensible, ainsi s’esquisse la vision apocalyptique de telles découvertes scientifiques. Il est toutefois nécessaire de comprendre l’intelligence artificielle comme une technologie capable de reproduire les mécaniques de l’intelligence humaine, à travers des phénomènes tels la perception, l’apprentissage, l’interaction sociale, la mémoire, le jugement critique pouvant mener à la création. Mais cela doit être appréhendé avec la conscience d’une intelligence artificielle façonnée par l’intelligence humaine.

Les prédictions de possibles dystopies qui ne cessent de voir dans la science l’origine du mal confondent vraisemblablement les moyens des causes. Les condamnations que peut provoquer la singularité technologique ne sont que les miroitements du jugement inconscient porté sur la société actuelle. Etrangement, cette vision d’horreur correspond dans la fiction volontiers à un glissement d’une société néolibérale à une technotyrannie.

Ces idées reçues se cristallisent aussi dans une forme de dualité destructrice où la menace de l’humain serait sa propre création. Le spectre du monstre de Frankenstein flotte autour des découvertes scientifiques – la créature est devenue ordinateur. Une telle critique ne tient pas compte de la transcendance même de l’humain et de ses valeurs que pourrait entraîner le progrès scientifique. La peur d’une intelligence surhumaine dominant et annihilant l’humain se trouve quelque peu faussée s’il est considéré d’une part que les comportements de l’artificiel résultent des décisions de l’originel, et d’autre part que l’intelligence surhumaine ne sera peut-être pas le propre de quelconques ordinateurs mais du cerveau humain lui-même, au moyen entre autres d’implants cérébraux.

Il paraît totalement erroné de considérer un progrès scientifique sans estimer l’évolution de tout le cadre dans lequel ce progrès a lieu. La singularité technologique équivaut à une remise en cause totale de l’épistémologie classique qui entraînera une transformation conséquente de l’environnement humain.

Mésestime du futur

Les découvertes scientifiques sont perçues au fil de leur arrivée sans volonté réelle de saisir la portée politique de leurs évolutions à venir. Le progrès scientifique continue d’être compris comme le résultat des évolutions sociales et politiques du collectif, sans se risquer d’y percevoir la source même de transformations sociales. L’invention des caractères mobiles de l’imprimerie par Gutenberg au XVe siècle a permis de diffuser largement le savoir, mais n’est-elle pas également la source des transformations de la société du XVIe siècle, du protestantisme ou encore de l’économie moderne ?

La prospective se base sur les informations disponibles actuellement dans le but d’établir des prévisions de l’avenir. Face à un évènement historique tel que la singularité, il devient difficile d’établir une quelconque projection à partir des données disponibles puisque le cadre même qui permet de les envisager est remis en question. Un glissement théorique de la prospective à la futurologie s’impose. Ce qui était considéré auparavant comme une divination irrationnelle se présente aujourd’hui comme une rationalité divinatoire. Les sciences spéculatives douées d’une forte scientificité permettront certainement d’émettre des hypothèses que l’expérience démontrera. L’analyse de ces hypothèses se dresse comme une exigence afin de comprendre les transformations sociales et d’encadrer un changement d’ère. Nous ne pouvons penser qu’avec gravité à l’impact historique de l’énergie atomique dont l’utilisation a façonné la société contemporaine.

La question de l’appréhension des réactions d’une intelligence artificielle surhumaine est un exemple d’interrogation interdisciplinaire qui devrait être menée. D’aucuns y voient une menace pour l’humanité comme Hugo de Garis, qui envisage même une guerre dévastatrice centrée autour de la question de l’intelligence artificielle. Mais n’est-ce pas encore une fois l’erreur de la prospective par rapport à la futurologie qui pense l’avenir à partir de données actuelles sans envisager la transformation de tout le cadre dans lequel une telle intelligence paraîtrait ?

Cela questionne la possible maîtrise du comportement de l’intelligence artificielle avec l’établissement de principes premiers et de lois protectrices de l’humain, comme avec les trois lois de la robotique établies par l’écrivain de science-fiction Isaac Asimov. Il est également nécessaire de se rappeler que l’homme restera au centre de ses propres créations, et animé par son désir d’élévation, le développement d’une intelligence surhumaine se focalisera en particulier sur l’augmentation des capacités cérébrales. Des projets comme le blue brain de l’EPFL suggèrent la virtualisation du cerveau humain et potentiellement du phénomène cognitif. Des émotions humaines dans l’artificiel deviennent même envisageables. Ainsi, l’humain se virtualiserait et l’ordinateur s’humaniserait. Artificiel et biologique se rejoindraient en une même entité.

« Il est également nécessaire de se rappeler que l’homme restera au centre de ses propres créations » – Crédit Image : DeviantArt/Bergie81

Au-delà de ces vagues projections, la recherche scientifique actuelle témoigne de certaines prémices. Des bras articulés commandés par influx nerveux sont développés pour offrir une mobilité perdue à des tétraplégiques, des implants sous-cutanés afin d’établir un bilan de santé en direct ont été envisagés, la fabrication d’organes devient un projet de plus en plus concret, ou plus pratiquement des interfaces de réalité augmentée telles que le projet SixthSense, les google glass ou des lentilles de contact bioniques se matérialisent.

A l’aube d’un séisme politique nommé singularité

Il semble particulièrement léger de ne pas questionner l’idéologie motrice des changements qu’augure la singularité technologique, et encore plus imprudent de ne pas chercher à prévoir l’impact social de l’accélération du progrès scientifique. Notre société se trouve à l’orée de considérables transformations politiques qui reposeront sur les avancées technologiques. L’histoire nous montrera certainement une fois de plus que la technique détermine la politique.

Idéologie contre idéologie 

Le réel problème que posera la singularité technologique sera la manière avec laquelle la croissance du savoir se répercutera sur les transformations sociales. Somme toute, quelle idéologie conduira la révolution technologique ? Dopé aux nootropes, sublimé par un exocortex, se projetant vers de nouvelles dimensions, la possibilité de l’homme augmenté s’envisage, mais que sera-t-il politiquement ?

Les théories qui structurent le concept de singularité technologique sont principalement teintées de libéralisme. La pensée anglo-saxonne a pris le risque de se confronter avec sérieux à ce concept et la plupart des écrits à ce sujet émanent de chercheurs anglo-saxons. Le transhumanisme a fait sienne la singularité technologique, et ce courant théorique n’est pas neutre politiquement. Il vacille d’une forme de libéralisme à l’autre, de la social-démocratie au libertarianisme. Un penseur comme Kurzweil en est un bel exemple ; transhumaniste, libertarien, il a participé à la mise en place de la Singularity University avec Google. Cet établissement, qui cherche à comprendre inter-disciplinairement l’impact de l’accélération de la technologie sur l’humanité, est une illustration du retard de la recherche européenne à ce niveau. Le danger principal de l’emprise de l’idéologie anglo-saxonne sur cette thématique serait peut-être sa forte teinte utilitariste. L’utilitarisme devient dangereux lorsque l’être humain dans son individualité semble être un frein néfaste à l’humanité. La loi zéro d’Asimov sonde cette problématique en faisant passer l’intérêt de l’humanité avant l’intérêt de l’être humain.

Une programmation utilitariste et libérale de l’intelligence artificielle pourrait alors être un réel danger pour les êtres vivants, qui pourraient être perçus comme inutiles par la machine. Mais comme l’énonce Slavoj Zizek, il est plus facile d’imaginer la fin du monde qu’un modeste changement du modèle politique ; le libéralisme est devenu le réel qui survivra à l’humain.

Un transfert de l’axe de réflexion du productivisme à l’eudémonisme pourrait être un début à une révolution de l’approche idéologique de la technologie (certains économistes ont fait ce choix en se tournant vers le bonheur national brut plutôt que vers le produit intérieur brut).

La singularité doit être abordée avec la conscience des idéologies qui sous-tendent la question du progrès. Les luttes sociales et les conflits d’intérêts présents dans les domaines scientifiques et industriels doivent entrer dans le débat afin d’envisager une possible pensée de la croissance technologique centrée sur le bonheur – un eudémonisme transhumain.

D’une intelligence artificielle utilitariste s’envisage alors une intelligence artificielle amicale selon les termes de la recherche de Eliezer Yudkowsky. Cela pourrait correspondre à une humanisation politique de l’artificiel.

Les préludes d’une intelligence collective

De la démocratie à la cognition en passant par les interactions sociales, tous les fondements sociaux seront renouvelés. Les liens entre les humains sont déjà en train d’être redessinés par les réseaux sociaux qui créent l’ébauche d’une intelligence collective. L’interconnexion des individus crée un réseau structurant la réactivité d’une société face à un évènement – une empathie collective commence à être de plus en plus visible avec une diffusion accélérée de l’information grâce à des outils comme Twitter. Cette interconnexion pourrait se représenter comme une toile qui propagerait à son ensemble toute vibration ressentie. La présence à portée de main d’outils tels que Wikipédia permet d’externaliser la mémoire, de libérer l’intelligence de la tâche du souvenir et de lui offrir l’opportunité de se transformer, comme le pense notamment Michel Serres. L’intelligence collective se trouve encore à un stade de passivité avec une satisfaction de la simple réaction. Ce niveau qui pourrait être qualifié d’émotif fait place peu à peu à une rationalité agissante qui utilise une cognition distribuée.

Dans le domaine politique, des logiciels ont ainsi pu créer de nouveaux modèles, avec notamment la démocratie liquide qui assemble les forces de la démocratie directe et représentative. De la création technique émerge ainsi la création politique. Dans le domaine économique, la finance participative (crowdfunding) décentralise la levée de fonds en supprimant une intermédiation classique ralentissant l’innovation. Les avancées technologiques bouleversent l’économie contemporaine en permettant aux individus de se réapproprier les moyens de production. Entre des phénomènes comme la libération de l’information avec le renouvellement du droit de la propriété intellectuelle et la création de machines comme l’imprimante 3D offrant à tous la possibilité de faire siens les moyens de production délaissés jusqu’alors à l’industrie, une importante déstabilisation du modèle économique industriel et libéral s’annonce pour les années à venir.

Les choix ne sont pas vastes : 1) soit ce modèle économique se transforme en remettant en cause ses valeurs fondatrices (le libertarianisme le tente notamment en ce qui concerne la propriété intellectuelle), 2) soit un nouveau modèle économique émerge (la question de l’économie de l’abondance laisse place à une idée d’horizontalité où les interactions de l’individu avec son environnement deviennent de plus en plus fréquentes), 3) soit le modèle actuel tente de faire prévaloir les intérêts d’un petit nombre sur l’intérêt commun en imposant davantage de restrictions (il est possible de constater cette tendance avec la gestion des droits numériques face à l’émergence d’une diffusion de la culture numérique).

L’interconnexion des individus que présage déjà les réseaux informatiques laisse poindre la société du cerveau global, où tous les êtres seront reliés tel un système nerveux qui formera un tout agissant. L’idée de Teilhard de Chardin de la noosphère, selon laquelle le phénomène de la cognition serait mutualisé en une conscience collective de l’humanité, s’avère présage de la révolution technologique en cours. En des nuées électroniques, se révèlent les contours d’une société cybernétique où les interactions permettront l’autorégulation d’entités interconnectées et constitueront l’identité même d’une humanité transcendée.

La question environnementale

Une interrogation politique que posera l’accélération de la croissance technologique sera aussi celle de l’écologie transhumaine. Les nombreux problèmes environnementaux que pose le modèle contemporain de production pourraient s’accroître avec les avancées technologiques de notre époque (augmentation par exemple de la pollution de l’espace). La gestion des déchets devient alors une question cruciale liée aux avancées scientifiques. Un courant comme le technogaïanisme voit dans le progrès technologique non une menace mais une voie vers la possible restauration de l’écosystème terrestre ; des découvertes scientifiques comme la photosynthèse artificielle ou la fusion nucléaire iraient dans ce sens. Les perspectives environnementales sont éminemment idéologiques tantôt si une approche anthropocentrique est choisie tantôt si le respect de la biosphère prime. Cette opposition peut être perçue dans le courant de l’écologie profonde qui abandonne le primat des intérêts humains de l’écologie classique pour les replacer dans le cadre plus large des intérêts du vivant. Une exploitation des matières premières se trouvant dans l’espace, comme par la capture d’astéroïdes notamment à des fins minières, annoncent des solutions à la surexploitation des ressources terrestres. L’éminent Stephen Hawking offre même à des chimères de la science-fiction son autorité scientifique lorsqu’il prédit l’avenir de notre humanité avide de progrès dans la colonisation de l’espace.

L’explosion démographique

Un autre point idéologique fondamental que pose la singularité technologique est la question de la démographie. Une accélération des découvertes médicales, comme la régénération d’organes grâce à des cellules souches voire l’impression d’organes, pourrait accroître considérablement l’espérance de vie. Des chercheurs prédisent même une quasi-éternité de l’humain (même si la longévité n’est que de quelques siècles, l’esprit pourrait être téléchargé dans un androïde se substituant au corps). La démographie a toujours été un moteur des transformations sociales à travers l’histoire, et l’explosion démographique qui risque de se produire avec l’accroissement de la longévité transformera inévitablement l’humanité. Aubrey de Grey parle de Methuselarity pour décrire une époque où la mort ne surviendrait plus que par accident ou homicide. L’humain devient un Mathusalem en puissance. Les conséquences d’une telle croissance démographique pourraient être nombreuses : des guerres entre des populations sur le déclin et des populations s’accroissant (fluctuations pouvant correspondre à l’accès aux soins des populations), des formes de gérontocratie, ou encore le développement de la recherche spatiale afin de coloniser des planètes voisines (Mars One).

Face à un temps qui s’annonce où le savoir créera du savoir, où l’augmentation de l’humain le mènera vers une refondation de ses valeurs, où la science s’affirmera comme le moteur de densification sociale et politique, la nécessité de la réflexion s’impose dans l’espoir de diriger cette explosion future de la connaissance vers le bien commun. 

A propos de l’auteur :

Rodhlann Jornod, après avoir suivi des études de droit, se consacre à l’étude de la philosophie pratique. Il est doctorant au sein de l’Institut de criminologie de Paris, et rédige actuellement une thèse de doctorat qui analyse les structures de la morale à partir du phénomène du droit pénal. Son intérêt pour les nouvelles technologies l’a également conduit à étudier l’impact des sciences sur des notions de philosophie pratique telles que la morale et la politique.

Les scientifiques commencent à travailler sur l’ingénierie inverse du cerveau

source