Le Mythe de la Singularité. Faut-il craindre l’intelligence artificielle ?

Le Mythe de la Singularité. Faut-il craindre l’intelligence artificielle ?
Livre de Jean-Gabriel Ganascia

L’intelligence artificielle va-t-elle bientôt dépasser celle des humains ? Ce moment critique, baptisé « Singularité technologique », fait partie des nouveaux buzzwords de la futurologie contemporaine et son imminence est proclamée à grand renfort d’annonces mirobolantes par des technogourous comme Ray Kurzweil (chef de projet chez Google !) ou Nick Bostrom (de la vénérable université d’Oxford). Certains scientifiques et entrepreneurs, non des moindres, tels Stephen Hawking ou Bill Gates, partagent ces perspectives et s’en inquiètent.
Menace sur l’humanité et/ou promesse d’une transhumanité, ce nouveau millénarisme est appelé à se développer. Nos machines vont-elles devenir plus intelligentes et plus puissantes que nous ? Notre avenir est-il celui d’une cybersociété où l’humanité serait marginalisée ? Ou accéderons-nous à une forme d’immortalité en téléchargeant nos esprits sur les ordinateurs de demain ?

Voici un essai critique et concis sur ce thème à grand retentissement par l’un des meilleurs experts des humanités numériques.

Jean-Gabriel Ganascia est professeur à l’université Pierre-et-Marie-Curie, où il mène des recherches sur l’intelligence artificielle au Laboratoire informatique de Paris 6 (LIP6). Il est président du comité national d’éthique du CNRS et a publié divers ouvrages dont le précurseur L’Âme machine, au Seuil en 1990.

 

Transhumanisme et génétique humaine

L’Observatoire de la génétique No 16 – mars-avril 2004

Klaus-Gerd Giesen Université d’Auvergne

Les transhumanistes représentent-ils simplement une secte d’illuminés technophiles issus de la classe moyenne, en mal d’ascension sociale et de sensations fortes ? Le rêve d’un être humain programmable à l’image mécaniste d’un logiciel d’ordinateur et produit par des techniques de sélection, d’élimination ou de manipulation biologique, que les éleveurs appliquent aux espèces animales, n’est-il pas fantasmagorique ? Raisonner ainsi signifierait sous-estimer un courant de pensée transhumaniste qui prend de l’ampleur et qui a surtout conscience du moment historique que nous vivons sur les plans tant technique qu’idéologique.

Téléchargez le PDF

voir aussi : Humanisme et transhumanisme : l’Homme en question

L’avènement des super-intelligences

Jean-Paul Baquiast (fiche auteur en bas de l’article)
Comprendre – Nouvelles sciences, nouveaux citoyens, 2005, p. 123-124

Une priorité politique

Comprendre ce que signifie cette marche vers de super-intelligences à échéance de quelques dizaines d’années, admettre son caractère inexorable (sauf accidents toujours possibles, dus notamment à la folie humaine), devrait donc constituer un objectif de civilisation transcendant tous les autres. Il faudrait orienter dès maintenant en ce sens le fonctionnement des sociétés, dans le cadre d’une priorité scientifique et politique majeure.

La première urgence, nous semble-t-il, concerne la communauté de l’Intelligence Artificielle, qui devra se réveiller, à l’exemple des Kurzweil, Moravec et Minsky. Pour concrétiser cela, Kurzweil propose de remplacer le vieux terme d’Intelligence Artificielle par celui d’Intelligence Augmentée ou Intelligence Accélérée. Ces expressions ont l’avantage de ne plus établir de barrière entre une intelligence humaine et une intelligence artificielle, mais d’anticiper leur fusion dans la super-intelligence annoncée. Il est temps en tous cas de cesser les anciennes querelles entre écoles de l’Intelligence Artificielle et de s’unir pour des chemins de développement qui s’annoncent très prometteurs*. On avait beaucoup disserté ces dernières années sur l’opposition entre la vieille Intelligence Artificielle, réputée avoir échoué par excès d’ambition et manque de moyens de calcul, face à la nouvelle Intelligence Artificielle évolutionnaire. Si l’approche évolutionnaire conserve tous ses mérites pour générer de la complexité par appel à des règles computationnelles simples, l’ancienne Intelligence Artificielle, partant de l’analyse et de la modélisation du vivant, retrouve toutes ses perspectives avec les puissants moyens de calcul mis aujourd’hui à sa disposition. Les exemples récents de synthèse d’ADN simples (virus de la poliomyélite) montrent la voie, amplement développée par Ray Kurzweil : scanner puis numériser le vivant afin d’en recréer des équivalents artificiels susceptibles de s’interfacer avec ce même vivant. L’actualité scientifique offrira dorénavant tous les mois ou presque de nouveaux exemples analogues. Les nanotechnologies fourniront ultérieurement des substituts nombreux susceptibles d’être interfacée avec les composants biologiques.

La seconde urgence consiste à sortir des spécialités disciplinaires (l’intelligence artificielle, la robotique, l’informatique, la physique des composants et des nanocomposants, la biologie, la neurologie, les sciences sociales, etc.) pour aborder des projets intégrés. Ce sont des systèmes super-intelligents qu’il faudra réaliser. Ceci veut dire qu’il ne s’agira pas seulement de logiciels ou robots, en réseaux ou non, mais aussi de corps et d’esprits vivants s’interfaçant momentanément ou durablement avec les artefacts. On ne pourra pas progresser sans la mise en place de projets globaux réunissant des spécialistes des diverses disciplines – dont la plupart seront à former pour les ouvrir aux connaissances et méthodologies qu’ils ne connaissent pas encore.

Une troisième urgence, tout aussi excitante pour l’esprit, concerne la nécessité de commencer à étudier l’impact qu’auront les recherches précédentes sur celles intéressant la physique des hautes énergies, la mécanique quantique et la cosmologie. Nous avons évoqué les perspectives de la physique quantique appliquées à des technologies devenues industrielles comme le laser ou à des technologies encore à l’étude comme la cryptologie quantique ou l’ordinateur quantique. L’ouvrage de Hans Moravec, Robot (op.cit.) montre de façon encore plus systématique ce qui pourra être fait, dans les domaines de la recherche fondamentale, notamment la cosmologie. On sait que les travaux relatifs à ces sciences ne progressent que lentement. Tout semble laisser penser cependant que nous pourrions être à la veille de bouleversements profonds, entraînant des répercussions théoriques et pratiques sur nos conceptions du temps et de l’espace. Celles-ci pourraient être aussi importantes sinon plus que celles introduites au début du siècle dernier par Einstein en matière de cosmologie et par l’école de Copenhague en mécanique quantique. La “demande” représentée par la construction de super-intelligences sera la meilleure incitation pour la nécessaire relance des recherches dans ces domaines fondamentaux – comme sans doute la meilleure justification pour des investissements lourds comme le sont les grands accélérateurs de particules.

Reste un dernier volet, celui du politique, qui doit à la fois être abordée sous l’angle économique et sous l’angle des idées et programmes.

Robotique et croissance

Au plan économique, la mise au point de super-intelligences, comme les recherches en amont nécessaires, supposeront de l’argent et beaucoup de matière grise. L’état de pauvreté dont souffrent actuellement les sciences et les industries s’intéressant à ces questions est à cet égard préoccupant. Or nos sociétés, nous l’avons vu, dépensent des sommes considérables pour traiter des problèmes d’adaptation hérités des siècles derniers : productions agricoles et industrielles obsolètes, course à coups de centaines de milliards aux gisements de pétrole encore disponibles, investissements dits touristiques destinés à d’infimes minorités enrichies par la spéculation**. Un transfert, fut-il partiel, de ces sommes vers la mise au point de super-intelligences entraînerait des retombées économiques considérables, dont l’humanité entière pourrait bénéficier rapidement (par exemple en matière de nouvelles énergies, de technologies moins destructives, mais aussi de techniques d’éducation et de santé, sans parler d’une relance sans doute massive de l’emploi). Il faut en prendre conscience et l’inscrire dans les politiques publiques et des grandes firmes.

Au plan des idées et des programmes enfin, de telles perspectives devraient dès maintenant être présentées aux populations comme des issues majeures. Sans préparation, le citoyen risque d’être mis (ou de se mettre) à l’écart de la compréhension d’un nouveau monde qui s’esquisse. Les gouvernants ont une responsabilité essentielle dans cette perspective. Mais le fait d’un Georges Bush qui polarise les perspectives technologiques sur l’objectif de la seule lutte contre le Mal, ou celui de chefs d’État européens n’ouvrant aucune fenêtre scientifique d’importance à leurs populations, montrent que les hommes politiques occidentaux ont encore tout à apprendre. Et quelle est la place des pays du Tiers-Monde dans ce paysage ?

* Voir à ce sujet ce que cherche à faire l’Institut (américain) pour la Singularité, Singularity Institute
http://singularityu.org/
** Voir par exemple le complexe des deux Palm Islands à Dubaï.

Fiche auteur

Institut d’Études Politiques de Paris 1954, DES de Droit Public et d’Économie Politique.
École Nationale d’Administration 1960-1962

A consacré sa carrière administrative aux technologies de l’information, au Ministère de l’Économie et des Finances, à la Délégation Générale à la recherche Scientifique et Technique, ainsi qu’au niveau interministériel : Délégation à l’informatique 1967-1973, Comité Interministériel de l’informatique dans l’Administration (CIIBA), 1984-1995.

A créé en 1995 le site web Admiroutes (www.admiroutes.asso.fr), non-officiel et bénévole, pour la modernisation des services publics par Internet, ainsi que l’association de la Loi de 1901 Admiroutes, qu’il préside.

Co-rédacteur en chef et co-fondateur d'”Automates intelligents”
(www.automatesintelligents.com), site web et magazine en ligne lancé le 12 décembre 2000
Membre du bureau de l’Association Française pour l’Intelligence Artificielle

Auteur de divers ouvrages et articles dont :
– La France dans les technologies de l’intelligence, 1984, La Documentation Française
– Administrations et autoroutes de l’information . Vers la cyber-administration, 1996, Les Editions d’Organisation
– Internet et les administrations, la grande mutation, 1999, Berger-Levrault

Croix de la Valeur Militaire
Chevalier de la Légion d’Honneur
Officier de l’Ordre National du Mérite

Transhumanisme : le surhomme est l’avenir de l’homme

Depuis 1991, les Extropiens prêchent « l’amélioration » de l’Homme par tous les moyens technologiques possibles. Guidés par Max More et sa femme, ils ont constitué un réseau d’influence pour promouvoir les innovations les plus extrêmes.

« Préférez-vous les gènes hérités de vos parents ou des chromosomes remplaçables, choisis sur mesure ? Demeurer un homme toute votre vie ou changer de sexe à l’envi ? Être sujet à la dépression ou armé d’un optimisme inaltérable ? » Derrière son pupitre, Natasha Vita-More, la quarantaine liftée et bodybuildée, achève la présentation de son projet « artistique » d’humain amélioré. La scène se passe à New York, en juin 2001, à la conférence futuriste manTRANSforms. Un parterre d’universitaires atteste du sérieux de la chose. Natasha Vita-More ne plaisante pas. Depuis 1991, elle et son mari, Max, prêchent la bonne parole de l’Institut d’Extropie, un courant de pensée qui vise à « améliorer » l’être humain, par tous les moyens technologiques possibles.

Férus de pseudonymes futuristes comme Max More ou Tom Morrow, les Extropiens pourraient n’être qu’une bande d’illuminés sortis d’un mauvais roman de science-fiction. Mais, dans la Californie euphorique des années 90, leurs idées ont séduit des informaticiens, des scientifiques, des universitaires, des hommes d’affaires et des journalistes. Aujourd’hui, les Extropiens comptent 2 000 membres, une dizaine de mailing-lists et des centaines de sites. Chaque jour, ils scrutent les avancées qui les rapprochent de leurs rêves : vie éternelle, bébé sur mesure, sauvegarde du cerveau sur disque dur, implant bionique, super intelligence artificielle, colonisation de l’espace…

Scientisme décomplexé

La philosophie extropienne est faite du refus des « limites » et des « défauts » de la nature humaine. Elle ne prône rien de moins que l’émergence d’une nouvelle espèce « supérieure » à la nôtre. Grâce à la technologie, nous serions en train de devenir « transhumains », un état transitoire vers le « post-humanisme » ou « ultra-humanisme ». Et, sous la houlette de leur président Max More, un « philosophe-consultant-futuriste » d’origine anglo-irlandaise, formé à Oxford, les Extropiens ont peu à peu constitué un réseau d’influence aux choix politiques pragmatiques : libéralisme contre régulation, individualisme contre communautarisme, optimisme forcené contre principe de précaution, États-Unis contre Europe. Car ils en sont persuadés : c’est l’Amérique du Nord qui leur permettra de réaliser leur rêve de surhommes. Même si deux ou trois Français contribuent épisodiquement à leur mailing-list, les Extropiens considèrent l’Hexagone comme un pays conservateur et dirigiste, ennemi de la liberté totale d’expression. Autant de défauts impardonnables…

Dans une communauté scientifique se sentant souvent incomprise, le positivisme décomplexé des Extropiens est en phase avec l’air du temps. Depuis, la conférence Extro 4 qu’ils ont organisée à Stanford en 1999, ils ont été rejoints par des chercheurs de renommée mondiale. Ainsi, Marvin Minsky, fondateur du laboratoire d’intelligence artificielle du célèbre MIT (Massachussetts Institute of Technology), fait officiellement partie du conseil de l’Institut. Ray Kurzweil, inventeur du synthétiseur et spécialiste de la reconnaissance vocale, fait également partie des têtes pensantes. Le titre provocateur de son dernier best-seller, l’atteste : L’Âge des machines spirituelles, quand les ordinateurs dépasseront l’intelligence humaine. Moins officielle, la nébuleuse de leurs sympathisants compte d’autres personnalités de premier plan : le chercheur en robotique Hans Moravec, le mathématicien et écrivain de science-fiction Vernor Vinge ou Hal Varian, théoricien de la fameuse « économie de l’information ». À la fois experts du high-tech et prophètes intarissables, les membres du collectif ont su capter l’attention des médias. De CNN au New York Times, en passant par le Frankfurter Allgemeine Zeitung, Discovery Channel, ou encore Marie Claire Italie, de nombreuses rédactions se sont intéressées à leur cas… Ils disposent également de la solide bienveillance du magazine Wired, la Bible des nouvelles technologies. Le premier numéro de l’an 2000 était d’ailleurs consacré à la « super longévité ». Natasha Vita-More, la « pionnière » du mouvement, y exposait longuement son point de vue au cours d’une interview titrée « Don’t die, stay pretty » (« Ne mourrez jamais, restez beau »).

Lobbying intensif

De mieux en mieux organisés, les Extropiens ont identifié leurs adversaires. Globalement, tous ceux qui freinent le progrès : des « luddites » qui refusent la technologie, aux « mortalistes intégristes » qui ne voient pas l’intérêt de vivre plusieurs siècles, en passant par les « environnementalistes », ennemis du progrès. Exaspérés par les succès des militants anti-OGM et du mouvement anti-mondialisation, né à Seattle, ils ont créé une structure pour les neutraliser : la Progress Action Coalition ou Pro-Act, annoncée en juin 2001. Cet organisme, spécialisé dans le lobbying politique intensif, compte copier les méthodes de ses ennemis officiels, tels que Greenpeace, l’économiste star Jeremy Rifkin, Ralph Nader et ses Verts, ou encore les « josébovistes ». Max More se targue de faire financer Pro-Act par ses amis de l’industrie des biotechnologies, qui dépensent sans compter pour redorer leur image. L’inquiétante forme d’eugénisme personnalisé que prônent les Extropiens pourrait bien trouver un écho dans les débats à venir autour du clonage, de la recherche sur les cellules-souches ou du combat médical contre les « défauts » génétiques. Le cocktail de liberté individualiste, d’enthousiasme consumériste et d’optimisme high-tech sera alors difficile à contrer : « Ne souhaitez-vous pas le meilleur de la technologie pour vous et vos enfants ? Non ? Tant pis pour vous… » Qui pourra donc arrêter la croisade machiavélique des Extropiens ?

Institut d’Extropie:
http://www.extropy.org Progress Action Coalition:
http://www.progressaction.org