L’histoire de la superintelligence et la question de l’éthique des machines

Publié in Marianne Celka et Fabio La Rocca (dir.), Transmutations, Esprit Critique, Revue internationale de sociologie et sciences sociales, vol. 24, n° 1, été 2016, p. 43-57. Par Vincent Guérin, Docteur en histoire contemporaine.

Résumé : Ce texte a pour objet d’analyser, chez les transhumanistes, le couplage de l’éthique des machines avec les risques inhérents à la superintelligence. La première favorisant l’émergence de la seconde. Par ce biais, nous observons une accentuation du rapprochement de l’homme et de la machine, initié par le paradigme informationnel ; un renversement même avec une machine considérée comme « smarter than us ».

Introduction

En 2014, l’informaticien et cofondateur de Skype Jaan Tallinn a créé The Future of Life Institute (FLI) avec entre autres les cosmologistes Anthony Aguirre (Université de Californie) et Max Tegmark (MIT). Dans le comité scientifique se trouve une constellation de personnalités célèbres comme Stephen Hawking, des auteurs à succès comme Erik Brynjolfsson (MIT Center for Digital Business), mais aussi l’acteur Morgan Freeman (film Transcendance de Wally Pfister, 2015) et l’inventeur et chef d’entreprise Elon Musk. Jaan Tallinn était déjà à l’initiative du Centre For The Study Of Existential Risk (CSER) ou Terminator studies en 2012 à l’Université de Cambridge avec le cosmologiste Martin Rees. Ces deux institutions ont pour ambition, entre autres, d’anticiper les risques majeurs qui menacent l’humanité, notamment ceux inhérents à l’intelligence artificielle (IA).

Dernièrement, Bill Gates, fondateur de Microsoft, lui-même, se dit préoccupé par l’IA. Ces deux institutions et Bill Gates ont un dénominateur commun : Nick Boström. l’auteur de Superintelligence, Paths, Dangers, Strategies (2014), qui a impressionné Bill Gates, est membre du comité scientifique de la FLE et du CSER. Il est professeur à la faculté de philosophie de la prestigieuse Université d’Oxford et fondateur de la Future of humanity Institute (FHI) qui a pour objet d’anticiper les risques majeurs qui menacent l’humanité (existential risks). Ses recherches portent sur l’augmentation de l’homme, le transhumanisme, les risques anthropiques et spécifiquement celui de la superintelligence. En 2008, il a codirigé avec Milan M. Ćirković Global Catastrophic Risks (Boström, Ćirković, 2008). Cet ouvrage dénombre dix risques catastrophiques au sens d’un bouleversement radical qui menacerait l’humanité (anthropiques ou non) 1 . Parmi les risques anthropiques recensés, Eliezer S. Yudkowsky (1979-), chercheur au Machine Intelligence Research Institute à Berkeley (MIRI), développe le chapitre sur l’IA (Yudkowsky, 2008).

Nick Boström et Eliezer Yudkowsky sont transhumanistes, un courant de pensée qui conçoit l’humain, l’humanité comme imparfaits et prône une prise en main de leur évolution par la technologie. En 1998, Nick Boström a fondé avec David Pearce la World Transhumanist Association (WTA) et l’Institute for Ethics & Emerging Technologies (IEET) avec James Hughes.

Plusieurs objectifs irriguent le transhumanisme, dont le devenir postbiologique (posthumain), la superintelligence et l’amortalité (une immortalité relative). Parmi les NBIC, deux technologies ont leur faveur. La première, la nanotechnologie (une construction à partir du bas à l’échelle du nanomètre soit un milliardième de mètre) est en devenir, et la seconde, l’intelligence artificielle générale (IAG) reste un fantasme. Nick Boström et Eliezer Yudkowsky pensent que l’IA favorisera la nanotechnologie, elle-même porteuse d’inquiétude (Drexler, 1986). Eric Drexler, transhumaniste et membre du FHI, a créé en 1986, le Foresight Institute afin de prévenir les risques technologiques et favoriser un usage bénéfique de la nanotechnologie. Qu’est-ce-que la (super) intelligence artificielle ? Quelles sont les corrélations entre le transhumanisme et cette inquiétude montante vis-à-vis de l’IA, ou plus exactement la superintelligence ? Comment et quand pourrait-elle émerger ? Comment s‟articule le complexe dit de Frankenstein et l’éthique des machines ?

pour lire la suite, télécharger le PDF


Sommaire :

Introduction
La (super) intelligence artificielle
Le complexe dit de Frankenstein et l’éthique des machines
Épilogue
Références bibliographiques

Stephen Petranek : Mars est le prochain “Nouveau Monde” et nous allons mettre le pied dessus bientôt

Mars est l’endroit le plus habitable de notre système solaire, et de loin. Même si cette planète a un environnement très hostile, nous avons développé les technologies au cours de ces 50 dernières années pour survivre sur Mars et survivre assez facilement.
Mars est donc une merveilleuse première étape. […] Elon Musk dit qu’il va se poser sur Mars en 2025.

“Stephen Petranek dit que les humains vivront sur Mars en 2034. Maintenant, il souligne le fait que la vie sur Mars est non seulement plausible, mais inévitable.” – Simon & Schuster

Son livre (Anglais) : How We’ll Live on Mars  (Comment nous vivrons sur Mars)

“Pourquoi aller sur Mars? Vivre sur Mars a des possibilités de sauvetage potentiels pour tout le monde sur terre.” Comment nous vivrons sur Mars, apporte des rapports de première main, des entretiens avec les principaux participants, et des recherches approfondies sur la question de savoir comment nous pouvons nous attendre à voir la vie sur Mars dans les vingt prochaines années.

Source : IEET, TED.com

Présentation de l’IEET Institute for Ethics and Emerging Technologies

L’Institut pour l’Éthique et les Technologies Émergentes (Institute for Ethics and Emerging Technologies, IEET) a été créé pour débattre de questions vitales telles que :

* Quelles technologies sont susceptibles d’avoir le plus d’impact sur l’être humain et les sociétés humaines au XXIe siècle?

* Quels problèmes éthiques ces technologies et leurs applications soulèvent-elles pour l’homme, la civilisation et le monde?

* Jusqu’à quel point pouvons-nous extrapoler à partir du passé, et à quel degré de changement devons-nous nous préparer?

* Quelles positions politiques devons-nous adopter dans l’optique d’un meilleur futur pour les individus et la société?

La mission de l’IEET

L’Institut pour l’Éthique et les Technologies Émergentes est un cercle de réflexion à but non lucratif, qui promeut des idées sur la manière dont le progrès technologique peut augmenter la liberté, le bonheur et la prospérité humaine dans les sociétés démocratiques. Nous pensons que le progrès technologique peut favoriser un développement harmonieux de l’homme, tant que nous nous assurons que les technologies sont sans danger et équitablement réparties. Nous appelons cela le “techno-progressisme”. L’IEET s’intéresse aux technologies qui ont le potentiel de transformer de façon positive la condition sociale et la qualité de vie humaine, et tout particulièrement aux “technologies d’augmentation de l’homme” (human enhancement). Il vise à promouvoir, dans les milieux universitaires, professionnels et populaires, la compréhension de leurs implications (positives et négatives), et encourage des politiques publiques responsables afin que leur usage soit équitable et sans danger.

L’IEET a été fondé en 2004 par le philosophe Nick Bostrom et le bio-éthicien James J. Hughes. Nous mettons en avant le travail de penseurs du monde entier qui examinent les implications sociales du progrès scientifique et technologique. Nous souhaitons ainsi contribuer à la compréhension de l’impact des technologies émergentes sur les individus et sur la société, tant à l’échelle locale que globale. Nous souhaitons également promouvoir des politiques publiques qui redistribuent les bénéfices du progrès technique, et qui cherchent à en réduire les risques.

Notre vision

La révolution démocratique, multi-séculaire et chaque jour renforcé, porte en son sein l’idée que les peuples sont plus heureux lorsqu’ils ont un contrôle rationnel de leurs vies. La raison, la science et la technologie fournissent une forme de contrôle, nous libérant progressivement de l’ignorance, du labeur, de la souffrance et de la maladie. La démocratie fournit les autres formes de contrôle, à travers les libertés civiles et la participation électorale.

La technologie et la démocratie se complètent mutuellement, garantissant une technologie sans danger, accessible et démocratiquement responsable. Dans les décennies à venir, la convergence des nanotechnologies, des biotechnologies, des technologies de l’information et des sciences cognitives nous donnera une maîtrise technologique inimaginable de la nature et de nous-même. Cette maîtrise nécessite une démocratisation progressive.

Par conséquent, notre but est de stimuler et de soutenir une étude constructive des problèmes éthiques liés à ces puissantes technologies émergentes.

Le débat sur l’augmentation humaine

Dans les 50 prochaines années, l’intelligence artificielle, les nanotechnologies, l’ingénierie génétique et les sciences cognitives vont permettre à l’homme de transcender les limites de son corps. La durée de vie en bonne santé dépassera le siècle. Nos sens et nos capacités cognitives seront augmentés. Nous aurons un meilleur contrôle de nos émotions et de notre mémoire. Notre corps et notre cerveau fusionneront progressivement avec la puissance informatique. Nous utiliserons ces technologies pour repousser les limites de notre humanité et de celle de nos enfants.

La perspective de changements rapides dans la condition humaine inquiète beaucoup de gens, à juste titre. Nous assistons à l’émergence d’une nébuleuse de groupes visant à interdire l’augmentation humaine, des thérapies géniques et psycho-pharmacologiques aux organes de synthèse en passant par les nano-robots médicaux. Cette coalition de “bio-conservateurs” a de multiples visages : bio-éthiciens, religieux conservateurs, écologistes, associations de droits des handicapés, militants de gauches opposés aux bio-technologies…

L’IEET pense que ces débats ont besoin de voix qui évitent ces extrêmes, des voix qui militent en faveur des bénéfices potentiels des nouvelles technologies, tout en proposant des politiques pour limiter leurs risques dans un cadre démocratique.

Défendre ses droits tout en prenant sérieusement en compte les risques associés

Tandis que le débat se polarise entre les technophobes radicaux et les technophiles anti-régulation, un réseau émergent de penseurs techno-progressistes défendent le droit des gens à utiliser des technologies d’augmentation, tout en considérant sérieusement la nécessité d’encadrer leurs risques et leurs conséquences sociales. Les techno-progressistes étudient des questions telles que le droit à utiliser ou non les technologies d’augmentation cognitive dans une société de plus en plus compétitive.

Combien de tests médicaux seront nécessaires pour garantir que les thérapies géniques sont sans danger ? Comment pouvons-nous réguler les substances psycho-actives tout en respectant la liberté cognitive ? A partir de quel moment les parents peuvent-ils améliorer génétiquement leurs enfants ? Comment peut-on éviter d’exacerber les inégalités face à la montée des technologies d’augmentation humaine ? Parmi les thérapies d’augmentation, lesquelles doivent être diffusées via le marché, et lesquelles doivent être financées publiquement en tant que droit humain universel ?

Jusqu’à récemment, il n’y avait aucun cadre institutionnel pour aborder ces défis éthiques hors des deux extrêmes : d’un côté, l’angoisse de transgresser la nature humaine, de l’autre, les dogmes anti-régulations qui rejettent tout encadrement démocratique des risques à venir. L’Institut pour l’Éthique et les Technologies Émergentes aspire à combler ce fossé.

Valeurs transhumanistes Explorer le royaume posthumain

S’intéresser aux individus comme aux sociétés

L’augmentation individuelle, qui a le potentiel de transformer certains humains en post-humains*, est un sujet d’étude aussi évident que nécessaire pour l’IEET. Mais il faut également reconnaître que les individus existent au sein de sociétés, et que les choix personnels des uns peuvent empiéter sur les droits fondamentaux des autres. Cela rend la tâche des contributeurs de l’IEET d’autant plus complexe et urgente.

En tant que techno-progressistes, nous voulons garantir le droit à l’augmentation et à l’auto-modification de tous les êtres conscients, ainsi qu’un accès équitable aux moyens d’y parvenir. Cependant, nous pensons que ces technologies doivent être testées pour garantir leur sûreté et leur efficacité, et rendues universellement accessibles. Leurs conséquences sur la société seront profondes, et doivent être considérées avec attention.

Similairement, un futur d’abondance technologique nous semble possible. Mais nous pensons que de nombreux efforts sont nécessaires pour garantir un progrès technologique durable, sans dangers et accessible à tous.

Nous souhaitons vivre dans un monde où la paix et la sécurité seraient garanties partout sur la Terre. Pour cette raison, nous encourageons un activisme qui traverse les frontières ethniques, culturelles et géographiques – en particulier, lorsque ces initiatives impliquent des coopérations internationales. Nous encourageons fortement l’usage des technologies émergentes pour étendre les capacités humaines de connaissance, de compréhension, de communication et de prise de décision éclairée.

Pour finir, nous voulons voir l’application des lois internationales et des conventions de droits de l’homme, telles que la Déclaration Universelle des Droits de l’Homme, afin de garantir les libertés fondamentales, la santé, le bien-être et l’éducation pour tous. Nous souhaitons également voir une extension des droits internationaux pour inclure la liberté de modification corporelle, la liberté reproductive et la liberté cognitive pour tous. Nous accordons une grande attention à la perspective d’une biosphère saine, qui serait réalisée par la combinaison d’actions démocratiques éclairées et le déploiement responsable de nouvelles technologies puissantes. Nous encourageons une définition étendue et éclairée de la personne morale, pour prendre en compte toutes les formes de conscience, d’origine humaine ou non. Nous sommes impatients de voir un monde avec moins de souffrance, plus d’égalité des chances et une diversité florissante dans le développement humain et post-humain*.

[*] Dans cette acception, “post-humain” ne veut pas dire “après-l’humain” (i.e. plus humain du tout), mais seulement humain très augmenté/amélioré et donc différent.

Positions transhumanistes sur la modification du patrimoine génétique humain

Au début de ce mois de mars, un article du  journal The independant rapportait qu’une équipe dirigée par George Church, généticien à Harvard, avait pour la première fois entamé des recherches en thérapie génique portant sur des cellules ovariennes, des gamètes, de la lignée germinale donc, celles qui génération après génération sont porteuses de notre patrimoine héréditaire.

Bien que les objectifs déclarés de l’équipe aient clairement relevé de la recherche fondamentale, les potentiels de la méthode CRISPR utilisée – l’éventualité de “bébés à la carte” – ont provoqué, surtout outre Atlantique, des réactions d’une partie de la communauté scientifique mais aussi des milieux les plus conservateurs, allant de la demande de moratoire jusqu’à celle d’une interdiction complète de telles recherches.

De leur côté, les transhumanistes invitent à aborder ces questions en se détachant de toute considération moralisante voire religieuse. Ce qui doit être préservé, c’est la sécurité sanitaire à long terme des pratiques envisagées et la liberté de la recherche scientifique.

En réponse aux appels prohibitionnistes, l’IEET, par un texte de James Hughes, a rappelé la position d’ouverture de la WTA/Humanity+ : “Transhumanist Position on Human Germline Genetic Modification”.

Sans s’aligner forcément sur toutes ces positions, l’AFT-Technoprog a souhaité mettre à disposition une traduction en français de ces textes afin de faciliter leur compréhension et le débat.


Récemment, un groupe de scientifiques et un groupe industriel ont publié une déclaration appelant à un moratoire sur la modification du patrimoine génétique humain ou de sa lignée germinale (voire iciici, et ), maintenant que nous avons la puissance technique CRISPR pour y parvenir. Ces déclarations ont été vivement saluées par les bioconservateurs, qui souhaitent une interdiction mondiale des thérapies d’amélioration du patrimoine génétique humain. Bien sûr, les transhumanistes réfléchissent à ce sujet depuis longtemps, et la World Transhumanist Association (rebaptisée depuis “Humanity+”) a adopté une position formelle sur la modification du patrimoine génétique humain il y a dix ans.

La déclaration de la WTA/H+ considère les thérapies géniques comme souhaitables et inévitables, tout en sollicitant des fonds publics de recherche et un processus de régulation pour garantir leur sûreté. Alors que le groupe ayant publié une déclaration dans le journal Science a plaidé pour un moratoire sur l’application de ces technologies en attendant qu’elles soient sûres, le groupe industriel Alliance for Regenerative Medicine est allé plus loin en demandant une interdiction de toute recherche visant à démontrer que ces techniques sont sûres. Comme le suggère la déclaration ci-dessous, la position transhumaniste (et technoprogressiste) est que toute tentative d’interdire la recherche menant à de telles thérapies, ou l’usage de ces thérapies une fois leur sûreté et leur efficacité démontrée, serait une violation des droits à la liberté procréative et à l’autonomie corporelle.

(James Hughes, 20 mars 2015)

WTA/Humanity+

Position sur la Modification du Patrimoine Génétique Humain

Adoptée à l’unanimité par l’équipe dirigeante de la WTA, le 24 Décembre 2004*

Il y a un besoin urgent de nouvelles mesures politiques pour réguler la recherche sur les thérapies géniques héréditaires et leur application. Les thérapies géniques héréditaires vont amener la société à de nouvelles formes de diversité et de changement, et nécessitent une nouvelle réflexion sur la régulation des risques et les droits de l’homme. Cela afin d’éviter, d’une part, la prolifération de thérapies dangereuses et non-testées, et d’autre part, des interdictions abusives limitant les droits reproductifs.

En raison de la sombre histoire de l’eugénisme totalitaire du siècle passé, les états doivent fournir un nombre conséquent de preuves avant de légiférer sur l’autonomie corporelle et les droits reproductifs des parents. La principale base de telles interférences est l’obligation sociale de garantir que le risque de ces nouvelles technologies reste raisonnable, et est suffisamment bien connu pour que les parents puissent faire des choix éclairés.

Il est dans l’obligation de chaque parent, ainsi que de la société dans son ensemble, de garantir que la génération suivante sera en bonne santé, en pleine possession de ses moyens, et pourvue d’une bonne espérance de vie. Si l’on est engagé en faveur de la liberté procréative, la meilleure façon de garantir que les enfants tireront un bénéfice des thérapies géniques est de fournir aux parents toutes les informations nécessaires sur leurs risques et sur leurs avantages, et de garantir un accès équitable à ces technologies, afin qu’elles puissent donner aux enfants le meilleur départ possible dans la vie.

Les lois existantes, les procédures de contrôle et les instances qui garantissent la sûreté et l’efficacité des médicaments doivent être développées, lorsque cela deviendra nécessaire, pour prendre en compte les thérapies géniques héréditaires. Aux États-Unis, nous défendons la position de la Food and Drug Administration selon laquelle ils sont habilités à réguler la sûreté des thérapies géniques et des nouvelles technologies reproductives telles que le clonage. Une instance supplémentaire n’est pas nécessaire.

Nous n’avons pas davantage besoin d’une loi pour déterminer quelles thérapies géniques sont acceptables ou non, en se basant sur la distinction entre “thérapie” et “augmentation”, ou sur des spéculations quant aux impacts sociaux à long terme. La seule base acceptable pour la régulation des thérapies géniques est le classique rapport risque/bénéfice pour les sujets et leurs enfants.

Nous pensons que le Conseil européen doit amender sa “convention pour la protection des droits et de la dignité de l’homme” pour reconnaître la légitimité des thérapies géniques et de l’augmentation dans le cadre des droits reproductifs individuels. Nous pensons également que des traités internationaux pour interdire la modification des gènes héréditaires et l’amélioration génétique violeraient les droits de l’homme, priveraient des gens de leurs bénéfices, et rendraient leur sûreté impossible à réguler.

Les standards de sûreté pour les thérapies géniques héréditaires ne devraient pas être plus élevés que ceux de la reproduction classique. Les effets sur plusieurs générations pourraient faire l’objet de tests animaliers, mais les essais humains ne devraient pas avoir à démontrer de faible risque de tératogenèse au-delà de la première génération.

Les modifications génétiques que les adultes font sur leur propre matériel génétique, aussi bien somatique que germinal, devraient être approuvés sur la base de leur sûreté pour le sujet adulte, avec la connaissance de risque appropriée quant à la tératogenèse si ce matériel génétique est passé aux enfants. Il ne devrait pas y avoir de pénalités pour les adultes qui modifient leurs cellules reproductives en toute connaissance de cause, ou pour les instances médicales les ayant correctement informé des risques/bénéfices, même si cet usage n’est pas approuvé comme thérapie pour la modification du sperme, des ovaires et des embryons ex vivo.

Il devrait y avoir des financements publics de recherche sur les thérapies géniques héréditaires, tant sur les humains que sur les animaux. Aux États-Unis, les National Institutes of Health devraient annuler leur interdiction sur les financements de recherche en thérapies géniques héréditaires. Les règles de financement ne devraient pas distinguer les thérapies somatiques et héréditaires, ou la “thérapie” et l’”augmentation”, mais devraient être basées sur la faisabilité, la sûreté et les bénéfices potentiels. Il devrait y avoir un financement national pour les études prospectives de long terme sur la sûreté et l’impact sur la santé des thérapies géniques héréditaires. Mais il ne devrait pas y avoir d’enregistrement obligatoire des sujets de ces thérapies.

Finalement, considérant le potentiel des thérapies géniques à exacerber les inégalités, nous pensons que des thérapies géniques sûres et bénéfiques devraient être rendues aussi universellement accessibles que possible. La priorité devrait être de rendre universellement accessible les thérapies géniques intrinsèquement bénéfiques [1, 2] – notamment pour la santé, la longévité et l’intelligence – par opposition aux choix germinaux et aux thérapies géniques qui n’ont pas de bénéfices intrinsèques, comme la hauteur ou le genre.

Quelle est la différence entre le génie génétique et l’eugénisme ?

1 Bostrom, Nick. 2003. “Human Genetic Enhancements: A Transhumanist Perspective,” Journal of Value Inquiry, Vol. 37, No. 4, pp. 493-506.
http://www.nickbostrom.com/ethics/genetic.pdf

2 Bostrom, Nick. 2003. “A Transhumanist Perspective on Human Genetic Enhancements.”
http://www.nickbostrom.com/ethics/genetic.html

* On the WTA website it says 2005, but it was actually 2004.