Le transhumanisme est une approche interdisciplinaire qui nous amène à comprendre et à évaluer les avenues qui nous permettrons de surmonter nos limites biologiques par les progrès technologiques.
Quel est le problème? Il semble plausible que les gens vont développer des systèmes algorithmiques capables de réaliser efficacement un grand nombre, voire la totalité des tâches cognitives que les humains effectuent. Ces avancées pourraient conduire à des développements positifs extrêmes, mais pourraient aussi présenter des risques pour des abus intentionnels ou d’accidents catastrophiques. Par exemple, il semble possible que (i) la technologie pourrait être militarisée ou utilisée comme un outil de contrôle social, ou (ii) une personne pourrait créer un agent d’intelligence artificielle extrêmement puissant avec des valeurs mal alignées pour les intérêts de l’humanité. Il semble également possible que des progrès dans ce sens pourraient être étonnamment rapides, laissant la société, insuffisamment préparée pour la transition.
Quelles sont les interventions possibles? Un philanthrope pourrait financer la recherche technique visant à assurer la robustesse, la prévisibilité et l’objectif d’alignement des systèmes d’intelligence artificielle de pointe; la recherche en droit, éthique, économie et politique liée à l’intelligence artificielle avancée; et / ou des études liées à ces recherches.
Qui d’autre travaille sur cette question? Elon Musk, a fait un don de 10 millions $ au Future of Life Institute pour les chercheurs axés sur ces problèmes et d’autres risques potentiels futurs de l’intelligence artificielle avancée. En outre, quelques petits instituts à but non lucratif / universitaires travaillent sur les futurs risques potentiels de l’intelligence artificielle avancée. Machine Intelligence Research Institute et Future of Humanity Institute ont chacun un budget annuel d’environ 1 million $, et d’autres nouvelles organisations travaillent sur ces questions aussi.
