Le transhumanisme est une approche interdisciplinaire qui nous amène à comprendre et à évaluer les avenues qui nous permettrons de surmonter nos limites biologiques par les progrès technologiques.
Le nouveau livre de Stuart Russell, Human Compatible: Artificial Intelligence and the Problem of Control, est disponible sur Amazon.
Le professeur Russell explique pourquoi il en est venu à considérer sa propre discipline comme une menace existentielle pour notre espèce, et expose comment nous pouvons changer de cap avant qu’il ne soit trop tard.
Le livre explore l’idée de l’intelligence chez les humains et dans les machines, décrit les bénéfices auxquels nous pouvons nous attendre (des assistants personnels intelligents à la recherche scientifique considérablement accélérée), et souligne les percées de l’intelligence artificielle qui doivent encore se produire avant que nous n’atteignions l’intelligence artificielle surhumaine.
Le Professeur Russell explique comment que les humains utilisent déjà à mauvais escient l’intelligence artificielle, depuis les armes autonomes mortelles jusqu’à la manipulation des opinions à l’échelle mondiale.
Enfin, il explique pourquoi nous devons veiller à ne jamais perdre le contrôle des machines plus puissantes que nous.
Il suggère que nous pouvons reconstruire l’intelligence artificielle sur une nouvelle base, selon laquelle les machines seraient conçues pour être fondamentalement incertaines concernant les préférences humaines qu’elles doivent satisfaire. De telles machines seraient humbles, altruistes et engagées à poursuivre nos objectifs, et non les leurs. Cette nouvelle fondation nous permettrait de créer des machines qui sont manifestement déférentes et bénéfiques.
Stuart Russell est professeur d’informatique et titulaire de la chaire Smith-Zadeh d’ingénierie à l’Université de Californie, Berkeley. Il a été vice-président du Conseil du Forum économique mondial sur l’intelligence artificielle et la robotique et conseiller des Nations Unies sur la maîtrise des armements.
Professor of Computer Science at University of California, Berkeley – Stuart Russell tiré de HARDtalk par BBC World Service. Date de sortie : 2019. Genre : Podcast. What is the most serious existential threat facing humanity? Artificial Intelligence, warned the physicist Stephen Hawking, could spell the end of the human race. Stephen Sackur interviews Stuart Russell, a globally-renowned computer scientist and sometime adviser to the UK Government and the UN. Right now, AI is being developed as a tool to enhance human capability; is it fanciful to imagine the machines taking over?
