Skip to content

Les risques potentiels de l’intelligence artificielle avancée

En un mot :

Quel est le problème? Il semble plausible que les gens vont développer des systèmes algorithmiques capables de réaliser efficacement un grand nombre, voire la totalité des tâches cognitives que les humains effectuent. Ces avancées pourraient conduire à des développements positifs extrêmes, mais pourraient aussi présenter des risques pour des abus intentionnels ou d’accidents catastrophiques. Par exemple, il semble possible que (i) la technologie pourrait être militarisée ou utilisée comme un outil de contrôle social, ou (ii) une personne pourrait créer un agent d’intelligence artificielle extrêmement puissant avec des valeurs mal alignées pour les intérêts de l’humanité. Il semble également possible que des progrès dans ce sens pourraient être étonnamment rapides, laissant la société, insuffisamment préparée pour la transition.

Quelles sont les interventions possibles? Un philanthrope pourrait financer la recherche technique visant à assurer la robustesse, la prévisibilité et l’objectif d’alignement des systèmes d’intelligence artificielle de pointe; la recherche en droit, éthique, économie et politique liée à l’intelligence artificielle avancée; et / ou des études liées à ces recherches.

Qui d’autre travaille sur cette question? Elon Musk, a fait un don de 10 millions $ au Future of Life Institute pour les chercheurs axés sur ces problèmes et d’autres risques potentiels futurs de l’intelligence artificielle avancée. En outre, quelques petits instituts à but non lucratif / universitaires travaillent sur les futurs risques potentiels de l’intelligence artificielle avancée. Machine Intelligence Research Institute et Future of Humanity Institute ont chacun un budget annuel d’environ 1 million $, et d’autres nouvelles organisations travaillent sur ces questions aussi.

lire la suite sur GiveWell (article en anglais)

4 Comments »

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s

%d blogueurs aiment cette page :