Geoffrey Hinton : Les machines prendront le dessus dans 5 à 20 ans

Le spécialiste de l’intelligence artificielle Geoffrey Hinton exhorte le gouvernement à mettre en place un revenu de base universel pour remédier à l’impact de l’IA sur les inégalités. Il estime qu’une réforme des prestations sociales prévoyant le versement d’un montant fixe à chaque citoyen serait nécessaire en raison des craintes de voir l’IA s’emparer d’emplois ordinaires. L’IA pourrait certes accroître la productivité et la richesse, mais l’argent irait aux riches, et non aux personnes dont les emplois seraient supprimés, ce qui serait préjudiciable à la société.

Hinton, pionnier des réseaux de neurones, a quitté Google l’année dernière pour discuter des dangers de l’IA non réglementée. Ses détracteurs affirment qu’un revenu de base universel serait coûteux et détournerait des fonds des services publics, sans pour autant contribuer à réduire la pauvreté. Un porte-parole du gouvernement a déclaré qu’il n’était pas prévu d’introduire un revenu de base universel.

Hinton s’est également inquiété des menaces d’extinction humaine que l’IA fait peser sur l’humanité. Les événements de l’année dernière ont montré que les gouvernements n’étaient pas disposés à restreindre l’utilisation militaire de l’intelligence artificielle et que la concurrence pour développer rapidement des produits signifiait que les entreprises technologiques ne consacreraient pas suffisamment d’efforts à la sécurité. Il prédit que d’ici cinq à vingt ans, il est probable que la moitié de l’IA tentera de prendre le dessus.

L’IA pourrait évoluer pour se motiver à produire davantage d’elle-même et développer de manière autonome un sous-objectif de prise de contrôle. Il a ajouté que les grands modèles de langage utilisés pour générer des textes pouvaient être trompeurs. Les applications récentes de l’IA pour générer des milliers de cibles militaires ne sont qu’une partie émergée de l’iceberg, et il s’inquiète surtout du moment où l’IA pourra prendre de manière autonome la décision de tuer des gens.

Hinton suggère que quelque chose de similaire aux conventions de Genève pourrait être nécessaire pour réglementer l’utilisation militaire de l’IA, mais il pense que cela ne se produira pas avant que des choses très désagréables ne se soient produites.