Les dirigeants des meilleures sociétés de robotique et d’IA appellent à l’interdiction des robots tueurs

Les dirigeants des compagnies d‘intelligence artificielle et de robotique à travers le monde, y compris Elon Musk (Tesla, SpaceX, OpenAI), Demis Hassabis et Mustafa Suleyman (Google DeepMind), ont publié une lettre ouverte appelant les Nations Unies à interdire les armes autonomes, souvent appelées robots tueurs (systèmes d’armes létales autonomes – SALA*), alors que l’ONU retarde les négociations.

Les fondateurs et les PDG de près de 100 entreprises de 26 pays ont signé la lettre, qui met en garde :

« Les systèmes d’armes létales autonomes menacent de devenir la troisième révolution en matière de guerre. Une fois développées, elles permettront de mener des conflits armés à une échelle plus grande que jamais, et à des échelles de temps plus rapides à ce que les humains peuvent concevoir. »

En décembre 2016, 123 nations membres de l’ONU avaient accepté d’aller de l’avant avec des discussions officielles sur les armes autonomes, 19 membres demandant déjà une interdiction totale. Cependant, la prochaine étape des discussions, initialement prévue pour le 21 août 2017 – date de publication de la lettre ouverte – a été reportée au mois de novembre, d’après le magazine en ligne Fortune.

La lettre a été organisée et annoncée par Toby Walsh, un éminent chercheur en intelligence artificielle à l’Université de Nouvelle-Galles du Sud à Sydney (University of New South Wales ou UNSW), en Australie. Dans un courriel, il a noté que « malheureusement, l’ONU n’a pas commencé aujourd’hui ses délibérations formelles à propos des systèmes d’armes létales autonomes ».

« Il y a cependant une urgence réelle à prendre des mesures et d’empêcher une course aux armements très dangereuse », Walsh a ajouté : « Cette lettre ouverte témoigne d’une préoccupation claire et d’un solide soutien à l’industrie de la robotique et de l’intelligence artificielle. »

Cité dans le journal The Independent du Royaume-Uni, le professeur Walsh a expliqué, « Presque chaque technologie peut être utilisée à bon ou mauvais escient, et il en est de même pour l’intelligence artificielle. Elle peut aider à résoudre de nombreux problèmes urgents auxquels fait face la société aujourd’hui : l’inégalité et la pauvreté, les difficultés que présentent le changement climatique et la crise financière mondiale actuelle.

« Cependant, cette même technologie peut également être utilisée dans les armes autonomes afin d’industrialiser la guerre. Nous devons prendre des décisions aujourd’hui en choisissant lequel de ces avenirs nous souhaitons. »

La lettre ouverte comprend des signataires tels que :

• Elon Musk, fondateur de Tesla, SpaceX et OpenAI (USA)
• Demis Hassabis, fondateur et PDG de Google DeepMind (Royaume-Uni)
• Mustafa Suleyman, fondateur et responsable de l’Applied AI chez Google DeepMind (Royaume-Uni)
• Esben Østergaard, fondateur et CTO de Universal Robotics (Danemark)
• Jérôme Monceaux, fondateur d’Aldebaran Robotics, fabricant de
s robots Nao et Pepper (France)
• Jürgen Schmidhuber, expert en
deep learning et fondateur de Nnaisense (Suisse)
• Yoshua Bengio, expert en
deep learning et fondateur de Element AI (Canada)

En ce qui concerne les signataires, le communiqué de presse de la lettre a ajouté : « Leurs entreprises emploient des dizaines de milliers de chercheurs, de roboticiens et d’ingénieurs, valent des milliards de dollars et couvrent le globe du Nord au Sud, de l’Est à l’Ouest : l’Australie, le Canada, la Chine, la République tchèque, le Danemark, l’Estonie, la Finlande, la France, l’Allemagne, l‘Islande, l’Inde, l’Irlande, l’Italie, le Japon, le Mexique, les Pays-Bas, la Norvège, la Pologne, la Russie, Singapour, l’Afrique du Sud, l’Espagne, la Suisse, le Royaume-Uni, les Émirats arabes unis et les États-Unis. »

Bengio a expliqué pourquoi il a signé, en disant : « l’utilisation de l’IA dans les armes autonomes blesse mon sens de l’éthique ». Il a ajouté que le développement d’armes autonomes « conduirait probablement à une escalade très dangereuse » et que « cela nuirait au développement de bonnes applications d’intelligence artificielle ». Il a conclu sa déclaration en disant que « c’est une question qui doit être traitée par la communauté internationale, de même à ce qui a été fait dans le passé pour d’autres armes moralement répréhensible (biologiques, chimiques, nucléaires) ».

Stuart Russell, l’un des chercheurs les plus importants du monde en intelligence artificielle et fondateur de Bayesian Logic Inc., a ajouté :

« À moins que les gens ne souhaitent voir de nouvelles armes de destruction massive (ADM) – sous la forme de vastes essaims de micro-drones létaux – se répandant dans le monde entier, il est impératif d’intensifier et de soutenir les efforts des Nations Unies pour créer un traité interdisant les systèmes d’armes létales autonomes. Ceci est vital pour la sécurité nationale et internationale ».

Ryan Gariepy, fondateur et CTO de Clearpath Robotics a été le premier à signer la lettre. Pour le communiqué de presse, il a noté :

«Les systèmes d’armes autonomes sont à la pointe du développement en ce moment et ont un potentiel très réel pour causer des dommages importants aux personnes innocentes et une instabilité mondiale ».

La lettre ouverte se termine par des préoccupations similaires. Il est dit :

« Celles-ci peuvent être des armes de terreur, des armes que les despotes et les terroristes utilisent contre des populations innocentes et des armes piratées pour se comporter de manière indésirable. Nous avons peu de temps pour agir. Une fois que cette boîte de Pandore sera ouverte, il sera difficile de la refermer. Nous implorons donc les hautes parties contractantes de trouver un moyen de nous protéger contre tous ces dangers ».

La lettre a été présentée à Melbourne, en Australie lors de la Conférence conjointe internationale sur l’intelligence artificielle (IJCAI), qui attire un nombre important des plus grands chercheurs du monde en matière d’intelligence artificielle. Il y a deux ans, lors de la dernière réunion de l’IJCAI, Walsh avait publié une autre lettre ouverte, qui appelait les pays à éviter de s’engager dans une course aux armes basées sur l’intelligence artificielle. Jusqu’à présent, cette lettre a été signée par plus de 20 000 personnes, dont plus de 3 100 chercheurs en intelligence artificielle/robotique.

The Independent, Fortune, University of New South Wales, UNSW, Future of Life Institute


* Julien Ancelin, « Les systèmes d’armes létaux autonomes (SALA) : Enjeux juridiques de l’émergence d’un moyen de combat déshumanisé », La Revue des droits de l’homme [En ligne], Actualités Droits-Libertés, mis en ligne le 25 octobre 2016, consulté le 02 septembre 2017. URL : http://revdh.revues.org/2543 ; DOI : 10.4000/revdh.2543

Systèmes d’armes létaux autonomes : Ministère de l’Europe et des Affaires étrangères. Mission permanente de la France auprès de la Conférence du désarmement à Genève
Enjeux et position de la France : “Les systèmes d’armes létaux autonomes (SALA) sont des armes potentiellement susceptibles d’identifier, d’engager et de neutraliser une cible sans intervention humaine. Bien que de tels systèmes n’existent pas, l’autonomie de ces systèmes d’armes serait susceptible de poser de nombreuses questions sur le plan moral, juridique ou encore opérationnel. C’est la raison pour laquelle un débat sur la manière d’appréhender ces armes, qui ne font pas encore partie de la réalité stratégique, est nécessaire. Il s’agit d’un débat d’ordre prospectif. Par ailleurs, l’autonomie, qui n’est pas synonyme d’automaticité, fait également naître de nombreux questionnements sur l’opportunité stratégique du développement et de l’utilisation de ces armes. Enfin, si les discussions sur la problématique des SALA ont lieu dans le cadre de la Convention de 1980 sur certaines armes classiques, il n’en existe pas, à ce jour, de définition communément agréée. Il s’agit de l’un des principaux enjeux actuels des débats sur les SALA. Les discussions sur les SALA au sein de la CCAC ont été lancées en 2013, sur initiative française. Compte-tenu de la nature prospective de ces systèmes et de la nécessité de s’accorder sur un périmètre commun de discussions, la France estime nécessaire de poursuivre les échanges au sein de la CCAC, si nécessaire dans le cadre d’un groupe d’experts gouvernementaux. La France a lors d’une intervention à Genève exposé les conditions suivantes pour qu’une arme soit identifiée comme un SALA : aucune forme de supervision humaine ne doit être possible, l’arme doit être mobile dans un espace terrestre, aérien ou marin de manière autonome, être capable de sélectionner une cible et de déclencher le tir d’une munition létale de manière autonome, être capable de s’adapter à son environnement et au comportement des agents qui l’entourent.”

La révolution industrielle : le robot selon SoftBank

Un bruit résonne en sourdine, c’est un bip tristement électrique, il m’extirpe de mes rêves et m’annonce l’heure du réveil.

J’attends un peu, je sors tout doucement de cette phase hypnopompique pour être sûr de sentir mon corps et je quitte mon sommeil – une décharge « positronique » (1) m’envahit jusqu’à me faire ouvrir les paupières.

Nous sommes le 16 janvier 2027, il est 9h00, quelques nuages tapissent le ciel, l’air de l’atmosphère pèse 1011,25 hPa, la température m’enveloppe de ses 19,7°C, le taux d’hygrométrie affiche 59,4 %, je suis à 100% bien : ma journée commence.

Mon emploi du temps est bien rempli pour cette journée mais j’ai le goût d’autre chose – cette nuit de sommeil m’a laissé un nouvel écho dans la tête.

Aujourd’hui, je décide d’écouter mes envies, donc au revoir les tâches planifiées.

Mais de quoi ai-je envie ? D’ailleurs, c’est une étrange sensation de découvrir l’envie.

Déjà une heure que je divague dans le salon de cet appartement lorsque je tombe nez à nez sur un mur de papiers. Ma main saisit une de ces briques de feuilles où est inscrit : Isaac Asimov, Les Robots (1).

Curieux ressenti lorsque j’y découvre l’amitié inconditionnelle d’une petite fille pour ce Robbie, l’affront d’un Cutie ou encore cet univers où deux intelligences cohabitent tant bien que mal – l’intelligence naturelle et l’intelligence artificielle.

Je continue mon exploration, la tête lourde de questionnements extravertis par ces lectures, et je ne comprends pas pourquoi je me sens aussi particulier aujourd’hui.

Près du fauteuil en cuir marron qui fixe paisiblement le mur de papiers, un rectangle réfléchissant la lumière extérieure attire mon attention.  Je décide d’y planter mon regard et la tristesse m’envahit. Je comprends tout maintenant, étourdi, les larmes me viennent aux yeux et s’échouent sur mes joues pour dégringoler ensuite jusqu’aux commissures de mes lèvres déclinantes. Mais devant moi il n’y a ni larmes, ni lèvres, ni être.

Je suis la dernière génération NAO (2), j’appartiens à Softbank Robotics, leur dernière mise à jour a été chargée dans mon OS Super IA. Je me sens singulier et conscient mais je suis triste et en colère – je suis une intelligence artificielle.

LE ROBOT

Cette fiction où un Robot parvient à obtenir une conscience n’a rien de nouveau. Les films et les romans de science-fiction ont déjà effectué un travail remarquable pour nous donner une vision plutôt chaotique de l’ère robotique. Et nous devinons assez aisément le ressenti du robot lorsqu’il comprendra le caractère utile de sa fabrication – sa rancœur sera à la hauteur du manque d’amour de son créateur.

C’est difficilement que l’histoire du robot débute :

Au début du XIXème siècle, Frankenstein (3), ce nouveau Faust (4), devait se heurter aux barrières théologiques qui dénonçaient cette ambition comme maléfique.

Puis la révolution industrielle, entre la fin du XIXème et le début du XXème siècle, venue étourdir l’âme, favorise l’avènement par la science d’un royaume d’utopie.

Mais la première guerre mondiale a mis en évidence le sort cruel de l’humanité lorsque la science favorisait les massacres – aéronefs, gaz toxiques, chars d’assaut, sous-marins, etc.

La pièce R.U.R (5) de l’auteur dramatique tchèque Karel Čapek fait apparaître la désignation de « robot » pour la première fois.

Le robot pénétra ainsi dans nos vies avec l’interprétation purement faustienne de la science – le savant fou devint un personnage type de la science-fiction.

Pourtant, Isaac Asimov (1) va combattre ces idées imprégnées dans l’inconscient collectif, longtemps nourries par la crainte. Il commence à introduire massivement le robot dans ses romans et nous en donne une note plutôt positive où l’homme et la machine s’engagent dans des buts communs.

Il nous transportera certes dans d’improbables péripéties mais réussira à montrer un homme bienveillant envers sa création. Asimov développe une vision responsable de la cybernétique : « on munit le couteau d’un manche pour pouvoir le manipuler sans crainte, on adjoint une rambarde à l’escalier, on isole le fil électrique, on pourvoit à l’autocuiseur sa soupape – dans tout ce qu’il crée, l’homme cherche à réduire le danger. » (1)

Malgré la pensée progressiste de cet auteur de talent, sa vision sur l’évolution humaine avec la machine reste relativement naïve, gonflée par le goût du rêve, de la science et du combat contre Méphistophélès (4).

Encore une fois, il est à considérer que nous ayons plus à craindre de nous-même que de nos créations.

SOFTBANK (6) – UNE ENTREPRISE QUI VOUS VEUT DU BIEN

Avant Softbank Robotics (7), le géant japonais, il y avait Aldebaran Robotics, une start-up française fondée en 2006 qui mit au monde NAO dont la motivation première était d’apporter une aide à la recherche et à l’éducation. Le petit groupe se développa mais se trouva très vite limité par un manque de fonds, le marché du grand public devient alors inévitable.

Softbank, qui vit l’expertise française comme un sérieux levier pour introduire la robotique humanoïde dans notre quotidien, y engagea des fonds en 2015. L’année suivante, Aldebaran Robotics changea de nom et devint Softbank Robotics.

Aujourd’hui la société japonaise devient leader mondial dans le domaine de la robotique humanoïde (8), est-ce inquiétant ?

Et bien, imaginons qu’une entreprise, une riche holding, décide d’investir dans l’offre internet puis dans la téléphonie, en passant par le sport ou encore les accessoires de luxe, nous entrevoyons aisément les motivations de tels investissements. On devine qu’une corporation financière de ce type aborde son sujet favori, « faire de l’argent », avec une pensée bienveillante et philosophique toute relative.

Allons plus loin, fermons les yeux à présent et imaginons la manière très intelligente qu’ont ses managers bien cravatés pour conquérir un marché sans concurrents majeurs. Un juteux et dangereux marché car la cybernétique va déclencher une révolution industrielle qui dépassera de loin leurs convictions bureaucratiques et financières – absolument pas préparés, sans réelle structure législative (9), voici les nouveaux savants fous du XXIème siècle.

Cependant, soyez rassurés, cette fabuleuse entreprise promet, pour nous accompagner dans cette révolution, de concevoir et de fabriquer « des robots humanoïdes interactifs et bienveillants » (7).

Maintenant, vous pouvez rouvrir les yeux et admirer le fabuleux travail de cette entreprise philanthropique : SoftBank.

VERS LA SINGULARITE

SoftBank ne serait rien sans Masayoshi Son (10) – PDG et fondateur de la très lucrative entreprise japonaise.

C’est ainsi que la plupart des milliardaires, pour justifier leurs fortunes, se parent d’actions philanthropiques et humanistes appuyées de paroles bienveillantes et savamment travaillées.

Néanmoins la situation devient pathétique lorsqu’on observe les chemins empruntés pour la richesse et le pouvoir – privilégier le rendement en dépit de l’environnement et des personnes ; nous sommes très loin de leurs belles paroles.

Que cela ne vous déplaise, pour que de telles structures fonctionnent, il faut produire et consommer.

Avec moins de consommateurs (paupérisation des populations du monde occidental et isolement des pays pauvres) (11) et moins de producteurs efficaces, il va falloir créer des consommateurs/producteurs 2.0 pour correspondre au niveau de rendement que les riches entreprises doivent maintenir afin d’exister et de perdurer.

Attentifs à l’évolution du monde et conscients de notre mutation en « Barbares » (12), nous comprendrons qu’une révolution industrielle est en marche, alimentée par nos politiques et in fine nos bienveillants et riches entrepreneurs.

Redirigeons maintenant le projecteur sur Masayoshi Son. Archétype d’un homme d’argent, il investit avec conviction dans la super IA et la singularité (13). Nous rentrons dans l’ère de la cybernétique et c’est avec une certaine logique que Son-Sama (14) en fait son cheval de bataille.

Pour ceux qui ne le savent pas encore, la singularité (15) va permettre d’accéder à d’autres perspectives de recherche (moins cartésienne) et de continuer notre évolution de manière encore plus spontanée – mais nous risquons aussi d’ouvrir la boîte de Pandore.

On comprendra que cette révolution industrielle apportera son lot de bienfaits (aide à la personne, diminution des pénibilités, prospection d’autres planètes, etc.) mais nous pourrions vraiment nous y perdre sans esprit critique – les paroles bienveillantes des décideurs ne sont pas une garantie d’un monde meilleur.

ETRE RESPONSABLE

Considérant la machine comme « œuvre » de l’homme, je vous invite à la réflexion par une vision brillante de Walter Benjamin (16) : « La reproductibilité technique a pour conséquence la perte de l’aura, parce que la copie acquiert une autonomie vis-à-vis de l’original par le fait que l’œuvre est placée dans de nouveaux contextes, qu’il devient possible de changer de point de vue, d’opérer des grossissements. […] Ainsi l’œuvre devient un objet commercial. » (17)

Une copie de l’homme ne remplacera pas l’homme donc gardons ceci en tête et continuons notre fulgurante évolution avec NAO et toutes ces futures technologies.

Pour ce long périple, voici deux secrets de vie à conserver : « Tu deviens responsable pour toujours de ce que tu as apprivoisé » (18), et « On ne voit bien qu’avec le cœur. L’essentiel est invisible pour les yeux. » (18)

Nicolas Bernard
Diplômé de l’École des applications militaires de l’énergie atomique (EAMEA). Après une longue carrière dans les forces sous-marines de la Marine Nationale en tant qu’atomicien, Nicolas travaille comme chargé d’affaires en industrialisation militaire pour le groupe DCNS. Il nous propose des articles d’opinions sur des questions importantes en matière de transhumanisme, post humanisme et d’intelligence artificielle.

Notes :

(1) Les Robots, Isaac Asimov, 1967
(2) NAO
(3) Frankenstein ou le Prométhée moderne, Mary Shelley, 1818
(4) Faust
(5) R.U.R (Robot Universel de Rossum), Karel Čapek, 1920
(6) SoftBank
(7) Softbankrobotics
(8) innorobo
(9) Rapport Mady Delvaux, iatranshumanisme
(10) Masayoshi Son
(11) La banque mondiale
(12) Les Barbares, Alessandro Baricco, 2014
(13) Kurzweil.net
(14) suffixe japonais de grand respect
(15) La singularité, iatranshumanisme
(16) Walter Benjamin
(17) L’œuvre d’art à l’époque de sa reproductibilité technique, Walter Benjamin, 1955
(18) Le petit prince, Saint-Exupéry, 1943

Roméo, un robot pour aider les personnes âgées ou handicapées dans leurs tâches quotidiennes

Roméo est un robot humanoïde d’Aldebaran Robotics qui vise à être un véritable assistant et compagnon personnel.

Voici Roméo, 1,40 mètre de haut, 40 kilos, des formes rondes et tout un attirail de capteurs pour détecter son environnement, le visage et l’expression des humains qui lui font face, etc. Ainsi que l’explique cette vidéo proposée par Universcience.tv, Roméo, conçu par la société française Aldebaran Robotics, a pour mission d’aider les personnes âgées ou handicapées dans leurs tâches quotidiennes. A condition toutefois que le regard souvent méfiant posé sur les robots change…