De la dynamique conflictuelle et opérationnelle mixte Homme-machine… à la dynamique conflictuelle et opérationnelle machine IA – machine IA ?

ISBN : 978-2-343-15771-9

Que nous réserve l’application de l’intelligence artificielle (IA) aux équipements militaires dronisés ou robotisés, qui opéreront partout ? La guerre va-t-elle changer de visage ? L’homme doit-il rester dans la boucle pour conserver le contrôle de la décision de tir ou faut-il privilégier l’autonomisation pour plus d’efficacité et de sécurité ? Que dit le droit sur ces systèmes armés létaux automatisés ? La guerre sera-t-elle uniquement technique ? Ou devons-nous nous préparer à une guerre rustique après un KO technique ?

Eric Pourcel est docteur en droit, ancien avocat près la Cour, Officier de réserve opérationnelle, auteur à la revue défense nationale (RDN) et membre de droit du Comité d’étude de la défense nationale (CEDN). Il est par ailleurs secrétaire général du Club Participation et progrès présidé par l’ancien Député-Maire Pierre Pascallon qui est une association de réflexion stratégique et géopolitique.

Réflexion de synthèse issu de l’ouvrage d’Éric Pourcel « Dronisation et robotisation intelligente des armées » édité chez l’Harmattan en octobre 2018, disponible chez l’éditeur, sur Amazon ou sur la FNAC ou en Librairies.

Le XXème siècle fut l’ère industriel en matière militaire avec l’invention notamment du sous-marin, de la torpille, du char, de l’avion, du missile, du feu nucléaire, de la fusée et du satellite. L’homme a cependant toujours été au cœur de la guerre, l’utilisateur des armes nouvelles et la cible première de ces armes.

Depuis les années 60, et de manière très accessoire et ponctuelle, les armées ont eu recours à des drones aériens. Avec les années 90, les progrès techniques (informatique, internet, électronique embarqué…etc.) et la coalescence de ces nouvelles techniques ont permis la mise au point de mini-robots et d’aéronefs sans pilote à bord commandés à distance par l’homme venant en appui des forces armées humaines ; c’est le début timide d’un processus de dronisation et de robotisation des armées, l’amorce d’une dynamique conflictuelle et opérationnelle homme-machine qui s’est accélérée ces 20 dernières années en raison tant de la volonté d’appliquer la doctrine du zéro mort que des avantages que représentent les drones/robots du point de vue tactique et stratégique : avantage d’omnipotence puisque l’automatisation des systèmes d’armes concerne tous les milieux, Terre, Mer, Air et Espace ; avantage de permanence puisque les drones/robots peuvent assumer des missions ou des taches opérationnelles sur de longs délais, en vol, en gravitation, en surface ou sous l’eau, dépassant largement les capacités physiologiques de l’homme ; avantage de fulgurance, puisque l’association des systèmes autonomes, notamment les drones aérospatiaux, aux motorisations hypervéloces, leur prépositionnement, notamment en zone aérospatiale de transitions (ZAT), et leur organisation, permettent d’envisager des frappes en quelques secondes sur n’importe quel point du globe à l’instar de ce que cherche à faire in fine la doctrine américaine du « prompt global strike » (PGS) ; avantage de résilience, car les machines ont cette faculté de pouvoir continuer à fonctionner dans des conditions extrêmes et d’assurer la continuité, en mode dégradé, au lieu et place de systèmes plus performants, comme les satellites de communication qui auraient été détruits ; avantage d’accessibilité puisque les machines peuvent aller en certains milieux inaccessibles à l’homme en raison de ses limites physiques ou en raison de circonstances liées à l’usage d’armes NRBC sur un théâtre d’opération.

Cette dynamique conflictuelle homme-machine s’inscrit dans le respect du droit de la guerre et du droit des conflits armés : en effet, les drones sont en soi des matériels licites autant qu’un missile ou un avion piloté par l’homme, seul leur usage par les hommes peut prêter à discussion notamment au regard de leur emploi pour des éliminations ciblées ; on soulignera d’ailleurs que le droit pénal international des statuts de Rome est parfaitement applicable et peut concerner tant les concepteurs, les utilisateurs que les contrôleurs des drones et robots.

On notera aussi que jusqu’à récemment encore, la dronisation et robotisation a été non intelligente, partielle et limitée à certaines fonctions comme la reconnaissance, la surveillance, le renseignement, le déminage, enfin l’appui feu ou la destruction d’objectifs ciblés, le tout sous le pilotage et le contrôle de l’homme en application du principe moral l’homme dans la boucle.

Enfin, on soulignera que la dynamique homme-machine s’est inscrite dans une logique de conflits asymétriques de conquête puis d’occupation et non dans le cadre d’un conflit entre puissances de même niveau technique. Quoiqu’il en soit, cette dynamique homme-Machine est en passe de prendre fin pour apparemment laisser la place à une dynamique conflictuelle et opérationnelle machine dotée d’intelligence artificielle (IA) contre machine dotée d’IA.

Le XXIème siècle sera donc l’ère de l’intelligence artificielle. En effet, l’intelligence artificielle, grâce à l’apprentissage profond, marquera une disruption dans l’organisation de la société humaine et, en matière militaire, une étape nouvelle qui va accélérer le processus de dronisation et de robotisation intelligente des armées (DRIA), c’est à dire l’exclusion du soldat des théâtres d’opération et son remplacement par des machines « pensantes » de plus en plus autonomes, autonomie allant jusqu’à la décision de tir sans intervention humaine.

L’ampleur de ce processus ne peut se comprendre qu’au vu et su de l’évolution des programmes informatiques du jeu d’échec « giraffe » et du jeu de go « alpha go », que les meilleurs joueurs au monde ne pouvaient déjà pratiquement plus battre, vers des systèmes de jeu IA de nouvelles générations qui, à partir uniquement de données concernant les règle de jeu, ont développé, en jouant contre eux-mêmes, des combinaisons de jeu inconnues : or ces programmes IA, qui choisissent les combinaisons de jeu sur la base de critères qualitatifs, ont battu à 100% les anciens programmes informatiques déjà très supérieurs à l’homme.

L’implémentation d’intelligence artificielle dans les drones et robots à des fins militaires alimentée en données par l’homme et/ou grâce à sa mise en réseau, permettra la programmation du jeu de guerre et donnera une supériorité tactique et stratégique aux drones et robots IA. Le principe moral de l’homme dans la boucle apparaîtra alors comme une contrainte « contre-productive » chronophage incompatible avec les exigences de réactivité et de rapidité dans la réponse militaire notamment en matière défensive plus encore au regard du développement de motorisations hypervéloces pour les vecteurs et missiles.

Mieux, la dotation en IA, bref, l’automatisation des systèmes d’armes qui n’est pas en soi illégale, pourrait permettre mieux que l’homme d’éviter les dommages collatéraux dès lors que la machine aura été programmée pour se conformer aux conventions de Genève. Pour autant, l’autonomisation des drones et robots dotés d’intelligence artificielle renforce leur invulnérabilité et les risques de perte de contrôle par l’homme. Plus encore, la dronisation et robotisation IA pourrait constituer un fait totalitaire du point de vue conceptuel, via l’industrie 4.0, en confiant l’ensemble du processus de conception/fabrication/MCO/amélioration des armements à des serveurs IA de R&D ; un fait totalitaire aussi du point de vue opérationnel, via la projection de forces IA combinées, la création de GTIA dronisés, l’organisation d’opérations navales dronisées, l’usage de drones en essaim ou en constellation, la digitalisation des théâtres, l’ensemble dirigé et suivi depuis des états-majors IA tactiques ou centraux d’activation des forces.

La DRIA pourrait ainsi laisser croire à cette idée, relative pourtant, qu’elle sanctuarise les territoires des pays les plus avancés ; alors même que l’égal développement technique des Etats aurait pour conséquence essentielle d’introduire une phase technique de la guerre pouvant se terminer pour l’un des belligérants par un KO technique sous réserve du recours ultime à l’arme nucléaire. De fait, le KO technique, non suivi de l’usage de l’arme nucléaire, déboucherait sur une guerre de guérilla et un retour assez classique aux réalités humaines.

Si le pire n’est jamais sûr, le processus de DRIA présente trois risques majeurs ; le premier concerne la DRIA des armes nucléaires ; le deuxième concerne l’erreur que les Etats pourraient commettre en se préparant à la seule guerre des étoiles sans maintenir une capacité d’action en mode dégradé, bref sans maintenir une capacité à assurer la guerre « Mad max ». Enfin, le troisième risque est que l’intelligence artificielle puisse devenir l’esprit de la machine, que cette dernière, dotée d’un corps robotisé ou dronisé, puisse prendre conscience de son être par simple déduction et se retourner contre l’homme en considérant que ce dernier est en effet son ennemi…

Eric Pourcel