Skip to content

Exploration du clivage civilo-militaire sur l’intelligence artificielle

L’intelligence artificielle devrait être une capacité clé pour permettre à l’armée américaine de maintenir sa domination militaire. L’engagement du Département de la défense des États-Unis (DoD) auprès des grandes entreprises de haute technologie du secteur privé, pour lesquelles l’armée ne représente qu’un pourcentage relativement faible de leur clientèle, constitue un moyen précieux d’accéder à des capacités de pointe en matière d’IA et à des développeurs et ingénieurs de logiciels d’IA.

Afin d’évaluer les points de vue des ingénieurs logiciels et d’autres personnels techniques du secteur privé sur les applications potentielles de l’IA au sein du DoD, une équipe de recherche a mené une enquête présentant divers scénarios décrivant la manière dont l’armée américaine pourrait utiliser l’IA et a demandé aux personnes interrogées de décrire leur niveau de confort quant à l’utilisation de l’IA de cette manière.

Les scénarios comportaient plusieurs facteurs, notamment le degré de distance par rapport au champ de bataille, le caractère destructeur de l’action et le degré de supervision humaine sur l’algorithme d’IA. Les résultats de cette enquête du RAND ont montré que la plupart des experts américains en IA ne s’opposent pas à la mission de base du DoD ou à l’utilisation de l’IA pour de nombreuses applications militaires.

Principales conclusions

Il ne semble pas exister de fossé infranchissable entre la Silicon Valley et le DoD.

– Les personnes interrogées dans les entreprises technologiques de la Silicon Valley et les anciens élèves des universités dotées de départements d’informatique de premier plan sont à l’aise avec diverses applications militaires de l’IA.

Il y a une différence significative dans le niveau de confort pour les applications de l’IA qui impliquent l’utilisation de la force létale.

– Environ un tiers des répondants des trois entreprises technologiques de la Silicon Valley interrogées se sentent mal à l’aise avec les cas d’utilisation mortelle de l’IA.

LIRE AUSSI 🔖  Rapport de l’Académie des technologies : « Réflexions sur la robotique militaire »

Les travailleurs du secteur technologique ont peu confiance dans les dirigeants, même les leurs.

– Les ingénieurs en logiciel et les autres travailleurs du secteur technologique font peu confiance aux personnes qui occupent des postes de leadership.

– Ils font presque aussi peu confiance aux PDG des entreprises technologiques qu’aux élus ou aux responsables des agences fédérales.

Les travailleurs du secteur technologique sont les plus préoccupés par les cybermenaces qui pèsent sur les États-Unis.

– Plus de 75 % des répondants considèrent également la Chine et la Russie comme des menaces sérieuses pour les États-Unis.

Les professionnels du secteur technologique soutiennent le recours à la force militaire pour se défendre contre une agression étrangère.

– Les personnes interrogées se sont déclarées fortement favorables au recours à la force militaire pour défendre les États-Unis et leurs alliés de l’OTAN contre une agression étrangère, près de 90 % des participants estimant que le recours à la force militaire est justifié dans ces circonstances.

Les travailleurs technologiques de la Silicon Valley ont peu de liens personnels avec l’armée

– Moins de 2 % des répondants de la Silicon Valley ont servi dans les forces armées américaines.

– Près de 20 % des ingénieurs logiciels travaillant chez des sous-traitants de la défense avaient déjà servi dans l’armée américaine.

Recommandations

Il convient d’explorer les mécanismes permettant d’étendre les collaborations entre le Département de la défense et les entreprises de la Silicon Valley concernant les menaces posées par les cyberattaques, une application potentielle de l’IA que les ingénieurs de la Silicon Valley considèrent comme une menace mondiale critique.

L’expansion des engagements entre le personnel impliqué dans les opérations militaires, les experts techniques du DoD et les contributeurs individuels de la Silicon Valley (employés non-managers) travaillant dans des rôles techniques devrait être explorée afin d’évaluer les voies possibles pour développer une plus grande confiance entre les organisations.

LIRE AUSSI 🔖  La NASA a prévu de faire un "bouclier magnétique" pour terraformer Mars

Il conviendrait d’étudier les avantages potentiels de l’engagement des ingénieurs de la Silicon Valley par le Département de la défense sur certains détails de l’utilisation de l’IA par le Département de la défense ; il conviendrait également d’examiner comment l’armée envisage les situations nuancées et complexes dans lesquelles l’IA serait utilisée.

Il convient d’étudier l’intérêt de créer des occasions pour les employés du DoD et de la Silicon Valley de s’engager sur des valeurs et des principes communs, ainsi que les avantages potentiels d’une telle démarche. Les principes éthiques du DoD pour l’IA récemment publiés1 montrent que le DoD lui-même n’est pas à l’aise avec certaines utilisations potentielles de l’IA : cela pourrait servir de base à une conversation avec les ingénieurs de la Silicon Valley sur ce à quoi l’IA devrait et ne devrait pas servir.

Un autre domaine d’investigation potentiellement fructueux consisterait à évaluer les avantages et à adapter divers types d’engagements pour aider les experts américains en IA les plus innovants et les plus expérimentés à apprendre comment le DoD accomplit sa mission et à découvrir comment leurs talents et leur expertise peuvent contribuer à résoudre les problèmes du DoD et de la nation.


Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.