Les forces spéciales américaines pourraient utiliser la technologie deepfake pour des opérations psychologiques (psy-ops), selon un rapport

Les responsables qui supervisent certaines des missions les plus secrètes de l’armée américaine sont à la recherche d’un nouveau type d’arme sans précédent : les « deepfakes« , qui utilisent le machine learning pour créer de fausses vidéos plus vraies que nature.

L’US Special Operations Command (SOCOM), qui regroupe des unités d’élite de l’Armée de terre, Marines, Navy et de l’Air Force, travaille au développement d’une « nouvelle génération de ‘deep fake’ ou d’autres technologies similaires pour générer des messages et influencer des opérations via des canaux non traditionnels », selon un document révélé par The Intercept.

Dans de récentes demandes d’approvisionnement, SOCOM recherche des partenaires pour développer des capacités utilisant des lasers, des hologrammes et le piratage d’appareils connectés à Internet dans le cadre de ses opérations secrètes.

« En matière de désinformation, le Pentagone ne devrait pas combattre le feu par le feu », a déclaré à The Intercept Chris Meserole, directeur de l’initiative sur l’intelligence artificielle et les technologies émergentes de la Brookings Institution. « À l’heure où la propagande numérique se développe dans le monde entier, les États-Unis devraient faire tout ce qui est en leur pouvoir pour renforcer la démocratie en soutenant des notions communes de vérité et de réalité. Les « deepfakes » font le contraire. En jetant le doute sur la crédibilité de tous les contenus et de toutes les informations, qu’ils soient réels ou synthétiques, ils finissent par éroder les fondements de la démocratie elle-même. »

Le commandement des opérations spéciales, qui accepte des propositions sur ce type de capacités jusqu’en 2025, n’a pas répondu à une demande de commentaire.

L’année dernière une vidéo intitulée « GHOSTS IN THE MACHINE » a été publiée sur la page YouTube du 4e groupe PSYOP. Cette vidéo ressemble à une scène de jeu vidéo terrifiante.

« Nous sommes partout », indique la vidéo avant de montrer un fantôme de dessin animé dansant sur un téléviseur en flammes. « Un sentiment dans l’obscurité. Un message dans les étoiles. Des fantômes dans la machine. Qu’est-ce que nous sommes ? PSYWAR ».

Le 4e groupe d’opérations psychologiques de l’armée américaine fait partie du domaine plus large des opérations psychologiques de l’armée, qui est une spécialisation des forces d’opérations spéciales. L’objectif, selon le site web de recrutement, est de faire appel à des « esprits non conventionnels » pour « persuader, changer et influencer » le monde.

Le colonel Chris Stangle, commandant du 4e groupe PSYOP, a déclaré à Task & Purpose que le groupe avait créé la vidéo lui-même. Selon le colonel Stangle, l’objectif était de réaliser une vidéo qui explique ce que font les PSYOPs tout en servant d’annonce de recrutement.

La réponse implicite dans la vidéo est que c’est le 4e groupe PSYOP de l’armée qui tire les ficelles. Pour un jeune qui cherche des réponses dans un monde de plus en plus compliqué et étrange, la promesse d’un savoir secret et du pouvoir d’agir en conséquence est une offre irrésistible.