Quand vous serez manipulé par l’Intelligence Artificielle.

Vous le savez peut-être, mais les Fakes News ne datent pas d’hier. Déjà au VI^e siècle avant notre ère, Sun Tzu expliquait dans l’Art de la guerre toute l’importance de la tromperie et de la duperie dans la conduite d’un conflit.

En 2019, avec les NTIC (Nouvelles Technologies de l’Information et de la Communication), cette stratégie prend une toute autre ampleur. Les Fake News se diffusent à une vitesse démentielle ne se limitant qu’aux frontières du totalitarisme, grâce en grande partie aux réseaux sociaux. Au Royaume-Unis, une commission a enquêté sur le phénomène des Fake News et son impact sur les récents scrutins avec Facebook en ligne de mire. Le Parlement a d’ailleurs désigné le géant américain comme étant un « Gangster du numérique » qui pense vivre au-dessus des lois. Facebook souffre d’hémorragies chroniques de sa donnée ce qui provoque des dysfonctionnements majeurs dans la vie démocratique. En effet, avec la Big Data, certaines puissances sont capables de manipulations personnalisées de masse (Brexit, élections présidentielles américaines et françaises etc.).

Les réseaux sociaux sont devenus les véhicules du complotisme et de la désinformation. Selon une étude IFOP, 46% des personnes qui croient à plusieurs théories du complot affirme s’informer en premier lieu sur les réseaux sociaux, c’est deux fois plus que celles qui n’y croient pas du tout.

L’utilisation accrue des réseaux sociaux favorise un terreau fertile pour le développement des « Fake News » et de propos haineux sous couvert d’une liberté d’expression spoliée de son essence républicaine. Comment entrevoir une quelconque liberté à travers le prisme de la manipulation et de l’acrimonie ? Depuis que Facebook et Twitter, pour ne citer qu’eux, ont atteint ce que j’appelle le point de « Singularité de la data », nous assistons à une déferlante de désinformation personnalisée, moteur de la manipulation des masses. En réalité, les responsables de ces réseaux sociaux sont totalement impuissant face à ce phénomène. Alors que Facebook a déclaré avoir renforcé ses équipes avec le recrutement de 30 000 personnes pour protéger les utilisateurs de mauvais contenus, les résultats tardent à se faire ressentir, rien ne change.

Malgré le travail des journalistes pour démêler le vrai du faux, les propositions de lois Anti Fake News ou encore la fin de l’anonymat, les récents évènements (théorie du complot, racisme, antisémitisme, homophobie, xénophobie etc.) démontrent qu’il est extrêmement difficile d’endiguer le problème. Par ailleurs, même si nous parvenons aujourd’hui à mettre fin à ce fléau, nous serons de nouveau très rapidement dépassés par la technologie.

L’Intelligence Artificielle va surpasser la capacité des journalistes et des pouvoirs publics à maîtriser la qualité de l’information et sa propagation.

A l’ère de l’IA, nous serons manipulé par des « Fake Folks »

Alors que les « Fake News » sont créées et diffusées par des humains, à l’ère de l’IA, ce seront les machines qui seront la plus grande source de désinformation avec une force de propagation défiant l’imaginaire. Aujourd’hui déjà, l’IA est en capacité de créer des identités originales virtuelles qui peuvent déformer les vérités et imaginer des rumeurs pour manipuler les masses : j’appel ces IA les « Fake Folks ».

ThisPersonDoesNotExist

Tout commence par la création d’un visage humain pour créer un sentiment de confiance.

L’ingénieur d’Uber, Philip Wang a développé le site ThisPersonDoesNotExist qui génère automatiquement de faux visages grâce à l’IA. En utilisant le Deep Learning, la machine est capable de créer des Fake Faces, des visages originaux de personnes qui n’existent pas. Il est maintenant très simple, avec la technique du Fake Faces, de créer une identité virtuelle crédibilisée par un visage aussi vrais que nature.

Ensuite, la parole pour naturaliser et crédibiliser les messages.

Une technique de synthèse d’image basée sur l’IA permet de combiner et superposer des images et des vidéos existantes sur d’autres images et vidéos, c’est le DeepFake. L’un des exemples le plus célèbre est une vidéo, visionnée près de trois millions de fois, dans laquelle des termes injurieux à l’égard de Donald Trump sont mis dans la bouche de Barack Obama.

Subséquemment, la capacité de création et de partage pour générer des « Fake News » originales.

OpenAI, une société de recherche en intelligence artificielle à but non lucratif soutenue par Elon Musk, a mis au point un générateur de texte capable d’élaborer des reportages, des articles de presse et même des fictions. L’IA est si performante qu’elle est capable de créer des fausses informations plus que crédibles et de les partager de manière autonome sur les réseaux sociaux.

Enfin, la force de persuasion pour manipuler les masses.

L’IA d’IBM, Debater Project, a été à deux doigts de convaincre un auditoire lors d’un débat sur un sujet de société contre un humain. À l’issue de ce débat organisé en public, c’est Harish Natarajan, champion de compétitions de débats, qui a été déclaré vainqueur. Pour une fois l’humain gagne face à la machine contrairement au Jeu d’échecs, à Jeopardy ou encore au Jeu de Go. Toutefois, avant le débat, 13% du public pensaient qu’il ne fallait pas subventionner les écoles maternelles, position défendu par l’IA. Après le débat, ils étaient 30% à être en désaccord avec les subventions. Résultat, l’IA d’IBM a réussi à convaincre 17% du public qui étaient ultérieurement en désaccord avec sa position.

En utilisant seulement une infime quantité de la data disponible, avec une faible puissance informatique et en combinant seulement quatre cas concrets d’Intelligence Artificielle, nous avons donné naissance au « Fake Folk » : une identité virtuelle, créée de toute pièce par une machine, capable de s’exprimer, de communiquer et de partager en totale autonomie. Je vous laisse imaginer ce que nous serons capable de faire d’ici 5 à 10 ans, à l’ère de l’informatique quantique et de l’exploitation de la « Huge Data ». La prolifération des « Fake Folks » se fera à une vitesse effrénée, sans frontière et sans contrôle.

L’affaire Cambridge Analytica sera considéré comme un évènement ridicule et marginal comparée à ce que sera une attaque massive de « Fake Folks ».

Fabrice Nabet

Fabrice Nabet est Directeur Conseil et Stratégie dans le domaine de l’innovation. Il accompagne plus particulièrement les entreprises sur les sujets liés à la Data et aux dispositifs digitaux cognitifs. Passionné par les enjeux et impacts des nouvelles technologies sur notre civilisation, il remet sans cesse en question les prospectives concernant l’Intelligence Artificielle et le Transhumanisme. Convaincu que nous vivons actuellement la grande mutation du siècle qui va dessiner l’avenir de l’humanité, il s’attelle à imaginer et proposer des perspectives différentes sur l’usage des technologies.