La nouvelle servitude volontaire. Enquête sur le projet politique de la Silicon Valley

Philippe Vion-Dury est essayiste, journaliste, chroniqueur, spécialiste des questions de société, des nouveaux modèles économiques et des technologies.

Avec comme crédo la volonté de changer le monde, c’est au coeur de la Silicon Valley que se façonne la société numérique.

Portées par une spectaculaire réussite économique, les entreprises de haute technologie veulent dessiner un monde meilleur en prenant en main la majorité des aspects de notre quotidien, en généralisant la prédiction algorithmique.

L’homme devient intégralement transparent, immatériel. La liberté de choisir, la créativité et l’émancipation sont désormais remplacées par l’anticipation, la prédiction et la régulation. C’est bien plus qu’une révolution numérique ; c’est un véritable projet politique qui est à l’œuvre.

Avec rigueur et précision, Philippe Vion-Dury révèle que les technologies sont porteuses d’une idéologie et d’un projet de civilisation. Il démontre que les modèles prédictifs, les algorithmes et les objets connectés instaurent une société du contrôle dans laquelle l’individu, comme le collectif, abandonne la maîtrise de son destin. Il explique comment la peur de se confronter à la solitude, à l’altérité et à l’échec nous conduit à une nouvelle servitude volontaire.

“La masse de données que ces entreprises collectent sur leurs utilisateurs est pour vous la porte ouverte aux manipulations. C’est particulièrement préoccupant, en période d’élections. Il suffit de constater le pic d’inscriptions sur les listes électorales aux Etats-Unis provoqué par un simple rappel de Facebook”.

“Actuellement, des équipes avec des moyens énormes travaillent sur quelque chose qui paraît tout bête: les notifications. Le but est de créer des comportements addictifs et des accoutumances, pour ramener les utilisateurs dans l’enceinte des applications”. 

“Plus les individus deviennent transparents, plus les instances de pouvoir – les entreprises – deviennent opaques. Personne ne peut forcer Google à révéler comment fonctionne son algorithme. Les Etats eux-mêmes sont plus transparents”. lire l’article sur L’Expansion – L’Express

“Il est aujourd’hui très convenu de dire que les technologies numériques pourraient dégénérer en une surveillance de masse, totalitaire, dont la Stasi n’aurait même pas rêvé”.

“Les entreprises étendent maintenant leurs mains sur notre intimité, nous accompagnent partout : dans nos rendez-vous amoureux, nos découvertes artistiques, nos recherches intellectuelles, nos achats, notre santé, etc. Dans ce système-là, nous avons tous l’illusion sans cesse renouvelée de la liberté et du plaisir, alors qu’en réalité, nous nous laissons exploiter pour pouvoir consommer davantage. Nous affadissons notre vie en laissant pénétrer la logique marchande toujours plus profondément, et affaiblissons notre libre-arbitre en nous en remettant aux conseils, suggestions et recommandations de ces multinationales amicales”. lire l’article sur Le Comptoir

Vers une police 3.0 : enjeux et perspectives à l’horizon 2025

Rapport du Groupe de diagnostic stratégique n°3 – 27e Session nationale Sécurité et Justice – 2015/2016
INHESJ – Institut National des Hautes Études de la Sécurité et de la Justice.

La révolution numérique bouleverse profondément notre société et la police ne peut échapper à cette mutation. Dans un discours en 2013 devant les forces de l’ordre, le ministre de l’Intérieur appelait ainsi au renforcement de « la police et la gendarmerie 3.0 ». Après un diagnostic détaillé des dispositifs existant et des enjeux de l’adaptation de ces institutions à la révolution numérique, le groupe a pu développer des pistes d’amélioration innovantes, nourries par l’idée que les mutations technologiques auxquelles doivent se préparer les forces de sécurité marquent l’absolue nécessité de remettre l’humain au cœur du dispositif et de l’action publique.

Télécharger le rapport (PDF)

Synthèse

Qu’il s’agisse de la robotique avancée, du véhicule autonome, de l’automatisation des savoirs, de l’informatique quantique ou encore de la réalité augmentée, de nombreuses technologies de rupture vont affecter la société et avec elle, les forces de sécurité, d’ici à 2025. Si la France a commencé à s’y préparer au travers d’un plan de modernisation de la sécurité allouant 108 millions d’euros à cinq défis prioritaires pour la période 2015-2017, de nombreux enjeux restent encore à aborder : collecte d’information et veille sur internet, big data, internet des objets, vidéoprotection intelligente, productivité, …

Dans le même temps, la délinquance (criminels isolés ou organisations terroristes) a su identifier les « opportunités » que lui offre la révolution numérique, faisant naitre une cyber criminalité aux moyens et aux modes opératoires nouveaux. Nos concitoyens ont eux aussi modifié leurs attentes et leurs comportements, obligeant police et gendarmerie à développer une présence nouvelle sur internet et à entrer dans une nouvelle ère de la communication. Même la relation des forces de sécurité avec le secteur privé est affectée par ces évolutions technologiques (collaboration conjointe aux efforts de R&D des entreprises, participation d’experts aux investigations, contributions – encore modérées – à la construction d’une industrie tricolore de la sécurité intérieure).

Comment nos forces de sécurité abordent-elles cette révolution numérique ? Par le passé, plusieurs projets de transformation technologique de grande ampleur (ACROPOL, terminaux informatiques embarqués, CHEOPS, …) se sont soldés par des déboires non négligeables, principalement en raison d’une complexité organisationnelle excessive des structures qui en avaient la charge. Ce même manque de lisibilité se retrouve au niveau de la gestion des ressources humaines, où la culture de la transformation n’est pas encore assez présente en dépit d’initiatives intéressantes (officiers commissionnés de la gendarmerie, formation des spécialistes en cyber criminalité, …) mais limitées.

Reste que la révolution numérique offre une double opportunité : celle d’une « expérience » renouvelée pour nos concitoyens (nouveaux services, nouvelle proximité avec les forces de sécurité, …), mais aussi celle d’un fonctionnement optimisé (d’où un travail plus riche pour les policiers et les gendarmes, plus pertinent et plus au contact des populations). Les forces de sécurité françaises pourraient ainsi chercher à « devenir, grâce à l’usage des technologies numériques, l’une des trois forces de sécurité de référence dans le monde, pour leur efficacité et pour la qualité du service offert à tous ».

Pour concrétiser cette vision, nos préconisations s’articulent autour de huit axes.

  • Transformer les structures en s’appuyant sur une vision à long terme : nouvelle loi d’orientation et de programmation, accompagnement du changement, décloisonnement, …
  • Développer les talents déjà présents au sein des institutions : gestion prévisionnelle des emplois et des compétences, filière métier dédiée à l’investigation numérique, …
  • Attirer de nouveaux talents : ouverture des concours, élargissement du champ des officiers commissionnés, interactions avec le monde extérieur, …
  • Mettre en œuvre la stratégie digitale : création d’un poste de directeur digital au sein du ministère de l’Intérieur, dématérialisation des processus, unification des systèmes d’identification et d’authentification, …
  • Muscler les dispositifs d’investigation numérique : dispositif de veille sur le marché des solutions d’investigation numérique, acquisitions de solutions, développement d’une cyber police, …
  • Accélérer et pérenniser les approches prédictives : élargissement des expérimentations y compris en zone de sécurité prioritaire, diffusion de la culture de l’analyse prédictive dans l’organisation, …
  • Moderniser les centres de commandement : intégration des potentialités du numérique dans les appels 17, décloisonnement, intégration des drones, des murs d’images et des réseaux sociaux, …
  • Ouvrir une relation nouvelle avec la population : renforcement des services numériques, encouragement de l’implication citoyenne,…

Les mutations numériques auxquelles doivent se préparer les forces de sécurité françaises marquent l’absolue nécessité de remettre l’humain, citoyens ou membres des forces de sécurité, au cœur du dispositif et de l’action publique.

Télécharger le rapport (PDF)

voir aussi → Hitachi : une IA capable de prédire les crimes avant qu’ils se produisent
Patrouille du futur : plutôt cop ou Robocop ?

Enregistrer

Code 8 – un film de Stephen Amell & Robbie

Le film se déroule dans un monde où 4% de la population sont nés avec un certain type de capacité surnaturelle. Au lieu d’être super-héros milliardaire, la plupart des «spéciaux» vivent dans la pauvreté et le recours à la criminalité, ce qui oblige la police à devenir plus militarisée. L’histoire suit un jeune homme avec des pouvoirs spéciaux (Amell) qui lutte pour trouver du travail comme journalier. Après un litige relatif au paiement, il se retrouve dans une confrontation avec un agent de police (Kang) et des robots autonomes derrière lui.

Le court-métrage est juste une introduction, il y a actuellement une campagne toujours en cours sur Indiegogo. A ce jour le film est déjà financé à +417 % et promet d’être intense.

Premiers portraits-robots par l’ADN

L’Institut génétique Nantes-Atlantique (IGNA) est l’un des premiers laboratoires français d’expertises criminalistiques à utiliser des traces d’ADN pour établir les caractéristiques physiques d’un suspect et ainsi son “portrait-robot génétique”, un “outil d’aide” pour les enquêteurs.

“même en l’absence d’un profil dans le fichier national, les experts peuvent “à partir de quelques cellules”, “déterminer la couleur des yeux ou des cheveux, ou définir l’origine ethno-géographique d’une personne”.

“Aujourd’hui, on peut déterminer la couleur des yeux, demain on pourra aller chercher la présence de tâches de rousseur ou de calvitie”, assure Mme Le Guiner.

“Au tout début de l’ADN, il fallait du matériel, une bonne tâche de sang ou de sperme”, rappelle-t-elle. Désormais, “un fifrelin” suffit pour avoir une empreinte génétique.

lire l’article sur La Croix, ou la version PDF

Patrouille du futur : plutôt cop ou Robocop ?

Sous quelle forme les forces de l’ordre patrouilleront-elles dans le futur ? Humaine, robotique ou humanoïde ? Un mélange des trois ? Réponse en une infographie interactive.

https://www.thinglink.com/scene/703281091850534914

Les forces de l’ordre ont plus d’un tour technologique dans leur sac pour prédire crimes et infractions. FUTUREMAG s’est rendu à Los Angeles pour rencontrer les policiers qui prédisent le futur grâce aux données.

 

L’affective computing

L’une des prochaines étapes de l’évolution des environnements intelligents passera par l’avènement de ce qu’on appelle désormais l’affective computing. On pense que l’ordinateur va apprendre à ressentir les émotions des personnes avec lesquelles il est en contact. Par exemple, il sera capable de détecter si quelqu’un entre dans une pièce avec un comportement gestuel agité ou, au contraire, s’il semble plutôt détendu. Selon les cas, il lui proposera d’écouter de la musique ou de jouer avec son ordinateur. On va vivre une communication différente entre l’homme et les machines et ce bouleversement est pour demain. Ce n’est pas de la science-fiction.

Des centaines de laboratoires dans le monde travaillent sur ces projets. Ils tentent de faire fusionner le cerveau et les machines. Cela ne va pas sans poser des problèmes éthiques importants. L’homme va sans doute trop vite mais le fait de nous décharger des automatismes peut contribuer à revaloriser ce qui constitue notre humanité. (Joël DE ROSNAY, 2020 : Les Scénarios du futur, Des Idées & des Hommes, 2007 p. 238).

Emanation du Media Lab du Massachusetts Institute of Technology, Affectiva a développé un logiciel capable d’analyser en direct les infimes nuances de nos expressions faciales et de déduire nos émotions à la lecture d’une vidéo en ligne via la webcam.

Publicitaires et fournisseurs de services sont les premiers intéressés par cette détection qui permet d’ajuster ou de renforcer l’intensité des contenus proposés. Mais ses applications intéressent également la police, les assureurs, les employeurs… Affectiva dit avoir mesuré sept milliards de réactions émotionnelles à partir de 2,4 millions de vidéos de visages dans quatre-vingts pays. De quoi entraîner ses algorithmes lancés à la recherche de motifs permettant de prédire et d’influencer les comportements et affects à grande échelle.

Sa concurrente, la firme californienne Emotient, propose elle de classer les photos en fonction des émotions. Le site promotionnel de RealEyes.it, qui se présente comme le « Google des émotions », prétend déceler les réactions « inconscientes » des utilisateurs. Son argument de vente est on ne peut plus clair : « Plus les gens ressentent, plus ils dépensent », faisant fi des questions éthiques comme : peut-on révéler les émotions des gens sans leur accord, et surtout qu’en est-il des erreurs d’interprétation ? L’une des préoccupations récurrentes exprimées durant le festival est cette foi excessive dans le pouvoir des algorithmes, dans leur efficacité et dans la totale transparence de la société des métadonnées. « Il y a cette idée que les big data donnent un accès direct à la réalité, qu’ils sont totalement objectifs, équitables, que la nature va parler par elle-même, sans transcription, sans médiation, institutionnelle ou politique », avance la juriste Antoinette Rouvroy. (en savoir plus sur Le Monde).