Conférence DIA/DoDIIS pour construire un nouvel écosystème numérique

La conférence annuelle DoDIIS (Department of Defense Intelligence Information System) de la DIA (Defense Intelligence Agency – Agence du renseignement de la défense) a eu lieu à Phoenix, Arizona du 5 au 8 décembre sous le thème : « Foresight 20/20 : Build a New Digital Ecosystem ». Elle rassemble des experts du gouvernement, de l’armée, de l’industrie et du monde universitaire afin de relever les défis et les complexités des technologies de l’information qui ont un impact sur la communauté du renseignement.

Le thème de cette année met l’accent sur la course urgente à la découverte et à l’adoption de solutions innovantes pour conserver un avantage stratégique concurrentiel sur leurs adversaires. La nature perturbatrice des avancées technologiques nécessite une collaboration et des partenariats accrus.

Depuis près de 20 ans, la conférence DoDIIS est la première conférence sur les technologies de l’information qui permet d’écouter des orateurs de renom, de collaborer avec des partenaires de confiance et de découvrir des solutions techniques révolutionnaires pour soutenir le combattant. La conférence est un événement immersif en personne conçu pour réunir des experts en la matière, des décideurs et des parties prenantes pour collaborer et s’associer.

Conférence annuelle DoDIIS (Department of Defense Intelligence Information System) de la DIA (Defense Intelligence Agency) a eu lieu à Phoenix, Arizona du 5 au 8 décembre sous le thème : « Foresight 20/20 : Build a New Digital Ecosystem ». Credit: DIA (Defense Intelligence Agency)

Lors de l’ouverture du DODIIS, plusieurs dirigeants ont déclaré que le machine learning permettrait de garder un œil sur les avancées russes et chinoises – à terme.

Les avancées scientifiques et techniques russes et chinoises dans une multitude de domaines liés à l’armée constituent une “crise de lenteur” car le travail avance plus vite que les analystes du renseignement du Pentagone ne peuvent suivre, ont déclaré les dirigeants de la DIA. L’intelligence artificielle promet un moyen de renforcer la capacité d’analyse de la DIA, mais la clé sera de savoir quand les nouveaux outils seront suffisamment fiables pour être utilisés.

“Comment pouvez-vous nous aider à fournir des renseignements au Département de la Défense d’une manière qui soit plus rapide, plus forte et meilleure ?” a demandé le lieutenant-général Scott Berrier, après avoir souligné le rôle important de l’industrie dans la réponse à la concurrence stratégique.

La réponse de l’industrie à cette question aidera à déterminer la capacité de la DIA à atteindre la ligne d’effort principale articulée dans sa nouvelle stratégie 2021 : l’avantage du renseignement.

La Chine bat les États-Unis dans les domaines de l’intelligence artificielle, de l’informatique quantique et de l’hypersonique, tandis que le Pentagone est paralysé par une lourde bureaucratie, selon le général de division de l’armée de l’air américaine, Daniel L. Simpson.

La Chine a été en mesure de prendre l’avantage, il n’y a donc pas de gagnant ou de perdant dans ce domaine – soit vous êtes en avance, soit vous êtes en retard, et il y a certains domaines en ce moment où la Chine est en avance, a déclaré Simpson.

Les efforts visant à développer de nouveaux moyens de contrer la Chine dans le domaine de l’information.

La deuxième journée de la conférence a mis l’accent sur les innovations technologiques nécessaires pour moderniser les communications au sein de la communauté du renseignement.

Le lieutenant-général Timothy Haugh, commandant du 16th Air Force Cyber Command, a ouvert la session du matin en expliquant le rôle de ses aviateurs dans l’exploitation et la défense des réseaux de l’Air Force, du Joint Worldwide Intelligence Communications System, du Nonsecure Internet Protocol Router Network et du Secure Internet Protocol Router Network.

Citant en exemple le rôle du U.S. Cyber Command dans la défense des élections, Haugh a expliqué qu’il existe de nouvelles vulnérabilités que les États-Unis n’auraient pas pu prévoir il y a 20 ans. Par conséquent, la nation a besoin d’une approche modernisée des problèmes de cybersécurité.

Haugh a imploré les dirigeants de l’industrie de se concentrer sur les éléments qui apporteront le plus de valeur à la lutte contre les menaces, de tirer parti des normes commerciales communes et d’aider le DoD à retirer les données des anciennes plateformes tout en maintenant la cybersécurité au premier plan de toutes les capacités.

La brigadière-générale Tina Boyd, directrice du J6 au US Central Command, a suivi les remarques de Haugh et a décrit les défis auxquels le CENTCOM est confronté. Ses remarques ont porté sur la nécessité d’innover pour éviter d’être dépassé dans un environnement de concurrence stratégique.

Boyd a expliqué que, pour concurrencer la Chine, compte tenu de l’expansion de sa présence et de son domaine cybernétique, les réseaux cloisonnés ne permettront pas aux États-Unis de relever les défis actuels.

En outre, les États-Unis doivent promouvoir la coopération et la collaboration afin de conserver leur avantage sur la concurrence, en gardant à l’esprit que l’évolution des technologies nécessite de recueillir des informations à une vitesse sans précédent.

“Nous avons besoin de l’unité et de la détermination nationales les plus fortes possibles pour protéger les secrets de notre nation et suivre le rythme de nos adversaires”, a conclu Michael Waschull, Directeur de l’information de la communauté du renseignement.

Lors de la dernière journée de la conférence du Department of Defense Intelligence Information System (DoDIIS), la directrice de l’IARPA, Catherine Marsh, a donné un aperçu de la raison d’être de l’agence d’espionnage et de la manière dont elle développe ses programmes de collecte et d’analyse de données.

L’Intelligence Advanced Research Projects Activity (IARPA) considère les dispositifs IoT comme une source croissante de collecte de données pour le renseignement américain, afin de connaître les intentions de ses adversaires.

La Dr. Catherine Marsh est devenue directrice de l’Intelligence Advanced Research Projects Activity en novembre 2019, où elle est chargée d’investir dans la recherche à haut risque/à haut rendement qui a le potentiel de fournir pour les américains un avantage écrasant en matière de renseignement. Avant cette affectation, Marsh était la scientifique en chef de la Direction de la science et de la technologie de la CIA de 2016 à 2019, où elle était chargée de veiller à ce que la science et la technologie de pointe sous-tendent les capacités de mission actuelles et futures. Auparavant, elle a occupé le poste de doyenne de l’école George Methlie de la DS&T. De 2013 à 2015, elle a occupé le poste de directrice adjointe de l’IARPA. Marsh a rejoint la CIA en 2001 et a occupé plusieurs postes afin d’innover en matière de solutions énergétiques pour la communauté du renseignement. Dans l’industrie, elle a dirigé l’équipe qui a mis la technologie lithium-ion sur de nombreuses plates-formes, notamment les rovers d’exploration MARS de la NASA, Spirit et Opportunity. Marsh est membre du Director of National Intelligence (directeur du renseignement national) et du cadre d’experts distingués du DS&T. Elle est titulaire d’une licence et d’un doctorat en chimie inorganique et analytique de l’université Brown.

Elle a expliqué qu’au-delà de la collecte de données à partir de caméras à distance, les dispositifs de l’Internet des objets (IoT) sont désormais devenus une source croissante de données que la communauté du renseignement peut collecter, analyser et apprendre sur les intentions de ses adversaires.

Catherine Marsh a expliqué que la recherche de l’IARPA était organisée en deux bureaux : l’analyse et la collecte.

“L’objectif de la recherche analytique est de maximiser les connaissances à partir des données massives, disparates, peu fiables et dynamiques qui sont (ou pourraient être) mises à la disposition des analystes en temps voulu”, a-t-elle déclaré.

“Cette question persistante ne devient pas plus facile, car le volume, la vitesse, la diversité et la véracité des informations recueillies augmentent et changent continuellement. De plus, les analystes doivent établir un lien entre les données et les résultats possibles. L’IARPA applique des techniques de pointe en matière d’IA et de machine learning pour rendre ce défi croissant réalisable”, a ajouté la directrice de l’IARPA.

Marsh a poursuivi en expliquant que “l’objectif de la recherche sur les collections est d’améliorer considérablement la valeur des données collectées à partir de toutes les sources en développant de nouveaux capteurs et technologies de transmission, de nouvelles techniques de collecte qui ciblent plus précisément les informations dont les décideurs ont besoin, et les moyens de collecter des informations à partir de zones inaccessibles ou refusées”, a ajouté Marsh.

“Ces nouvelles sources de collecte ne sont pas sans poser de problèmes. Par exemple, les capteurs et caméras à distance sont devenus omniprésents dans le monde, et ils constituent une source de données dont les agences de renseignement ne disposaient pas il y a une génération.

Des techniques de collecte intelligentes sont nécessaires pour recueillir les bonnes données de ces sources et les prétraiter sur le terrain afin de fournir rapidement des informations utiles aux analystes. De même, les dispositifs de l’Internet of Thing (IoT) sont une source croissante de données qui peuvent être collectées pour apprendre l’intention.

Développer ces nouveaux capteurs et détecteurs, ainsi que réfléchir à des moyens intelligents de collecter des données multimodales pour révéler ce que nos adversaires tentent de nous cacher est au cœur même de ce que nos programmes de collecte visent à faire”, a-t-elle ajouté.

Si les services de renseignement américains collectent des données à partir des dispositifs IoT de leurs adversaires, ne serait-il pas logique que ces derniers collectent également des données IoT sur l’Amérique et ses alliés ?

Selon Marsh, la définition du renseignement est la suivante : “fournir un avertissement avancé sur des événements possibles à venir“.

“Un renseignement fiable nécessite des techniques analytiques capables de traiter des quantités massives de données et de fournir des informations pertinentes et précises aux décideurs, avec un avertissement suffisant pour que des mesures puissent être prises afin de protéger la sécurité de notre nation et de ses habitants”, a-t-elle ajouté.

Réglementation de la biométrie : Approches globales et questions urgentes

L’AI Now Institute a publié un recueil d’études de cas sur les approches réglementaires de la technologie de reconnaissance biométrique, les leçons tirées et les futures actions de sensibilisation

Dans un contexte de surveillance publique accrue, l’intérêt pour la réglementation des technologies biométriques telles que la reconnaissance faciale et vocale s’est considérablement accru dans le monde entier, sous l’impulsion de la recherche et de la défense des intérêts des communautés. Il se dégage de ce moment un sentiment croissant que des technologies comme la reconnaissance faciale ne sont pas inévitables, et peut-être même pas nécessaires ou utiles.

“Regulating Biometrics: Global approaches and urgent questions”, par Amba Kak, présente huit études de cas détaillées d’universitaires, avocats et experts politiques qui examinent les tentatives actuelles de réglementation des technologies biométriques et donnent un aperçu des promesses et des limites de ces approches. Dans quels domaines la réglementation est-elle capable de déterminer si et comment les technologies biométriques sont utilisées, et dans quels domaines est-elle insuffisante ? En examinant ces questions, ces auteurs experts éclairent les domaines d’engagement, de défense et de réglementation futurs.

Ces essais brossent un tableau du paysage mondial complexe de la réglementation de la biométrie, en mettant en évidence les nombreuses approches adoptées par les partisans de la biométrie, qui réclament un contrôle accru de ces technologies, ainsi que la manière dont les gouvernements ont utilisé la loi comme outil pour étendre ou consolider l’utilisation de la biométrie.

Projet de loi australien sur les services de rapprochement des identités (p.44)

Jake Goldenfein (Faculté de droit de Melbourne) et Monique Mann (Université Deakin) suivent les manœuvres institutionnelles et politiques qui ont conduit l’Australie à créer une grande base de données centralisée de reconnaissance faciale (“The Capability”) à l’usage de divers acteurs gouvernementaux. Ils examinent les échecs de la réglementation pour remettre en cause de manière significative la construction de ce système, voire pour façonner son architecture technique ou institutionnelle.

L’économie (et la pratique réglementaire) que la biométrie inspire : Une étude du projet Aadhaar (p.52)

Nayantara Ranganathan (avocate et chercheuse indépendante, Inde) explique comment le droit et la politique autour du projet indien d’identification biométrique (“Aadhaar”) ont finalement servi à construire des données biométriques comme ressource pour l’extraction de données de valeur par des entreprises privées. Elle explore comment la réglementation a été influencée par les logiques et les cultures du projet qu’elle cherchait à réglementer.

Une première tentative de réglementation des données biométriques dans l’Union européenne (p.62)

Els Kindt (KU Leuven) fournit un compte-rendu détaillé de l’approche du Règlement général sur la protection des données (RGPD) de l’Union européenne en matière de réglementation des données biométriques. Comme de nombreux pays sont sur le point de mettre en œuvre des lois nationales rédigées de manière similaire, elle identifie les lacunes potentielles et souligne les domaines clés pour la réforme.

Réflexion sur la politique biométrique du Comité international de la Croix-Rouge : Réduire au minimum les bases de données centralisées (p.70)

Ben Hayes (Agence AWO, conseiller juridique consultant auprès du Comité international de la Croix-Rouge [CICR]) et Massimo Marelli (chef du Bureau de la protection des données du CICR) expliquent le processus décisionnel du CICR pour formuler sa première politique en matière de biométrie, qui visait à éviter la création de bases de données et à minimiser les risques pour les populations vulnérables dans les contextes humanitaires.

Utilisation par la police de la reconnaissance faciale en live au Royaume-Uni (p.78)

Peter Fussey (Université d’Essex) et Daragh Murray (Université d’Essex), principaux auteurs de l’étude empirique indépendante du procès de la police métropolitaine de Londres sur la reconnaissance faciale en live (LFR-Live Facial Recognition), expliquent comment les normes juridiques et les outils de régulation existants n’ont pas réussi à empêcher la prolifération d’un système dont les effets néfastes ont été démontrés. Ils tirent ainsi des enseignements plus larges pour la réglementation de la LFR au Royaume-Uni et des technologies similaires ailleurs.

Une taxonomie des approches législatives pour la reconnaissance faciale aux États-Unis (p.86)

Jameson Spivack et Clare Garvie (Georgetown Center on Privacy and Technology) écrivent sur les dizaines de lois d’interdiction et de moratoires sur l’utilisation de la reconnaissance faciale par la police aux États-Unis, la plupart d’entre elles menées par des avocats et des organisations communautaires. Les auteurs fournissent une taxonomie détaillée qui va au-delà des grandes catégories d’interdiction et de moratoire, et réfléchissent aux leçons tirées de leur mise en œuvre.

BIPA : La plus importante loi biométrique sur la protection de la vie privée aux États-Unis ? (p.96)

Woodrow Hartzog (Northeastern University) explore les promesses et les pièges de la loi sur la confidentialité des informations biométriques (BIPA) de l’État de l’Illinois et, plus largement, du droit des particuliers à engager leurs propres actions contre des entreprises privées. Il s’interroge sur les limites inévitables d’une loi centrée sur le “consentement éclairé”, un système qui donne l’illusion d’un contrôle tout en justifiant des pratiques douteuses que les gens n’ont pas assez de temps ou de ressources pour comprendre et agir.

Réglementation biométrique ascendante : La réponse de la Communauté à l’utilisation de la surveillance faciale dans les écoles (p.104)

Stefanie Coyle (NYCLU) et Rashida Richardson (Rutgers Law School ; AI Now Institute, NYU) examinent la décision controversée d’un district scolaire de Lockport, New York, de mettre en place un système de reconnaissance faciale et d’objets pour surveiller les élèves. Elles mettent en lumière la réponse de la communauté qui a suscité un débat national et a conduit à une législation à l’échelle de l’État réglementant l’utilisation des technologies biométriques dans les écoles.

Lire le rapport complet (PDF)

Un projet de loi américain vise à interdire l’utilisation de la reconnaissance faciale par la police

Les législateurs américains ont présenté un projet de loi, The Facial Recognition and Biometric Technology Moratorium Act, qui interdirait l’utilisation de la technologie de reconnaissance faciale par les agences fédérales de maintien de l’ordre.

Plus précisément, il rendrait illégal pour toute agence fédérale ou tout fonctionnaire “d’acquérir, de posséder, d’accéder ou d’utiliser” la technologie de surveillance biométrique aux États-Unis. Il exigerait également que les services de police des États et des collectivités locales instaurent des interdictions similaires afin de pouvoir bénéficier d’un financement fédéral.

La proposition de loi est arrivée à un stade où l’utilisation de la technologie de reconnaissance faciale par la police fait l’objet d’une attention accrue dans le cadre des protestations qui ont suivi l’assassinat de George Floyd fin mai. Des études ont montré à plusieurs reprises que la technologie est moins précise pour les Noirs, et au début de cette semaine, le New York Times a rapporté qu’un homme noir innocent du Michigan avait été arrêté après avoir été mal identifié par un logiciel de reconnaissance faciale.

L’activisme fonctionne

La décision de restreindre l’utilisation de la technologie de reconnaissance faciale est en partie due à la pression exercée par les entreprises technologiques elles-mêmes, après avoir été soumises au lobbying des militants pendant des années.

Il y a deux semaines, Amazon a annoncé qu’elle imposerait un moratoire d’un an sur l’utilisation par la police de son système de reconnaissance faciale, Rekognition, après qu’IBM ait décidé de mettre fin à son système de reconnaissance faciale à usage général. Le lendemain, Microsoft a annoncé qu’il cesserait de vendre son système aux services de police jusqu’à ce que la loi fédérale réglemente la technologie.

Il appartient maintenant aux législateurs de décider s’ils peuvent obtenir un soutien suffisant pour l’adopter.

On en sait plus sur les algorithmes de Palantir

UCIPT, CNET, Fortune, MIT

L’UE vient de publier de nouvelles lignes directrices pour réglementer l’IA

Le nouveau livre blanc de l’Union européenne contenant des lignes directrices pour la réglementation de l’intelligence artificielle reconnaît que l’intelligence artificielle peut entraîner la violation des droits fondamentaux, comme la partialité, la suppression de la dissidence et l’absence de vie privée. Il suggère des exigences légales telles que :

– S’assurer que l’IA est formée sur des données représentatives
– L’obligation pour les entreprises de conserver une documentation détaillée sur la manière dont l’IA a été élaborée
– Apporter des informations aux citoyens lorsqu’ils interagissent avec une IA
– Exiger une surveillance humaine des systèmes d’IA

La critique

Les nouveaux critères sont beaucoup plus faibles que ceux suggérés dans la version du livre blanc qui a fait l’objet d’une fuite en janvier. Ce projet suggérait un moratoire de cinq ans sur la reconnaissance faciale dans les espaces publics, alors que celui-ci n’appelle qu’à un “large débat européen” sur la politique de reconnaissance faciale. Michael Veale, professeur en droits numériques à l’University College London, note que la commission adopte souvent des positions plus extrêmes dans les premières ébauches comme tactique politique, il n’est donc pas surprenant que le document officiel ne suggère pas de moratoire. Cependant, il estime que c’est quand même décevant parce que cela fait suite à un rapport tout aussi terne du groupe d’experts de haut niveau sur l’intelligence artificielle, qui a été considéré comme “fortement influencé par l’industrie”.

En attendant, les lignes directrices du document pour l’IA ne s’appliquent qu’aux technologies qu’il considère comme des technologies “à haut risque”, explique Frederike Kaltheuner, chargé de la politique technologique chez Mozilla. Le terme “à haut risque” peut inclure certaines industries, comme le secteur de la santé, ou certains types de technologies, comme la surveillance biométrique. Mais les suggestions ne s’appliqueraient pas à la technologie de la publicité ou à la vie privée des consommateurs, qui, selon Kaltheuner, peuvent avoir des effets importants et qui ne sont pas pris en compte dans le cadre du RGPD.

Le livre blanc n’est qu’un ensemble de lignes directrices. La Commission européenne commencera à élaborer une législation basée sur ces propositions et commentaires à la fin de l’année 2020.

L’UE a également publié un document sur la “stratégie européenne pour les données” qui suggère qu’elle veut créer un “espace européen unique des données” – c’est-à-dire un géant européen des données qui défiera les grandes entreprises technologiques de la Silicon Valley.

L’UE abandonne l’idée d’interdire la reconnaissance faciale dans les lieux publics

Selon le dernier draft de la stratégie de l’UE en matière d’intelligence artificielle vu par Reuters et EURACTIV, l’Union européenne n’est plus intéressée par la possibilité d’une interdiction de la reconnaissance faciale dans les espaces publics ; cependant, il devrait y avoir des “critères clairs” dans le futur déploiement à grande échelle des systèmes d’identification biométriques dans l’UE.

Un précédent projet de la Commission européenne avait évoqué l’idée d’un moratoire pouvant aller jusqu’à cinq ans afin de se donner le temps de réfléchir aux moyens de prévenir les abus.

Selon EURACTIV, le document indique “Cette évaluation dépendra de l’objectif pour lequel la technologie est utilisée et des garanties mises en place pour protéger les personnes. Dans le cas où des données biométriques sont utilisées pour la surveillance de masse, il doit y avoir des critères clairs quant aux personnes qui doivent être identifiées”.

L’utilisation de la reconnaissance faciale dans les investigations policières a suscité des inquiétudes, car les défenseurs des libertés civiles et de la vie privée craignent que cette technologie ne soit utilisée pour une surveillance massive et discriminatoire, violant ainsi les droits des personnes à la confidentialité des données.

Le projet de moratoire faisait partie d’un ensemble de mesures plus larges visant à réglementer l’intelligence artificielle et ses défis, en particulier dans les secteurs à haut risque, tels que les domaines de la santé et des transports. La proposition est actuellement en cours de révision et la Commission a l’intention de la présenter le 19 février.

Au début du mois, le gouvernement américain a dévoilé ses propres lignes directrices en matière de réglementation de l’IA, visant à limiter la portée excessive des autorités et a exhorté l’Europe à éviter les approches agressives.

Le président de Microsoft, Brad Smith, a déclaré qu’une interdiction de l’IA par reconnaissance faciale équivaut à utiliser un hachoir au lieu d’un scalpel pour résoudre des problèmes potentiels, tandis que le PDG d’Alphabet, Sundar Pichai, a exprimé son soutien.

Reconnaissance faciale : L’UE envisage une interdiction jusqu’à cinq ans

La Commission européenne a révélé qu’elle envisageait d’interdire l’utilisation de la reconnaissance faciale dans les lieux publics pour une durée maximale de cinq ans. Les autorités de réglementation veulent disposer de temps pour trouver des moyens d’empêcher les abus de cette technologie.

Cette technologie permet de vérifier en temps réel les visages capturés par les caméras de surveillance en les comparant à des listes de surveillance, souvent établies par la police. Des exceptions à l’interdiction pourraient être faites pour les projets de sécurité ainsi que pour la recherche et le développement.

Selon un projet de livre blanc sur l’intelligence artificielle obtenu par EURACTIV, la Commission a présenté ses plans dans un document de 18 pages, suggérant que de nouvelles règles soient introduites pour renforcer la réglementation existante en matière de droits à la vie privée et aux données.

Elle a proposé d’imposer des obligations aux développeurs et aux utilisateurs d’intelligence artificielle, et a exhorté les pays de l’UE à créer une autorité chargée de contrôler les nouvelles règles. Dans le cadre de l’interdiction, qui durerait entre trois et cinq ans, “une méthodologie solide pour évaluer les impacts de cette technologie et les mesures possibles de gestion des risques pourrait être identifiée et développée”.

Ces propositions font suite à une période de débat public sur la manière de relever les défis futurs de l’intelligence artificielle. Les militants affirment que la technologie actuelle est inexacte, intrusive et qu’elle porte atteinte au droit à la vie privée des individus. Une étude récente a suggéré que les algorithmes de reconnaissance faciale sont beaucoup moins précis pour identifier les visages noirs et asiatiques que les visages blancs.

Les systèmes de reconnaissance faciale sont racistes

Entre-temps, le gouvernement chinois a commencé à mettre en place un système de reconnaissance faciale dans les pharmacies de Shanghai pour les personnes qui achètent certains médicaments. Les personnes qui achètent des médicaments contrôlés, comme ceux qui contiennent des substances psychotropes, seront invitées à vérifier leur identité en balayant leur visage.

Il s’agit de la dernière d’une série de mesures prises par l’État chinois pour empêcher les usagers de mettre la main sur certains médicaments pouvant être utilisés pour produire des drogues illégales.

Le pays est un grand partisan de la reconnaissance faciale, et si l’Occident reste prudent, la Chine continue d’adopter cette technologie.

Euractiv, The Guardian, BBC, Capital

> Reuters : Le PDG d’Alphabet soutient l’interdiction temporaire de la reconnaissance faciale, mais Microsoft n’est pas d’accord.

Les systèmes de reconnaissance faciale sont racistes

Une étude du gouvernement américain confirme que la plupart des systèmes de reconnaissance faciale sont racistes

Près de 200 algorithmes de reconnaissance faciale – la majorité dans l’industrie – ont de moins bonnes performances sur les visages non blancs, selon une étude qui fait autorité. Les résultats saisis dans le rapport, Face Recognition Vendor Test (FRVT) Part 3 : Demographic Effects (NISTIR 8280), sont destinés à informer les décideurs politiques et à aider les développeurs de logiciels à mieux comprendre la performance de leurs algorithmes. La technologie de reconnaissance faciale a inspiré le débat public en partie en raison de la nécessité de comprendre l’effet de la démographie sur les algorithmes de reconnaissance faciale.

Ce qu’ils ont testé :

Le National Institute of Standards and Technology (NIST) des États-Unis a testé chaque algorithme sur deux des tâches les plus courantes de la reconnaissance faciale.

La première, connue sous le nom de comparaison 1 : 1 ou “one-to-one matching”, consiste à faire correspondre la photo d’une personne à une autre photo de la même personne dans une base de données. Elle est utilisée pour déverrouiller les téléphones intelligents ou vérifier les passeports, par exemple.

La seconde, appelée recherche un-à-plusieurs ou “one-to-many”, consiste à déterminer si la photo de cette personne a une correspondance avec une autre dans une base de données. Cette méthode est souvent utilisée par les services de police pour identifier des suspects dans le cadre d’une enquête.

L’agence a étudié quatre ensembles de données sur les visages actuellement utilisés dans les formalités du gouvernement américain : les photos d’identité de personnes vivant aux États-Unis, les photos des personnes qui déposent une demande d’immigration, les photos de demandes de visas et les photos de personnes traversant la frontière américaine. Au total, les ensembles de données comprenaient 18,27 millions d’images de 8,49 millions de personnes.

Pour évaluer la performance de chaque algorithme, l’équipe du NIST a mesuré les deux classes d’erreurs que le programme peut faire : les faux positifs et les faux négatifs. Un faux positif signifie que le logiciel a considéré à tort que des photos de deux personnes différentes montraient la même personne, tandis qu’un faux négatif signifie que le logiciel n’a pas réussi à faire correspondre deux photos qui, en fait, montrent la même personne.

Le NIST a partagé certains résultats importants de l’étude. Voici les principaux :

1. Pour ce qui est de la comparaison 1 : 1, la plupart des systèmes affichaient un taux de faux positifs plus élevé pour les visages asiatiques et afro-américains que pour les visages caucasiens, parfois par un facteur de 10 allant même jusqu’à 100. En d’autres termes, il y avait plus de chances de trouver une correspondance alors qu’il n’y en avait pas.

2. Cela a changé pour les algorithmes de reconnaissance développés dans les pays asiatiques, qui ont produit très peu de différence de faux positifs entre les visages asiatiques et caucasiens.

3. Les algorithmes développés aux États-Unis étaient tous systématiquement mauvais pour faire correspondre les visages asiatiques, afro-américains et amérindiens. Les Amérindiens ont subi les taux de faux positifs les plus élevés.

4. Les systèmes de correspondance un-à-plusieurs présentaient les pires taux de faux positifs pour les Afro-Américains, ce qui fait que cette population est la plus à risque d’être faussement accusée d’un crime.

On en sait plus sur les algorithmes de Palantir

Pourquoi c’est important ?

L’utilisation des systèmes de reconnaissance faciale se développe rapidement dans les domaines de la lutte contre la criminalité, du contrôle des frontières et d’autres applications dans la société. Bien que plusieurs études universitaires aient déjà démontré que les systèmes commerciaux populaires étaient biaisés en fonction de la race et du sexe, l’étude du NIST est l’évaluation la plus complète à ce jour et confirme les résultats antérieurs. Les conclusions remettent en question la nécessité de continuer à utiliser ces systèmes à une aussi grande échelle.

Prochaines étapes :

Il appartient maintenant aux décideurs politiques de trouver la meilleure façon de réglementer ces technologies. Le NIST exhorte également les développeurs de reconnaissance faciale à mener davantage de recherches sur la façon dont ces biais pourraient être atténués.

Qui a besoin de la démocratie quand on a des données ?

La ruée vers les datas

Depuis les couloirs du Parlement Européen, chronique de la difficile élaboration d’une nouvelle loi pour la protection des données personnelles, enjeu central opposant les citoyens aux intérêts privés.

Chaque fois que nous faisons nos courses sur Internet, interrogeons un moteur de recherche, activons la géolocalisation sur notre smartphone ou même utilisons notre carte de transport ou de crédit, nous laissons des traces : des masses d’informations personnelles sont collectées sur nos habitudes de consommation, nos goûts, nos déplacements ou nos opinions. Des informations hautement exploitables – et monnayables. Nombreux sont les observateurs à l’affirmer : les données seront le pétrole du XXIe siècle. Utilisée de manière judicieuse, cette manne offre la promesse de transformer nos vies en profondeur. Mais à quel prix ? Ces données personnelles échappent de plus en plus aux citoyens, au profit des entreprises. Comment nous protéger contre l’utilisation incontrôlée de nos données, garantir notre droit à l’autodétermination et sanctionner les contrevenants ? Selon les lobbies privés, une loi trop draconienne risquerait de faire fuir les entreprises du territoire européen. Mais faut-il pour autant sacrifier la vie privée des citoyens ?

Depuis plusieurs années, l’Union européenne travaille à réformer la loi sur la protection des données personnelles. Le jeune député vert européen Jan Philipp Albrecht a notamment pris ce combat à bras-le-corps, en se faisant le rapporteur du Parlement européen sur la réglementation de la protection des données. Ce documentaire suit le parcours complexe de la législation européenne en la matière, en interrogeant des acteurs aux intérêts souvent divergents : politiques, juristes, membres de la société civile ou du monde des affaires.

Arté tv

Un groupe de droit à la vie privée aux États-Unis appelle à la régulation de la reconnaissance faciale

Selon un rapport récemment publié par le Centre sur la vie privée et de la technologie à Georgetown Law (Center on Privacy & Technology at Georgetown Law) sur la reconnaissance des visages non réglementés, au moins 117 millions d’adultes sont inclus dans les bases de reconnaissance faciale maintenus par application de la loi américaine.

THE PERPETUAL LINE-UP UNREGULATED POLICE FACE RECOGNITION IN AMERICA (PDF)

Le rapport fait partie d’une enquête d’un an par le groupe des droits de la vie privée, fondée sur les résultats de plus de 100 demandes d’enregistrement du gouvernement. Le rapport exprime des préoccupations au sujet des reconnaissances faciales et autres outils biométriques, parce que la technologie n’est pas réglementée. Le rapport a trouvé, qu’à ce jour, aucun État n’a adopté une loi qui contrôle complètement la façon dont les forces de l’ordre peuvent utiliser la reconnaissance faciale.

Selon le rapport, au moins 26 États permettent l’application de la loi d’exécuter ou de demander des recherches sur leurs bases de données sur les permis de conduire et les photos d’identité. Le rapport note également que le FBI a créé un réseau de base de données de reconnaissance faciale qui est majoritairement composé « d’entrées non criminelles ».

Le système de reconnaissance faciale du FBI a accès à 411 millions de photos
Le FBI a aussi collecté 430 000 iris

En raison des préoccupations ci-dessus et incertitude des technologies émergentes, y compris les systèmes proposés qui utilisent la reconnaissance faciale via un flux en direct pour les demandes d’exécution de la loi, le Centre appelle le Congrès et toutes les législatures des État à élaborer des législations sur la reconnaissance des visages. Pour aider dans cette tâche, le Centre a élaboré ce que l’on appelle un modèle type de législation de la reconnaissance du visage qui peut aider à la création de la loi.

BiometricUpdate