Un projet de loi américain vise à interdire l’utilisation de la reconnaissance faciale par la police

Les législateurs américains ont présenté un projet de loi, The Facial Recognition and Biometric Technology Moratorium Act, qui interdirait l’utilisation de la technologie de reconnaissance faciale par les agences fédérales de maintien de l’ordre.

Plus précisément, il rendrait illégal pour toute agence fédérale ou tout fonctionnaire “d’acquérir, de posséder, d’accéder ou d’utiliser” la technologie de surveillance biométrique aux États-Unis. Il exigerait également que les services de police des États et des collectivités locales instaurent des interdictions similaires afin de pouvoir bénéficier d’un financement fédéral.

La proposition de loi est arrivée à un stade où l’utilisation de la technologie de reconnaissance faciale par la police fait l’objet d’une attention accrue dans le cadre des protestations qui ont suivi l’assassinat de George Floyd fin mai. Des études ont montré à plusieurs reprises que la technologie est moins précise pour les Noirs, et au début de cette semaine, le New York Times a rapporté qu’un homme noir innocent du Michigan avait été arrêté après avoir été mal identifié par un logiciel de reconnaissance faciale.

L’activisme fonctionne

La décision de restreindre l’utilisation de la technologie de reconnaissance faciale est en partie due à la pression exercée par les entreprises technologiques elles-mêmes, après avoir été soumises au lobbying des militants pendant des années.

Il y a deux semaines, Amazon a annoncé qu’elle imposerait un moratoire d’un an sur l’utilisation par la police de son système de reconnaissance faciale, Rekognition, après qu’IBM ait décidé de mettre fin à son système de reconnaissance faciale à usage général. Le lendemain, Microsoft a annoncé qu’il cesserait de vendre son système aux services de police jusqu’à ce que la loi fédérale réglemente la technologie.

Il appartient maintenant aux législateurs de décider s’ils peuvent obtenir un soutien suffisant pour l’adopter.

On en sait plus sur les algorithmes de Palantir

UCIPT, CNET, Fortune, MIT

Microsoft a battu Amazon pour le contrat de $10 milliards du Pentagone

Vendredi, le ministère de la Défense a annoncé qu’il accordera à Microsoft un contrat de 10 milliards de dollars sur 10 ans pour transformer ses systèmes de cloud computing.

Amazon avait été considérée comme le chef de file de l’opération pendant une grande partie des 15 mois du processus d’appel d’offres. Oracle et Google ont également soumis des offres.

Rencontrez le nouveau géant militaire américain : Amazon

Le président Donald Trump a publiquement minimisé à plusieurs reprises les perspectives d’Amazon, et un rédacteur de discours pour l’ancien ministre de la Défense Jim Mattis a déclaré au Washington Post que Trump était intervenu pour mettre l’entreprise hors contrat.

L’intention est de mettre à jour la panoplie technologique du ministère de la Défense en remplaçant ses réseaux informatiques complexes, vieux de plusieurs décennies, par un unique système de cloud computing. C’est un coup de force pour l’entreprise, bien qu’il soit susceptible de causer des tensions parmi le personnel de Microsoft.

Compte tenu de certaines allégations concernant une intervention politique potentielle dans le processus d’appel d’offres et de l’énorme valeur financière du contrat, Amazon pourrait choisir de poursuivre le ministère de la Défense en justice. Il a un peu plus d’une semaine pour se prononcer.

Dans un communiqué, un porte-parole d’Amazon Web Services (AWS) a déclaré que l’entreprise était “surprise par cette conclusion”.

MIT Technology Review, Reuters

Rencontrez le nouveau géant militaire américain : Amazon

L’accord controversé du Pentagone sur le cloud computing JEDI (Joint Enterprise Defense Infrastructure), d’une valeur de 10 milliards de dollars, est l’un des contrats de défense les plus lucratifs jamais conclus. Amazon est en pole position pour gagner – et son entrée dans l’armée a été longue à venir.

En juillet, alors que le président Donald Trump était dans le Bureau ovale avec le premier ministre néerlandais, il a pris quelques instants pour répondre aux questions des journalistes. Ses commentaires, d’une manière typique, couvraient des sujets disparates – de la création d’emplois à l’escouade des femmes du Congrès qu’il attaque régulièrement en passant par les sanctions contre la Turquie. Puis un journaliste lui a posé des questions sur un obscur contrat du Pentagone appelé JEDI et lui a demandé s’il avait l’intention d’intervenir.

“Lequel est-ce ?” Demanda Trump. “Amazon ?”

Le journaliste faisait référence à un contrat lucratif et bientôt attribué pour fournir des services de cloud computing au ministère de la Défense. Il vaut jusqu’à 10 milliards de dollars, et Amazon a longtemps été considéré comme le chef de file. Mais l’accord a fait l’objet d’un examen minutieux de la part de ses rivaux qui ont déclaré que le processus d’appel d’offres était biaisé en faveur du géant du commerce électronique.

“C’est un très gros contrat”, a déclaré Trump. “L’un des plus gros jamais vu concernant le cloud et beaucoup d’autres choses. Et nous recevons beaucoup de plaintes de la part de nombreuses autres entreprises, et de grandes entreprises. Certaines des plus grandes entreprises du monde s’en plaignent.”

“Microsoft, Oracle et IBM”, a-t-il poursuivi, “étaient tous hérissés”.

“Alors on va y jeter un coup d’œil. Nous allons y jeter un coup d’œil très attentif.”

Peu de temps après, le Pentagone a fait une annonce : le contrat a été suspendu jusqu’à ce que le processus d’appel d’offres ait fait l’objet d’un examen approfondi.

Beaucoup l’ont vu comme un autre coup de poing de Trump chez son ennemi juré Jeff Bezos, le PDG d’Amazon et propriétaire du Washington Post. Depuis son arrivée à la Maison-Blanche, Trump s’en prend régulièrement à Bezos sur Twitter, lui reprochant une couverture médiatique négative, critiquant les affaires fiscales d’Amazon, et même l’impact de l’entreprise sur le service postal américain.

Après tout, jusqu’à il y a quelques mois à peine, la plupart des Américains n’avaient jamais entendu parler de JEDI et s’en souciaient encore moins. Comparativement aux efforts de construction de gros avions de chasse ou de missiles hypersoniques – le genre de projets militaires dont nous avons l’habitude d’entendre parler -, le programme Joint Enterprise Defense Infrastructure semblait carrément ennuyeux. Ses dispositions les plus intéressantes comprennent les centres de données hors site, les systèmes informatiques et les applications Web.

C’est peut-être tout aussi banal qu’Amazon soit en lice pour un tel contrat. Après tout, c’est le premier fournisseur mondial de cloud computing ; sa division Amazon Web Services (AWS) a généré plus de 25 milliards de dollars de revenus en 2018.

Mais la diatribe de Trump ne concernait pas seulement une guerre contractuelle entre une poignée d’entreprises technologiques. Il mettait en lumière la nature changeante d’Amazon et son rôle dans la sécurité nationale et la politique. L’entreprise a passé la dernière décennie à travailler avec soin vers le cœur de Washington, et aujourd’hui – non content d’être le plus grand détaillant en ligne du monde – elle est sur le point de devenir l’un des plus grands entrepreneurs de la défense des États-Unis.

Qui a besoin de la démocratie quand on a des données ?

Retour sur le JEDI

Le Sheraton Hotel à Pentagon City, un quartier adjacent du ministère de la Défense, est loin de l’esprit de la Silicon Valley et de sa culture de startup. En mars 2018, la salle de bal de 1 000 places de cet hôtel des années 1970 regorgeait de fournisseurs intéressés à faire une offre sur le JEDI. Alors que les participants étaient assis dans des fauteuils de style Louis XIV, un défilé de responsables du Pentagone en uniforme a parlé de la stratégie d’approvisionnement.

Pour les soumissionnaires habituels du Beltway, ce spectacle était familier jusqu’à ce que Chris Lynch monte sur scène. Lynch, décrit par une publication de la défense comme le “gourou du numérique du Pentagone vêtu d’un sweat à capuche”, portait des lunettes de soleil à monture rouge sur le front et un t-shirt Star Wars portant l’emblème “Cloud City”.

Il était arrivé au Pentagone trois ans plus tôt pour rafraîchir la bureaucratie militaire moribonde. Entrepreneur en série travaillant dans les domaines de l’ingénierie et du marketing à Seattle, il a rapidement gagné l’hostilité des entrepreneurs fédéraux méfiants à l’égard de ce que le Pentagone avait l’intention de faire. Certains ont pris sa tenue décontractée comme un ricanement délibéré à la communauté boutonnée de Beltway.

“Il y a une place pour cela et ce n’est pas dans le Pentagone”, déclare John Weiler, directeur exécutif du Conseil consultatif sur l’acquisition des technologies de l’information (IT Acquisition Advisory Council), une association industrielle qui compte parmi ses membres des sociétés souhaitant soumissionner pour JEDI. “Je suis désolé de porter un sweat à capuche et toutes ces choses stupides. [Il porte] un genre d’uniforme pour déclarer en quelque sorte qu’il est un geek, mais en réalité, il ne l’est pas.”

Même ceux qui n’ont pas été offensés pensaient que Lynch avait clairement indiqué où se situaient ses préférences – et ce n’était pas avec les entrepreneurs fédéraux traditionnels.

“Et si nous devions tirer parti de toutes ces solutions incroyables qui ont été développées et conduites par des personnes qui n’ont rien à voir avec le gouvernement fédéral ?” A-t-il demandé lors de son discours devant la salle bondée. “Et si nous devions débloquer ces capacités pour accomplir la mission de défense nationale ? Et si nous tirions parti des marketplaces à longue traîne qui se sont développés dans les industries du cloud commercial ? C’est ce que JEDI est.”

Le Pentagone avait certainement décidé de prendre des mesures non conventionnelles avec ce contrat. Tout cela a été confié à un seul contractant, selon un calendrier accéléré, qui permettrait d’attribuer le contrat d’ici quelques mois. De nombreux membres du public ont déduit que l’accord était signé pour Amazon.

M. Weiler affirme que le contrat comporte de “grands défauts” et que l’approche du Pentagone finira par faire perdre de la rentabilité potentielle. Au lieu d’avoir plusieurs entreprises en concurrence pour réduire les coûts, il n’y aura qu’un cloud unique provenant d’un seul fournisseur.

Cette approche unique n’a pas fonctionné pour la CIA, – qui a annoncé son intention de faire appel à plusieurs fournisseurs plus tôt cette année, – et elle ne fonctionnera pas pour le ministère de la Défense, a-t-il déclaré. Et il ajoute que cet accord signifie que toutes les applications existantes devront migrer vers le cloud, que cela soit approprié ou non. “Certaines choses n’ont rien à y faire”, dit-il. “Certaines choses n’étaient pas conçues pour en tirer profit.”

En août 2018, Oracle a déposé une réclamation auprès du Government Accountability Office, affirmant que le contrat était “conçu autour d’un service cloud particulier”. (IBM a emboîté le pas peu de temps après.) Le même mois, la publication Defence One révélait que RosettiStarr, une firme d’enquêteur de Washington, préparait un dossier avec des reporters affirmant que Sally Donnelly, haut responsable du Pentagone et ancien consultant externe d’Amazon, avait tenté de favoriser la société de commerce électronique. RosettiStarr a refusé d’identifier le client qui a payé pour son travail.

Le logiciel de reconnaissance faciale en cloud de l’entreprise, qui permet de détecter l’âge, le sexe et certaines émotions ainsi que d’identifier les visages, est déjà utilisé par certains services de police, et en 2018 Amazon a acheté Ring, qui fait des sonnettes intelligentes qui capturent des vidéos.

Le FBI teste la biométrie faciale Amazon

Le drame a continué. En décembre 2018, Oracle, qui n’a pas été retenu pour l’étape finale de l’appel d’offres, a déposé de nouveaux documents alléguant un conflit d’intérêts. Deap Ubhi, qui travaillait avec Lynch au bureau des services numériques de défense du Pentagone, avait négocié un emploi avec Amazon alors qu’il travaillait pour JEDI, selon Oracle.

Des questions ont également été soulevées au sujet d’une visite de James Mattis, alors secrétaire à la Défense, sur la côte Ouest en 2017, qui comprenait une visite dans la Silicon Valley et une visite au siège d’Amazon à Seattle. En chemin, Mattis s’est déclaré “un grand admirateur de ce qu’ils font là-bas”, et il a ensuite été photographié marchant côte à côte avec Bezos.

(L’admiration de Mattis pour l’innovation n’a pas toujours été égalée par son discernement; jusqu’en 2017, il siégeait au conseil d’administration de Theranos, la firme de diagnostic du sang présentée comme une fraude).

Amazon et le Pentagone ont nié toute allégation de comportement abusif et ont reçu en juillet le soutien d’un juge fédéral, qui avait estimé que la société n’avait pas influencé indûment le contrat. C’était avant que le président Trump n’intervienne.

“Dès le premier jour, nous avons concouru pour JEDI en raison de l’ampleur et de la profondeur de nos services et sur le niveau de sécurité et de performance opérationnelle correspondant”, a déclaré un porte-parole d’AWS à MIT Technology Review.

Quel que soit le résultat de la révision de JEDI, il est clair que la dépendance du Pentagone à l’égard de la Silicon Valley augmente.

L’une des raisons pourrait être liée aux priorités du ministère de la Défense lui-même. Autrefois, elle a ouvert la voie à la science informatique – bon nombre des technologies qui ont rendu possible le cloud computing, y compris l’Internet lui-même, provenaient de la recherche commanditée par l’armée. Aujourd’hui, cependant, l’argent que les grandes entreprises de technologie apportent à la technologie de l’information est inférieur à ce que le Pentagone dépense pour la recherche informatique. DARPA, qui a financé la création de l’Arpanet (le précurseur de l’Internet) à partir des années 1960, est toujours impliqué dans le science informatique, mais quand il s’agit de cloud computing, il ne construit pas sa propre version.

Jonathan Smith, un responsable de programme DARPA, a déclaré que le travail de l’agence sur le cloud se concentre aujourd’hui sur le développement de prototypes sécurisés et open-source pouvant être adoptés par quiconque, qu’il s’agisse de gouvernements, d’un milieu universitaire ou de sociétés commerciales, comme Amazon.

Une force se réveille

Il s’agit d’un revirement rapide par rapport à il y a un peu plus d’une décennie, lorsque Amazon avait obtenu une assignation à comparaître devant le gouvernement pour obtenir les dossiers de quelque 24 000 livres dans le cadre d’une affaire de fraude. “Les rumeurs, fondées ou non, d’une enquête criminelle fédérale orwellienne sur les habitudes de lecture des clients d’Amazon pourraient effrayer d’innombrables clients potentiels en les dissuadant d’annuler des achats de livres en ligne”, a écrit le juge dans son jugement de 2007 en faveur d’Amazon. Ceux qui connaissaient bien la culture organisationnelle à l’époque disent qu’elle était généralement hostile à l’idée de travailler avec le gouvernement. Contrairement à Larry Ellison, qui s’est ouvertement vanté que la CIA était le client de lancement d’Oracle, Bezos faisait partie d’une deuxième vague de magnats de la technologie qui se méfiaient des liens avec les autorités fédérales.

Pourtant, l’entreprise faisait déjà ses premiers pas dans les services de cloud computing, ce qui en ferait un partenaire gouvernemental évident. En 2003, deux employés, Benjamin Black et Chris Pinkham, ont rédigé un article décrivant un système de serveur virtuel normalisé pour fournir puissance de calcul, stockage de données et infrastructure sur demande. Si Amazon trouvait ce système utile, ont-ils suggéré, d’autres entreprises le feraient aussi. Un jour, ceux qui ne voulaient pas exploiter leurs propres serveurs n’auraient plus à le faire : ils pourraient simplement les louer.

Le duo a présenté l’idée à Bezos, qui leur a dit de la suivre. Lancé publiquement en mars 2006, bien avant des services concurrents comme Microsoft Azure et Google Cloud, AWS domine désormais le marché. Les services cloud ont fourni à Amazon 13 % de son activité globale en 2018 et une part disproportionnée de ses bénéfices. AWS compte des millions de clients, dont Netflix, Airbnb et GE.

Le fait de fournir une infrastructure à d’autres entreprises a ouvert la porte aux organismes gouvernementaux. En 2013, AWS a remporté une victoire surprise en devenant le fournisseur de cloud computing de la CIA. Cet accord, d’une valeur de 600 millions de dollars, a fait d’Amazon un important entrepreneur en matière de sécurité nationale du jour au lendemain.

Depuis, les choses se sont accélérées. Amazon a investi massivement dans de nouveaux centres de données en Virginie du Nord, et en février 2019, après un concours très médiatisé, la société a annoncé qu’elle avait choisi Crystal City, en Virginie – une banlieue de Washington, DC, à moins d’un mile du Pentagone – comme site pour son deuxième siège social. (New York a également été choisie comme ville gagnante, mais Amazon a par la suite abandonné ses projets à la suite de l’opposition du public aux allégements fiscaux que la ville avait accordés à la société).

Tout cela s’est déroulé sans grande friction, alors que d’autres géants de la technologie ont eu des relations chaotiques avec l’appareil de la sécurité nationale. En 2015, Apple a publiquement défié le FBI lorsqu’on lui a demandé d’entrer par effraction dans un téléphone appartenant à l’un des auteurs d’une fusillade de masse à San Bernardino, en Californie (le FBI a retiré sa demande après avoir versé près de 1 million de dollars à des hackers pour pouvoir y accéder). Et Google s’est retiré de l’appel d’offres pour JEDI l’année dernière après qu’un employé se soit révolté à propos de son travail sur un contrat d’intelligence artificielle du Pentagone, Project Maven.

Le Pentagone cache des informations des travaux de Google sur les drones militaires

Amazon n’a pas connu le même type de réaction de la part du personnel – peut-être parce qu’il est notoire pour une approche dure des négociations de travail. Et même lorsque ses employés sont devenus agités, ce n’était pas à cause des liens d’Amazon avec la CIA ou le Pentagone, mais parce qu’elle vendait des services Web à Palantir, la société d’analyse de données qui collabore avec Immigration and Customs Enforcement. Les employés d’Amazon ont écrit une lettre ouverte à Bezos pour protester contre la “politique immorale des États-Unis”, mais cela n’a guère eu d’effet.

Microsoft et Amazon sous le feu de la technologie de reconnaissance faciale

Et ce serait une surprise si cela se produisait. Il est difficile d’imaginer qu’après plus de cinq années consacrées à fournir la base informatique à la CIA, alors qu’elle menait des frappes de drones dans le monde entier, Amazon hésiterait soudainement à travailler à la lutte contre la fraude en matière d’immigration.

L’Empire contre-attaque

Alors pourquoi Amazon s’est-elle lancée dans la sécurité nationale ? Beaucoup pensent qu’il s’agit d’argent sale. Stephen E. Arnold, spécialiste des logiciels de renseignement et d’application de la loi, a utilisé une série de vidéos en ligne pour retracer l’évolution d’Amazon depuis 2007, alors qu’elle n’avait “en fait aucune présence” dans le gouvernement IT, jusqu’à aujourd’hui, où elle semble destinée à dominer. “Amazon veut neutraliser puis déplacer les fournisseurs traditionnels du Département de la Défense et devenir l’IBM du 21ème siècle pour le gouvernement américain”, dit-il.

Trey Hodgkins est d’accord. “Le gagnant du contrat [JEDI] va contrôler une partie importante des clouds dans l’ensemble du gouvernement fédéral”, a déclaré Hodgkins, qui était jusqu’à récemment vice-président principal de l’Alliance de la technologie de l’information pour le secteur public, une association d’entrepreneurs en IT. L’alliance s’est dissoute en 2018 après avoir soulevé des préoccupations au sujet du JEDI, après quoi Amazon, l’un de ses membres, a quitté et formé sa propre association. Les agences civiles, dit-il, se tournent vers le Pentagone et disent : “Vous savez quoi ? Si c’est assez bon et assez substantiel pour eux – à l’échelle – alors ça va probablement aller pour nous.”

“Et si nous tirions parti de toutes ces solutions incroyables qui ont été développées et conduites par des personnes qui n’ont rien à voir avec le gouvernement fédéral ?”

Mais Arnold croit qu’Amazon est en train de s’engager davantage dans le commerce mondial du maintien de l’ordre public et de la sécurité. Le logiciel de reconnaissance faciale en cloud de l’entreprise, Rekognition, qui permet de détecter l’âge, le sexe et certaines émotions ainsi que d’identifier les visages, est déjà utilisé par certains services de police, et en 2018 Amazon a acheté Ring, qui fait des sonnettes intelligentes qui capturent la vidéo.

Le FBI teste la biométrie faciale Amazon

Ring pourrait sembler être un bon investissement en tant que consommateur, mais selon Arnold, la société crée une technologie qui peut exploiter son trésor de données relatives aux consommateurs, aux finances et au maintien de l’ordre. “Amazon souhaite devenir le fournisseur privilégié du gouvernement fédéral, des États, des comtés et des collectivités locales lorsque des solutions en matière de police et de renseignement sont nécessaires”, a-t-il déclaré. Cet été, Vice News a révélé que Ring aidait à fournir une vidéo aux services de police locaux.

Mais ce n’est que le début. Arnold prédit qu’Amazon ira au-delà des marchés américains du renseignement et du maintien de l’ordre et se tournera vers le monde. Cela, prédit-il, vaut des dizaines de milliards de dollars.

Le résultat net n’est pas la seule préoccupation, cependant : il y a aussi l’influence. Un ancien responsable du renseignement avec qui j’ai parlé m’a dit que les contrats du gouvernement et l’achat du Washington Post ne sont pas deux mesures distinctes pour Bezos, mais font partie d’une poussée plus large dans la capitale. Loin d’une conspiration, dit-il, c’est ce que les capitaines d’industrie ont toujours fait. “Il n’y a rien de tordu là-dedans”, a dit l’ancien fonctionnaire. “Bezos ne fait que défendre ses intérêts.”

Et peut-être que l’objectif ultime n’est pas seulement d’augmenter le nombre de contrats gouvernementaux, mais aussi d’influencer les réglementations qui pourraient affecter Amazon. Aujourd’hui, certaines de ses plus grandes menaces ne sont pas des concurrents, mais des législateurs et des politiciens qui défendent les mesures antitrust contre les géants de la technologie. (Ou, peut-être, un président soutenant qu’il devrait payer plus d’impôts.) Et Bezos comprend clairement qu’opérer à Washington nécessite d’avoir accès à qui que ce soit à la Maison-Blanche et d’exercer une influence sur lui ; en 2015, il a engagé Jay Carney, l’ancien attaché de presse du président Obama, comme cadre supérieur, et plus tôt cette année AWS a engagé Jeff Miller, un collecteur de fonds, pour faire pression en son nom.

Amazon a déclaré au MIT Technology Review que l’accent mis sur la sécurité nationale s’inscrit dans le cadre d’un mouvement plus large vers le secteur public.

“Nous sommes convaincus que les milieux de la défense, du renseignement et de la sécurité nationale méritent d’avoir accès à la meilleure technologie au monde”, a déclaré un porte-parole. “Et nous nous engageons à soutenir leurs missions essentielles de protection de nos citoyens et de défense de notre pays.”

Tout le monde n’est pas d’accord. Steve Aftergood, qui dirige le Project on Government Secrecy à la Federation of American Scientists, suit les dépenses en matière de renseignement et les questions de protection de la vie privée depuis des décennies. Je lui ai demandé s’il s’inquiétait de l’expansion rapide d’Amazon dans le domaine de la sécurité nationale. “Nous semblons courir vers une nouvelle configuration du gouvernement et de l’industrie sans avoir bien réfléchi à toutes les implications. Et certaines de ces implications ne sont peut-être pas entièrement prévisibles”, a-t-il écrit dans un courriel. “Mais chaque fois que vous établissez une nouvelle concentration de pouvoir et d’influence, vous devez également créer une structure compensatoire qui aura l’autorité et la capacité d’exercer une surveillance efficace. Jusqu’à présent, cette structure de surveillance ne semble pas recevoir l’attention qu’elle mérite.”

Si les observateurs et les critiques ont raison, le contrat JEDI du Pentagone n’est qu’un tremplin pour qu’Amazon qui finira par prendre le contrôle de l’ensemble du cloud gouvernemental, servant de centre de stockage de données pour tout, des casiers judiciaires aux audits fiscaux. Si cela concerne certains de l’extérieur qui regardent, c’est comme à l’habitude pour ceux qui se trouvent à l’intérieur du Beltway, où le gouvernement a toujours été le client le plus important et le plus lucratif.

“Bezos est malin d’arriver au début”, dit l’ancien responsable du renseignement. “Il a vu qu’il y avait de l’or dans ces collines”.

MIT Technology Review, Nextgov

Sharon Weinberger est chef du bureau de Washington pour Yahoo News et l’auteur de The Imagineers of War: The Untold Story of DARPA, the Pentagon Agency That Changed the World. Imagineers of War est une histoire fascinante et révolutionnaire dans laquelle la science, la technologie et la politique se rencontrent.

Amazon utilise sa technologie Rekognition sur ses vendeurs

Les vendeurs Amazon Marketplace au Vietnam sont invités à enregistrer une vidéo de cinq secondes de leur visage, étape obligatoire dans la configuration de leurs comptes de détaillant sur la plateforme. Il n’y a apparemment aucun moyen de se retirer de cette vidéo ou de supprimer la vidéo une fois enregistrée, et les groupes de défense des libertés civiles aux États-Unis disent qu’il n’est pas surprenant que Amazon utilise la reconnaissance faciale pour empêcher les vendeurs de créer plusieurs comptes.

Buzzfeed News

Le FBI teste la biométrie faciale Amazon

Le FBI américain teste actuellement Amazon Rekognition pour trier les énormes quantités de séquences vidéo collectées au cours des enquêtes, rapporte Nextgov.

La directrice adjointe du FBI chargée de la lutte contre le terrorisme, Christine Halvorsen, a déclaré devant un auditoire d’Invent Web Services d’Invent à Las Vegas que le test avait commencé au début de 2018, après une série d’enquêtes sur la lutte antiterroriste ayant mis à rude épreuve la capacité technologique de l’agence. Le FBI a recueilli un pétaoctet de données provenant de téléphones portables et de caméras de surveillance après une tuerie de masse survenue en 2017 à Las Vegas par Stephen Paddock.

“Nous avions des agents et des analystes, huit par équipe, qui travaillaient 24 heures sur 24, sept jours sur sept, pendant trois semaines, visionnant des séquences vidéo où Stephen Paddock était le mois précédant son arrivée et sa fusillade”, a déclaré Halvorsen.

Microsoft et Amazon sous le feu de la technologie de reconnaissance faciale

Rekognition pourrait traiter la même quantité de vidéo en 24 heures, selon Halvorsen, libérant ainsi les agents pour qu’ils puissent effectuer d’autres tâches d’enquête.

Selon Nextgov, la CIA et le ministère de la Défense comptent parmi les clients d’Amazon Web Services (AWS), et le bureau du shérif du comté de Washington est le seul organisme répertorié sur la page client de la société. Le service de police d’Orlando a récemment lancé un deuxième test de Rekognition, qui devrait durer neuf mois.

Les discussions entre Amazon et Immigration and Customs Enforcement l’année dernière ont abouti à des plaintes de la part des employés de la société, de l’ACLU, et finalement à des lettres des membres du Congrès demandant des informations supplémentaires sur le service de reconnaissance faciale.

On en sait plus sur les algorithmes de Palantir

En quoi consiste Amazon Rekognition ?

Credit : Shutterstock

The New York Times, BuzzFeed News, BiometricUpdate

Qui a besoin de la démocratie quand on a des données ?

Publication d’une demande de brevet d’Amazon pour un réseau de reconnaissance faciale résidentiel

Une demande de brevet déposée par Amazon, décrivant l’utilisation de la technologie de reconnaissance faciale avec des caméras de sécurité domestiques en réseau pour identifier les personnes suspectes et les visiteurs indésirables, a été publiée par l’Office américain des brevets et des marques.

La demande décrit l’utilisation d’une base de données contenant des criminels reconnus coupables, des délinquants sexuels enregistrés ou des individus identifiés comme suspects par les propriétaires pour identifier des personnes, tandis que les livreurs de courrier et autres peuvent être inscrits sur une liste blanche.

Les propriétaires peuvent alerter leurs voisins et utiliser le système avec le réseau social de Ring, Neighbors, annoncé peu après sa reprise par Amazon, comme plate-forme de partage de données de surveillance du voisinage, telles que des images de cambrioleurs. Amazon a acquis Ring, qui fournit des services de vidéosurveillance et de sonnette intelligente (CNN).

Le brevet comprend également un procédé de compilation d’une image composite à partir de plusieurs caméras du réseau de voisinage afin de collecter suffisamment de données pour une correspondance biométrique. L’image pourrait également être envoyée aux smartphones des propriétaires.

L’idée d’un réseau de caméras résidentielles effectuant une identification biométrique inquiète certains défenseurs de la vie privée, notamment le porte-parole de la société American Civil Liberties Union (ACLU).

Microsoft et Amazon sous le feu de la technologie de reconnaissance faciale

« Le brevet est une feuille de route pour la vision inquiétante d’Amazon sur la surveillance dans le futur », a déclaré à CNN Business, l’avocat spécialisé dans les technologies et les libertés civiles à l’American Civil Liberties Union. «Les gens ont le droit de vaquer à leurs occupations quotidiennes sans être surveillés et suivis. Et rien ne garantit que la résolution de la caméra à la porte est très bonne. »

Selon Matt Pruitt, architecte en chef des solutions NEC, un déploiement massif de la reconnaissance faciale d’Amazon bénéficierait aux algorithmes de la société, mais a également souligné que les caméras utilisées ne seraient pas assez puissantes pour identifier les personnes sur les trottoirs ou les rues, selon CNN.

Le fabricant de sonnettes connectées équipées de reconnaissance faciale, Trueface.ai, a récemment publié ses principes pour un déploiement responsable de la technologie.

Biometric Update

2024 pourrait devenir 1984 sans réglementation biométrique

Le président de Microsoft a déclaré que nous devions réglementer la technologie de reconnaissance faciale avant que «l’année 2024 ne ressemble à celle du livre 1984 »

Brad Smith a annoncé la nécessité de réglementer la technologie de reconnaissance faciale, avertissant un auditoire d’acteurs de l’industrie de l’internet que 2024 pourrait ressembler au livre «1984» sans la mise en place rapide de garanties visant à limiter son utilisation par les entreprises et les gouvernements, rapporte Recode.

Smith a pris la parole lors de la conférence Web Summit au Portugal, où il a averti que la technologie pourrait bientôt permettre aux gouvernements de suivre tout le monde et de consigner toutes les actions, ce qui pourrait avoir de profondes répercussions sur les libertés civiles fondamentales sur lesquelles reposent les sociétés démocratiques.

« Cela signifie potentiellement que à chaque fois que vous entrez dans un magasin, un détaillant sait à quel moment vous y étiez, quels biens vous avez choisi, quels achats vous avez achetés », déclare Smith. « Je pense même que cela est franchement dérisoire par rapport à ce que cela pourrait produire dans les relations entre les individus et l’État. »

Microsoft construit une technologie de reconnaissance faciale, et Smith a déjà rendu public le besoin de réglementation. Facebook et Apple aussi. Amazon vend sa technologie de reconnaissance faciale aux forces de l’ordre, un arrangement qui a provoqué la colère de certains de ses employés qui s’inquiètent de la façon dont elle est utilisée à des fins de surveillance.

L’ancien Premier ministre britannique Tony Blair a rejoint Smith sur scène et a soutenu son appel à la réglementation.

« Je ne pense pas que les gouvernements soient encore équipés pour comprendre [ces problèmes], mais je pense qu’ils doivent l’être », a déclaré Blair. « Il est vraiment nécessaire pour ceux du monde de la technologie… d’éduquer les décideurs politiques sur ce que cela signifie. »

Blair a également suggéré que le premier groupe politique à exploiter la question dans un récit d’utilisation bénéfique pourrait représenter l’avenir de la politique.

Microsoft et Amazon sous le feu de la technologie de reconnaissance faciale

La critique des sociétés technologiques basée sur les applications pour lesquelles leurs produits de reconnaissance faciale sont utilisés est de plus en plus répandue, Amazon et Microsoft attisant chacun leur travail avec les forces de l’ordre américaines et les agences de protection des frontières.

Microsoft a publié une déclaration en réponse à des questions soulevées en ligne sur son rôle dans la séparation des enfants migrants de leurs parents par l’US Immigration and Customs Enforcement (ICE), rapporte The Verge. Des questions et des critiques ont été adressées à l’entreprise sur les médias sociaux après un article de janvier décrivant l’utilisation d’Azure Government par ICE pour traiter les données sur les appareils périphériques ou utiliser les capacités de deep learning (apprentissage en profondeur) pour accélérer la reconnaissance faciale et l’identification.

Suite au tollé général suscité par ce message, dans lequel Microsoft se dit «fier» de soutenir la modernisation informatique d’ICE, une partie de l’article a été supprimée puis restaurée. Microsoft a publié une déclaration exprimant sa consternation devant la séparation des familles à la frontière sud des États-Unis, et plus tard dans la journée, il l’a révisé pour traiter directement de sa relation avec l’ICE.

“En réponse à des questions, nous voulons être clairs : Microsoft ne travaille pas avec l’US Immigration and Customs Enforcement ou l’US Customs and Border Protection sur des projets visant à séparer les enfants de leurs familles à la frontière, et contrairement à certaines spéculations, nous ne sommes pas au courant d’Azure ou des services Azure utilisés à cette fin”, a déclaré la société dans sa déclaration actualisée. “En tant qu’entreprise, Microsoft est consterné par la séparation forcée des enfants de leurs familles à la frontière. L’unification de la famille a été un principe fondamental de la politique et du droit américains depuis la fin de la Seconde Guerre mondiale. En tant qu’entreprise, Microsoft a travaillé pendant plus de 20 ans pour combiner la technologie et la primauté du droit afin que les enfants réfugiés et immigrants puissent rester avec leurs parents. Nous devons continuer à bâtir sur cette noble tradition plutôt que de changer de cap maintenant. Nous exhortons l’administration à changer sa politique et le Congrès pour adopter une législation garantissant que les enfants ne sont plus séparés de leurs familles.”

Les actionnaires d’Amazon demandent l’arrêt de la commercialisation de son outil de reconnaissance faciale Rekognition aux forces de l’ordre américaines.

Une lettre a été remise au PDG d’Amazon Jeff Bezos cosigné par près de 20 groupes d’actionnaires de la société, exprimant des inquiétudes sur la menace à la vie privée posée par sa technologie de reconnaissance faciale, rapporte CNN. Plusieurs groupes, dont Social Equity Group et Northwest Coalition for Responsible Investment, sont des entreprises ou des avocats qui investissent socialement.

“Nous sommes préoccupés par le fait que la technologie serait utilisée pour cibler et surveiller de manière injuste et disproportionnée les personnes de couleur, les immigrés et les organisations de la société civile”, écrivent les groupes. “Nous craignons que les ventes ne s’étendent aux gouvernements étrangers, y compris aux régimes autoritaires.”

Bezos a également reçu une lettre de l’ACLU (American Civil Liberties Union) et près de 70 autres groupes, ainsi qu’une pétition de plus de 150 000 signatures, rapporte CNET, réitérant son appel précédent à Amazon d’arrêter de commercialiser Rekognition auprès des forces de l’ordre.

Amazon a répondu à l’appel précédent avec un article de blog, soulignant qu’aucun abus de Rekognition n’a été signalé.

On en sait plus sur les algorithmes de Palantir