Surveillance biométrique et comportementale de masse

Une étude sur l’utilisation de la surveillance biométrique et comportementale de masse, en particulier dans les espaces publics, examine si, généralement au nom de la sécurité, l’Union européenne se dirige au-delà de l’État de droit vers la fin de la démocratie libérale, les droits des citoyens étant ignorés au niveau des États membres et du bloc. En n’optant pas pour un moratoire sur l’utilisation des technologies biométriques dans l’attente d’un examen au plus haut niveau des pratiques de surveillance, l’UE choisira effectivement le totalitarisme, avec au passage l’autocensure et de larges exemptions à l’utilisation de l’intelligence artificielle dans la surveillance.

« Impacts of the Use of Biometric and Behavioural Mass Surveillance Technologies on Human Rights and the Rule of Law » publié par les Verts/Alliance libre européenne (Greens/European Free Alliance), un groupement de partis du Parlement européen, remonte à l’adoption en 1950 de la Convention européenne des droits de l’homme qui a pour objectif de prévenir un retour au totalitarisme en Europe « par un mécanisme qui dissuade les États de privilégier l’ordre et la sécurité plutôt que la préservation des libertés ».

Le document se veut être une étude objective, basée sur des évaluations d’impact sur la vie privée, visant à déterminer si l’État de droit et les droits de l’homme sont menacés par la biométrie et la surveillance comportementale de masse, « entendues comme des technologies qui incluent l’utilisation d’identifiants biométriques et sont susceptibles de permettre une surveillance de masse, même si elles ne sont pas mises en œuvre dans ce but particulier ».

L’étude révèle que l’attitude des États membres et de l’UE à l’égard de la surveillance de masse a mis en péril ces libertés.

« Les pouvoirs publics justifient la mise en œuvre et le développement de ces technologies [biométriques et comportementales] comme un besoin qui ne nécessite aucune discussion, afin de lutter contre le terrorisme et d’assurer la sécurité. Cependant, ils n’ont jusqu’à présent pas réussi à établir des preuves d’efficacité et de valeur ajoutée, alors que la biométrie est un outil d’identification très intime. »

L’auteur estime que l’UE joue un rôle crucial dans le développement de cette technologie en exigeant des cartes d’identité biométriques et en cherchant à favoriser la convergence technique des systèmes européens utilisant la biométrie.

« Cette politique européenne s’étend aux Balkans occidentaux. Cette approche est parfois présentée comme le résultat de la pression exercée par les Etats-Unis d’Amérique pour faire du recours à la biométrie un objectif prioritaire dans la lutte contre le terrorisme. Cependant, les auteurs montrent qu’en réalité, l’Union européenne a fait des choix qui dépassent largement les demandes formulées par les États-Unis et semblent plutôt servir une politique intérieure de l’UE visant à développer un registre d’empreintes digitales et d’images faciales des citoyens et résidents de l’UE. »

Le rapport constate que la communication gouvernementale sur l’identification et la reconnaissance biométriques présente la technologie sous un jour favorable et progressiste, tout en créant une atmosphère de peur autour de la sécurité.

En définitive, la sécurité est « affirmée comme un besoin naturel dont le principe est indiscutable, qui est inhérent aux libertés ou qui les supplante. Cette approche piétine les principes fondamentaux qui sous-tendent l’ordre juridique européen, dans lequel la sécurité apparaît réciproquement comme une exception à la liberté, soumise à des conditions strictes. »

Entre-temps, l’UE a demandé aux États de collecter des identifiants biométriques pour le contrôle des migrations. Sa proposition de loi sur l’intelligence artificielle prévoit également des exceptions aux interdictions potentielles de l’utilisation de l’IA dans la surveillance, en direct ou en différé, publique ou privée, à des fins de sécurité nationale.

« La CEDH [Cour européenne des droits de l’homme] a affirmé à de nombreuses reprises qu’il doit exister un lien entre le comportement des personnes dont les données sont collectées et l’objectif poursuivi par la législation qui prévoit la collecte de ces données, pour que la surveillance soit autorisée. Aucun argument ne peut être avancé contre cette règle dans une démocratie politique régie par l’État de droit. La sécurité intérieure n’est pas une justification suffisante, comme le rappelle la Cour européenne des droits de l’homme. »

Cela amène l’auteur à constater que l’autocensure est le principal risque pour le droit à la liberté d’expression et à la liberté de réunion, car les identifiants biométriques sont enregistrés dans des bases de données et captés par la surveillance – sans apporter aucune sécurité.

L’identification biométrique « ne permet, à terme, que l’identification de personnes déjà soupçonnées de préparer une infraction ». C’est peut-être la raison pour laquelle la recherche biométrique se concentre sur la prédiction. Or, dans une société démocratique régie par l’État de droit, la restriction d’une liberté fondée sur une prédiction de comportement n’est pas admissible. Elle constitue, en soi, une violation du droit à la croyance (ou conviction), de la liberté d’autodétermination et de la liberté du libre arbitre. En définitive, elle constitue une atteinte à la dignité humaine.

« Ce principe s’applique également à l’industrie ».

L’étude couvre les questions relatives au vol d’identifiants, aux préjugés et à la contradiction de l’utilisation de la discrimination sur les caractéristiques ethniques et sociales dans la surveillance pour combattre le terrorisme au nom des valeurs européennes telles que la non-discrimination.

Les résultats conduisent à la recommandation renouvelée de déclarer un moratoire immédiat sur les technologies et les pratiques qui ont un impact sur les droits, notamment le droit à la dignité humaine et à la résistance à l’oppression. Outre l’interdiction de la collecte et du traitement des identifiants biométriques par les institutions de l’État et de l’UE, le document demande également l’interdiction de la « collecte et du traitement, par des entités privées, des identifiants biométriques sans le consentement librement donné, spécifique, explicite et informé des personnes concernées. Cela couvre la collecte de photographies et d’autres identifiants biométriques qui sont accessibles au public ou disponibles sur Internet. »

Surveillance biométrique

Les Verts/ALE ont déjà dressé la carte interactive des projets de surveillance dans l’UE et ont critiqué les propositions précédentes de contrôle de la reconnaissance faciale, estimant qu’elles n’allaient pas assez loin.

Cette nouvelle carte du monde interactive relie les projets de surveillance biométrique et comportementale de masse dans l’UE et leurs fournisseurs dans le monde entier. Elle a été créée dans le cadre d’un rapport sur les utilisations connues de l’identification biométrique à distance – publique et privée – dans l’Union européenne, afin de mettre en garde contre des projets qui, s’ils ne sont pas contrôlés, peuvent se transformer en surveillance biométrique de masse.

Le rapport : « Biometric and Behavioural Mass Surveillance in EU Member States » (Surveillance biométrique et comportementale de masse dans les États membres de l’UE), présente des études de cas à travers le continent où des technologies attentatoires à la vie privée ont déjà été installées dans des villes ou des pays entiers.

La carte montre des groupes de projets, notamment dans les Pays-Bas, en Hongrie et en France, avec des liens vers la Chine, la côte ouest des États-Unis et le Japon, ainsi que vers des entreprises européennes de biométrie. Les ONG et les centres de recherche sont également inclus. Une version hybride du rapport s’intègre à la carte.

Le rapport couvre des études de cas telles que la gare Südkreuz de Berlin, le projet Dragonfly en Hongrie, la reconnaissance faciale à l’aéroport de Bruxelles, les projets Smart City de Nice, afin d’examiner les bases juridiques de la surveillance (ou l’absence de celles-ci) et de montrer comment un récit de réussite est construit à partir de projets qui n’atteignent pas leurs objectifs.

Les orateurs ont évoqué l’absence de preuves de l’efficacité de la vidéosurveillance – avec ou sans reconnaissance faciale – dans la prévention de la criminalité, ce qui signifie que de nombreux projets dans l’Union européenne sont construits sans aucun fondement.

S’exprimant également lors du lancement du rapport, le député européen Patrick Breyer a critiqué l’approche de l’UE : « Nous voyons d’abord le développement de ces technologies, et cela est activement soutenu par l’Union européenne et apparemment sans aucune considération éthique, car ils se contentent d’argumenter en disant ‘ce n’est que de la recherche’, mais ensuite nous n’avons aucun contrôle sur l’endroit où ces technologies (et données) sont utilisées et vendues. »

Breyer pense également que les technologies sont développées en secret et a intenté un procès à la Commission européenne pour obtenir des informations sur le projet iBorderCtrl (il s’agit d’un système interdisciplinaire unifié convergeant vers un système global [overall system] comprenant un détecteur de mensonge automatique ; un module biométrique lisant les empreintes de doigts et de veines ; un outil de reconnaissance faciale ; un outil de détection des humains dissimulés…). Breyer a déclaré que la Commission a refusé de divulguer les évaluations juridiques ou éthiques ou les résultats de l’étude.

La dernière étude conclut que les États membres de l’UE se trouvent confrontés à un choix politique crucial : « Le choix de redécouvrir les principes et les valeurs de l’État de droit et du respect des droits de l’homme, ou le choix de s’écarter de cette voie et de prendre le chemin du totalitarisme. »

iBorderCtrl est un projet financé par l’Union européenne qui utilise l’intelligence artificielle pour accélérer le passage des frontières pour les voyageurs. Le système permet aux utilisateurs de remplir une demande en ligne et de télécharger certains documents, comme leur passeport, avant qu’un garde-frontière virtuel ne prenne le relais pour leur poser des questions. Selon New Scientist, certaines de ces questions sont : « Que contient votre valise ? » et « Si vous ouvrez la valise et me montrez ce qu’elle contient, cela confirmera-t-il que vos réponses sont vraies ? ». Les voyageurs répondront face à une webcam et le système analysera et évaluera des dizaines de micro-gestes.

Si iBorderCtrl détermine que le voyageur dit la vérité, il reçoit un QR code qui lui permet de passer la frontière. Si l’on soupçonne le voyageur de mentir, des informations biométriques seront prises (empreintes digitales, lecture des veines de la paume de la main et comparaison des visages) avant d’être transmises à un agent humain qui examinera les informations fournies et procédera à une évaluation.

Le programme est encore considéré comme hautement expérimental et, dans son état actuel, il n’empêchera personne de franchir une frontière. Les premiers essais d’une itération précédente n’ont donné qu’un taux de réussite de 76 %, mais un membre de l’équipe iBorderCtrl a déclaré au New Scientist qu’ils étaient « tout à fait confiants » dans le fait que ce taux pouvait être porté à 85 %.

Même si cet objectif est atteint, il laisse une grande marge d’erreur. Mais ce n’est pas tout à fait surprenant, car des études ont montré que de nombreux algorithmes de reconnaissance faciale présentent des problèmes de taux d’erreur et de biais importants. Ces systèmes ont également suscité l’inquiétude de groupes de défense des libertés civiles tels que le Border Litigation Project de l’ACLU, qui craignent qu’ils ne conduisent à une surveillance plus généralisée.