Skip to content

On en sait plus sur les algorithmes de Palantir

Le département de police de Los Angeles a une nouvelle formule de surveillance, alimentée par Palantir

Le département de police de Los Angeles (LAPD) a récemment été contraint de publier des documents sur ses algorithmes prédictifs de police et de surveillance, grâce à une action en justice de la Stop LAPD Spying Coalition (qui a remis les documents à In Justice Today).

Les analystes du département de police de Los Angeles sont chargés de maintenir « au moins » une douzaine d’objectifs de surveillance en cours, en utilisant le logiciel Palantir et une mise à jour de la formule du contrevenant « probable », selon les documents d’octobre 2017, obtenus suite à une demande de la Stop LAPD Spying Coalition et donnée exclusivement à In Justice Today.

Ces rapports de surveillance identifient les « délinquants probables » dans certains quartiers, selon une formule de police prédictive fondée sur les points de la police de Los Angeles. Les analystes trouvent des informations pour leurs rapports en utilisant le logiciel Palantir, qui élimine les données des dossiers de la police, y compris les fiches d’entretien sur le terrain et les rapports d’arrestation, selon une formule mise à jour de la liste de contrôle du LAPD, qui utilise des critères plus larges que la formule de risque passée que le département était censé avoir utilisé. Ces rapports, connus sous le nom de Chronic Offender Bulletin – Bulletins Chroniques des Délinquants, sont antérieurs à l’implication de Palantir dans le LAPD, mais depuis que le LAPD a commencé à utiliser le logiciel d’exploration de données (data mining) de la compagnie en septembre 2011, le département affirme que les bulletins qui auraient pris une heure à compiler prennent maintenant environ cinq minutes.

Screenshots of Palantir’s Gotham program, from a promotional video. Source: Youtube via Bloomberg

Big Data : Palantir Technologies

La police de Los Angeles soutient que cibler les « délinquants chroniques » de cette manière contribue à réduire les taux de criminalité tout en étant peu invasive. Mais la Stop LAPD Spying Coalition, une alliance communautaire qui milite contre les efforts accrus de surveillance du LAPD depuis 2012, dresse un portrait différent du programme Chronic Offender Bulletin. Le groupe appelle cela une « boucle de rétroaction raciste » dans laquelle la police surveille un certain nombre de personnes sur la base de données générées par leurs propres services de police à tendance raciale, créant plus de surveillance et donc plus d’arrestations.

Jamie Garcia, l’organisatrice principale de la campagne Predictive Policing avec la Stop LAPD Spying Coalition, explique que les fiches d’interview sur le terrain, par exemple, fournissent des informations pour la liste de contrôle prédictive, souvent issues du profilage racial sur la rue. « Quand nous regardons les arrêts du LAPD, la population noire est complètement surreprésentée », a déclaré Garcia dans un appel téléphonique. Les directives, dit-elle, ordonnent aux agents « de trouver ces gens et de les harceler…. Si vous êtes constamment surveillé, constamment harcelé, la possibilité de quelque chose qui ne va pas … La prochaine chose que vous savez, vous êtes un contour de craie de cadavre. »

Les juristes ont noté que l’institutionnalisation des formules de risque comme la liste de contrôle du programme des délinquants chroniques du LAPD peut exacerber les modèles existants de discrimination en sur-échantillonnant ceux déjà discriminés, générant des données encore plus biaisées qui justifient une discrimination supplémentaire.

Le LAPD a décliné la demande d’entrevue d’IJT et n’a pas fourni de réponses aux questions écrites concernant le programme. Dans un courriel adressé à IJT, la porte-parole de Palantir, Lisa Gordon, a confirmé que Palantir est utilisé dans la création des bulletins des délinquants chroniques, mais a souligné que le logiciel ne génère pas automatiquement les rapports et que la sélection et le contrôle des personnes sur ces listes fait partie d’un processus humain.

Comment les enquêtes pré-criminelles commencent

Le processus d’identification de la cible commence par un analyste du LAPD qui cherche des «délinquants probables» en examinant les dossiers de la police. Selon les documents du LAPD, les analystes déploient le logiciel d’organisation de fichiers de Palantir pour effectuer des «work-ups» de ces individus, à la recherche d’enregistrements qui ajoutent des points à leurs scores prédictifs de risque, basés sur des facteurs tels que leur nombre de contacts avec la police au cours des deux dernières années. Voici une image d’un de ces « work-ups », produit quelques mois avant que le département n’adopte Palantir, que IJT a trouvé en ligne, complètement non expurgé, dans une présentation de LAPD en mai 2013.

An example of a research “work up” template created by an LAPD analyst to organize data points for the department’s predictive “chronic offender” formula.

En additionnant les points basés sur les arrêts de la police et d’autres critères décrits dans la formule, un analyste créerait au moins 12 bulletins des délinquants chroniques pour les personnes ayant obtenu des notes élevées, et identifier cinq à dix autres comme sauvegardes potentielles pour la liste cible. Les 12, classés selon les valeurs maximales les plus élevées, sont ensuite référés aux agents pour s’assurer que les cibles ne sont pas déjà en détention ou qu’elles ne sont pas suivies. Comme les documents l’indiquent explicitement, ces cibles sont, à ce stade, légalement «pas des suspects mais des personnes d’intérêt». Une « person of interest » ou « personne d’intérêt » n’a pas de signification juridique défini, mais peut simplement signifier quelqu’un qui pourrait avoir connaissance d’un crime.

Le logiciel attribue des points aux personnes, sur la base d’infractions passées, ou même simplement après avoir été arrêté ou en contact avec la police. Les points sont une indication, selon le LAPD, de la probabilité que quelqu’un commette un crime. S’appuyer sur cet algorithme pour déterminer qui devrait être surveillé, ce qui peut être fait par des vérifications de probation ou de mandat, incite la police à surveiller les gens – non pas pour les arrêter, mais pour voir s’il y a une raison de le faire. Les personnes ciblées par l’algorithme et signalées comme des personnes d’intérêt peuvent faire l’objet d’une surveillance policière supplémentaire, simplement parce qu’elles peuvent être associées à ou connaître des activités criminelles. Cela peut arriver même si elles n’ont rien fait de mal, de toute leur vie.

– En utilisant les interviews sur le terrain et les arrestations mentionnées ci-dessus, utilisez Palantir pour faire un travail sur l’individu. Faites une recherche, résolvez les conflits, déterminez ce que la personne a fait au cours des 2 dernières années. – Sur Palantir, indiquez le nombre d’arrestations pour crimes violents que l’individu a subis au cours des deux dernières années. Appliquer 5 points pour chaque arrestation de crime violent (ceci est un changement de notre protocole original). – Déterminez si l’individu a utilisé une arme dans le cadre de ses activités. Appliquer 5 points pour chaque incident impliquant un pistolet au cours des 2 dernières années (ceci est un changement de notre protocole original). – Déterminez si l’individu est membre d’un gang. Appliquer 5 points pour l’appartenance à un gang. – Déterminez si la personne est en probation ou en libération conditionnelle. Appliquez 5 points pour ce statut. – Déterminez le nombre de contacts policiers de qualité que l’individu a eu au cours des deux dernières années. Appliquer 1 point pour chaque contact (principalement des interviews sur le terrain) – Additionnez le nombre de points pour l’individu. Cela vous donnera un score de délinquant chronique.

Les critiques affirment que cela crée essentiellement un cycle où toute personne qui a des antécédents avec le système de justice pénale peut maintenant être soumise à une surveillance accrue dans un avenir prévisible, même si elles ne sont pas soupçonnées d’avoir un lien avec un crime récent. Sur le travail rédigé ci-dessus, que le LAPD a confirmé comme étant authentique dans un courriel, l’individu avait été arrêté deux fois en une seule journée à quatre occasions distinctes au cours d’une période de six semaines. Tous ces arrêts comptent comme des points dans la formule prédictive, ce qui en fait une priorité plus élevée pour le programme de surveillance.

Bien que le LAPD affirme que ces rapports sont « à titre informatif seulement et pour la sécurité des agents », les informations du rapport sont ensuite transmises à une base de données LAPD interne « à des fins de poursuite et de surveillance » selon les documents 2017. Armés de ces données, par exemple lorsque des délinquants cibles ont été arrêtés et quels tatouages ils ont, des unités spéciales du LAPD sont envoyées pour «engager» des cibles avec des tactiques spécifiques, telles que des vérifications pour des mandats en attente ou des saisies d’armes illégales pouvant conduire à des arrestations.

Sarah Brayne, professeure adjointe de sociologie à l’Université du Texas à Austin, qui a mené des recherches sur le terrain avec le LAPD en 2015, affirme que les policiers sont conscients que les bulletins ne leur ont pas donné de soupçon raisonnable ou de cause probable. « Le langage utilisé lorsque j’ai parlé avec des officiers était : » Allez leur parler, et vous pourriez les attraper en train de faire quelque chose, mais il n’y a actuellement aucune cause probable ».

Bien que les documents du LAPD n’indiquent pas explicitement que ceux qui figurent sur la liste doivent être arrêtés, ils suggèrent qu’une fois qu’un individu se présente sur un bulletin alimenté par Palantir, la police est censée continuer à surveiller la personne jusqu’à ce qu’elle soit détenue. Selon une présentation PowerPoint publiée, par exemple, on s’attend à ce que les agents se demandent « combien de délinquants chroniques ont été arrêtés » au cours des deux semaines précédentes et quelles sont leurs stratégies pour les « délinquants non traités ».

Chaque semaine, les analystes sont également censés déterminer si les individus figurant sur leurs listes de cibles «sont actifs ou en garde à vue», puis remplacer ceux qui ont été capturés par des « back-ups », d’autres personnes à haut risque, créer de nouveaux objectifs pour la police.

Selon Mme Brayne, les personnes peuvent être retirées de la liste de surveillance si elles n’ont pas eu de contact avec la police depuis deux ans, mais la logique sous-jacente du programme est de neutraliser ceux qui sont déterminés à être les principaux moteurs de la criminalité.

Compte tenu de l’ampleur de l’examen et des contacts de routine que les agents doivent suivre pour les personnes figurant sur la liste des bulletins, éviter tout contact avec la police n’est pas réaliste, affirme Josmar Trujillo, un activiste anti-gang à New York. « Si vous vivez dans une communauté de couleur en Amérique, vous n’avez pas le choix d’avoir ces contacts », a déclaré Trujillo dans un appel téléphonique. « Souvent, on peut être arrêté juste pour être autour de certaines personnes, que ce soit des arrêts de voiture ou des arrêts de groupes dans une rue, donc cette idée de police prédictive que vous devez mériter votre droit de ne pas figurer sur la liste est cruelle parce que pour éviter l’application de la loi pendant des années – ce n’est pas possible. »

Hitachi : une IA capable de prédire les crimes avant qu’ils se produisent

Incitations perverses ?

L’attente du LAPD selon laquelle les analystes ont au moins une douzaine de cibles sur le pont est possible grâce, entre autres, à l’utilisation du logiciel Palantir, la firme technologique controversée fondée par le milliardaire libertaire Peter Thiel. Comme Craig Uchida, un consultant LAPD et partenaire de recherche, a déclaré à Wired, avant que Palantir ne soit intégré, les analystes du LAPD ne pouvaient pas faire assez de bulletins de surveillance pour suivre les arrêts des officiers. À l’époque, rappelait-il, les flics arrêtaient chaque jour une centaine de personnes dans le quartier de South Los Angeles, où le programme avait été implanté pour la première fois, amenant trop de données pour que les analystes puissent les traiter efficacement.

Les documents indiquent également que les services de police sont devenus plus engagés que par le passé à atteindre les objectifs du programme des délinquants chroniques en matière de surveillance des agents et d’ « engagement » avec ceux qui sont énumérés. Selon les documents, lors des réunions hebdomadaires de contrôle de la criminalité, des unités spécialisées ciblant les délinquants sont censées fournir des rapports sur «leurs progrès» à ce jour. Brayne dit que c’est un développement relativement nouveau.

« Il y avait certainement un suivi du nombre d’arrestations, mais c’était en grande partie pour collecter des données afin de mesurer l’efficacité et plaider en faveur d’un financement continu », a-t-elle dit.

Les attentes, ancrées dans ces tactiques policières prédictives, inquiètent Garcia, qui souligne que de telles incitations pourraient motiver ou même obliger les analystes et les officiers à procéder à des arrestations sans fondement uniquement pour vérifier les listes de diffusion. « Donc le LAPD se surveille lui-même », a déclaré Garcia.

Brayne, d’autre part, a fait remarquer que pendant son travail sur le terrain, les agents avaient trop de délinquants de haut niveau à traiter, pas trop peu.

Des projets Chinois à la Minority Report utiliseront l’IA pour prédire des crimes

Nouvelle technologie, victimes similaires

Les activistes soutiennent également que ce programme de police prédictif pourrait donner une nouvelle couverture scientifique et légale aux pratiques policières traditionnelles dans les communautés pauvres et non-blanches, considérées par certains comme discriminatoires sur le plan racial.

« Les données sont intrinsèquement subjectives, et il a ce parti pris implicite », a déclaré Garcia, affirmant que les données tirées des interactions policières brutes amènent nécessairement les biais existants dans les modèles prédictifs de risque du LAPD. Et les découvertes ethnographiques de Brayne sur la culture de la LAPD suggèrent que ces préoccupations peuvent être justifiées.

Les documents révèlent également une version plus récente et plus expansive de la formule du délinquant chronique basée sur les points du LAPD que ce qui a été rapporté précédemment. Des rapports plus anciens ont montré que les analystes devaient comptabiliser des points contre des individus pour l’appartenance à un gang, la libération conditionnelle ou la probation, des arrestations antérieures avec une arme de poing, des crimes violents passés et des contacts policiers « de qualité ». Cette version plus récente d’octobre 2017 comprend la plupart de ces cases à cocher, mais étend la pénalité des armes à feu maintenant compter jusqu’à cinq points pour «chaque incident» impliquant n’importe quel type d’arme au cours des deux dernières années.

Les documents ont été obtenus grâce à une action en justice intentée par la Stop LAPD Spying Coalition en mars, qui visait à obtenir des informations sur un programme LAPD plus vaste dans lequel les Bulletins des délinquants chroniques sont utilisés. Depuis 2011, ce programme, connu sous le nom d’Opération LASER, a ciblé les quartiers de Los Angeles avec une forte densité de crimes liés aux armes à feu, associant des analystes et des agents pour cibler les délinquants et les zones « chroniques ». Selon une demande de prolongation de subvention du LAPD de 2017 au programme de subventions Smart Policing Initiative du ministère de la Justice, obtenu par la Stop LAPD Spying Coalition, le département ciblait alors les quartiers du sud et du centre de Los Angeles, principalement noirs et latinos, et a prévu d’étendre l’opération à plus de divisions de police à travers la ville.

Le LAPD a revendiqué le succès du programme – entre 2011 et 2012, un domaine dans lequel LASER opérait a enregistré une diminution de 56% des homicides (selon un rapport de 2014 du LAPD). Mais le rapport n’a pas été en mesure de déterminer si cela était dû à l’utilisation des bulletins des délinquants chroniques ou à d’autres tendances indépendantes. Les homicides à Los Angeles ont diminué régulièrement depuis le début des années 1990 avant de se stabiliser vers le milieu de cette décennie.

Mais les résidents disent que ces tactiques prédictives ont un coût. « J’ai l’impression qu’ils savent déjà qui vous êtes au moment où ils vous arrêtent. Ils connaissent déjà votre nom et avec qui vous traitez », a déclaré un membre d’un groupe de discussion organisé par la Stop LAPD Spying Coalition pour un nouveau rapport publié, aux côtés des archives publiques.

Rien n’indique que le LAPD ait délibérément choisi d’utiliser un algorithme ouvertement discriminatoire. Mais ce programme, qui a commencé comme une base de données dissimulée de personnes associées à des gangs, ne peut pas être considéré comme efficace lorsqu’elle est basée sur une activité policière qui est certainement sujette aux parti pris et aux préjugés.

In Justice Today

1 Comment »

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Shares