Soutenance mémoire
Contexte social, criminel et légal aux US
Le fait que les activités de police prédictive se soient développées en premier lieu sur le territoire des Etats-Unis n’est pas l’effet du hasard. Même si la criminalité en France et en Europe n’est pas négligeable, en particulier en présence d’un risque terroriste élevé depuis plusieurs années, les Etats-Unis voient s’étendre une criminalité de grande ampleur et surtout une violence urbaine armée très significative. Les problèmes de criminalité se sont révélés particulièrement graves dans la plupart des grandes villes des Etats-Unis, comme en témoignent Chicago, New York, Los Angeles, Miami par exemple. Les règles de certains Etats autorisant la possession et le port d’armes, ainsi que la protection que confère le 2e amendement de la Constitution, forment un contexte légal très différent de l’Europe. À titre d’exemple, Chicago, troisième mégalopole aux Etats-Unis derrière New York et Los Angeles, est détentrice du record du taux de criminalité aux Etats-Unis avec 593 meurtres en 2017. Chicago compte aussi une quantité impressionnante de gangs rivaux qui comportent plus de 100 000 membres, dont la plupart sont prêts à utiliser la violence armée. Plus largement, les Etats-Unis font face à des violences armées comme les shootings, notamment dans les écoles. Aux Etats-Unis, aucune politique nationale ne régit la police. Les forces de police sont dirigées et rémunérées localement et chaque ville décide des directions à prendre par le biais de débats politiques et d’élections locales. Dans la majorité des villes, une forte volonté politique d’éradiquer la criminalité urbaine a vu le jour spécialement dans les années 2000- 2010. Dans un contexte de crise financière et économique à partir de 2007 et, conséquemment, de coupes budgétaires dans les départements de police, les outils de police prédictive sont apparus comme pouvant permettre d’atteindre cet objectif de « faire mieux » avec moins de moyens humains, lors même que ce contexte économique et social difficile faisait craindre une recrudescence de la criminalité. Les outils de police prédictive firent alors figure de recette miracle, de nature à compenser le manque de moyens humains et atteindre une meilleure efficacité dans la lutte contre la criminalité. Parallèlement, si les départements de police de nombreuses villes ont vu leur budget diminuer, au niveau fédéral, le département de justice finança de nombreux projets pour encourager les villes à « essayer » ces nouvelles technologies. Enfin, l’émergence de ces outils de police prédictive s’est trouvée de fait encouragée par la crise de confiance des citoyens envers les forces de l’ordre de nombreuses villes à cette période. Les violences policières, en particulier envers la population des jeunes afroaméricains, ont conduit à chercher des méthodes plus « objectives » pour améliorer le climat, ainsi que les conditions de maintien de l’ordre. Les risques de discrimination inhérents aux méthodes traditionnelles furent amplement dénoncés par la société civile et les mouvements sociaux comme « Black lives matter » mais également officiellement par les investigations du Département Américain de la Justice (US Department of Justice (DoJ)) portant sur le fonctionnement de la police de Ferguson après le décès de Michael Brown. L’objectif était alors de trouver des solutions plus modernes et, si possible, non biaisées envers certaines catégories de population. L’inconstitutionnalité de méthodes, tel le stop-and-frisk (arrestations et fouilles) à New York ou, dans le reste du pays, le Terry Stop8 a convergé avec l’émergence de ces nouvelles solutions technologiques parées a priori de toutes les vertus. Ces politiques reposent sur la décision de la Cour Suprême rendue en 1968 dans l’arrêt Terry v. Ohio et ont contribué à réduire les exigences constitutionnelles du 4e amendement. En principe, le 4e amendement de la Constitution américaine interdit les recherches et saisies déraisonnables non fondées sur une “probable cause” mais la Cour suprême considère qu’il n’y a pas d’atteinte au 4e amendement quand un policier arrête un suspect dans la rue et le maintien sans “cause probable”, sur le fondement d’un simple “soupçon raisonnable” que cette personne a commis, commet ou va commettre une infraction et a une croyance raisonnable que cette personne est armée et est présentement dangereuse. Ces politiques de stop-and-frisk servaient aussi d’instrument de gestion de la police pour quantifier l’activité individuelle des policiers (quotas de fouilles). Cependant, une telle interprétation du 4e amendement entraîna de nombreuses fouilles systématiques, spécialement dirigées envers les communautés afro-américaine et latino. Elle a finalement été jugée inconstitutionnelle par une juge fédérale en 2010. Aujourd’hui, si ces programmes sont abandonnés, il en résulte un amoncellement de données massives sur la criminalité, proportionnellement plus nombreuses envers ces populations et de nature à engendrer des discriminations. Les données amassées depuis les années 1960 jusqu’à l’abandon de ces politiques en 2010 n’ont pas été effacées et sont venues alimenter les bases de données utilisés pour mettre en œuvre les outils de police prédictive, en dépit de leur défaut de précision et de l’impact disproportionné (disparate impact) envers les afro-américains. En conséquence, les prévisions des outils de police prédictive vont plus souvent pointer vers des populations afro-américaines et latinos ou encore vers les quartiers dans lesquels ils habitent majoritairement. Il en est de même des bases de données concernant les gangs. À New York, une telle base de données est alimentée à 99% par une population latino et afroaméricaine, alors même qu’entrer dans cette base de données ne nécessite pas la preuve d’une criminalité ou suspicion d’un mauvais comportement 10 . Les bases de données historiques portent l’empreinte de ces discriminations. En utilisant les données historiques pour créer les algorithmes, les programmes ont appris en se fondant sur des données biaisées racistes, au risque de renforcer les biais11.
Police prédictive et collecte de données personnelles aux Etats Unis
L’activité de police prédictive implique l’utilisation d’une grande quantité de données. La collecte des données est régie par des règles très différentes en France et dans l’Union européenne, en particulier s’agissant de la collecte et du stockage des données personnelles. Tout d’abord dans l’Union européenne et en France, la loi informatique et libertés du 6 janvier 1978, plusieurs fois révisée, et la directive 95/46/CE du 24 octobre 1995, abrogée par le règlement général de protection des données personnelles (RGPD) entré en application le 25 mai 2018 encadrent strictement le traitement des données personnelles, spécialement les données sensibles (par exemple les données raciales, de santé, d’opinion politique). Ainsi, le principe de finalité des traitements des données personnelles interdit le croisement de données. Aux Etats-Unis, la protection des données personnelles n’est pas globale mais sectorielle, aussi de nombreuses situations ne sont-elles pas régies par la loi et laissent alors la possibilité d’un usage sans limite des données. Il existe de nombreux cas dans lesquels les données peuvent être librement utilisées, agrégées, croisées et revendues. Dès lors, les risques d’atteinte à la vie privée sont a priori plus élevés aux Etats-Unis qu’en Europe, compte tenu des différences de contrainte légale. Ces différences de règlementation ont un impact sur l’utilisation des données, mais aussi sur la constitution de bases de données concernant la criminalité. Le contexte législatif aux Etats-Unis a ainsi permis un déploiement d’une grande ampleur des outils de police prédictive. Ce déploiement tient au contexte d’une criminalité grave et massive difficile à endiguer, aux règles souples permettant la collecte massive de données personnelles, ainsi qu’à la pression commerciale d’entreprises technologiques développant leurs outils de prédiction, dont la mise en œuvre a été amplement financée par le budget fédéral du département de la justice.
Analyse du brevet de PredPol
Le brevet US 8,949,16421 décrivant l’invention « Event Forecasting System » a été déposé le 6 septembre 2012 et obtenu le 3 février 2015 auprès de l’office américain des brevets et marques (USPTO)22. Le déposant et inventeur est Georges O. Mohler23 qui a cédé son brevet à la société PredPol Inc. (cessionnaire). La demande US 9,805,311 B1 déposé le 31 octobre procédé Epidemic Type Aftershock Sequence (ETAS) Point Process Crime Forecasting24 qui constitue l’algorithme utilisé. Tous deux sont incorporés par référence dans leur entièreté et incluses aux Appendices A and B. Le brevet a été déposé dans la classification « représentation de la connaissance et raisonnement technique » et l’invention a fait l’objet d’un soutien du Gouvernement. L’invention ne décrit pas une suite logicielle mais une plateforme offrant un ensemble de services (SaaS : Software as a Service) disponible sur le centre de gestion de données de la société PredPol. Par des transferts sécurisés, cryptés, un service de police adresse des historiques de criminalité et reçoit en retour des prévisions de criminalité par type de délit et zone géographique sur une carte Google. Les patrouilles de police peuvent directement se connecter au serveur de PredPol afin de planifier leur circuit. Les revendications du brevet permettent de déterminer le champ du brevet et donc l’appropriation par son titulaire. Ces revendications ne précisent pas la façon dont les données sont utilisées ni les calculs mis en œuvre. Elles portent essentiellement sur le procédé utilisé par le système de police prédictive, spécialement sur la méthode organisationnelle utilisée (les trois types de données (lieu, temps, infraction), la division géographique en cellules, le transfert d’informations par un système de télécommunications, le procédé de réception des données historiques, le recours aux données GPS, le lien avec des informations légales issues du code pénal…), plutôt que sur les aspects techniques. Il n’y a aucune description précise des méthodes algorithmiques utilisées. Le brevet insiste plus particulièrement sur les interfaces graphiques et fonctionnalités proposées aux utilisateurs mais également critique sur le fond les cartes de hotspot (ou heatmap) représentant des lissages spatio-temporels des historiques de la criminalité. Si les lieux où la criminalité est la plus élevée sont connus des forces de police, les informations habituellement données par des logiciels comme CompStat ou CrimeStat ne sont pas suffisamment dynamiques et n’indiquent pas les lieux et le moment où la criminalité est la plus susceptible de se produire à un instant t, ce qui est prétendu pouvoir être fait avec le logiciel PredPol. En outre, la société PredPol indique pouvoir aider à une meilleure allocation des ressources dans le déploiement des patrouilles. Enfin, l’outil intègre aussi en temps réel la position de toutes les patrouilles et permet non seulement de savoir où elles se situent mais aussi de contrôler la position des policiers. Ce que prétend apporter PredPol par rapport à l’état de l’art antérieur est un système de police prédictive éprouvé qui fournit des prévisions de criminalité ciblées et en temps réel en tenant compte des données historiques mais aussi des informations récentes spontanées qui soient présentées sous un format simple et pratique pour les forces de police et permette de renseigner les officiers afin de gérer au mieux les ressources et envoyer les patrouilles dans les lieux les plus pertinents. Le fait de mettre à disposition l’information sur des outils variés et mobiles comme des tablettes, smartphones, ordinateurs portables, en plus des ordinateurs de bureaux, a aussi constitué une rupture en comparaison des solutions précédemment utilisées. Le modèle de prévision est basé sur l’hypothèse que la criminalité se diffuse selon un processus analogue à une contagion épidémique ou encore comme les secousses secondaires d’un tremblement de terre, ce qui serait particulièrement vrai pour les atteintes à la propriété et la criminalité des gangs. Les auteurs reconnaissent l’utilité des approches de type hotspot ou par estimation par noyau de la densité de la criminalité passée à condition d’en estimer correctement les paramètres, étape délicate à optimiser. Ils insistent sur les limitations de cette approche, incapable d’anticiper des événements spontanés ou leur réplication et ne faisant pas appel à une procédure rigoureuse d’estimation des paramètres par maximum de vraisemblance comme c’est d’usage en Statistique inférentielle classique. En plus du hotspoting historique, la prévision est donc basée aussi sur l’estimation des paramètres d’un modèle de type Epidemic-Type Aftershock Sequence (ETAS) qui est une application des processus ponctuels spatio-temporels auto-excitables (processus de Poisson non homogène) dont Reinhart27 (2018) illustre l’utilisation pour les prévisions de la criminalité, des épidémies ou des tremblements de terre. Les données d’apprentissage ou d’estimation des paramètres du processus ponctuel sont constituées par les historiques de trois types de données : les délits documentés par type, la localisation, la date. Les paramètres du modèle sont estimés par un algorithme EM (expectation maximisation). En temps réel, le serveur fournit des prévisions ou probabilités d’occurrence par type de délit et cellule géographique (150m x 150m), afin de proposer des recommandations tactiques pour optimiser les ressources de police. Une patrouille fournissant sa localisation GPS est informée en retour de sa présence dans une zone à risque.
Remarques techniques :
– les données recueillies sont strictement limitées aux historiques de criminalité et non aux personnes impliquées ;
– le modèle de prévision est focalisé sur l’estimation des paramètres d’un processus ponctuel ETAS.
Remarques juridiques : Le brevet détenu par PredPol permet l’appropriation d’une méthode dans sa globalité mais ne porte pas sur l’algorithme prédictif. Les aspects techniques ne font donc pas l’objet d’un droit de propriété mais vont être couverts par le secret commercial. En effet, la contrainte du brevet est d’obliger l’inventeur à révéler l’invention au public au travers des revendications qui constituent la délimitation légale de son droit de propriété. PredPol ne souhaitant pas dévoiler son algorithme a donc opté pour le secret commercial sur ces aspects. Le brevet en lui-même renseigne donc très peu sur les aspects techniques et si PredPol prétend à une certaine transparence de sa démarche, elle porte surtout sur la méthode mais non sur l’algorithme et les méthodes mathématiques utilisées. Il convient cependant de nuancer ce propos par la publication d’articles par les inventeurs sur le sujet.
HunchLab
L’outil HunchLab est développé par la société Azavea (Philadelphia). Si on en croit les informations commerciales données par cette société 39 , le système détermine automatiquement les données concernant les crimes commis, les cycles temporels, la météo, la localisation des lieux qui sont typiquement des lieux de criminalité (bars, restaurants, commerces, stations de métro), des évènements organisés dans la ville, qui sont ensuite agrégées et utilisées dans le but de générer une prédiction. Le système est indépendant et peut être contrôlé par les forces de police sans connaissance particulière des méthodes statistiques et analytiques.
|
Table des matières
I. INTRODUCTION : ORIGINE ET CONTEXTE DE LA POLICE PREDICTIVE AUX ETATS-UNIS ET EN EUROPE
II. CARTOGRAPHIE ET ANALYSE DES OUTILS DE POLICE PREDICTIVE : COMPARAISON US ET EUROPE
A. PRESENTATION DES PRINCIPAUX OUTILS DE POLICE PREDICTIVE
1. Analyse des principaux outils externes commerciaux déployés aux Etats-Unis : PredPol, Palantir, HunchLab, Beware
a) PredPol
b) Palantir
c) HunchLab
d) Beware
2. Analyse des principaux outils internes déployés aux Etats-Unis et en Europe
a) La Strategic Subject List (SSL) à Chicago (ciblage de personnes)
b) PredVol et Paved en France (ciblage de lieux)
c) Les outils internes déployés ailleurs en Europe (ciblage de lieux)
B. CATEGORISATION DES OUTILS DE POLICE PREDICTIVE
1. Outils internes des services de police et gendarmerie versus outils externes proposés par des entreprises privées
2. Ciblage des lieux versus ciblage des personnes
III. ENJEUX JURIDIQUES ET ETHIQUES DES OUTILS DE POLICE PREDICTIVE
A. PRINCIPALES REGLEMENTATIONS APPLICABLES AUX OUTILS DE POLICE PREDICTIVE
1. Respect des droits fondamentaux
a) Respect des droits fondamentaux avant les actions de police prédictive
b) Respect des droits fondamentaux après les actions de police prédictive
2. Egalité de traitement et discrimination
a) Risques de biais et discrimination des outils de police prédictive
b) Discrimination et exercice de l’autorité publique
3. Protection des données personnelles et transparence algorithmique
a) Outils ciblant des personnes et protection des données personnelles
b) Outils ciblant des personnes et transparence algorithmique
4. Police prédictive et missions de la police et gendarmerie : police administrative versus police judiciaire
B. ENJEUX ETHIQUES DES ALGORITHMES PREDICTIFS : TRANSPARENCE, LOYAUTE, EXPLICABILITE ET EFFICACITE
IV. CONCLUSION – RECOMMANDATIONS
A. CONCLUSION
B. RECOMMANDATIONS
1. Recommandations au législateur pour l’encadrement des outils de police prédictive
2. Recommandations au Ministère de l’intérieur pour l’intégration des outils de police prédictive
3. Recommandations aux opérationnels pour l’utilisation des outils de police prédictive
V. ANNEXES
A. ANNEXE 1 : GLOSSAIRE ET DEFINITION DE L’IA
1. Glossaire de l’intelligence artificielle et police prédictive
2. Définition de l’IA
B. ANNEXE 2 : LISTE DES PERSONNES INTERROGEES PAR LES RAPPORTEURS
VI. BIBLIOGRAPHIE
Télécharger le rapport complet
