Flock Safety, l'entreprise de surveillance dont les caméras enregistrent les véhicules dans plus de 6 000 communautés américaines, a conçu un outil d'IA capable d'identifier et de suivre des conducteurs en se fondant uniquement sur leurs déplacements, selon une enquête de Wired.

Ces résultats font suite à l'extraction du code du système par Wired à partir de fichiers hébergés sur le propre site de Flock, accessibles à quiconque chargeait ses pages de connexion. Le logiciel — d'abord appelé Nightshift, désormais renommé OS Investigate — est encore en développement et testé auprès d'un petit groupe de partenaires des forces de l'ordre, selon l'entreprise.

OS Investigate est livré avec 69 requêtes préécrites qui donnent à la police un accès par IA aux scans de plaques d'immatriculation, aux casiers judiciaires et aux bases de données commerciales contenant des numéros de sécurité sociale et des informations sur les proches. Selon Wired, 41 de ces requêtes ne nécessitent aucune autorisation spéciale et 14 n'exigent ni plaque, ni nom, ni description — juste un lieu, un horaire et un schéma de comportement.

Un agent ouvre une fenêtre de dialogue et choisit dans un menu de 69 requêtes prédéfinies, ou rédige la sienne. L'une des requêtes intégrées désigne comme « témoins » les véhicules les plus vus dans un quartier au cours des deux dernières semaines. Une autre recense toutes les personnes arrêtées plus de deux fois en deux ans — à l'exception des seules infractions liées à la drogue — puis constitue des dossiers sur les trois premières. Un « workup » (dossier complet) transforme un nom et une date de naissance en une liste de proches, de numéros de téléphone et de comptes en ligne, issus des registres policiers et de courtiers de données commerciaux.

Les 14 requêtes qui ne nécessitent aucune donnée d'identification fonctionnent à partir d'un lieu, d'une fenêtre temporelle et d'un comportement — des voitures passant par trois commerces de détail en trois jours, ou plusieurs banques en une semaine — et le système renvoie les personnes correspondantes. Un filtre écarte les bus et les camionnettes de livraison, si bien qu'un conducteur ordinaire effectuant ces tournées reste sur la liste.

La logique de recherche d'associés est détaillée dans le code. Elle compte la fréquence à laquelle d'autres plaques apparaissent aux mêmes caméras dans une fenêtre de deux minutes autour d'un véhicule cible, signale celles qui apparaissent au moins trois fois avec un score de confiance supérieur à 0,75, et restitue jusqu'à 20 noms. Une requête trouve ainsi les « associés » d'une voiture, ce qui renverse la promesse de Flock de ne pas suivre les personnes.

« Je ne sais pas comment le dire autrement, mais cela semble complètement insensé », a déclaré à Wired Noel Pichardo, ancien policier de Pawtucket, dans le Rhode Island, qui a examiné les requêtes. « Je ne vois pas comment on peut contester l'idée que Flock suit littéralement des personnes. »

Jay Stanley, analyste de politiques principal à l'ACLU, a déclaré que l'écart entre ce que les caméras de Flock peuvent faire et ce que l'entreprise fait déjà laisse « très peu de place… comme en Chine ».

Flock affirme depuis longtemps au public que sa technologie « ne peut pas reconnaître, identifier ou suivre des individus » et qu'elle « n'est pas destinée à surveiller des personnes ». Le porte-parole Paris Lewbel a présenté OS Investigate comme un produit distinct des lecteurs de plaques d'immatriculation de l'entreprise, conçu pour aider les enquêteurs à exploiter des registres que leurs agences détiennent déjà, et a indiqué que ses capacités pourraient changer de manière significative avant toute diffusion plus large. L'entreprise n'a pas contesté le reportage de Wired.

Flock évolue également sur un marché plus large des lecteurs automatiques de plaques d'immatriculation, qui comprend Motorola Solutions, dont les réseaux Vigilant et DRN alimentent eux aussi les bases de données policières de scans de plaques. Aucune loi fédérale globale ne régit la durée de conservation de ces scans ni qui peut les interroger, et les tribunaux ont longtemps considéré les plaques lues sur la voie publique comme une information accessible à tous — même si l'arrêt Carpenter v. United States rendu par la Cour suprême en 2018, qui a jugé que la police devait obtenir un mandat pour accéder aux historiques de localisation des téléphones portables, maintient les limites juridiques de la géolocalisation sur le long terme dans un débat actif.

La confrontation a déjà débordé dans la rue. En juin et juillet, des militants ont recouvert de graffitis, masqué et détruit des caméras Flock dans tout le pays ; The Guardian a recensé au moins 33 incidents dans 23 États. Cette colère fait écho à l'usage réel du réseau par la police : un rapport de l'Institute for Justice a recensé plus de deux douzaines de cas d'agents ayant démissionné ou ayant été arrêtés pour avoir prétendument utilisé des lecteurs de plaques d'immatriculation pour harceler des partenaires actuels ou anciens.

La contestation a gagné le Capitole, où le projet de loi du représentant Thomas Massie priverait de financements fédéraux les agences qui déploient cette technologie. Les États ont déjà commencé à écrire leurs propres règles : la Californie interdit la vente des données de scans de plaques et restreint leur partage avec les agences d'autres États.

Des chercheurs ont conçu des motifs générés par IA qui trompent le logiciel de lecture des plaques, et Flock n'est pas seule à repousser les limites : Meta a breveté des caméras capables de reconnaître des visages et d'enregistrer les actions d'une personne.