Flock Safety, het toezichtbedrijf waarvan de camera’s voertuigen registreren in meer dan 6.000 gemeenschappen in de VS, heeft een AI-tool ontwikkeld die bestuurders kan identificeren en volgen op basis van niets anders dan hun beweging, volgens een onderzoek van Wired.

De bevindingen kwamen nadat Wired de code van het systeem uit bestanden op de eigen site van Flock haalde, die beschikbaar waren voor iedereen die de inlogpagina’s laadde. De software — eerst Nightshift genoemd, nu hernoemd tot OS Investigate — is nog in ontwikkeling en wordt getest met een kleine groep partners bij wetshandhaving, aldus het bedrijf.

OS Investigate wordt geleverd met 69 vooraf geschreven prompts die de politie-AI toegang geven tot kentekenscans, arrestatiegegevens en commerciële databases met Social Security-nummers en familieleden. Wired meldt dat 41 van de prompts geen speciale toestemming vereisen, en 14 geen kenteken, naam of beschrijving nodig hebben — alleen een locatie, een tijd en een gedragspatroon.

Een agent opent een chatvenster en kiest uit een menu van 69 kant-en-klare prompts, of schrijft er zelf een. Een ingebouwde zoekopdracht noemt "witnesses" de voertuigen die in de afgelopen twee weken het vaakst in een buurt zijn gezien. Een andere vindt iedereen die in twee jaar meer dan twee keer is gearresteerd — met uitzondering van drugsdelicten — en stelt vervolgens dossiers samen over de top drie. Een "workup" zet een naam en geboortedatum om in familieleden, telefoonnummers en online accounts die uit politiedossiers en commerciële databrokers worden gehaald.

De 14 prompts waarvoor geen identificerende details nodig zijn, werken met een locatie, een tijdsvenster en een gedraging — auto’s die in drie dagen drie winkels aandoen, of meerdere banken in een week — en het systeem geeft de personen terug die daarbij passen. Een filter haalt bussen en bestelwagens eruit, zodat een gewone bestuurder die die rondes maakt op de lijst blijft staan.

De logica voor het vinden van associaties staat uitgeschreven in de code. Die telt hoe vaak andere kentekens bij dezelfde camera’s verschijnen binnen een venster van twee minuten rond een doelauto, markeert alles wat drie of meer keer voorkomt boven een vertrouwensscore van 0.75, en geeft tot 20 namen terug. Eén prompt vindt op die manier de "associates" van een auto, waarmee Flocks belofte dat het geen mensen volgt op zijn kop wordt gezet.

"Ik weet niet hoe ik dit anders moet zeggen, maar dit klinkt volledig krankzinnig," zei Noel Pichardo, een voormalige politieagent uit Pawtucket, Rhode Island, die de prompts heeft beoordeeld, tegen Wired. "Ik weet niet hoe iemand kan beweren dat Flock mensen niet letterlijk volgt."

Jay Stanley, senior beleidsanalist bij de ACLU, zei dat de kloof tussen wat Flocks camera’s kunnen doen en wat het bedrijf al doet weinig ruimte laat — "very little space... like China."

Flock heeft het publiek lange tijd verteld dat zijn technologie "cannot recognize, identify, or track individuals" en "not for watching people" is. Woordvoerder Paris Lewbel noemde OS Investigate een afzonderlijk product van de kentekenlezers van het bedrijf, bedoeld om onderzoekers te helpen werken met records die hun agentschappen al bezitten, en zei dat de mogelijkheden aanzienlijk kunnen veranderen vóór een bredere uitrol. Het bedrijf weersprak de berichtgeving van Wired niet.

Flock concurreert ook in een bredere markt voor geautomatiseerde kentekenlezers, met onder meer Motorola Solutions, wiens Vigilant- en DRN-netwerken eveneens politiedatabases met kentekenscans voeden. Er is geen alomvattende federale wet die bepaalt hoe lang die scans mogen worden opgeslagen of wie ze kan opvragen, en rechtbanken hebben kentekens die op openbare wegen worden gelezen al lang beschouwd als informatie die voor iedereen zichtbaar is — al heeft het arrest Carpenter v. United States van het Hooggerechtshof uit 2018, waarin werd geoordeeld dat de politie een bevel nodig heeft om historische locatiegegevens van mobiele telefoons te verkrijgen, de juridische grenzen van langdurige locatievolging in actief debat gehouden.

De confrontatie is inmiddels ook op straat beland. In juni en juli brachten activisten in het hele land verf aan op Flock-camera’s, plakten ze af en vernielden ze; The Guardian telde ten minste 33 incidenten in 23 staten. Die woede sluit aan bij de manier waarop politie het netwerk feitelijk heeft gebruikt: een rapport van de Institute for Justice vond meer dan twee dozijn gevallen waarin agenten ontslag namen of werden gearresteerd wegens vermeend gebruik van kentekenlezers om huidige of voormalige partners te stalken.

De tegenreactie heeft Capitol Hill bereikt, waar het geplande wetsvoorstel van afgevaardigde Thomas Massie federale financiering zou onthouden aan instanties die de technologie inzetten. Staten zijn al begonnen met het opstellen van eigen regels: Californië verbiedt de verkoop van kentekenscangegevens en beperkt het delen daarvan met instanties buiten de staat.

Onderzoekers hebben AI-gegenereerde patronen ontwikkeld die de kentekenleessoftware in de war brengen, en Flock is niet de enige die de grenzen opzoekt: Meta heeft camera’s gepatenteerd die gezichten herkennen en de handelingen van een persoon registreren.