Flock Safety, das Überwachungsunternehmen, dessen Kameras Fahrzeuge in mehr als 6.000 US-Gemeinden erfassen, hat laut einer Recherche von Wired ein KI-Tool entwickelt, das Fahrer allein anhand ihrer Bewegung identifizieren und verfolgen kann.

Die Erkenntnisse stammen aus Code, den Wired aus Dateien auf Flocks eigener Website extrahierte, die jedem ausgeliefert wurden, der die Login-Seiten des Unternehmens aufrief. Die Software – zunächst Nightshift genannt, inzwischen in OS Investigate umbenannt – befinde sich laut dem Unternehmen noch in der Entwicklung und werde mit einer kleinen Gruppe von Strafverfolgungspartnern getestet.

OS Investigate wird mit 69 vorformulierten Prompts ausgeliefert, die der Polizei per KI Zugriff auf Kennzeichen-Scans, Verhaftungsakten und kommerzielle Datenbanken mit Sozialversicherungsnummern und Angaben zu Verwandten geben. Laut Wired erfordern 41 der Prompts keine besondere Berechtigung, und 14 benötigen weder Kennzeichen noch Namen noch Beschreibung – nur einen Ort, eine Zeit und ein Verhaltensmuster.

Ein Beamter öffnet ein Chatfenster und wählt aus einem Menü mit 69 vorgefertigten Prompts aus oder schreibt eigene. Eine integrierte Abfrage führt als „Zeugen“ die Fahrzeuge auf, die in den vergangenen zwei Wochen am häufigsten in einem Viertel gesehen wurden. Eine andere findet alle Personen, die innerhalb von zwei Jahren mehr als zweimal verhaftet wurden – ausgenommen sind lediglich Drogendelikte – und erstellt dann Dossiers über die ersten drei. Ein „Workup“ verwandelt einen Namen und ein Geburtsdatum in Verwandte, Telefonnummern und Online-Konten, die aus Polizeiakten und kommerziellen Datenbrokern stammen.

Die 14 Prompts ohne identifizierende Angaben arbeiten mit einem Ort, einem Zeitfenster und einem Verhalten – etwa Autos, die in drei Tagen drei Einzelhandelsgeschäfte anfahren oder in einer Woche mehrere Banken – und das System liefert die Personen zurück, auf die dies zutrifft. Ein Filter entfernt Busse und Lieferwagen, sodass ein gewöhnlicher Fahrer, der solche Runden dreht, auf der Liste verbleibt.

Die Logik zur Ermittlung von „Verbindungen“ ist im Code genau beschrieben. Sie zählt, wie oft andere Kennzeichen innerhalb eines Zwei-Minuten-Fensters nach einem Zielfahrzeug an denselben Kameras auftauchen, markiert alle, die dreimal oder häufiger oberhalb eines Konfidenzwerts von 0,75 erscheinen, und liefert bis zu 20 Namen zurück. Ein Prompt ermittelt auf diese Weise die „Verbindungen“ eines Autos – und stellt damit Flocks Versprechen infrage, keine Personen zu verfolgen.

„Ich weiß nicht, wie ich es anders sagen soll, aber das klingt völlig verrückt“, sagte Noel Pichardo, ein ehemaliger Polizeibeamter aus Pawtucket im Bundesstaat Rhode Island, der die Prompts geprüft hat, gegenüber Wired. „Ich weiß nicht, wie jemand bestreiten kann, dass Flock Menschen wortwörtlich verfolgt.“

Jay Stanley, leitender Politikanalyst bei der ACLU, sagte, die Kluft zwischen dem, was Flocks Kameras können, und dem, was das Unternehmen bereits tut, lasse „sehr wenig Raum... wie in China“.

Flock hat der Öffentlichkeit lange versichert, seine Technologie könne „Einzelpersonen nicht erkennen, identifizieren oder verfolgen“ und sei „nicht dazu da, Menschen zu beobachten“. Sprecher Paris Lewbel bezeichnete OS Investigate als ein von den Kennzeichenlesern des Unternehmens getrenntes Produkt, das Ermittlern bei der Arbeit mit den Akten helfen soll, über die ihre Behörden bereits verfügen, und sagte, die Fähigkeiten könnten sich vor einer breiteren Veröffentlichung noch erheblich verändern. Das Unternehmen stellte die Berichterstattung von Wired nicht in Abrede.

Flock ist zudem in einem breiteren Markt für automatisierte Kennzeichenleser tätig, zu dem auch Motorola Solutions gehört, dessen Netzwerke Vigilant und DRN ebenfalls polizeiliche Datenbanken mit Kennzeichen-Scans speisen. Kein umfassendes Bundesgesetz regelt, wie lange solche Scans gespeichert werden dürfen oder wer sie abfragen darf, und Gerichte haben auf öffentlichen Straßen erfasste Kennzeichen lange als Information behandelt, die für jedermann zugänglich ist – obwohl die Entscheidung des Supreme Court von 2018 im Fall Carpenter v. United States, wonach die Polizei für den Zugriff auf historische Mobilfunk-Standortdaten einen Durchsuchungsbeschluss benötigt, die rechtlichen Grenzen der langfristigen Standortverfolgung weiterhin umstritten lässt.

Die Auseinandersetzung hat bereits die Straßen erreicht. Im Juni und Juli besprühten, überklebten und zerstörten Aktivisten im ganzen Land Flock-Kameras; The Guardian zählte mindestens 33 Vorfälle in 23 Bundesstaaten. Die Wut korrespondiert mit der tatsächlichen Nutzung des Netzwerks durch die Polizei: Ein Bericht des Institute for Justice dokumentierte mehr als zwei Dutzend Fälle, in denen Beamte zurücktraten oder verhaftet wurden, weil sie Kennzeichenleser angeblich zum Nachstellen gegenüber aktuellen oder ehemaligen Partnern genutzt hatten.

Der Widerstand hat den Kapitol erreicht, wo ein geplanter Gesetzentwurf von Abgeordnetem Thomas Massie Bundesmittel von Behörden zurückhalten würde, die die Technologie einsetzen. Die Bundesstaaten haben bereits begonnen, eigene Regeln zu erlassen: Kalifornien verbietet den Verkauf von Kennzeichen-Scan-Daten und beschränkt die Weitergabe an Behörden außerhalb des Bundesstaats.

Forscher haben KI-generierte Muster entwickelt, die die Kennzeichenleser-Software irritieren, und Flock ist nicht das einzige Unternehmen, das die Grenzen ausreizt: Meta hat Kameras patentiert, die Gesichter erkennen und die Handlungen einer Person protokollieren.