Flock Safety — firma z branży nadzoru, której kamery rejestrują pojazdy w ponad 6000 amerykańskich społeczności — zbudowała narzędzie AI zdolne identyfikować i śledzić kierowców, opierając się wyłącznie na ich ruchu — wynika z dochodzenia przeprowadzonego przez Wired.

Ustalenia pojawiły się po tym, jak Wired wyodrębnił kod systemu z plików umieszczonych na samej stronie internetowej Flocka, które były dostarczane każdemu, kto wczytał jej strony logowania. Jak podała firma, oprogramowanie — początkowo nazywane Nightshift, obecnie przemianowane na OS Investigate — jest nadal w fazie rozwoju i jest testowane z niewielką grupą partnerów ze służb ścigania.

OS Investigate jest dostarczane z 69 wcześniej przygotowanymi poleceniami, które dają policyjnej sztucznej inteligencji dostęp do skanów tablic rejestracyjnych, rejestrów aresztowań oraz komercyjnych baz danych zawierających numery ubezpieczenia społecznego i dane krewnych. Według Wired 41 z tych poleceń nie wymaga żadnego specjalnego uprawnienia, a 14 nie potrzebuje tablicy rejestracyjnej, nazwiska ani opisu — wystarczy miejsce, czas i wzorzec zachowania.

Funkcjonariusz otwiera okno rozmowy i wybiera jedno z 69 gotowych poleceń z menu albo wpisuje własne. Jedno z wbudowanych zapytań wskazuje jako „świadków” pojazdy najczęściej widywane w okolicy w ciągu ostatnich dwóch tygodni. Kolejne odnajduje osoby aresztowane więcej niż dwa razy w ciągu dwóch lat — z wyjątkiem samych przestępstw narkotykowych — a następnie tworzy teczki dotyczące trzech pierwszych z nich. „Workup”, czyli opracowanie osoby, przekształca nazwisko i datę urodzenia w dane krewnych, numery telefonów i konta online, pobierane z rejestrów policyjnych oraz od komercyjnych brokerów danych.

Czternaście poleceń, które nie wymagają żadnych danych identyfikujących, opiera się na lokalizacji, przedziale czasu i zachowaniu — samochody, które w ciągu trzech dni podjechały pod trzy sklepy detaliczne, albo pod kilka banków w ciągu tygodnia — a system zwraca osoby pasujące do wzorca. Filtr usuwa autobusy i pojazdy dostawcze, więc zwykły kierowca wykonujący takie trasy pozostaje na liście.

Logika wyszukiwania powiązanych osób jest opisana wprost w kodzie. Zlicza ona, jak często inne tablice pojawiają się na tych samych kamerach w dwuminutowym oknie czasowym od przejazdu docelowego pojazdu, oznacza te, które pojawiają się trzy lub więcej razy przy współczynniku pewności przekraczającym 0,75, i zwraca do 20 nazwisk. Jedno z poleceń znajduje w ten sposób „powiązania” danego samochodu, co podważa deklarację Flocka, że firma nie śledzi ludzi.

„Nie wiem, jak to inaczej ująć, ale brzmi to całkowicie szaleńczo” — powiedział Wiredowi Noel Pichardo, były policjant z Pawtucket w stanie Rhode Island, który przeanalizował te polecenia. „Nie rozumiem, jak ktokolwiek może kwestionować to, że Flock dosłownie śledzi ludzi”.

Jay Stanley, starszy analityk polityczny ACLU, powiedział, że przepaść między tym, co potrafią zrobić kamery Flocka, a tym, co firma już robi, pozostawia „bardzo mało przestrzeni... jak w Chinach”.

Flock od dawna zapewnia opinię publiczną, że jego technologia „nie rozpoznaje, nie identyfikuje ani nie śledzi pojedynczych osób” i „nie służy do obserwowania ludzi”. Rzecznik prasowy Paris Lewbel nazwał OS Investigate produktem odrębnym od czytników tablic rejestracyjnych firmy, stworzonym po to, by pomóc śledczym pracować na rejestrach, którymi ich agencje już dysponują, oraz oświadczył, że możliwości narzędzia mogą się znacząco zmienić przed szerszym udostępnieniem. Firma nie zakwestionowała ustaleń Wireda.

Flock konkuruje także na szerszym rynku automatycznych czytników tablic rejestracyjnych, do którego należy również Motorola Solutions, której sieci Vigilant i DRN podobnie zasilają policyjne bazy danych skanów tablic. Żadna kompleksowa ustawa federalna nie reguluje tego, jak długo takie skany mogą być przechowywane ani kto może ich wyszukiwać, a sądy od dawna traktują tablice odczytane na drogach publicznych jako informację dostępną dla każdego — choć orzeczenie Sądu Najwyższego z 2018 roku w sprawie Carpenter przeciwko Stanom Zjednoczonym, stanowiące, że policja potrzebuje nakazu, by uzyskać historyczne dane o lokalizacji telefonów komórkowych, utrzymuje prawne granice długoterminowego śledzenia lokalizacji w stanie ciągłego sporu.

Konfrontacja przeniosła się już na ulice. W czerwcu i lipcu aktywiści w całym kraju zamalowywali sprayem, zaklejali i niszczyli kamery Flocka; The Guardian naliczył co najmniej 33 incydenty w 23 stanach. Oburzenie idzie w parze z faktycznym wykorzystywaniem tej sieci przez policję: raport Institute for Justice wykazał ponad dwadzieścia przypadków rezygnacji funkcjonariuszy ze służby lub ich zatrzymania za rzekome używanie czytników tablic rejestracyjnych do prześladowania obecnych lub byłych partnerów.

Sprzeciw dotarł na Wzgórze Kapitolijskie, gdzie planowany projekt ustawy kongresmena Thomasa Massie przewiduje wstrzymanie federalnego finansowania agencji, które wdrażają tę technologię. Poszczególne stany zaczęły już tworzyć własne zasady: Kalifornia zakazuje sprzedaży danych ze skanów tablic i ogranicza ich przekazywanie agencjom spoza stanu.

Naukowcy opracowali generowane przez AI wzory, które mylą oprogramowanie do odczytu tablic rejestracyjnych, a Flock nie jest jedyny w przekraczaniu granic: Meta opatentowała kamery rozpoznające twarze i rejestrujące czynności danej osoby.