Компания Flock Safety, специализирующаяся на видеонаблюдении и установившая камеры для фиксации транспортных средств более чем в 6000 населённых пунктах США, создала ИИ-инструмент, способный устанавливать личность водителей и следить за ними, опираясь исключительно на их перемещения, следует из расследования Wired.

Эти данные появились после того, как Wired извлекла код системы из файлов на собственном сайте Flock, которые открывались любому, кто загружал страницы входа. По словам компании, программа — изначально называвшаяся Nightshift, а теперь переименованная в OS Investigate — всё ещё находится в разработке и тестируется с небольшой группой партнёров из правоохранительных органов.

OS Investigate поставляется с 69 заранее написанными промптами, которые дают полицейскому ИИ доступ к данным сканирования номеров, записям об арестах и коммерческим базам данных, содержащим номера социального страхования и сведения о родственниках. По данным Wired, 41 из этих промптов не требует специального разрешения, а 14 — ни номера, ни имени, ни описания: только место, время и модель поведения.

Сотрудник полиции открывает чат и выбирает один из 69 готовых промптов либо пишет собственный. Один встроенный запрос определяет «свидетелей» как транспортные средства, чаще всего появлявшиеся в районе за последние две недели. Другой находит всех, кого арестовывали более двух раз за два года — за исключением только наркопреступлений — и затем составляет досье на первых трёх. «Проработка» (workup) превращает имя и дату рождения в список родственников, номера телефонов и онлайн-аккаунты, извлечённые из полицейских архивов и коммерческих брокеров данных.

14 промптов, не требующих идентифицирующих данных, работают с местоположением, временным интервалом и поведением — например, автомобили, посетившие три розничных магазина за три дня или несколько банков за неделю, — и система выдаёт подходящих под критерии людей. Фильтр отсекает автобусы и фургоны доставки, поэтому обычный водитель, совершающий подобные маршруты, остаётся в списке.

Логика поиска «связей» подробно изложена в коде. Она подсчитывает, как часто другие номера появляются на тех же камерах в пределах двухминутного окна после целевого автомобиля, отмечает те, что встречаются три и более раз при показателе достоверности выше 0.75, и выдаёт до 20 имён. Один промпт именно так находит «связи» автомобиля, ставя под сомнение обещание Flock не отслеживать людей.

«Не знаю, как ещё это сказать, но звучит это совершенно безумно», — заявил Wired Ноэль Пичардо, бывший офицер полиции города Потакет (штат Род-Айленд), изучивший эти промпты. «Не понимаю, как кто-либо может оспаривать тот факт, что Flock буквально отслеживает людей».

Джей Стэнли, старший аналитик по политике в ACLU, сказал, что разрыв между тем, на что способны камеры Flock, и тем, что компания уже делает, оставляет «очень мало пространства... как в Китае».

Flock давно заверяет публику, что её технология «не может распознавать, идентифицировать или отслеживать отдельных лиц» и «не предназначена для наблюдения за людьми». Представитель компании Парис Льюбел назвал OS Investigate отдельным продуктом, не связанным со считывателями номерных знаков компании, созданным, чтобы помочь следователям работать с записями, которыми их ведомства уже располагают, и добавил, что возможности инструмента могут значительно измениться до более широкого выпуска. Компания не оспорила выводы Wired.

Flock также конкурирует на более широком рынке автоматических считывателей номерных знаков, куда входит Motorola Solutions, чьи сети Vigilant и DRN точно так же наполняют полицейские базы данных сканами номеров. Всеобъемлющего федерального закона, регулирующего срок хранения таких сканов и круг лиц, которым разрешено их запрашивать, не существует, а суды давно рассматривают номера, считанные на общественных дорогах, как информацию, доступную каждому, — хотя решение Верховного суда США 2018 года по делу Carpenter v. United States, установившее, что полиции нужен ордер для получения исторических данных о местоположении сотовых телефонов, оставило правовые границы долгосрочного отслеживания местоположения предметом активных споров.

Противостояние уже вышло на улицы. В июне и июле активисты по всей стране расписывали краской, заклеивали и уничтожали камеры Flock; The Guardian насчитала как минимум 33 инцидента в 23 штатах. Гнев объясняется тем, как полиция реально использовала эту сеть: отчёт Institute for Justice выявил более двух десятков случаев, когда сотрудники полиции увольнялись или подвергались аресту за предполагаемое использование считывателей номерных знаков для слежки за нынешними или бывшими партнёрами.

Сопротивление добралось и до Капитолийского холма, где планируемый законопроект конгрессмена Томаса Масси предусматривает лишение федерального финансирования ведомств, применяющих эту технологию. Штаты уже начали писать собственные правила: Калифорния запрещает продажу данных сканирования номеров и ограничивает их передачу ведомствам других штатов.

Исследователи создали сгенерированные ИИ узоры, сбивающие с толку программу считывания номеров, и Flock не одинока в раздвижении границ: Meta запатентовала камеры, распознающие лица и фиксирующие действия человека.