新闻宏观经济Flock Safety 新 AI 工具让警方无需姓名或车牌即可追踪驾驶员

Flock Safety 新 AI 工具让警方无需姓名或车牌即可追踪驾驶员

作者: Decrypt·

要点速览

  • 《连线》从 Flock 官网登录页面上向公众提供的代码文件中获得了这些发现;该工具最初名为 Nightshift,后更名为 OS Investigate,目前仍在开发中,并正在与一小批执法合作伙伴进行测试。
  • 在 69 个预写提示词中,41 个无需特殊权限,14 个仅需一个地点、一个时间窗口和一种行为模式即可得出结果,无需任何车牌、姓名或外貌描述。
  • 代码中的关联查找逻辑通过统计在目标车辆经过同一摄像头的两分钟内、出现至少三次且置信度高于 0.75 的车牌,最多标记 20 个名字。
  • 引发的反弹包括 23 个州至少 33 起摄像头破坏事件、二十多名警员因涉嫌利用车牌识别阅读器跟踪伴侣而辞职或被捕,以及众议员 Thomas Massie 计划提出的、将停止向部署该技术的机构提供联邦资金的法案。
  • Flock 坚持称其技术无法识别、辨认或追踪个人,并将 OS Investigate 描述为面向调查人员的独立产品,同时未对《连线》的报道提出异议。
Flock Safety 新 AI 工具让警方无需姓名或车牌即可追踪驾驶员

据 《连线》 调查,监控公司 Flock Safety 已开发出一款 AI 工具,仅凭行动轨迹便能识别并追踪驾驶员,而该公司的摄像头记录着美国 6,000 多个社区的车辆通行情况。

这一发现源于《连线》从 Flock 官网文件中提取的该系统代码,这些文件会提供给任何加载其登录页面的人。该公司表示,这款软件最初名为 Nightshift,现已更名为 OS Investigate,目前仍在开发中,并正在与一小批执法合作伙伴进行测试。

OS Investigate 内置 69 个预写提示词,让警方 AI 可以调用车牌扫描记录、逮捕记录,以及存有社会安全号码和亲属信息的商业数据库。《连线》报道称,其中 41 个提示词无需特殊权限,另有 14 个不需要车牌、姓名或外貌描述——只需一个地点、一段时间和一种行为模式。

警员打开一个聊天框,从 69 个预置提示词的菜单中进行选择,也可以自行编写。一个内置查询将过去两周内某一社区出现最频繁的车辆列为“证人”。另一个查询会找出两年内被捕超过两次的所有人——仅毒品犯罪除外——然后为排名前三的人建立档案。而“workup”(背景建档)功能可以将一个姓名和出生日期扩展为亲属、电话号码和线上账户信息,这些数据来自警方记录和商业数据经纪商。

这 14 个无需身份信息的提示词,只需提供一个地点、一个时间窗口和一种行为——例如三天内到过三家零售店的车辆,或一周内到过多家银行的车辆——系统便会返回符合条件的对象。一个过滤器会剔除公交车和送货车,因此按这些路线行驶的普通驾驶员仍会留在名单上。

查找“关联车辆”的逻辑在代码中有明确说明。它会统计其他车牌在目标车辆经过同一摄像头的两分钟时间窗口内出现的频率,标记任何出现三次及以上、且置信度高于 0.75 的车牌,并最多返回 20 个名字。其中一个提示词正是以这种方式查找一辆车的“关联对象”,这与 Flock 承诺不追踪个人的说法背道而驰。

“我不知道还能怎么说,但这听起来完全疯狂,”审阅了这些提示词的前罗得岛州波塔基特警员 Noel Pichardo 对《连线》表示。“我不明白怎么会有人能反驳 Flock 确实在追踪人这一点。”

美国公民自由联盟(ACLU)高级政策分析师 Jay Stanley 表示,Flock 摄像头的能力与该公司已在从事的业务之间的差距,留下的空间“非常小……就像中国一样”。

Flock 长期以来向公众宣称,其技术“无法识别、辨认或追踪个人”,且“并非用于监视民众”。发言人 Paris Lewbel 称,OS Investigate 是独立于该公司车牌识别阅读器的一款产品,旨在帮助调查人员整合其所属机构已有的记录,并表示在更大范围发布之前,其功能可能会有重大变化。该公司未对《连线》的报道提出异议。

Flock 还在更广阔的自动车牌识别阅读器市场竞争,该市场还包括 Motorola Solutions,其旗下的 Vigilant 和 DRN 网络同样向警方车牌扫描数据库输送数据。目前没有一部全面的联邦法律规定这些扫描数据可以保存多久、谁有权查询,而法院长期以来将公共道路上读取的车牌视为对所有人公开的信息——不过,最高法院 2018 年对 Carpenter v. United States 案的判决(认定警方获取历史手机位置记录需持有搜查令)使长期位置追踪的法律边界仍处于激烈争论之中。

这场冲突已经蔓延到街头。今年 6 月和 7 月,活动人士在全国各地喷涂、遮盖并损毁 Flock 摄像头;《卫报》 统计,全美 23 个州至少发生 33 起此类事件。这种愤怒与警方实际使用该网络的方式相呼应:正义研究所 的一份报告发现,有二十多起警员因涉嫌利用车牌识别阅读器跟踪现任或前任伴侣而辞职或被捕的案件。

反弹之势已蔓延至 国会山,众议员 Thomas Massie 计划提出的法案将停止向部署该技术的机构提供联邦资金。各州也已开始制定自己的规则:加利福尼亚州禁止出售车牌扫描数据,并限制与州外机构共享此类数据。

研究人员 已开发出可干扰车牌识别软件的 AI 生成图案,而突破这一边界的并非只有 Flock:Meta 已获得能够识别面部并记录个人行为的摄像头专利。