Flock Safetyの新たなAIツール、氏名やナンバープレートなしでドライバーを追跡可能に
重要ポイント
- •Wiredは、Flockのログインページ経由で公開提供されていたコードファイルから今回の発見を得た。Nightshiftとして始まりOS Investigateに改称されたこのツールは、現在も開発中で、少数の法執行機関パートナーとテストされている。
- •69件の事前作成プロンプトのうち41件は特別な許可を必要とせず、14件はナンバープレートや氏名、外見の説明がなくても、場所・時間帯・行動パターンだけで結果を出せる。
- •コードに記された関連人物の抽出ロジックは、対象車両の前後2分で同じカメラに3回以上現れ、信頼スコア0.75を上回るプレートを最大20件の名前として返す。
- •反発は、23州で少なくとも33件のカメラ破壊事件、交際相手のストーキングにプレート読取機を使った疑いで辞職または逮捕された警察官20件超、そしてそれらの技術を導入する機関への連邦資金停止を目指すThomas Massie下院議員の法案計画にまで広がっている。
- •Flockは自社技術が個人を認識、識別、追跡できないとする立場を維持しつつ、OS Investigateを捜査向けの別製品だと説明し、Wiredの報道内容は否定しなかった。
Flock Safetyは、米国6,000以上のコミュニティで車両を記録する監視企業だが、Wiredの調査によると、移動だけを手がかりにドライバーを特定し追跡できるAIツールを開発している。
この発見は、WiredがFlockの自社サイト上のファイルからシステムのコードを入手したことを受けたものだ。そのファイルは、ログインページにアクセスした誰にでも提供されていた。ソフトウェアは当初Nightshiftと呼ばれ、現在はOS Investigateに改称されているが、Flockによれば、まだ開発中で、少数の法執行機関パートナーとのテスト段階にある。
OS Investigateには、ナンバープレートのスキャン、逮捕記録、社会保障番号や親族情報を含む商業データベースへのアクセスを警察AIに与える69件の事前作成プロンプトが搭載されている。Wiredによると、そのうち41件は特別な許可を必要とせず、14件はプレート、氏名、説明を必要とせず、場所、時間、行動パターンだけで使える。
警察官はチャットボックスを開き、69件の定型プロンプトのメニューから選ぶか、自分で入力する。組み込みクエリの1つは、過去2週間に特定の地域で最も多く見られた車両を「witnesses」として列挙する。別のクエリは、過去2年で2回超逮捕された全員を見つけ、薬物犯罪だけを除外したうえで上位3人の詳細書類を作成する。「workup」は、氏名と生年月日を、警察記録や商業データブローカーから取得した親族、電話番号、オンラインアカウントに変換する。
個人を特定する情報を必要としない14件のプロンプトは、場所、時間帯、行動に基づいて動作する。たとえば、3日で3つの小売店を回った車や、1週間で複数の銀行を訪れた車が対象となり、システムは一致する人物を返す。フィルターはバスや配送バンを除外するため、通常のドライバーがその巡回を行っていても候補として残る。
関連人物を見つけるロジックはコードに明記されている。対象車両の前後2分の範囲で、同じカメラに他のナンバープレートがどれだけ頻繁に現れるかを数え、0.75の信頼スコアを上回って3回以上現れたものをフラグし、最大20件の名前を返す。あるプロンプトはこの方法で車の「associates」を見つけ、Flockが人を追跡しないとする約束を覆している。
「どう言えばいいのか分かりませんが、これは完全に狂っているように聞こえます」と、プロンプトを確認した元ロードアイランド州パウタケットの警察官Noel Pichardo氏はWiredに語った。「Flockが文字通り人を追跡しているという考えに、どうやって反論できるのか分かりません」
ACLUのシニア政策アナリスト、Jay Stanley氏は、Flockのカメラができることと同社が実際に行っていることの間の差は「ほとんど隙間がない...中国のようだ」と述べた。
Flockは長年、自社技術は「個人を認識、識別、追跡できない」とし、「人を監視するためのものではない」と公言してきた。広報担当のParis Lewbel氏は、OS Investigateは同社のナンバープレート読取機とは別製品であり、各機関がすでに保有する記録を横断して捜査を支援するために作られたと述べ、一般公開前に機能が大きく変わる可能性があるとした。同社はWiredの報道内容を否定しなかった。
Flockは、Motorola SolutionsのVigilantおよびDRNネットワークも含む、より広範な自動ナンバープレート読取市場でも競合している。これらのネットワークも同様に、プレートスキャンの警察データベースへの供給源となっている。プレートスキャンの保存期間や誰が照会できるかを包括的に規定する連邦法はなく、裁判所は長年、公道で読み取られたナンバープレートを誰にでも開示されうる情報として扱ってきた。ただし、警察が過去の携帯電話位置情報を取得するには令状が必要だとした2018年の最高裁判決 Carpenter v. United States により、長期的な位置追跡の法的境界は依然として争点となっている。
この対立はすでに街頭にも広がっている。6月と7月には、活動家たちが全米各地でFlockのカメラにスプレー塗装をしたり、テープで覆ったり、破壊したりした。The Guardianは23州で少なくとも33件の事案を数えた。この怒りは、警察が実際にネットワークをどう使ってきたかとも一致する。Institute for Justiceの報告書は、ナンバープレート読取機を使って現在または元の交際相手をストーキングした疑いで、警察官が辞職または逮捕された事例が20件超あったとした。
この反発はCapitol Hillにも及んでおり、Thomas Massie下院議員が計画する法案は、この技術を導入する機関への連邦資金を停止する内容となる。州レベルでも独自の規則づくりが始まっており、カリフォルニア州はプレートスキャンデータの販売を禁じ、州外機関との共有を制限している。
研究者たちはプレート読取ソフトを混乱させるAI生成パターンを作成しており、Flockだけが境界線を押し広げているわけではない。Metaは、顔を認識し、人の行動を記録するカメラの特許を取得している。
