ベルリン在住のアーティスト、シモン・ヴェッカート氏は、「デジタルカモフラージュ」というボタンダウンシャツを制作し、AI監視カメラが着用者を人間として登録できないと報じられています。この衣類は、今月、同市のコットブッサー・トーア交通拠点で稼働が始まるAI駆動の映像システムへの直接的な対応として設計されました。

シャツはどのように監視から身を守るのか?

ベルリンのアーティストであるヴェッカート氏が発表したデジタルカモフラージュは、物体検知ソフトウェアが人間を認識する確信度を低下させられると報じられているシャツです。ヴェッカート氏によれば、こうしたシステムは人間とは何かを実際に学習したのではなく、数百万枚の訓練写真から人間が一般的にどのように見えるかを学習しただけだといいます。初期の層では輪郭と質感、深い層では頭と肩のシルエットや四肢の比率を学習しています。

デジタルカモフラージュは、ピンク、オレンジ、グリーンの派手な図形の絡み合いによって、この訓練方法を悪用します。ヴェッカート氏は、彩度の高い色がネットワークの初期層を強く刺激し、重なり合う形状が身体の輪郭を歪めることで、検知器が断片を単一の人物像として再構成できなくなると説明しています。人間の目には催眠的なハワイアンプリントに見えますが、監視モデルには何も認識されません。

ヴェッカート氏は「敵対的ループ」という手法でパターンを構築しました。候補のプリントを生成し、検知器に提示し、ソフトウェアが人間を認識した確信度を測定し、満足のいく結果が得られるまで調整と繰り返しを行うというものです。報道によれば、彼はTC-EGA(Toroidal-Cropping-based Expandable Generative Attack)と呼ばれる生成的手法を用いてこれらの反復を実行し、多くの商用監視製品の基盤技術と同じクラスの技術で構築されたオープンソースのリアルタイム検知システムYOLOに対して結果をテストしました。

このアプローチは、コンピュータビジョン研究における確立された知見を基盤としています。敵対的サンプルとは、ニューラルネットワークに物体を誤分類させる、小さくて知覚できないことやパターン化された摂動であり、少なくとも2013年以降、学術文献で報告されてきました。研究者たちはこの概念を、敵対的な眼鏡フレームから検知器を混乱させるパターンパッチまで、実際の衣類に応用してきました。ヴェッカート氏の貢献は、この研究を公共の場での導入に向けた着用可能な消費者製品に変えた点にあります。

ただしヴェッカート氏は、このシャツは特定の政府カメラを打ち負かすために設計されたものではなく、安価な布がシステムを破ることができるなら、そのシステムにどれだけの信頼が値するのかという問いを提起するものだと明確にしています。彼自身のサイトで彼は、このシャツは「匿名性の約束」ではなく、部外者がそれらのシステムをテストできないため、特定の導入について一切主張しないと強調しています。衣類は約88ドルで販売され、売上の一部はデジタル市民権団体に寄付されます。

なぜ人々は突然監視からの保護を求めているのか

ヴェッカート氏のウェブサイトによれば、彼が「行動スキャナー」と呼ぶカメラが、ベルリン・クロイツベルク地区の繁忙する地下鉄駅コットブッサー・トーアに設置される予定です。このソフトウェアは通行人を「正常」と「不審」に分類することを目的としています。彼は、さらに3か所のベルリンの場所が次の候補だと考えています。

この導入は、ナチス時代と旧東ドイツのシュタージによる監視を背景に大規模な監視への強い歴史的嫌悪感を持つドイツで行われるものであり、コットブッサー・トーアでは近年、映像監視の提案に対するプライバシー抗議が繰り返し発生してきました。また、公共空間で使用されるものを含め、AIシステムをリスクによって分類・制限するEUの包括的な法律であるEU AI法が段階的に施行されつつある時期とも重なっています。

米国では、テキサス州のグレッグ・アボット知事が木曜夜、州機関に対しFlock Safetyへの資金提供を停止するよう命じました。同社のナンバープレート読み取り装置は49州に12万台以上設置されています。共和党のジョシュ・ホーリー上院議員も、同社の取得データの取り扱いについて調査を開始しました。

Flock Safetyのナンバープレート読み取り装置は、法執行機関の職員が元恋人、配偶者、恋敵の追跡などの個人的目的でシステムを深刻に悪用したという報道を受け、大きな批判を浴びています。ある極端な事例では、ケンタッキー州の警察官が元パートナーの行動を監視するためFlockシステムに約2,000回アクセスしました。ジョージア州の別の警察官は警察署長も務めていた人物で、元恋人とその娘について600回以上の検索を行った後、ストーカー罪と警察装備の悪用の罪に直面する中で自ら命を絶ちました。

このシャツは、ヴェッカート氏がこうしたシステムに反撃したりメッセージを送ったりした初めての試みではありません。2020年には、99台のスマートフォンを載せた荷車をベルリンで引きながらGoogleマップの交通渋滞を偽装し、AI駆動システムが容易に操作できることを実証しました。