Googleは、虚假情報の研究者が、ユーザーがプラットフォームの実際の衛星画像の上に説得力のある捏造シーンを重ね合わせることを可能にすると警告した後、新しく公開したGoogle Earthの機能を公開から約1日後に削除しました。

この機能は、即時削除を求める複数のオープンソースインテリジェンス専門家から厳しい批判を受けました。Googleは当初、ツールを稼働させ続けるための保護措置を実装しようとしましたが、最終的には譲歩して機能を撤去しました。

機能の仕組み

「create image」と呼ばれるこの機能は、GoogleのNano Banana 2モデルを使用して、入力されたテキストプロンプトを本物の衛星画像、航空写真、3Dマップデータの上に重ね合わせた架空の視覚シーンに変換するものでした。プロダクトマネージャーのBryan Horowitzは、ユーザーがGoogle Earthのウェブ版で任意の場所に移動し、ボタンをタップして、表示したいものを入力できると述べました。Googleはこのツールを「歴史を可視化し、不動産計画を作成し、さらに多くのことを行う」方法として宣伝しました。

しかし、オープンソース調査員のHenk van EssはSubstack上で、Googleが20年かけて構築した信頼できる地理的参照に「でっち上げを行うボタン」を追加したと指摘しました。彼の主な懸念は、AI生成画像がGoogle Earthプラットフォーム自体の信頼性と権威を借用してしまうことでした。同プラットフォームは、紛争監視、災害評価、地理的検証のためにジャーナリスト、人道支援組織、政府機関によって広く利用されています。

幅広いテストで欠陥が判明

複数の報道機関や調査員が、このツールの悪用の可能性を迅速に実証しました。BBC Verifyはこのツールを使って、崩壊したエッフェル塔、ギザの大ピラミッドを飲み込む陥没穴、キーウのロシア戦車の画像を生成しました。Van Essは別途、メキシコ国境の難民やガザの病院の隣の爆弾クレーターの画像を作成しましたが、いずれも保護措置は作動しませんでした。

NPRはイランのハルク島が炎上する画像と水没したアメリカ合衆国議会議事堂の画像を作成しました。AFPはパリでの爆発とイランの核施設の偽画像を捏造しました。404 Mediaのスタッフは農地に高層ビルを追加し、ロサンゼルスに「ホームレスキャンプ」を配置し、Googleのオフィスの外で抗議活動を演出しました。

衛星画像の信頼性が重要な理由

オープンソースアナリストがGoogle Earthの画像に依存するのは、数百マイル上空から撮影された本物の写真の偽造にはコストがかかり、技術的に困難だからです。調査グループBellingcatの上級研究員であるJake Godinは、偽造された衛星画像が以前にも出現したことがあると指摘しました。米英とイランの紛争中にバーレーンのアメリカ軍基地の被害を装った偽画像もその一例です。しかし、ワンクリックジェネレーターを導入することで、そのような偽造があまりにも簡単に量産できるようになると説明しました。

非営利団体Common Spaceの共同創設者であり地理空間アナリストのBill Greerは、衛星画像に対する信頼の浸食を「潜在的に特に有害」であると表現しました。この懸念は専門の調査員にとどまりません。ソーシャルメディアで共有される衛星画像は一般の人々によって本質的に信頼できるものとして扱われることが多く、説得力のある偽画像が氾濫すれば、現実世界の出来事の真の証拠と捏造を区別することがさらに困難になる可能性があります。

Googleの保護措置は不十分であることが判明

Googleは、このツールで作成されたすべての画像にSynthIDデジタルウォーターマークが付与されており、Geminiアプリまたは検索のLens機能を通じて検証可能であること、また有害なトピックに関する画像作成を許可していないと述べました。しかし、BBC Verifyはその後、偽のGoogle Earth画像を本物と確認するようにGeminiを騙すことができたことを発見しました。SynthIDはAI業界全体におけるコンテンツ来歴標準の推進の一部ですが、この発見は、プラットフォーム自体の検証ツールが誤導される可能性がある場合に、ウォーターマークベースの検出を信頼できるものにすることの難しさを浮き彫りにしました。

プラットフォームのプロンプトフィルタリングも容易に回避できることが判明しました。英国議会議事堂の外に「裏切り者を絞首刑にする」絞首台を構築するリクエストは拒否されましたが、同じプロンプトのより曖昧なバージョンは問題なく通過しました。

Googleはその後機能を削除し、地理空間専門家がこのツールを有用だと感じていた一方で、ユーザーが同社のポリシーに違反する生成画像のスクリーンショットを共有していたことを認めました。Googleはより強力なガードレールの実装に取り組むと述べましたが、ツールが復活するかどうかは未解決の問題として残されています。