GoogleがGoogle EarthのAI画像生成機能をリリース翌日にDeepfake懸念で撤去
重要ポイント
- •Googleは2026年7月31日、リリースからわずか1日後にポリシー違反と悪用の懸念を理由に、Google EarthのAI画像生成機能を撤去した。
- •ジャーナリストや研究者は、同ツールがロサンゼルスの爆発クレーターや水没した米国議事堂など、実際には起きていない重大イベントのリアルな衛星画像を容易に捏造できることを実証した。
- •オープンソース調査員のHenk van Essは、難民や原子力施設に関わる機密性の高いプロンプトが同ツールの安全策によってブロックされなかったことを確認した。
- •GoogleのSynthIDウォーターマークとコンテンツフィルターは、SynthIDがGoogle自身の製品以外で広くサポートされておず、画像を共有前に確認するユーザーもほとんどいないため、批判者からは不十分と見なされた。
- •今回の撤回は、米国や欧州連合におけるディープフェイクのラベル付けとより厳格な監視に対する規制圧力の高まりの中で、信頼される消費者向け製品に生成AIを統合するという業界全体の課題を反映している。
Googleは、ジャーナリストやオープンソース調査員から、同ツールが説得力のある偽の衛星画像の作成に悪用される恐れがあるとの激しい批判を受け、リリースからわずか1日後にGoogle Earthの新AI画像生成機能を削除した。
同社は7月30日にこの機能を導入し、Google Earthウェブ版のユーザーが任意の場所にズームし、「画像を作成」をクリックすることで、GoogleのNano Bananaモデルを使ってテキストプロンプトからシーンを生成できるようにした。しかし7月31日までに、この機能は完全に撤去された。
Xに投稿された声明で、Googleは人々が「Google Earthを世界の信頼できる視点として独自に信頼している」と述べた。同社は、地理空間専門家がこのツールの有用な用途を見出していた一方で、他のユーザーがポリシーに違反していると思われる生成画像を共有していたと指摘した。Googleは、より強固なガードレールを構築しながらこの機能をロールバックしていると述べたが、復旧の時期については提示しなかった。
Re: our statement on Image Generation in Google Earth: "We know that people uniquely trust Google Earth for a reliable view of the world. We've seen geospatial professionals using this feature for a range of useful purposes, however we've also seen people sharing screenshots of… — News from Google (@NewsFromGoogle) July 31, 2026
ジャーナリストや研究者はすぐに、このツールが実際に起きていない出来事をいかに簡単に捏造できるかを実証した。テック系メディアの404 Mediaは、同ツールがロサンゼルスの爆発クレーターやGoogle自身のマウンテンビューキャンパス外に集まった抗議者の画像を作成できることを示した。NPRは、イランのハルク島が炎上する画像や水没した米国議会議事堂の画像を生成した——いずれも現実であれば重大なニュースとなるシナリオである。
オープンソース研究者のHenk van EssはNPRに対し、メキシコ国境付近の難民やイランの原子力発電所などを含むプロンプトを試し、いずれのリクエストも拒否されなかったと語った。
Tonight I typed just one sentence into Google Earth and put refugees near the Mexican border. Then I planted a nuclear plant in Iran. What on earth is Google doing? Check my latest post here: pic.twitter.com/WSjdcEXWJx — 𝚑𝚎𝚗𝚔 𝚟𝚊𝚗 𝚎𝚜𝚜 (@henkvaness) July 30, 2026
衛星画像は、偽造が困難であったため、長く速報の検証や虐殺の記録における信頼できる根拠として機能してきた。Bellingcatの研究者Jake Godinは、ワンクリックでの画像生成が偽造の作成を簡素化し、拡散を加速させると警告した。彼は、偽情報はいかなる訂正よりも速く広まり、政府がこのようなツールの存在を根拠に、本物の衛星画像を捏造されたものとして退けることができるようになると指摘した。
Googleは当初、生成されたすべての画像にSynthIDウォーターマークが付与されており、Geminiなどの互換ツールでAI生成品としてフラグが立つと指摘して懸念を軽視していた。同社はまた、有害なトピックでの作成をブロックしているとも述べた。批判者はこれらの対策では不十分であり、画像をオンラインで共有する前に確認する人はほとんどいないと主張した。SynthIDはGoogle自身の製品以外ではまだ広くサポートされておらず、コンテンツ出典証明標準（C2PA）などのより広範な業界団体の取り組みもまだ導入初期の段階にある。
今回の撤回は、企業が信頼される消費者向け製品に生成AI機能を急いで搭載しようと競争する中での、テック業界全体の緊張関係を浮き彫りにしている。ソーシャルプラットフォーム上のAI生成写真やロボコールの合成音声に関する同様の懸念も浮上しており、米国や欧州連合の立法者にラベル付け義務やより厳格なディープフェイク規制の推進を促している。
Googleは、より厳格な保護措置を実装した後にのみGoogle Earthでの画像生成を再開すると述べたが、時期については明示しなかった。