新聞股票Google 因深度偽造疑慮在推出一天後從 Google Earth 撤下 AI 圖像生成工具

Google 因深度偽造疑慮在推出一天後從 Google Earth 撤下 AI 圖像生成工具

作者: Decrypt·

重點速覽

  • Google 於 2026 年 7 月 31 日撤回了 Google Earth 的 AI 圖像生成功能,距離發布僅一天,理由是政策違規和濫用疑慮。
  • 記者和研究人員展示該工具可以輕易捏造從未發生的重大事件的逼真衛星圖像,包括洛杉磯的爆炸坑洞和被淹沒的美國國會大廈。
  • 開源調查員 Henk van Ess 確認,涉及難民和核設施的敏感提示未被該工具的防護機制攔截。
  • Google 的 SynthID 浮水印和內容過濾器被批評者認為不足,因為 SynthID 未在 Google 自家產品之外廣泛支援,且極少數用戶在分享圖像前進行驗證。
  • 此次撤回反映了將生成式 AI 整合至受信任消費產品的更廣泛行業挑戰,美國和歐盟面臨越來越大的監管壓力,要求對深度偽造進行標籤和更嚴格的監督。
Google 因深度偽造疑慮在推出一天後從 Google Earth 撤下 AI 圖像生成工具

Google 在發布僅一天後便從 Google Earth 移除了一項新的 AI 圖像生成功能,此前記者和開源調查人員迅速提出反對,警告該工具可能被用來製造令人信服的假衛星圖像。

該公司於 7 月 30 日推出此功能,允許 Google Earth 網頁版用戶放大至任何位置,點擊「建立圖像」,然後使用 Google 的 Nano Banana 模型從文字提示生成場景。到 7 月 31 日,該功能已被完全撤下。

Google 在一份發布於 X 的聲明中表示,人們「獨特地信任 Google Earth 能提供世界的真實視角」。該公司指出,雖然地理空間專業人士已找到該工具的實際應用,但其他人一直在分享似乎違反其政策的生成圖像。Google 表示正在回退該功能,同時建立更強的防護機制,但未提供恢復時間表。

Re: our statement on Image Generation in Google Earth: "We know that people uniquely trust Google Earth for a reliable view of the world. We've seen geospatial professionals using this feature for a range of useful purposes, however we've also seen people sharing screenshots of… — News from Google (@NewsFromGoogle) July 31, 2026

記者和研究人員迅速展示了該工具有多麼容易捏造從未發生過的事件。科技媒體 404 Media 展示該工具可以生成洛杉磯出現爆炸坑洞的圖像,以及在 Google 自身山景城總部外聚集的抗議者。NPR 生成描繪伊朗哈爾克島起火和美國國會大廈被淹沒的圖像——如果屬實,這兩個場景都將成為重大新聞。

開源研究員 Henk van Ess 告訴 NPR,他測試了包括墨西哥邊境難民和伊朗核電廠在內的提示,並表示他的所有請求都沒有被拒絕。

Tonight I typed just one sentence into Google Earth and put refugees near the Mexican border. Then I planted a nuclear plant in Iran. What on earth is Google doing? Check my latest post here: pic.twitter.com/WSjdcEXWJx — 𝚑𝚎𝚗𝚔 𝚟𝚊𝚗 𝚎𝚜𝚜 (@henkvaness) July 30, 2026

衛星圖像長期以來一直是驗證突發新聞和記錄暴行的可信依據,正是因為它難以偽造。Bellingcat 研究員 Jake Godin 警告,一鍵生成圖像將簡化造假流程並加速其傳播。他指出,錯誤資訊的傳播速度通常快於任何更正,各國政府現在可能會以此類工具的存在為由,將真實的衛星圖像斥為偽造。

Google 最初淡化了這些擔憂,指出每張生成的圖像都帶有 SynthID 浮水印,可在 Gemini 等相容工具中將其標記為 AI 生成。該公司還表示會阻止有害主題的創建。批評者稱這些措施不足,認為極少數人在網路上分享圖像之前會停下來驗證。SynthID 尚未在 Google 自家產品之外獲得廣泛支援,而更廣泛的行業建立通用內容來源標準的努力,例如內容來源與真實性聯盟(C2PA),仍處於早期採用階段。

此次撤回突顯了科技行業更廣泛的緊張局勢,各公司競相將生成式 AI 功能推向受信任的消費產品。社交平台上 AI 生成的照片和 robocall 中的合成語音也引發了類似擔憂,促使美國和歐盟的立法者推動標籤要求和更嚴格的深度偽造法規。

Google 表示,只有在實施更嚴格的防護措施後才會在 Google Earth 中恢復圖像生成功能,但未提供時間表。