Google因深度伪造担忧在上线仅一天后从Google Earth撤下AI图像生成功能
要点速览
- •Google于2026年7月31日从Google Earth撤下AI图像生成功能,距发布仅一天,理由是政策违规和滥用担忧。
- •记者和研究人员展示了该工具可以轻易捏造从未发生的重大事件的逼真卫星图像,包括洛杉矶的爆炸坑和被淹没的美国国会大厦。
- •开源调查员Henk van Ess证实,涉及难民和核设施的敏感提示未被该工具的安全措施拦截。
- •Google的SynthID水印和内容过滤器被批评者认为不足,因为SynthID在Google自身产品之外未得到广泛支持,且很少用户在分享图像前进行验证。
- •此次下架反映了将生成式AI整合到受信任的消费产品中这一更广泛的行业挑战,同时美国和欧盟面临日益增长的深度伪造标签和更严格监管的立法压力。

Google在发布仅一天后便从Google Earth移除了新的AI图像生成功能,此前记者和开源调查人员迅速发出强烈反对,警告该工具可能被用于制造令人信服的虚假卫星图像。
该公司于7月30日推出了该功能,允许Google Earth网页版用户缩放至任何地点,点击"创建图像",并使用Google的Nano Banana模型通过文本提示生成场景。到7月31日,该功能已被完全下架。
Google在一份发布于X的声明中表示,人们"独特地信任Google Earth能提供世界的真实景象。"该公司指出,虽然地理空间专业人士已为该工具找到了有用的应用,但也有人一直在分享似乎违反其政策的生成图像。Google表示,正在回退该功能的同时构建更强的防护措施,但未提供恢复的时间表。
Re: our statement on Image Generation in Google Earth: "We know that people uniquely trust Google Earth for a reliable view of the world. We've seen geospatial professionals using this feature for a range of useful purposes, however we've also seen people sharing screenshots of… — News from Google (@NewsFromGoogle) July 31, 2026
记者和研究人员迅速展示了该工具可以多么轻易地捏造从未发生过的事件。科技媒体404 Media展示了该工具可以生成洛杉矶的爆炸坑图像,以及在Google自己的山景城总部外聚集的抗议者图像。NPR生成了伊朗哈尔克岛着火和美国国会大厦被淹没的图像——如果这些场景是真实的,都将成为重大新闻。
开源研究员Henk van Ess告诉NPR,他测试了包括墨西哥边境难民和伊朗核电站在内的提示,并表示他的所有请求都没有被拒绝。
Tonight I typed just one sentence into Google Earth and put refugees near the Mexican border. Then I planted a nuclear plant in Iran. What on earth is Google doing? Check my latest post here: pic.twitter.com/WSjdcEXWJx — 𝚑𝚎𝚗𝚔 𝚟𝚊𝚗 𝚎𝚜𝚜 (@henkvaness) July 30, 2026
卫星图像长期以来一直是核实突发新闻和记录暴行的可信依据,正是因为它难以伪造。Bellingcat研究员Jake Godin警告说,一键生成图像将简化伪造过程并加速其传播。他指出,错误信息通常比任何更正传播得更快,各国政府现在可以利用此类工具的存在,将真实的卫星图像斥为伪造。
Google最初淡化了这些担忧,指出每张生成的图像都带有SynthID水印,可在Gemini等兼容工具中将其标记为AI生成。该公司还表示,它会阻止有关有害主题的创作。批评者认为这些措施不够充分,指出很少有人在网上分享图像前会停下来进行验证。SynthID在Google自身产品之外尚未得到广泛支持,更广泛的行业努力——如建立通用内容来源标准的"内容来源和真实性联盟"(C2PA)——仍处于早期采用阶段。
此次下架凸显了科技行业更广泛的紧张局势——各公司竞相将生成式AI功能推向受信任的消费产品。类似的担忧也出现在社交媒体平台上的AI生成照片和自动语音电话中的合成声音方面,促使美国和欧盟的立法者推动标签要求和更严格的深度伪造法规。
Google表示,只有在实施更严格的保护措施后才会恢复Google Earth中的图像生成功能,但未提供时间表。