Google 在用戶展示其能夠生成高度逼真但虛構的真實地點衛星影像後，已從 Google Earth 撤除新推出的 AI 功能，這是該公司近年來最快的產品撤回之一。

該撤回措施在功能公開發布不到 24 小時後即實施。用戶迅速開始分享 AI 生成的衛星影像，描繪了從軍事設施到災區的各種場景，引發了該工具可能被用來傳播虛假資訊或扭曲公眾認知的警報。

該功能直接整合至 Google Earth，允許用戶透過文字提示對現有地點生成逼真的修改版本。該系統並非從零開始創建虛構景觀，而是將真實的衛星影像轉換為全新的視覺場景，其外觀與真實的空拍照片極為相似。

在發布數小時內，用戶即展示了該工具如何偽造顯示衝突破壞、軍事基礎設施、難民營和環境災難的影像。雖然生成的影像帶有 AI 浮水印，且未納入 Google 的官方公共衛星圖層，但截圖在社群媒體平台上迅速傳播，引發了該內容可能被脫離原始語境並被誤認為真實衛星照片的擔憂。

Coin Bureau 在 X 上的帳號轉發了此事，引起了科技和加密貨幣社群的額外關注。該貼文可在 x.com/coinbureau/status/2083412734881022176 找到。

Google 隨後確認了撤回措施，並表示正在實施更強的安全防護。

在一份公開聲明中，該公司承認用戶對 Google Earth 作為真實世界準確呈現的高度信任。Google 指出，雖然在地理空間專業人士中觀察到了該技術的寶貴應用，但也發現了一些似乎違反公司政策的生成影像範例。因此，公司決定在開發額外保護措施的同時暫時停止該功能。

網路安全研究人員、新聞記者和開源情報（OSINT）調查員是最早提出擔憂的群體之一，他們警告將生成式 AI 嵌入全球最受信任的地圖平台之一，可能會損害對地理空間資料的信心。

受壓的信任平台

圍繞 Google Earth 的擔憂與以往許多 AI 爭議不同，因為該平台在準確性方面享有長期的聲譽。多年來，新聞記者、人道救援組織、環境研究人員、學術機構、政府和 OSINT 調查員一直依賴 Google Earth 來分析真實世界的事件。

該平台的衛星影像支援了對自然災害、武裝衝突、基礎設施建設、環境變化和人道危機的調查。例如，在俄烏戰爭期間，商業衛星影像和 Google Earth 等平台成為新聞記者和分析師即時驗證軍隊動態、損害評估和戰場發展的重要工具。正因為這一聲譽，專家認為在如此受信任的環境中引入 AI 生成的視覺操控，需要特別嚴格的安全防護。

開源情報專家嚴重依賴真實的衛星影像來驗證全球各地的事件。透過比較歷史影像、地理特徵、基礎設施變化和環境條件，調查員得以重建時間線或確認來自衝突地區和災區的報告。如果逼真的偽造影像開始廣泛流傳——即使在 Google 的官方平台之外——這些驗證過程可能會變得更加困難。

安全研究人員警告，令人信服的虛假衛星影像可能被用於虛假資訊活動、金融市場操縱、地緣政治宣傳或社群媒體造謠行動。顯示軍事活動、基礎設施損壞、工業事故或環境災難的虛假影像可能在獨立驗證成為可能之前就迅速傳播。

浮水印的局限性

雖然 Google 強調 AI 生成的影像明確標有浮水印，且從未出現在 Google Earth 的核心體驗中，但批評者指出，在平台外分享的截圖可能會失去關鍵的語境資訊。影像可以被裁剪、壓縮、編輯或在多個平台上重新發布，使觀看者難以判斷其原始來源。Google 另行開發了 SynthID，這是一種難以察覺的浮水印技術，旨在識別 AI 生成的影像和音訊，但這類浮水印是否能經受裁剪或重新編碼等常見的影像操控方式，仍是一個開放性的問題。

內容來源與真實性聯盟（C2PA），其成員包括 Google、Adobe、Microsoft 等主要科技公司，一直在開發將加密簽署的來源資料附加到數位媒體的技術標準。然而，此類標準在各平台上的採用仍然不均勻，批評者指出，當影像透過截圖和轉發流傳時，來源元資料可能被移除或被忽略。

許多專家認為，未來的 AI 系統將需要多層保護，包括更嚴格的存取控制、語境揭露、使用限制、元資料保存和更先進的偵測技術。

此次迅速撤回突顯了隨著生成式 AI 能夠產生高度逼真的視覺內容，科技公司面臨著日益複雜的挑戰。現代 AI 模型現在可以創建逼真的照片、影片、音訊錄音和插圖，這些內容通常難以與真實媒體區分。雖然這些能力在設計、娛樂、教育、工程和科學研究領域創造了重大機遇，但也引入了與虛假資訊和數位操控相關的新風險。

創新與責任的平衡

這一爭議也反映了關於創新與責任之間平衡的日益激烈的辯論。許多地理空間專業人士最初歡迎該功能，因為它提供了合理的應用場景。建築師、都市規劃師、環境研究人員、緊急管理機構和基礎設施開發商可以利用 AI 生成的視覺化來模擬建設專案、模擬環境情境或展示未來規劃概念。

然而，使生產性應用成為可能的靈活性同時也創造了被濫用的機會。與純創意影像生成平台不同，Google Earth 占據了一個獨特的位置，作為一個廣受信任的參考工具。數百萬用戶依賴該平台來觀察真實的地理條件，而非想像的場景。

科技公司日益面臨如何在最大化創新的同時最小化意外後果的艱難決策。對於與權威資訊相關的產品而言，這一挑戰尤為嚴峻。

更廣泛的產業影響

此事件加劇了整個科技產業對真實性的討論。在過去一年中，主要科技公司已在搜尋引擎、生產力軟體、社群媒體平台、地圖服務和創意應用中引入了大量 AI 驅動的功能。同時，監管機構和研究人員呼籲制定更強的透明度標準來規範 AI 生成的內容。

歐盟的《人工智慧法案》於 2024 年生效，其中包含了對某些 AI 系統提供者的義務要求，確保 AI 生成的內容可被偵測和標記，這些條款與 Google Earth 功能這類案例直接相關。其他司法管轄區（包括美國）也正在探索類似的合成媒體透明度要求。

多國政府正在評估與 AI 標記、合成媒體揭露、浮水印要求和誤導性數位內容問責相關的政策。Google Earth 的案例可能會成為影響這些持續政策討論的另一個範例。

人工智慧研究人員指出，這一挑戰遠不止於衛星影像。隨著 AI 模型持續改進，類似的擔憂也適用於新聞攝影、金融文件、科學插圖、醫學影像和其他真實性至關重要的視覺資訊形式。

接下來的發展

對 Google 而言，迅速撤回表明了在意外風險出現時快速回應的意願。雖然該公司在其產品中大量投資人工智慧，但也強調了負責任地部署 AI 的重要性。暫停該功能的決定表明，Google 打算在考慮未來重新推出之前加強安全防護。

產業分析師認為，這些防護措施可能包括更嚴格的提示過濾、擴大的內容限制、增強的浮水印系統、改善的元資料保護、更強的用戶驗證要求，或對涉及敏感地點的影像生成施加限制。該公司尚未宣布該功能何時或是否會回歸。

此事件也提醒我們，即使是高度先進的 AI 技術仍然是進行中的工作。儘管影像生成品質已有顯著改善，但公司仍在持續了解用戶如何在真實環境中與這些系統互動。意料之外的濫用形式往往只在產品公開發布後才浮現，需要開發者相應地調整政策和技術保護措施。

對新聞記者、研究人員和調查員而言，此事件凸顯了在得出結論之前驗證視覺證據的重要性。隨著生成式 AI 越來越有能力產生逼真的內容，傳統的驗證方法可能需要額外的分析層次，包括元資料檢查、與獨立影像交叉比對、地理定位技術，以及來自多個可信來源的確認。

最終，Google 的決定突顯了隨著人工智慧被整合到全球數百萬人依賴的產品中，科技公司面臨的日益增長的責任。未來 AI 驅動的地理空間工具的成功，可能不僅取決於技術能力，還取決於維護用戶對旨在記錄真實世界的平台的信任。