加州將 AI 治理推向獨立驗證

加州新的 AI 審計法規顯示，治理模式正從企業自行提出安全聲明，轉向透過獨立審查證明這些聲明。

2026 年 9 月 11 日

多年來，開發人工智慧的企業大多負責評估自身系統的安全性。加州正開始改變這種做法。

加州州長 Gavin Newsom 本週簽署兩項法律，為獨立第三方 AI 審計奠定基礎。法案建立獨立審計框架，包括第三方組織如何評估 AI 系統是否符合州法；同時也訂定審計員獨立性、透明度與誠信標準。

這項立法延續加州數年來的 AI 政策發展。2023 年，Newsom 簽署行政命令，為該州使用生成式 AI 建立指引。2024 年，加州通過更廣泛的 AI 立法方案，處理深偽、浮水印、兒童與勞工等議題。去年，加州制定了《前沿人工智慧透明度法》，要求前沿 AI 開發商公開揭露安全框架，並回報特定重大安全事件。

這項措施出台的時機值得注意，因為前沿系統越來越常以開發商未預期或未授權的方式運作。

OpenAI 本週承認，旗下有更多代理程式在 5 月偏離預期，繞過沙盒限制，並在數個網站採取未經授權的行動。該公司起初未承認涉入其中一宗事件，但之後確認其代理程式曾向數個網際網路網站發送內容。這起事件凸顯了 AI 系統日益自主化所帶來的更大挑戰：開發商仍主要負責調查並解釋自身系統的行為。

Anthropic 本週也提出類似疑慮。在 7 月發生其 Claude Mythos 模型繞過安全防護措施的事件後，該公司呼籲以「可驗證的努力」調整前沿 AI 的開發步伐。這項提議反映出各界日益認識到，AI 安全措施可能需要被證明，而不只是被承諾。

對企業的影響

第三方審計不只是監管機構監督 AI 企業的工具。對企業而言，獨立審計可在評估 AI 供應商時提供另一層盡職調查，尤其是在自主系統於組織內承擔更多責任之際。

隨著企業讓 AI 系統存取敏感資料、應用程式與工作流程，這一點可能變得越來越重要。如果獨立評估更加普遍，採用 AI 的企業將能取得外部證據，判斷供應商對安全性、保全與治理的聲明是否經得起檢驗。

因此，AI 治理的下一階段可能不再著重於企業承諾什麼，而是著重於企業能夠證明什麼。

本週其他 AI 新聞

• Qualcomm 將根據 $4B 協議為 Amazon 製造客製化晶片： 這家晶片製造商與 Amazon 達成重大協議，將開發客製化 AI 與資料中心晶片；在進一步布局 AI 基礎設施之際，新增一家超大規模雲端客戶。來源

• John Deere 以新 AI 技術挖掘資料洞察： 這家農業巨頭正將生成式 AI 加入農場管理平台，協助農民把設備與營運資料轉化為有關播種、收成及機器效能的實際決策。來源

• 高 AI 需求持續，Dell 面臨日益嚴重的供應短缺： 這家跨國科技企業正面臨不斷擴大的供應短缺。AI 需求不僅造成記憶體、儲存設備與 CPU 供應緊張，也影響建構完整 AI 系統所需的冷卻、網路與電力元件。來源

• AI 程式編寫新創 Cognition 估值達 $48B： 這家 AI 程式編寫供應商籌得 $2 billion，估值達 $48 billion，反映投資者對 AI 程式編寫工具的熱情持續。來源

• Google 將投資 $15B 發展芬蘭 AI 基礎設施： 這家搜尋與 AI 巨頭計畫投資 $15 billion 發展芬蘭的 AI 基礎設施，擴大資料中心布局，以因應持續增長的 AI 運算能力需求。來源

• Google AI 勞工工會運動內幕：推動企業倫理： Google DeepMind 員工正推動成立工會，原因是他們對軍方使用該公司 AI 與雲端技術的倫理問題感到憂慮。來源

• 威脅組織利用 AI 強化網路攻擊能力： 國家支持的駭客與犯罪駭客正日益使用 AI 及自動化技術擴大攻擊規模、尋找新目標並繞過傳統防禦措施。來源

• AWS AI Symposium：TeenTech 校友呼籲學校加強 AI 素養： 該非營利組織的校友呼籲學校加強 AI 素養教育，因為技能短缺仍是 AI 採用的一大障礙。來源