新聞宏觀經濟美國250年來對信任的全部押注正面臨新一輪AI壓力測試

美國250年來對信任的全部押注正面臨新一輪AI壓力測試

作者: Fortune Crypto·

重點速覽

  • Arup的一名財務員工在參加一場所有高階主管均為合成深度偽造影像、傳達虛假指令的視訊會議後,轉帳了2,560萬美元。
  • 星巴克在部署僅九個月後便悄悄停用了AI庫存系統,因為咖啡師反映該系統計算錯誤且阻礙了工作。
  • 2024年通過的《歐盟AI法案》對高風險AI系統施加分層義務,而NIST於2023年發布了自願性的《AI風險管理框架》以評估可靠性和問責性。
  • FBI已多次警告,網路犯罪分子正在將生成式AI武器化,用於商業電子郵件詐騙、釣魚攻擊和合成媒體詐欺。
  • 一項IMF分析估計,嚴重的地緣經濟碎片化可能使全球產出減少多達7個百分點,凸顯了信任赤字的經濟利害關係。
美國250年來對信任的全部押注正面臨新一輪AI壓力測試

全球設計公司Arup的一名財務員工在加入一場由高階主管合成影像組成的視訊會議後,轉帳了2,560萬美元。那些面孔看起來真實。那些聲音聽起來真實。那些指令卻是虛假的。

這起事件並非孤立的警訊。星巴克在部署僅九個月後便悄悄停用了一套AI庫存系統,原因在於咖啡師反映該系統計算錯誤且拖慢了工作進度。勤業眾信澳洲分所同意就一份29萬美元的AI輔助報告向政府部分退款,該報告引用了不存在的學術來源並包含捏造的法庭引述。不同的產業,不同的技術,但根本的失敗相同:人們無法信任產出結果、身分或系統。監管機構也已密切關注:2024年正式通過的《歐盟AI法案》對高風險AI系統施加了分層義務,而美國國家標準暨技術研究院則於2023年發布了《AI風險管理框架》,為組織提供評估可靠性和問責性的自願性基準。

信任正成為一種經濟基礎設施。無法建立信任的公司將行動更慢、支出更多、流失市場。當信任穩固時,資本流通、夥伴關係形成、企業得以擴展。當信任崩潰時,交易放緩、合規與保險成本上升、領導者退避風險。

信任不是盲目信仰。它是贏得的信心——對事實為真、身分可靠、系統安全、合約將被履行、以及出錯時有人承擔責任的信心。用商業術語來說,信任減少摩擦。用戰略術語來說,它創造速度。

美國最初的信任押注

在美國慶祝建國250週年之際,值得銘記的是,信任並非建國的附註。它就是那場押注。在本「自由與企業」系列的前三篇文章中,我將《獨立宣言描述為美國的第一個建國賭注》、其建立的制度描述為讓人們自由建設的體系,並將失敗的自由描述為我們最大的競爭優勢之一。在這三者之下,潛藏著一個更根本的原則:美國信任自由的人民能夠自治、承擔風險、履行承諾,並建立足夠強健的機構來承受分歧。

在歷史大部分時間裡,秩序是自上而下強加的,因為統治者不信任普通人民擁有權力。《獨立宣言》顛覆了這一邏輯。其簽署者以生命、財產和神聖的榮譽宣誓,不僅是為了拒絕一位國王,更是為了信任他們永遠不會遇見的公民和永遠不會看到的世代。這份信任轉化為經濟優勢:創業者無需皇家許可即可創業,投資者因為產權和合約受到保障而敢於支持創新構想,人才能夠憑藉實力出頭。這個體系並不完美,但其自我修正和重建信心的能力,成為了美國最強大的優勢之一。

AI是新的壓力測試

如今,人工智慧正在即時測試美國的信任能力。AI可以加速科學、製造、醫學、物流和生產力的發展。它也能捏造令人信服的假象、克隆高階主管的聲音、做出不透明的決策,並以驚人的速度自動化錯誤。FBI已多次警告,網路犯罪分子正在將生成式AI武器化,用於商業電子郵件詐騙、釣魚攻擊和合成媒體詐欺——正是讓Arup損失2,560萬美元的同類攻擊。

解決方案不是停止AI,而是將信任融入其中:可靠的資料、可追溯的來源、強健的身分驗證機制、獨立測試、人類問責、明確的規則,以及系統失靈時有意義的救濟途徑。沒有信任的創新止步於試驗階段。有信任的創新則成為基礎設施。

美國與中國在AI領域的戰略競爭,不僅僅是個別模型之間的競賽。它是整個創新體系之間的競爭:人才、研究、資本、安全的基礎設施、強韌的供應鏈、盟友採用和商業上更優越的產品。贏得最大信心的生態系統將吸引最多的建設者、買家、合作夥伴和投資。

信任赤字也會導致市場碎片化。一項IMF分析估計,嚴重的地緣經濟碎片化可能使全球產出減少多達7個百分點。這不是孤立主義的論點,而是清晰化的論點。這正是我此前在Fortune中主張每個董事會都應制定中國應急計劃的原因。每家公司都應了解自己依賴什麼、由誰控制、其資料和技術是否值得信任,以及如果一夜之間失去存取權限會發生什麼。

信任必須被設計

我在商界學到這個原則,早於在外交領域接觸到它。在Ariba,我們將採購從紙本和封閉系統轉移到全球數位網路。在DocuSign,我們請人們用手寫簽名換成數位協議。這兩項轉型都無法僅靠技術實現規模化。身分驗證、安全性、可靠性、可執行性和問責性必須從一開始就被融入產品之中。

在擔任美國國務次卿期間,我領導確保全球5G網路安全的工作,看到了同樣的原則。核心問題不僅是誰能最快或最便宜地建造網路,而是誰能被信任來承載跨越商業、金融、醫療、能源、交通和國防的敏感資料。這個問題成為了清潔網路的基礎,該倡議最終涵蓋了60個國家,代表了近三分之二的全球GDP和超過200家電信公司。

同樣的原則如今也指引著科技外交研究所(Krach Institute for Tech Diplomacy)的全球可信科技網路。對於CEO和董事會而言,信任必須被視為一門管理學科,而非公關宣傳。每個領導團隊都應能夠回答四個問題:我們能否驗證誰在發出指令?我們能否追溯資料和AI產出的來源?我們是否了解關鍵技術和供應鏈依賴?系統失靈時問責是否明確?如果任何一個答案是否定的,公司面臨的不僅是聲譽問題,而是營運風險。

美國的下一個250年

美國此前曾重建過信任——不完美地,且經歷了奮鬥。美國體系的天才之處不在於永不中斷的信任,而在於透過透明度、問責制、競爭、法治、新聞自由和自治來修復信任的能力。

這項工作是Freedom 250使命的一部分:不僅是紀念建國,更是更新使美國實驗成為可能的原則。開國先賢將他們冒一切風險創建的國家託付給了後代世代。這份責任現在屬於我們。

當事實可以被驗證、身分可以被認證、合約被履行、領導者贏得信心、機構服務公眾、公民彼此保持信任時,自由才能持續。

在AI時代,信任不是創新的替代方案。它是讓創新得以規模化的條件。美國的未來不會靠以控制取代信任來保障,而是靠重新贏得信任。250年前,美國將一切押注於信任。我們必須讓這場押注再次獲得回報。

自由只有在信任運作時才能發揮作用。

Fortune.com評論文章所表達的觀點僅代表作者個人立場,不一定反映Fortune的意見和信念。

本文最初刊登於Fortune.com