新闻宏观经济美国250年前押注于信任,如今这一押注正面临新的AI压力测试

美国250年前押注于信任,如今这一押注正面临新的AI压力测试

作者: Fortune Crypto·

要点速览

  • Arup的一名财务员工在参与一场视频通话后转账了25.6 million美元,通话中的所有高管都是合成的深度伪造形象,所发出的指令也是虚假的。
  • 星巴克在部署仅九个月后就悄然停用了一个AI库存系统,因为咖啡师反映它会错误统计产品数量并妨碍工作。
  • 2024年通过的欧盟AI法案对高风险AI系统施加分级义务,而NIST于2023年发布了自愿性的AI风险管理框架,用于评估可靠性和问责性。
  • FBI已多次警告,网络犯罪分子正在将生成式AI武器化,用于商业电子邮件欺诈、网络钓鱼和合成媒体诈骗。
  • 国际货币基金组织的一项分析估计,严重的地缘经济碎片化可能使全球产出减少多达7%,凸显了信任缺失的经济代价。
美国250年前押注于信任,如今这一押注正面临新的AI压力测试

全球设计公司Arup的一名财务员工在加入一场由高管合成影像组成的视频通话后,转账了25.6 million美元。那些面孔看起来是真的,声音听起来也是真的,但指令是假的。

这并不是一起孤立的警示。星巴克在部署仅九个月后就悄然停用了一个AI库存系统,此前咖啡师反映该系统会错误统计产品数量并拖慢工作。德勤澳大利亚成员所同意就一份价值290,000美元的AI辅助报告部分退还政府款项,该报告引用了并不存在的学术来源,并包含一段伪造的法院引语。行业不同,技术不同,但失败的根源相同:人们无法信任输出、身份或系统。监管机构已经注意到这一点:2024年正式通过的欧盟AI法案对高风险AI系统施加分级义务,而美国国家标准与技术研究院于2023年发布AI风险管理框架,为组织评估可靠性和问责性提供自愿基线。

信任正成为一种经济基础设施。无法将其工程化构建起来的公司,将行动更慢、支出更多,并失去市场。当信任稳固时,资本流动、合作形成、企业扩张;当信任破裂时,交易放缓、合规与保险成本上升,领导者会退避风险。

信任并非盲目信念。它是经过赢得的信心——相信事实真实、身份可信、系统安全、合同会被履行,以及在出现问题时会有人承担责任。从商业角度看,信任降低摩擦;从战略角度看,信任创造速度。

美国最初的信任押注

随着美国迎来250周年,我们应当记住,信任并不是建国叙事中的旁注。它本身就是那场押注。在这组Freedom & Enterprise系列文章的前三篇中,我将《独立宣言》描述为美国最初的建国押注,将其建立的制度描述为一种让人们自由建设的体系,并将失败的自由视为我们最大的竞争优势之一。这三者之下有一个更根本的原则:美国信任自由的人自我治理、承担风险、履行承诺,并建立足够强大的制度来承受分歧。

在大多数历史时期,秩序都是自上而下强加的,因为统治者不相信普通人拥有权力。独立宣言扭转了这一逻辑。签署者不仅以生命、财富和神圣荣誉来拒绝国王,也是在信任他们永远不会见到的公民,以及他们永远不会看到的世代。那份信任转化为经济优势:企业家无需王室许可即可创业,投资者可以支持创意,因为财产权和合同具有意义,而人才也能凭能力上升。这个体系并不完美,但其自我修正、重建信心的能力,成为美国最强大的力量之一。

AI 是新的压力测试

今天,人工智能正在实时测试美国维持信任的能力。AI可以加速科学、制造、医疗、物流和生产率;它也可以制造极具迷惑性的虚假信息、克隆高管声音、做出不透明决策,并以惊人的速度自动化错误。答案不是停止AI,而是把信任设计进AI:可靠数据、可追溯来源、强身份控制、独立测试、人类问责、清晰规则,以及在系统失效时有意义的救济途径。没有信任的创新会停留在试点阶段;有信任的创新会成为基础设施。

美国在AI领域与中国的战略竞争,不只是单个模型之间的竞赛,而是整个创新体系之间的竞争:人才、研究、资本、安全基础设施、韧性供应链、盟友采用以及商业上更优的产品。赢得最高信任的生态系统,将吸引最多的建设者、买家、合作伙伴和投资。

信任赤字也会使市场碎片化。国际货币基金组织的一项分析估计,严重的地缘经济碎片化可能使全球产出减少多达7%。这不是主张孤立,而是主张清晰。正因如此,我此前在Fortune上提出,每个董事会都应拥有一份中国应急预案。每家公司都应清楚自己依赖什么、由谁控制、其数据和技术是否可信,以及一旦访问在一夜之间消失会发生什么。

信任必须被设计出来

我是在商业中先学到这一点,后来才在外交中再次见到它。在Ariba,我们把采购从纸面和封闭系统迁移到全球数字网络。在DocuSign,我们要求人们用数字协议取代手写签名。这两场转型都不可能仅靠技术本身实现规模化。身份、安全、可靠性、可执行性和问责性必须从产品一开始就被设计进去。

在担任美国常务副国务卿、推动保障全球5G网络安全时,我也看到了同样的原则。核心问题不仅是谁能最快或最便宜地建设网络,而是谁值得被信任来承载横跨商业、金融、医疗、能源、交通和国防的敏感数据。这个问题成为清洁网络的基础,该网络发展到覆盖60个国家,代表了全球近三分之二的GDP,以及200多家电信公司。

同样的原则如今也指导着Krach Institute for Tech Diplomacy旗下的Global Trusted Tech Network。对首席执行官和董事会而言,信任必须被视为一项管理纪律,而不是一场传播活动。每个领导团队都应能回答四个问题:我们能否核实发出指令的人是谁?我们能否追溯数据和AI输出的来源?我们是否了解关键技术和供应链依赖?当系统失效时,问责是否明确?如果其中任何一个问题的答案是否定的,那么公司面临的就不仅是声誉问题,而是运营风险。

美国接下来的250年

美国过去也重建过信任,尽管并不完美,而且历经艰难。美国制度的精妙之处并不在于信任从未破裂,而在于它能够通过透明、问责、竞争、法治、自由媒体和自治来修复信任。

这也是Freedom 250使命的一部分:不仅纪念建国,更要更新那些让美国实验成为可能的原则。建国者将他们愿意赌上一切才创建的国家托付给了后代。如今,这份责任属于我们。

当事实可以核实、身份可以认证、合同得到履行、领导者赢得信心、机构服务公众、而公民彼此守信时,自由才能延续。

在AI时代,信任不是创新的替代品,而是让创新得以规模化的条件。美国的未来不会通过用控制取代信任来保障,而是通过再次赢得信任来保障。250年前,美国把一切都押在信任上。我们必须让这场押注再次获得回报。

自由只有在信任存在时才会有效。

Fortune.com评论文章中表达的观点仅代表作者本人,不一定反映Fortune的观点与立场。

本故事最初发表于Fortune.com