下一场AI竞赛不只关乎能力,更关乎协同
要点速览
- •智能体AI可以在有限人工参与下从检测走向决策和行动,这增加了明确访问权限、授权范围和人工监督的必要性。
- •网络风险可能通过供应商、共享云服务和其他互连基础设施传播,超出组织可直接控制的范围。
- •不同的监管、控制措施和风险阈值使跨境问责与协调式事件响应更加困难。
- •新加坡国际网络周和GovWare为政府、科技公司和企业在AI安全与网络风险上达成更大一致提供了论坛。
- •Anthropic和一位OpenAI科学家均表示,出于安全考虑可能需要协调放缓先进AI开发,但在竞争环境中这种合作仍然困难。

全球竞相开发更先进人工智能的进程,在很大程度上被定义为一场能力的较量——比拼谁能构建最聪明的模型、部署最能干的智能体、率先抵达下一个前沿。但网络安全正在说明,能力只是等式的一部分,GovWare首席执行官Richard Ireland在为BusinessWorld撰写的评论文章中写道。
AI正在提升识别漏洞、发动攻击和采取防御行动的速度,而大规模投资并不能消除风险敞口。最新研究发现,尽管83%的网络安全负责人正在增加投入,但过去一年中近九成组织曾遭遇网络攻击。
这一挑战日益超越任何单一组织的防御边界,延伸到组织之间的连接之上。企业可以在自身防御上重金投入,政府可以强化国家级保障,技术供应商可以推出更严格的控制措施。然而,现代数字系统依赖于互连的基础设施、供应商、云平台和服务,它们很少归属于单一组织或司法管辖区。随着网络活动加速并日趋自主,跨越这些边界进行协同的能力,可能与在边界之内进行防御的能力同等重要。
当机器速度遇上组织边界
智能体系统抬高了风险,因为它们可以在更少人工干预的情况下从信号走向决策再到行动。挑战不仅在于组织赋予AI智能体多大的权限,还在于当其行动越过组织边界、进入他人控制的系统、数据和基础设施时会发生什么。
AI智能体也是不断扩大的非人类身份体系的一部分,从应用程序、自动化服务到跨数字环境交互的机器账户,不一而足。随着其自主性提升,组织需要更清晰的边界,明确它们可以访问什么、可以采取哪些行动,以及在何处仍需人工干预。
当活动跨越组织边界时,问责变得更加困难。即使彼此的系统相互依赖,不同组织也可能在各自的控制措施、监管规则和风险阈值下运行。在机器速度下,发现问题只是响应的一部分。信息能多快共享、责任能多快厘清、协同行动能多快展开,同样至关重要。
AI竞赛本身就提供了一个有益的教训。Anthropic已表示,如果竞争对手同样行动,它对协调暂停先进AI开发持开放态度。同样,OpenAI的首席科学家警告称,AI发展如此迅速,人类越来越难以理解和控制它,并预计领先AI实验室出于安全原因将自愿放缓开发。综合来看,这些信号指向一个超越任何单一公司的挑战:在竞争环境中,如果其他人继续前行,保持更大的谨慎就会变得更加困难。
网络安全面临着同样的挑战。单个组织可以强化自身姿态,但共同的风险需要共同的准备。
网络风险不会止步于组织边界
网络安全已经从一个专业的技术议题演变为关乎业务连续性、关键基础设施、供应链、金融体系和公众信任的全经济性问题,而智能体AI正在加速这一演变。强大的组织防御仍然必不可少,但它们无法完全应对通过共享基础设施、第三方或跨境技术生态系统传播的风险。一家被攻陷的供应商、共享云服务或关键技术提供商,可能波及对事件源头几乎没有直接控制权的组织。随着这些依赖关系不断加深,韧性取决于组织之间交换信息和协调响应的速度。
在国家层面同样如此。新加坡数字发展及资讯部长杨莉明今年早些时候指出,最先进的AI模型仅在少数几个国家开发,而AI安全方面的合作仍然有限。然而,这些技术及其潜在风险跨越国界。
对亚洲而言,协同挑战尤为重要。该地区涵盖监管环境、数字成熟度、基础设施和网络准备程度各不相同的经济体。这里没有单一的运行环境,但一个源自某一市场或供应链某一环节的事件,可能在其他地方产生后果。
在危机来临之前建立准备
新加坡在促进这些交流方面可以发挥重要作用。它能够汇聚各国政府、全球科技公司、企业和从业者,让那些并不总是同坐一桌的声音得以被倾听。新加坡国际网络周和GovWare为此类对话提供了机会,因为AI安全、问责和跨境风险日益需要公共和私营部门的双重视角。
召集之所以重要,不是因为任何一个论坛掌握所有答案,而是因为集体准备必须在危机提出要求之前建立。政府、企业和科技供应商需要在风险如何分担、信息何时应跨越组织边界流动、以及合作应在何处优先于竞争等问题上达成更大一致。这一议程也提供了一系列值得观察的具体标志:当事件来袭时,信息是否能更顺畅地跨越组织边界流动;关于AI智能体可以访问什么、可以采取哪些行动以及在何处仍需人工监督的共同期望,是否能在各行业和各司法管辖区逐步成形;以及领先AI实验室所表达的共同放缓开发的意愿,能否从声明走向实践。
竞争仍是AI创新的重要驱动力,但能力的进步需要与保障措施、关系网络和合作机制的进步相匹配,才能负责任地部署这些能力。随着网络活动以智能体速度推进,协同不能等到出了问题才开始。
下一场AI竞赛不仅考验谁能构建最强大的系统,也将考验其周围的机构和关系能否足够迅速地跟上步伐。
Richard Ireland是GovWare的首席执行官。本文最初发表于 BusinessWorld。