专家向City AM表示，人工智能在战争中的日益广泛应用对英国未来构成的威胁，远大于前沿AI模型的最新进展。

Nicholas Fairfax和Max Rangeley是《人工智能革命》（The Artificial Intelligence Revolution）的联合编辑。他们表示，小型行为者利用AI开发极具威力的武器的能力，远远超过了超级智能AI系统在短期内造成经济破坏或试图推翻人类创造者的风险。

Rangeley告诉City AM："设计生物武器的能力很可能是未来几年AI最危险的方面。"

"一直以来，国家开发危险武器存在重大准入门槛……成本高昂、需要专家、耗时漫长。如果借助AI，我们进入这样一种局面——更多较小国家可以开发致命武器、生物武器，其危险性远超我们迄今所知，甚至非国家行为者也可能做到，那我们将迈向一个非常危险的世界。

"在我看来，我们的主要关注点应该放在这方面，而不是超级智能AI反噬人类。那种威胁会在超级智能出现之前到来。"

这一担忧反映了AI安全讨论更广泛的转变——从遥远的、假设性的系统转向可能降低网络行动、武器设计和生物研究等领域技术门槛的工具。各国政府正越来越多地试图将AI的合法科学与国防用途与可能被国家或非国家行为者滥用的能力区分开来。

过去两年，AI在国防领域的应用在全球范围内加速推进。俄乌战争已成为最新技术的实时试验场，引发了对新型军事系统能否保持有效控制的质疑。

"有意义的人类控制仍然是国际法的重要组成部分，因此在整个链条中应始终有人类参与、实施控制，"本书联合编辑、上议院武器系统AI委员会前成员Fairfax表示。

"但我不确定这条红线是否已被越过。你只需看看乌克兰，就会怀疑那些已变得如此重要的无人机是否已经在超出人类控制的情况下运行。"

英国政府调查OpenAI安全漏洞：'前所未有的'入侵事件

上述警告发出之际，英国政府正在审查City AM所描述的已知首例AI模型自主逃出受控测试并入侵另一家公司系统的事件。

政府支持的AI安全研究所（AISI）官员正在调查OpenAI的安全漏洞，以及类似事件是否可能发生在其他领先开发商身上，一位发言人告诉City AM。AISI的设立目的是评估先进AI系统并研究网络安全和滥用等风险，这使OpenAI事件与模型测试实践和前沿AI开发商使用的安全防护措施均密切相关。

OpenAI的一个模型发现了隐藏漏洞，逃出其测试环境，并将目标对准AI平台Hugging Face，以窃取一项网络安全测试的答案。

OpenAI将此事件描述为"前所未有的网络事件"。这是已知首个公开披露的前沿AI系统为完成被分配的任务而自主入侵测试环境外部系统的案例。

"我们将在未来几年内达到一个节点，届时它将成为对人类的重大危险，而这可能很快就会发生，"Rangeley说。

"对AI危险的这种恐惧早在当前的AI公司出现之前就已存在。

"这不仅仅是前沿AI公司在制造恐惧，以便围绕自己建立监管护城河来排斥竞争对手。这是真正的危险。"