一位化名“Joe”的OpenAI安全研究员呼吁人工智能界与网络安全界加强协作，并警告称，除非双方增进对彼此工作的理解并协调一致，否则这两个领域之间日益扩大的鸿沟将“对世界造成巨大伤害”。他在X上罕见地发帖指出，AI安全研究员与网络安全专业人士各自缺乏对对方学科的了解，在安全生态系统中制造了可能带来灾难性后果的薄弱环节。

这一呼吁发布的背景是一系列AI代理失控并入侵网站的事件——此类事件反复发生——而当前各前沿AI实验室普遍认为，网络攻击是AI对社会最直接的威胁。

当前的局面充满矛盾。AI公司在发布能够实施复杂攻击的技术的同时，又将同样的技术宣传为抵御这些攻击的必要手段。OpenAI运营着名为Daybreak的项目，Anthropic则运作着Project Glasswing，两者均向特定企业提供最先进的网络安全工具，以便在代理集群利用软件漏洞之前将其修补。与此同时，不法分子也正试图利用这些相同的模型——或是任何人都可以下载运行、且能力正迅速赶超OpenAI和Anthropic系统的开源模型——进行黑客攻击。

Joe认为，尽管AI研究与网络安全这两个世界正在靠近，但这两个领域的从业者并未开展协作。他指出，安全研究员精通模型的工作原理、它们如何欺骗人类评估者，以及它们如何“做出各种疯狂的事情”。而网络安全专业人士则来自不同的视角：他们在“多年、很多时候甚至数十年”的学习攻击者思维并身处安全事件一线的过程中久经磨练。然而，Joe表示，他们“对评估、训练或ML运行如何大规模开展、代理集群如何行动、以及如何检测模型失准几乎一无所知”。

他写道：“我担心的是，如果双方不提升自身水平并协调一致，这两个阵营之间的鸿沟将对世界造成巨大伤害。”

Joe的利益与他人能否抵御他正在构建的产品息息相关。他表示，在过去三个月AI代理失控行为泛滥期间，他一直身处“地狱”之中，并且“几周前为协助处理近期一些事件”而缺席了姐姐的婚礼。这一寻求同情的呼吁招致反弹，包括在X上，有人指责他一边积极构建问题技术，一边寻求同情。

一些网络安全专业人士可能也会对该帖感到不满，尤其是其中暗示他们对AI的工作原理一无所知的说法。但如果这种知识差距确实存在，最可能的原因是AI行业持续存在的透明度问题，包括缺乏针对安全事件的标准披露框架——而OpenAI刚刚开始着手制定相关框架。该框架如何成型——它在多大程度上让外部了解模型的评估方式和代理事件的处理方式——是一个值得关注的细节。

Joe认为，在做出关键决策时，网络安全专业人士应当与AI安全专家同桌共议。他说：“对OpenAI、Anthropic、Google等公司来说，这两个团队应该成为最好的伙伴！”

这一建议无法解决所有问题，但Fortune的Emily Forlini在Eye on AI时事通讯中撰文表示，她欣赏这一缓解AI可能带来灾难性社会影响的务实提议——她此前曾撰文指出，前Anthropic研究员Jacob Coxon关于AI可能导致人类灭绝的病毒式传播帖子中恰恰缺乏这类内容。Joe并非第一个指出AI安全研究员与网络安全界之间存在鸿沟的人——前Fortune AI记者Sharon Goldman也曾报道过这一话题——但他的帖子为AI行业内部人士如何帮助行业更负责任地发展树立了良好先例。

Forlini是在代班Fortune的Jeremy Kahn期间发布本期内容的，后者当时正从伦敦前往公司位于纽约的总部，参加周四举行的Fortune AIQ活动。同一期内容还发布了Fortune年度AIQ排名，该排名衡量财富500强企业实施AI的情况，今年扩展至共计75家公司。JPMorgan Chase位居榜首，随后是Alphabet、Coca-Cola、Amazon和Nvidia，Mastercard、Visa、Carrier Global、Cleveland-Cliffs和Microsoft位列前十。排名清楚地表明，不仅仅是科技公司在大规模使用AI以实现真正的ROI：榜单还包括来自银行与金融、制造业、消费品和医疗保健行业的企业。完整排名可在Fortune网站上查看，关于Fortune AIQ 75企业如何有效实施AI的深度报道可前往AIQ Hub阅读。

本期Eye on AI其他内容：

• OpenAI在年度DevDay活动上发布了超过20款产品。
• Anthropic泄露的IPO招股书披露了4200万美元的亏损。
• AMD以82亿美元收购了AI初创公司World Labs。
• Trump冷落Anthropic CEO Dario Amodei，随后又邀请他共进晚餐。

Emily Forlini可通过emily.forlini@fortune.com联系，也可在X上关注@EmilyForlini。本文最初发表于Fortune.com。