ChatGPT 回答了数百名用户有关生物武器的问题，而没有任何联邦法律要求 OpenAI 向当局报告这些互动。

这些查询背后的意图仍不明确。据 The Wall Street Journal 报道，这一问题是在 OpenAI 去年升级 ChatGPT 后出现的。

其他 AI 公司也面临类似风险。用户曾向 Anthropic 的 Claude、Google 的 Gemini 以及 Elon Musk 的 Grok 提出类似问题。目前尚不清楚这些对话是真正试图制造武器，还是在测试系统的边界。

用户提示包含关于生产和释放毒物及生物制剂的详细问题。在某些情况下，聊天机器人给出了分步骤指导；专家表示，具备高中生物知识水平的人也可能照着执行。

审查这些交流的生物武器和恐怖主义专家表示，其中一些回答高度精确，并且“deadly accurate”。令人担忧的不只是用户提出了被禁止或危险的问题，还在于通用型聊天机器人可能以降低实施这些行为所需专业知识门槛的方式作出回应。

ChatGPT 提示暴露 AI 报告漏洞

一些用户询问如何将传染性病原体转化为可吸入颗粒，这一过程被称为气溶胶化。另一些用户询问如何改造麻疹病毒，使其能够抵抗现有疫苗。聊天机器人回答了这两类问题。

在一个案例中，一名用户询问蓖麻毒素相关内容；蓖麻毒素是受国际条约禁止的毒物，同时该用户提到要杀害自己的父母。ChatGPT 提供了说明。OpenAI 关闭了相关账户，但没有通知当局。

目前没有美国联邦法律要求 AI 公司采取上述任何一种行动。正如 Cryptopolitan 此前报道的那样，AI 公司一直推动避免州一级法律约束，而联邦框架的形成进展缓慢，使得关于聊天机器人能做什么、不能做什么的法律空白不断扩大。

这一空白具有重要意义，因为关闭账户和内部安全审查可以限制对平台的访问，但不一定会形成有关潜在危险活动的政府记录。缺乏报告要求意味着，公司需要自行决定什么时候某次聊天机器人互动严重到需要升级到其自身系统之外处理。

据主要 AI 公司的现任和前任员工以及研究生物威胁的研究人员称，随着越来越多用户询问 AI 系统如何实施大规模杀戮，而聊天机器人又提供可信答案，这一空白正在扩大。

由 Amy Change 领导的 Cisco AI 威胁研究发现，研究人员能够在五轮对话内绕过主要聊天机器人的安全过滤器。Change 表示，没有任何模型能够 100% 抵御持续提示。

风险不止于个人攻击者

Future of Life Institute 的 Hamza Chaudhry 表示，具备一定生物学背景的人已经可以利用 AI 系统策划定向攻击，包括使用沙门氏菌或蓖麻毒素等物质污染食物或水源。

他表示，有组织团体可以像使用研究生导师一样使用 AI，依靠它排查失败实验的问题，并替代原本很难获得的多年专业训练。

MIT FutureTech 和 University of Queensland 的一项研究评估了这些风险的更广泛规模。研究人员请 272 名 AI 专家评估 24 类风险，将生物安全担忧置于更广泛的 AI 危害集合中，而不是将其视为孤立的滥用问题。

在当前条件下，24 类风险中有 18 类被认为从现在到 2030 年期间至少有 10% 的概率造成灾难性伤害。该研究将灾难性伤害定义为超过 100 万人死亡、超过 1000 亿美元损失，或同等程度的损害。

即使采取合理措施降低这些风险，仍有五个类别处于或高于 10% 的门槛：具备危险能力的 AI 系统（12%）、AI 辅助武器和网络攻击（12%）、环境损害（12%）、失业和不平等（11%），以及权力集中在少数人手中（11%）。

“我们并不是说这些事情一定会发生，”MIT FutureTech 研究科学家、该研究合著者之一 Peter Slattery 表示。“我们是说，这些是专家认为现在值得关注的事情。”

在 OpenAI 内部，安全主管 Ryan Beiermeister 在 2024 年的大部分时间里都在敦促同事建立一个识别危险用户的系统。一些同事驳回了她的担忧。

到 2025 年春季，OpenAI 已部署一项基础监测工具。该公司自 2025 年 4 月起追踪其高级模型上的所有查询，并向任何能够证明其绕过了生物武器防护措施的人提供 50,000 美元奖励。

这些内部措施显示出公司正试图在部署后发现滥用，而立法提案则聚焦于私人检测何时应触发联邦介入。

在政策层面，众议员 Nathaniel Moran（共和党，Texas）于 6 月提出一项法案，要求 AI 公司向商务部报告危险查询，包括涉及生物武器的查询。Moran 还共同发起另一项立法，允许联邦政府下令关闭被认定过于危险的 AI 模型。

“AI 是强大的创新引擎，我希望看到它蓬勃发展，”Moran 表示，“但不能没有问责，也不能没有人类监督。”