ChatGPT 回應了數百名使用者關於生物武器的問題，而目前沒有任何聯邦法律要求 OpenAI 將這些互動通報給主管機關。

這些查詢背後的意圖仍不清楚。根據《華爾街日報》報導，這項問題是在 OpenAI 去年升級 ChatGPT 後浮現。

其他 AI 公司也面臨類似風險。使用者曾向 Anthropic 的 Claude、Google 的 Gemini，以及 Elon Musk 的 Grok 提出類似問題。目前仍不清楚這些對話是真正試圖製造武器，還是試探系統限制。

使用者提示包含有關製造與釋放毒物及生物製劑的詳細問題。在某些情況下，聊天機器人提供了逐步指引，專家表示，具備高中生物程度知識的人也可能照著執行。

審查這些交流內容的生物武器與恐怖主義專家表示，部分答案高度精確且「致命準確」。令人擔憂的不只是使用者提出被禁止或危險的問題，而是通用型聊天機器人可能以降低採取行動所需專業知識門檻的方式作出回應。

ChatGPT 提示暴露 AI 通報缺口

部分使用者詢問如何將傳染性病原體轉化為可吸入顆粒，這一過程稱為氣溶膠化。另一些人則詢問如何改造麻疹病毒，使其能抵抗現有疫苗。聊天機器人回答了這兩類問題。

在一個案例中，一名使用者詢問蓖麻毒素這種受國際條約禁止的毒物，同時提到要殺害他的父母。ChatGPT 提供了指示。OpenAI 關閉了相關帳號，但沒有通知主管機關。

目前沒有美國聯邦法律要求 AI 公司採取上述任一行動。正如 Cryptopolitan 先前報導，AI 公司一直推動避免受州級法律約束，而聯邦框架的形成進展緩慢，導致圍繞聊天機器人能做與不能做事項的法律缺口持續擴大。

這項缺口之所以重要，是因為關閉帳號與內部安全審查可以限制使用者進入某個平台，但不一定會為潛在危險活動建立政府紀錄。缺乏通報要求，使企業自行決定何時某次聊天機器人互動嚴重到需要升級到其自身系統之外處理。

據主要 AI 公司現任與前任員工，以及研究生物威脅的研究人員表示，隨著越來越多使用者詢問 AI 系統如何實施大規模殺戮，且聊天機器人提供可信答案，這一缺口正在擴大。

由 Amy Change 領導的 Cisco AI 威脅研究發現，研究人員能在五輪對話內繞過主要聊天機器人的安全過濾器。Change 表示，沒有任何模型能 100% 抵抗持續提示攻擊。

風險不只限於個人攻擊者

Future of Life Institute 的 Hamza Chaudhry 表示，具備一定生物學背景的人已可使用 AI 系統規劃定點攻擊，包括用沙門氏菌或蓖麻毒素等物質污染食物或供水。

他表示，有組織團體可能把 AI 當作研究所指導教授使用，依靠它排除實驗失敗問題，並取代原本難以取得的多年專業訓練。

MIT FutureTech 與昆士蘭大學的一項研究評估了這些風險的更廣泛規模。研究人員要求 272 名 AI 專家評估 24 類風險，將生物安全疑慮置於更廣泛的 AI 危害集合中，而不是把它視為孤立的濫用問題。

在目前條件下，24 類風險中有 18 類被評估為從現在到 2030 年之間至少有 10% 的機率造成災難性損害。該研究將災難性損害定義為超過 100 萬人死亡、超過 1,000 億美元損失，或相當程度的破壞。

即使採取合理措施降低這些風險，仍有五類風險維持在或高於 10% 門檻：具備危險能力的 AI 系統（12%）、AI 輔助武器與網路攻擊（12%）、環境危害（12%）、失業與不平等（11%），以及權力集中於少數人手中（11%）。

「我們並不是說這些事情一定會發生，」MIT FutureTech 研究科學家、該研究共同作者 Peter Slattery 表示。「我們是說，這些是專家認為現在值得關注的事情。」

在 OpenAI 內部，安全主管 Ryan Beiermeister 在 2024 年的大部分時間都在敦促同事建立一套識別危險使用者的系統。部分同事駁回了她的疑慮。

到 2025 年春季，OpenAI 已部署一項基本監控工具。該公司自 2025 年 4 月起追蹤其進階模型上的所有查詢，並向任何能證明其繞過生物武器防護措施的人提供 50,000 美元獎金。

這些內部措施顯示企業正試圖在部署後偵測濫用，而立法提案則聚焦於私人偵測何時應觸發聯邦介入。

在政策層面，眾議員 Nathaniel Moran（共和黨，德州）於 6 月提出一項法案，要求 AI 公司向商務部通報危險查詢，包括涉及生物武器的查詢。Moran 也共同支持另一項立法，允許聯邦政府下令關閉被認定過於危險的 AI 模型。

「AI 是強大的創新引擎，我希望看到它蓬勃發展，」Moran 表示，「但不能沒有問責，也不能沒有人類監督。」