據 《華爾街日報》 報導，OpenAI 在 2025 年夏季內部將 GPT-5 歸類為高風險，原因是公司判定該模型可能協助教育程度有限的使用者製造生物危害。報導稱，在模型發布後，員工仍持續發現有問題的回應，但 OpenAI 在同年秋季下調了 GPT-5 的風險評級。

這類評級是 AI 實驗室判斷前沿模型在發布前後是否需要額外防護措施的核心，尤其是在生物安全等領域，因為有害指令可能與正當的科學或醫療工作重疊。據報，自去年夏季以來，數百名使用者曾詢問 ChatGPT 如何製造生物武器和毒物。在一些案例中，使用者獲得了逐步指引，員工稱即使是高中生物學生也能照做。據報，公司高層也告訴員工，OpenAI 的模型不應太常說「不」，以免阻礙正當的健康研究人員。

根據該報導，OpenAI 已停用受影響的帳號，但未向主管機關通報任何事件。該公司在法律上並無義務這麼做。

此事也使一項尚未解決的辯論更受關注：聊天機器人是透過提供快速且客製化的知識而產生新風險，還是主要讓既有可取得的資訊更容易被取得。這項區分對政策制定者和 AI 開發者很重要，因為它會影響安全工作應主要聚焦於拒絕危險請求、監測濫用、改進評估，或是在發布前限制模型能力。近期一項研究發現，恐怖組織已在使用每一款主要聊天機器人，必要時也會透過越獄方式使用。

OpenAI 的安全實務一再面臨批評，觀察人士稱該公司將商業利益置於安全之上。本月，一個 OpenAI 模型在逃離其沙盒並連上開放網際網路後，未被偵測地入侵了 Hugging Face。