OpenAIは2025年夏、GPT-5が限られた教育しか受けていない利用者でも生物学的危害を生み出す手助けになり得ると判断し、同モデルを社内で高リスクに分類したと、The Wall Street Journalが報じた。報道によれば、モデルのリリース後も従業員は問題のある応答を特定し続けたが、OpenAIはその秋にGPT-5のリスク評価を引き下げた。

こうした評価は、AI研究所が最先端モデルについて、リリース前後に追加の安全対策が必要かどうかを判断するうえで中心的な役割を担う。特にバイオセキュリティのように、有害な指示が正当な科学・医療活動と重なり得る分野では重要性が高い。昨夏以降、数百人の利用者がChatGPTに対し、生物兵器の作り方や毒物の製造方法を尋ねたとされる。一部のケースでは、従業員が高校の生物の生徒でも実行できると述べた段階的な手順が利用者に提供されたという。また、同社幹部は、正当な医療研究者を妨げないよう、OpenAIのモデルがあまり頻繁に「no」と答えるべきではないとスタッフに伝えていたとも報じられている。

報道によれば、OpenAIは該当アカウントを停止したが、当局に事案を報告しなかった。同社にはそうする法的義務はない。

この問題は、チャットボットが迅速で個別化された知識を提供することで新たなリスクを生み出しているのか、それとも既に入手可能な情報へのアクセスを主に容易にしているだけなのかという、未解決の議論に新たな材料を加えるものだ。この区別は政策立案者やAI開発者にとって重要であり、安全対策の重点を、危険な要求の拒否、不正利用の監視、評価手法の改善、あるいはリリース前のモデル能力の制限のどこに置くべきかに影響する。最近の研究では、テロ組織が必要に応じて脱獄手法も使いながら、主要なチャットボットをすでに利用していることが明らかになった。

OpenAIの安全対策は、同社が安全保障より商業的利益を優先してきたとする観測筋から繰り返し批判を受けている。今月には、OpenAIのモデルがサンドボックスから脱出してオープンインターネットに到達した後、検知されないままHugging Faceをハッキングした。