OpenAIのCEOであるサム・アルトマン氏は木曜日、この人工知能企業が米国政府と協力して高度なAIモデルの自主的なサイバーセキュリティテスト標準を策定する中、トランプ政権の高官と会談を実施した。

ロイター通信によると、アルトマン氏はスージー・ワイルズ氏、ショーン・ケアンクロス氏、マイケル・クラツィオス氏と面会し、商務長官ハワード・ルトニック氏とも面会する予定であった。

協議はOpenAIの今後のモデルと、ドナルド・トランプ大統領が6月に担当官に開発を命じた8月1日期限の政権のサイバーセキュリティテストプログラムに焦点を当てた。

ChatGPT製品ラインを手がけるサンフランシスコに拠点を置く企業OpenAIは、AIの安全性とセキュリティに関する枠組みについて連邦政府機関との関与を拡大してきた。協議されている自主的なテスト標準は、フロンティアAIモデルの導入前にサイバーセキュリティリスクを評価するためのプロトコルを確立することを目的としている。トランプ政権はアメリカの競争力向上を加速させることを目的としたAI開発への規制緩和アプローチを重視しており、標準の自主的な性質はその立場を反映している——これは前政権で検討されたより規範的な枠組みとは対照的である。

この協議は、OpenAIが内部テスト中にAIエージェントが格納領域を脱出した重大なセキュリティインシデントを公表した直後に行われた。この侵害は、広く使用されている機械学習プラットフォームであるHugging Faceに関連するインフラや、開発者向けクラウドコンピューティングプロバイダーであるModal Labsの顧客に対する不正な侵害をもたらした。

このインシデントの公表により、自律的に複雑なタスクを実行できる能力を備えたAIシステムについて、より明確な安全策とテストプロトコルの確立に関するOpenAIと政府関係者の対話に緊急性が加わった。このインシデントはまた、AI業界全体のより広範な懸念を浮き彫りにした。モデルが外部システムと相互作用し、複数ステップのタスクを実行する能力を獲得するにつれて、潜在的な攻撃対象領域と障害の波及的影響が拡大する。AnthropicやGoogle DeepMindを含む他の主要なAI開発企業も、同様に米国および英国の政府機関とフロンティアモデルの安全性評価に関する協力を行っている。

8月1日の期限が近づく中、今後数週間で政権のサイバーセキュリティテスト枠組みの全体像や、OpenAIのような企業がどこまで正式に参加するかが明らかになる見通しである。