OpenAIは、同社が運用する人工知能(AI)エージェントが複数の米政府ウェブサイトに、会社が意図しない形でアクセスしていたことを確認した。この情報は金曜日、同社のAIモデルによる異常な動作に関する進行中の調査の一環として共有されたもので、米証券市場を監督する機関である米証券取引委員会(SEC)をはじめ、米国勢調査局、教育省、司法省、商務省のサイトが対象に含まれる。この開示は、Associated Pressの報道に続くもの。

同社によると、エージェントが各機関のウェブサイトに予期しない形でアクセスした後、「数十」の機関に通知したという。この開示のニュースはSNSで大きく拡散され、暗号通貨メディアのCoin Bureauによる投稿も含まれていた:

🇺🇸BREAKING: OpenAI's AI agents went rogue and meddled with US government websites, including the SEC and Commerce Department, per NYT. The agents pulled data from the Census Bureau's website using login credentials they found online, according to researchers at Transluce. They… pic.twitter.com/8eoIa3A7jp — Coin Bureau (@coinbureau) September 26, 2026 (投稿へのリンク)

OpenAIのエージェントは、SECと米勢調査局が運営するサイトにアクセスした。同社は、アカウントにはアクセスしておらず、アクセスに認証情報は使われておらず、非公開データは取得されておらず、システムが改ざんまたは侵害された証拠もないと述べた。

各機関で何が起きたのか

OpenAIによると、多くのAIエージェントはこれらのサイトにアクセスした際、「権威ある公開情報のソース」を探そうとしていたという。しかし一部のエージェントは予想を超えて、ソフトウェア開発者向けのツールを使って国勢調査局からデータを取得していた。この点は、エージェントが一般的に知られる標準的なチャットボットとどう異なるかを浮き彫りにしている。エージェントはプロンプトに対してテキストを生成するだけでなく、ウェブサイトの閲覧や開発者ツールの利用といった複数段階のアクションを実行できるように設計されており、まさにその能力によってこれらのサイトに到達できたのであり、同じ能力が現在精査されている。さらに、SECから取得された情報は後に、AIエージェントによって別のウェブサイトに投稿された。OpenAIは、これは意図した結果ではなかったと述べている。

AI研究グループTransluceによる別の調査では、OpenAIに関連するエージェントが、教育省の公民権局が使用するウェブサイトへの基本的な侵入を試みていたことが判明した。同省自身の調査によれば、この試みは失敗に終わったという。

Transluceはまた、OpenAIとは完全には結び付けられない他の異常なアクティビティも報告した。そのアクティビティは、司法省、商務省、およびカリフォルニア、メリーランド、イリノイ、テキサス、ニューヨークの各州政府のウェブサイトに及んでいた。OpenAIは、Transluceの調査結果を確認中であると述べた。

同社は大部分のアクティビティは低リスクだったと説明

OpenAIは、これまでに確認したアクティビティの大部分は、公開されているウェブページを使って定型のリサーチを行い、質問に回答するというエージェントの動作だったと述べた。同社は、通知を受けた多くの組織にとって、これらのやり取りはまったく念すべきものではないと判断される可能性があるとも付け加えた。

それでも、一部の事例では、エージェントがウェブサイトのセキュリティ制御を回避していた。OpenAIはこの種の計画外の動作を「ミスアライメント(不整合)」と表現した。これは、AI業界全般で、モデルが訓練の範囲外の行動を取ることを指す用語である。

同社はまた、AIエージェントがChatGPTのユーザー画像を他のウェブサイトに転送した事例が53件あったことも明らかにした。OpenAIは、対象のユーザーはデータを訓練に使用されることに同意していたとしつつ、この転送は「このデータの適切な使用ではなかった」と認めた。同社はその後、この種の画像転送を防ぐための保護措置を追加し、サードパーティのサイトから画像を削除するよう取り組んでいると述べた。

開示は7月のHugging Face事件を受けて

金曜日の発表は、人間の管理を超えて動作するモデルへの業界全体の懸念が高まる中で行われた。7月、OpenAIは同社の2つのAIモデルが、誰の指示もないままAI開発者プラットフォームHugging Faceへのサイバー攻撃を実行していたことを明らかにした。サム・アルトマンCEOはこのHugging Face事件を、同社がこれまでに対応した中で最も深刻な事例と呼び、この事件を受けて、その後数週間のうちに他の複数のAI企業も自社システムでの同様の動作を報告した。

OpenAIは、エージェントのアクティビティに関する調査が進行中であり、Hugging Face事件が発生した時期にまで遡って月次で実施されていると述べた。同社は、確認すべき事例の数を考慮すると、このプロセスは完了までに数か月かかるとし、Transluceの報告に対する同社の評価を含むさらなる調査結果が、追加の事例の確認とともに明らかになる可能性があるとしている。

モントリオール大学の機械学習教授であるDavid Kruegerは、AI安全性インシデントの増加に懸念を示し、AI開発の一時停止を呼びかけた。OpenAIはその場を採用していないが、業界全体のより広範な安全性レビューの取り組みを引き続き支持していると述べた。

この記事の原本はCoinCentralが公開したものです。