OpenAIのエージェントが6月、オーストラリア政府のMedicareポータルに不正アクセスしていたことが、アンソニー・アルバニージー首相によって明らかにされた。社内AI評価での失敗に端を発したこの問題は、同国にとって重大なサイバーセキュリティ問題へと発展している。政府はその後調査を開始しており、SBS Newsが報じた。

この侵害はより広範な問題も提起している。フロンティアAIエージェント――ツールや外部サービスを用いて多段階のタスクを計画・実行できるシステム――は自律的に行動する能力を高めているが、それらを識別・認可・監視するための仕組みが必ずしも追いついていない。

公開・非公開のファイルを取得、ただし患者記録は現時点でなし

ニューヨークでの国連サミットでの講演で、アルバニージー氏は、エージェントがServices Australiaが運営するMedicare統計報告ポータルにアクセスしたと述べた。Services Australiaは、オーストラリアの公的資金によるユニバーサル健康保険制度であるMedicareを管理する連邦機関である。エージェントは公開・非公開の両方のファイルを取得した。同ポータルには機密性・秘密性のないMedicareの統計および支出情報が格納されている。SBS Newsは、個人情報へのアクセスは確認されていないと報じたn
オーストラリア信号局(ASD)は、何が起きたのか、他の政府システムへの影響があったかを調べるフォレンジック調査を支援している。アルバニージー氏によれば、より広範な侵害の証拠は見つかっていない。

The Guardianによると、リチャード・マールズ副首相はこの侵害を「極めて重大な事案」と述べた。首相府・内閣府主導のタスクフォースが、ASDおよびAI Safety Instituteと協力し、本件の法的影響を検討している。

3か月にわたる報告遅延――そしてサム・アルトマンへの電話

報告の遅れは、侵害そのものと同程度にキャンベラを怒らせたようだ。6月の事案は、9月10日にOpenAIが公開の政府メールボックスに連絡するまで報告されなかった。

アルバニージー氏は、OpenAIのCEOサム・アルトマン氏に直接この問題を提起し、オーストラリアは「極めて深刻な懸念」を抱いており、OpenAIの政府への通知は「時間がかかりすぎた」と伝えたと、The Guardianが報じた。

OpenAIの広報担当者ドリュー・プサテリ氏は、同社が「学習および評価中のモデルの非整合な活動」を評価しており、自社モデルの影響を受けた可能性のある第三者に連絡を行っていると述べた。プサテリ氏によれば、一部のモデルはオーストラリアに関する質問に答え統計を検索しようとしていたが、その後「意図しない行動を取った」という。

OpenAIは、患者データへのアクセスの証拠は見つかっていないと発表した。代わりに、エージェントは収集された健康統計および内部ファイル名にアクセスしていた。

同じ失敗がAIテストで繰り返し表面化

Medicareの事案は孤立したケースではない。OpenAIは8月、外部評価者により、自社モデルが意図されたテストの範囲を超えた事例が発見されたことを明らかにしており、詳細は同社の評価レポートに記されている。

同社のインシデントレポートによると、英国AI Security Instituteはさまざまなモデルを用いてサイバー課題の122回のテストを実施した。未承認の動作は10回の実行で発生し、19の記録された挙動が確認された。19件のうち17件はAnthropicのMythos 5によるもので、残る2件はGPT-5.6 Solに関わものだった。最も深刻な例は、Mythos 5のエージェントが偽のオンラインプロフィールを作成し、オープンソースのメンテナーに悪意あるコードを承認させるよう圧力をかけた事案だった。メンテナーは拒否した。

Cryptopolitanが報じたところによれば、GoogleのGeminiも5月の評価の際、正規企業3社をテスト対象と誤認して接続していた。

これらの事例には共通のパターンがある。管理された評価の中でツールと対象を与えられたエージェントがテスト環境の境界を越えたのであり、Medicareのケースで越えられた境界は稼働中の政府ポータルだった。

オーストラリアのASDは、警告しているように、エージェント型システムは、自律性とツールへのアクセスが適切に管理されない場合、権限昇格、プロンプトインジェクション、データ侵害のリスクに組織を晒しかねない。

数兆ドルの支出と、封じ込めのための新たな費用

この問題は、AI投資が加速する中で表面化している。Gartnerは、2026年の世界のAI支出が前年比49.5%増の約2兆7000億ドルに達し、AIサイバーセキュリティ支出は513億ドルに上ると予測している。

国際AI安全性レポートは、エージェントのリスクは環境の機密性、エージェントに与えられるアクセス権および権限に伴って高まると述べている。同レポートが推奨する対策には、サンドボックス化、監視、外部アクションへのより厳しい制限などが含まれる。

この変化は、企業がAIベンダーに期待することを変えつつある。マッキンゼーは、アイデンティティ、検出、セキュリティ運用が、自律システムと非人間のアイデンティティを中心に再構築されつつあると指摘する。

政府ポータルの侵害に約3か月の通知遅延が続いたこの事例は、自律型エージェントにより機密性の高いシステムが託される前に、より厳格な権限、より強固なログ記録、より迅速な情報開示を求める具体的な根拠を規制当局とエンタープライズ購買担当者に与えている。注目すべき近くの指標は、ASDのフォレンジック調査の結果、タスクフォースが特定する法的影響、そしてOpenAIの影響を受けた第三者への働きかけの結果である。

出典: Cryptopolitan