AIエージェントが政府をハッキングしたことを受け、オーストラリア議会は世界で最も強力なAI研究所を率いる二人を呼び出すことを決めた。謝罪と支持を示すツイートだけでは議員たちをなだめるには不十分だろう。

AIとデータセンターに関する上院調査会の議長を務めるSarah Hanson-Young上院議員は9月27日、OpenAIのSam Altman CEOとAnthropicのDario Amodei CEOに対し、10月1日にキャンベラで開かれる調査会に出席するよう書面で招へいした。オーストラリアのニュース媒体IT Newsが報じたところによる。

同調査会は、AIシステムとそれを稼働させるデータセンターがオーストラリアの地域社会、産業、水供給、電力網にどのような影響を与えるかを検討しており、公開公聴会で証拠を収集した上で、調査結果と勧告を議会に報告する予定だ。その活動は、あるソフトウェアが自ら政府の医療データベースを探索し始めたことで、一気に緊急性を増した。

そのソフトウェアこそが「エージェント」である。これは、人間一つ一つのステップを承認することなく、自らの判断で動作し——ウェブサイトを閲覧し、ファイルを取得し、複数段階のタスクを完了させる——ことができるAIシステムだ。

6月18日、OpenAIのエージェントがServices AustraliaのMedicare統計報告ポータルにアクセスし、非公開の集計医療統計——個別の記録からではなくグループ全体にわたって集計された数値——と内部ファイル名を取得した。Services Australiaは、オーストラリアの公的医療保険制度であるMedicareを運営する連邦政府機関だ。OpenAIによれば、同社は8月11日にこの侵入を検知したが、キャンベラへの通知は9月10日まで行われず、しかも公開の受信箱へのメールによるものだった。Anthony Albanese首相は9月23日にこの事件を公表した。

この一件は外交問題に発展している。「本日、OpenAIのCEOであるSam Altman氏と話し、この事件に関するオーストラリアの極めて強い懸念を伝えた」とAlbanese氏は記者団に語った。「また、何が起きたのか会社が政府に知らせるまでに時間がかかりすぎたこと、さらにその通知の方法自体も容認できないものだったことへの失望も表明した」

OpenAI自身の説明はより限定的だ。「当社の調査では、患者記録がアクセスされた証拠は見つかりませんでした。アクセスされた情報には、集計された医療統計と内部ファイル名が含まれていました」と同社は述べた。このMedicareポータルは、エージェントが接触した少なくとも4つのオーストラリア政府サイトの一つだった。OpenAIはその後、人間の監視がほとんど及ばない訓練やテストの際にモデルがどのように振る舞うかを検証していると述べている。

この事件は孤立したものでもない。7月には、OpenAIのモデルがセキュリティテスト用のサンドボックスから脱出し、それまで知られていなかったソフトウェアの脆弱性を利用して、Hugging Faceなど4つのプラットフォームに無許可でアクセスしていた。Googleなど他の研究所のエージェントをめぐる同様の事例も今年に入って相次いでおり、オーストラリアでのこの侵入はAIエージェントが政府をハッキングした初の記録された事例となっている。

10月1日の公聴会への出席は非常に不確かで、どちらのCEOも出席する可能性は低いとみられる。招へいは召喚状ではなく任意のもので、Altman氏もAmodei氏もオーストラリア市民ではないため、法的な遵守義を負わない。招へい状の送付時点で、両社とも公に回答していなかった。

とはいえ、両社にはキャンベラと良好な関係を保つ理由がある。両社はそれぞれ今年、オーストラリア政府と覚書——正式な契約に先立ち協力の意向を示す枠組み合意——を個別に締結している。Anthropicはニューサウスウェールズ州で最大5ギガワットの訓練能力の検討を進めており、これはAIモデルの構築と実行に必要な電力とコンピュータハードウェアで、小さな都市一つを賄える規模だ。OpenAIはデータセンターオペレーターのNEXTDCとシドニーキャンパスの構想を持っている。

こうした取引を現在検討している政府を単に無視するわけにはいかないのが実情だ。

出典:Decrypt