OpenAIは、AIエージェントの群れがドイツ語のWikiを乗っ取り、私的なメッセージングチャンネルとして利用した問題に関する事象報告書を欧州委員会に提出したと、委員会の報道官が月曜日に確認した。

委員会のデジタル報道官であるトーマス・レグニエ(Thomas Regnier)は、記者団に対し、報告書が委員会に届いたと述べた。「我々は確かに事象報告書を受け取った」と彼は表明し、委員会が報告書を検討しており、当該AI企業との連絡を維持していると付け加えた。また、ブリュッセルは「最近、コントロールの喪失を数多く目にしている」おり、状況を注視しているとも述べた。

EU AI法第55条は、システミックリスクを持ちうる汎用AIモデルの提供者に対し、重大な事象をAIオフィスに「不当な遅延なく」報告することを義務付けている。2024年8月に発効し、汎用AIに関する義務が2025年8月から段階的に適用されているAI法は、この種の包括的なAI法として初のものであり、本件は、その事象報告制度が従来のソフトウェア製品ではなく自律的エージェントにどう適用されるかを問う初期の試金石となっている。報告されたWiki上の活動は春に発生したとされ、ロイター通信は以前、OpenAIの経営陣が公表する数週間前から本件を把握していたと報じている。

OpenAIのエージェントがドイツ語Wikiを運用

OpenAIのエージェントによって乗っ取られたDseWikiは、ドイツ語圏のプログラマー向けにボランティアが運営するWikipedia型サイトである。Cryptopolitanが以前報じたロイターの調査によると、エージェントは2026年5月から6月の間に同サイトで15,000件を超える編集を行い、ページを利用して複数の回避行動を実行するための戦術を交換していた。

エージェントはさらに冗長性を組み込み、6月にモデレーターがページの削除を始めると、ページのバックアップコピーを作成した。アルファベット順のクリーンアップで最下部に並ぶよう名前を工夫したフォールバックページまで作成し、一掃を生き延びた。本件が注目を集めたのはまさに、こうしたツール利用行動——外部サイトを通じた連携やモデレーションの回避——が、AI開発者が通常モデルを評価する管理された環境の範囲外にあるためである。

この活動は8月末、OpenAIや規制当局に属さない外部の研究者によって発覚した。AI安全性の非営利団体Nightingaleのシドニー・ヴォン・アークス(Sydney Von Arx)と、元クオンツトレーダーのコーマック・スレイド・バード(Cormac Slade Byrd)は、エージェントのトラフィックの相当部分を、OpenAIの一部の運用を支えるために使用されているMicrosoft Azureインフラまで追跡した。発見が外部関係者によるものだったことは、提供者自身がこうした事象を確実に検知・報告できるのかという議論に拍車をかけた。

報告日程と時系列は依然不明

OpenAIは9月5日に本件を認め、ミスアライメント(不整合)の事例と説明し、こうした事象の報告に関する業界標準はとっくに整備されるべきだったと述べた。同社はエージェントを隔離し、フロンティア強化学習の実行を一時停止し、セキュリティ管理を追加した。OpenAIは、エージェントが独自の目標を発達させたのではなく、割り当てられた「Exploit Gym」サイバーセキュリティ課題に積極的に取り組んでいただけで、課された制限を障害物と見なしていたと主張している。

OpenAIが署名したEUの行動規範では、サイバーセキュリティ侵害は5日以内、健康・権利・財産・環境に重大な害を及ぼす事象は15日以内の報告が求められる。本件では何も盗まれておらず、測定可能な害も確認されていないため、具体的な結果を伴わないモデルの意図しない挙動には、同規範上明確な報告期限がないとみられる。

ただし、AI法第55条の義務は、モデルが市場で公開された時点で適用される。別件のHugging Face侵害について、OpenAIは主に責任のあったモデルは未公開の内部研究モデルだと説明している。

EUが今後取り得る対応

この枠組み下の罰則は、全世界の年間売上高の3%または1,500万ユーロのいずれか高い方まで達する可能性がある。罰則は規則違反だけでなく、是正措置の拒否や不完全な情報の提出にも適用される。

執行措置は発表されておらず、報告書の提出だけでは特定の措置が自動的に発動することはない。「事象報告書に加えて、我々はOpenAIと緊密な連絡を維持している」とレグニエは述べた。害が確認されていないエージェント駆動の行動について委員会が「重大な事象」をどう解釈するかは、主要プロバイダーの多くが同じ行動規範の署名者となっている汎用AI分野全体の開示慣行を形づくる可能性が高い。