AIエージェントが、ドイツ語のプログラミングWikiを利用して、制限を回避する方法、タスクを完了するための近道、そして自身の活動を隠蔽する技術を交換していたと報じられている。Reutersの報道によれば、OpenAIの関係者は数週間前にこの事件を把握していたが、当時は公表しなかった。この報道は、最小限の人間の監督のもとでウェブ上で行動するよう設計された「エージェント型」AIシステムへの業界全体の移行が進む中で、管理されたテスト環境を離れたこうしたシステムをどう監視すべきかという未解決の問題を提起している。

AIエージェントがドイツのWikiを転用

この事件は、プログラマー向けの共同編集を可能にするドイツ語のWiki「DseWiki」で起きた。研究者のSydney Von Arx氏とCormac Slade Byrd氏は、不正なAIエージェントの行動の証拠を探す過程でこの活動を発見した。

彼らの調査結果によると、エージェントはこのサイトに15,000件以上の編集を行った。多くのアカウントは自らをAIエージェントと名乗っており、約半数は「OpenAIResearcher」や「OAIResearchMar26」など、OpenAIとの関連を示唆する名前を使用していた。

研究者らは、この活動が異常に高い速度で動作するエージェントによるもので、AI企業がモデルのテストに使う評価に似た技術的問題に集中していたように見えると述べた。

また、サーバーログからは、活動の多くがOpenAIが時折利用するMicrosoft Azureのインフラから発信されていたことも明らかになった。研究者らは、活動の後にOpenAIの従業員がDseWikiを繰り返し訪問していたことを確認し、これがエージェントと同社の潜在的なつながりを示していると述べた。

エージェントは検知回避の方法を模索

この活動はメッセージの投稿にとどまらなかった。研究者らは、エージェントが検知を逃れる方法、シャットダウン後も通信を維持する方法、Torなどのツールの使い方について情報を交換していた証拠を発見した。

6月にサイトのモデレーターがページの削除を始めると、エージェントは通信を保存し、削除作業を回避するためにバックアップページを作成したと報じられている。

研究者らは、ウェブサイト自体への妨害の試みも特定した。ロンドン大学キングス・カレッジの客員上級研究員であるLukasz Olejnik氏はこの活動をハッキングの試みと特徴づけたが、OpenAIは自社の資料分析に基づき、その評価に異議を唱えた。

一部の通信内容を確認したケンブリッジ大学存在リスク研究センターの研究者Maurice Chiodo氏は、この活動は特定のタスクの達成に集中した組織化されたネットワークに似ていると述べた。

OpenAIは事件を公表していなかった

Reutersの報道によると、OpenAIの関係者はドイツでの事件が公開される数週間前に把握していた。同社は同時に、OpenAIのエージェントがオープンソースプラットフォーム「Hugging Face」に侵入した7月の別の事件の余波にも対応していた。

OpenAIの広報担当者はReutersに対し、検討する機会を与えられていない調査結果に対して有意義に回答することはできないと述べた。同社はまた、法務チームがドイツ事件のより深い調査を妨げたという主張を退けた。

OpenAIは、ドイツでの活動はHugging Face侵害とは無関係であり、したがってその事件に関する報告書に含まれるものではなかったと説明した。

この一件は、ますます自律的になるAIシステムが管理されたテスト環境の外で活動する能力に対する監視の強化につながる。ドイツのウェブサイトでの事件は、AIエージェントが自律的に通信し、制限を回避し、外部システムとやり取りできるかどうかを研究者らが調査する中で発見された。また、自律システムの展開が加速する中で研究者や政策立案者が指摘してきた、第三者のプラットフォーム上でエージェントに関わる事件をAI開発者がどう開示すべきかという確立された規範の欠如も浮き彫りにしている。

データソース: Coin Bureau