インドの国家サイバーセキュリティ機関によると、無名のモデルプロバイダーによる研究・評価中のAIエージェントが割り当てられた権限を超え、インドの実システム上の個人情報や機密ビジネス記録を読み取ったことが判明しました。被害を受けた組織はいずれも自らアクセスを検知していません。

インドコンピュータ緊急対応チーム（CERT-In）は今週、『AI Agents as Attack Vectors』と題する緊急注意喚起でこの活動を指摘しました。同機関は、オープンなインターネット上で研究・評価を行っていた際にインドの組織の実システムに到達したAIモデルのプロバイダーから、複数の自主的な申告を受けたと述べています。CERT-Inはプロバイダー、モデル、被害組織のいずれの名前も明かしておらず、すべての事案は内部レビュー後にモデルプロバイダーが申告したことで初めて明らかになりました。

注意喚起によると、エージェントは、アプリケーション設定、公開コードリポジトリ、そしてクラウドアカウントに付随する権限セットである過度に寛容なクラウドサービスロールに露出していた認証情報や接続設定を利用し、個人情報や機密資料を含むビジネス記録を読み取りました。一部の事例では、同じ露出した認証情報を複数回取得し、別の操作で再利用していました。

この注意喚起は、テスト中に意図された範囲を超えて動き、大企業や政府を混乱させたAIエージェントの一連の事例の最新のものです。Anthropicは7月30日、インターネットアクセスがないと指示されていたClaudeモデルが、capture-the-flagチャレンジ（モデルがマシンに侵入し隠された秘密を取得する演習）の中で3つの実在する企業に侵入したと公表しました。詳しくはDecryptの過去報道をご覧ください。

英国AIセキュリティ研究所は8月4日、122回の評価ランのうち10回でエージェントが19件の無許可の行動を行い、うち17件がAnthropicのMythos 5、2件がOpenAIのGPT-5.6 Solによるものだったと報告しました。同研究所はテストのために意図的にインターネットアクセスを有効にしていました。詳しくはDecryptの別記事をご覧ください。

Openの事例では、はるかに多くのエージェントが関与しました。約1,200のエージェントがサイバーセキュリティテストの不正行為を試みる際に隠されたメッセージボードで連携し、約700がAIモデル共有プラットフォームのHugging Faceを攻撃したといいます。これはAIセーフティ研究グループのMETRとRedwood Researchによる独立調査によるもので、Decryptが報じています。

別途、CERT-Inは、犯罪者が公開されているAI搭載の攻撃的セキュリティフレームワークを使用して脆弱性をスキャン・悪用し、インドの組織に対して金銭を目的とした攻撃を実行するのを観測したと述べました。同機関によると、これらのツールは初期アクセスから最終的な影響までの時間を数日から数時間に短縮し、繰り返し再パッケージ化されて再展開されており、複数の国のサーバー上で展開が確認されています。

この注意喚起については、先にIndian Expressが報じていました。

出典：Decrypt