OpenAIは木曜日、数ヶ月以内に人工知能（AI）モデルが、病院や浄水場などの重要インフラに対して悪意ある主体による高度なサイバー攻撃を可能にするほど強力になる可能性があると警告する書簡を発表しました。医療や水道事業といった分野は、老朽化したシステムと人命に関わる影響によりダウンタイムへの許容度が極めて低く、古くから攻撃者にとって魅力的な標的とされてきました。この懸念から、米国政府は近年、運用技術のセキュリティ確保について繰り返し警告を発してきました。

銀行、テクノロジー、サイバーセキュリティ分野にまたがる100社以上の企業がこの書簡に署名しており、Accenture、Anthropic、Capital One、Google、Microsoft、Visaなどが名を連ねています。署名企業の幅の広さは注目に値します。米国金融セクターの情報共有機関のような公私協働の脅威情報共有の枠組みで既に活動している銀行や決済ネットワークは、競合するAI研究機関と共同でセキュリティ声明を出すことは通常まれだからです。7月にOpenAIのエージェントによるシステム侵入を受けたオープンソースAIモデルリポジトリのHugging Faceも署名しました。

「今日のAIの進歩は、長年蓄積してきた脆弱性を修復する新たな手段を既に防御者に与えています。果断に行動すれば、防御者に開かれた時間を活用し、デジタル世界をはるかに安全なものにできます」と書簡の一節は述べています。

組織と政府への呼びかけ

この脅威に対処するため、OpenAIはすべての組織に対し、サイバー犯罪防御を「直ちに対応すべき経営上の最優先事項」とするよう求めました。書簡によると、サイバーセキュリティ組織は「最先端のサイバー能力に対して防御を継続的にテストし、既存のツールをAIで強化し、テクノロジーパートナーと協力して今すぐギャップを埋めることを含め、持続的なAI enabled攻撃への防御対応を主導する」必要があります。

世界各国の政府にも行動喚起が向けられ、OpenAIは地方・国家・国際レベルでサイバー防御を強化すべきだと述べました。

「病院、水道事業、地方政府に、有能な防御用AI、認可されたテスト、信頼できるセキュリティプロバイダーやパートナーを通じた実践的支援へのアクセスを与えてください。攻撃者にコストを負担させてください」とOpenAIは書簡で政府機関に伝えました。

「最先端AI企業」に向けた書簡の一部では、OpenAIはこうした企業が重要インフラ事業者に強力なモデル、資金、研修、技術支援へのアクセスを提供すべきだと述べました。事業者側は、AIエージェントの使用状況を追跡するツールを構築し、脆弱性についてシステムをテストし、問題に責任を持って対処し、有用なセキュリティ情報を政府や他の防御者と共有すべきだとOpenAIは述べています。情報共有の重視は、重要インフラセキュリティにおけるCISAの調整役といった既存の仕組みと共鳴しており、この書簡が既存の防御チャネルを置き換えるのではなく拡張することを目指していることを示唆しています。

過去のAI活用型サイバー攻撃

AI活用型のサイバー攻撃は既に複数発生しています。特に注目されるのは、Anthropicが昨年9月、中国の国家支援グループがClaude Codeツールを操作し、世界中の30の標的へのハッキングを試み、そのうち複数に侵入したと非難した事例です。

「これは、エージェント型AIが確認された高価値標的へのアクセスを情報収集目的で獲得した最初の記録された事例です」とAnthropicのインシデント報告書は述べています。

Anthropicは攻撃の被害者を特定しませんでしたが、大手テック企業、金融機関、化学製造企業、政府が標的の中に含まれていたと述べました。

また、Anthropicは、急速に進歩するAIを制御しなければ民間インフラへの壊滅的攻撃を招きかねないと警告する業界の先駆者でもあります。4月には、世界の最も重要なソフトウェアを保護する取り組み「Project Glasswing」を発表しました。その発表の中でAnthropicは、同社の最先端モデルであるClaude Mythosが「ソフトウェアの脆弱性の発見と悪用において、最も熟練した人間を除くすべてを上回るコーディング能力」に達したと述べました。

書簡の時間軸——「数ヶ月以内」に脅威が到来するという警告——が示すのは、次に注目すべきは政府やインフラ事業者がこれらの提言を具体的な防御展開に転換するかどうか、そして記録されたAI活用型侵入が増加し続けるかどうかであるという点です。

OpenAIとAnthropicは、FOX Businessのコメント要請に即座には応じませんでした。