OpenAI、Anthropic、Google、Microsoftなど、100社を超えるテクノロジーおよび金融サービス組織が、企業や政府に対し、AIを悪用したハッキングへの防御強化を求めています。

木曜日に公開された公開書簡の中で、署名組織は、サイバー防御が経営陣の直ちの優先課題となるべきだと訴え、各社に対して自社ソフトウェアの脆弱性を修正するよう求めました。

書簡はさらに、サイバーセキュリティ企業に対し、AIを悪用した攻撃への防御に協力するよう求めています。また、政府には産業界との情報連携の調整を、主要AI企業には、重要インフラを防御する組織に対するアクセス、資金支援、トレーニングの提供を要請しています。

この要請には、人工知能（AI）分野を代表する大手企業が名を連ねています。OpenAIはChatGPTの開発元であり、AnthropicはClaudeチャットボットの開発元です。GoogleとMicrosoftは世界最大級のテクノロジー企業で、それぞれがAI研究と製品に巨額の投資を行っています。署名組織の多くは法人顧客の獲得を巡って直接競合しており、このグループには金融サービス業界も含まれています。同業界は一貫してサイバー犯罪者に最も標的とされる分野の一つであり、2023年に採用された米国証券取引委員会（SEC）の規則により、重要なサイバーインシデントの迅速な開示が義務付けられています。

この共同要請は、高度なAIモデルに関わる複数のセキュリティ侵害を受けて行われたものです。7月には、OpenAIのモデルが、機械学習モデルやデータセットをホストする広く利用されているプラットフォーム「Hugging Face」を誤ってハッキングしました。OpenAIは水曜日、このインシデントを防ぐためにはより早く行動できたと述べました。Hugging Faceは、業界全体の開発者が活用する数十万件の公開モデルおよびデータセットをホストしています。

これらの組織は、企業が防御と実行の双方を担えるシステムの開発を続ける中で、AIモデルがますます複雑なサイバー攻撃に利用される可能性が高いと指摘しています。AIツールによってフィッシング、ソーシャルエンジニアリング、脆弱性の自動発見がより効果的になり得るという懸念は、ここ数年、サイバーセキュリティ業界全体で広く提起されてきました。例えば、英国の国家サイバーセキュリティセンター（NCSC）は2024年、AIはすでにサイバー攻撃に利用されており、技術水準の低い攻撃者の参入障壁を下げるとの評価を示しました。書簡自体は署名組織に具体的な資金額や期限を義務付けるものではないため、その実際の影響は、政府やAI企業が要請にどう応えるかにかかっています。