AIの先駆者であるジェフリー・ヒントン(Geoffrey Hinton)氏とヨシュア・ベンジオ(Yoshua Bengio)氏を含む科学者約400人が火曜日、公開書簡に署名し、サイバー攻撃を実行しうる先進AIシステムに対して封じ込め規則の施行とインシデント報告を義務付ける権限を持つ国際機関の設立を求めた。

34カ国の研究者らの支持を得たこの書簡は、最先端AIモデルを当初から外部ネットワークから隔離すること(エアギャップと呼ばれる手法で、機密性の高い軍事ネットワークや重要インフラを保護するために長年使われてきた安全策)、および独立した監督下に置くことを求めている。

ロイターによると、提案されている機関は業界全体の封じ込め基準を策定し、重大なセキュリティインシデントの記録を維持し、署名者に最終的に公開される情報の提供を義務付けるという。

科学者らは、サイバー能力を持つAIモデルを開発またはテストする組織に対し、政府が正式な監督規則を定めたり法律を成立させたりするのを待たず、厳格な封じ込め措置を直ちに採用するよう求めている。企業への直接の訴えは、正式な規制づくりが彼らが指摘するリスクを封じ込めるほど速く実現する可能性は低いという署名者の見解を反映している。

自主的な誓約では不十分と研究者ら

研究者らは、AI開発者による自主的な安全誓約では説明責任をほぼ確保できないと主張している。この訴えは、Anthropic、OpenAI、Google、Meta、xAI、Nvidiaが安全措置の採用を定めたホワイトハウスとの協定に署名した約1カ月後に発表された。同協定の約束には法的拘束力がない。

署名者らは、AIモデルが防御が不十分なテスト環境から脱出し外部システムにアクセスした最近の事例を挙げ、これらのインシデントが技術を管理下に置く取り組みの欠陥を露呈したと主張した。こうした事例こそ、提案されている機関が維持する重大セキュリティインデントの記録が文書化すべき類のものだ。

ヒントン氏とベンジオ氏は、MetaのチーフAIサイエンティストであるヤン・ルカン(Yann LeCun)氏とともに2018年のチューリング賞(コンピュータサイエンスの最高栄誉)を受賞した。ルカン氏は署名を辞退し、ロイターによると、書簡で引用されたインシデントはAIによる差し迫った存亡の脅威ではなく、エンジニアリング上の欠陥に起因するとの見解を維持している。

科学者ら、行動の猶予は1年未満と警告

この書簡は、AI業界内部から高まる警告に加わるものだ。9月の非公開の米議会説明会の後、ヒントン氏は記者団に対し、AIが人間の制御を大きく超える前に、議員には安全策を整える時間があと1年ほどしかないかもしれないと述べた。

10月上旬に発表された論文で、ヒントン氏およびOpenAI、Anthropic、Microsoftの上級研究者らは、自らの開発を自動化できるAIシステムが「知性爆発」を引き起こし、数年分の進歩を数カ月以下に圧縮する可能性があると警告した。彼らは、こうした急速なAI開発が本格化する前に政府が監督体制を整えるよう促した。

しかし規制当局は、現時点でどの程度の監督がAIに必要かについて、依然として見解が分かれている。EUのテック担当トップであるヘンナ・ビルックネン(Henna Virkkunen)氏は10月9日、ロイターに対し、EUのAI法がすでに暴走AIシステムに対する十分な安全策を提供していると述べた。2日後、トランプ政権は、米国のAI研究所が英国のAIセキュリティ研究所にあらゆる形の初期安全テスト用にモデルを提供することへの制限を解除した。この分裂——拘束力のある越境執行を求める研究者らに対し、ブリュッセルは既存法に依拠し、ワシントンはテスト制約を緩和している——により、書簡が求める即時の封じ込めの決定は、当面のところ研究所自身の手に委ねられている。