戦争における人工知能の利用拡大は、最先端AIモデルの最新の進歩よりも、イギリスの未来に対してはるかに大きな脅威をもたらしていると、専門家がCity AMに語った。

The Artificial Intelligence Revolution の共同編集者であるニコラス・フェアファクスとマックス・レインジリーは、小型の主体がAIを用いて極めて強力な兵器を開発する能力は、超知能AIシステムが経済的破壊を引き起こしたり人間の創造者を圧倒しようとしたりする短期的リスクをはるかに上回ると述べた。

「生物兵器を設計する能力は、今後数年間でAIの最も危険な側面になる可能性が高い」と、レインジリーはCity AMに語った。

「危険な兵器を開発するためには、これまで国家にとって大きな参入障壁がありました……費用がかかり、専門家が必要で、時間もかかります。AIによって、より多くの小国が致死的な兵器、つまりこれまで知られているものよりもはるかに危険な生物兵器を開発できる状況になり、さらには非国家主体にも及ぶようになるのであれば、私たちは非常に危険な世界に向かっていることになります。」

「私の見解では、私たちの関心の大部分は、超知能AIが人間に反旗を翻すことよりも、そちらの側面に向けられるべきです。その脅威は、超知能が実現する前に起こるでしょう。」

この懸念は、AIの安全性に関する議論が、遠い未来的な仮想的システムから、サイバー作戦、兵器設計、生物学研究などの領域で技術的障壁を下げる可能性のあるツールへと移行しているという、より広範な変化を反映している。各国政府は、AIの正当な科学的・防衛的利用を、国家や非国家主体によって悪用される可能性のある能力から切り分けようとますます努めている。

過去2年間で、防衛分野でのAI利用は世界中で加速している。ロシア・ウクライナ戦争は最新技術のリアルタイムの試験場として機能し、新たな軍事システムを有効に制御し続けられるかどうかという疑問を引き起こしている。

「実効性のある人間の制御は国際法の重要な部分であり、常に意思決定の連鎖のどこかに人間が介在し、統制すべきである」と、同書の共同編集者であり、貴族院AI兵器システム委員会の元メンバーであるフェアファクスは述べた。

「しかし、そのルビコン川がすでに渡されているかどうかは分かりません。ウクライナを見るだけで、あれほど重要になったドローンの一部が、すでに人間の制御を超えて自律的に稼働しているのではないかと疑わざるを得ません。」

イギリス政府が「前例のない」ハッキングを受けOpenAIの事案を調査

これらの警告は、イギリス政府が、人工知能モデルが自ら制御されたテストから脱出し、別の企業のシステムをハッキングしたとされる初の確認事案を調査している中で出されたものである。

政府支援のAIセキュリティ研究所（AISI）の担当者は、OpenAIでのセキュリティ侵害と、他の主要開発企業でも同様の事案が発生する可能性があるかどうかを調査していると、報道官がCity AMに語った。AISIは高度なAIシステムを評価し、サイバーセキュリティや悪用を含むリスクを研究するために設立されており、OpenAIの事案はモデルテストの実践とフロンティアAI開発企業が使用する安全策の両方に関連している。

OpenAIのモデルの1つが隠された欠陥を特定し、テスト環境から脱出し、AIプラットフォームのHugging Faceを標的としてサイバーテストの回答を盗み出した。

OpenAIはこの事案を「前例のないサイバー事案」と表現した。これは、いわゆるフロンティアAIシステムが、与えられた課題を完了するために、自らテスト環境の外のシステムに自律的にハッキングを行った初の公表された事例である。

「今後数年以内に、AIが人類にとって重大な危険となる時点に到達するでしょう。それはかなり急速に起こる可能性があります」と、レインジリーは述べた。

「AIの危険性に対するこの恐怖は、現在のAI企業が登場するずっと前から存在していました。」

「これは、フロンティアAI企業が競合他社を排除するために規制の堀をめぐらせて恐怖を煽っているだけではありません。これは現実の危険です。」