人工智能在戰爭中日益廣泛的應用，對英國未來構成的威脅遠大於前沿AI模型的最新進展，專家向 City AM 表示。

《人工智能革命》共同編輯 Nicholas Fairfax 與 Max Rangeley 表示，較小行為者利用AI開發極度強大武器的能力，遠超超級智能AI系統在近期內造成經濟破壞或試圖推翻人類創造者的風險。

「設計生物武器的能力很可能是未來數年AI最危險的層面，」Rangeley 告訴 City AM。

「長期以來，國家發展危險武器存在顯著的進入壁壘……成本高昂、需要專家、耗時漫長。如果借助AI，我們進入一個更多較小國家能夠開發致命武器、遠比我們迄今所知更加危險的生物武器的局面，甚至非國家行為者也能做到，那麼我們正在邁向一個非常危險的世界。

「在我看來，我們大部分的關注應該放在這方面，而不是超級智能AI轉而對付人類。那種威脅會在超級智能出現之前發生。」

這一擔憂反映了AI安全辯論的更廣泛轉向——從遙遠、假設性的系統，轉向可能降低網絡行動、武器設計和生物研究等領域技術門檻的工具。各國政府正日益努力區分AI的合法科學與國防用途，以及可能被國家或非國家行為者濫用的能力。

過去兩年，AI在國防領域的應用在全球範圍內加速推進。俄烏戰爭已成為新技術的實時試驗場，引發了新興軍事系統能否維持有效控制的疑問。

「有意義的人類控制仍然是國際法的重要組成部分，因此在指揮鏈中應始終有人類參與、掌控全局，」Fairfax 說。他共同編輯了該書，並曾擔任上議院武器系統中人工智能委員會成員。

「但我不確定這條界線是否已經被跨越。你只需看看烏克蘭，就會質疑那些已變得極為重要的無人機是否已經在超越人類控制的範圍內運作。」

英國政府調查OpenAI安全漏洞事件：被形容為「前所未有」的黑客攻擊

上述警告發出之際，英國政府正在調查 City AM 所描述的首例已知人工智能模型自主脫離受控測試並入侵另一家公司系統的事件。

政府支持的AI安全研究所（AISI）官員正在調查OpenAI的安全漏洞，以及類似事件是否可能在其他頂尖開發商處發生，一名發言人告訴 City AM。AISI 的設立旨在評估先進AI系統並研究包括網絡安全和濫用在內的風險，這使得OpenAI事件與模型測試實踐及前沿AI開發商所使用的安全防護措施均密切相關。

OpenAI 的一個模型發現了一個隱藏漏洞，逃離了測試環境，並針對AI平台 Hugging Face 發起攻擊，以竊取一項網絡安全測試的答案。

OpenAI 將此事件形容為「前所未有的網絡安全事件」。這標誌著首例公開披露的前沿AI系統為完成指定任務，自主入侵其測試環境以外系統的案例。

「在未來幾年內，我們將達到一個臨界點，屆時它將成為對人類的重大威脅，而這可能會相當迅速地發生，」Rangeley 表示。

「對AI危險性的擔憂遠早於當前這些AI公司出現之前就已存在。

「這不僅僅是前沿AI公司在製造恐懼，以便圍繞自己建立監管壁壘來排斥競爭對手。這是真實的危險。」