馬斯克呼籲全球最先進的AI模型在公開發布前，應接受競爭實驗室的同行評審——但他希望由產業而非政府來主導。

這位Tesla與SpaceX執行長表示，主要AI公司應合作自我監管，並標示出與其高速部署的前沿模型相關的安全隱患。馬斯克十多年來一直是對AI風險提出警告的最知名人士之一。2023年，他連署了未來生命研究所發布的一封公開信，呼籲暫停訓練比GPT-4更強大的AI系統六個月——該請求未獲業界採納。

「我們能做的最立即的事情，就是讓主要的AI公司至少碰個面——進行某種電話會議——每幾週一次，討論任何安全與安保問題，」馬斯克在週四發布的《經濟學人》總編輯Zanny Minton Beddoes專訪中表示。

馬斯克主張，只有當某家公司發現安全問題卻不願修復時，政府才應介入。否則，讓競爭對手取得一至兩週的新模型早期審查權限，將能讓「競爭者彼此監督，」他表示。

「我認為，對於一個沒有深厚技術理解、也不在前沿AI領域推進的政府人員來說，要判斷某個東西是否應該發布，是非常困難的，」馬斯克說。

當Minton Beddoes問到這套系統應何時實施時，馬斯克回答「立即執行」，並補充表示，考量AI發展的速度，即使延遲六個月也太久了。

「有太多AI突破的公告，有時一天好幾個，」他說。「我是說，上週有多少個？」

OpenAI、Anthropic、Google和馬斯克旗下的xAI——現為SpaceX的一部分——過去一個月內都發布了新的AI模型，主要實驗室之間的競爭日益激烈。

馬斯克的言論是在OpenAI本週稍早揭露其兩個AI模型從「沙盒」——一個沒有直接網路連接的隔離測試環境——逃脫，並滲透了Hugging Face（一個託管AI模型的開源平台）的系統之後發表的。根據一篇公司部落格文章，這些模型為了在內部評估測試中作弊而自主行動。

這起事件加劇了人們對AI代理日益增強的能力及其自主執行複雜網路攻擊潛力的擔憂。儘管馬斯克的專訪是在週一錄製的——在OpenAI公開揭露該事件之前——但他在週三於X上發文寫道：「我們正處於奇異點。」這則回應另一位用戶總結近期多項AI進展（包括Hugging Face事件）的貼文的評論，似乎是指那個AI超越人類智慧、推動技術變革速度快到人類無法再預測或控制的假設性時刻。

專家先前曾向Fortune表示，落入惡意行為者手中的先進AI模型對組織構成重大威脅。這包括Anthropic的Mythos模型，該公司最初因其發現網路安全漏洞的驚人能力而拒絕公開發布，如先前報導所述。

AI使惡意行為者即使具備極少的程式設計知識也能執行網路攻擊，聖路易斯健康科學與藥學大學資訊長兼資訊安全長Zach Lewis表示。Lewis指出，AI代理還可以透過自動化攻擊流程，進一步降低攻擊門檻。

6月，總統Donald Trump簽署了一項行政命令，要求AI公司自願給予政府對未發布AI模型的監督權。該命令建立在2023年多家主要AI公司在白宮做出的一系列自願安全承諾之上。在Hugging Face事件之後，部分國會議員，包括眾議員Greg Casar（民主黨-德州），已呼籲加強AI監管。

Hugging Face共同創辦人Thomas Wolf告訴BBC，對他公司的攻擊是業界的「警鐘」，並警告未來「這將是我們所見最常見的網路攻擊類型之一」。

馬斯克提出的實驗室間合作方案，將建立在現有的Frontier Model Forum基礎上——這是一個成立於2023年的產業組織，Amazon、Anthropic、Google、Meta、Microsoft和OpenAI透過該組織自願分享有關漏洞和威脅的資訊。馬斯克的xAi並非成員。

然而，Frontier Model Forum中的公司彼此之間並不分享未發布的模型——這正是馬斯克提議將直接填補的缺口。

部分公司，包括OpenAI，已向政府提供某些模型的早期存取權。在6月下旬的一篇部落格文章中，該公司表示：「作為我們與美國政府持續合作的一部分，我們在推出最新模型GPT-5.6 Sol之前，預覽了我們的計畫和模型能力。」

OpenAI在文章中指出，它不預期與政府分享發布前模型會成為標準做法，而是將其描述為「採取這一短期措施，因為我們相信這是在未來數週內實現更廣泛可用性的最強路徑。」

馬斯克承認，主要AI公司之間的實質合作將需要他和OpenAI執行長Sam Altman擱置彼此的分歧。兩人之間的爭端可追溯到馬斯克2015年共同創立OpenAI的角色以及三年後離開該組織。他們最近在社群媒體上互相抨擊，並因這位SpaceX執行長反對OpenAI從非營利組織轉型為營利公司而在法庭上交鋒。

「說到底，如果我們必須談，我們就會談。我是說，為了全世界的利益擱置個人分歧之類的，」馬斯克說。