Elon Musk 稱人類可能在十年內失去對 AI 的控制
重點速覽
- •Musk 表示，AI 正朝著在未來數年內於幾乎所有智力任務上超越人類的方向發展。
- •他主張，鑑於 AI 與機器人技術的發展動能，試圖停止其發展已不再現實。
- •Musk 提議，前沿 AI 公司應分享對未發布模型的有限早期存取權，供競爭對手進行安全測試。
- •加州陪審團在 5 月駁回了 Musk 針對 OpenAI、Sam Altman 和 Greg Brockman 提起的 $150 billion 訴訟。
- •Musk 表示，當安全需要合作時，競爭中的 AI 公司應放下個人衝突。
Elon Musk 表示，人工智慧可能在約五年內超越全人類的綜合智慧，而人類在未來十年內很可能無法繼續控制這項技術。
在週四與 The Economist 總編輯 Zanny Minton Beddoes 的對談中，xAI 創辦人表示，AI 正朝著在幾乎所有智力任務上超越人類的方向發展；同時他也主張，這項技術可能創造一段前所未有的富足時期。Musk 於 2023 年創立 xAI，使他既成為前沿 AI 競賽中的競爭者，也成為業界最知名的、公開批評不受約束 AI 發展的人士之一。
"There really won't be anything that AI can't do better than humans, apart from being human, perhaps,” Musk said. “The most likely outcome is an age of amazing abundance where anyone can have anything they can think of. This may sound preposterous, but here we are in 2026. Let's see where we stand in 2036."
這些言論延續了 Musk 多次提出的主題：AI 可能開啟一個「富足時代」，同時也為人類帶來深刻的存在性挑戰。Musk 表示，他仍將先進 AI 視為一種存在性風險，但補充說，他已看不到有現實可行的方法能放慢這項技術的發展。
“I can't see any way to really stop this incredible momentum of AI and robots,” Musk said. “At times I think, well, perhaps even if there was a stop button, we probably shouldn't press it, because the most likely outcome is incredible abundance for all."
Musk 表示，與其試圖停止發展，全球主要 AI 公司應定期舉行會議，聚焦安全與安保方面的疑慮。他還提議，彼此競爭的 AI 實驗室應被授予對對方前沿模型的有限早期存取權，以便在這些系統向公眾發布前尋找危險能力。Musk 表示，如果一家公司未能回應嚴重風險，政府屆時可以介入。
這項提議將超越主要 AI 開發商已採用的內部紅隊測試與外部安全評估，因為它會要求競爭對手分享對未發布系統的有限存取權。這一想法凸顯了前沿 AI 面臨的更廣泛治理問題：最有能力識別新興風險的公司，同時也正在競相發布更強大的模型。
Musk 呼籲主要 AI 開發商合作之際，也再次批評他的長期競爭對手 Sam Altman，以及 OpenAI 從非營利組織轉向營利結構。Musk 表示，OpenAI 已偏離他所稱的創立宗旨。
"Well, I'm not a fan of Sam Altman because you started a nonprofit that was meant to be an open-source AI company, owned by the world, and it somehow got turned into an $800 billion for-profit company with closed source,” Musk said.
5 月，加州陪審團駁回了 Musk 針對 OpenAI、執行長 Sam Altman 以及共同創辦人 Greg Brockman 提起的 $150 billion 訴訟。陪審團認定，被告不需為其被指控透過轉向商業結構而放棄 OpenAI 非營利使命的主張負責。該判決終結了 Musk 針對 ChatGPT 開發商最受矚目的法律挑戰之一。
Musk 也談到 Anthropic，稱該公司之所以存在，是因為共同創辦人 Dario Amodei 及其團隊不再信任 Altman 在 OpenAI 的領導。Musk 主張，如果他們仍保有那份信任，就會留在 OpenAI。
"I think Dario is a very principled person. He cares about the future of the world, and I think everyone I've met at Anthropic so far has been well-intentioned. No one has set off my evil detector,” Musk said. “The road to hell is mostly paved with bad intentions. There are a few well-intentioned paving stones in there, so we don't want to be complacent.”
儘管 Musk 讚揚 Amodei 在 Anthropic 的領導，包含 Altman 在內的批評者指控該公司利用以恐懼為基礎的行銷來銷售其 Claude AI 產品。
儘管他與 OpenAI 領導層存在爭議，Musk 表示，競爭中的 AI 公司在必要時應準備好就安全問題合作。
"At the end of the day, if we have to talk, we'll talk," Musk said. "Set aside our personal differences for the good of the world."