Elon Musk 一直以來對人工智慧的未來描繪出烏托邦式的願景，而許多其他科技領袖和各國政府則持續對該技術的潛在危險發出警告。

Google DeepMind 的首席 AI 準備官 Lila Ibrahim，是 2023 年一份聲明的連署人之一，該聲明宣稱應以與核戰爭同等的嚴肅態度來對待降低 AI 導致人類滅絕風險的工作。如今，她對這一最壞情況的可能性給出了自己的評估。

「不為零，」Ibrahim 告訴《Fortune》。「除此之外都只是我在猜測……這是我作為工程師的本能。」

距離 Ibrahim 簽署AI 安全中心的聲明已過去三年——與她一同簽署的還有 OpenAI 的 Sam Altman 和 Anthropic 的 Dario Amodei——她表示，「不談論存在性風險仍是不負責任的。」

被譽為「AI 教父」的 Geoffrey Hinton 估計人類滅絕的概率在 10% 到 20% 之間，時間跨度僅為三十年。Amodei 曾表示，未來——即人類的存在——有 25% 的概率會「變得非常、非常糟糕」。甚至已故物理學家 Stephen Hawking，生前依靠 AI 向世界傳達他的思想，在 ChatGPT 出現的近十年前就曾警告該技術可能終結人類。

「讓我夜不能寐的兩件事是：我們是否在竭盡全力降低風險？我們是否在竭盡全力最大化機遇？在我看來，這兩者是密不可分的，」Ibrahim 說。

Ibrahim 是該公司的首任營運長，她指出 COVID-19 疫情提醒人們，災難性風險並不總是你可以預見的那些。她還指出，在過去的技術變革浪潮中，例如互聯網的崛起以及隨後的社交媒體，企業在討論潛在負面影響方面歷來做得不夠。

「我們在做投資決策時，並沒有圍坐在一起以應有的方式討論風險。有時候我們太過專注於當下，」Ibrahim 說道，並補充表示末世科幻電影應被視為警示故事。

「如果我們不採取任何措施來降低風險，或者不在過程中投資於好的事物，那我們最終會走到我們最不希望去的地方，」她補充道。「有很多事情可能出錯。」

馬斯克稱 2036 年金錢將不再重要——Ibrahim 不認同

如果說 Ibrahim 對於給 AI 導致人類覆滅的可能性指定一個精確概率持謹慎態度，那麼她對另一個極端——後稀缺烏托邦——同樣持懷疑態度。

馬斯克反覆推崇這樣一種未來：AI 和機器人創造出極大的豐裕，使得工作變成可選項，工資失去其意義。他最近還給出了機器人接管職場、使薪水過時的十年期限。

「2036 年金錢將不再重要，」馬斯克告訴《The Economist》，他認為商品將變得極其廉價，社會將進入一個通貨緊縮的時代，政府將向從日常工作勞動中解放出來的公民發放全民高收入。

同樣地，Amazon 創辦人 Jeff Bezos 預測，到 2045 年，「數百萬人」將生活在太空中，由機器人處理日常通勤——因為在他的願景中，人們將往返於其他星球而非辦公室。OpenAI 的 Altman 曾表示，不到十年內，大學畢業生將從事「某種全新的、令人興奮的、薪酬超高」的太空工作。

然而，Ibrahim 並不認同。儘管她在 Google DeepMind——一個致力於解決重大科學問題的先進 AI 研究實驗室——擁有觀察 AI 最重大突破的前排視角，她認為該技術的發展速度太快，任何人都不可能以有意義的精確度預測接下來會發生什麼。這種不確定性正是她將這場辯論框架化的原因之一——與其說是在烏托邦和災難之間做選擇，不如說是一個關於治理、安全和現實應用場景的務實問題。

「我不認為我們真的能預測未來的狀態是什麼樣子，」她告訴《Fortune》。

她解釋道，她的重點不在於二十年後人類可能居住在哪個星球上，而在於如何務實地部署這些新興技術來改善我們當前所處的世界——應對極端天氣和工業廢料等具體挑戰，同時確保技術紅利不會僅僅流向運營這些強大 AI 公司的少數高管。對於企業和政策制定者而言，這意味著討論不僅僅關乎前沿模型，還涉及誰能取得這些技術、哪些風險受到監控，以及生產力提升的回報可能體現在哪裡。

「我寧願我們把注意力放在如何將技術作為一種工具來最大化人類潛能上，」Ibrahim 說。「這才是我們需要投資和投入時間的地方——圍繞我們可以通過這種能發現人類所無法發現的模式的新工具來解決哪些疾病進行討論。」

「我更多思考的是我們如何抵達未來，而非未來是什麼樣的，」她補充道。