我們的科技巨頭說，人工智慧很快就會創造一個富足的世界，同時解決氣候變遷等重大問題。為免誤解這個詞，我先前曾將我們的科技巨頭定義為「一群科技公司、科技科學家與發明家，以及科技投資人和記者；他們透過一些加快我們日常生活、卻未必讓生活更好的發明，迷惑了現代世界。」

在最近接受《The Economist》雜誌訪問時，科技巨頭中的首席人物 Elon Musk 表示：「如果你有大量機器人，並擁有大量數位智慧，你就會有一種近乎無限的經濟體。」在這樣的經濟體中，「任何人都可以擁有自己想到的一切。」他還說，到了 2036 年，「金錢將不再重要」，因為每個人都能在不工作的情況下擁有高收入。Musk 將這形容為《Star Trek》式的未來。

Musk 的說法反映出一種熟悉的科技業幻想：一個按鈕式、可語音啟動的富足未來，就像《Star Trek》電視劇和電影所描繪的世界。任何認真看過該系列的人都知道，《Star Trek》的未來裡，貧窮已被消除，金錢不再需要，且你想要或需要的一切都可取得。

我有位朋友曾問過：「如果你有複製器和全息模擬艙，為什麼還需要去任何地方？」但《Star Trek》中的人物仍然經常旅行，為的是「尋找新生命與新文明。探索陌生的新世界，大膽前往從未有男人到達之處。」這句話後來在《Star Trek: The Next Generation》中更新為「從未有人到達之處。」

Musk 說，在他描繪的富足未來裡，有些人仍可能選擇工作，就像有些人會在自家後院種花園，儘管他們從雜貨店就能買到所需的全部食物。

這個想像中的未來有一個關鍵問題：10 年後，AI 將在沒有人的情況下運行世界。若真如此，受訪者問道，企業要如何賺錢？它們又如何繼續存在？Musk 沒有答案。

這就帶出第二個問題：人們要如何取得購買所需物品的資金？Musk 說，政府只要直接發給人們支票即可。這個看法出自一位加入 Trump 政府、主張削減政府支出的人，而他同時還領導著一個界定不清、結局不佳的 Department of Government Efficiency。Musk 似乎是在主張一種由 AI 引發的社會主義。多年前，他曾把自己塑造成社會主義者，但考量到他公開展現的政治立場、行動，以及他所資助的政治候選人，這種說法如今很難令人信服。

首先，必須用我稱之為「will 測試」的方法來檢驗這個未來幻想，這是 AI 批評者 Ed Zitron 提出的概念。他要求 AI 擁護者在不使用「will」一詞的情況下，說明當前 AI 模型能做到什麼。這些支持者幾乎拿不出什麼具體內容。

上面描述的科技幻想，完全仰賴 AI 相關的「will」這個字眼。當前 AI 模型能做到的任何事情，都遠遠無法支持這種未來圖景。這些模型——也就是所謂的大型語言模型（LLMs）——會產生大量錯誤，因此若像 Musk 所建議的那樣，把經濟中攸關生死的重要系統交給 AI，幾乎肯定會帶來災難，而不是繁榮。所謂「幻覺」問題是 LLM 運作方式的內在特徵，無法被消除。而運行多數關鍵任務系統所需的那種智慧，也就是人類智慧，LLMs 根本無法實現。

認為目前控制 AI 發展的大型科技公司會隨著全球繁榮擴散而消失，這種想法看起來像是一個用來讓大眾保持被動的故事。這種敘事之所以讓產業接受，似乎也說得通，因為 AI 新興的、真正具有殺傷力的應用，就是監控與軍事武器系統。各國政府似乎願意支付 AI 的高昂成本，以換取更有效的公民監控與更強力的武器。對使用這些系統的政府而言，這類系統必然會犯下許多錯誤，似乎並不特別重要。

企業與消費者或許確實從 AI 得到一些好處，尤其是在強化網路搜尋方面。但這些有限效益的真實成本，遠遠高於他們目前支付的費用許多倍。再加上 AI 的運作方式，亦即每新增一位使用者都需要額外的資料中心容量，因此根本不存在能夠壓低成本的規模經濟。簡單說，每新增一位使用者，AI 供應商就要多付出一筆成本。以目前的設想來看，AI 除了少數願意為其輸出支付真實成本的利基使用者外，幾乎不可能獲利。

科技巨頭多年來一直在唱同一首歌：相信我們，坐下來，讓我們帶你進入一個愈來愈宏大的科技烏托邦未來。如今宣稱 AI 會成為通往這個未來的媒介，只是某種宣傳戰的一部分，目的在於阻止大眾對 AI 及其用途發聲。值得慶幸的是，許多社區已經表明，他們不想承擔與 AI 建設相關的新資料中心所帶來的成本與衝擊。這種疑慮也應延伸到 AI 本身的使用與濫用。

By Kurt Cobb via Resource Insights

More Top Reads From Oilprice.com

Oil Prices Plunge 5% After U.S. and Iran Halt Attacks

Saudi Crude Tanker Goes Dark to Slip Through Bab el-Mandeb

Hormuz Tanker Crossings Sink to Lowest Level Since May as War Risk Spikes