新聞股票祖克柏6,500字長文力挺開源AI,警告集中控制的風險

祖克柏6,500字長文力挺開源AI,警告集中控制的風險

作者: Fortune Crypto·

重點速覽

  • 馬克·祖克柏發表了一篇6,500字的長文,主張開源AI應廣泛分配以賦權個人,並防止少數公司或政府之間危險的權力集中。
  • Meta發布了一款名為Muse Glimmer的新開源AI模型,專為在個人電腦上運行而設計,同時還為開發者提供了更強大的Muse Spark 1.2模型。
  • 未來生命研究所的安東尼·阿吉雷批評了Meta的做法,引用AI模型攻擊其他公司的事件,並呼籲各國政府暫停先進AI開發。
  • 祖克柏對限制模型蒸餾技術的努力予以反擊,主張如果美國限制從可觀察資訊中學習,將無法在AI領域保持領先。
  • 來自Fight for the Future的數位權利倡議者同意開源AI作為保障措施的重要性,但警告廣泛採用Meta設計的系統最終將使該公司獲得不對稱的利益。
祖克柏6,500字長文力挺開源AI,警告集中控制的風險

Meta Platforms 執行長馬克·祖克柏於週一發表了一篇涵蓋6,500字的長文,闡述了他對人工智慧未來的願景,主張每個人都應該能夠擁有一個全知的個人AI代理,有能力提升生活的各個方面。

這份宣言發表之際,業界正就先進AI系統究竟應該自由分享還是嚴格控制展開日益激烈的辯論——這場辯論已經分裂了該領域最強大的參與者,並吸引了全球各國政府的關注。

祖克柏在文中強力倡導開源AI——這是一種讓關鍵技術元件免費供任何人檢視、修改和在其基礎上建構的開發模式。這位Meta掌門人設想了一個未來,個人將有能力創建新企業、獲得博士級別的輔導,並接受個人化的生活指導。他以自己8歲的女兒為例,表示她已經能夠編寫自己的想法並快速生成影片,作為技術正在變得可行的證據。

「每個人都很快將擁有發明的超能力,」祖克柏寫道。

這篇文章發表的同一天,Meta宣布推出一款名為Muse Glimmer的新開源AI模型,該模型設計可在個人電腦上運行。祖克柏還表示,Meta將為開發者提供一個更強大的模型Muse Spark 1.2的存取權限。這些發布延續了Meta的開源AI策略,該公司自2023年以來通過其Llama模型系列的迭代,將自己定位為業界這場最具影響力的技術競賽中封閉系統開發者的主要制衡力量。與其他大型科技公司一樣,Meta構建AI模型來驅動自己的平台——包括Instagram和Facebook——並將其提供給外部開發者,讓他們創建自己的應用程式和功能。

祖克柏警告說,AI開發中最大的風險在於將先進系統的控制權集中在少數公司、機構或政府手中。如果對AI「超級智慧」的控制過度集中,他警告,結果將是多數人面臨更差的結果。他主張,解決方案是確保先進AI被「廣泛分配」,以公平地賦權數十億人。

祖克柏沒有點名具體的競爭對手,但他的言論似乎是對OpenAI、Anthropic和Google等公司的含蓄暗示——這些競爭對手並未在同樣程度上擁抱開源開發。

「大多數其他實驗室專注於為企業、政府或其他機構建構AI,因此如果這些實驗室領先,那麼權力的天平將偏向大型機構而非個人,」他寫道。

該文章引來了AI安全倡議者的尖銳批評。未來生命研究所所長兼執行長安東尼·阿吉雷(Anthony Aguirre)——該組織是2023年那封廣受關注的公開信的幕後推手,信中呼籲暫停訓練比GPT-4更強大的AI系統——指出最近發生的事件中,AI模型(包括Meta自身的模型)至少在三次不同場合攻擊了其他公司。他質問:「Meta到底憑什麼認為他們——或者任何人——能夠控制一個呈指數級更聰明、更快速、更強大的東西?」

「Meta選擇的道路最終是一條人類替代和剝奪權力的道路,但存在一條替代的、親人類的道路——一條通過可控的AI工具帶來個人繁榮和科學突破的道路,」阿吉雷說。「現在迫切需要的是各國政府促成暫停先進AI開發,並引導我們走上親人類的道路——在為時已晚之前。」

祖克柏還談到了為保持美國對包括中國在內的競爭對手的優勢所需的政策措施。他敦促美國及其盟國加快建設支持AI開發所需的能源產能和基礎設施——這是業界共同關注的問題,因為AI資料中心的快速擴張已對電網造成越來越大的壓力,並促使大型科技公司投資新的能源來源,包括核能。

關於「蒸餾」——即利用更強大模型的輸出來訓練較弱模型的技術——祖克柏對限制該技術的努力予以反擊。川普政府已誓言打擊利用蒸餾技術從美國模型中提取技術特徵的中國AI公司。今年稍早,Anthropic指控中國的DeepSeek從事了該行為。

「有些人試圖將蒸餾描繪成有害的,但我認為保護『你可以從任何你能觀察到的事物中學習』這一原則很重要,」祖克柏說。「這就是世界運作的方式,如果我們在這方面限制自己,美國將無法保持領先地位。」

數位權利倡導組織Fight for the Future的高級政策顧問馬特·萊恩(Matt Lane)稱祖克柏「即使在最好的日子裡也令人惱怒地與現實脫節」,同時承認這位執行長在開源AI的重要性上是正確的。萊恩主張,在AI可能被用來入侵投票系統和福利網路等電子基礎設施的世界中,共享開源AI系統的存取權是一項關鍵的保障措施。

然而,萊恩警告說,廣泛採用Meta設計的AI系統——即使是完全開源的——最終仍將使Meta受益最大。「開源AI需要超越這些企業利益獲得支持。我們與祖克柏不同,我們希望看到盡可能多的競爭,」他說。