新聞股票OpenAI 傳曾考慮接受中國與俄羅斯資金,並擬讓 Kanye West 搶先試用 GPT-3

OpenAI 傳曾考慮接受中國與俄羅斯資金,並擬讓 Kanye West 搶先試用 GPT-3

作者: CryptoBriefing·

重點速覽

  • •據報導,2017 年 OpenAI 共同創辦人 Greg Brockman 與 Ilya Sutskever 提出一項「國家計畫」,擬透過拍賣未來 AGI 權利或接受包括美國、中國、俄羅斯在內的政府資金,為 AGI 開發籌資。
  • •Dario Amodei 於 2017 年 9 月提出反對,稱該計畫「在道德上不正當」,並認為它可能加劇強權間的軍備競賽並助長人權侵害。
  • •2020 年,執行長 Sam Altman 曾打算讓 Kanye West 搶先試用 GPT-3,但 OpenAI 的政策總監以這位歌手行為難以預測為由終止了該安排。
  • •OpenAI 對報導中「國家計畫」的描述提出異議,表示當時僅考慮過國際合作模式,從未打算向中國或俄羅斯出售 AGI。
  • •據報導,內部在資金、商業化與領導層方面的分歧,促成 Amodei 與同事於 2021 年離職創辦 Anthropic——這家以安全為先的競爭對手,如今與 OpenAI 競逐企業客戶、政府合約與研究人才。
OpenAI 傳曾考慮接受中國與俄羅斯資金,並擬讓 Kanye West 搶先試用 GPT-3

在 OpenAI 成為全球人工智慧領域最受矚目的公司之前,其創立初期曾出現一些極為罕見的商業提案。根據對該公司創立階段的新記述,高層曾提議將未來的 AI 工具出售給包括中國與俄羅斯在內的政府,也曾計畫讓 Kanye West 搶先試用一款未發布的模型。據報導,資深員工當時對此感到震驚,而他們提出的反對理由,至今仍在 AI 產業中持續發酵。

這篇由科技記者 Kevin Roose 在《大西洋月刊》發表的報導之所以重要,在於它有助於解釋當代科技界最重大的分裂之一:當初最強烈反對這些構想的部分人士,後來離職創辦了 Anthropic——如今 OpenAI 最直接的競爭對手之一。這篇報導也正值一場隨 AI 成為龐大生意而不斷升溫的辯論之際:如此強大的技術應由誰出資、由誰塑造,以及誰能使用它。

「國家計畫」與 Kanye West 提案

核心事件可追溯至 2017 年。據報導,OpenAI 共同創辦人、現任公司總裁的 Greg Brockman 與 Ilya Sutskever 提出了一項內部提案,即所謂的「國家計畫」。構想是透過讓民族國家參與其中,為邁向通用人工智慧(AGI)的競賽籌措資金。根據該提案,OpenAI 原本可能拍賣未來的 AGI 權利,或接受政府資金。被提及的國家包括美國、中國與俄羅斯。隨著訓練尖端模型的成本攀升至少數機構能獨自負擔的程度,由誰資助前沿 AI 已成為現實的政策議題。

時任 OpenAI 高級研究員的 Dario Amodei 據報強烈反對。2017 年 9,他詳述了自己的疑慮,並稱該計畫「在道德上不正當」。根據報導,他的理由有二:他認為該計畫可能加劇對抗強權之間的軍備競賽,並可能助長人權侵害。這兩項疑慮如今皆已進入主流政策辯論,從政府對先進 AI 晶片的管制,到關於 AI 安全與軍事用途的國際討論皆是。

第二起事件發生在 2020 年。據報導,OpenAI 執行長 Sam Altman 曾打算讓 Kanye West 搶先試用 GPT-3 的某個版本——這款語言模型後來成為 OpenAI 商業產品的基礎。同年,OpenAI 開始透過付費 API 向外部開發者提供 GPT-3,這是其商業化轉向的早期一步。據報導,OpenAI 的政策總監以 West 行為難以預測為由,終止了這項安排。

OpenAI 已對報導中的部分內容提出異議。該公司對「國家計畫」的描述提出爭議,表示當時僅考慮過國際合作模式,從未打算向中國或俄羅斯出售 AGI。

內部鬥爭如何催生一家競爭對手

Amodei 在 OpenAI 並非邊緣人物。他在 GPT-2 與 GPT-3 的開發中扮演關鍵角色,這兩款模型將該公司從一個研究性的奇特項目,轉變為認真的商業玩家。

根據報導,「國家計畫」與 Kanye West 事件只是更大範圍摩擦的一部分。在 OpenAI 轉向混合商業模式的過程中,關於治理、商業化推進以及對領導層信任的分歧據報不斷累積。OpenAI 於 2015 年以非營利組織形式創立,專注於打造造福大眾的安全 AI,其後轉向能夠籌集巨額資金並銷售產品的架構。

Amodei 與數位同事最終離開。2021 年,他們創辦了 Anthropic,將其定位為以安全為優先的實驗室,並由 Amodei 擔任執行長。

這對 AI 競賽意味著什麼

據報導,OpenAI 與 Anthropic 之間的競爭最初源於價值觀的分歧:強大的 AI 應由誰出資、誰能取得使用權,以及應設下何種防護措施。如今這兩家實驗室正競逐企業客戶、政府合約與頂尖研究人才。它們的創立故事持續塑造各自的形象,其中 Anthropic 高度仰賴「安全優先」的定位,而這篇報導正好有助於解釋這一點。

OpenAI 的否認將是此事走向的關鍵。若該公司的說法成立,「國家計畫」就只是關於國際合作的一場早期腦力激盪,最終不了了之。若批評者的版本獲得更多支持,則將對這家如今影響力巨大的公司高層的判斷力提出更嚴峻的質疑來自前員工的更多具名說法,或公司更完整的反駁,都將決定哪個版本最終勝出。

與此同時,Kanye West 事件凸顯了在一家掌控強大技術的公司內部,使用權的決定可能有多麼隨意——以及有多少取決於敢於說「不」的個別員工。