新聞宏觀經濟深入AI未來的壓力核心:OpenAI總裁Greg Brockman深度專訪

深入AI未來的壓力核心:OpenAI總裁Greg Brockman深度專訪

作者: Fortune Crypto·

重點速覽

  • Brockman表示OpenAI仍在調查與Hugging Face相關的模型事件,並專注於改善安全防護措施與網路防禦。
  • 他表達了對類似FINRA模式的監管框架的支持,以協調AI安全與創新。
  • Brockman表示OpenAI長期以來一直使用蒸餾防護措施,政策辯論應反映匹配前沿模型能力的技術難度。
  • 他表示ChatGPT擁有近十億用戶,OpenAI今年正優先發展企業端採用。
  • Brockman表示OpenAI尚未準備好討論其裝置計畫,但打算重新思考AI驅動產品的介面。
深入AI未來的壓力核心:OpenAI總裁Greg Brockman深度專訪

創辦任何新創公司都是一項充滿無盡壓力的艱巨任務。創業者必須不斷摸索,建立可行的商業模式,同時抵禦規模更大的在位競爭者、留住關鍵人才,並避免失敗。對身心健康的損害可能相當嚴重,而這段旅程充滿了極端的高潮與低谷。

現在想像一下,你不僅僅是一名新創創辦人,而是歷史上最具變革性技術領域的領導公司的共同創辦人:人工智慧。

Greg Brockman是OpenAI的共同創辦人兼總裁,在這家新創公司的整個發展歷程中一直與執行長Sam Altman並肩作戰。這包括了2023年Altman短暫被罷免執行長的動盪時期,以及Brockman自己在去年底短暫休假。在這些年間,Brockman必須應對訴訟、日益加劇的政治與監管審查、史上最大規模的融資輪次,以及對OpenAI所建構的未來是否最終有益仍持懷疑態度的社會大眾。OpenAI的估值已達數百億美元,其籌資規模在私人AI公司中前所未見,使其受到投資人、政策制定者和競爭對手的高度審查。

週四,《財星》與Brockman進行了一對一的深度對話,涵蓋了廣泛的議題:OpenAI近期涉及Hugging Face的安全事件、美國應如何應對中國開源AI模型、AI實驗室的根本商業模式,以及他個人如何應對協助管理OpenAI的巨大壓力。

關於商業模式,Brockman直言不諱:「我們追求的根本價值交付——我們還沒到那裡。大規模的價值創造尚未到來。」

至於壓力呢?「我很依賴我的妻子,」他告訴《財星》。確實,當採訪在OpenAI位於SoHo Puck Building的紐約辦公室結束時——OpenAI在那裡與其最大投資者之一Thrive Capital為鄰——這名記者遇到了Brockman的妻子,她專程前往紐約市支持丈夫。

以下訪談紀錄已為篇幅、清晰度及發布需求進行編輯。


《財星》:本週稍早,OpenAI發布了一篇部落格文章,詳述其LLM模型突破受控環境並與競爭對手Hugging Face互動的情況。關於這起事件,最令您驚訝的是什麼?未來如何預防類似的安全漏洞?競爭AI公司之間是否需要更多合作?

Greg Brockman: 當我們開始思考這樣的時刻時,重點不在於具體事件本身,而在於模型具備的整體能力水準。

我們的立場一直是,我們真正希望幫助防禦者運用這項技術,讓人們能夠使用它來保護自己的系統。

他們無法使用我們的模型這一事實,對我們來說非常突出。我們需要做得更好,讓這些模型更容易被使用,同時也要協助教育人們,讓他們了解為什麼需要這些模型。網路防禦是我們的重大優先事項。這是一個我們一直在大力擴編的團隊,他們正以高度專注和緊迫感開始執行工作。我希望這個時刻能夠真正凝聚整個產業,因為所有人的利益高度一致。

《財星》:在Hugging Face事件中,聽起來涉及兩個模型——一個是已知模型,另一個是之前未公開的模型。關於接下來的模型以及您在此次事件後如何看待下一個模型,您還能告訴我們什麼嗎?

Brockman: 我不想在我們的部落格文章之外補充太多,因為仍在積極調查中。但我們說過這是多個模型的組合;我們提到了其中兩個,但表示這是多個不同模型的組合。重點不在於任何單一模型或任何一次發布;而是整體全局的思考。

有另一篇較少受到關注的文章,但在某些方面更為完整。本週稍早,我們討論了一個我們確實已下架的模型。我們在內部實施了多項不同的安全防護措施,然後能夠將這些經驗教訓帶到未來。

人們對OpenAI了解不夠的一點是,我們對AI安全的高度專注以及這些年來我們對此有多麼認真。實際上,在許多不同的領域,我們在如何保持模型對齊以及如何監控模型方面找到了真正根本性的創新。

例如,思維鏈(chain-of-thought)監控是我們從推理範式一開始就意識到會成為可能的東西。如果你訓練一個模型擁有看起來良好的思維鏈,你實際上會獲得更好的任務表現,因為你訓練它不要不合邏輯。但這樣你就失去了忠實度,因為現在你已經優化了一個看起來良好的最終結果。所以這是我們畫下非常明確紅線的地方——我們永遠不會這樣做。每次人們開始朝那個方向偏離時,我們就會進行修正。我們不斷做出這些決定。這不是我們大量宣傳的事情,但我認為這是我們在業界領先的方面。

《財星》:關於政府應如何與AI公司互動,尤其是隨著這些模型變得更加強大,存在很多辯論。一個備受讚譽的想法是Demis Hassabis提出的類似FINRA的監管機構提案。您認為這可以作為未來的模式嗎?您如何看待自由創新與嚴格監管之間的張力?

Brockman: 我認為Demis的想法相當好,類似這樣的東西感覺是在創新和安全之間取得平衡的好方法。我認為我們確實可以在良好的協調和監督下實現創新。真空狀態會拖慢所有人的腳步,因為如果對如何前進或該與誰溝通存在不確定性,我們就無法做出好的決策。

在內部,我們也一直在辯論這些完全相同的問題:對安全、安保、做正確事情的關注,以及對正確決策進行細緻入微的辯論。讓更多聲音參與討論是有幫助的,前提是它的結構方式良好且決策流程清晰。雖然有很多方式可能會出錯,但我認為存在一個可以加速我們所有人的框架,而這正是我們應該共同解決的目標。

《財星》:那麼外國競爭呢,特別是來自中國的開源模型?美國政府應該限制對這些中國開源模型的存取,還是應該讓它們保持可用以促進新創創新?

Brockman: 我可以說說自己的觀點:我們創立OpenAI時的願景是世界上應該有更多的AI,人們應該被AI賦能以建立更好的生活。在最高層面上,我們認為世界上有更多AI實際上是一件重要的事情,讓新創公司能夠蓬勃發展絕對至關重要。讓人們能夠以自己想要的方式使用AI也絕對至關重要。

現在,關於蒸餾(distillation)的問題:這是一個技術問題還是一個政策問題?我的回答是,這裡絕對有一個非常核心的技術層面。在我們保護這些模型的整體框架中,我們的平台一直都有蒸餾防護措施。蒸餾是一個非常細微的問題。要獲得一個與這些核心前沿模型具有完全相同能力的模型,需要一個與前沿模型計算規模完全相同的模型。這實際上非常難做到,所以我們在制定政策時需要認清技術事實。我對什麼是正確答案還沒有完整的判斷,但我認為很明顯的是,作為一個產業,我們需要不斷提升我們的技術防護措施。

《財星》:您目前最興奮的是什麼工作?是什麼讓您每天早上起床?

Brockman: 對我來說,一切都始於影響力。十年前,我在做標準的新創工作[在Stripe]。我從外部觀察AI,覺得它將是有史以來最具變革性的技術和提升人類福祉的正面力量。我只想幫助引導它朝更正面的方向發展。那會是一個讓我引以為傲的職業生涯。

AI不再是理論性的,也不再僅僅是關於基準測試。你部署它,然後看到人們使用它。日本有一位農民使用Codex來自動化他的農場。他以前得用手捲塑膠防水布,現在由機械系統來完成。健康是另一個巨大的應用領域。我們宣布在美國推出ChatGPT的健康功能,允許用戶連接他們的醫療記錄,並對自己的健康史提出代理式查詢。

我有一位朋友住院時,醫生正要給她施打一種特定的抗生素。她用ChatGPT查詢,ChatGPT警告說,根據她的病史,那種藥物可能是致命的。她把手機給醫生看,醫生意識到他們只有五分鐘的時間來閱讀她的病歷。你會意識到,有多少我們以前放棄解決的問題,現在我們不必再放棄了。

《財星》:關於OpenAI的實體AI和硬體裝置,我們可以期待什麼?您如何看待AI以實體形式呈現?

Brockman: 我們確實還沒準備好談論這個裝置。當我們揭曉它時,那將是一個令人驚嘆的時刻,而且它將是重新思考裝置應該是什麼樣的一系列產品中的第一個——考慮到這項技術的能力。

最根本的是,雖然很多人關注AI的能力——解決更困難的問題——但介面至關重要。如果你看看ChatGPT目前的介面,它太複雜了,有模型切換器和側邊按鈕。我們的目標是讓所有這些UI消失。

你要如何讓近十億人使用的Chat以及代理人的力量服務於所有人?這是歷史上最複雜的產品轉型。

你應該擁有一個可以像與人互動那樣自然、無縫地與之互動的東西。現在用電腦很累。你會得到腕隧道症候群,你會彎腰駝背——我們正在感受到它的生理影響。

在接下來的幾年裡,我們將從許多勞役以及我們不得不讓自己遷就於機器的方式中解放出來。

《財星》:您如何決定OpenAI要推出哪些產品或裝置?產品決策在內部是如何做出的?

Brockman: OpenAI有著非常自下而上的文化。我們有不同的歷史模式來判斷什麼會非常成功。例如,Codex在很大程度上是自下而上的,由一小群充滿熱情的人專注於幾個不同的專案,我們將這些整合為一個產品。相反地,我們的API完全是由上而下的。當時,我們是一家研究公司,需要建立一個商業產品來維持資金。我們列出了20個想法,並拒絕了狹窄的垂直領域工具[例如醫療領域],因為那等同於放棄AGI中的「通用」。我們決定為開發者建立API,讓他們自行決定要建立什麼。這可能是我做過最困難的專案,因為我們必須將產品DNA注入一個研究組織,甚至不確定是否有人願意為此付費。但六個月後我們推出了它,有了付費客戶,而且成功了。

我們的很多產品都有這樣的特性:有人有了創意的火花,或者有明確的前進方向,或者我們有一個具有前所未見新能力的模型。這些都是產品的來源。

《財星》:考慮到目前流入AI的巨額資金,可持續的商業模式是什麼?您需要硬體裝置或工作場域整合來建立一家跨世代的公司嗎?還是模型本身就是核心業務?

Brockman: 這有兩個層面。第一,假設模型能力今天就凍結了:業務是什麼?我認為OpenAI目前在這種情境下定位最為穩固。我們有真正的機會建立一些跨世代且獨特的東西。我們必須執行得非常好,但這是一個我們能夠兌現的機會。我們擁有近十億用戶的ChatGPT,即使僅憑今天已存在的技術,我們也能為這些用戶提供更多價值。

今年我們也開始真正優先發展企業端業務,我們正在看到一波動能。很多原本使用競爭對手產品的公司正在轉向我們,很多從未使用過這項技術的客戶正在首次使用我們的服務。這很大程度上是因為我們傾聽客戶需求、以出色的方式建立功能、建立信任、思考資料隱私。我們正邁向這樣一個未來:什麼是企業本身將變得非常不同。像ChatGPT Work這樣的代理工具正透過處理行政繁瑣工作來改變企業的運作方式。我們正在建立的業務與以往存在的業務不同,因為我們正在將其民主化——在工作生活和個人生活中使用,而且全部由這一項技術驅動。

像裝置這樣的東西是其中的一部分,但它們不是全部。

第二個層面是,模型進展凍結並不是一個真實的假設。思考這件事的方式,比較不像是我們現在有電了[LLM],現在需要製造洗衣機[建立在LLM之上的業務]。就像人們試圖實現核融合一樣,我們正試圖讓技術做到與以往所做的有著本質上質性不同的事情。這才是AI仍然擺在桌面上的部分。AI將能夠解決尚未解決的問題。我們現在正在數學、化學和科學領域中初嘗其滋味。我們追求的根本價值交付——我們還沒到那裡。大規模的價值創造尚未到來。其中一部分將成為AI實驗室所擁有的價值。但一部分也將歸於這個世界。

《財星》:創辦任何公司都很困難。您是領先AI公司的創辦人,這也許是世界上最具變革性的技術。您如何承擔這份重量和責任?

Brockman: 說實話,沒有我的妻子我做不到。我非常依賴她。這很困難。有些日子極度壓力。有些日子充滿喜悅和樂趣。大多數日子裡,你就是得繼續前進。我最喜歡的名言是一句自行車名言:「它永遠不會變得更容易;你只是騎得更快。」這正是我們在OpenAI的運作方式。

我感受到這個時刻的份量。我感到非常榮幸和有幸擁有這個機會。我們在十年前某種程度上就為此做好了準備,儘管親身經歷又是另一回事。

確實有些時刻,想像一下當我們成功完成使命、每個人的生活都因AI而變得更好、AGI處於良好狀態時,能夠放鬆並度個假,是很美好的。但在那之前,我只能埋頭苦幹,繼續前進。事實是,OpenAI的人們非常出色,我們建立了一支真正關心這項使命的團隊,我們每個人都讓彼此保持踏實和專注。

本文最初刊載於Fortune.com