新闻宏观经济构建 AI 未来的压力之下:OpenAI 总裁 Greg Brockman 深度访谈

构建 AI 未来的压力之下:OpenAI 总裁 Greg Brockman 深度访谈

作者: Fortune Crypto·

要点速览

  • Brockman 表示,OpenAI 仍在调查与 Hugging Face 相关的模型事件,并专注于改进防护措施和网络防御。
  • 他表示支持类似 FINRA 风格的监督框架,以协调 AI 安全与创新。
  • Brockman 表示,OpenAI 长期以来一直使用蒸馏保护,并称政策讨论应反映匹配前沿模型能力的技术难度。
  • 他说 ChatGPT 拥有近十亿用户,并且 OpenAI 今年正优先推动企业采用。
  • Brockman 表示,OpenAI 尚未准备好讨论其设备计划,但打算重新思考 AI 驱动产品的交互界面。
构建 AI 未来的压力之下:OpenAI 总裁 Greg Brockman 深度访谈

创办任何一家初创公司,都是一项承受持续压力的艰巨事业。创业者必须不断设法建立可行的商业模式,同时抵御大型既有企业的竞争、留住关键人才,并避免失败。心理和身体健康都可能付出沉重代价,而这段旅程往往伴随着极端的高峰与低谷。

现在想象一下,你不仅仅是一名初创公司创始人,而是引领历史上最具变革性的技术领域——人工智能——的公司的联合创始人。

Greg Brockman 是 OpenAI 的联合创始人兼总裁,在这家初创公司的整个发展历程中,他一直与 CEO Sam Altman 并肩同行。这包括 Altman 在 2023 年短暂被解除首席执行官职务的动荡时期,以及 Brockman 本人在去年底短暂休假。在这些年里,Brockman 必须应对诉讼、不断加剧的政治和监管审查、历史性规模的融资,以及一个仍然怀疑 OpenAI 正在构建的未来最终是否会是积极结果的公众。OpenAI 的估值已达数百亿美元,并以一家私营 AI 公司前所未有的规模募集资金,这使其受到投资者、政策制定者和竞争对手的高度审视。

周四,Fortune 与 Brockman 进行了一场一对一访谈,话题广泛:OpenAI 近期涉及 Hugging Face 的安全事件、美国应如何看待中国开源 AI 模型、AI 实验室的根本商业模式,以及他个人如何应对参与运营 OpenAI 所带来的巨大压力。

谈到商业模式时,Brockman 直言不讳:“The fundamental value delivery that we are after—we're not there yet. The massive value creation is yet to come.”

至于压力?“I lean on my wife a lot,” 他告诉 Fortune。事实上,在采访于 OpenAI 位于纽约 SoHo Puck Building 的办公室结束时——OpenAI 在那里与其最大投资者之一 Thrive Capital 为邻——本报记者遇到了 Brockman 的妻子,她专程来到纽约市支持丈夫。

以下访谈记录已为篇幅、清晰度和发表需要进行了编辑。


Fortune:本周早些时候,OpenAI 发布了一篇博客文章,详细说明其 LLM 模型突破受控环境并与竞争对手 Hugging Face 互动的情况。关于这一事件,最令你惊讶的是什么?未来如何防止类似安全漏洞?竞争性 AI 公司之间是否需要更多合作?

**Greg Brockman:**当我们开始思考这类时刻时,重点与其说是某个具体事件,不如说是模型所具备的总体能力水平。

我们的观点一直是,我们非常希望帮助防御方运用这项技术,让人们能够用它来保护自己的系统。

他们无法使用我们的模型这一点,让我们格外注意到。我们需要更好地提高这些模型的可访问性,也要努力帮助人们理解为什么他们需要这些模型。网络防御是我们的一个重大优先事项。我们一直在大力扩充这个团队,他们正开始以高度专注和紧迫感执行工作。我希望这一时刻真正能够把整个行业凝聚起来,因为每个人的利益高度一致。

Fortune:在 Hugging Face 事件中,听起来涉及两个模型——一个已知模型,以及一个此前未披露的模型。关于即将推出的模型,你还能透露其他信息吗?鉴于刚刚发生的事情,你们如何看待下一个模型?

**Brockman:**我不想在我们的博客文章之外补充太多内容,因为调查仍在积极进行中。但我们说过,这是多个模型的组合;我们提到了其中两个,但也说这是不同模型的组合。重点并不在于任何单一模型或任何一次发布,而是真正从整体图景来思考。

还有另一篇受到关注较少的文章,但在某些方面更完整。本周早些时候,我们谈到过一个模型,我们确实将其下线了。我们在内部实施了多种不同的防护措施,然后能够把这些经验带到未来。

关于 OpenAI,人们不太了解的一点是,我们极其重视 AI 安全,并且多年来一直非常认真地对待这一点。事实上,在很多不同方面,我们都发现了真正基础性的创新,用于保持模型对齐以及监控模型。

例如,思维链监控是我们从推理范式一开始就意识到可能实现的事情。如果你训练一个模型,让它拥有看起来不错的思维链,你实际上会获得更好的任务表现,因为你训练它不要不合逻辑。但随后你会失去忠实性,因为你现在优化的是一个看起来不错的最终结果。因此,在这一点上,我们划下了一条非常明确的红线:我们永远不会这样做。每当人们开始朝那个方向偏移时,我们就会纠偏。我们一直在做这样的决定。这不是我们经常对外宣传的事情,但我认为这是我们正在引领行业的一个方面。

Fortune:关于政府应如何与 AI 公司互动,尤其是在这些模型变得更强大时,存在大量争论。Demis Hassabis 提出建立一个类似 FINRA 的监督组织,这一想法获得了很多赞誉。你认为这是否可能成为未来的一种模式?你如何看待无需许可的创新与强硬监管之间的张力?

**Brockman:**我认为 Demis 的想法相当不错,类似的机制感觉是一种平衡创新与安全的好方式。我认为,通过良好的协调和监督,我们确实可以实现创新。真空状态会拖慢所有人的速度,因为如果对如何推进或该与谁沟通存在不确定性,我们就无法做出好的决策。

在内部,我们一直在讨论完全相同的问题:关注安全、安全保障、做正确的事,并围绕正确决策进行细致的讨论。让更多声音参与进来是有帮助的,只要其结构良好,并且决策过程清晰。尽管这件事有很多可能出错的方式,但我认为存在一个能够加速我们所有人的框架,而这正是我们应当共同努力解决的问题。

Fortune:那么外国竞争呢,特别是来自中国的开源模型?美国政府是否应限制访问这些中国开源模型,还是应让它们保持可用,以促进初创企业创新?

**Brockman:**我可以谈谈我自己的看法:我们创办 OpenAI 时的观点是,世界上应该有更多 AI,人们应该被 AI 赋能,从而能够建设更好的生活。从最高层面来看,我们认为世界上有更多 AI 实际上是一件重要的事情,而让初创公司能够蓬勃发展也绝对关键。让人们能够以他们想要的方式使用 AI 也绝对关键。

现在,关于蒸馏的问题:我们应当把它视为一个技术问题,还是一个政策问题?我的回答是,这里毫无疑问存在一个非常核心的技术组成部分。在我们保护这些模型的整体框架中,我们的平台一直都有蒸馏保护。蒸馏是一件非常微妙的事情。要获得一个与这些核心前沿模型拥有完全相同能力的模型,需要一个在计算规模上与其中一个前沿模型完全相同的模型。这实际上非常难做到,因此在思考政策时,我们需要承认技术事实。我对正确答案是什么还没有完整判断,但我认为作为一个行业,有一点很明确:我们需要持续提升技术防护水平。

Fortune:你现在最兴奋的工作是什么?是什么让你每天早上起床?

**Brockman:**对我来说,一切始于影响力。十年前,我在做标准的初创公司工作[在 Stripe]。我从外部观察 AI,并感觉它将成为有史以来最具变革性的技术,也是提升人类福祉的积极力量。我只是想帮助它朝更积极的方向发展。那会是一份令我自豪的职业。

AI 不再只是理论,也不再只是关于基准测试。你部署它,然后看到人们使用它。日本有一位农民使用 Codex 实现了农场自动化。他过去需要手工卷起塑料篷布,现在由机械系统来完成。健康是另一个巨大的应用领域。我们宣布在美国推出 ChatGPT 的健康功能,允许用户连接自己的医疗记录,并就自己的健康史提出 agentic 查询。

我有一位朋友住院时,医生正准备给她使用一种特定抗生素。她用 ChatGPT 检查了一下,ChatGPT 警告称,鉴于她的病史,这种药物可能是致命的。她把结果给医生看,医生意识到他们此前只有五分钟时间阅读她的病历。你会意识到,我们过去已经放弃解决的许多问题,现在不必再放弃了。

Fortune:关于 OpenAI 的实体 AI 和硬件设备,我们应该期待什么?你如何看待 AI 以实体形态呈现?

**Brockman:**我们现在肯定还没有准备好谈论这款设备。当我们发布它时,那将是一个非常了不起的时刻,它也将是一系列重新思考设备应当是什么样的产品中的第一个,因为这项技术具备了这样的能力。

根本问题在于,尽管人们非常关注 AI 能力——解决更难的问题——但界面至关重要。如果你看现在的 ChatGPT 界面,它有模型切换器和侧边按钮,过于复杂。我们的目标是让所有这些 UI 淡出。

如何让一个被近十亿人使用的 Chat,以及智能体的能力,触达所有这些人?这是历史上最复杂的产品转向。

你应该拥有一种可以像与人交流一样自然、顺畅地交互的东西。现在使用电脑令人疲惫。你会得腕管综合征,你会弯腰驼背——我们正在感受到它带来的身体影响。

在未来几年里,我们将会从许多繁重劳动,以及我们不得不为了适应机器而扭曲自己的方式中解放出来。

Fortune:你们如何决定 OpenAI 要推出哪些产品或设备?内部是如何做出产品决策的?

**Brockman:**OpenAI 拥有非常自下而上的文化。我们有一些不同的历史模式,最终会发展成非常成功的产品。例如,Codex 在很大程度上是自下而上的,由一个小而充满热情的团队专注于几个不同项目,后来我们把它们整合成一个产品。相反,我们的 API 完全是自上而下的。当时,我们是一家研究公司,需要构建商业产品以维持资金支持。我们列出了 20 个想法,并否定了狭窄的垂直领域工具[例如医疗领域],因为那等于放弃了 AGI 中的“general”。我们决定为开发者构建一个 API,让他们自己弄清楚要构建什么。这可能是我做过的最艰难的项目,因为我们必须把产品 DNA 注入一家研究组织,而且当时甚至不清楚是否有人愿意为此付费。但六个月后,我们推出了它,拥有了付费客户,并且它奏效了。

我们的许多产品都有这样的特征:有人产生了一个想法的火花,或者存在一个明确的前进方向,或者我们拥有一个展现出此前未见过的惊人新能力的模型。所有这些都是产品的来源。

Fortune:鉴于如此多资本正在流入 AI,可持续的商业模式是什么?要打造一家具有世代影响力的公司,是否需要硬件设备或工作场景集成,还是模型本身就是核心业务?

**Brockman:**这其中有两个部分。第一,假设模型能力今天被冻结:业务是什么?我认为在这种情形下,OpenAI 目前处于最强的位置。我们确实有机会打造出具有世代意义且独特的东西。我们必须执行得非常好,但这是一个我们有能力不负其望的机会。我们拥有 ChatGPT,它有近十亿用户,即便只是通过今天已经存在的技术,我们也还有大量价值可以交付给这些用户。

今年我们也开始真正优先发展企业业务,并且看到了强劲势头。许多曾经使用竞争对手产品的公司正在转向我们,许多此前从未使用过这项技术的客户正在第一次使用我们的产品。这其中很大一部分是倾听客户需求,以出色方式构建功能,建立信任,并思考数据隐私。我们将走向这样一个未来:企业本身的含义都会变得非常不同。像 ChatGPT Work 这样的 agentic 工具正在通过处理行政性繁杂事务来改变企业的运行方式。我们正在构建的业务不同于以往任何一种业务,因为我们正在使人们在工作生活和个人生活中使用它变得民主化,而这一切都由同一项技术驱动。

设备之类的东西是其中一部分,但不是全部。

第二部分是,模型进展被冻结并不是一个真实假设。理解这一点的方式,不太像是我们现在已经有了电力[LLMs],然后需要建造洗衣机[基于 LLMs 的业务]。就像人们试图实现聚变一样,我们也在努力让这项技术做到某种在性质上与以往截然不同的事情。这仍然是 AI 有待实现的目标。AI 将能够解决尚未解决的问题。我们现在已经在数学、化学和科学领域尝到了这种可能性。我们所追求的根本价值交付——我们还没有达到。巨大的价值创造尚未到来。其中一部分最终会成为 AI 实验室拥有的价值。但另一部分将归于世界。

Fortune:创办任何公司都很难。你是领先 AI 公司的创始人,而 AI 也许是世界有史以来最具变革性的技术。你如何承受这种分量和责任?

**Brockman:**老实说,如果没有我的妻子,我做不到。我非常依靠她。这很难。有些日子压力极大。有些日子充满喜悦和乐趣。大多数日子里,你就是必须继续前进。我最喜欢的一句话来自自行车运动:“It never gets easier; you just go faster.” 这很像我们在 OpenAI 的运作方式。

我感受到这一时刻的重量。我非常荣幸,也很幸运能拥有这个机会。某种程度上,我们十年前就选择了这条路,尽管真正身处其中又是另一回事。

确实有些时候,想到一旦我们成功完成使命,让每个人的生活都因 AI 变得更好,并且 AGI 处于良好状态,就可以放松并休假,会让人觉得不错。但在那之前,我只能低头继续前进。事实是,OpenAI 的人非常出色,我们建立了一支真正关心这一使命的团队,我们彼此让对方保持脚踏实地并专注。

本文最初刊载于 Fortune.com