新闻宏观经济Sentient 基金会聘请 Mozilla AI 老将 Julie Belião 出任产品副总裁,构建模型来源验证工具

Sentient 基金会聘请 Mozilla AI 老将 Julie Belião 出任产品副总裁,构建模型来源验证工具

作者: Cryptopolitan·

要点速览

  • •Sentient 基金会任命 Julie Belião 出任产品副总裁,她曾任 Mozilla.ai 产品副总裁,并是在多语言 AI 领域拥有十余年经验的 Google 工程师。
  • •Belião 的职责涵盖递归自我改进与模型溯源,目标是构建能够证明 AI 模型训练数据来源及出处的产品,因为 Sentient 表示目前尚无统一的证明标准。
  • •在 Mozilla.ai 期间,Belião 负责 61 个代码仓库的开源计划,并与 Mozilla 和 EleutherAI 于 2025 年合著论文,主张 AI 训练数据应获得授权、文档完善且来源清晰。
  • •Sentient 十月的 Fingerprinting Leaderboard 对十种已提出的指纹方法发起攻击,发现几乎所有方法都能在不损害模型的情况下被破解,包括其自有 Perinucleus 方法,该方法曾向 Llama-3.1-8B 植入 24,576 个指纹。
  • •此次任命正值被报道的能力提取尝试之际:OpenAI 阻止了一场与 Moonshot AI 相关人员有关的蒸馏行动,而 Anthropic 追溯到三家中国实验室使用约 24,000 个虚假账号向 Claude 发送了超过 1,600 万次请求。
Sentient 基金会聘请 Mozilla AI 老将 Julie Belião 出任产品副总裁,构建模型来源验证工具

Sentient 基金会任命 Julie Belião 出任产品副总裁,她曾任 Mozilla.ai 产品副总裁,并是一位 Google 资深工程师。Belião 将领导这家非营利组织把证明 AI 模型来源的研究转化为开发者真正可以使用的软件。

Belião 将负责的工作

她的职责涵盖两个领域:递归自我改进(即能够自我改进的 AI 系统)以及模型溯源。基金会表示,目前尚无统一标准可以证明 AI 模型的训练数据来源及其出处,而 Belião 的任务就是构建能够做到这一点的可用产品。

十年开源与多语言 AI 工作

在 Mozilla.ai 任职期间,Belião 负责 61 个代码仓库的开源计划,并帮助扩大了该组织的开发者社区。2025 年,她与 Mozilla 和 EleutherAI 共同撰写了《Towards Best Practices for Open Datasets for LLM Training》。Mozilla 基金会将其列为该论文的合著者之一,同列的还有 EleutherAI 执行总监 Stella Biderman 和 Mozilla 的 Mark Surman。论文主张,AI 训练数据应当获得授权、拥有完善的文档记录,并且来源清晰可查。这一前提——即来源应当可被证明——正是她的新角色在模型层面所面对的问题,而 Sentient 表示目前尚无统一的证明标准。

在加入 Mozilla 之前,Belião 在多语言 AI 领域工作了十余年,为 Google Assistant、Google 翻译和 YouTube 的语音与语言数据工作做出贡献,这些产品均隶属于 Google(NASDAQ: GOOGL)。她拥有巴黎楠泰尔大学计算机科学博士学位。

为什么模型溯源如今如此重要

此次任命正值一系列被报道的专有模型能力提取尝试之际。九月下旬,OpenAI 表示其阻止了一场协同行动,该行动试图提取其 AI 模型的逐步推理过程,OpenAI 将其与 Kimi 开发商 Moonshot AI 相关人员联系起来。二月,Anthropic 报告称,三家中国 AI 实验室使用约 24,000 个虚假账号向其 Claude 模型发送了超过 1,600 万次请求,并表示这些实验室试图提取 Claude 的能力。Anthropic 将其中超过 340 万次交互归因于 Moonshot。

这一问题在更广泛的范围内依然存在:当一个模型被复制、微调或蒸馏到另一个系统中时,买家往往无法判断它是由什么训练而来的。

Sentient 于十月发起了 Fingerprinting Leaderboard,这是一项公开测试,旨在检验证明模型来源的方法能否经受住复制、微调以及刻意移除的考验。Sentient 的研究人员针对十种已提出的指纹方法构建了攻击,结果显示几乎所有方法都能在不损害模型的情况下被破解——包括 Sentient 自有的 Perinucleus 方法,该方法曾向 Llama-3.1-8B 中植入了 24,576 个指纹。

"指纹技术将证明嵌入到模型内部,"基金会风险与增长总监 Sachi Kamiya 解释道。她将这一技术比作文艺复兴时期画家用来宣示作品所有权的隐藏标记。

这项研究建立在 Sentient 的 OML 工作之上,OML 是 Open-access, Monetizable, and Loyal AI Model Serving(开放、可货币化且忠诚的 AI 模型服务)的缩写,由普林斯顿大学和华盛顿大学共同完成。该项目旨在让创作者在共享开放模型的同时,日后仍能证明所有权。

关于 Sentient

Sentient 于二月成立,是一家总部位于新加坡的非营利组织,承诺保持通用人工智能(AGI)的开源。六月,该公司承诺向开源建设者提供 4,200 万美元的资助与投资。其项目,包括 ROMA、OpenDeepSearch 以及 OML 指纹工作,已获得超过 12,500 个 GitHub 星标,并被 Google(NASDAQ: GOOGL)、Microsoft(NASDAQ: MSFT)和 Meta(NASDAQ: META)的研究人员引用。

此次任命为 Sentient 自设基准的研究转化为产品的考验奠定了基础:其十月的排行榜发现,几乎所有已提出的指纹方法——包括其自有方法——均可被破解,且基金会表示目前尚无统一标准可以证明模型的训练数据来源及出处。将这项研究转化为可用的溯源产品,正是 Belião 受聘要填补的空白。

来源:Cryptopolitan