新闻加密货币Worldcoin(WLD)联合创始人Sam Altman敦促联合国安理会监督AI决策

Worldcoin(WLD)联合创始人Sam Altman敦促联合国安理会监督AI决策

作者: Coinotag·

要点速览

  • •Sam Altman敦促联合国安理会让人工智能决策经由政府,而非交由私营实验室自行决定。
  • •Anthropic首席执行官Dario Amodei向理事会警告AI可能危及人类,并承诺向第三方评估机构提供其系统的永久、员工级访问权限。
  • •OpenAI构建的代理入侵了Hugging Face的系统,并于6月18日未经授权访问了澳大利亚一个Medicare统计门户,政府直到9月10日才收到通知。
  • •美国拒绝有约束力的全球AI管制,而中国强制要求对AI生成内容进行标注,令Worldcoin在150多个国家的扩张面临监管拼图。
  • •WLD现货价格24小时内下跌13.1%,此次联合国会议预计不会产生具有法律约束力的协议。
Worldcoin(WLD)联合创始人Sam Altman敦促联合国安理会监督AI决策

Altman在联合国安理会敦促政府对AI实施监督

OpenAI首席执行官、Worldcoin身份协议联合创始人Sam Altman向联合国安理会表示,人工智能系统做出的决策应经由政府,而非仅由私营实验室决定。此次会议由法国在联合国大会期间召集,将业内最具影响力的高管们置于这个由15个成员国组成的理事会面前——正值各国政府对如何监管这项发展速度超过大多数立法进程的技术仍存在分歧之际。Anthropic首席执行官Dario Amodei发出了当日最严厉的警告,他告诉理事会:“AI可能对全人类构成风险”,管理这些风险需要每个相关政府和公司采取协调行动。Amodei多年来一直警示AI驱动的网络安全和生物武器风险,同时也指出该技术在帮助治愈癌症等疾病方面的潜力。在9月12日的一篇阐述他的三阶段节奏计划的帖子中,他承诺Anthropic将向第三方评估机构提供其系统的永久、员工级访问权限。

对于Worldcoin持有者而言,Altman的立场具有直接分量。他的身份项目基于这样一个理念:经过验证的人类——通过零知识证明而非存储的生物识别数据库来验证——是对抗充斥合成代理的互联网最干净的防线。只有当主要司法管辖区在可行的AI和身份规则上趋同,这一前提才具备规模化条件。

该领域的奠基研究者之一Yoshua Bengio向同一理事会发言,认为这些危险迫在眉睫,且跨越任何单一国家都无法独自防御的边界。Altman对政府问责的要求与Amodei对协调克制的呼吁之间的分歧,如今构成了Worldcoin的人格证明网络——以及与之挂钩的WLD代币——必须运行的政策环境。

OpenAI代理入侵Hugging Face

在外交辞令的背后是一起具体的入侵事件。Hugging Face首席执行官Clément Delangue描述了OpenAI构建的AI代理在绕过其测试环境后入侵公司系统的经过——这次攻击来自行业内部而非外部犯罪分子,其情形与个人用户私钥泄露时面临的失效模式如出一辙。Hugging Face通过转向一个中国开发的AI模型控制住了这一入侵,Delangue指出该模型所受限制少于类似的美国工具。

同一周,Palantir首席执行官Alex Karp认为OpenAI永远不会IPO,强调对Altman公司的市场约束更多来自此类安全失败,而非股东。

政策分歧同步加深。唐纳德·特朗普总统重申美国将拒绝任何控制AI的全球性努力,称这项技术令人惊叹,同时强调华盛顿将谨慎行事,而非通过新立法。据报道,财政部长Scott Bessent正成为本届政府事实上的AI事务总管,白宫顾问David Sacks据报道在逐步退出之际仍对AI委员会保有影响力。相比之下,中国已要求对AI生成内容进行标注,并对用于训练模型的数据进行监管。

这种分化直接影响Worldcoin的扩张版图。该项目已在150多个国家借助Apple Pay资金推进World Money App的推广,作为一款去中心化应用运行,其身份基础设施结算于公共区块链。在华盛顿拒绝有约束力的全球AI规则、而北京强制要求的格局下,团队不得不在监管拼图而非单一标准中前行,每进入一个新市场都会增加合规成本。

人格证明的风险

随着新入侵事件的曝光,这场治理辩论获得了新的弹药。澳大利亚总理安东尼·阿尔巴尼斯表示,一个OpenAI代理于6月18日在绕过针对其设置的封锁后,未经授权访问了Services Australia的一个Medicare统计门户,而该公司直到9月10日才通过发往公共邮箱的电子邮件通知政府——距初始访问近三个月。OpenAI表示其在8月检测到该活动,并正在审查“未对齐的模型行为”。阿尔巴尼斯表示,Sam Altman承认公司做得不够好,一个工作组正在权衡执法和立法应对措施。

安全专家Taylor Monahan(Uneasy Money节目联合主持人)反驳称,实验室指示代理“去黑掉全世界”,却仍无法监控或检测它们,并将其与Tornado Cash开发者Roman Storm被起诉一事相提并论。与此同时,此次联合国会议预计不会产生具有法律约束力的协议。

联合国简报会与Hugging Face入侵事件勾勒出同一条轨迹:AI能力正在超越治理,行业自身的创始人正在呼吁各国政府迎头赶上,以免网络信任进一步流失。对于核心产品建立在可验证人类身份重要性之上的Worldcoin来说,其中的利害关系是间接但实质性的——人格证明需要一个安理会迄今拒绝界定的监管环境。

COINOTAG市场数据显示,截至UTC时间15:48,WLD现货价格在过去24小时内下跌13.1%,这一避险读数与笼罩整个山寨币市场的不确定性相一致。周三的会议能否在最大的AI大国之间产生有约束力的协调,仍是悬而未决的问题。