新闻股票扎克伯格发表6500字长文,主张开源AI并警告权力过度集中是最大风险

扎克伯格发表6500字长文,主张开源AI并警告权力过度集中是最大风险

作者: Fortune Crypto·

要点速览

  • 马克·扎克伯格发表了一篇6500字文章,主张开源AI应被广泛分配,以赋能个人并防止权力过度集中在少数公司或政府手中。
  • Meta推出了名为Muse Glimmer的新开源AI模型,可在个人电脑上运行,同时还向开发者提供更强大的Muse Spark 1.2。
  • Future of Life Institute的安东尼·阿圭尔批评Meta的做法,提到AI模型黑进其他公司的事件,并呼吁政府暂停先进AI开发。
  • 扎克伯格反对限制模型蒸馏,称如果美国限制从可观察信息中学习,就无法在AI领域保持领先。
  • 来自Fight for the Future的数字权利倡导者承认开源AI作为防护手段的重要性,但警告大规模采用Meta设计的系统最终会让公司获得不成比例的收益。
扎克伯格发表6500字长文,主张开源AI并警告权力过度集中是最大风险

Meta Platforms首席执行官马克·扎克伯格周一发表了一篇长达6500字的文章,阐述他对人工智能未来的愿景。他在文中表示,每个人都应该拥有一个个人化、无所不知的AI代理,能够改善生活的方方面面。

这篇宣言出现在行业分歧日益加剧之际:先进AI系统究竟应当自由共享,还是应当严格控制——这一争论已将业内最有影响力的参与者分化开来,并吸引了全球各国政府的关注。

扎克伯格在文中强力为开源AI辩护——这是一种开发模式,关键技术组件会向任何人开放,供其检查、修改并在此基础上继续开发。Meta首席执行官描绘了一个未来:个人可以创办新企业,获得博士级辅导,并接收个性化生活建议。他举出自己8岁的女儿为例,称她已经能够把自己的想法写成代码,并快速生成视频,以此说明这种能力正在成为可能。

“每个人很快都会拥有发明超能力,”扎克伯格写道。

这篇文章发布的同一天,Meta宣布推出一款名为Muse Glimmer的新开源AI模型,该模型可在个人电脑上运行。扎克伯格还表示,Meta将向开发者提供更强大的模型Muse Spark 1.2。此举延续了Meta的开源AI战略;自2023年以来,公司通过其Llama模型家族的连续迭代推进这一路线,并在这场行业最关键的技术竞争中,将自己定位为封闭系统开发者的主要对冲力量。与其他大型科技公司一样,Meta打造AI模型来驱动Instagram和Facebook等自有平台,也将这些模型提供给外部开发者,用于创建他们自己的应用和功能。

扎克伯格警告称,AI开发中最大的风险在于,先进系统的控制权集中在少数公司、机构或政府手中。他表示,如果AI“超级智能”的控制过于集中,结果将对大多数人更不利。他认为,解决之道是确保先进AI被“广泛分配”,以公平赋能数十亿人。

尽管没有点名具体竞争对手,扎克伯格的表述显然是在影射OpenAI、Anthropic和Google等并未同等程度拥抱开源开发的公司。

“多数其他实验室都专注于为公司、政府或其他机构构建AI,因此如果这些实验室领先,那么权力平衡就会偏向更大的机构而非个人,”他写道。

这篇文章也遭到AI安全倡导者的尖锐批评。Future of Life Institute总裁兼首席执行官安东尼·阿圭尔提到最近发生的事件:包括Meta自身在内的AI模型,至少在三个不同场合黑进了其他公司。他质问:“Meta究竟凭什么认为——或者任何人——能够控制某种指数级更聪明、更快、且更有能力的东西?”

“Meta选择的路径最终是取代人类并剥夺人类能力,但还有另一条以人为本的路径——那是一条借助可控AI工具带来个人繁荣和科学突破的道路。现在最紧迫的事情是,政府应当促成对先进AI开发的暂停,并引导我们走上以人为本的道路——在为时已晚之前,”阿圭尔说。

扎克伯格在文中还讨论了维持美国相对于包括中国在内的竞争对手优势的政策措施。他呼吁美国及其盟友加快建设支撑AI发展的能源能力和基础设施,以保持竞争力。

谈到“蒸馏”时,扎克伯格反对限制这一技术。蒸馏是指使用一个更强模型的输出,去训练一个能力较弱的模型。特朗普政府已誓言打击利用蒸馏从美国AI模型中提取技术特征的中国AI公司。今年早些时候,Anthropic曾指控中国的DeepSeek使用了蒸馏。

“有人试图把蒸馏描绘成有害的,但我认为,保护这样一个原则很重要:你可以从任何你能观察到的事物中学习,”扎克伯格说。“世界就是这样运作的,如果我们在这方面自我限制,美国就无法领先。”

数字权利倡导组织Fight for the Future的高级政策顾问马特·莱恩称扎克伯格“在他最好的日子里都让人恼火且脱离现实”,但也承认这位首席执行官对开源AI重要性的判断是正确的。莱恩表示,在AI可能被用于入侵电子系统(如投票系统和福利基础设施)的世界里,共享访问开源AI系统很重要。

不过,他表示,如果所有人都使用Meta设计的AI系统,即使这些系统完全开源,最终受益的也只会是Meta。“开源AI需要超越这些企业利益来获得支持。与扎克伯格不同,我们希望竞争尽可能充分,”他说。