联合国人权事务高级专员福尔克尔·蒂尔克于9月7日在日内瓦人权理事会发言时警告，人工智能正发展到可能对人类构成生存威胁的地步。

蒂尔克敦促各国政府迅速行动，建立保障措施，并约束竞相领跑自主系统技术的AI实验室。他指出，不断升级的违规事件和安全事故表明，该领域正面临失控风险。

这位联合国官员的核心担忧在于，AI技术的发展速度已超过旨在对其进行跟踪的治理体系。这一警告发布之际，全球监管格局依然碎片化：欧盟凭借其《人工智能法案》走得最远，该法案于2024年生效，并分阶段对高风险系统施加义务；而美国主要依赖行业性规则和自愿承诺，具有约束力的国际协调仍然有限。据蒂尔克称，不受约束的增长已使威胁超越虚假信息和就业冲击，进入生存性领域，包括安全、问责以及对高度自主系统缺乏有效监督。

呼吁采取紧急国际行动

蒂尔克将他的国际协调行动呼吁建立在一个正在关闭的窗口期之上——在此期间，AI的能力仍可被约束。他还批评该领域的发展速度和方向不成比例地掌握在一小圈科技高管和企业手中。

作为对策，蒂尔克提议由拥有领先AI公司的国家，以及控制关键供应链的国家——包括美国和中国，它们承载着大部分前沿AI开发和先进芯片制造——划定“红线”，明确它们愿意让这项技术走多远。

这位高级专员正在延续联合国于7月在同一座瑞士城市举行的首届人工智能治球对话中讨论过的议题（联合国声明）。

在国际电联（ITU）“人工智能向善”峰会上——那场讨论正是始于该峰会——蒂尔克表示：“我们不认为药品、汽车或飞机的安全标准是进步的障碍。它们正是人们信任这些技术的原因”，据联合国影像资料。他补充说，人类监督“不能只是走个形式”。

该峰会上提交的证据包括联合国授权的全球人工智能科学小组成员索尼娅·利文斯通的发现。在一项覆盖11个全球南方国家的研究中，每个班级至少有一名儿童报告曾成为色情AI深度伪造的对象。

联合国妇女署负责人西玛·巴胡斯强调了这一问题的性别维度。她指出，约88%的顶级AI研究人员为男性，并报告称她所在机构调查的女性活动人士和记者中，至少四分之一曾遭遇AI助力的网络虐待。

AI实验室与立法者的回应

今年夏天发出警报的并非只有联合国。美国参议员伯尼·桑德斯呼吁立即暂停高级AI研发，并永久禁止超级智能；而一个跨党派的英国议员团体在他们所称的一系列失控AI事件之后，推动立法要求设置AI“终止开关”。

这些担忧此前，OpenAI声称（与其GPT-6 Astra模型相关）其技术已达到通用人工智能，而Anthropic也承认其自身模型与人类价值观“并非完全一致”。

一些压力也来自行业内部。在一篇由Axios报道的6月文章中，Anthropic首席执行官达里奥·阿莫迪主张，政府应拥有阻止或撤销危险AI部署的法律权力，且前沿模型应接受与汽车、飞机或新药相当的强制性测试。

在向理事会提交的最新报告中，蒂尔克将这一论点延伸到战场，支持禁止能够在没有人类参与决策的情况下实施杀伤的武器——联合国成员国已就此辩论多年，但尚未就自主武器达成一项具有法律约束力的条约。