欧盟科技负责人汉娜·维尔库宁(Henna Virkkunen)表示,欧盟的人工智能规则完全有能力应对日益强大的AI模型带来的安全挑战,以回应在OpenAI和Anthropic近期事件后人们对失控AI智能体可能超出人类掌控的担忧。她的言论凸显了监管者对现有保障措施的信心与行业内关于AI发展速度可能超出人类控制能力的警告之间的紧张关系。

维尔库宁在接受上周五发表的路透社专访时表示:"我们看到,强大模型的安全与安保问题在国际上是一个非常热门的话题,而欧洲在这方面准备充分。"

维尔库宁还驳斥了那些声称欧盟AI规则已经过时的批评者。欧盟的《人工智能法案》根据风险等级对人工智能进行监管,是全球最严格的AI法规之一,但该法案于两年前通过。该法律适用于所有在欧盟境内提供AI系统的公司,无论其总部位于何处。

她表示:"我们已实施《人工智能法案》,该法案涵盖了这些模型的整个生命周期。"她补充说,监管机构正在为公司提供如何评估其模型的指导,并纳入了60位AI专家的建议。

欧盟委员会于8月下旬向30多家未具名的AI公司索取信息,要求提供其安全与安保措施的详情。维尔库宁表示,她目前正在评估这些回复,其结果可能初步显示欧盟将如何执行其AI规则手册。

她的评论紧随行业内部的警告之后。Cointelegraph于9月13日报道,Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)在一篇博客文章中表示,AI发展速度过快,如果不加控制,可能"超出我们理解和控制这些系统的能力"。他表示,AI的迅猛发展正受到其自身日益增强的构建下一代AI能力的推动,这种动态被称为递归自我改进。相关言论发表在他的个人网站上的一篇文章中。

来源:Cointelegraph