新闻宏观经济普林斯顿大学的Arvind Narayanan预测,聊天机器人可能成为“真相神谕”,而新闻业正走向200年来从未踏足的境地

普林斯顿大学的Arvind Narayanan预测,聊天机器人可能成为“真相神谕”,而新闻业正走向200年来从未踏足的境地

作者: Fortune Crypto·

要点速览

  • •皮尤研究中心今年开展的一项调查发现,已有10%的美国人将聊天机器人视为真相来源。
  • •Narayanan将如今的聊天机器人描述为“神经符号系统”,即语言模型与网络搜索、文档检索和代码化数据分析工具的结合,使一年前常见的错误日益罕见。
  • •他估计,聊天机器人成为解答事实性问题默认去处这一转变大约还需十年时间。
  • •他认为捆绑式的新闻编辑室已不再是生产新闻在经济上最可行的方式:行业报道已迁移至Politico和Punchbowl News等媒体,地方新闻业转向慈善资助模式,分析类内容则转向独立记者和创作者。
  • •他提议对AI公司的算法调优引入民主参与——类似于Meta的监督委员会并让记者拥有席位——并呼吁记者组建一场广泛、无党派的政治运动,其中可能包括对AI和社交媒体公司征税。
普林斯顿大学的Arvind Narayanan预测,聊天机器人可能成为“真相神谕”,而新闻业正走向200年来从未踏足的境地

Arvind Narayanan认为,人工智能将变得越来越值得信赖——而与此同时,它也会消除那些让读者察觉自己在现实世界中遭遇AI垃圾内容的痕迹。这位普林斯顿大学计算机科学家甚至预测,日益准确的聊天机器人可能成为许多人心目中的“真相神谕”。皮尤研究中心今年开展的一项调查发现,已有10%的美国人正在以这种方式使用聊天机器人。

Narayanan是在西北大学McCormick基金会中心举行的计算+新闻学研讨会(Computation + Journalism Symposium)上发表上述言论的,这是一场关于计算与新闻业的学术会议,Fortune也出席了此次活动。他的主旨演讲题为“AI与新闻业:滑向冰球将要到达的地方”。研讨会的议程聚焦于媒体面临的挑战和AI垃圾内容的泛滥。Narayanan敦促听众为AI做好准备,“不是就它今天的模样,而是就它五年或十年后的模样”。他表示,自己的计算机科学背景有助于他分辨当今AI的哪些局限是可修复的工程问题,哪些是固有的。他承认自己从未在新闻编辑室工作过。“我可能并不知道自己在说什么,”他告诫道,随后才展开自己的论述。

他的论述分为两部分。第一,如果聊天机器人成为解答事实性问题的默认去处——Narayanan表示,诸如“谁在竞选公职”这类问题“几乎全部”都会流向那里——那么新闻编辑室将失去其整体业务中又一块组成部分,而且可以说是最基础的一块。剩下的将是机器无法解决的工作:有争议的问题、叙事、讲故事,以及对他所称的“立场性”(positionality)保持明确,这对一个追求客观性的行业来说是一项艰难的要求。

Narayanan执掌普林斯顿大学信息技术政策中心,但他近来已成为AI、未来工作和媒体行业领域的思想领袖。他与Sayash Kapoor合著了《AI Snake Oil》,他的通讯《AI as Normal Technology》拥有超过87,000名订阅者。今年8月,他曾接受Fortune采访,谈及他认为颇为复杂的AI反弹现象,并深入分析了为什么AI的生产力提升和投资回报一直难以衡量,甚至在某些情况下根本不存在。他称之为“瘦汉堡、肥面包”问题:在AI的作用下,执行这块“肉”几乎缩减为零,而决策与权衡这两片“面包”却不断膨胀,伴随着大量的焦虑与不确定性。

神谕与垃圾内容

Narayanan认为,把聊天机器人仅仅视为简单的“下一词预测器”这一普遍看法已经过时。他说,如今的聊天机器人是“神经符号系统”:一个语言模型,加上可搜索网络、检索文档并编写代码分析数据的工具。一年前常见的错误——比如数错“strawberry”中字母的数量,或Google的AI Overviews建议在披萨上涂胶水——如今已很少发生,他形容剩余的问题正在逐步得到解决”。

他随后提出疑问:当公众预期赶上技术发展时会发生什么。他说,他那些上小学的孩子也许永远不会像成年人那样经历“幻觉”,就像维基百科曾经从不受信任的参考资料演变为“权威得多”的信息来源一样。“我并不是说这是不可避免的。我并不是说这是一件好事,”他指出。他补充说,在X上,用户已经在通过询问Grok来解决争论——Grok是由xAI构建并集成到该平台的聊天机器人——用户主要是对传统媒体信任度较低的保守派。他估计,更广泛的转变大约还需十年时间。

一位与会者提出,聊天机器人也可能患上新闻评论人、纽约大学新闻学教授Jay Rosen那句著名的“无处之视”——即记者不愿运用自己的判断、未能切实告知受众而表现出的虚假中立性。马里兰大学的Daniel Trielli提出了这一风险,Narayanan对此表示认同,并表示这是新闻业今后必须继续加以定义的挑战。

Narayanan最具争议性的观点之一是,媒体的议题设置已经适得其反。他称《华盛顿邮报》在水门事件中扮演的角色“纯属好事”,但援引“许多传播学者和经济学家”的研究指出,在受众已然碎片化的特朗普时代,类似的努力加剧了极化,加速了信任的崩塌。

解体

Narayanan表示,他的演讲“既是关于社交媒体对新闻编辑室的持续影响,也是关于AI”。他说,如今人们把新闻编辑室视为一个将报道、分析、事实核查和发行捆绑在一起的单一机构,但他认为这种安排是“特定历史条件下的产物”,而非今后理所当然的存在。19世纪30年代依靠广告支撑的“便士报”拓宽了新闻的范畴,因为更早的报纸依赖订阅和政治资助。客观性是为一战宣传的回应而生,受薪记者和采访同样“也是被发明出来的”。他指出,称某人为“雇佣记者”曾是一种侮辱——“就像雇佣枪手一样”。

他的分析框架借鉴了更早的争论。他引用了作家Clay Shirky的名言:“社会不需要报纸。我们需要的是新闻业。”他还提到,普林斯顿大学社会学家Paul Starr曾在同一时期警告说,报纸经济模式的衰落将导致问责等公共产品失去资金支持。Narayanan说,Starr“在许多方面”都被证明是正确的,“但情况也许没有担心的那么末日化”,因为慈善资助已及时介入。

他的论点是,一项项职能正被专业人士以比新闻编辑室更低的成本完成,而AI正在加速这一进程。“对于这些组成部分中的每一个,都有某种竞争者以更独立的方式生产这一部分,仅从生产经济学角度看,它们在结构上就更具优势,”他说。例如,行业报道已迁移至Politico、Punchbowl News和Stat等媒体。地方新闻业已在很大程度上转向“慈善资助模式”,调查报道则越来越多地依靠非营利资金运行——“这是向历史模式的回归”。他强调,分析类内容已转向独立记者、社交媒体创作者以及“像我这样的人”。回到他所说的演讲的“总体要点”,他表示,把所有内容打包进单一新闻编辑室的做法“已不再是生产新闻在经济上最可行的方式”。

按照Narayanan的定义,分析是“介于事实与观点之间的一个层面”。他引用经济博主Noah Smith的观点指出,记者们长期以来过于频繁地把这条分界线视为非黑即白,因此分析这一层“在新闻编辑室中从未真正有过归宿”。他举出的例子是“AI行业是否是泡沫”这类分析可以处理的问题。他认为,如今分析人士的权威来自其作品积累,而非所属机构的招牌。(顺带一提,Fortune和Fortune Intelligence经常以分析类文章的形式刊发报道。)

他说,互联网“让发行民主化”,而AI如今正在“让生产民主化”:“如今,一支一到两人的团队就可以生产各类一流的新闻内容。”他说,当前正在发生的“与其说是新闻的衰落”,不如说是“向一系列其他机构的迁移”。

谁来买单

Narayanan表示,“真正的危机”是AI公司与出版商之间的权力鸿沟。他说,出版商对聊天机器人发行渠道的需求,超过了AI公司对任何单一媒体的需求,因此授权协议压低了新闻业的价值。他指出,“转向视频”的浪潮——当时Facebook的一次算法变更迫使新闻机构重构其商业模式——“是极端权力不对称的一个糟糕例证”。

他提出的解决方案是对AI公司调整算法的方式引入民主参与——类似于Meta设立的监督委员会(该公司为审查其内容审核决策而设立的独立机构),但要让记者在其中拥有“一席之地”。Narayanan补充说,记者们需要组建一场广泛的政治运动,联合起来为这个职业的未来发声,其中可能包括对AI和社交媒体公司征税。他表示,这样一场运动必须“具有广泛的群众基础”,不能“被视为带有党派色彩”,并且除传统媒体外还须纳入创作者。

但另一种可能性——在会场内几乎无人提及——是新闻业只不过是人类过去两个世纪的一种现象,而技术与经济正在演变,使其不再作为一个有组织、有聚合的产业而存在。

本文最初发表于Fortune.com。