研究发现社会科学摘要中的因果表述普遍存在夸大
要点速览
- •研究人员使用大型语言模型分析了194,631篇横断面社会科学论文,以衡量标题和摘要中的因果措辞。
- •在1980年至2024年期间,平均有46%的论文包含因果语言,年度比例从2000年的20%上升到2024年的60%。
- •在一项涉及1,105名参与者的人类受试者实验中,读者经常将带有因果措辞的摘要解读为提供了因果证据。
- •方法学标签和关联性措辞降低了读者从摘要中推断因果关系的倾向。
- •在五个LLM的测试中,模型生成的摘要有时会删去保留性表述并加入因果主张,而谨慎提示可以减轻这一问题。

在社会科学领域,许多研究采用横断面设计,这类设计可以揭示关联,但通常无法支持直接的因果主张。尽管如此,这类论文的作者仍可能在写作中提出或暗示因果关系,从而模糊数据能够展示的内容与文章看起来所下的结论之间的界限。
为衡量这种情况出现的频率,研究人员使用大型语言模型分析了194,631篇横断面论文。就1980年至2024年这一时期而言,他们发现平均有46%的论文在标题或摘要中包含因果语言。自2000年以来,这一年度比例几乎增长了三倍,从20%升至60%,表明这种措辞已经足够普遍,足以在大规模上影响读者接触社会科学研究的方式。
研究人员还在一项涉及1,105名参与者的人类受试者实验中检验了这种语言的影响。他们发现,读者经常认为使用这种表述的摘要提供了因果证据。同时,方法学标签(β = −0.4,95%置信区间 −0.56 至 −0.19)和关联性措辞(β = −0.3,95%置信区间 −0.43 至 −0.07)都会降低这种倾向,说明即使研究设计本身没有变化,措辞选择也会影响解读。
在对五个LLM的实验中,这些论文的模型摘要在每个模型中各使用100个样本时,有时会放大因果夸大。模型会删去保留性表述,并在原文仅使用严格关联性措辞的情况下引入因果主张。不过,如果提示模型保持谨慎,这种现象会减弱,这一发现对越来越多通过自动摘要而非完整论文接触研究的读者具有现实意义。
这些发现来自Calvin Isch、Timothy Dörr、Neil Fasching、Grace Jennings和Duncan J. Watts近期发表的一篇论文。Isch今年正在找工作,并与Tetlock和Watts合作。