2012年,Shu、Mazar、Gino、Ariely 和 Bazerman 在《美国国家科学院院刊》上发表了一项研究,报告了一种出奇廉价的解决不诚实问题的方法:将诚信声明移到表格顶部,人们就会减少撒谎。在其实地实验中,近13,500名在顶部签名的汽车保险客户报告的里程比在底部签名的客户多约2,400英里,即10%。该发现被引用超过400次,在商学院教授,被保险公司 Lemonade 采纳,被英国、危地马拉和加拿大的政府测试,并被认为是 IRS 在一个季度内从供应商处额外收取160万美元的原因。

问题始于该效应无法复制。原作者与外部人士合作重新运行签名实验,发现没有差异,并于2020年将这次失败发表在 PNAS 上——首次公布了2012年的原始数据,这是一个在当时仍属罕见的透明度举措。Joe Simmons、Leif Nelson 和 Uri Simonsohn,即 Data Colada 博客背后的学者,与一组匿名研究员一起下载了电子表格,开始追问的不是统计是否正确,而是文件是否看起来像人们实际生成的东西。

他们的审计发现了四个异常。报告的行车里程在0到50,000之间均匀分布——与 Excel 的随机数生成器无法区分。报告的里程表读数没有整数,尽管人们在估计时会四舍五入。基线行一半用 Calibri 字体,一半用 Cambria 字体,每个 Cambria 行都与 Calibri 行几乎一样,高出不到1,000英里;一百万次模拟从未偶然产生这种结果。基线行被复制并添加抖动;实验数据来自随机数生成器——伪造得“毫无疑问”。

这些证据迫使人们进行清算。五位原作者都同意数据似乎伪造,并要求 PNAS 撤回该论文;其中四位作者表示他们没有参与收集数据,因此 Ariely——唯一与保险公司有联系的作者——成为了悬而未决的问题。Ariely 否认不当行为,并归咎于其不插手的方式。BuzzFeed News 于2021年8月21日发表了调查;Hartford 仅确认与 Ariely 存在一个2007-2008年的小项目,并且未能找到该项目的任何数据或成果。

与其重新运行统计,不如审计原始文件的平凡层面——字体、舍入、重复行和分布——这些地方会暴露伪造数据

欺诈最容易隐藏在统计中,最难过数据日常纹理这一关——字体、舍入和重复可以挺过同行评审,却暴露了生成器的痕迹。

2020年论文公布原始数据的决定将无法验证的说法变成了可审计的文件;没有公布,伪造就不可能被发现。

检查成本低且公开——分布拟合、数字位数、字体分割和模拟任何读者都可以重新运行——因此结论基于证据而非权威。

该发现自身的成功造成了检查的动机:一项被保险公司和税务机关采用的干预措施,一旦停止复制,就值得验证。

当一个结果很重要时,信任止于原始数据:要求提供文件,然后检查舍入、重复、字体和分布——伪造数字容易,但让它们看起来像人写的则不然。

2021年8月 Data Colada 发文后几天内,五位作者都同意数据似乎伪造,并要求 PNAS 撤回;BuzzFeed News 的调查于8月26日更新了 Hartford 的声明,使该案成为可复制性危机的象征。十年来的欺诈影响已经造成:建立在签名效应上的产品,从 Lemonade 的诚信承诺到政府的税务表格变更,都必须重新评估。作者的制度性教训是:期刊应要求原始数据,因为只有公布才能让伪造被发现。

从这里,追溯依据

参考来源

  1. A Famous Honesty Researcher Is Retracting A Study Over Fake Data buzzfeednews.com
  2. [98] Evidence of Fraud in an Influential Field Experiment About Dishonesty datacolada.org