一个长达十年的项目试图复制临床前癌症生物学领域几篇备受瞩目的论文中的实验,结果发现,大约一半的实验在大多数标准下都无法复制。

“这表明癌症生物学中发表的研究结果的可信度不如想象的那么确定,”他说Brian Nosek,执行董事开放科学中心该公司负责监督该项目。

“可重复性项目:癌症生物学”(Reproducibility Project: Cancer Biology)于2012年启动,试图复制2010年至2012年间发表的53篇高影响力论文中的193个实验,根据引用和读者选择研究。但是,开放科学中心(Center for Open Science)研究主任、该项目的负责人蒂姆·埃林顿(Tim Errington)说,由于原始论文的一些作者对数据、试剂和协议缺乏透明度,最终只完成了23篇论文中的50个实验。

没有确定复制是否成功的标准方法。因此,研究人员使用了五个标准来评估他们的复制,比如测量的效果是否与原始的方向相同并且具有统计学意义,复制效应大小是否在原始的95%置信区间内,反之亦然。他们发现,只有18%的人成功完成了这五项任务,而20%的人失败了。总的来说,46%的效果达到了大多数标准。对效应大小的meta分析还发现,在测量的158个效应中,复制效应的大小平均要小85%。1、2

透明度问题

Nosek说,复制失败并不一定意味着原始结果是错误的。虽然原始样本可能是假阳性,但复制样本也有可能是假阴性。或者两者都可能是正确的,差异是由于实验条件或设计的差异。但是,他补充说,“我们试图用高统计能力将其最小化,尽可能多地使用原始材料,并提前对计划的实验进行同行评审。”

埃林顿说,对科学来说,更大的问题是如何正确地进行实验缺乏透明度。他说:“最大的障碍是试剂共享和获得实验方案的信息——每个人都需要澄清。”

在某些情况下,这些澄清很难得到。原始论文的作者有时不得不找到几年前离开实验室的人来寻找协议数据,这表明研究人员需要更好地利用现有工具来帮助他们分享工作和数据。

他说:“我们需要能够让人们在他人工作成果的基础上进行研究的记录。伊丽莎白Iorns他是研究服务市场Science Exchange的首席执行官,是癌症生物学复制项目的最初构想者。“回到原作者那里去是疯狂的。”

问题在于绘制美国国家科学院(US National Academy of Sciences)院长霍金(robert einstein)的一个问题是,科学家几乎没有动力与试图复制他们成果的人合作。她说:“他们所能期待的最好结果就是他们的研究得到了证实,但他们已经有了一篇被高度引用的论文,所以没有什么好处。”“如果他们的工作没有得到证实,后果将是毁灭性的。”

新方法

除了鼓励研究人员免费提供所有数据和协议的基层开放科学运动之外,更正式的倡议正在进行中,试图解决复制工作带来的问题。美国国家科学院已经成立了一个新的研究卓越、诚信和信任战略委员会,麦克纳特说,该委员会将考虑如何为与复制的合作提供更多的激励措施。该理事会于2021年10月首次召开会议。

美国国立卫生研究院也将引入一项数据管理和共享政策,该政策将于2023年1月生效迈克劳尔他是美国国立卫生研究院的校外研究主任。他说,这项政策将使数据共享成为美国国家卫生研究院资助的工作的默认设置,并有助于培养共享、严格和可复制的文化。他说,没有什么比知道自己的数据、代码和方法将被更广泛地共享更能让科学家有动力确保自己的工作是正确的了。

许多期刊现在也要求作者免费提供他们的数据,尽管麦克纳特说,这项政策的存在并不总是确保会有后续行动。化学杂志有机合成更进一步,要求一篇文章中报告的所有实验在发表前都必须由编委会成员成功重复。埃林顿说:“我认识的化学专家都说:这里面的一切你都可以相信。”

其他几项复制研究正在各个领域进行。开放科学中心是负责社会和行为科学的研究,而重复的项目布里格姆妇女医院和哈佛医学院的研究人员正在进行一项纵向医疗数据库研究。但Iorns说,缺乏资金使得这种长期研究变得困难。当她第一次有这个想法时,她就癌症生物学项目联系了所有的主要资助者,但没有一个人感兴趣。该项目最终从慈善机构阿诺德风险投资(Arnold Ventures)获得了私人慈善资金。她说,我不相信今天会有什么不同。

然而,今天可能有所不同的是,在最近的论文上进行的一项新的复制实验的结果。诺塞克说,研究文化一直在演变。“一些提高可复制性的举措可能会开始对提高可复制率产生可衡量的影响。”