
2026 年 10 月 20 日,元科学机构 Research on Research Institute(RoRI)发布工作论文,评估德国大众汽车基金会为期两年的“分布式同行评审”试点:申请人互相评审同一轮的申请书,专家小组同时独立评审。评估显示,申请人接受度较高,每位评审人的负担更轻;但两条路线选中的项目重合很少,评审专业性和策略性打分仍有争议。
申请人互评与专家评审的并行流程
分布式同行评审(Distributed Peer Review,下称 DPR)的规则很简单:向某一轮资助提交申请,就同时承诺为同一轮的其他申请打分、写评语,资助方再按汇总分数排序。它不再依靠少数专家集中阅读全部申请,而是把评审工作分摊给所有申请人。
大众汽车基金会(VolkswagenStiftung)是德国的私立资助机构。它自 2024 年起在人文与文化研究资助计划“Open Up – New Research Spaces for the Humanities and Cultural Studies”(德文名 Aufbruch)中试用 DPR,同时保留原有的专家小组评审,两条路线并行。按基金会公开的流程,申请人提交匿名短申请书,并承诺评审约 5 份他人申请;经过形式审查和利益冲突检查后,申请人用快速评估表给分到的申请打分、写评语,按得分产生约 10 项资助推荐。另一条路线中,基金会工作人员先按资助标准内部初筛,再交给跨学科专家小组书面评审并开会讨论,同样提出约 10 项推荐。两路推荐都交基金会执行董事会和 14 人的理事会(Kuratorium)决定;申请人无论结果如何,都会收到 DPR 的书面反馈。
首轮(2024 年)的细节见已发表的论文:140 份申请全部同时走两条路线,323 名申请人和共同申请人各评审 4 到 5 份;分配算法避开同一机构,优先匹配相近学科,每份申请平均获得 9.92 份评审,排序采用截尾均值。专家路线由工作人员在每个学科先筛掉约一半申请,再由 8 名小组成员评审。基金会承诺,两条路线选中的项目都给予资助。RoRI 这次的发布稿说,2024 和 2025 两轮共有 301 份申请参加,每个项目获得 9 到 10 份独立评审,去掉最高分和最低分后再取平均。

两年评估的主要发现
新工作论文题为《Distributed Peer Review at the Volkswagen Foundation》,作者为 Anna Butters、Melanie Benson Marshall、Stephen Pinfield、Tom Stafford、Alexander Bondarenko、Robert Nuske、Pierre Schwidlinski 和 Hanna Denecke,属于 RoRI 与大众汽车基金会合作的 AFIRE(研究资助实验加速器)项目,后四位作者来自基金会。两年合并的数字目前引自 RoRI 10 月 20 日的发布稿。首轮评估此前于 2025 年 8 月以 RoRI 第 17 号工作论文发布,2026 年 9 月 12 日发表在期刊《Research Integrity and Peer Review》。首轮研究采用混合方法:分析全部评审打分,向申请人发放评审前预期问卷和决定后反馈问卷,访谈 20 名申请人、小组成员和基金会工作人员,用自助法(bootstrap)检验资助决定的稳定性,用混合效应模型分析评审人之间的一致性。
最受关注的是两条路线的重合度。2024 年两路共资助 18 个项目,只有 3 个同时被两路选中;2025 年重合的只有 1 个(发布稿未给出当年资助总数)。首轮论文也提供了另一面:DPR 选中的 10 个项目中,9 个进入了专家路线的短名单,8 个在小组会议上被讨论。这说明两路对哪些申请值得进入候选范围看法较接近,分歧主要出现在最后取舍。稳定性方面,研究团队用模拟估计,如果把 DPR 过程重来一遍,约 56% 的入选项目会再次入选;首轮的 500 次自助抽样平均为 10 个中保留 5.49 个。论文的解释是评审人之间差异大:分数方差中归于评审人差异的部分(20.0%)比归于申请书差异的部分(8.9%)还多。
负担方面,发布稿称,DPR 评审人在每份分到的申请上花的时间平均不到专家小组成员的一半。首轮论文把账算得更细:DPR 的总评审时长更多,但由 323 人分担,8 名小组成员每人花在评审上的时间约为申请人评审者的 2.5 倍;一份申请在 DPR 中累计获得的评审时间中位数为 12.33 小时,在专家路线中则是 45 分钟到 4 小时,取决于申请走到哪个阶段。
评审质量没有单一指标。发布稿称,评审人与申请书的学科是否一致、评审人以前有无评审经验,与打分几乎没有关联;首轮中学科以外的评审人给分还略高一些。评审标准上,DPR 评审人两年都最看重“原创性”,专家小组对各项标准的侧重在两轮之间变化很大。申请人对收到的评审看法较分散:首轮反馈问卷中,只有 51% 认为评审人的专业水平好;63.4% 的评审被认为有建设性,22.3% 被认为没有建设性。
申请人总体愿意再参加。根据发布稿引用的可选问卷,愿意参加未来 DPR 资助轮次的比例,获资助者为 82.8%(2024 年)和 94.5%(2025 年),未获资助者为 59.6% 和 71.7%。问卷自愿填写,首轮中获资助者回复更积极。不同职业阶段的态度也不一样:早期职业研究者欣赏自己得到了通常只属于资深学者的评审机会,也抱怨工作量大,担心自己和别人的专业水平不够。各方都提到对评审专业性、申请人工作量和策略性打分的担心。首轮中有少数申请人给出的分数持续远低于平均值,多数被截尾去掉,但论文承认无法排除其他形式的策略行为;由于申请主题差异大,这次试点没有采用把评审人与其竞争对手分到不同组的防范设计。
天文台与英国资助方的做法与争议
DPR 最早用于分配望远镜观测时间,方案由 Merrifield 和 Saari 2009 年提出。欧洲南方天文台(ESO)在 2018 年的第 103 观测周期做过一次志愿试验:172 名项目负责人参加,167 人按时完成评审,每份申请由 8 名同行评审,结果不影响实际时间分配。2020 年 4 月 6 日发表在《自然·天文》的论文报告,DPR 的自洽程度与传统评审委员会的会前评审在统计上相同;用机器学习匹配评审人时,排除“对该课题毫无了解”评审人的成功率约 80%。
ESO 从第 110 观测周期起正式采用 DPR:申请总时长不足 16 小时的项目进入 DPR,约占申请数的一半,只占申请时间的 15.6%;更大的项目仍由评审委员会和专家小组评审。每名负责人须评审 10 份同行申请,逾期不交,自己的申请会被自动拒绝。ESO 的说明称,原有小组人数少、负担重,用户对评审反馈的不满意率约 30%,这是引入 DPR 的原因之一。

英国的做法由英国科学、创新与技术部(DSIT)和 UKRI 合设的元科学单元推动。该单元 2025 年报告了一次在 AI 元科学早期职业研究员资助中进行的试验:约 100 份申请竞争约 18 项、共 400 万英镑的资助,每位申请人评审 8 到 10 份,不交评审,自己的申请就出局。评估和决定平均用时 2.2 个月,比 UKRI 常规资助快 53%–65%;84% 的受访申请人认为这个过程扩展了自己对领域的了解。评审人从 3 名增加到 9 名时,评分一致性指标(组内相关系数)从 0.4 升至 0.7。此后,BBSRC 在 2025/26 年度先锋奖中试用 DPR,同时并行保留专家小组;UKRI 的 AIRR 创新者通道则把评审人分配到与自己不同的申请池,使其不给直接竞争者打分。
争议集中在几处。最常提到的是“博弈”:评审人可能压低竞争者分数来抬高自己的相对排名,或与他人串通互打高分。英国元科学单元承认,以往试验大多靠指南、匿名和排除威胁等“软约束”,并为此设计了分池分配。它还列出其他局限:申请人负担加重;申请人未必达到资助机构遴选专家的水平;取多人平均分可能不利于有争议但优秀的申请;申请少于约 20 份时难以运行;只让申请人评审,会排除没有申请资格的国际专家或产业、政策方面的评审人。也有申请人反映,反复强调防博弈,反而让人不敢给很弱的申请打低分。更早的美国国家科学基金会(NSF)试验采用加分机制,曾引发评审趋向共识的担心。
报告结论与各方解读
报告本身的结论比较克制。首轮论文认为,DPR 在跨学科资助中可行,能缩短决定时间、给申请人更多反馈,也有助于评审“民主化”;但资助方要接受取舍,DPR 选出的结果未必与现有制度相同。两年评估的发布稿同样把高满意度、较轻的个人负担,与决定重合少、稳定性中等并列写出。
资助方的表述更积极。大众汽车基金会 2025 年 8 月 28 日介绍首轮结果时,用了“质量相当”“一致性高”等说法,依据是 DPR 推荐的 10 项中有 8 项进入专家路线的最后讨论阶段,并称个人评审时间减少约 60%,计入小组会议则减少达 87%。这些数字与论文并不矛盾,只是比较口径不同:如果看最终资助名单,两路只重合 3 项。
读这项研究还要注意两点。其一,研究由大众汽车基金会委托,四位作者是基金会员工,基金会也是 RoRI 第二期的资助方之一;首轮论文说明,访谈材料由与基金会无关的研究者编码,基金会作者没有接触原始访谈记录,但这只能部分回应独立性问题。其二,两路结果重合少,说明两种方法选出了不同的项目,并不能说明哪一种更“对”:资助申请没有事后可以核对的标准答案。对其他资助机构而言,这项试点提供的是关于代价和收益的实际运行数据,还不是 DPR 可以直接替代专家评审的证据。
参考文献
-
Research on Research Institute. New RoRI study evaluates two-year trial of Distributed Peer Review (DPR) at the Volkswagen Foundation. 2026-10-20.
-
Butters A, Benson Marshall M, Pinfield S, et al. Applicants as reviewers: a mixed methods evaluation of the risks, benefits, and potential of distributed peer review for grant funding allocations. Research Integrity and Peer Review, 2026-09-12.
-
Research on Research Institute. Applicants as Reviewers: Evaluating the Risks, Benefits, and Potential of Distributed Peer Review for Grant Funding Allocations (RoRI Working Paper No. 17). Figshare, 2025-08-27.
-
VolkswagenStiftung. Distributed Peer Review (DPR): Study Shows Potential for Faster and More Democratic Review. 2025-08-28.
-
VolkswagenStiftung. Distributed Peer Review (DPR) – so macht es die VolkswagenStiftung.
-
Kerzendorf WE, Patat F, Bordelon D, et al. Distributed peer review enhanced with natural language processing and machine learning. Nature Astronomy, 2020-04-06.
-
European Southern Observatory. DPR Rules and Guidelines.
-
European Southern Observatory. ESO Period 110 Proposal Submission Statistics.
-
UK Metascience Unit. A Year in Metascience (2025). 2025.
-
Pearson H. How to speed up peer review: make applicants mark one another. Nature, 2025-07-01.
-
BBSRC. Pioneer Awards 2025/26: DPR guidance. 2025.
-
UKRI. Additional Information Distributed Peer Review - rules and guidelines (AIRR). 2025.
-
信息由 Scholay 学术一站式平台 整理并发表,如有侵权请反馈下架。
-
信息同步发表于恩特学术,智能时代的学者社区