【摘 要】同行专家是同行评议活动的一个重要组成部分,作为同行评议的评价主体,在同行评议活动中发挥着重要的作用。以WebofScience数据库为数据源,对国外关于同行评议专家的研究现状进行了调研,并对国外有关同行评议专家的研究内容进行了归纳与总结分析,主要包括关于同行评议专家评议活动的影响因素研究、完成高质量同行评议的同行专家所具备的特征研究、同行评议专家遴选方式的研究以及对同行评议专家进行评价的研究四个方面。
【关键词】学术评价;同行评议;同行专家;专家遴选
同行评议活动最早出现在英国皇家学会期刊《哲学会刊》的论文评审中,这种评审方式被视为早期的同行评议活动。随后,美国开始将同行评议应用到科学研究项目的申报评审中,至此,同行评议活动开始逐渐走出编辑行业范畴,被普遍应用于科学基金的评审,并逐渐成为一种重要的学术评价方方式。在同行评议活动中,同行专家、评价标准和评价客体是同行评议活动的三个重要组成部分。其中,同行评议专家作为同行评议的评价主体,在同行评议活动中发挥着重要的作用,是评价行为的主要实施者,因此,对同行评议专家的研究是十分必要和有意义的。
本研究以Web of Science(简称WOS)数据库为数据源,对国外有关同行评议专家的相关研究进行检索与调研分析。通过对相关文献研究主题的分析可知,国外关于同行评议专家的研究内容主要包括以下几个方面:第一,关于同行评议专家评议活动的影响因素研究。第二,能够完成高质量同行评议的同行专家所具备的特征研究。第三,关于同行评议专家遴选和同行评议专家的产生方式的研究。第四,对同行评议专家进行评价的研究。
一、同行评议专家评议活动的影响因素研究
同行专家的评议行为会受到各个方面因素的影响,这些因素主要来自于同行专家自身、同行评议采用的方式以及被评议的对象三个方面。
1.来自同行评议专家自身的影响因素
Callaham等人于1998年对同行评议专家的评议质量和评议行为的影响程度进行了实验研究,结果表明是否参加过同行评议研讨会培训对随后的评议行为并未产生太大影响[1]。2002年,Callaham等人再一次对同行评议专家参加正式互动培训会议是否会提高评议质量进行试验研究[2]。还有其他学者如Schroter等人也对培训对同行评议专家评议质量的影响进行实验研究[3-4]、Gareia的关于培训和经验对同行评议专家的影响研究等[5]。Das Sinha等人(1999)对交换印度和非印度评议专家的评议建议是否能够提高评议质量进行实验研究,结果表明非印度专家通常比印度本国专家评议质量要高,并且是否交换其评议观点对评议质量并没有太大影响,他们建议印度编辑们应该更多邀请非印度评议专家来参与评议活动[6]。
2.评议方式对同行评议专家评议行为的影响
Bloom(1999)指出小组评议的方式会让评议专家产生保守主义倾向,使得他们即使对于评议对象有偏见,但一般不会公开发表[7]。Baggs等人对《护理期刊》同行评议专家在盲审方式上的偏好进行了调研分析,调查发现同行评议专家对双盲审方式比较满意,认为这种方式有利于保证出版论文的质量[8]。Van等人(1999)也对公开同行评议方式对于同行评议专家和同行评议质量的影响进行了一项随机实验研究,实验结果表明要求同行评议专家同意向作者公开其身份,对评议质量、建议的出版物以及评议时间都不会产生重大影响,但这种方式却会明显增加专家拒绝评议的可能性[9]。2010年,Van等人再次对公开同行评议方式对同行评议专家评议质量的影响进行随机控制实验研究,尽管公开同行评议方式会增加潜在评议专家的拒评率,会延长评议时间,但他们相信这种评议方式所带来的优势会超过这些缺点[10]。Godlee等人通过来自期刊数据库的420名同行评议专家随机分成5组,对盲审方式和签署评议报告对同行专家评议质量是否产生影响进行实验研究,结果表明这些措施不大可能提高同行评议的质量[11]。还有一些相关实验研究如Sly白勺《Blinding reviewers improves peer-review》(1990)[12]等。
3.被评议对象对同行评议专家评议活动的影响
Link于1997年对偏爱来自不同国家稿件的评审专家进行了评估,指出被评审论文的国别会影响到同行评议专家的评议活动[13]。该实验以1995年和1996年肠胃病学所受到的所有原始稿件为样例,评审专家对手稿进行四种判定:接受、暂时接受、拒绝与重新提交、拒绝,并基于作者和评审专家的国籍来排序。实验结果表明来自美国和美国以外的评审专家对待非美国的文章态度是差不多的,但是他们都更加偏好评价美国作者所提交的文章,尤其是美国的评审专家。Leanne和Sara选取五种生物学期刊对同行评议专家为什么会拒绝一些评议活动进行实验研究,结果表明同行专家们更加倾向于评审与他们领域相关或感兴趣的文章,缺少时间则是他们拒绝一些评议的主要因素[14]。
二、完成高质量同行评议的同行专家所具备的特征研究
Avans、Mcnutt和Fletcher等人(1993)是较早对能够完成高质量同行评议的同行评议专家特点进行调研分析的,他们通过对随机对照实验中所搜集的数据进行横向分析来测定能够在《普通内科期刊》中完成高质量同行评议活动的同行评审专家所具备的特点。在这次试验中共有226名同行评议专家参与,其中201位完成了评议并提交了个人简历(用以提供评审专家的特点),实验结果表明,当一名评议专家的年龄在40岁以下,来自较高的学术机构、被编辑人员所熟知、不知被评议对象的姓名时,那么他完成一项高质量的同行评议活动的可能性就是87%,而不具有上述任何一项特征的评议专家完成高质量同行评议活动的可能性则是7%。其他在二元分析时较显著的特点包括研究培训、增加研究生学位以及花更多的时间在评审上。学术排名和评审质量之间没有明显关联:37%的正教授、39%的副教授、51%的助理教授及以下实现了高质量的评议活动。Black、Van和Godlee等人(1998)通过将345份医学期刊稿件进行两组同行评议实验,结果表明,被编辑和作者共同认为完成了高质量同行评议的是那些经过传染病学或统计学训练的同行评议专家;同行评议专家的年轻化也是一种趋势;由编辑委员会的成员完成的同行评议则被作者们评定为质量较差;评议时间相对延长,但不超过3个小时会相Xt提高评议质量[15]。Zuber(2001)从性别的角度对德国医学领域同行评议专家的女性所占比例进行调研,实验以1999年11月德国研究理事会的同行评议专家候选人名单为依据,分别对四个医学研究领域的女性人数和比例进行测量,数据结果表明在德国医学科学领域女性所占比例非常小[16]。其他一些研究如Alfonso(2010)进行了关于生物医学领域“精英”同行评议专家的特征研究[17]等。
三、同行评议专家的产生方式和同行评议专家遴选的研究
1.同行评议专家的产生方式
Floyd在《The importance of reviewers》中指出,在科技论文评审过程中,评审专家是最至关重要的也是最容易被忽略的要素。编辑在选择评审专家时需要十分谨慎地作出一些关键性决定,如什么样的人能够称之为同行,研究内容方面、技术方面还是经验方面?哪些专家由于竞争冲突或过往矛盾应该回避?
Schroter等人(2006)对由作者推荐或编辑推荐同行评议专家两种不同方式的评议质量的差异性进行了实验研究。结果表明作者推荐或编辑推荐的评议专家在评议质量上并无多大差异,但是作者推荐的专家往往会为出版物提出更多有利建议。编辑们可以确信的是由作者推荐的评议专家完全可以胜任评议工作,但是需要对评议专家对出版物的意见持谨慎态度[18]。还有一些研究者也对同行评议专家的产生方式进行了研究,如Tonks(1995)的关于来自作者选择的评议专家研究[19];Cummings(2006)对来自作者推荐和编辑推荐的同行评议专家进行的对比分析[20];Bommann等人(2010)在大气化学和物理领域对由作者推荐的评议专家的意见报告是否比由编辑推荐的评议专家的报告更受欢迎的调研分析等。
2.同行评议专家遴选
关于同行评议专家的遴选,国外一些基金会侧重点也有所不同。德国研究联合会(Deutsche Forschungs Gemeinschaft,DFG)是德国最主要的基金组织[21],DFG要求其评议专家具有博士学位,且具有三年以上的工作经验,遴选方式包括直接选择和学会推荐两种,这种选举每四年用统一的方式在规定的时间举行一次。美国国家科学基金会(National Science Foundation,NSF)是美国支持科学研究与教育的重要资助机构,主要任务是负责资助美国高校以及其他科研机构的研究工作[22]。在NSF中,评审专家的来源相对多样化,既可以由申请人建议,也可以由计划官员来选定,或者来自NSF的专家库等。在进行专家遴选时,NSF对评议人的要求主要包括:具有领域专长、没有利益冲突、客观公正以及评议人分布多样性等。英国研究理事会(Research Councils UK,RUCK)由英国的7个研究理事会组成,主要为英国的学术研究和研究生培养提供资助,涉及学术研究的各个领域和全世界的重大前沿课题,包括医学、生物学、天文学、物理学、化学、社会科学、经济学等[23]。RUCK选择同行评议专家的第一考虑要素是他们在研究领域的权威性,然后RUCK会适当扩大专家的选择范围。
四、对同行评议专家进行评价的研究
Baxt等人(1998)提出使用一种虚拟的手稿来评价同行评议专家的表现[24]。为了制定一个分析同行评议专家行为的方法,在这个虚拟手稿中蓄意放置了10个主要的和13个小错误,并分发给所有急救医学年鉴的同行评议专家们进行评议。实验结果表明这些同行评议专家们并没有识别出这份手稿中的三分之二的错误。Schroteter等人(2008)也通过类似的实验方法对评议专家的评审结果进行检测并讨论了是否可以通过培训来提高评议专家的评议水平[25]。Armstrong(1997)为了提高期刊同行评议的质量、公正性和创新性,对期刊论文评议中同行评议专家行为进行研究,并讨论了评议专家该如何承担评议错误[26]。Flanagin等人提出关于如何处理评议专家的错误评价方面,目前还没有研究者专门进行研究。其他相关研究文献如:Frumkin(1999)的On reviewers[27]、Desai(2008)的Rrviewing the peer review[28]、Jefferson等人(2002)的Measuring the quality of editorial peer rewiew[29]等。
五、结束语
通过数据库检索和文献调研可知,国外关于同行评议专家的研究主要集中在四个领域,具体如图1所示。

图1 国外同行评议专家研究内容体系
(1)同行评议活动影响因素研究。有来自于同行专家自身的因素,亦有来自于同行评议所采用的方式以及被评议对象的影响因素,这些因素都会直接或间接影响到同行评议活动的质量。(2)完成高质量同行评议的专家具备的特征研究。这些专家在年龄层次、所属单位具有一定的共性,并且目前有年轻化的趋势。(3)同行评议专家的遴选方式研究。国外的同行评议专家遴选方式主要是两个方面,一是由评议活动组织者直接选择专家,另外一种是由推荐产生,如作者推荐、编辑推荐、学会推荐等。(4)对同行评议专家进行评价的研究。这部分研究主要是探讨评议专家是否会在评审活动中出现评议错误,以及专家该如何承担评议错误等。
参考文献:
[1]CALLAHAM M L,WEARS R L,WAECKERLE J F.Effect of attendance at a training session on peer reviewer quality and performance[J].Annals of Emergency Medicine,1998,32(3):318-322.
[2]CALLAHAM M L,SCHRIGER D L.Effect of structured workshop training on subsequent performance of journal peer reviewers[J].Annals of Emergency Medicine,2002,40(3):323-328.
[3]SCHROTER S,BLACK N,EVANS S,et al.Effects of training on quality of peer review : randomized controlled trial[J].British Medical Journal,2004,328(7441):673-675.
[4]SCHROTER S,BLACK N,EVANS S,et al.What errors do peer reviewers detect, and does training improve their ability to detect them?[J].Jamal of the Royal Society of Medicine,2008,101(10):507-514.
[5]Garcia-Doval Ignacio.Training and experience of peer reviewers:is beinga"good reviewer"a persistent quality?[J].Plos Medicine,2007,4(3):601-601.
[6]DASSINHA S,SAHNI P,NUNDY S.Does exchanging comments of Indian and non-Indian reviewers improve the quality of manuscript reviews?[J].National Medical Journal of India,1999,12(5):210-213.
[7]BLOOM F E.The importance of reviewers[J].Science,1999,283(5403):789-789.
[8]BAGGS J G,BROOME ME, DOUGHERTY M C, et al. Blinding in peer review: the preferences of reviewers for nursing journals[J].Journal of Advanced Nursing,2008,64(2):131-138.
[9]VAN R S,GODLEE F,EVANS S,et al.Effect of open peer review on quality of reviews and on reviewers5 recommendations:a randomised trial[J].British Medical Journal,1999,318(7175):23-27.
[10]ROOYEN S V.Effect on peer review of telling reviewers that their signed reviews might be posted on the web : randomized controlled trial[J].British Medical Journal,2010(341):6.
[11]GODLEE F,GALE C R,MARTYN C N.Effect on the quality of peer review of blinding reviewers and asking them to sign their reports-A randomized controlled trial[J].Jama-Journal of the American Medical Association,1998,280(3):237-240.
[12]SLY R M.Blinding reviewers improves peer-review[J].Annals of Allergy,1990,65(4):243-243.
[13]LINK A M.US and non-US submissions-An analysis of reviewer bias[J].Jama-Journal of the American Medical Association,1998,280(3):246-247.
[14]TITE L,SCHROTER S.Why do peer reviewers decline to review?A survey[J].Journal of Epidemiology and Community Health,2007,61(1):9-12.
[15]BLACK N,VAN R S,GODLEE F,et al.What makes a good reviewer and a good review for a general medical journal?[J].Jama-Journal of the American Medical Association,1998,280(3):231-233.
[16]ZUBER M A.Underrepresentation of women among peer reviewers and textbook authors in medicine in Germany[J].Mediz-inische Klinik,2001,96(3):173-180.
[17]ALFONSO F.Theupeer-review"process in biomedical journals: characteristics of"Elites"reviewers[J].Neurologia,2010,25(9):521-529.
[18]SCHROTER S,TITE L,HUTCHINGS A,et al.Differences in review quality and recommendations for publication between peer reviewers suggested by authors or by editors[J].Jama-Joumal of the American Medical Association,2006,295(3):314-317.
[19]TONKS A.Reviewers chosen by authors[J].British Medical Journal,1995,311(6999):210-210.
[20]CUMMINGS P.Effects of differences between peer reviewers suggested by authors and by editors[J].Jama-Joumal of the American Medical Association,2006,296(10):1231-1231.
[21]Studie Peer Review in der DFG:Die Fachkollegiaten[EB/OL].(2017-3-14)[2012-8-20].http://www.dfg.de/download/pdf/dfg_im_profil/geschaeftsstelle/publikationen/studien/studie_fachkollegiaten.pdf.
[22]About the National Science Foundation[EB/OL](2017-3-14)[2012-8-20].https://www.nsf.gov/about/.
[23]About the Research Councils[EB/OL].(2017-3-14)[2012-8-20].http://www.rcuk.ac.uk/about/.
[24]BAXT W G,WAECKERLE J F.Who reviews the reviewers?[J].Feasibility of using a fictitious manuscript to evaluate peer reviewer performance. Annals of Emergency Medicine.1998,32(3):310-317.
[25]SCHROTER S,BLACK N.What errors do peer reviewers detect,and does training improve their ability to detect them?[J].Journal of the Royal Society of Medicine,2008,101(10):207-514.
[26]ARMSTRONG J S.Peer Review for Journals:Evidence on Quality Control, Fairness or Innovation[J].Science and Engineering Ethics,1997,3(1):63-84.
[27]FRUMKIN K.On reviewing the reviewers[J].Annals of Emergency Medicine1999,33(3):356—356.
[28]DESAI C.Reviewing the peer review[J].Indian Journal ofPharmacology,2008,40(1):1-2.
[29]JEFFERSON T,WAGER E.Measuring the quality of editorial peer review[J],JAMA,2002,287(21):2790-2793.