中华流行病学杂志  2018, Vol. 39 Issue (8): 1125-1129   PDF    
http://dx.doi.org/10.3760/cma.j.issn.0254-6450.2018.08.022
中华医学会主办。
0

文章信息

胡晶, 孙凤, 詹思延.
Hu Jing, Sun Feng, Zhan Siyan.
偏倚风险评估系列:(八)系统综述
Risk of bias assessment: (8) Risk of Bias in Systematic Review (ROBIS)
中华流行病学杂志, 2018, 39(8): 1125-1129
Chinese Journal of Epidemiology, 2018, 39(8): 1125-1129
http://dx.doi.org/10.3760/cma.j.issn.0254-6450.2018.08.022

文章历史

收稿日期: 2017-10-25
偏倚风险评估系列:(八)系统综述
胡晶1, 孙凤2, 詹思延2     
1. 100010 北京, 首都医科大学附属北京中医医院循证中心/北京市中医研究所;
2. 100191 北京大学公共卫生学院流行病与卫生统计学系
摘要: 针对评价系统综述偏倚风险的ROBIS(Risk of Bias in Systematic Review)工具进行详细介绍,包括ROBIS的制定过程、应用ROBIS对系统综述进行评价的3个阶段、并举例说明ROBIS的使用方法和注意事项。ROBIS与AMSTAR(A Measurement Tool to Assess Systematic Reviews)工具不同,是第一个制定出用于全面评价系统综述偏倚风险的工具,为研究者制定临床实践指南或系统综述再评价提供依据。
关键词: 偏倚风险     评估工具     系统综述     随机对照试验    
Risk of bias assessment: (8) Risk of Bias in Systematic Review (ROBIS)
Hu Jing1, Sun Feng2, Zhan Siyan2     
1. Center of Evidence-based Medicine, Beijing Traditional Chinese Medicine Hospital, Capital Medical University, Beijing Institute of Traditional Chinese Medicine, Beijing 100010, China;
2. Department of Epidemiology and Biostatistics, School of Public Health, Center of Evidence-based Medicine and Clinical Research, Peking University, Beijing 100191, China
Corresponding author: Sun Feng, Email:sunfeng@bjmu.edu.cn
Fund program: National Natural Science Foundation of China (81403283, 71673003); Beijing Science and Technalagy Nova Program (Z171100001117030)
Abstract: This paper introduces the Risk of Bias in Systematic Review (ROBIS), including:1) the development of ROBIS, 2) three phases of ROBIS tool judging the overall risk of bias that related to systematic reviews, and 3) illustration on the application of ROBIS in a published systematic review. ROBIS is the first rigorously developed tool which is specifically designed to assess the risk of bias in systematic reviews. ROBIS will help improve the process of risk assessment on bias which appeared in overviews and guidelines.
Key words: Risk of bias     Tool for assessment     Systematic review     Randomized controlled trial    

系统综述是系统地总结既往研究成果,进一步形成决策证据的方法[1-2]。除了针对随机对照试验(RCT)的系统综述,还有观察性研究的系统综述、定性研究的系统综述等类型。如果在系统综述的设计阶段和制作阶段存在系统缺陷或局限性,会产生偏倚,进而影响结果的真实性和可靠性。系统综述制作过程的各阶段都有可能产生偏倚,用户在解释系统综述的结果和结论时需要考虑这些潜在的偏倚。因此,需要利用评估工具对系统综述的偏倚风险进行评价,以便筛选出高质量的系统综述,供研究者制作临床实践指南或系统综述再评价使用,从而有效促进循证决策。

一、ROBIS(Risk of Bias in Systematic Review)的制定背景

目前已有许多工具评估系统综述的方法学质量,主要包括OQAQ(the Overview Quality Assessment Questionnaire)工具[3]和AMSTAR(A Measurement Tool to Assess Systematic Reviews)工具[4]。AMSTAR工具于2007年发布,是目前最广泛使用的工具之一[5],其主要用于评价基于RCT制定的系统综述,在非RCT系统综述中的应用有限;因此,2017年该工具又更新为AMSTAR 2,基于RCT或非RCT的系统综述均可以应用,共包括16个条目[6]

2014年英国布里斯托尔大学(University of Bristol)社会医学部制定了一种全新的评价工具——ROBIS工具[7],其针对系统综述的偏倚风险,不仅用于评估包括干预性、诊断性、病因性、预后性等多种系统综述制作过程和结果解释过程中的偏倚风险,还用于评价系统综述问题与其使用者要解决的实践问题的相关性。本文主要介绍ROBIS工具,为国内系统综述制作者、临床指南制定者和其他相关研究者提供理解和应用该工具的参考,从而提高系统综述的质量,促进其应用。完整的ROBIS工具和使用指导可以从ROBIS网站(www.robis-tool.info)获取。

ROBIS工具的制定分为4个阶段[8]

1.确定ROBIS工具的范围:成立专家指导小组,通过视频会议确定ROBIS的范围,之后举行面对面会议,通过Delphi法最终确定ROBIS工具的要点、结构和性能。

2.审查证据基础:制定者通过3种方法来获取证据以指导ROBIS的制定。①参考Cochrane干预性系统综述方法学期望值(Methodological Expectations of Cochrane Intervention Reviews,MECIR)的80个条目;②评价40个现有的系统综述或Meta分析的质量评价工具并进行条目分类;③对使用AMSTAR工具的系统综述进行再评价,以获取ROBIS工具潜在使用者的具体要求。

3. ROBIS工作组召开面对面会议:ROBIS工作组召开面对面会议及采用Delphi法,形成ROBIS的草案。

4.预试验和完善:采用改良Delphi法确定ROBIS的范围和内容。在预试验的基础上,于2016年形成ROBIS的终版以及相应的使用指导。

二、ROBIS的条目解读

应用ROBIS工具对系统综述进行评价的过程包括3个阶段:①评估相关性(根据情况选择);②确定系统综述制定过程中的偏倚风险程度;③判断系统综述的整体偏倚风险。

1.评估相关性(根据情况选择):此阶段旨在评估目标问题与系统综述中拟解决问题的吻合度。评价者在制作系统综述再评价或临床实践指南时,首先需要确定想要解决的问题,即目标问题。对不同研究类型的系统综述(包括干预性、病因性、诊断试验和预后性系统综述),表 1中提供了相应的评价内容。如果在PICO或类似的问题分类框架中有一个或多个分类条目不匹配,则阶段1相关性评估应该判定为“否”。如果仅评估系统综述的偏倚风险,而没有目标问题,那么可跳过该阶段(即根据情况选择)。

表 1 不同类型系统综述的PICO或类似问题(阶段1)

2.确定系统综述评价制定过程中的偏倚风险程度:此阶段主要确定系统综述制定过程中可能产生的偏倚,涉及制定系统综述的4个领域:①研究的纳入标准;②研究的检索和筛选;③数据提取和质量评价;④数据整合和结果呈现。各领域包括3部分内容:从系统综述中寻找支持偏倚风险程度判断的信息、回答信号问题、判断偏倚风险程度。信号问题的回答有“是/可能是/可能否/否/无信息”5种,据此,每个领域的偏倚风险程度被判断为“低/高/不确定”。如果一个领域内所有信号问题的回答都是“是”或者“可能是”,则偏倚风险程度被判断为“低”;如果一个领域内有任何信号问题的回答是“否”或者“可能否”,则存在潜在的偏倚风险。表 2总结了阶段2的4个领域21个信号问题和阶段3整体偏倚风险判断的3个信号问题。对每个领域的详细描述以及如何对每个信号问题进行评价可参考ROBIS的使用指导。领域1评估系统综述的纳入标准是否预先确定、是否清晰以及是否符合系统综述的问题。领域2评估是否有符合纳入标准的原始研究未被纳入到系统综述中。领域3评估数据提取和原始研究偏倚风险评价过程是否会产生偏倚。领域4评估系统综述制定者是否采用恰当的方法合并原始研究的数据(采用定量合并或非定量合并)。

表 2 ROBIS阶段2的各领域、阶段3以及信号问题总结

3.判断系统综述整体的偏倚风险:此阶段包括3个信号问题,是判断系统综述整体的偏倚风险,与阶段2各领域的结构相同,包括信号问题和支持偏倚风险程度判断的信息,但是判断的是整体的偏倚风险程度。例如第1个信号问题是关于“结果解释中是否处理了领域1~4中所有的偏倚风险”,如果没有偏倚风险,将其判断为“是”;如果这4个领域中有超过一个领域存在偏倚风险,但是在解释结果和得出结论时恰当的考虑到了这些风险,同样可以将其判断为“是”;进一步根据其他信号问题的分级,这个系统综述仍然可能被判定为“低偏倚风险”。见表 2

三、实例分析

使用已发表的研究举例说明ROBIS的实际使用。该文是2016年11月发表在BMJ杂志上的一个系统综述和Meta分析[9],研究者希望评价α受体阻滞剂治疗输尿管结石患者的有效性和安全性,研究纳入α受体阻滞剂与安慰剂或其他治疗措施进行比较的随机对照试验,主要结局指标是排出结石的患者比例,次要结局指标是排出时间、疼痛发作次数、采用手术治疗的患者比例、要求入院的患者比例以及不良事件。本研究除正式发表的系统综述,还在PROSPERO网站进行了注册(编号:CRD42015024169),这些资料作为支持信息来源在偏倚风险评估过程中被使用。由于本文仅评估系统综述的偏倚风险,并非制定系统综述再评价或临床实践指南,故没有目标问题,因而在评价时跳过阶段1评估相关性,对阶段2和阶段3进行评价。采用ROBIS工具进行评价后,该篇系统综述整体偏倚风险程度为“低”。见表 34

表 3 阶段2各领域偏倚风险程度的评价
表 4 阶段3各信号问题及系统综述总体偏倚风险的评价
四、讨论

判断系统综述的偏倚风险并不总是简单易行的。ROBIS是第一个专门用于评价系统综述制定过程中偏倚风险的工具,在这方面与AMSTAR 2工具不同,AMSTAR 2工具是评价系统综述的方法学质量,可用于评价基于RCT或非RCT的系统综述,针对的是干预性系统综述。ROBIS可应用于不同研究类型的系统综述(包括干预性、病因性、诊断试验和预后性系统综述)。

ROBIS工具对系统综述进行评价的过程包括3个阶段,阶段2包括4个领域21个信号问题,每个领域的偏倚风险程度被判断为“低/高/不确定”,阶段3包括系统综述整体偏倚风险判断的3个信号问题,也包括“低/高/不确定”。AMSTAR 2工具共包括16个条目。不可避免的,ROBIS和AMSTAR 2有些条目是重复的,例如检索时是否制定了全面的检索策略、筛选研究和提取数据时是否尽可能地减少误差、是否采用恰当的标准来正规地评价纳入研究的偏倚风险、进行Meta分析时数据整合方法是否恰当、原始研究的偏倚是否在数据合成中进行了评价等。但两种工具在结构方面有两个主要的不同,ROBIS工具阶段2中的“领域1:研究的纳入标准”,对纳入标准设置了5个信号问题,评估系统综述的纳入标准是否预先确定以及是否清晰,另外还评价纳入标准是否符合系统综述的研究问题,因此评价时需要具备临床专业知识的人员参与,AMSTAR 2工具在评价纳入标准时仅评价是否纳入了PICO的要素以及是否预先确定。AMSTAR 2工具中有一个条目是评价研究者是否报告系统综述纳入原始研究的赞助来源,另外一个条目评价系统综述研究者是否报告了潜在的利益冲突,而ROBIS工具并没有关于利益冲突的条目。因此用两种工具进行评价的结果不一定一致。由于AMSTAR 2工具2017年刚发布,截至目前还没有研究比较ROBIS和AMSTAR 2在评价系统综述质量上是否有不一致。有研究同时采用AMSTAR和ROBIS工具对139个干预性系统综述的质量和偏倚风险进行评价[10],结果显示采用AMSTAR工具评价为高质量的系统综述中,有超过50%的被ROBIS工具评价为高偏倚风险,因此研究认为系统综述的方法学质量只能反映偏倚风险的一部分。研究建议评价者同时采用AMSTAR和ROBIS工具对系统综述的质量进行评价,互为补充。

ROBIS工具自发布以来,已经被越来越多的研究者用于评价系统综述的偏倚风险[11-15]。截至2017年4月,PROSPERO平台上已经有54个注册的计划书采用ROBIS工具评价系统综述的偏倚风险,18个计划书同时采用ROBIS和AMSTAR工具进行评价[16]。ROBIS工具的每个信号问题都有相应的标准和对偏倚风险判断的说明,富有条理且十分详尽。但在应用ROBIS工具进行评价时也存在一些问题:①评价过程耗时较长,工作量较大;②ROBIS工具对评价者要求较高,评价者需要具有一定的统计学知识和临床专业知识,建议评价时,两名评价者分别具有相关的专业背景。目前ROBIS工具的1.0版已可获取,之后还会不断进行更新,希望在应用过程中逐渐完善。


利益冲突:
参考文献
[1] Higgins JPT, Green S. Cochrane handbook for systematic reviews of interventions[EB/OL]. (2017-09-01)[2017-10-15]. Version 5. 1. 0. The Cochrane Collaboration, (2011-03). http://training.cochrane.org/handbook.
[2] Centre for Reviews and Dissemination. Systematic Reviews: CRD's guidance for undertaking reviews in health care[EB/OL]. (2017-09-01)[2017-10-15]. York: University of York, 2009. http://www.equator-network.org/reporting-guidelines/systematic-reviews-crds-guidance-for-undertaking-reviews-in-health-care/.
[3] Oxman AD, Guyatt GH. Validation of an index of the quality of review articles[J]. J Clin Epidemiol, 1991, 44(11): 1271–1278. DOI:10.1016/0895-4356(91)90160-B
[4] Shea BJ, Grimshaw JM, Wells GA, et al. Development of AMSTAR:a measurement tool to assess the methodological quality of systematic reviews[J]. BMC Med Res Methodol, 2007, 7: 10. DOI:10.1186/1471-2288-7-10
[5] Shea BJ, Hamel C, Wells GA, et al. AMSTAR is a reliable and valid measurement tool to assess the methodological quality of systematic reviews[J]. J Clin Epidemiol, 2009, 358: 1013–1020. DOI:10.1016/j.jclinepi.2008.10.009
[6] Shea BJ, Reeves BC, Wells G, et al. AMSTAR 2:a critical appraisal tool for systematic reviews that include randomised or non-randomised studies of healthcare interventions, or both[J]. BMJ, 2017, 358: j4008. DOI:10.1136/bmj.j4008
[7] Whiting P, Savović J, Higgins JPT, et al. ROBIS:A new tool to assess risk of bias in systematic reviews was developed[J]. J Clin Epidemiol, 2016, 69: 225–234. DOI:10.1016/j.jclinepi.2015.06.005
[8] Moher D, Schulz KF, Simera I, et al. Guidance for developers of health research reporting guidelines[J]. PLoS Med, 2010, 7(2): e1000217. DOI:10.1371/journal.pmed.1000217
[9] Hollingsworth JM, Canales BK, Rogers MA, et al. Alpha blockers for treatment of ureteric stones:systematic review and Meta-analysis[J]. BMJ, 2016, 355: i6112. DOI:10.1136/bmj.i6112
[10] Gómez-García F, Ruano J, Gay-Mimbrera J, et al. Most systematic reviews of high methodological quality on psoriasis interventions are classified as high risk of bias using ROBIS tool[J]. J Clin Epidemiol, 2017, 92: 79–88. DOI:10.1016/j.jclinepi.2017.08.015
[11] Fernandes RM, Cary M, Duarte G, et al. Effectiveness of needle and syringe programmes in people who inject drugs-an overview of systematic reviews[J]. BMC Public Health, 2017, 17: 309. DOI:10.1186/s12889-017-4210-2
[12] Nagasawa DT, Bui TT, Lagman C, et al. Isolated transverse process fractures:a systematic analysis[J]. World Neurosurg, 2017, 100: 336–341. DOI:10.1016/j.wneu.2017.01.032
[13] Viswanathan M, Treiman KA, Kish-Doto J, et al. Folic acid supplementation for the prevention of neural tube defects:an updated evidence report and systematic review for the US Preventive Services Task Force[J]. JAMA, 2017, 317(2): 190–203. DOI:10.1001/jama.2016.19193
[14] Hamill J, Rahiri JL, Hill AG. Analgesic effect of intraperitoneal local anesthetic in surgery:an overview of systematic reviews[J]. J Surg Res, 2017, 212: 167–177. DOI:10.1016/j.jss.2017.01.022
[15] Papageorgiou PN, Deschner J, Papageorgiou SN. Effectiveness and adverse effects of deep brain stimulation:umbrella review of Meta-analyses[J]. J Neurol Surg A Cent Eur Neurosurg, 2017, 78(2): 180–190. DOI:10.1055/s-0036-1592158
[16] PROSPERO: International prospective register of systematic reviews[EB/OL]. (2017-05-01)[2017-09-02]. http://www.crd.york.ac.uk/prospero/.