《Management Review Quarterly》:Sample credibility in literature reviews: a descriptive methodological review and guidance framework
编辑推荐:
文献综述在塑造学术理解和指导未来研究中扮演着核心角色。因此,确保所综述文献的可信度对于维持研究结果的可靠性至关重要,并避免无意中为欺诈性学术实践(如掠夺性期刊 (predatory journals))提供合法性。本研究基于2010年至2025年间发表的132
文献综述在塑造学术理解和指导未来研究中扮演着核心角色。因此,确保所综述文献的可信度对于维持研究结果的可靠性至关重要,并避免无意中为欺诈性学术实践(如掠夺性期刊 (predatory journals))提供合法性。本研究基于2010年至2025年间发表的1329篇文献综述,阐述了商业研究中样本可信度考虑因素的发展。虽然透明度和方法论严谨性随着时间的推移有所提高,但许多综述仍不一致地应用样本可信度保障措施,或未能清晰报告这些措施。研究人员批判性地讨论了应用的方法,从同行评审考虑因素到期刊级方法和基于文章的评估。本研究提出了一种逐步指导,帮助研究人员根据其综述的范围和目的选择并论证适当的样本可信度考虑因素。该方法为提升文献综述的可信度提供了系统基础,并有助于推进方法论标准。
**研究背景与问题**
文献综述(literature reviews)在商业研究中是累积知识生成的核心工具,但现有方法论指南多聚焦于搜索策略和主题相关性,而样本可信度(sample credibility)——即所综述文献的可信度,由个别研究的严谨性和出版渠道的合法性共同决定——常被隐晦或零散地处理。随着掠夺性期刊(predatory journals)和论文工厂(paper mills)的泛滥,不加批判地纳入低可信度来源可能无意中为欺诈性学术实践提供合法性,并扭曲综合结论。此外,商业研究领域认识论多元,难以应用医学或心理学中统一的方法论标准,导致文献综述中样本可信度保障措施的应用不一致、报告不透明。因此,有必要系统审视当前实践,并开发一个灵活且可操作的指导框架。
**研究开展与结论**
研究人员(即本文作者)基于2010至2025年间发表的1329篇文献综述,进行了一项描述性方法论回顾(descriptive-methodological review),旨在识别样本可信度考虑因素的模式、不一致性和盲点。研究得出以下结论:透明度和方法论严谨性随时间有所提升,但仍有大量综述不一致地应用样本可信度保障措施,或未能清晰报告。应用的方法包括同行评审方法、期刊级方法(如期刊评级、引文指标、黑名单)和文章级评估(如引文分析、可信度评估框架),各有利弊。研究人员据此提出一个逐步决策指导框架,帮助作者根据综述的范围、目的和认识论立场选择合适的样本可信度策略,并平衡纳入低可信度来源(第二类错误)与排除相关研究(第一类错误)的风险。该研究发表在《Management Review Quarterly》。
**主要技术方法**
研究人员采用描述性方法论回顾方法,对四个专门发表综述的期刊(《Academy of Management Annals》、《International Journal of Management Reviews》、《Journal of Management》的综述专刊以及《Management Review Quarterly》)中所有文献综述进行全样本手动检索和筛选。通过归纳编码,识别出样本可信度考虑因素的类型(同行评审、期刊级方法、文章级评估、混合/部分应用、信息缺失),并分析其随时间的变化趋势。样本队列来源明确为上述四个期刊,时间跨度为2010至2025年,最终纳入1329篇文献综述。
**研究结果**
**3.1 研究设计与方法**
通过描述性方法论回顾,研究人员分析了商业研究文献综述中样本可信度处理的现状,识别出模式、不一致性和盲点。
**3.2 抽样**
覆盖2010–2025年,从四个专业综述期刊中手动下载所有文章,排除社论、评论和元分析,最终样本为1329篇文献综述。样本侧重于高影响力期刊,以反映规范性实践,但可能无法代表所有期刊的实践。
**3.3 编码**
采用归纳方法,对文章进行全文手动筛查和关键词验证,识别样本可信度考虑因素。编码过程中未预设方案,而是通过开放式编码和迭代比较形成类别,如同行评审方法、期刊级指标、文章级评估等。主题性纳入标准(如仅考虑某主题)不被编码为样本可信度考虑因素。
**3.4 文献综述中样本可信度考虑因素概述**
随着时间的推移,明确考虑样本可信度的综述比例显著上升。2010年高达84%的综述未做显式考虑,而到2024–2025年这一比例降至较低水平。主要方法包括:同行评审方法(仅纳入同行评审来源)逐渐增多,尤其在《Management Review Quarterly》中最为普遍;期刊级方法(如自定义期刊列表、期刊评级如CABS、ABDC、FT50、VHB,以及引文指标如JIF、SJR、SNIP、Eigenfactor)的使用也稳步增加;文章级评估(如引文分析和直接可信度评估)应用较少(约1%和0.5%);部分和混合方法(如对不同搜索策略使用不同标准)的应用增长至约30%。然而,许多综述仍存在不一致性,例如在期刊驱动搜索后未对扩展搜索部分明确样本可信度标准。
**4 样本可信度考虑因素的批判性讨论**
研究人员详细讨论了各方法的局限性。同行评审方法因掠夺性期刊的存在而不足以保障可信度。期刊级方法(引文指标、评级、黑名单、自定义列表)虽然高效,但可能排除相关研究,且指标易受操纵,评级具有时效性。文章级评估(引文和可信度评估)可更精细地评估个别研究,但引文不直接反映可信度,评估框架需要专业知识且耗时,在多元方法综述中适用性有限。
**5 样本可信度考虑因素的当代议题**
**5.1 防范政治化和基于观点的操纵**
透明且预先指定的可信度阈值可减少后验合理化或政策驱动的筛选,同时保留观点多样性。
**5.2 人工智能在样本可信度评估中的演变角色**
生成式AI(artificial intelligence)可作为研究助手辅助结构化数据处理,但在多方法综述中缺乏深度解释能力,核心评估决策仍需由研究人员主导。
**6 文献综述中样本可信度考虑的逐步指导**
提出一个六步决策框架(图6):
步骤1:确定综述目的和样本可信度的相关性(不同综述类型要求不同,系统综述、整合综述等高度相关,叙事综述可灵活处理)。
步骤2:评估个别文章可信度评估的可行性(取决于样本异质性、规模和评审者专业知识,可选用技术评估工具或解释性框架,AI辅助需人工验证)。
步骤3:评估研究主题的学科广度(单学科可用期刊评级,多学科可用引文指标,注意时间动态)。
步骤4:考虑样本中问题期刊的风险(使用黑名单或个别排除)。
步骤5:平衡可信度保障与排除风险(注意对灰色文献、全球南方期刊的包容性,可进行敏感性分析)。
该框架适用于数据库驱动、经典驱动和期刊驱动等不同搜索策略。
**总结讨论与结论**
在讨论部分,研究人员强调样本可信度保障措施需在客观指标与主观判断之间取得平衡,避免政治化或偏见的渗透。通过透明预设阈值和记录例外,可减少操纵空间。AI的引入虽能提升效率,但当前仍需人类监督。逐步指导框架为不同综述类型和情境提供了灵活且可审计的决策逻辑。
**研究结论翻译**
本研究通过聚焦样本可信度这一关键但未被充分开发的维度,补充了文献综述的方法论文献。现有指南通常仅简短涉及此方面。本文提供了系统、独立的样本可信度探索,构建了一个反思性决策支持框架,促进了文献综述方法论严谨性的概念成熟。在此基础上,研究做出三项相互关联的贡献:第一,将样本可信度视为输入相关条件,支撑而非替代不同综述类型中的多样化质量标准,明确区分可信度决策与更广泛的研究质量争论,从而在不强加统一评估标准的情况下应对认识论多样性。第二,通过将现有可信度实践综合为透明、逐步的决策逻辑,为进行文献综述的作者提供实际支持,帮助其根据综述的具体目的、范围和认识论取向论证和报告样本可信度选择。第三,该框架明确处理了最小化第二类错误(纳入低可信度来源)与避免第一类错误(排除相关合法知识)之间的权衡,揭示特定选择策略带来的系统性排除风险,并说明文章级评估如何支持包容性同时维持样本可信度。因此,本文推进了对商业研究等多元领域中可信度决策如何塑造知识生成的细致理解。在极化环境中,透明应用相应措施还可限制政治动机驱动的样本操纵,同时保留累积知识所需的多元性。