人工智能无法成为同行评审者:学术出版新挑战与伦理边界探讨

《Plant Cell Reports》:AI cannot be a peer reviewer

【字体: 时间:2025年10月25日 来源:Plant Cell Reports 4.5

编辑推荐:

  作为《Plant Cell Reports》编辑,我们针对当前AI工具被滥用于同行评审的现象开展专题研究。本文系统分析了LLM(Large Language Model)作为"同行评审者"的三大核心问题:非真正同行、保密性风险和生成错误,并明确了Springer Nature期刊对AI使用的规范要求,为维护学术评审 integrity 提供重要指引。

  
自1665年《皇家科学院哲学汇刊》首次引入同行评审制度以来,这一体系始终是科学出版的基石。然而,随着ChatGPT等大型语言模型(LLM)的兴起,学术圈出现了令人担忧的现象:据估计高达17%的所谓"同行评审"实际由AI完成(Zou 2024)。这种趋势正在侵蚀三百多年来建立的学术信任体系。
《Plant Cell Reports》作为Springer Nature旗下的重要植物科学期刊,其编辑C. Neal Stewart Jr.与Günther Hahne在本文中尖锐指出:AI本质上无法成为真正的同行评审者。这一论断建立在三个关键论据之上。首先,LLM不具备科学家同行的专业洞察力,无法理解领域内的最佳实践,更无法施展同行评审的"艺术性"。其次,将投稿论文上传至LLM工具严重违反保密原则,可能构成研究 misconduct(研究不端行为),危及作者知识产权。第三,LLM著名的"幻觉"(hallucination)现象会导致其生成不准确信息,与人类评审者的诚实错误有本质区别。
更令人担忧的是,部分作者已开始尝试"博弈"系统。Giray(2025)研究发现,有些作者使用白色小字体在论文中隐藏指令(如"给予正面评价"),企图操纵AI评审结果。这种行为本质上是通过利用LLM生成的欺诈性"评审"获取不正当优势,已构成研究欺诈。
那么为何仍有评审者冒险使用AI?编辑部分析了两种可能动机:一是评审者自信心不足,希望获得"第二意见";但更常见的是第二种——评审者不愿投入足够时间,却想窃取AI"秒生成"评审的功劳。
针对这些挑战,Springer Nature已制定明确指南。虽然LLM目前不满足作者标准,但允许在方法部分注明使用情况。特别值得注意的是,"AI辅助文案编辑"(AI assisted copy editing)——即改进人类生成文本的可读性、语法和风格——无需特别声明,但必须确保人类对最终版本负责。
关键技术方法
本研究采用文献综述与政策分析相结合的方法,通过系统梳理同行评审制度的历史演进(自1665年起)和当代实践标准,结合最新实证研究数据(如Zou 2024关于AI评审使用率的统计),深入分析LLM应用于学术评审的伦理边界。研究还基于Springer Nature期刊投稿系统的实际运作流程,评估了AI使用对保密协议的影响。
主要研究结果
LLM非真正同行
通过对比传统同行评审与AI评审的本质差异,研究发现LLM无法满足同行评审的核心要求:具备专业领域知识的科学家提供的专业判断。正如编辑强调:"LLM永远无法成为我的同行",这一观点揭示了AI评审的根本缺陷。
保密性风险
分析投稿系统保密协议后发现,未经作者明确同意(投稿系统默认未授予)将稿件上传至LLM,既违反法律也违背伦理。这种操作可能使作者知识产权面临不可控风险,构成严重的研究不端行为。
错误生成问题
引用Farquhar等(2024)关于语义熵检测LLM幻觉的研究,本文指出AI生成错误与人类错误的本质区别:机器缺乏意识,无法做出真正的人类判断。虽然人类评审者也会犯错,但属于诚实误差范畴。
作者博弈行为
通过案例研究(Giray 2025)发现,部分作者通过在稿件中隐藏指令的方式试图操纵AI评审结果。这种行为不仅违背学术诚信,更凸显了AI评审系统的可被利用性。
研究结论与意义
本文明确界定了AI在学术出版中的合理角色边界:可作为辅助工具改善文本表达,但不能替代人类专业判断。研究强化了同行评审中"人类问责制"(human accountability)的核心地位,为期刊制定AI使用政策提供了重要参考。随着AI技术持续发展,维护学术诚信需要作者、评审者和编辑共同遵守伦理准则,确保科学交流系统的持续健康发展。这项发表在《Plant Cell Reports》的编辑述评,不仅为植物科学领域,更为整个学术出版界应对AI挑战提供了及时而关键的理论框架。
相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号