大型语言学习模型对肩肘外科期刊出版物影响的实证研究:基于ChatGPT 3.5发布前后的对比分析

【字体: 时间:2025年06月13日 来源:JSES International CS2.9

编辑推荐:

  本研究针对AI在学术写作中的伦理争议,通过ZeroGPT检测工具系统分析了《Journal of Shoulder and Elbow Surgery》(JSES)2022与2024年232篇文献,发现ChatGPT 3.5发布后摘要中AI生成内容显著增加(21.1%→30.1%,p=0.0002),但全文无显著差异。欧洲地区AI使用率最低(OR=0.53),揭示了AI在学术出版中的地域差异与伦理挑战。

  

随着人工智能(AI)技术的迅猛发展,大型语言模型(Large Language Models, LLM)如ChatGPT(Generative Pre-trained Transformer)已深度渗透学术研究领域。这类工具能高效生成逻辑连贯的文本,甚至完成整篇科学论文的撰写,显著提升研究效率。然而,其潜在的学术不端风险——如剽窃、事实伪造及内容真实性难以鉴别等问题——引发广泛担忧。尽管AI检测工具如ZeroGPT应运而生,但针对特定学科如肩肘外科领域的系统性研究仍属空白。《Journal of Shoulder and Elbow Surgery》(JSES)作为该领域权威期刊,其文献质量直接影响临床决策,因此评估AI对JSES出版物的影响具有紧迫性。

为此,国外研究团队开展了一项横断面研究,对比分析ChatGPT 3.5发布前后(2022年1-4月与2024年1-4月)JSES刊载的232篇文献中AI生成文本的占比及地域分布特征。研究发现,ChatGPT 3.5发布后,摘要中AI生成内容从21.1%±12.8%显著上升至30.1%±21.6%(p=0.0002),且AI使用率>10%的摘要比例从74.6%增至86.4%(p=0.003)。然而,全文的AI含量无显著变化(4.7%±3.3% vs 5.3%±3.6%)。地理分析显示,欧洲地区摘要AI使用率显著低于其他区域(OR=0.53),而非洲样本虽少但AI检测率最低(17.67%±13.01%)。该研究为AI在专科医学期刊中的渗透规律提供了首个实证证据,论文发表于《JSES International》。

研究采用三项关键技术:1)人工录入2022年与2024年JSES共232篇文献的摘要与全文;2)使用ZeroGPT(基于深度学习的AI检测工具)量化文本中AI生成概率,并设定5%-50%多阈值进行二次分析;3)通过Python编程进行统计学处理,包括T检验与单变量逻辑回归,评估年份与地域对AI使用的影响。

结果部分核心发现:

  1. 样本特征:美国贡献49.13%的文献(114/232),日本(7.33%)、中国(5.60%)次之。美洲与大洋洲地区文献占比最高(57.3%),非洲最少(1.3%)。
  2. 时间趋势:摘要AI含量增幅显著(p=0.0002),且各阈值(>20%/30%/40%/50%)均显示统计学差异(p<0.05),而全文AI含量稳定(p=0.19)。
  3. 地域差异:欧洲摘要AI使用率>10%的比例显著更低(72.2% vs 其他区域83.3%-85.0%,p=0.04),非洲样本虽少但AI概率最低(17.67%±13.01%)。
  4. 检测置信度:非洲摘要被标记为“高置信度”AI文本的比例达33%,而亚洲83%的摘要检测结果属于“不确定”类别。

讨论与意义
该研究揭示了AI在学术写作中“选择性渗透”现象:作者更倾向用AI辅助撰写结构化强的摘要,而全文因需深度修订与同行评审,AI痕迹较少。这一发现提示期刊需加强摘要审查,避免AI生成的误导性内容影响临床决策。欧洲地区较低的AI使用率可能反映其严格的学术规范,而非洲数据的特殊性或源于AI检测工具对当地英语风格的误判——例如训练数据中包含尼日利亚等地的语言样本。

值得注意的是,ChatGPT 3.5发布前仍检测到21%的摘要含AI内容,可能源于早期模型(如GPT-3、BERT)的使用,亦或ZeroGPT的基线误差。尽管AI工具能提升写作效率(如Elsevier已允许合理使用),但其生成的“幻觉引用”与抄袭风险仍需警惕。本研究局限性在于未分析被拒稿文献的AI使用情况,且ZeroGPT的准确性尚未经金标准验证。未来研究可结合多工具交叉验证,或直接调查作者使用AI的动机与方式。

这项研究为肩肘外科乃至整个医学出版界敲响警钟:在拥抱AI技术红利的同时,必须建立更完善的检测体系与伦理规范,以维护学术研究的真实性与可靠性。期刊编辑需培训审稿人识别AI文本特征,而作者应透明披露AI使用情况——唯有平衡效率与诚信,才能实现人工智能与学术创新的良性共生。

相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号