《Diagnostics》:Diagnostic Performance of Multimodal Artificial Intelligence in Differentiating Ocular Surface Squamous Neoplasia from Benign Lesions: A Retrospective Diagnostic Accuracy Study
编辑推荐:
背景/目的:眼表鳞状上皮肿瘤(ocular surface squamous neoplasia, OSSN)包括结膜上皮内瘤变(conjunctival intraepithelial neoplasia, CIN)和侵袭性鳞状细胞癌(squamous ce
背景/目的:眼表鳞状上皮肿瘤(ocular surface squamous neoplasia, OSSN)包括结膜上皮内瘤变(conjunctival intraepithelial neoplasia, CIN)和侵袭性鳞状细胞癌(squamous cell carcinoma, SCC),其与良性眼表病变的鉴别存在困难。研究人员评估了一种多模态视觉-语言模型在标准化临床与影像输入条件下鉴别OSSN与特定良性病变的诊断性能。方法:在这项回顾性诊断准确性研究中,来自单一三级医疗中心的90个经组织病理学确诊的病变(20个CIN、20个侵袭性SCC、20个翼状胬肉、20个假性翼状胬肉和10个结膜乳头状瘤)在三种预设条件下接受ChatGPT-4o(OpenAI)评估:专家结构化文本、仅图像、以及多模态组合输入。模型须从预设类别中选择单一诊断。组织病理学为参考标准;与专家临床共识的一致性被分别评估。场景编写者和共识评估者对组织病理学结果设盲。结果:在多模态条件下,诊断准确率为78.9%(71/90;95% CI, 69.4–86.0%),敏感性为82.5%(95% CI, 68.1–91.3%),特异性为76.0%(95% CI, 62.6–85.7%),阳性预测值为73.3%,阴性预测值为84.4%,阳性似然比为3.44,阴性似然比为0.23;假阴性率和假阳性率分别为17.5%和24.0%。与专家共识的一致性为中等(κ = 0.58)。仅使用专家结构化文本时,准确率为60.0%(54/90;95% CI, 49.7–69.5%);仅使用图像时,准确率为70.0%(63/90;95% CI, 59.9–78.5%);由于未保留病例水平的配对预测,各条件间的差异仅作描述性评估。结论:在这个单中心、诊断富集的队列中,多模态视觉-语言模型在标准化实验条件下显示出可测量但不完美的诊断性能。这些探索性发现不支持自主临床使用;需在更广泛的病变谱和真实世界临床路径中进行前瞻性外部验证。
**多模态人工智能鉴别眼表鳞状上皮肿瘤与良性病变:一项回顾性诊断准确性研究的解读**
**一、研究背景与目的**
眼表鳞状上皮肿瘤(ocular surface squamous neoplasia, OSSN)是眼表最常见的非色素性恶性肿瘤,涵盖从结膜上皮内瘤变(conjunctival intraepithelial neoplasia, CIN)到侵袭性鳞状细胞癌(squamous cell carcinoma, SCC)的疾病谱。早期识别对防止肿瘤进展和避免良性病变过度治疗至关重要,但翼状胬肉、假性翼状胬肉和结膜乳头状瘤等良性病变与OSSN在临床特征上存在重叠,单靠裂隙灯检查难以可靠区分。辅助影像如眼前节光学相干断层扫描(AS-OCT)和体内共聚焦显微镜(IVCM)可提升病变表征能力,但诊断不确定性仍存。人工智能在眼科图像诊断中已有应用,近期视觉-语言模型可同时处理临床文本和影像数据,为整合多源信息辅助诊断提供了可能。既往研究多聚焦于单一模态或专用模型,而通用多模态模型在眼表肿瘤鉴别中的表现尚不明确。为此,研究人员开展了一项回顾性诊断准确性研究,评估通用多模态视觉-语言模型ChatGPT-4o在标准化输入条件下鉴别OSSN与特定良性病变的性能。
**二、研究方法概述**
该研究在意大利墨西拿大学医院眼科进行,纳入2021年1月至2025年10月间90例经组织病理学确诊的眼表病变,包括20例CIN、20例侵袭性SCC、20例翼状胬肉、20例假性翼状胬肉和10例结膜乳头状瘤。研究人员以组织病理学为金标准,另由三位眼表专家设盲编写临床文本摘要并形成专家共识。每个病例均在独立会话中接受三种条件评估:专家结构化文本、仅图像、以及文本与图像组合的多模态输入,模型须从预设五个类别中选择单一诊断。由于原始方案未保留跨条件的病例水平配对预测,条件间差异仅作描述性分析。研究遵循STARD 2015和TRIPOD-LLM报告规范。
**三、主要研究结果**
**3.1 研究人群**:共纳入90例,其中OSSN谱系40例(44.4%),良性病变50例(55.6%)。基线人口学和临床特征如表1所示(具体数据省略)。
**3.2 总体诊断性能**:多模态条件下,71/90例正确分类,准确率78.9%(95% CI, 69.4–86.0%);40例OSSN中33例正确识别,敏感性82.5%;50例良性病变中38例正确识别,特异性76.0%;阳性预测值73.3%,阴性预测值84.4%,阳性似然比3.44,阴性似然比0.23,假阴性率17.5%,假阳性率24.0%。
**3.3 不同输入条件下的性能**:仅文本时准确率为60.0%,敏感性60.0%,特异性60.0%;仅图像时准确率为70.0%,敏感性70.0%,特异性70.0%;多模态条件下上述指标最高。被漏诊的OSSN例数分别为文本16例、图像12例、多模态7例;良性误判为肿瘤的例数分别为20、15、12例。由于缺乏配对统计,这些差异仅作描述性报告,不视为统计学优越性证据。
**3.4 按病变亚型的性能**:多模态条件下,CIN准确率为85.0%,侵袭性SCC为80.0%;翼状胬肉为75.0%,假性翼状胬肉为70.0%;结膜乳头状瘤因样本量小未单独报告准确率。
**3.5 错误分析**:误分类主要集中于具有炎症或纤维血管重叠特征的良性病变,易被误判为肿瘤;12/50例良性病变被误判(假阳性率24.0%),7/40例OSSN被误判为良性(假阴性率17.5%)。由于临床特征记录不全,错误模式仅作定性描述。
**3.6 与参考标准的一致性及管理建议**:多模态AI分类与临床专家共识的一致性中等(Cohen's κ = 0.58;95% CI, 0.42–0.74)。管理建议虽为原始输出的一部分,但因病例水平数据未保留,无法进行定量分析,仅作描述性说明。
**四、讨论与结论**
本研究表明,通用多模态模型在标准化实验条件下对特定眼表病变具有可测量的诊断能力,多模态输入的准确率、敏感性、特异性均高于单模态条件,且漏诊OSSN的例数最少。但研究团队强调,由于缺乏配对统计分析,不能据此判定多模态方法具有统计学优效性;该结果仅反映不同输入表征下的观察差异,而非影像的独立增量价值。与专用深度学习模型相比,通用模型的准确率较低,但其优势在于无需任务特定训练即可整合异构临床与影像信息,具有一定的即用性与可及性。错误分析提示,假阴性率(17.5%)虽低于假阳性率(24.0%),但在肿瘤背景下减少漏诊比提高特异性更具临床优先性,因此该模型可能作为辅助临床警觉的工具,而非替代专科评估。
研究存在多项局限性:单中心回顾性设计可能引入选择偏倚;专家结构化文本中已包含AS-OCT和IVCM的文本描述,导致文本与多模态条件信息重叠;未保留病例水平配对预测,无法进行配对推断;模型为专有随机系统,未评估重复运行稳定性;缺乏个体临床医生直接比较;样本量有限。因此,本研究结论为探索性,不支持自主诊断或立即临床应用。未来需开展更广病变谱的前瞻性多中心外部验证,进行重复模型评估,留存具有持久病例标识的完整输出,并与临床医生直接比较,评估人机交互路径。
研究结论原文翻译:在这项回顾性、单中心、诊断富集队列研究中,专有多模态视觉-语言模型在鉴别特定OSSN病变与良性眼表病变时显示出可测量的诊断性能。多模态条件下,模型达到准确率78.9%、敏感性82.5%、特异性76.0%,而单独使用专家结构化文本和单独使用图像的准确率分别为60.0%和70.0%。然而,病变谱受限、评估条件间信息重叠、缺乏重复运行评估、缺少个体临床医生对照、未保留病例水平配对预测以及模型的专有性质显著限制了结果解读和推广性。因此,这些发现应视为探索性结果,不应被解释为支持自主诊断或立即临床实施的证据。有必要开展使用更广病变谱、重复模型评估和直接临床医生对照的前瞻性外部验证研究。