编辑推荐：
为解决光学相干断层扫描（OCT）因专业知识要求高和计算需求大导致的可及性受限问题，研究人员开展了 ChatOCT 这一离线且适用于低资源环境的临床决策支持系统（CDSS）研究。结果显示其性能优异，对医疗领域意义重大。
光学相干断层扫描（Optical Coherence Tomography，OCT）是诊断眼部和全身性疾病的关键成像方式。然而，其对专业知识的需求和高计算要求阻碍了它的广泛应用。为应对这些挑战，研究人员推出了 ChatOCT，这是一款具备离线功能、适应特定领域的临床决策支持系统（Clinical Decision Support System，CDSS）。它整合了结构化专家问答生成、OCT 特定知识注入以及激活感知模型压缩技术。与现有系统不同，ChatOCT 无需互联网连接即可运行，非常适合资源匮乏的环境。
ChatOCT 基于 LLaMA-2-7B 构建，通过两阶段训练过程融入来自 PubMed 和 OCT News 的特定领域知识：一是进行 OCT 专业知识的知识注入；二是开展问答指令调优，以实现结构化的交互式诊断推理。为确保在离线环境中的可行性，研究人员采用激活感知权重量化技术，将 GPU 内存使用量降低至约 4.74GB，使其能够部署在标准的 OCT 硬件上。一种新颖的专家答案生成框架通过多步骤构建回复内容，减少了 “幻觉” 现象，保证了答案的准确性和可解释性。
在连贯性、相关性和临床实用性方面，ChatOCT 比诸如 LLaMA-2、PMC-LLaMA-13B 和 ChatDoctor 等最先进的基线模型高出 10 - 15 分，同时将 GPU 内存需求降低了 79%，且保持了实时响应能力（推理时间约 20 毫秒）。眼科专家认为 ChatOCT 的输出具有临床可操作性，符合实际决策需求，证实了它辅助一线医疗服务提供者的潜力。
ChatOCT 是一种创新的用于 OCT 的离线临床决策支持系统，完全在本地嵌入式硬件上运行，可在无互联网连接的资源受限环境中进行实时分析。通过提供一个可扩展、通用的流程，将知识注入、指令调优和模型压缩相结合，ChatOCT 为跨多个医学领域的下一代资源高效型临床人工智能解决方案提供了蓝图。
