《Frontiers in Digital Health》：Lightweight structure-aware explanations for rule-based models: application to radiotherapy risk communication in breast cancer
编辑推荐：
目的：基于规则的模型（rule-based models）通常被视为本质可解释的，因为其显式逻辑结构使用户能够将预测追溯到人类可读的规则。然而，在医疗保健等复杂领域中，涉及大量属性的多条规则可能同时被激活，使得最终用户难以识别预测背后的最具影响力因素。这可能限
目的：基于规则的模型（rule-based models）通常被视为本质可解释的，因为其显式逻辑结构使用户能够将预测追溯到人类可读的规则。然而，在医疗保健等复杂领域中，涉及大量属性的多条规则可能同时被激活，使得最终用户难以识别预测背后的最具影响力因素。这可能限制实际透明度，尤其是在临床共享决策中，清晰可信的解释至关重要。例如，在乳腺癌放疗后副作用风险的沟通中，理解估计风险的决定因素可能有助于做出知情治疗选择。方法：研究人员提出一种受信息检索（Information Retrieval, IR）技术启发的、面向规则模型的轻量级结构感知归因方法。该方法将与预测相关的激活规则表示为类似文档的结构，并应用受TF-IDF启发的加权方案来估计单个输入属性的相关性。与基于扰动的SHAP和LIME等方法不同，所提方法直接作用于内部模型结构，无需输入扰动、代理模型、重复评估或访问训练数据。这保留了规则中编码的解释信号，同时降低了计算复杂度和执行时间。该方法通过与SHAP和LIME的技术比较以及涉及潜在最终用户的用户中心研究进行评估。结果与结论：实验结果显示，受TF-IDF启发的排序与已有归因方法之间具有中等程度的一致性，识别出对已实现预测器具有行为信息性的属性。保真度分析表明，直接规则频率实现了更高的扰动保真度，凸显了所提加权方案引入的权衡。互补地，用户研究表明，将相关性加权、语义聚合和面向用户的呈现相结合的整体解释流程，比原始基于规则的解释被认为更具可解释性和有用性。这些发现表明，受信息检索启发的加权可为组织规则证据提供一种轻量级机制，而语义抽象和面向用户的呈现可促进其向最终用户的沟通。
论文解读
一、研究背景与问题
人工智能（Artificial Intelligence, AI）技术在医疗决策支持中展现出巨大潜力，但数据驱动AI系统的黑箱特性阻碍了其在临床实践中的广泛接受。可解释人工智能（Explainable AI, XAI）是建立临床信任的关键。已有研究强调，对于高风险决策领域，应优先使用本质上可解释的模型，而非事后解释复杂黑箱模型。基于规则的模型（rule-based models）因其显式逻辑结构通常被视为可解释，但在复杂医疗场景中，一次预测可能同时激活多条包含大量属性的规则，终端用户难以从中识别最具影响力的因素。例如，在乳腺癌放疗后臂丛神经淋巴水肿（arm lymphedema）风险沟通中，患者和临床医生需要理解风险预测的关键决定因素以支持共同决策。现有事后归因方法如SHAP和LIME虽然广泛使用，但需要输入扰动、代理模型或训练数据，且与符号规则系统不完全兼容。因此，需要一种既能与规则结构保持直接联系，又能以用户可理解方式组织证据的轻量级解释方法。
二、研究内容与意义
本研究针对上述缺口，提出一种受信息检索（Information Retrieval, IR）启发的轻量级结构感知归因方法。该方法将激活规则视为“文档集合”，利用TF-IDF加权方案估计输入属性的结构相关性，并通过语义聚合将79个模型属性映射为29个临床因素，从而降低解释空间维度。研究在乳腺癌放疗风险预测模型上进行了技术验证和用户中心评估，结果表明该方法在计算效率、解释确定性和用户感知方面具有优势，为规则模型的可解释性增强提供了一种新途径，并促进了XAI在临床沟通中的实际应用。
三、关键技术方法
研究采用PRE-ACT项目开发的乳腺癌臂淋巴水肿风险预测模型，该模型基于可解释多层感知机（Discretized Interpretable Multi-Layer Perceptron, DIMLP）集成，使用FidexGlo算法提取207条规则，平均每条规则含3.5个条件。训练数据来自REQUITE、CANTO-RT和UNITRAD HypoG-01三个队列，经筛选后共4177例样本（其中259例阳性）。提出的解释方法包含三个核心组件：一是TF-IDF启发的加权机制，通过规则覆盖率加权和适应式逆文档频率（inverse document frequency, IDF）计算因子相关性；二是语义聚类层，将属性映射到临床因素；三是呈现层，以雷达图或因素列表形式向用户展示解释。评估采用与SHAP、LIME的技术对比，以及包含29名参与者的用户研究。
四、研究结果
4.1 全局与局部解释的可行性
通过分析全部规则集，研究发现BMI因子得分最高，与临床证据一致，表明高BMI是放疗后臂淋巴水肿的已知风险因素；淋巴结受累（NODES INVOLVED）和放疗技术（RT TECHNIQUES）也呈现高于平均的相关性。局部解释针对单个患者分析激活规则，雷达图显示不同患者因激活规则不同，被强调的因素及其相对重要性存在明显差异，表明该方法能提供个体化的解释。
4.2 与现有归因方法的一致性分析
在3670例符合条件的病例上，研究者将TF-IDF方法与SHAP和LIME进行比较。TF-IDF与SHAP的平均Spearman秩相关系数为0.439，与LIME为0.351；前5位属性重叠率（Jaccard@5）分别为0.362和0.249。未加权的局部规则频率基线方法与SHAP和LIME的一致性略高，这反映了TF-IDF重新加权带来的可量化效应。此外，LIME的前5位属性在超过99%的病例中高度固定，而TF-IDF和SHAP的排序更具患者依赖性。
4.3 保真度与稳定性分析
通过特征替换扰动分析评估保真度，SHAP的平均AOPC@10最高（0.378），原始规则频率（0.299）次之，TF-IDF方法为0.259，LIME为0.225，均显著高于随机排序（0.039）和最低排名对照（0.025）。TF-IDF方法与原始频率的配对平均差异为0.040，表明TF-IDF加权并未提升扰动保真度，而是引入了一种权衡——它重组规则证据但削弱了与移除效应的直接关联。稳定性方面，LIME多次运行间的平均Spearman相关为0.619，平均Jaccard@10为0.671；SHAP对背景数据敏感，平均Jaccard@10仅为0.433。TF-IDF和原始频率对固定输入是确定性的，无需采样。
4.4 用户对可解释性和有用性的感知
用户研究比较了三种输出表示：原始规则输出、雷达图、因素列表。29名参与者（包括AI专家和非AI专家）对四种患者档案进行5点李克特评分。重复测量方差分析显示，呈现方式对可解释性（F(2,56)=35.9, p<0.001）和有用性（F(2,56)=20.14, p<0.001）均有显著主效应。事后分析表明，雷达图和列表的得分显著高于原始规则，而两者之间无显著差异；AI专家与非专家之间无显著差异。结果表明，经过语义聚合和可视化处理的解释更易被用户理解和认为有用。
五、讨论总结与结论翻译
讨论部分指出，临床决策支持中的可解释性不仅取决于模型是否暴露了内部逻辑，还取决于该逻辑的组织和沟通方式。将规则证据组织成语义因素可减少用户面对的信息维度（从79个属性降至29个因素），用户研究证实了整体解释框架的感知优势。跨方法比较提供了收敛效度，而特征替换分析证明TF-IDF排序具有行为信息性，但未超越原始频率的扰动保真度。研究识别出一个三向权衡：SHAP最接近扰动保真度但计算成本高且依赖背景数据；原始频率最直接保留激活条件的结构多重性；TF-IDF提供紧凑、确定性的结构证据加权，其保真度高于随机和最低排名对照，但低于SHAP和原始频率。因此，该框架的贡献不在于提升扰动保真度，而是提供一种组织规则证据的轻量级确定性机制，并通过用户导向的呈现方式促进沟通。
结论翻译：本研究提出了一种用于规则预测器的轻量级、结构感知的解释方法。通过将激活规则表示为类似文档的结构并应用TF-IDF启发式加权，该方法能够在无需输入扰动、代理模型、重复预测评估或训练数据的情况下，生成支持个体预测的属性排序表示。结合语义聚合和定制化呈现，该表示旨在使复杂的规则解释在临床沟通情境中更易管理。扩展评估将技术性能与用户感知分开考察，表明该方法保留了与既有归因模式的一致性，尤其是与SHAP的一致性，同时显著高于随机和最低排名对照的保真度，并具有确定性和计算效率。用户研究显示，雷达图和列表表示比原始命题规则更可解释和有用，且该模式在AI专家和非专家间无差异。这些发现支持该框架作为模型级规则证据与终端用户沟通之间的桥梁，但需在独立数据和其他领域进一步验证泛化性。
