RandomFuzzyRules：快速随机归纳的双规则可解释模糊分类器

《SoftwareX》：RandomFuzzyRules: fast randomized induction of two-rule interpretable fuzzy classifiers

　　

RandomFuzzyRules (RFR) 是一个开源、兼容scikit-learn的Python包，用于使用紧凑模糊规则进行二元分类。它用独立的随机采样和Numba编译评估替代了基因编程规则（Gene Programming Rules, GPR）分类器的进化搜索。默认情况下，模型从1,000个候选中选择，并包含至多两条规则，每条规则至多两个条件，使用线性隶属函数。在40个留出的二元表格数据集中，所有分类器均使用其库默认超参数，经Holm校正的Wilcoxon符号秩检验（Holm-corrected Wilcoxon signed-rank tests）未检测到RFR与GPR在准确率、平衡准确率或马修斯相关系数（Matthews correlation coefficient, MCC）方面存在显著差异。在两种实现默认且不等的搜索预算下，RFR在每个数据集上的训练速度都快于即使经Numba加速的GPR。RFR获得了更高的受试者工作特征曲线下面积（area under the ROC curve, AUROC），但这种差异部分反映了GPR接口的局限，该接口仅暴露硬类别预测，而非直接可比AUROC评估所需的连续分数。在预处理数据上，拟合时间主要取决于候选预算和样本数量，在测试范围内随特征数量变化很小。不等的搜索预算、可扩展性比较以及与模糊标记语言（Fuzzy Markup Language）的互操作性仍是其局限性。

**论文解读：RandomFuzzyRules——基于随机搜索的紧凑模糊分类器**

### 研究背景与问题
当决策需要被审查或质疑时，结构本身即解释的模型优于对黑盒的事后合理化。模糊规则基（fuzzy rule base）能够以简短的语义条件列表形式表达决策，并支持渐变隶属度而非二值隶属。Kluska的Takagi–Sugeno系统线性隶属函数方案（P1-TS）在临床数据上生成了可解释的围手术期并发症分类器。随后，Kluska与Madera采用基因表达式编程（gene expression programming, GEP）搜索该空间，产生了极简单分类器，并由Czmil等人以GPR（Gene Programming Rules）包发布，在医学基准中被评为最简洁模糊规则生成器之一。然而，GPR依赖群体进化搜索，计算开销较大，且其接口仅输出硬类别预测，无法提供连续分数，限制了某些评估（如AUROC）的公平比较。因此，研究人员提出以独立随机采样替代群体进化搜索，利用Numba编译加速候选评估，在保持可解释结构的同時大幅缩短训练时间，开发了RandomFuzzyRules（RFR）包。

### 研究内容与结论
研究人员设计并实现了RandomFuzzyRules，一个兼容scikit-learn的二元分类器。该分类器默认从1,000个随机采样候选规则集中选取模型，每个规则集至多包含两条规则，每条规则至多两个条件，并使用线性隶属函数。在40个留出（held-out）二元表格数据集上，所有分类器均采用各自库的默认超参数，经Holm校正的Wilcoxon符号秩检验（α=0.05），RFR与GPR在准确率（accuracy）、平衡准确率（balanced accuracy）和马修斯相关系数（MCC）上均无显著差异；而在默认不等的搜索预算下，RFR在每个数据集上的训练时间均短于即使经Numba加速的GPR。RFR的AUROC更高，但该差异部分源于GPR接口仅提供硬预测——其AUROC在数值上等于平衡准确率，因此该优势不能直接归因于更强判别能力。在预处理数据上，RFR的拟合时间主要取决于候选预算和样本数，随特征数变化不大。该研究的重要意义在于首次在大规模二元表格任务集合上证明，从10³个随机候选、且限制为至多两条合取规则、每规则至多两个条件的线性隶属函数规则集中选出的模型，其预测质量可与GPR相当，同时训练速度全面领先。

### 关键技术与方法
研究人员使用了以下主要技术方法：1）独立随机采样生成候选模糊规则集，规则数和每规则条件数可从均匀分布或对数均匀分布（受ROCKET启发）中抽样；2）Numba编译内核加速候选评估，并采用与GPR等价的准确率适应度函数；3）结构有效性和重复性检查，以及按条件数、规则数和字面重复次数字典序打破平局；4）基于scikit-learn估算器接口实现，支持自定义目标函数（如平衡准确率）和后续概率校准（Platt缩放或等渗回归）；5）使用aeon工具包进行Holm校正的Wilcoxon符号秩检验；6）数据来源为BeyondArena中可下载的73个二元分类数据集，排除异常后，25个用于开发（消融验证），40个用于最终留出比较。

### 研究结果
**4.2 选定的默认参数（Selected defaults）**
通过围绕参考配置的单因子消融实验，在25个开发数据集上比较了候选配置。选定的默认配置（最多2条规则、每规则最多2个条件、最大字面重复次数1）与参考配置（最多6条规则、每规则最多6个条件）相比，准确率、平衡准确率和AUROC几乎不变，MCC从0.2586略降至0.2399。该配置在保证预测性能的同时大幅限制了模型容量，并降低了训练时间。

**4.3 预测质量与训练时间（Predictive quality and training time）**
在40个留出数据集上，RFR对GPR的准确率胜负为20胜1平19负，平衡准确率同样为20胜1平19负，MCC为21胜1平18负。显著性图显示，在Holm校正的Wilcoxon检验下，RFR与GPR在准确率、平衡准确率和MCC上均未被区分。AUROC方面，RFR为26胜14负且统计上分离，但因GPR仅输出硬预测，其AUROC等于平衡准确率，故该差异不宜解释为判别能力优势。训练时间上，RFR在全部40个数据集上均快于Numba加速版GPR，平均0.2648秒对2.5711秒。实际模型复杂度方面，RFR生成的平均规则数为1.14，平均条件数为2.00，小于GPR的2.00和4.35，符合其特征限制。

**4.4 可扩展性（Scalability）**
在合成预处理数据上，固定特征数变化样本数时，各分类器训练时间均随样本数增加，RFR与GRL在整个测试范围内都慢于GPR和FIGS；固定样本数变化特征数时，RFR与GPR训练时间随维度变化较小，而FIGS、HSTree、GRL则随特征数增加有更明显增长。单线程测试表明RFR在样本数和特征数的实际范围内均具有较好扩展性。

### 讨论与结论
讨论部分指出，当前比较使用了各库默认且不等的预算，未均衡搜索预算；默认准确率目标在类不平衡数据下偏向多数类，可能导致13个数据集上RFR平衡准确率低于0.501，但可以通过提供自定义目标函数（如balanced accuracy或MCC）缓解。结论部分回答了四个研究问题：RQ1——在40个留出数据集上，RFR与GPR在准确率、平衡准确率和MCC上无统计显著差异，支持可比的实证性能；RQ2——在默认不等预算下，RFR在所有数据集上拟合速度均快于加速GPR，同时保持可比预测质量；RQ3——将RFR限制为至多两条规则且每规则至多两个条件，基本保持了准确率、平衡准确率和AUROC，MCC略有下降；RQ4——该实现通过兼容scikit-learn的API、受锁环境、参考结果和可恢复的Linux/Windows再现工作流，提供了对GPR软件栈的可再现可重用替代。未来工作应评估替代目标和校准输出，匹配预算下比较，并将模型导出至IEEE Std 1855–2016模糊标记语言。