基于多目标学习的可解释且公平的广义加性神经网络

《Neural Networks》：Interpretable and Fair Generalized Additive Neural Networks via Multi-objective Learning

　　

摘要
可解释性和公平性是可信人工智能（AI）中两个最受强调的维度。已经引入了各种可解释人工智能（XAI）方法来改善可解释性。本文专注于基于神经网络（NN）的广义加性模型（GAMs），这是一类自解释模型。虽然大多数现有研究优先考虑提高基于神经网络的 GAMs 的准确性，但它们的全局可解释性在很大程度上仍未被探索。为了弥补这一差距，本文引入了评估基于神经网络的 GAMs 可解释性的显式定量指标，经验性地检验了它们的有效性，并探索了在这些模型中提高可解释性的策略。此外，可解释性和公平性的同时显式优化，以及它们的权衡和潜在原因，仍未被充分探索。为了解决这个问题，我们提出了一个基于多目标进化学习的多目标神经网络基模型（MONBM）框架，以同时考虑准确性、可解释性和公平性。进一步开发了一种部分重训练策略，以促进进化多目标优化在深度模型架构中的实际应用。基于 MONBM，本文揭示了这些维度之间的复杂关系以及这些复杂关系背后的原因。这一分析展示了多目标优化如何与自解释模型结合，以揭示可信度目标之间的关系。此外，MONBM 获得了一组在维度之间具有不同权衡的模型，该方法通过与最先进方法进行比较验证了其竞争力。

引言
随着人工智能（AI）的广泛采用，人们日益关注并重视开发可信的 AI 系统。可信 AI 是一个多维概念，包括可解释性、公平性、安全性和安全性等方面 Huang et al. (2023); Li et al. (2021)。其中，可解释性和公平性是最常被强调和讨论的 Huang et al. (2023)。
为了提高可解释性，提出了各种可解释人工智能（XAI）方法 Wang et al. (2024b)，其中，自解释模型由于其高保真度而受到广泛青睐。在本文中，我们重点关注一类称为广义加性模型（GAMs）的自解释模型，它们因其高精度以及提供全局和局部解释的能力而受欢迎。GAMs 可以根据用于学习形状函数的方法进一步分类，包括基于样条的 Hastie (2017)、基于树的 Nori et al. (2019) 以及基于神经网络（NN）的方法 Agarwal et al. (2021); Radenovic et al. (2022) 等。本文专注于基于神经网络的 GAMs，因为它们具有优越的性能和可扩展性 Agarwal et al. (2021)。
然而，关于 GAMs 的现有研究通常假设它们本质上提供了令人满意的解释，大部分精力都致力于旨在提高预测准确性的架构设计 Agarwal et al. (2021); Radenovic et al. (2022)。尽管 GAMs 确实提供了全局和局部解释，但它们解释的质量，即是否易于理解，实际上并没有得到保证。据我们所知，只有有限的研究致力于改善 GAMs 的可解释性，特别是基于神经网络的 GAMs。包括权重衰减和贝叶斯方法在内的传统正则化技术，可以通过控制模型复杂度间接鼓励更平滑和更简单的模型。然而，这些方法通常隐式地影响可解释性，并没有提供评估或直接将可解释性作为独立目标进行优化的显式定量标准。为了克服这一局限性，我们引入了明确定义的定量指标——平滑性和单调性——从功能角度评估和直接增强基于神经网络的 GAMs 的可解释性。
同时，机器学习（ML）中的公平性旨在确保模型决策不偏向任何个人或群体 Mehrabi et al. (2021); Pessach and Shmueli (2022)。它通常分为个体公平性和群体公平性。本文专注于群体公平性，这要求由敏感属性定义的不同群体应得到平等对待 Mehrabi et al. (2021)。为了评估和改进 ML 模型中的公平性，提出了各种指标 Anahideh et al. (2021) 和方法 Zhang, Liu, Yao, 2024, Zhang, Liu, Zhang, Wen, Mao, Yao, 2022。然而，现有方法主要集中在黑盒模型上，很少考虑自解释模型，特别是 GAMs 中的公平性。
尽管可解释性和公平性在可信 AI 的发展中各自受到了相当大的关注，但它们通常是被孤立研究的。先前的工作强调了准确性和公平性之间的冲突 Zhang, Liu, Yao, 2024, Zhang, Liu, Zhang, Wen, Mao, Yao, 2022，并且可解释性被构建为一个多目标优化问题 Monteiro and Reynoso-Meza (2022); Wang et al. (2024a); Zhou et al. (2024)。然而，检查准确性、可解释性和公平性之间关系的研究仍然相对有限，特别是在系统经验分析方面 Kemmerzell and Schreiner (2024)。更重要的是，驱动这些维度关系的潜在机制仍不清楚。
此外，不同的利益相关者通常对公平性和可解释性有不同的需求和期望，这取决于他们的角色和背景。例如，司法和医疗等关键领域都需要可解释性和公平性，但侧重点不同。司法通常强调公平性，而医疗则更重视可解释性。
这些动机促使我们将问题 formulated 为多目标学习问题，同时考虑模型的准确性、可解释性和公平性——三个通常相互冲突的目标——并提出一种基于进化多目标学习的方法来解决这个问题。利用多目标学习获得一组多样化解决方案的能力，我们的方法不仅有可能为不同的利益相关者提供定制模型，还使我们能够结合 GAMs 的自解释能力，分析优化目标之间的复杂关系及其潜在原因。此外，我们通过将提出的指标和方法与最先进的方法进行比较来验证其有效性。
我们的研究可以分解为三个更具体的问题：
RQ1. 我们设计的全局可解释性指标是否合理，我们的方法能否获得具有所需全局可解释性的模型？
RQ2. ML 模型的准确性、可解释性和公平性之间是什么关系，为什么存在这些关系？
RQ3. 我们提出的方法能在多大程度上解决确定的问题，与现有的自解释和黑盒模型相比，它的优势是什么？
为了回答这些研究问题，本文提出了一个多目标神经网络基模型（MONBM）框架 1，同时考虑准确性、可解释性和公平性。本文的主要贡献如下：
(1) 我们引入了针对平滑性和单调性的显式定量指标，旨在直接测量和改进基于神经网络的 GAMs 的全局可解释性。与传统隐式正则化方法不同，这些指标允许可解释性属性被显式量化、监控，并在多目标框架中作为独立优化目标纳入。我们通过实验验证了指标的有效性以及我们方法获得具有理想全局可解释性的 NBM 的能力。
(2) 我们将构建可信模型的问题 formulated 为多目标学习问题，并提出 MONBM 框架来解决它。作为第一个将多目标学习应用于 GAMs 的框架，它同时考虑准确性、可解释性和公平性，我们通过优化不同的目标实现了它的多个实例。值得注意的是，我们的实例采用了一种高效策略，即仅重训练预训练 NBM 的“特征特定”输出层，使进化多目标优化（EMO）能够高效地应用于大规模网络。
(3) 我们使用 MONBM 获得了一组在准确性、可解释性和公平性之间具有不同权衡的 NBM，并利用 NBM 提供的解释来揭示多个维度之间的关系及其背后的原因。这一分析将 EMO 与自解释模型结合，通过利用非支配解集的多样性来深入探讨目标互动的“原因”，为揭示各种可信度目标之间的相互关系提供了新视角。
(4) 我们验证了 MONBM 能够很好地解决提出的问 题，获得了一组在多维度上具有理想性能和权衡的 NBM，并且与最先进的自解释和黑盒模型具有竞争力。
本文其余部分组织如下。第 2 节介绍 GAM 并回顾相关工作。第 3 节提出全局可解释性指标以及我们的 MONBM 框架及其实例。第 4 节通过实验研究回答提出的三个研究问题。第 5 节和第 6 节分别提供进一步讨论并总结本文。

章节片段
背景
在本节中，我们介绍 GAM，重点关注基于神经网络的 GAM，并讨论其可解释性。然后，我们讨论评估和改进 ML 中群体公平性的指标和方法。最后，我们总结关于 GAM 的代表性研究，以澄清这项研究的定位。

用于构建准确、可解释和公平模型的多目标进化学习
在本节中，我们介绍了旨在测量和优化基于神经网络的 GAMs 全局可解释性的显式定量指标。然后，提出了 MONBM 框架来解决考虑的多目标学习问题。该框架使用多目标学习方法 Chandra and Yao (2006); Wang et al. (2024a); Zhang et al. (2022) 来获得一组具有不同权衡的准确、可解释和公平模型。最后，我们框架的多个实例是

实验研究
在本节中，我们首先给出实验设置，然后通过实验回答提出的三个研究问题。

讨论
本节旨在澄清本文获得结论的应用范围和局限性，特别是那些探索维度间关系的结论。在可解释性方面，本文采用基于神经网络的 GAM 作为自解释模型，以探索其可解释性与其他维度之间的关系。相应的结论可以推广到其他 GAMs，其他 GAMs 也需要考虑全局和局部的可解释性

结论
在本文中，我们引入了两个针对基于神经网络的 GAMs 专门设计的显式定量可解释性指标，平滑性和单调性，并通过实验确认它们引导模型走向理想的全局解释。然后，我们将构建准确、公平和可解释的 GAMs formulated 为一个新的多目标学习问题，并提出了 MONBM 框架，这是第一个将多目标进化学习引入 GAMs 并同时优化准确性的框架，

CRediT 作者贡献声明
Ziming Wang: 写作 – 原稿，数据整理。Changwu Huang: 写作 – 审查与编辑，监督，资金获取，概念化。Ke Tang: 写作 – 审查与编辑，监督，资金获取。Yew-Soon Ong: 写作 – 审查与编辑，监督，资金获取。Xin Yao: 写作 – 审查与编辑，监督，资源，项目行政，资金获取。

竞争利益声明
作者声明，他们没有已知的竞争财务利益或个人关系可能影响本文中报告的工作。

致谢
这项工作得到了国家自然科学基金（资助号：62250710682）、广东省基础与应用基础研究重大项目（资助号：2023B0303000010）、广东省重点实验室（资助号：2020B121201001）、北京师范大学 - 香港浸会大学联合国际学院研究资助（编号：R0700158-26）、岭南大学内部资助以及 IEEE 计算智能学会 2024 年研究生研究资助的支持。

Ziming Wang|Changwu Huang|Ke Tang|Yew-Soon Ong|Xin Yao