在基于人工智能的决策中个性化解释：个性化处理与个人偏好的契合（或不一致）所带来的影响

《Computers in Human Behavior》：Personalizing explanations in AI-based decisions: The effects of personalization and (Mis)aligning with individual preferences

个性化解释对AI决策接受度的影响：一项基于银行贷款拒绝场景的实验研究。摘要显示，任何解释均优于无解释，而基于用户排名的个性化解释（尤其是参考最/次优行动特征）能显著提升信息正义感知、银行吸引力及整体公平感，但与实际需求的对齐程度仅对吸引力有显著影响。

　　在当前人工智能（AI）系统广泛应用的背景下，特别是在涉及重大利益的决策情境中，透明性和公平性成为了核心关注点。随着AI在贷款审批、招聘、教育评估等高风险决策中的应用日益增多，人们对于这些决策的不透明性产生了担忧，特别是在面临负面结果时，他们往往希望获得能够指导自己如何改善未来结果的可操作性解释。然而，可操作性并非绝对，其效果会因个体需求、偏好和情境的不同而有所变化。因此，个性化解释的引入成为一种应对这种主观差异的潜在解决方案。本文通过一个在线实验研究，模拟了贷款申请被拒绝的情境，探讨了解释的个性化和其与个体需求、偏好的匹配程度对受AI决策影响的个体反应的影响。

研究采用了一种参与者内部设计，共有255名参与者参与。他们被要求对四个与贷款决策相关的特征（储蓄、工作情况、还款率、贷款金额）进行可操作性排序，并经历了五种不同的解释条件：基于参与者排名中最、次、最不具可操作性的特征的个性化指导性解释；一个不基于个人排名的随机特征指导性解释；以及没有任何解释的情况。研究结果支持了正义理论，表明任何解释都比没有解释更好，且个性化解释相较于非个性化解释能引发更积极的反应，包括更高的正义感和对银行的吸引力。然而，与个体需求和偏好更加匹配的解释仅在吸引力方面显示出轻微的正面影响，这表明即使简单的基于排名的个性化方法也能有效提升解释的可操作性，同时避免了对技术能力的要求。

本文的研究结果强调了在设计个性化解释时需要考虑的几个关键因素。首先，任何解释都优于没有解释，这与现有文献中的研究一致，表明透明性是提升个体对AI决策接受度的重要因素。其次，基于个人需求和偏好的解释在整体上优于非个性化解释，这一发现支持了个性化解释在提升个体对决策过程的感知控制和自主性方面的价值。然而，研究也揭示了一个重要的局限性：与个体需求和偏好更匹配的解释并不总是带来更积极的反应，特别是在感知正义和决策公平性方面。这表明，虽然个性化解释能够提升个体的感知控制，但并不能保证解释的实际有效性。

此外，研究还发现，即使在解释内容相同的情况下，个性化解释相较于非个性化解释仍然能引发更积极的反应。这可能是因为个性化解释让个体感受到他们的意见被听取，从而增强了对决策过程的认同感。然而，这种感知上的影响并不一定意味着解释内容本身是有效的，也就是说，个体可能误以为他们能够通过解释中的建议来改善决策结果，但实际上这些建议可能无法对模型的输出产生实质性影响。因此，研究提醒我们，在设计个性化解释时，不仅要考虑如何让个体感受到控制，还要确保解释内容的实际有效性。

本文的发现对实践和伦理层面都具有重要意义。在实践中，机构可以通过简单的排名机制来实现个性化解释，从而提高个体对AI决策的接受度。然而，从伦理角度来看，如果机构仅仅提供表面上的控制，而没有真正考虑到个体的需求和偏好，可能会引发合规性问题。特别是在当前全球范围内日益重视透明度和可解释性的监管环境下，机构需要确保解释不仅具有可操作性，还要能够真实反映个体的输入，并对决策过程产生实质影响。

本文还指出了个性化解释设计中的挑战，例如如何在提升可操作性的同时避免过度披露模型细节，以及如何在解释内容与个体实际行动效果之间找到平衡。虽然个性化解释能够提升个体的感知控制和接受度，但其效果可能受到多种因素的影响，包括个体对特征可操作性的判断、文化背景以及解释内容的实际效果等。因此，未来的研究需要进一步探索这些因素如何影响个性化解释的有效性，并考虑在不同应用场景中（如招聘、教育、医疗等）如何调整个性化解释的设计。

总体而言，本文的研究结果表明，个性化解释在提升个体对AI决策的接受度和满意度方面具有积极作用，但同时也提醒我们，设计个性化解释时需要综合考虑个体的需求、偏好的匹配程度以及解释的实际效果。未来的研究可以进一步探讨如何优化个性化解释的设计，使其既能满足个体的可操作性需求，又能对决策过程产生实质性的改善。此外，研究还强调了在解释过程中提供反馈和监督的重要性，以确保个体的输入确实影响了决策过程，从而避免表面上的个性化而缺乏实质性的控制。