ImmersiveSHAP：基于SHAP散点图的沉浸式可解释性分析可视化系统

《IEEE Latin America Transactions》：ImmersiveSHAP: Immersive analytics visualization system for XAI using SHAP scatter plot

　　

摘要：

本研究提出了ImmersiveSHAP，这是一种用于可解释人工智能的沉浸式分析可视化系统，它通过模块化流程在虚拟现实中呈现SHAP散点依赖图。该研究的贡献在于将可解释人工智能技术（SHAP Python库）与虚拟现实环境中的沉浸式分析功能相结合。该系统包含一个基于Python的预处理模块，负责数据加载、模型训练以及SHAP解释值的计算；还有一个基于Unity的渲染与交互模块，采用客户端-服务器架构实现。WebSocket协议用于在Python服务器与Unity客户端之间建立通信。该系统将传统的2D SHAP图表转化为交互式的3D可视化形式，旨在为基于模型的事后解释提供沉浸式分析支持。此外，研究还使用了Iris、乳腺癌和加州住房数据集进行技术验证，测试的数据点数量从150个到20,640个不等，系统则在Meta Quest 3设备上进行了测试。测试结果表明，在中小规模数据集（数据点数量小于2,000）上，系统的性能较为稳定，平均帧率约为70 FPS，这一数值接近设备的刷新率标准，也处于虚拟现实领域的可接受范围内。这些结果表明，该系统可作为基于SHAP解释结果的沉浸式可视化技术的基准架构。