面向多属性后缀预测的神经符号预测性过程监控

《Information Sciences》：Neuro-symbolic predictive process monitoring for multi-attribute suffix prediction

　　

利用历史过程执行数据预测正在进行的业务过程演化是业务过程管理（Business Process Management, BPM）中一项具有挑战性的任务。近年来，基于Transformer的模型在多属性序列预测中展现出良好前景，该类任务不仅预测过程下一活动，还预测其关联属性（如时间戳、资源与数据值）。尽管此类模型准确率总体较高，但在特定情形下，关于过程的背景知识（Background Knowledge, ???）可带来增益。此类知识可改善训练数据中离群执行以及测试数据因概念漂移（Concept Drift）导致过程变更场景下的预测质量。本文提出一种将先验知识在测试时集成进自回归基于Transformer的多属性序列预测模型的原则性方法。该知识采用多视角Declare（Multi-Perspective Declare）表达，这是一种能从控制流（即过程执行中预期活动序列）、数据流（即执行期间与活动关联的数据属性）、资源与时间戳等多视角描述过程行为的过程建模语言。研究人员在真实事件日志上评估该方法，证明引入背景知识可一致地提升多属性序列预测性能，尤其在罕见与异常情形中。

研究背景方面，预测性过程监控（Predictive Process Monitoring, PPM）依赖历史执行数据预测进行中业务过程的后续演化，主流深度学习模型（如基于长短期记忆网络（Long Short-Term Memory, LSTM）或Transformer的序列模型）在常规轨迹上表现优异，但在遭遇异常执行或概念漂移（Concept Drift）时性能显著下降。现实中，法规、指南、政策与操作规程常以符号形式提供案例级背景知识（Background Knowledge, ???），可在训练数据未覆盖新行为时弥补神经模型缺陷。已有神经符号（Neuro-Symbolic, NeSy）方法或在训练期用符号知识、或将知识用于LSTM预测期校验，但存在不支持多属性预测、仅事后校验合规性、仅限控制流视角等局限。为此，研究人员开展一项将多视角符号知识在测试期直接嵌入Transformer自回归解码的研究，以在不重新训练的前提下适应过程演化。

关键技术方法上，研究人员以真实事件日志为样本队列，采用Transformer作为神经组件承担自回归多属性（活动与资源）序列预测，以多视角Declare（Multi-Perspective Declare）作为符号组件表达控制流、数据流、资源与时间戳约束；在解码阶段引入束搜索（Beam Search）算法，将Transformer输出的候选后缀与???进行逐步一致性上下文化，屏蔽不满足符号约束的分支，从而生成兼顾数据驱动概率与符号合规性的后缀（Suffix）预测。

研究结果部分，第1节引言（Introduction）指出，深度学习PPM模型在异常与概念漂移下失效，而外部符号知识可在无新训练数据时通过预测期集成提升鲁棒性，现有NeSy方法受限于单属性、事后校验与单一控制流。第2节背景（Background）形式化事件日志、轨迹与事件元组e=(c,a,t,(d₁,v₁),…,(d_m,v_m))，其中c为案例标识、a∈??为活动、t为时间戳、r∈?为资源，并引入多视角Declare以跨控制流、数据流、资源、时间戳刻画约束。第3节方法（NeSy方法基于Transformer架构）阐述自回归Transformer预测下一活动与资源，束搜索在每步用???过滤候选，保证生成后缀全程符号一致。第4节实验评估（Experimental Evaluation）在真实事件日志上对比基线Transformer与集成???的NeSy变体，结果表明多属性预测准确率一致提升，罕见与异常子轨迹收益最显著。第5节相关工作（Related Work）区分本研究与训练期注入知识或LSTM事后校验的早期NeSy PPM工作。第6节结论（Conclusion）总结该方法使预测系统无需立即重训即可适应概念漂移与例外行为。

讨论与结论翻译部分，研究人员指出：所提神经符号方法通过将多视角Declare约束在测试期经束搜索融入Transformer自回归解码，实现了多属性（活动+资源）后缀预测的符号一致性；在真实日志中，该方法尤其改善离群执行与概念漂移情形下的准确性，且免于重新训练。其意义在于为自适应与自主过程执行提供可随运营约束演化而调整的预测机制。局限性包括知识需由专家显式给定、未自动检测应注入哪些约束、解码开销随约束复杂度上升。未来研究可朝向自动抽取???、约束冲突消解及与在线漂移检测耦合方向拓展。论文发表于《Information Sciences》。