《Information Sciences》:CICERONE: A natural language-based global approach for object-centric Predictive Process Monitoring
编辑推荐:
对象中心范式最近通过新的形式化方法和技术来处理正在执行的过程作为相互关联且相互影响的执行轨迹,从而改变了预测性过程监控(Predictive Process Monitoring, PPM)的研究。因此,PPM方法的预测目标已从为单个对象提供预测转变为同时为所
对象中心范式最近通过新的形式化方法和技术来处理正在执行的过程作为相互关联且相互影响的执行轨迹,从而改变了预测性过程监控(Predictive Process Monitoring, PPM)的研究。因此,PPM方法的预测目标已从为单个对象提供预测转变为同时为所有正在进行的对象提供预测。基于对象中心PPM的这一更新目标,研究人员引入了一种自然语言流程表示,通过保留同一过程执行中多个对象之间的关系以及共享相同对象的正在进行的执行轨迹之间的关系,来获取正在进行的轨迹执行的故事讲述。基于这些表示,研究人员引入了CICERONE——一种新颖的对象中心PPM方法,该方法结合了大型语言模型(Large Language Model, LLM)和全局学习方法,以一步式为所有正在执行的过程中的对象提供预测。在多个对象中心事件日志(Object-Centric Event Logs, OCELs)上的实验评估了CICERONE与竞争的对象中心PPM方法相比的有效性。此外,研究人员进行了一项基于遮挡的分析,以检查对象交互对正在执行的过程对所有交付预测的影响。
论文解读文章
**研究背景**
传统预测性过程监控(Predictive Process Monitoring, PPM)方法基于轨迹中心范式,将事件数据扁平化为单一轨迹概念,导致语义失真,如缺失、收敛和发散问题,难以处理真实业务流程中多个对象的共存与协作。对象中心范式通过允许事件引用多个不同类型对象,避免了扁平化操作,自然捕获对象间关系,从而克服了这些局限。然而,现有对象中心PPM方法多采用局部学习策略,对每个过程执行单独处理,忽略了同一时间点多个正在执行的过程之间的协作关系。此外,大型语言模型(Large Language Model, LLM)在PPM中的应用仍局限于轨迹中心范式,尚未充分探索其在对象中心环境下的潜力。为此,研究人员提出CICERONE方法,旨在利用自然语言文本表示和全局学习策略,填补LLM与对象中心PPM之间的空白,并同时预测多个关键绩效指标(Key Performance Indicator, KPI)。该研究发表于《Information Sciences》。
**主要技术方法**
CICERONE采用以下关键技术:1)基于自然语言的语义故事讲述表示(semantic story telling),将对象中心过程执行的事件记录和对象属性转化为文本序列;2)使用预训练LLM(如BertMedium)作为文本编码器(Text Encoder),将语义故事嵌入为向量;3)引入全局编码器(Global Encoder),通过1DCNN、GRU或LSTM架构整合同一全局批次中所有正在执行过程的嵌入,捕获执行间交互;4)设置多个预测头(MLP),每个头对应一个KPI,支持单值或多值预测。实验使用的样本队列来源于三个合成业务流程(Order Management、Logistics、IoT)及一个真实世界OCEL(PyDantic),其中合成数据由[15]生成,包含不同噪声水平(α∈{0,0.1,0.2})和相关性因子。
**研究结果**
**6.1 敏感性分析**
通过改变文本编码器(BertMedium、DistilBert、DistilRoBerta、TinyBert)和全局编码器架构(1DCNN、GRU、LSTM),在α=0.2的合成OCEL和PyDantic上评估平均绝对误差(Mean Absolute Error, MAE)。结果表明,BertMedium(参数41M)在多数情况下表现最佳,平均MAE最低;1DCNN架构(参数6M)在平均性能上优于GRU和LSTM,尽管在Order Management的KPI1上GRU和LSTM稍优。
**6.2 计算成本分析**
以BertMedium为文本编码器、1DCNN为全局编码器,记录训练和测试阶段的截断率、平均全局批次大小、计算时间及GPU峰值内存。训练时间从396秒(IoT)到3611秒(PyDantic),测试时间从1.1秒到3.6秒,表明CICERONE适合实时预测场景。截断率在多数OCEL中低于6%,但Logistics因较长语义故事导致约57%截断,可能影响性能。GPU峰值内存使用与批次大小正相关,最大为11533 MB(PyDantic),未超出消费级GPU(24 GB)容量。
**6.3 竞争方法对比分析**
将CICERONE全局版本与局部版本及[13]、[15]的局部和全局方法、基线方法对比。在22个OCEL/KPI配置中,全局方法整体优于局部方法;CICERONE-global在大多数情况下优于[15]-global,尤其在KPI1(单一性)上表现突出。但Order Management的KPI2(多值性)中,[15]-global在高数量物品(≥3)时略优,CICERONE则在低数量物品(1-2)时占优,表明数据不平衡对多值KPI的影响。弗里德曼-内曼尼检验确认CICERONE-global排名最高。
**6.4 遮挡解释分析**
采用遮挡技术计算每个测试全局批次中,每个正在执行过程对自身KPI预测(自身影响)及其他过程KPI预测(交叉影响)的MAE差异。在8个KPI中,5个KPI的自身影响和交叉影响均为正,且自身影响更大,支持全局学习捕捉协作的优势。Logistics的KPI2和KPI3中自身影响为负而交叉影响为正,显示全局交互的积极作用。Order Management的KPI3两者均为负,但交叉影响存在正异常值,提示模型仍有改进空间。
**讨论与结论**
**讨论部分(威胁有效性)**:研究指出,文本编码器受限于512 token的LLM,长语义故事需截断可能丢失信息,未来可考虑支持1024 token的LLM并升级GPU。评估仅针对时间相关KPI,方法理论上可扩展至分类KPI,但需进一步验证。实验主要依赖合成OCEL,虽引入可控干扰,但真实场景干扰的量化仍需深入。
**结论部分(翻译)**:本文引入了一种语义故事讲述表示,旨在填补对象中心范式与LLM在PPM之间的空白。具体地,研究人员提出了一种对象中心PPM方法——CICERONE——该方法采用全局学习策略,利用自然语言表示的正在执行的过程执行之间的潜在协作,克服了轨迹中心PPM方法和对象中心PPM中局部学习策略的局限性。研究人员评估了CICERONE与近期PPM文献中几种竞争的对象中心方法的性能。使用全局和局部学习方法进行的准确性评估证实了全局学习策略相对于局部学习策略的优越性,无论采用何种表示编码对象中心正在执行的过程执行。此外,它表明基于语义故事表示的表示使CICERONE优于使用基于图的表示来编码对象中心过程执行的竞争对象中心PPM方法。此外,使用基于遮挡技术的解释评估检查了每个正在执行的过程执行对自身KPI预测以及其余正在执行的过程执行的KPI预测的影响。未来工作包括在真实工业案例研究中扩展评估,探索KPI聚类机制,集成安全AI技术抵御对抗攻击,以及研究流学习机制处理概念漂移。