《Neural Networks》：Edge-cloud collaboration-driven predictive modeling for high-performance computing centers
编辑推荐：
准确预测冷却液流量对于高性能计算（HPC）中心的主动热管理至关重要，然而其固有地受到混合时间尺度动态和高频工作负载突增的挑战。现有的深度学习方法通常优先考虑平滑稳态趋势的全局精度，这可能导致在突发热瞬态期间出现相位延迟。此外，高容量架构可能为延迟敏感、资源受限
准确预测冷却液流量对于高性能计算（HPC）中心的主动热管理至关重要，然而其固有地受到混合时间尺度动态和高频工作负载突增的挑战。现有的深度学习方法通常优先考虑平滑稳态趋势的全局精度，这可能导致在突发热瞬态期间出现相位延迟。此外，高容量架构可能为延迟敏感、资源受限的边缘控制器带来不可忽略的计算开销。为克服这些限制，本研究提出了一种面向部署的边缘-云协同（ECC）框架，该框架与一种瞬态感知预测架构（命名为FS-Attention）集成，旨在平衡瞬态响应性、工程可部署性和决策透明度。FS-Attention结合了局部特征合成、时间记忆编码和基于注意力的时间细化，以改善非平稳运行条件下的冷却液流量跟踪。在真实世界的Frontier超级计算机数据集上的评估表明，特征合成注意力（FS-Attention）模型实现了具有竞争力的全年预测精度，决定系数（R2）为0.8744，均方根误差（RMSE）为0.0350。在孤立的关键热事件（CTEs）下，FS-Attention获得了最低的RMSE为0.0757，略低于时间融合变换器（TFT），且比标准Transformer低5.61%。基于平台的性能分析进一步显示推理延迟为0.016 ms，参数大小为323.1K，表明模型侧与设施侧边缘执行的兼容性，而注意力偏移分析提供了动态热条件下时间自适应模型行为的诊断证据。
**论文解读：边缘-云协同驱动的HPC中心冷却液流量预测建模**
**研究背景与问题**
高性能计算（HPC）中心功率密度的快速增长显著加剧了热管理负担。液冷系统因其优越的传热能力成为关键解决方案，其中冷却液流量是直接决定热交换性能和安全性的控制变量。然而，现有研究多聚焦于宏观温度估计或设施级能耗指标（如电能使用效率PUE），对子回路级冷却液流量预测关注不足。冷却液流量表现出混合时间尺度动态：它遵循由热控制机制和工作负载基线决定的平滑长期趋势，但又频繁受到突发计算负载和瞬态排热干扰的短期波动影响。现有深度学习模型通常优化全局逐点损失，优先考虑长期稳态趋势的聚合精度，但这在突发热瞬态事件中可能导致相位延迟和过度平滑行为。此外，高容量架构（如Transformer）为延迟敏感、资源受限的边缘控制器带来了不可忽略的计算开销。因此，HPC中心的冷却液流量预测不仅是预测问题，更是部署问题——需要将预测功能与设施侧边缘节点（如机架级管理控制器、冷却分配单元控制器）的架构约束相结合。
**研究内容与结论**
本研究提出了一种面向部署的边缘-云协同（ECC）框架，并集成了一种瞬态感知混合预测架构FS-Attention。该框架定义了设施侧边缘节点负责本地数据预处理和在线推理，云端负责模型训练、长期历史分析和周期性更新。FS-Attention通过卷积神经网络（CNN）局部特征合成、双向长短期记忆（BiLSTM）时间编码和多头自注意力时间细化三个模块的协同，旨在改善非平稳运行条件下的冷却液流量跟踪精度、瞬态响应性和部署可行性。在真实世界Frontier超级计算机（橡树岭国家实验室ORNL）2023年全年数据集上的评估表明，FS-Attention在全年平均精度上具有竞争力（决定系数R2=0.8744，均方根误差RMSE=0.0350），但并非最优；其优势在于提供全局精度、关键事件响应性和边缘部署成本之间的平衡。在孤立的关键热事件（CTEs）中，FS-Attention取得了最低的RMSE（0.0757），略低于时间融合变换器TFT，比标准Transformer低5.61%。平台级性能分析显示推理延迟仅0.016 ms，参数量323.1K，表明模型侧与设施侧边缘执行的潜在兼容性。注意力偏移分析进一步表明，模型在动态热条件下表现出时间适应性：稳定期注意力集中于近期观测，瞬态期则转向早期历史步骤，且季度偏移率与季节性热运行状态存在显著统计关联（皮尔逊卡方检验p?0.001）。跨回路迁移实验显示，仅基于S3CF训练的模型可直接迁移至S1CF、S2CF及整体冷却液流量（OCF），R2均超过0.866，表明模型捕捉了同一液压网络内的共享时间模式。
**主要技术方法**
研究人员采用以下关键技术方法：1）边缘-云协同（ECC）框架，将边缘侧本地数据预处理和在线推理与云端模型训练和周期性更新分离；2）FS-Attention架构，前端的CNN进行局部特征合成以抑制噪声并捕捉瞬态前兆，中间的BiLSTM进行双向时间依赖建模以表征热惯性和延迟响应，后端的多头自注意力机制对BiLSTM隐藏状态进行自适应加权以提升瞬态响应性并提供可解释的时间聚焦；3）数据预处理，包括基于三倍标准差阈值的均值插补异常值处理和Min-Max归一化，以及基于皮尔逊相关系数的特征筛选；4）评估指标，涵盖预测精度（MAE、RMSE、MAPE、R2）、训练稳定性（种子间RMSE变异系数CV）、边缘部署效率（推理延迟、吞吐量、存储大小、FLOPs、参数量）以及可解释性统计检验（皮尔逊卡方独立性检验）。样本来源为ORNL Frontier超级计算机2023年液冷系统监测数据，采样间隔10分钟，共49,854条记录，涵盖冷却液流量、功率、温度等多维变量。
**研究结果**
**5.1 案例描述和实验环境**：Frontier系统采用典型三级冷却回路架构，约9,000-22,700升水每分钟循环带走97%-99%废热。实验在统一HPC平台上模拟云端训练，使用PyTorch框架，GPU为NVIDIA GeForce RTX 5070 Ti。
**5.2 数据分析和特征选择**：皮尔逊相关分析显示子回路3的冷却液流量（S3CF）与整体流量（OCF）相关系数高达0.98，且S3CF在全年四个季度呈现显著季节性变化（Q1稳定、Q2活跃上升、Q3衰减、Q4波动），因此被选为代表性预测目标。
**5.3 综合性能比较和权衡分析**：**5.3.1 鲁棒性和全局精度**：在5个随机种子下，FS-Attention平均R2=0.8744，RMSE=0.0350，优于LSTM、CNN-LSTM-Attention、PatchTST和Transformer，但低于DLinear和N-BEATS；其种子间RMSE变异系数（CV）为2.32%，低于CNN-LSTM-Attention（3.89%）和Transformer（8.13%），表明较好的训练稳定性。**5.3.2 关键热事件的响应能力**：基于双阈值策略（梯度90百分位、幅度85百分位）提取的CTE片段中，FS-Attention取得最低RMSE（0.0757），略优于TFT（0.0758），且阈值的敏感性分析表明在更严格阈值下其优势更明显。**5.3.3 工程部署可行性**：FS-Attention推理延迟0.016 ms，吞吐量61,733.81样本/秒，存储1.497 MB，FLOPs 22.48M，参数量323.1K，虽非最轻量模型，但相对于10分钟的采样间隔，延迟可忽略不计。通信负载估计显示遥测上传延迟仅5.05-5.33 ms，云端到边缘模型更新延迟约1.26秒，不影响在线推理回路。
**5.4 参数敏感性分析**：输入序列长度（6步，对应60分钟历史观测）是最敏感参数，64个隐藏单元、3层BiLSTM、批量大小64为最优配置。
**5.5 消融实验**：完整FS-Attention（MSE=0.0012，R2=0.8775）优于CNN-BiLSTM（R2=0.8745）、BiLSTM-Attention（R2=0.8634）和纯BiLSTM（R2=0.8216），验证了各组件的互补贡献。
**5.6 模型可解释性和决策分析**：**5.6.1 定性注意力行为**：稳定期注意力集中于最近观察（如t=4或5），瞬态期（如Q2突发流量上升）注意力转向早期步骤（t=0或1），表明模型能捕捉前兆信号。**5.6.2 季节性适应性的定量验证**：对全年所有有效窗口统计，Q3（衰减期）注意力偏移率最高（9.97%），Q4（波动期）最低（6.44%）；皮尔逊卡方检验（χ2=99.76，p=1.75×10?21?0.001）拒绝独立假设，表明季节性热运行状态与注意力偏移频率显著关联。
**5.7 跨回路可迁移性实验**：基于S3CF训练的FS-Attention直接应用于S1CF、S2CF和OCF，R2分别达0.869、0.8669和0.873，MAE小于全量程的2.5%，表明模型捕获了同一液压网络内的共享时间模式。
**讨论与结论**
**讨论部分总结**：研究人员从泛化能力、轻量化技术、ECC框架协作挑战和可扩展性四方面展开讨论。泛化能力方面，Frontier数据集具有代表性，且系统内迁移实验验证了模型捕捉共享物理模式的能力。轻量化技术探索中，尝试用深度可分离卷积（DSC）替代标准卷积，但因输入通道数少（单变量）导致FLOPs反而增加，提示时间序列预测中轻量化技术需适配低通道长序列特征。ECC框架的协作挑战包括运营部门需加强数据预处理和异常检测，研发部门需优化边缘-云资源分配，管理层需平衡通信成本与系统稳定性，政府部门需制定标准与激励政策。可扩展性方面，框架可通过分层边缘分组、自适应采样和区域聚合支持不同规模HPC中心。
**研究结论**：利用全年Frontier超算数据集，本研究从年度预测精度、瞬态事件响应性和部署可行性三个视角考察了子回路冷却液流量预测。结果表明，FS-Attention并非全局最轻量或最精确的模型，但提供了竞争性精度、关键事件跟踪和模型侧执行成本之间的有用平衡。在孤立的关键热事件中，FS-Attention在所有测试模型中取得最低RMSE，表明对突发冷却液流量变化的更强响应性。基于平台的性能分析进一步显示推理延迟为0.016 ms，紧凑的参数量为323.1K，表明与设施侧边缘执行的潜在兼容性，但尚需在BMC或CDU类控制器上直接验证。此外，季度注意力分析揭示了季节性运行状态与注意力偏移频率之间统计显著关联，为模型在变化热条件下调整时间聚焦提供了诊断证据。未来工作将扩展到物理边缘控制器部署、端到端通信基准测试、推理能耗测量、多中心验证和闭环冷却控制评估。
