在深度学习辅助的边缘计算中，模型训练与推理服务的联合优化

《IEEE Transactions on Networking》：Joint Optimization of Model Retraining and Inference Services in DT-Assisted Edge Computing

针对移动边缘计算（MEC）网络中数字孪生（DT）技术因数据漂移导致模型精度下降的问题，提出离线整数线性规划（ILP）优化和在线多臂老虎机（MAB）资源分配策略，仿真验证其有效性。

　　

摘要：

随着新兴的数字孪生（DT）技术的进步，将DT与边缘智能相结合为网络边缘提供了高保真度、对延迟敏感的推理服务带来了巨大潜力。由于训练数据会随时间发生漂移，推理模型的准确性会显著下降。为了保持和/或提高其准确性，服务模型需要使用新生成的更新数据进行持续重新训练。然而，在移动边缘计算（MEC）网络中，模型重新训练和推理服务会争夺有限的计算资源，这可能导致由于资源供应不足而产生的服务延迟，从而降低用户满意度。因此，如何在确保服务模型高保真度的同时最大化用户满意度，成为在MEC中合理分配有限计算资源给模型重新训练和推理服务的一个重大挑战。在本文中，我们研究了在给定时间范围内，基于DT辅助的MEC网络中具有保真度意识和延迟敏感性的服务。我们提出了一个旨在最大化长期用户服务满意度的新问题。首先，我们为其离线版本制定了一个整数线性规划（ILP）解决方案。然后，我们设计了一个在线算法来解决该问题，该算法通过利用高效的预测机制和基于多臂老虎机（MAB）的资源分配策略，实现了有界预期累积遗憾值的目标。最后，我们通过仿真评估了所提算法的性能。仿真结果表明，所提算法表现优异，优于其他对比基准。