《Frontiers in Artificial Intelligence》：Security by design in artificial intelligence-enabled energy management systems: a sociotechnical framework
编辑推荐：
全球能源部门正经历由可持续发展、效率提升和韧性增强需求驱动的深刻数字化转型，从传统电网向智能分散化能源系统的转变加速了人工智能（Artificial Intelligence, AI）赋能能源管理系统（Energy Management System, EMS
全球能源部门正经历由可持续发展、效率提升和韧性增强需求驱动的深刻数字化转型，从传统电网向智能分散化能源系统的转变加速了人工智能（Artificial Intelligence, AI）赋能能源管理系统（Energy Management System, EMS）的采用。尽管这些技术带来显著效益，但也引入了新的数据安全与治理挑战，须加以应对以确保可信且具韧性的能源基础设施。本研究采用设计科学研究（Design Science Research, DSR）方法，调查AI赋能EMS开发与实施中的安全问题。通过对学术文献与实践导向文献的分析，研究人员开发了一个概念框架，该框架采用生命周期视角，追踪数据流经由数据生成、感知、模型开发与部署相互关联阶段的路径。基于识别出的挑战，研究人员制定了四项设计原则以应对特定安全漏洞。主要成果是一个概念性产物，其对AI赋能EMS在不同生命周期阶段的数据安全挑战进行了分类。分析表明，这些挑战需要多个利益相关方在不同系统层级采取协调行动，并有赖于专门的安全工具与治理机制。研究提出"预防-审计-学习-强化"（Prevent–Audit–Learn–Harden, PALH）框架，作为指导AI赋能EMS安全设计、部署与操作的实用方法。通过将识别出的安全挑战与相应的设计原则及生命周期阶段相链接，该框架有助于加强智能能源系统中的数据安全与治理。研究结果凸显了采用整体性、生命周期导向的安全方法对于支持向分散化智能电网持续过渡的重要性。
**一、研究背景与问题提出**
全球能源部门正处于深刻数字化转型的关键阶段，这一转型由对可持续性、效率与韧性的日益增长的需求所驱动。传统电网正加速向智能、分散化的能源系统演进，人工智能（Artificial Intelligence, AI）技术被日益嵌入能源管理系统（Energy Management System, EMS），以实现预测性维护、需求响应、自主控制以及能源生产与分配的优化。然而，AI的集成使智能电网转变为高度复杂的网络物理系统（Cyber-Physical System, CPS）与社会技术系统（Socio-Technical System），引入了传统网络安全威胁之外的新型数据安全与治理挑战，包括数据投毒（Data Poisoning）、对抗性攻击（Adversarial Attack）、模型提取（Model Extraction）、隐私泄露（Privacy Leakage）以及生命周期管理风险。与此同时，智能电网作为社会技术系统，涉及公用事业公司、监管机构、技术提供商和消费者等多元利益相关方，使得组织治理与监管合规成为系统安全的有机组成部分。
尽管现有研究在智能电网网络安全与AI应用方面取得了丰富成果，但大多聚焦于技术机制与性能提升，缺乏将AI安全机制与组织治理、监管要求及社会技术系统设计相整合的规范性设计知识。从信息系统（Information Systems, IS）视角而言，此类知识对于指导可信AI赋能关键基础设施的设计与实施至关重要。正是基于这一研究缺口，研究人员开展了本项设计科学研究（Design Science Research, DSR）项目，旨在为AI赋能EMS开发可操作的设计知识，具体探索EMS提供商等新兴参与者及其开发与实施活动如何影响安全问题。
**二、关键技术方法**
本研究采用设计科学研究方法，遵循Peffers等人提出的DSR流程，聚焦于问题识别与设计知识生成阶段。研究人员首先开展范围界定文献综述（Scoping Literature Review），综合Google Scholar、AIS eLibrary、IEEE Xplore及ACM Digital Library等数据库的学术与实践文献，识别AI赋能智能电网中的关键数据安全挑战。在此基础上，研究人员确定核心理论、元需求与产物成功标准，并迭代开发概念性设计框架。
框架构建过程中，研究人员遵循Maedche等人的结构化概念化方法，将AI漏洞（如数据投毒、对抗性攻击、模型反转等）映射至数据/感知层，识别关键实体、关系与边界，并转化为可视化的设计表征。产物设计融合了机器学习生命周期保障、社会技术系统理论与安全分布式智能等理论基础，采用多层级设计梯队（Design Echelons）视角，同时支持实践适用性与理论贡献。
**三、研究结果**
**3.1 社会技术系统理论基础与社会技术视角下的智能电网**
研究人员首先确立了智能电网作为社会技术系统的基础定位。智能电网是信息技术、分布式能源资源与智能控制机制整合而成的数字化能源生态系统，其性能取决于技术子系统（数字基础设施、智能电表、AI算法）与社会子系统（监管者、运营者、消费者）之间的协调一致。AI技术在能源管理系统中的应用涵盖电力需求预测、能源存储管理、可再生能源整合与微电网协调等领域，但其依赖可靠的数据基础设施、先进分析能力与跨利益相关方协调决策过程，这进一步增加了系统的复杂性。从信息系统视角看，智能电表的扩散与采用深受消费者信任、感知隐私风险与监管合法性等因素影响，表明数字能源技术的设计必须兼顾技术性能与社会可接受性。
**3.2 智能电网中的内生性安全设计**
研究人员系统梳理了智能电网网络安全面临的挑战。数字转型显著扩展了电力网络的攻击面：高级量测体系（Advanced Metering Infrastructure, AMI）、分布式传感器、通信网络与能源管理平台等组件均引入潜在安全漏洞。物联网（Internet of Things, IoT）设备因计算资源与安全能力有限，成为网络攻击者的理想目标。为应对这些挑战，网络安全研究领域日益强调"内生性安全设计"（Cybersecurity-by-Design）方法，即在系统开发阶段直接将安全机制嵌入架构，而非在部署后修补漏洞。欧盟《AI法案》（EU AI Act）与《NIS2指令》等监管框架为现代能源系统中技术解决方案的设计与部署提供了顶层指导，要求能源提供商与关键基础设施运营商实施 robust 安全、风险管理与治理机制。此外，区块链技术被提出用于确保分布式能源管理系统中的安全交易与数据完整性。
**3.3 AI赋能能源管理系统与数据安全问题**
研究人员深入分析了AI赋能EMS面临的具体数据安全挑战。数据投毒攻击针对训练阶段注入恶意或偏置数据，导致模型行为出现系统性缺陷；推理阶段的对抗性操纵通过精心设计的输入扰动误导模型产生错误输出；模型提取攻击利用查询访问重建或近似底层模型，可能暴露敏感系统逻辑。联邦学习（Federated Learning）等新兴方法虽能在保护隐私的同时实现分布式机器学习，但也带来模型完整性、通信安全与协作信任等新挑战。
**3.4 设计原则与PALH框架**
基于文献分析，研究人员提炼出四项设计原则（Design Principle, DP）：
- **DP1—来源感知数据摄取（Provenance-Aware Data Ingestion）**：针对数据投毒挑战，通过公钥基础设施（Public Key Infrastructure, PKI）在数据/感知层实施数据溯源验证，由数据工程师执行减少与预防性行动。
- **DP2—隐私保护数据分散化（Privacy-Preserving Data Decentralization）**：应对模型反转（Model Inversion）风险，采用联邦学习与安全多通信机制，由云工程师在网络/存储层实现联邦学习。
- **DP3—对抗性鲁棒性测试（Adversarial Robustness Testing）**：针对网络攻击威胁，由数据科学家与AI安全审计员在模型/算法层进行系统强化，使用Pyomo等工具。
- **DP4—可解释安全（Explainable Security, X-Security）**：应对AI决策的透明性需求，由控制室管理人员在应用/人机层实施审计，采用人在回路（Human-in-the-Loop）仪表盘。
这四项原则整合为"预防-审计-学习-强化"（Prevent–Audit–Learn–Harden, PALH）框架，该框架从生命周期视角追踪数据流经数据生成、感知、模型开发与部署的路径，各阶段由迭代控制机制保障系统完整性与持续改进。预防机制确保数据 origination 的完整性、质量与安全；学习机制实现模型的持续适应性更新；审计机制保障透明度与问责性；强化机制提升模型对抗新兴威胁的鲁棒性。
**3.5 北欧核能应用情景验证**
研究人员以北欧核能部门为应用情景，展示了PALH框架的实践价值。该情景涉及瑞典与芬兰五座核电站，面临严格的数据治理限制与有限的数字集成。在Claude Sonnet 4.6与ChatGPT-5.5平台上的模拟比较显示：采用PALH框架的工程师在安全关键场景中具有显著优势，包括预测准确度提升34.7个百分点、攻击率降低39.9个百分点、检测能力改善55.8个百分点、安全裕度差异增加41.5个百分点；在ChatGPT-5.5模拟中，PALH部署下的均方根误差（RMSE=4.0）显著低于未采用PALH的情景（RMSE=11.4），攻击成功率降低，检测能力与运营稳定性提升，且具备完整的审计追踪以满足国际电工委员会IEC 62645及国际原子能机构（International Atomic Energy Agency, IAEA）核安全系列标准（NSS17-T与NSS42-G）的合规要求。
**四、讨论与结论**
研究人员得出结论：AI赋能EMS的集成将智能电网转变为高度复杂的网络物理与社会技术系统，引入新的数据安全与治理挑战。PALH框架能够指导AI赋能EMS的设计与部署，应对向分散化智能电网过渡过程中实施此类系统可能出现的安全问题。该框架的设计原则为管理AI赋能EMS安全提供了初步整合性框架，同时考虑了如情景所述的高风险环境。
研究承认当前产物仅为DSR从问题分析到设计开发初始迭代的结果，演示仅限于情景模拟建议，主要在概念层面支持产物。未来工作将包括额外的DSR迭代以细化已识别的设原则、开发可测试命题，并通过案例研究、田野调查、焦点小组和访谈进行原型实例化评估与演示。尽管存在这些局限，研究人员认为所提出的产物除了对AI、能源管理和信息系统安全等不同研究流进行理论整合的贡献外，也为实践者提供了确保AI在能源系统中系统性、整合性安全集成的战略关注点和方向指引，以及针对能源生态系统和基础设施多层政策定义的关键轴线的视角。
