《Applied Sciences》：Designing an AI-Assisted Cyber Threat Intelligence Framework for Industry 4.0: A Human-in-the-Loop Design Science Approach
编辑推荐：
信息技术（IT）与运营技术（OT）在工业4.0中的融合，加剧了对工业控制系统（ICS）的及时、可信且可解释的网络威胁情报（CTI）的需求。然而，现有基于AI和大语言模型（LLM）的CTI解决方案主要针对传统IT环境设计，未能充分解决工业环境中的安全、延迟、治理
信息技术（IT）与运营技术（OT）在工业4.0中的融合，加剧了对工业控制系统（ICS）的及时、可信且可解释的网络威胁情报（CTI）的需求。然而，现有基于AI和大语言模型（LLM）的CTI解决方案主要针对传统IT环境设计，未能充分解决工业环境中的安全、延迟、治理和运营约束。本文提出了一种针对ICS和工业4.0环境定制的AI辅助CTI框架，集成了多源数据摄入、检索增强生成（RAG）知识库、模块化代理链（chain-of-agents）架构，以及显式人在回路（human-in-the-loop）验证门。研究人员采用设计科学研究方法，通过涉及12名具有工业和安全运营中心（SOC）环境经验的网络安全从业者的专家评估，并辅以基于APT41 DUST战役的概念验证（proof-of-concept）工件实例化，对该框架进行了评估。该原型集成了五个异构CTI证据源，并在约25秒（25.29秒）内执行了自动化分析工作流，同时展示了基于证据的检索、专用代理编排和人工监督的情报生成。实践者反馈表明，AI辅助的上下文情报和基于代理的推理被认为是有价值的，而成功采用主要取决于治理、可解释性、信任以及与现有运营工作流的对齐，而非仅依靠算法复杂性。该研究贡献了一个设计科学工件，结合了检索增强情报、模块化AI代理和人工监督，为在安全关键的工业4.0环境中部署可信赖的AI辅助CTI提供了实用的设计指导。
**研究背景与问题**
随着信息技术（IT）与运营技术（OT）在工业4.0中的深度融合，工业控制系统（ICS）面临日益复杂的网络威胁。安全运营中心（SOC）在保护这些环境时，面临威胁情报数量远超人工分析处理能力的挑战。现有AI辅助和大语言模型（LLM）驱动的网络威胁情报（CTI）解决方案主要针对传统IT环境设计，未充分考虑工业场景中的安全延迟、实时性要求、治理约束以及遗留系统限制。因此，亟需一种专门针对ICS/工业4.0环境、结合检索增强、模块化AI代理和人工监督的CTI框架，以加速分析并保持安全关键操作中的人类监督。该研究论文发表在《Applied Sciences》。
**主要技术方法**
研究人员采用设计科学研究方法，提出了一个四层架构的AI辅助CTI框架，涵盖多源数据摄入与归一化（整合外部CTI报告、内部SOC告警、OT历史数据等）、检索增强生成（RAG）知识库（基于FAISS向量数据库实现语义检索）、链式代理架构（包括分诊、检索、处理、推理和报告五个专用代理，通过结构化JSON状态对象通信），以及显式人在回路验证门（人工审核与反馈闭环）。样本来源包括12名来自制造和关键基础设施领域的网络安全从业者（专家评估），以及基于APT41 DUST战役（MITRE ATT&CK战役C0040）的公开数据和大规模合成SOC告警（原型演示）。
**研究结果**
**集中式上下文情报有价值但操作上脆弱**：通过专家访谈发现，中央化CTI与OT数据（通过RAG）能提供更丰富的上下文，但集成异构数据格式和遗留系统带来显著挑战，且可能违反OT分段原则，需强治理机制。
**人在回路监督必不可少但需轻量化**：专家强调在工业环境中人类最终权威不可替代，但要求分析师详细解释拒绝理由不现实，需采用预定义拒绝类别等轻量级反馈机制，以平衡认知负担和信任校准。
**基于代理的分解提高可解释性和推理质量**：多数专家偏好链式代理架构，认为其模拟了现有CTI工作流（分诊、检索、推理等），提升透明度和可溯源性；但需警惕编排复杂性和错误传播风险。
**时间期望在战术与战略CTI间不同**：专家区分了战术（近实时必需）和战略（可容忍延迟）CTI场景，建议采用分层情报输出：快速初步评估与缓慢深度分析并存。
**治理是工业CTI中可信AI的前提条件**：治理被视作架构性要求，而非附加层；专家强调需明确代理作用域、可审计性及问责机制，以建立对AI辅助系统的信任。
**原型演示**：基于APT41 DUST战役的原型证明，该框架可在约25秒内完成端到端工作流，检索组件成功识别五个相关证据源，推理代理区分了事件置信度与行为归因置信度，并生成针对不同利益相关者的定制化情报产品，经人工验证后修改归因假设。
**讨论与结论**
讨论部分指出，AI辅助CTI在工业环境中的可行性取决于社会技术对齐，而非仅算法能力。人类监督应作为永久要求，且需适应分析师工作负载。模块化代理架构在提升可解释性方面具有条件优势，但需强治理支持。延迟要求应视上下文而定，战术与战略场景需不同处理。治理被重新定义为架构性需求，而非外部政策层。安全考虑方面，需防范提示注入、证据毒化及幻觉风险，并实施角色访问控制。研究局限包括：未进行纵向部署或系统化基准测试，原型仅基于单一战役和合成数据，专家评估基于感知而非实际使用。未来工作将扩展至运营ICS数据、本地模型和受控用户研究。
**研究结论翻译**：该论文提出了一个针对工业控制系统和工业4.0环境约束与需求定制的AI辅助网络威胁情报框架。该框架结合了检索增强知识存储、模块化链式代理架构和显式人在回路验证门。其可行性通过实践者评估和概念验证工件实例化进行了检验，而非通过生产部署或大规模比较实验。实践者评估表明，框架的若干元素（尤其证据集中化、模块化分析、治理和人工监督）被认为与工业安全运营相关，但参与者同时指出了集成复杂性、分析师工作负荷、信任校准、遗留系统限制和组织准备等实质性约束。这些发现应被解释为对感知可行性和部署考虑因素的实践者知情证据，而非运营有效性的证明。该研究以三种方式为研究与实践做出贡献：第一，提供了用于工业4.0环境中结构化、基于证据、受人工监督的CTI分析的设计工件；第二，原型和基线比较展示了RAG、专用代理、证据溯源和独立置信度评估引入的架构能力，但未声称统计优越性；第三，专家发现强调了在受监管工业环境中考虑部署时，治理、工作负载感知的人工监督和上下文依赖的延迟要求的重要性。
