作为系统工程中基于习惯改变行为新兴技术的人机可解释认知人工智能(AI):一轮与生命周期中人类专家的二轮德尔菲(Delphi)研究

《Results in Engineering》:Explainable Human-Cognitive AI as a Habit-based Behavior Change Emerging Technology for System Engineering: A Two-Round Delphi Study with Human Experts in Development Life Cycle

【字体: 大 中 小 】 时间:2026年06月24日 来源:Results in Engineering 9.4

编辑推荐:

  为解决高级软件系统工程与质量保证中人工智能(AI)可解释性挑战,将人类专家纳入环路(Human-in-the-Loop)是增强复杂系统决策与推理的关键系统思维要素。生活方式习惯被公认为健康行为改变支持系统中各类慢性病的风险因素。本研究提出一种融合独特习惯改变开

  
为解决高级软件系统工程与质量保证中人工智能(AI)可解释性挑战,将人类专家纳入环路(Human-in-the-Loop)是增强复杂系统决策与推理的关键系统思维要素。生活方式习惯被公认为健康行为改变支持系统中各类慢性病的风险因素。本研究提出一种融合独特习惯改变开发生命周期与用于行为改变的人机可解释模型、具备认知情感以实现共享决策的人机软件系统质量保证工程方法论,用于构建带认知情感的拟人化AI软件系统。研究人员结合理论基础与共设计德尔菲(Delphi)工作坊,为基于习惯的行为改变支持系统建模了人机可解释AI框架及认知-AI V模型(Cognitive-AI V-Model)。通过将医疗保健专业人员观点纳入AI驱动软件系统开发生命周期环路及人机协作决策过程,增强了AI可解释性。研究人员采用经验定性方法,通过二轮德尔菲共设计工作坊探讨行为改变开发生命周期中质量保证与人机可解释AI的作用。定性研究、分析推理与主题分析结果显示:人口统计学因素、技术、认知情感、说服特征、素养及意识影响行为改变,进而决定系统开发生命周期中人—认知—AI习惯行为改变支持系统的可解释性。人机系统设计内提取出的AI可解释性子类别含公平性(Fairness)、透明性(Transparency)、互操作性(Interoperability)、性能(Performance)及可信度(Trustworthiness),以确保行为改变系统的质量与有效性。研究结果降低了工程师认知负荷,优化了共享决策。
论文解读——《Explainable Human-Cognitive AI as a Habit-based Behavior Change Emerging Technology for System Engineering: A Two-Round Delphi Study with Human Experts in Development Life Cycle》发表于Results in Engineering
一、研究背景与目的
心血管疾病是全球首要死因,不良生活方式习惯(饮食、运动、睡眠、压力)是其重要可修正风险因素。现有行为改变支持系统多忽视AI对习惯趋势的分类与风险预测功能,且"黑盒"特性导致医疗专业人员难以信任。同时传统系统未充分整合认知情感(Cognitive Emotion)与说服设计(Persuasive Design),且缺乏人类专家在AI系统开发生命周期(SDLC)中的深度参与。为此,Pantea Keikhosrokiani研究人员开展此项研究,旨在通过二轮德尔菲(Delphi)共设计工作坊将医疗及跨学科专家纳入环路,识别并概念化认知情感、说服特征及素养相关要素,提出人机可解释AI框架与认知-AI V模型(Cognitive-AI V-Model),构建面向心脏病高危人群的基于习惯的行为改变支持系统(Habit-based Behavior Change Support System, HBCSS,亦称Human-Cognitive-AI-Habit),以增强AI可解释性及系统质量保证。
二、主要关键技术方法
研究人员采用经验定性二轮德尔菲(Delphi)共设计工作坊法。第一轮招募马来西亚理科大学(Universiti Sains Malaysia, USM)健康中心20名医护人员(医生、护士、医技),经伦理批准(USM/JEPeM/a9100701)进行半结构化问卷与焦点组访谈,收集习惯要素、说服特征及数字素养需求;第二轮扩至26名专家,基于首轮原型演示验证并完善系统特征。研究结合Fogg行为模型、认知评价理论(Cognitive Appraisal Theory, Richard Lazarus)、自我效能(Self-Efficacy, Albert Bandura)等理论设计问卷,采用主题分析(Thematic Analysis)与PowerBI可视化进行数据分析,并通过层次聚类分析数字素养模式。最终提炼人机可解释AI维度并提出认知-AI V模型及习惯改变群落共享决策支持框架(Habit-change Colony Shared Decision-making Support Framework)。
三、研究结果
Background / Human-Artificial Intelligence Engineering, System Thinking, and Behavior Change Support System
综述人—AI工程、系统思维(System Thinking)与行为改变支持系统文献指出,引入Human-in-the-Loop可降低复杂系统黑盒风险,现有XAI研究多缺习惯维度与SDLС专家参与,为本研究提供理论缺口依据。
The Proposed Human-Cognitive-AI V-Model of Behavior Change with Explainability for Complex Adaptive Decision Support Systems
研究人员提出认知-AI V模型,将习惯(饮食、运动、睡眠、压力)与生理信号(心电图ECG、心音)作为系统要素,在SDLC各阶段融入专家反馈以消偏、提升算法透明性与可信度,形成迭代习惯形成—评估—维护循环。
Proposed Method / Ethical Consideration / Sampling, Participants, Expert Recruitments, and Research Instrument / Study Procedure and Data Collection / Feedback, Coding, Thematic Analysis, Consensus, and Recommendations
经伦理审批后,依纳入标准目的抽样健康中心医护及校内AI与软件工程专家。基于Fogg行为模型、双因素情绪理论(Two-factor Theory of Emotion, Stanley Schachter & Jerome E. Singer)及认知评价理论编制并验证半结构化问卷。在SDLC的需求、设计、实现、测试各阶段并行开展二轮工作坊:首轮探索系统要素与XAI需求;次轮约六个月后基于原型演示确认特征并共识。经编码与九步主题分析,由理论推导主范畴(人口学、技术、素养、习惯改变、决策支持系统)及子范畴,形成无限主题图(Infinity Thematic Diagram)。
Data Analytics and Results / Delphi Study Round I
首轮德尔菲(n=20)显示年龄、性别影响不良习惯倾向及App使用习惯;专家建议UI加入音乐、游戏化(Gamification)、表情符号(Emoji)、目标奖励、生命体征监测及宣教内容。数字素养(Digital Literacy, 含IoT传感器操作、信息检索、计算、问题解决等)越高越能给出建设性设计建议;中老年偏好情绪表达(表情、励志语),青年偏好家庭关联与榜样案例。
Delphi Study Round II
次轮(n=26)确认需监控的不良生活习惯(吸烟、压力、高糖高脂饮食、少动、过量饮酒)。新增AI特征含家庭支持群、医学检查提醒、DASS(抑郁焦虑压力量表Depression Anxiety and Stress Scale)评分录入、实时智能聊天机器人/推荐、生物数据自动分析。强调App易用性、情绪支持与健康教育以降低压力、促进认知情感投入。确认App素养(App Literacy)与健康素养(Health Literacy)互补是HBCSS使用前提,历史趋势与正常/异常生命体征认知是疾病状态分类关键。
Discussion, Concluding Remarks and Future Direction
经层次聚类得出首轮2簇、次轮更多变异,提出人—AI专用11项新兴技术素养清单(HAI 11-EMTLit:数字/技术/网络技能与知识、IoMT(Internet of Medical Things)传感器使用、信息搜寻/获取/阅读/理解、沟通、学习准备度、治疗依从执行、数值计算、决策/推断、问题解决、自信、习惯素养HabitLit)。统计检验示首轮年龄、教育、设备舒适度及感知有用性显著影响素养认同(p<0.05),次轮经系统宣讲后该差异消失(p>0.05),全员认同素养必要性。归纳出说服特征(自省、励志语、个性化教练、热量计数、情境意识警示等)、认知情感追踪(基于ECG与心音的压力判定、情绪符号映射)及意识层级(早期/情境/风险/健康/改变—教育/自我/实践意识)。最终整合提出:(1)人—认知—AI V模型、(2)二轮德尔菲共设计质量保障需求工程生命周期、(3)习惯改变群落共享决策支持框架、(4)习惯行为改变支持系统人机可解释AI模型(XAI维度:公平性Fairness|透明性Transparency|互操作性Interoperability|性能Performance|可信度Trustworthiness),并指出可解释生成对抗网络(Explainable GANs)与多模态大语言模型(Large Language Model, LLM)可进一步优化QA。
四、讨论与结论翻译
本研究旨在为基于习惯的行为改变支持系统(SDLC)开发先进系统工程方法论并纳入人类专家环路。通过"低垂之果(Low-hanging Fruits)"风险因子分析及新建认知—AI V模型与人机共设计德尔菲需求工程质量保证流程,将专家隐性/显性知识注入特征工程以训练与集成可解释AI。研究发现:人口统计学因子、技术、认知情感、说服特征、素养与意识共同影响行为改变及系统中XAI成效;提取的XAI子维度(公平、透明、互操作、性能、可信)保障HBCSS质量与效能,降低工程师认知负荷并优化共享决策。提出的四合一质量保证方法论——(1)人—认知—AI行为改变V模型,(2)二轮德尔菲专家环路共设计,(3)习惯改变群落共享决策支持框架,(4)习惯行为改变支持系统人机可解释AI模型——推进了医疗软件系统工程中行为改变系统设计与XAI整合,为心脏病高危人群远程监控与生活方式干预提供了可操作框架与实证依据。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号