人类-人工智能交互数据治理与个人健康管理:文献分析

《Data & Policy》:Human–AI interaction data governance and personal health management: Analysis of the literature

【字体: 大 中 小 】 时间:2026年07月14日 来源:Data & Policy 2.6

编辑推荐:

  尽管在医疗应用的数据治理方面存在大量政策和实践,但本文首次系统性地概述了面向消费者的健康与 wellness 应用中的人类-人工智能交互(Human–AI Interaction)及数据风险/治理,这些应用是个人健康信息管理的一个增长领域。遵循 PRISMA(

  
尽管在医疗应用的数据治理方面存在大量政策和实践,但本文首次系统性地概述了面向消费者的健康与 wellness 应用中的人类-人工智能交互(Human–AI Interaction)及数据风险/治理,这些应用是个人健康信息管理的一个增长领域。遵循 PRISMA(Preferred Reporting Items for Systematic Reviews and Meta-Analyses)指南,研究人员收集了 116 篇相关文章、9 个代表性案例以及来自官方政府网站的 81 份政策文件,并使用主题分析(Thematic Analysis)进行了分析。案例研究用于验证主题发现并识别针对治理风险的实务应对措施。文献从四个维度讨论了人类-人工智能交互的现状:应用场景、服务内容、所应用的 AI 技术以及交互界面。产生的交互数据类型涉及身体指标、生活习惯、个人身份与社会关系、数字行为、健康建议等。数据治理实践与风险包含六类:治理主体、政策、标准与原则、技术与设施、生命周期措施、以及数据权利保护与风险管理。其中最为关键的风险包括数据隐私泄露、数据所有权不明确、标准不一致以及数据质量低下。研究结果强调,当前主要聚焦于合规、隐私保护和技术优化的应对措施仍然零散且不足以应对所识别的关键风险。本研究为政策制定者、开发者和平台提供商提供了实用见解,以加强在 AI 赋能健康应用中的协作性、适应性和基于信任的治理。
政策意义声明:本研究提供了关于 AI 技术如何在个人健康管理中与用户交互以及所涉及数据内容和类型的见解,以阐明不同法律管辖区域内 AI 应用的数据政策治理的焦点与空白。具体而言,数据治理政策需要针对日益丰富的数据类型、内容、数量以及实时交互的不确定性进行改进。研究审视了治理实践、风险和应对措施,这有助于为政策制定者提供参考,以改进关于个人健康管理中风险的数据和 AI 治理政策与体系。迫切需要加强对数据治理的关注,并提升数据治理主体的 AI 素养、专业能力及信任度。
论文解读文章

**研究背景、问题与意义**

随着慢性病患病率上升、人口老龄化加剧以及医疗服务向预防性和个性化方向转变,个人健康管理在全球范围内日益受到重视。借助移动应用、可穿戴设备和人工智能(AI)技术,用户越来越倾向于在临床环境之外管理自身健康。这些应用整合了新一代 AI、物联网(IoT)、通信、生物信息学等技术,提供个人健康监测、评估和干预服务。然而,AI 系统与用户之间的交互会产生多种敏感数据,包括身体活动行为数据、日常生活数据、面部和语音数据、运动症状以及个人数字足迹等。与专业人员收集的传统临床数据不同,这些非临床健康应用中的数据是用户生成、持续采集的,常被称为患者生成健康数据(Patient-Generated Health Data, PGHD),其非结构化特性和模糊的监管边界带来了独特的治理挑战。

现有研究虽然对 AI 驱动的个人健康管理服务功能、潜在风险和治理策略有所探讨,但主要存在以下问题:多数研究仅提供服务功能的高层次描述,未深入分析 AI 系统与用户在日常健康管理中的具体交互方式;对隐私风险的关注较为泛化,缺乏对具体数据类型和交互生成数据流的研究;风险分析多从 AI 治理视角出发,缺乏从数据治理导向对消费者健康应用中人类- AI 交互相关风险和应对措施的全面分析。尤其是在商业化的、面向消费者的平台中,针对健康应用中人类- AI 交互的数据治理风险缺乏深入分析,且很少有研究系统考察交互生成的数据流如何被治理,尤其是在监管框架碎片化的背景下。因此,亟需能够应对人类- AI 健康系统中数据实时性、交互性和敏感性的治理模型。

本研究旨在填补这一空白,通过系统综述方法,考察 AI 赋能个人健康管理应用中的数据治理实践与风险,重点关注交互生成的数据类型、治理面临的挑战以及当前风险应对机制的充分性。研究论文发表在《Data》。

**主要技术方法**

研究人员采用 PRISMA(Preferred Reporting Items for Systematic Reviews and Meta-Analyses)系统综述指南进行文献收集与筛选,确保过程的透明性和可重复性。文献检索截至 2024 年 11 月 7 日,涵盖 ProQuest、Web of Science、Scopus 等数据库以及前向和后向引文,最终纳入 116 篇同行评审文章。样本来源包括美国、中国、欧盟成员国等地区,覆盖实证分析、系统设计、概念框架和综述等多种研究类型。同时,从中国、美国和欧盟的政府官方网站收集了 81 份相关政策文件,这些地区代表了不同的主流治理风格(政府主导型、市场导向型、多层级治理型)。此外,研究提取了 9 个代表性案例(如 Emohaa、CARESSES 项目、Replika、Medtronic 等),用于验证主题分析结果并总结风险应对措施。数据分析采用主题分析(Thematic Analysis)方法,遵循 Naeem 等人的六步流程(引文选择、关键词提取、编码、主题生成、概念化、模型构建),并使用 Microsoft Excel 进行记录与统计。案例研究法则用于验证主题的完整性以及实务中的应对措施。

**研究结果**

**3.1 人类–AI 交互在个人健康管理领域的现状**

**3.1.1 人类–AI 交互特征概述**:通过主题分析识别出应用场景(健康监测、干预与辅导、心理健康管理、慢性病管理、老年护理)、服务内容(健康监测、护理与支持、疾病管理、生活方式辅导、心理健康促进、体重管理)、交互形式(对话式交互如聊天机器人、工具式交互如传感器数据采集)以及所应用的 AI 技术(机器学习 ML、自然语言处理 NLP、基于规则的算法与模型、其他辅助技术如语音识别、遗传算法 GA、知识图谱)等四大类特征。

**3.1.2 人类–AI 交互中的数据类型**:交互数据模型包括文本、图像、音频、视频;交互数据内容涵盖身体指标、生活习惯、个人身份与社会关系、数字行为、健康建议、健康状态预测、医疗数据、环境条件以及人类–AI 协作作品(如用于心理治疗的艺术绘画)。

**3.1.3 个人健康管理中人类–AI 交互的整体图景**:用户输入多种个人健康相关数据,AI 系统通过 ML、NLP、基于规则的算法等技术进行整合与分析,输出健康服务信息(如健康状态、预测、环境条件等),并服务于健康监测、干预、辅导等应用场景。

**3.2 数据治理实践与风险**

**3.2.1 数据治理实践**:提炼出六类治理实践——治理主体(机构、协作、能力、监督)、政策、标准与原则(数据政策、实务标准、指导原则)、技术与设施(数据基础设施、数字技术)、生命周期措施(数据采集、处理、存储、传输与共享、使用与删除)、数据权利保护(数据隐私与安全、数据控制权、数据所有权保护)以及数据风险管理(风险预防、风险控制)。中国、欧盟和美国的政策重点各有侧重:中国强调数据安全与基础设施,欧盟聚焦隐私与权利保护,美国注重市场驱动的灵活性与行业自主。

**3.2.2 数据治理实践中的风险**:构建了一个包含六类风险框架。治理主体风险包括沟通障碍、责任不清、人员经验不足、缺乏监管、素养有限、信任问题;政策、标准与原则风险包括指南不清晰、法规不完善、标准不统一;技术与设施风险包括安全技术脆弱、数据处理能力有限、数据管道不兼容、AI 模型质量差;生命周期风险包括数据采集受限、数据整合困难、数据质量差、缺乏透明度、共享障碍、数据滥用、不合规;数据权利保护风险包括不尊重自主权、未通知用户、授权不受限、隐私保护失败、数据所有权不确定;数据风险管理风险包括缺乏风险意识、实时监控不足、缺乏解决方案经验、无计划。

**3.3 基于案例和政策的治理风险应对措施**:针对 31 种风险,应对措施主要集中在数据政策合规、AI 规则推广、隐私政策制定以及算法/模型/方法优化。例如,通过建立社区反馈应对沟通障碍,通过 GDPR、DSA、EU AI Act 等法规明确责任,通过设置独立咨询小组弥补经验不足,通过行业标准安全程序应对技术脆弱性,通过数据分类方法增强数据处理能力,通过质量评估框架评估模型偏差,通过 HIPAA 合规存储防止数据泄露,通过明确同意与选择退出机制尊重用户自主权,通过定期风险测试与数据保护影响评估实现实时监控。

**讨论与结论**

讨论部分指出,人类–AI 交互已广泛嵌入个人健康应用,各类对话式工具、传感器监测和 AI 驱动决策支持系统在不同场景下运行,产生大量持续、敏感且高度个性化的数据。现有治理实践虽覆盖六类范畴,但存在不均衡和碎片化问题:中国、欧盟和美国的政策重点差异导致全球平台合规复杂化,尤其在算法黑箱、跨境数据转移和非传统健康数据二次使用方面。关键风险包括伦理指南不明确、数据标准不一致、数据质量低、处理实践薄弱、隐私泄露和数据滥用。现有应对措施往往是被动、狭隘的,未能充分适应交互数据的实时性、多模态和情境敏感性。研究建议构建治理感知型 AI 系统,将风险评估和透明度机制嵌入系统设计,转向生命周期感知、情境敏感和参与式治理模型。

研究结论部分翻译如下:本研究系统考察了个人健康管理中人类–AI 交互的文献,聚焦于服务功能、交互生成数据类型、治理实践及相关风险。研究结果表明,AI 技术越来越多地嵌入面向消费者的健康应用中,用于监测、评估和个性化指导。这些应用产生持续且敏感的交互数据,涵盖身份、行为和健康信息,带来了重大的治理挑战。为应对这些挑战,研究提出了一系列建议,强调需要在政策合规、技术保障和权利保护之间进行协调治理。研究结果为多个利益相关者群体提供了可操作见解:政策制定者和监管者可据此加强风险响应型监管机制,促进跨机构、跨司法管辖区合作;开发者和平台提供商可改进情境敏感型同意流程、提升系统透明度、设计更稳健的数据保护措施;医疗机构和服务运营商可借此建设机构能力、完善治理程序、加强与用户的信任建设。本研究存在局限性,主要依赖二手数据来源,未来研究可采用访谈、受控用户交互研究等实证方法以验证和完善所提出的框架。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号