《International Journal of Human-Computer Studies》：“What do you expect? You’re part of the internet”: Analyzing Western Celebrities’ Experiences as Usees of Deepfake Technology
编辑推荐：
深度伪造（deepfake）虐待（abuse）图像的创作是一个日益严重的问题，本文贡献了定性研究，分析了名人受害者幸存者（celebrity victim-survivors）的经历。本研究通过采用“usee”中心的方法并借鉴深度伪造资源（deepfake r
深度伪造（deepfake）虐待（abuse）图像的创作是一个日益严重的问题，本文贡献了定性研究，分析了名人受害者幸存者（celebrity victim-survivors）的经历。本研究通过采用“usee”中心的方法并借鉴深度伪造资源（deepfake recourses）的基础设施（infrastructural）方法，分析了名人的经历。新颖的发现包括识别出一些深度伪造“神话”（myths），这些神话被用来削弱受害者的经历并为深度伪造虐待辩护。通过创伤知情计算（trauma informed computing）以及政策和干预设计的视角重新考虑深度伪造，有多项重要贡献。
**论文解读：《你期待什么？你是互联网的一部分》：分析西方名人作为Deepfake技术“Usees”的经历**
**研究背景与问题**
深度伪造（Deepfake）技术利用深度学习（Deep Learning）生成虚假图像或视频，其中绝大多数为色情内容，且未获目标人物同意。该技术依赖的基础设施（如软件仓库和论坛）隐含地与对名人女性的虐待（abuse）相关联。现有的人机交互（HCI）研究多聚焦于实验性检测深伪的感知差异，或通过平台（如Reddit）研究公众态度，但缺乏对受害者（尤其是名人受害者）亲身经历的定性分析。名人受害者因公共身份成为主要目标，且常被要求自行承担举证与移除内容的责任，面临法律、社会和技术层面的多重障碍。本研究基于Baumer提出的“被使用者”（Usees）概念——即非自愿、不知情、被技术直接针对的利益相关者——旨在回答：西方名人深伪受害者如何构建作为Usees的经历？他们如何应对寻求资源（recourse）过程中的基础设施和社会障碍？
**研究内容与方法**
研究人员采用批判性话语心理学（Critical Discursive Psychology, CDP）方法，对9位西方名人（包括主播、演员、网红等）的12份公开声明和访谈（共19202词）进行定性分析。数据来源为2024年4-6月通过谷歌搜索关键词“{name} speaks out deepfakes”及新闻文章收集的文本和视频转录。分析遵循Goodman的六步指导，结合Baumer的Usees理论和基础设施正义（Infrastructural Justice）框架，探讨话语中的构建、定位和意识形态困境。
**研究结果**
（1）如何构建成为Deepfake技术Usees的经历
**5.1.1 经历非自愿（非自愿作为身份操纵和非自愿性工作）**
研究人员通过分析受害者话语发现，受害者将深伪构建为身份盗窃或非自愿性工作。例如，受害者使用“我的脸属于我”等表述强调非自愿性，并将深伪与“非自愿性工作”类比，指出其导致的声誉损害和羞耻感。
**5.1.2 被针对的经历：性别化暴力（gendered violence）的解读库（interpretative repertoires）**
受害者将深伪置于性别化暴力的解读库中，如“性权利”（sexual entitlement）和“荡妇羞辱”（slut-shaming）。研究人员指出，深伪针对成功女性（尤其是有色人种女性），延续了Gamergate等网络骚扰模式，旨在通过声誉损害压制女性。
**5.1.3 知晓并观看深伪虐待内容的创伤经历**
受害者描述了通过社交媒体（如直接消息、新闻曝光）首次知晓深伪时的创伤反应，并将其与性侵经历类比。研究人员注意到，深伪的心理影响源于面对真实感强的虚假内容，导致自我怀疑和记忆混淆。
（2）如何协商基础设施和社会障碍以寻求资源
**5.2.1 构建互联网并对深伪受害者身份的剥夺**
受害者指出，互联网文化中“你期待什么？你是互联网的一部分”等话语将其经历正常化并削弱其受害身份。研究人员发现，受害者通过强调“同意”（consent）和展示心理影响来反驳这些神话（myths）。
**5.2.2 深伪资源中的经济因素和责任缺失**
受害者描述了平台（如色情网站）对深伪内容的放任，以及移除内容需付费给专业公司（如声誉管理公司）的困境。研究人员指出，美国《通信规范法》第230条（Section 230）保护平台免于责任，同时匿名性使追责困难。
**5.2.3 公开宣传与倡导变为双刃剑**
搜索引擎优化（SEO）使深伪报道优先显示，导致受害者声誉受损。研究人员通过分析发现，公开倡导虽能推动立法，但会引发更多骚扰；受害者被迫在“沉默忍受”与“公开受伤”间抉择。
**5.2.4 倡导与公开宣传之间的意识形态困境**
受害者虽认识到倡导的必要性，但公开讲话会加剧伤害。研究人员指出，这形成“双重边缘”（double-edged sword）困境：倡导成为义务而非选择，且受害者常被要求自行组织受害者社区。
**总结讨论与结论**
讨论部分强调，深伪资源（recourse）当前将责任转嫁给受害者，而基础设施正义要求将责任归于拥有权力和基础设施的各方，包括平台、搜索引擎、媒体和AI开发者。研究人员提出了创伤知情计算（Trauma Informed Computing）框架，涵盖四个原则：意识到创伤存在、识别创伤迹象、响应创伤内容、抵抗再创伤化。同时，识别出5种深伪神话（如“内容不真实所以无害”），并建议通过政策和干预挑战这些神话。结论部分翻译如下：
**结论**
深度伪造非自愿合成亲密图像（NSII）的受害者是技术“被使用者”（Usees）的典型例子，因为他们被技术针对时未经同意或不知情。本研究强调了高知名度西方名人目标如何构建被深伪针对的经历，以及他们与现有法律、社会和技术障碍的互动以寻求资源。作为人机交互（HCI）研究者，研究人员应挑战创造Usees的技术。研究人员鼓励批判性地考虑身份操纵如何嵌入现有生成式AI（Generative AI）模型中。本研究挑战了当前深伪基础设施：有限资源的失败导致深伪移除成为营利性行业。作为新技术的受害者，名人常被迫进行倡导，这加剧了虐待和声誉损害。未来研究应采取创伤知情视角，研究人员提供了关于如何报道和公开深伪虐待同时挑战关于NSII及其受害者神话的建议。
