让社会知情：玻利维亚、印度、尼日利亚、日本和德国关于面部处理技术的公民对话

《Proceedings of the ACM on Human-Computer Interaction》：Keeping Societies in the Loop: Citizen Dialogues on Facial Processing Technologies in Bolivia, India, Nigeria, Japan, and Germany

　　

# 摘要

面部处理技术（FPT）在全球范围内的部署日益增多。这一趋势背后是推动其发展的叙事话语，这些话语往往承诺提升安全性和效率，却掩盖了这些技术所带来的权衡与代价。最终，这种做法阻碍了对面部处理技术进行批判性的社会讨论。为了给社会各界就面部处理技术展开讨论创造空间，我们在2024年于玻利维亚、印度、尼日利亚、日本和德国五个国家组织了114名参与者、23个讨论小组的公民对话研讨会。参与者在以下三种情境之一中，探讨了面部处理技术部署或不部署背景下，理想未来可能呈现的模样：公共空间与警务执法、企业监控、以及社交互动。参与者们讨论了可能产生的后果、风险、利益相关方以及应对措施。我们采用混合研究方法，从研讨会记录文档和个体问卷中获得洞察。研究发现，总体而言，尽管参与者承认面部处理技术的局限性和风险，但认为面部识别技术能提升公共安全、为技术使用者和部署者带来便利的叙事仍占据主导地位。印度和德国的参与者对面部识别和面部分类技术持更批判的态度。保持公众知情和监管被视为确保负责任使用的核心机制。我们通过跨国视角审视研究结果，并结合制度性信任的概念展开讨论。我们得出结论：将治理结构和流程（包括监管）视为万能药片的认知，恰恰阻碍了对技术核心本身的质疑。

## AI摘要

欲查看此AI生成的摘要，您须拥有高级访问权限。

了解更多 登录

## 引言

"['尚未达成社会共识']"——日本铁路公司JR东日本的一位发言人表示，临时暂停一项此前已在车站推出的、旨在为即将到来的2020年东京奥运会提升安全性的新型面部识别系统。此前关于该系统的新闻报道引发了关于其歧视性质的辩论，因为该系统会扫描乘客面部以查找前科人员。这一案例体现了围绕嵌入面部处理技术（FPT）的系统推广时所围绕的"提升安全"叙事。它也凸显了持续进行公共辩论的重要性，因为此后日本及国际上已有其他面部识别系统投入使用，却未就该技术是否以及如何创造社会价值进行社会共识的检验。

### 定义面部处理技术（FPT）、面部识别技术（FRT）和面部分类技术（FCT）

尽管存在诸多关切，面部处理技术系统正被雇主、政府、广告商、教育机构或娱乐产业在全球范围内用于多种用例。根据所使用的面部处理技术的类型，可以对用例进行区分。

面部识别技术（FRT）代表了一组侧重于对面部数据进行身份验证或识别的用例。例如，面部识别技术用于在社交媒体照片中为已识别的个体进行标记、查找在逃或失踪人员、监控公共空间（如城市广场）或半公共空间（如娱乐场所）。相比之下，面部分类技术（FCT）涵盖了另一组用例，侧重于通过对面部特征或面部（微）表情进行分类来赋予其意义。该领域有时也被称为面部分析AI，或当聚焦于情绪时称为情绪（情感化）AI。例如，面部分类技术用于确定申请者在申请视频或在线面试中表达的情绪、使用滤镜美化图片中的面部、培训员工展现特定面部表情，或提供个性化广告（如在火车站投放）。

在本文中，当我们指代侧重于验证或识别特定个人的用例时，将使用缩写"FRT"。当我们指代基于面部特征分类的用例时，将使用"FCT"。这种区分很重要，因为两种技术声称具有不同的技术能力，意味着不同的（提议的）用例。当我们同时讨论这两种技术时，将使用"FPT"作为统称。

### 批评

面部处理技术的开发和应用场景在根本上受到了批评。研究人员将面部识别技术称为"AI中的钚"，并指出面部识别技术中存在偏见。关于面部分类技术，研究人员揭示了不精确的推断，或推断所感知的"主观性"。他们还质疑了面部分类技术背后科学的"有效性"，以及围绕性别等目标变量定义的"实践做法"。此外，面部识别技术和面部分类技术都存在数据保护问题和隐私权方面的担忧。在人与机器人交互领域也出现了类似的讨论，有人认为机器人完全不应该识别种族等身份特征，原因在于本体论、感知和部署等方面的顾虑。尽管存在这些批评，关于该技术提升安全性或效率的正面叙事仍然占主导地位，影响着公众认知。

### 本研究的目标与程序

我们观察到，在计算机支持协作工作（CSCW）领域，关于个体在面部处理技术的推出和使用过程中所携带的感知和期望所扮演角色的研究存在不足。这些因素，连同与地点相关的、由社区驱动的参数（需求、欲望、目标），可以对行为和社会方面产生相当大的影响。除了CSCW领域之外，我们还观察到缺乏跨国研究来探讨公民的知情观点（而非对问卷的自发反应），即面部处理技术是否以及如何能够创造社会价值。因此，在我们的研究中，我们转向五个国家的公民，调查知情公民认为面部处理技术在理想未来中扮演何种角色（如果有的话）。在我们的研究中，我们在玻利维亚、印度、尼日利亚、日本和德国让114名普通民众参与了深度对话研讨会。在获得对面部处理技术的基本了解后，参与者以小组形式为技术的应用或非应用共同构建了一个未来愿景。

### 全球AI对话

本工作是更大规模的公民参与项目"全球AI对话"的一部分，该项目邀请世界各地的公民参与、讨论并就AI贡献他们的观点。迄今为止，已有来自六个国家（玻利维亚、墨西哥、印度、尼日利亚、日本、德国）的284人参与了关于面部处理技术和生成式AI的话题对话。每次对话均由当地合作伙伴共同组织和主持。在本项目相关的其他出版物中，我们提供了对尼日利亚、日本和德国生成式AI对话的首次深入分析，以及整个项目的总结。在"全球AI对话"的筹备阶段，我们调查了来自12个国家的人们对生成式AI和面部处理技术的看法，以及政策制定者想了解公众在哪些方面的意见。更多信息可在相关网站获取。所有用于开展对话的材料均可在线获取。

### 贡献及其对CSCW的相关性

本文通过对面部处理技术的社会性、协作性和合作实践进行实证研究，聚焦于人们如何想象应用——或刻意不应用——此类系统的理想未来。从批判性的CSCW视角出发，我们分析了参与者如何将面部处理技术构想为介导公民与政府、员工与雇主、企业与顾客以及公众之间关系的社会技术系统，以及这些系统应如何治理。本研究通过对五个国家普通民众在公共空间与警务执法、企业监控和社交互动方面对面处理技术的感知进行跨国比较，为CSCW和社会计算做出贡献。具体而言，我们：（1）识别了驱动普通民众对面处理技术部署未来愿景的目标，以及他们与之相关的风险；（2）描述了参与者在潜在部署前、中、后认为必要的治理措施；（3）将这些发现综合为启示和建议。这些贡献为CSCW研究者提供了知情公民对面处理技术的视角洞察，支持协作系统和参与式流程的设计，以批判性地回应公众关切。此外，我们的研究还推进了对公民对话作为CSCW和社会计算研究方法的认知。

### 研究结果概要

我们发现，总体而言，尽管参与者承认面部处理技术的局限性和风险，但认为面部处理技术能提升公共安全、为技术使用者和部署者带来便利的叙事仍占据主导地位。公民们渴望更高的安全性，并将实现这一目标的能力归于面部识别技术。面部处理技术被期望提供安全感并提高效率。公民们能够评估诸多风险并识别必要条件，如需要准确、稳健或公平、无偏见的技术——这些挑战无法仅通过技术手段解决。印度和德国的参与者对面处理技术持更批判的态度。保持公众知情和监管被视为确保负责任使用的核心机制。将治理结构和流程（包括监管）视为万能药片的认知，恰恰阻碍了对技术核心本身的质疑。

## 2 背景与相关工作

本节介绍我们的理论框架，并讨论面部处理技术在本研究涉及国家的使用情况。我们总结先前工作以阐明研究空白和研究问题，并从方法论上定位我们的研究方式。

### 2.1 理论框架：技术的社会建构与制度性信任

**技术的社会建构。** 本研究采用社会技术立场，将技术视为人类行动者、制度和基础设施之间相互作用的共同构建产物，而非单一线性进程的结果。这一立场基于技术的社会建构框架。该框架强调，技术轨迹产生于不同社会群体（如政治行动者、研究人员和专家、用户或公民）之间的交流。这些群体中的每一个都可以对同一技术赋予不同的意义和用途。这种解释灵活性使得单一的技术产物可以被多种理解和应用方式所解读。随着时间的推移，特定的解释逐渐被稳定化，直到技术看起来自然而不证自明。

虽然专家经常通过将其期望嵌入设计、制度、资金和监管中来塑造技术发展，但这些专家驱动的过程不断受到挑战。普通民众/日常用户、社区群体和其他非专家公众在采用过程中发挥着至关重要的作用，他们通过在实践中解释、抵制、改造或重新定义技术来实现这一点。这种公众参与可以推翻专家的假设、重新引导开发方向、暴露意想不到的影响，或主张替代性的优先事项。鉴于技术具有政治属性——它们塑造可用选项、限制行动路径并分配权力——我们认为考察普通民众的感知和期望对于评估面部处理技术等技术的社会后果至关重要。此外，我们强调关注普通民众在形成对新兴技术看法时影响因素的社会重要性。这些因素决定了挑战专家驱动的开发和推广的可能性，并可能作为不期望发展的纠偏机制。这对于面部处理技术尤其关键，因为正如我们在2.2节和2.3节中所示，此类技术伴随着强大的宣传和叙事，尽管存在技术局限，仍推动着其使用。此外，在人行动者、社会结构和技术的互动中，对技术的信任是一个重要因素。鉴于面部处理技术如AI系统的复杂性，学者们认为信任问题必须在制度的背景下加以考量。

**制度性信任。** 制度性信任主张认为，人们信任某项技术是因为存在支持性的语境结构和情境。

制度信任由两个要素构成：首先，情境正常性描述的是在特定情境中使用某种技术被认为是正常且令人舒适的感知[115]。例如，人们可能认为在机场使用FRT是一种正常的监控手段，从而倾向于对机场中的FRT感到舒适。其次，结构性保障描述的是存在支持性基础设施（如法律、合同或物理支持），以支持成功使用[115]并降低感知风险[136]的感知。例如，了解现有法规可能使人们对FPT的部署充满信心或假设其值得信赖。在高风险AI系统的语境下，Pande等人[130, p.6]建议将结构性保障概念化为"人们对政府和企业在管理高风险AI系统运作产生的风险方面的信任程度"。他们[130]主张关注对政府或企业的信任，因为鉴于企业无处不在的影响，人们通常是此类技术使用的主导接受者，而非主动控制者[94]。此外，随着AI技术的快速演进，人们可能对新的法律和政策结构知之甚少[149]。先前的研究为该理论提供了支持，并表明制度信任显著影响对FPT[130]、自动驾驶汽车、自动化医疗[10]或AI金融系统[10, 136]等高风险AI系统的信任。Raddatz和Green[136]强调，制度性结构不仅作为保障机制发挥作用，还是塑造用户在高利害AI情境中信心的合法性来源。这为我们尝试让普通民众评估和讨论FPT作为复杂AI驱动技术的可取性带来了重要启示：受访者对机构的感知和态度——这些机构预计将参与开发和监管网络——在解释他们对FPT的态度方面可能发挥重要作用。

2.2 FPT在玻利维亚、印度、尼日利亚、日本和德国的应用

我们首先概述FPT的最新发展，重点介绍引起广泛媒体关注的案例。一些案例体现了情境正常性，即FPT的使用已变得正常或令人舒适。其他案例则体现了结构性保障，例如法律体系降低风险。总体而言，我们发现有关FRT的媒体报道多于FCT。对于后者，我们仅在
日本和德国找到了媒体关注。

印度。印度过去五年中FPT的使用呈指数级增长，在公共和私营部门广泛部署。该技术已在多种情境中实施，从执法[7, 157]到福利项目[87, 157]。关键部署包括用于无接触旅行验证的DigiYatra计划[32, 166]、国家犯罪记录局的自动人脸识别系统用于执法[8, 139]，以及钦奈和德里等城市[139, 165]和旁遮普邦等州的监控系统[139]。此外，FPT还被用于教育机构出勤监控[16, 157]和疫情期间公共健康监测[53, 157]。在私营部门，Uber的实时身份验证功能于2022年引起关注。它使用人脸识别来验证司机身份，但许多司机因光照条件和外貌变化遇到识别问题，导致账户锁定和生计中断[13]。FPT的快速采用发生在监管相对真空的环境中——虽然印度2023年的《数字个人数据保护法》提供了一定的监管，但其中包含对政府行为的广泛豁免[156, 157]。该技术的部署引发了关于隐私、监控和公民自由的重要担忧，特别是鉴于缺乏规范FRT使用的具体立法以及数据收集、存储和处理方面的严格指导方针[156, 157]。

玻利维亚。在玻利维亚，BOL-110系统是一个监控公共空间和警务的系统（使用来自中国的FPT），于2019年8月在拉巴斯和埃尔阿尔托推出[39, 132]，并在2020年奥鲁罗狂欢节期间使用[141]。其实施引发了关于政府控制增强[39]、缺乏透明度[141]以及中国行动者潜在数据访问和影响[132]的批评。尽管面临批评，该系统此后已在其他玻利维亚城市部署，例如2023年在圣克鲁斯[127]。玻利维亚的唯一生物识别身份证登记系统旨在记录生物特征以签发身份文件[154]。FPT系统从2022年开始在埃尔阿尔托国际机场和其他玻利维亚城市引入，以简化移民管理[5, 6]，并在2023年在圣克鲁斯的教育中心实施，用于识别学生和识别未授权人员[128]。呼吁监管甚至禁止FPT的讨论主要在超国家层面进行，涉及几个拉丁美洲国家[29, 142, 185]。

尼日利亚。尼日利亚对FRT的看法以安全强化为核心[e.g., 124, 125, 182, 173, 193]，这一关注部分源于其历史上的武装叛乱和暴力事件[125, 182]，例如自2008年底以来的恐怖组织博科圣地的活动，或其他犯罪如绑架[182]。2024年初，尼日利亚政府宣布计划在日本政府帮助下[173]在主要机场安装FRT[126]，这一举措预计不仅将加强国家安全架构，还将促进投资机会[110, 126, 173]。在企业领域，FRT被宣传为可减少盗窃和欺诈、提高运营效率和客户满意度，同时承认准确性和客户体验方面的挑战[31]。鉴于过去曾面临暴力和欺诈性选举[45]，2023年联邦大选中，非洲最大民主国家政府推出了双模投票人认证系统，通过指纹和人脸识别对其9340万注册选民进行认证，旨在提高选举完整性[12, 45]。然而，关于暴力和选举可信度的报道持续存在[45]。

日本。尽管面临批评和监管呼吁[88]，日本在过去几年中在多个领域推出了FPT。关于FPT在公共空间和警务中使用的讨论在2021年中已经全面展开，起因是JR东日本铁路公司在其车站部署了FRT系统[85, 129]。该系统用于检测已出狱或处于假释状态的人员、通缉嫌疑人以及从事"可疑行为"的个人。由于有报告质疑该系统的歧视性[85, 129]以及法律批评[168]，其使用部分被暂停。在私营部门，2019年，东京涩谷三家书店联合使用FPT防止盗窃的项目引起关注，原因是统计数据显示出盗窃减少和潜在的法律问题[121]。这些案例激发了对日本监管FPT使用的呼吁[88]。这些呼吁主要针对具体案例，缺乏更根本性的讨论。FPT持续推出，例如2023年大阪引入了实验性FPT检票闸，用于进入铁路服务，并为2025年世博会运营，将其定位为展示的未来科技[79, 98]。此外，日本最大的超市连锁之一AEON于2024年7月推出FPT，通过分析员工面部表情来评分和培训员工[90, 92]。

德国。德国联邦刑事警察局运营一个FRT系统，用于识别未知犯罪者，将其图像与警察信息系统中记录的罪犯照片进行比对[25]。2023年底至2024年初，据称记者帮助逮捕了一名通缉30年的恐怖分子，通过商业软件PimEyes识别了其身份[140]。这引发了关于警方是否应获准使用此类商业面部搜索工具[99]的广泛辩论，例如在美国的情况[34]。PimEyes和Clearview未经个人同意抓取面部图像，从而侵犯隐私权[9, 19]，此前已因此受到德国和法国等国的法律审查[41, 170]。FCT目前由多家公司提供和部署，例如分析求职者视频或培训员工[70]。自2024年8月起生效的欧盟AI法案对FPT进行了监管，禁止除特定情况外在公共可进入空间使用生物识别识别系统进行执法目的的使用，特定例外包括搜寻特定受害者、迫在眉睫的重大威胁以及定位或识别犯罪分子[52]。在AI法案谈判期间，学术界和公民社会呼吁对FPT实施更严格的监管[51, 72, 159]，其中一些对结果仍不满意[e.g., 50]。

总结而言，安全叙事是各国部署FPT的主要论据。FPT普遍缺乏监管。在德国和印度，涉及数据保护的法律对FPT提供了一定的限制。对于玻利维亚和尼日利亚，我们观察到其他国家（例如中国[132]和日本[173]）的经济利益在推广FPT、输出其技术方面的影响。

2.3 FPT的公众叙事与感知研究

叙事。FPT的引入通常伴随着关于提升便利性[172, 173]或公共安全[99, 127, 132]的公众叙事。其实施通常是大型活动组织的一部分[85, 122]，其中FPT也被标记为未来技术，展示相应城市或国家的先进性[98, 172]。

感知研究。大多数FRT和FCT感知研究（也探索其可疑性或可接受性）为量化研究[e.g., 47, 101, 164]。这些研究发现，公众对FRT的感知在不同国家间存在差异[101, 164]，受隐私或歧视担忧或社会人口学因素影响[96, 100, 164]，也取决于FRT使用/部署的沟通方式[81]。FCT的感知受感知有用性[84]、推断的主观性及其与决策的相关性影响[176]。关于情绪分类，情绪数据的所有权感知、关于准确性和偏差的信念以及身份认同在支持禁止该技术方面发挥了重要作用[82]。参与者对推断情绪的AI系统表现出更负面的态度，相比之下对不推断情绪的AI系统则不然，并对所有情绪数据接收者表达担忧，其中对权力不对称较大的接收者担忧更高[83]。然而，对这些因素的研究仅限于少数国家，特别是美国[81, 82, 83, 109, 143, 176]和中国[101, 105, 143, 164]，英国或德国的研究较少[1, 96, 101, 143, 164, 176]，而对玻利维亚、印度或尼日利亚的研究对象几乎没有或有限的研究。采取不同的方法论途径，2020年和2023年举办了两次关于FRT的公民对话，早于本文呈现的内容：在英国，公民制定了建议，包括制定综合立法和监管、设立监督机构以及确保标准[2]。类似地，在美国，大多数参与者认为政府应负责确定当个人或群体受到伤害时应追究哪些当事方或行动者的责任[11]。

2.4 玻利维亚、印度、尼日利亚、日本和德国的FPT感知研究

FRT。关于FRT感知，Kieslich和Lünich[96]发现具有歧视担忧的德国参与者要求加强FRT监管。这对于对AI或执法部门信任度高的公民来说恰好相反[96]。调查德国、中国、美国和英国参与者后，Kostka等人[101]也发现对政府的信任以及对技术的亲和力会提高FRT可接受性。个人隐私担忧和国家的监控历史会降低FRT可接受性[101]。德国公民呼吁严格监管以应对风险，而中国公民则强调FRT的好处[101]。在这些国家中，大多数受访者认为FRT增加了安全性，但对歧视影响的认知较低[164]。德国和美国的参与者表达的可接受性低于中国和英国参与者[164]。印度的一项研究显示，50%和46%的受访者完全支持政府和警方使用FRT；仅11%支持私营机构使用[118]。

FCT。一项关于日本公民对情绪化AI（即旨在监控、评估、模拟和回应人类情绪）在医疗领域感知的研究表明，尽管对该技术的了解和认知很少，但人们仍然信任其适当使用[111]。

这与一项针对国际学生的研究相符，该研究发现，与西方受试者相比，东亚受试者更倾向于信任具有情感化功能的AI赋能自动化管理系统[112]。其他研究发现，日本受试者对面部分析AI表现出更为批判的态度，而来自阿根廷、美国或肯尼亚的受试者则相对积极，其中肯尼亚参与者最为肯定[176]。Vijayakumar等人[186]发现，印度消费者对基于FPT广告带来的隐私侵犯缺乏认知。Irhebhude等人[84]发现，尼日利亚政府工作人员认为面部生物识别技术有助于改善种族检测，并提升其工作效能。

**2.5 CSCW领域关于FPT的先期研究**

FPT也是CSCW研究的对象：关于使用FRT获取酒店入住房间的便利，Greiffenhagen等人[64]发现，用户和旁观者会进行"自我规训工作"，即控制自身的面部（及身体）行为，以获得系统的识别或避免被识别。Watkins[188]在探索网约车工作中FRT用于账户验证时报告，司机需要采取缓解策略（如反复上传所需图片，以及对身体做出物理改变）以应对潜在的系统故障并满足雇主的交互协议。Ullstein等人[181]通过举办FRT影响的多方利益相关者研讨会，发现不同利益相关者之间存在显著的立场差异。Scheuerman等人[153]在考察图像数据库中的性别和种族标注时，发现缺乏关于这些身份如何定义以及标注过程的信息。在另一项研究中，Scheuerman等人[152]分析了十种商业面部分析和图像标注服务，发现面部分析服务无法对非二元性别进行分类。相关地，Keyes[93]表明，自动性别识别以排斥跨性别者的方式使用了性别概念，因此对受该技术影响的跨性别个体构成了不平等风险。在一个较为少具系统批判性的话题上，Islam和Bae[86]看到改善心理健康监测与预测的潜力，开发了一种开源移动感知系统来分析面部行为标志点，以检测抑郁发作。正如这些关于FPT的CSCW和社会计算维度的先期研究所示，这些技术及其与人类的交互对社会行为有着巨大影响，并可能带来显著的社会组织后果。

**2.6 研究空白与研究问题**

综合来看，CSCW社区的先期研究中，我们观察到对个人在技术推出和交互过程中所携带的感知与预期之角色的研究匮乏。除CSCW外，大多数FPT感知研究采用定量方法[e.g., 47, 101, 82, 83]。在这方面，Tahei等人[169]指出，调查方法在妥善使人们参与AI研究、开发和治理方面存在局限性。研究者们也越来越多地呼吁参与AI[e.g., 54, 18, 40, 21]。此外，我们观察到跨国研究的缺乏，这些研究并非聚焦于对调查的自发性反应，而是研究公民对FPT能否以及如何创造社会价值的知情意见。已有呼吁开展FRT的跨国感知研究[105]，并表达了对"[t]向公众宣传和普及面部处理的各种用途、其益处、风险和局限性"的需求[80]。

为解决这些空白和研究呼吁，我们在工作中转向来自五个不同国家的公民，并提出以下问题：

**RQ1:**（在多大程度上）面部处理技术被构想为理想未来的组成部分？如果是的话：

**RQ2:** 必须满足哪些条件，即应采取哪些措施，才能在未来的社会中实现面部处理技术的理想化应用？

为回答这些研究问题，我们在五个国家中组织了114名普通民众参与为期6小时和3.5小时（在日本）的深度对话研讨会：玻利维亚（N=18）、印度（N=22）、尼日利亚（N=29）、日本（N=24）和德国（N=21）。在研讨会之前和期间，参与者能够获取FPT的基本知识，并基于位置特定的话语，以小组形式发展出关于该技术应用或不应用的共同未来愿景。他们还考虑了实现这些共同愿景的措施以及不同行动者在这些愿景中的角色。这使我们能够捕捉上文所述的关于机构重要性的感知，并在基于机构的信任语境下解读这些感知。

**2.7 方法论背景化**

我们将研讨会方法置于CSCW和HCI中已确立的参与式研讨会方法论传统[71, 77, 147, 171, 192]中，并据此设计了研讨会方案。参与式研讨会通常从一个启动性刺激开始——通常以探针[20]或挑衅[192]的形式——以使参与者融入所涉情境。这种初步参与为集体探索奠定了基础，参与者基于自身生活经验和视角想象和评估预期影响。此类过程通常产生旨在塑造未来议程和政策的有形成果。这一程序结构在以往研究中也有类似运用[e.g., 48, 192, 77, 75, 76]。

我们所采用的特定研讨会流程以促进群体对话为手段，综合运用了来自设计未来学[44, 48, 89]（由[56]引入的术语，作为像[102]所提出的推测性设计和设计虚构等方法的上位概念）的方法论，以及未来学[48, 61, 144, 145, 167]、叙事与数字伦理[65, 77]和技术评估[66]的方法论。虽然这些方法源自不同领域，但均包含参与性维度。研讨会流程还建立在作者先期工作[74, 75, 77, 78]之上。

**3 方法**

**表1 GQM分类**

**目标1：** 从普通民众视角出发，表征FPT在理想未来中的角色（如有）

**目标2：** 表征普通民众在其理想场景中为FPT构想的角色所提出的要求、措施和负责行动者

**测量目标：**

– 分析普通民众在特定应用场景（公共空间与警务、企业监控、社会互动）中对FPT在理想未来中预期角色的分析——用于表征目的[1]——涉及FPT被赋予的能力和FPT（不）应用的预期影响——从研究者视角——在玻利维亚、印度、尼日利亚、日本和德国的对话研讨会情境中。

– 分析普通民众为FPT实现其预期影响以及负责执行者所想象的要求和必要措施的分析——用于表征目的[1]——涉及FPT所设想的（不）应用的有利条件——从研究者视角——在玻利维亚、印度、尼日利亚、日本和德国的对话研讨会情境中。

**问题：**

Q1.1: 玻利维亚、印度、尼日利亚、日本和德国的普通民众是否认为FPT是理想未来的组成部分（在公共空间与警务、企业监控、社会互动情境中）？

Q1.2: （如适用）玻利维亚、印度、尼日利亚、日本和德国的普通民众如何设想FPT对各应用场景的影响？

Q2.1: 玻利维亚、印度、尼日利亚、日本和德国的普通民众对FPT理想的（不）应用预期哪些要求？

Q2.2: 玻利维亚、印度、尼日利亚、日本和德国的普通民众预期采取哪些措施以确保FPT理想的（不）应用，以及他们认为谁对措施实施负责？

**指标：**

对于Q1.1：通过对手册中目标和未来场景部分进行定性分析，以及对调查中理想未来问题的定量分析，评估FPT是否为想象的理想未来的组成部分（参见C(1)）。

对于Q1.2：通过对手册中笔记、目标、未来场景和益处部分进行定性分析，推导FPT的预期影响和被赋予的能力（参见C(1)）。

对于Q2.1：通过对手册中笔记和益处与风险部分进行定性分析，推导FPT理想的（不）应用的预期要求（参见C(1)）。

对于Q2.2：通过对手册中利益相关者映射和回溯分析部分进行定性分析，以及对调查中间规与机构问题的定量分析，推导FPT理想的（不）应用的措施和负责行动者（参见C(2)&(3)）。

利用GQM[1]框架构建的**目标、目的和研究视角**：我们使用"表征"这一术语，指的是Briand等人[23, p.256]所定义的"对研究对象当前状态形成快照"。在我们的案例中，这指的是参与者想象中FPT在理想未来场景中的角色（目标1），或他们对FPT作为想象中的理想未来组成部分所预期的要求和认为必要的措施（目标2）。

本部分概述了与研究目标、目的和研究视角相关的研究程序。我们通过采用目标-问题-指标（GQM）框架[191]来说明这一点。本研究的主要目标，即强调普通民众的感知，可利用GQM目标模板[23]分为两个测量目标，如表1详述。首先，每个目标由其研究对象、目的、焦点或视角、所采用的视角以及研究情境定义。其次，每个目标通过一系列问题进行表征。最后，我们概述了解答每个问题所使用的数据类型及相应分析程序。

**3.1 数据收集、多国研究团队与经济补偿**

为探索不同文化簇[67]中普通民众对FPT的感知和未来愿景，我们在2024年7月至12月间在玻利维亚、印度、尼日利亚、日本和德国举办了五场深度对话研讨会，通过从多个国家收集数据进行来源三角验证[131]。定性数据收集自小组讨论记录和推广员笔记，定量数据则通过整合在研讨会中的多部分调查获取。调查（定量数据）的功能在于捕捉个体视角。讨论（定性数据）的功能在于让人们交流视角，并基于互动形成意见。我们使用这两种数据来源，如表1指标规范中所述，来回答我们的研究问题。从定性数据中，我们基于所有小组讨论提取总体主题，这些主题也反映了国家特定差异。在公民对话之前，我们使用48名参与者进行了两次预研究，测试对话过程的不同部分（详见附录A.1）。

第一作者的机构提供了研究资源。我们获得了合作大学之一的伦理审查批准。在研究的执行和数据分析中，我们遵循了既定的伦理研究规范。参与者可自由在随时退出研究。隐私是重中之重；所有收集的数据均经过匿名化处理，整个研究过程中保持了参与信息的保密性。我们的分析聚焦于国家层面[4, 146, 183]，承认这种方法不声称对更广范围人群的全面代表性[3]。我们遵循了开展跨国研究的最佳实践[135]。为确保全面的数据收集和分析能力，我们组建了一个多国、多性别、跨学科的研究团队。该团队涵盖数学、计算机科学、政治学、科学技术研究、人机交互和隐私经济学。每个国家至少有两名在该国出生和/或长大的研究人员，通过组建五个国家团队进行分析师三角验证[131]。参与者获得了经济报酬，金额和形式由各国团队在咨询发起研究人员后决定，以确保国家之间的公平性（详见附录A.2）。

**3.2 公民对话研讨会流程**

**信息材料：** 在研讨会对话前的2天至1周内，每位参与者获得信息材料，以便有充足时间浏览材料、进行额外研究并事先形成自己的初步意见。材料包含关于AI一般知识的两页和关于FPT的三页，涵盖其工作原理、风险、益处和应用情境。材料主要由团队中的两名研究人员编写，经其他团队成员反馈，并由四名外部专家审阅以确保内容中立性。所有国家使用相同材料（部分适配为本地案例），并翻译为当地语言。

**研讨会设计与结构概览：** 对话研讨会结构为6小时和3.5小时（在日本适用）的会话。图2提供了结构概览。参与者首先被欢迎并介绍研究项目，随后完成初始调查。在通过研究团队的简短讲座获得基础知识后，参与者完成第二次调查。然后他们参与小组讨论，利用预先设计的工作表作为指引。

这些材料由当地合作伙伴和外部评审人员共同开发，确保与当地文化的相关性，并通过翻译成当地语言保证清晰性。工作坊工作表可在 https://osf.io/e7dx3/ 获取。小组引导员解释工作表并主持讨论，通过田野笔记记录整个过程。这些过程最终以一份反映FPT（面部处理技术）及当日活动的最终调查问卷作为总结。

图2. 工作坊流程步骤。工作表可在 https://osf.io/e7dx3/ 获取。

以下是我们详细介绍工作坊流程的各个步骤：

**介绍环节。** 每个小组由4至7名参与者组成，以介绍和破冰活动开始，分享他们关于FPT的经历。一项实践任务涉及测试两款免费可用的FPT工具[1]，促进对技术的亲身体验。各小组制定了行为准则，以确保公平参与和尊重对话。

**主题探索与后果映射。** 各小组通过数据卡摘要了解三个预选主题领域，并辅以公共媒体中（如果可能，来自各自当地语境）已有的普遍用例：FPT与公共空间及警务（PSP）；FPT与企业监控（CS）；FPT与社会互动（SI）。各小组选择一个主题和一个相应的"假设性问题"（例如，如果FPT被确立为警务工具会怎样？）来引导讨论。利用后果映射法，各小组对所选情景的潜在结果进行头脑风暴，采用可视化方法来探索直接和间接后果。引入风险冲动卡以纳入基于FPT影响学术文献的关键视角。

**优先级排序与利益相关者映射。** 在完成后果映射后，各小组对最重要的结果进行投票，并评估其可能性和影响。这引导出利益相关者映射，其中各小组确定相关行动者及其策略，以在各自的应用语境下实现应对FPT的期望结果，利用改编的叙事分析模型[65]。

**未来情景的回溯规划。** 在最后阶段，各小组参与回溯规划。他们阐述理想的未来现状，并确定实现该目标所需的措施，受回溯规划冲动卡的引导，促使其反思可能的步骤。工作坊以全体会议结束，各小组分享其回溯规划成果。

**3.3 调查流程**

调查包含三个部分，由每位参与者分别在对话过程中的三个不同时间点单独填写，以记录参与者的个人认知。参与者在接触AI和FPT之前填写第一部分（10分钟），涉及他们对AI的认知（对AI的感受[174]、AI态度[63]）以及媒体中的AI（AI兴趣[95]、AI相关新闻的媒体消费[42]、媒体中AI的形象、议题覆盖、对AI和FPT的了解）。参与者在开始小组流程之前填写第二部分（5分钟），涉及FPT接触点和人口统计信息。参与者在对话步骤结束后填写第三部分调查（10-15分钟），作为反思练习。他们反思对话过程、FPT在PSP、CS和SI中的使用及其可取性，关于监管需求和负责任的行为者[101, 164, 174]。调查项目包括单选和多项选择题、5点李克特量表[91]以及三个开放式文本问题（感受、职业、反馈）。

**3.4 招募与参与者样本**

参与者招募过程采用目标性招募，通过各种沟通渠道和社区参与[163]分享关于对话活动的信息（受[77, 113]启发），包括研究同意书。这种方法旨在提高性别、年龄和AI知识方面的多样性[58]，最终得到感兴趣的普通人群中自我选择的预注册子集。我们基于普遍性原则选择了自我选择，这反映了公民参与的参与式理想[113]。我们对所有预注册者实施了带有随机成分的目的性抽样[163]。我们确保每个对话工作坊小组在性别上多样化，并在年龄集群（20年间隔："低"、"中"、"高"）和AI知识水平（"低"、"中"、"高"）上多样化。这种方法可以被视为"微型公众"，即居民聚集讨论公共利益事务[57]。

我们从玻利维亚、印度、尼日利亚、日本和德国招募参与者。选择这些国家是基于探索性方法，旨在捕捉来自全球南半球和北半球不同范围国家的认知，并根据Gupta等人[67]的分类代表高度不同的文化集群："拉丁美洲"、"撒哈拉以南非洲"、"儒家亚洲"、"南亚"和"日耳曼欧洲"。我们的分析单位聚焦于国家层面而非文化层面，这使我们能够将研究分类为跨国研究[4, 146, 183]，后者有时被视为跨文化研究的子类别[183]。

114名参与者来自5个国家、23个讨论小组参加了对话工作坊（详见附录表4的人口统计详细信息）。该数据集包括来自玻利维亚的18名参与者（女：44.4%，男：55.5%；中位年龄组：25-34岁），德国的21名（女：38.1%，男：61.9%；中位年龄组：35-44岁），印度的22名（女：36.4%，男：63.6%；中位年龄组：25-34岁），日本的24名（女：45.8%，男：54.2%；中位年龄组：35-54岁），以及尼日利亚的29名（女：51.7%，男：44.8%；中位年龄组：25-34岁）。样本反映了各自国家的年龄结构。我们每国样本量（20+）符合定性CSCW和HCI研究的规范[例如97, 77, 71, 181]。我们的总样本量超过了这些规范。

**3.5 定性数据分析与编码程序**

每个国家团队分析了他们在本国收集的定性数据。该程序涉及对所有工作表进行编码[2]，从影响和风险评估开始。为确保定性结果的质量和可靠性，以及跨越五个国家和四个时区的顺利合作，我们遵循了迭代式[104]数据分析和透明文档记录的最佳实践。在开始编码程序之前，我们进行了一次培训会议，讨论分析指南（见附录C）。每个团队执行相同的编码程序，包括开放编码、评估编码和聚焦编码[148]，分析指南中对此进行了描述。我们使用了一个所有研究人员都可以访问的"活代码本"电子表格，以非同步方式记录识别出的编码。其结构反映了工作表的各个部分。如果代码本中不存在类似的代码，我们采用归纳法[104]创建编码。我们选择非确定性归纳编码而非演绎编码，例如基于机构信任概念的组成部分，以避免预设框架，并专注于从收集的数据中识别和形成编码。在所有国家团队进行第一次编码讨论会议后，383个初始编码基于相似性缩减为305个。经过第二次讨论会议，这些编码被组织为105个类别并归纳为43个集群。我们在附录D中报告了代码本。在降低代码结构复杂性时，我们注意不要丢失各国特有的概念。由于所有编码都在各国团队内部和团队之间进行了审查和讨论，我们没有报告编码者间信度分数。我们引用McDonald等人[114]的观点，即在讨论会议中达成的非正式共识足以传达可靠性，尤其是在处理非结构化数据时。

**3.6 定量分析过程**

我们对所有单选和多选调查问题应用频率分析[104]，并报告均值和标准差。对于具有多个项目的量表测量（AI态度和AI兴趣），我们计算了均值指数[42, 63, 95]。我们计算了ANOVA或Kruskal-Wallis检验以及成对比较，以评估五个独立样本（日本、印度、德国、尼日利亚、玻利维亚）之间的统计显著差异，并在附录E.2中报告假设检验和检验统计量。混合方法方法[104]使我们能够更深入地了解人们对FPT的认知。

**4 结果：关于PSP、CS和SI的对话**

**4.1 结果概述**

在全部5个国家的23个小组中，11个讨论了公共空间和警务语境（PSP），2个讨论了企业监控语境（CS），10个讨论了社会互动语境（SI）。表2展示了各国之间的分布情况。我们观察到，德国、尼日利亚和玻利维亚部分SI小组的讨论倾向于汇聚为PSP论点。在必要时，我们在下文中标注讨论语境。

表2. 语境分布 | JP | IN | GER | NIG | BOL | 合计
公共空间与警务 | 2 | 1 | 3 | 2 | 3 | 11
企业监控 | | 1 | 1 | | | 2
社会互动 | 2 | 2 | 2 | 2 | 2 | 10
小组总数 | 4 | 4 | 5 | 5 | 5 | 23
参与者总数 | 24 | 22 | 21 | 29 | 18 | 114

讨论语境分布（小组数量）及各国参与者数量

下文我们报告定性结果，通过缩写标注哪些国家涉及哪些集群/编码（日本：JP，印度：IN，德国：GER，尼日利亚：NIG，玻利维亚：BOL）。高级集群以粗体斜体报告，低级别编码以斜体报告。

**4.2 参与者对AI的态度、接触点和媒体认知**

大多数参与者表示对AI持较为积极的态度，其中尼日利亚参与者表现出最积极的认知（NIG: M=4.44, SD=0.5），且与印度（M=3.51, SD=0.85；p<0.001）和德国（M=3.83, SD=0.73；p<0.01）之间存在统计显著差异（χ2=22.46, p<0.001, df=4）。在所有国家中，对执法部门和企业使用FPT的认知度最高。相比之下，他们对FCT用例或企业数据抓取实践（用于构建面部数据集）的了解较少。绝大多数参与者（跨所有国家）不知道自己曾接触过其中任何一种用例（详见附录图10）。

在所有国家中，78.1%的参与者表示AI主要在技术话题（如IT安全）的背景下被报道。日本和尼日利亚参与者尤其如此。玻利维亚参与者从新闻中了解到的FPT信息显著少于德国和印度参与者（χ2=15.16, p<0.01, df=4；各p=0.021）。在所有国家中，FPT在媒体中被报道得更为平衡，即包含更多负面报道，高于AI在媒体中的报道情况。德国参与者报告的FPT媒体形象显著（χ2=19.37, p<0.001, df=4）比玻利维亚、印度、日本（各p=0.01）和尼日利亚（p<0.001）参与者更加负面。

图3. 目标、风险、责任行为者和动机的集群

该图可视化了与FPT使用相关的相互关联的集群。该图由四个主要组成部分构成：（1）目标与效益（绿色）：包括提高安全、改善流程效率、增强用户体验和确保系统稳健性等目标。长期愿景包括保护人权、建立监管框架、促进合作、推动公平包容的社会以及福祉、信任和健康发展。（2）被认为最相关的风险（橙色）：突出关键风险，包括滥用和缺乏治理（如数据滥用和监督不力）、系统结果不准确（如数据集局限性和偏差）、权利丧失和行为变化（如隐私、多样性和自决权受到威胁），以及更广泛的经济和环境风险。（3）实现目标的责任行为者（蓝色）：确定各政府机构（如地方政府、司法部门）、私营部门（如开发和部署行业）、教育和公民社会行为者（如大学和记者）以及公众中的关键行为者。（4）动机（蓝色）：将动机分为经济动机（如财务激励）、社会动机（如安全与保护）和政治动机（如创新与技术进步）。虚线表示集群之间的相互联系，展示了FPT实施和治理的复杂性和多方面性质。

**4.3 系统如何被使用以及目标是什么？**

我们确定了四个系统使用集群和三个应通过FPT使用实现的目标集群（见图3）。在公共空间和警务语境中，有7个小组讨论了将FRT用于刑事犯罪调查和寻找失踪人员（GER, NIG, BOL），包括失踪人员或罪犯（GER, BOL）。这一用例与最常表达的目标——提高安全和减少犯罪（跨所有国家16个小组；主要为PSP）——相一致。虽然大多数小组假设安全将增加，但两个德国小组区分了"安全感"的增加[GER - PSP3]。其他小组（主要为PSP）描述FRT的使用可预防犯罪，从而减少犯罪，例如因为威慑罪犯（JP, GER, NIG, BOL）。相比之下，日本参与者讨论了将FRT用于灾害情况下寻找失踪人员，而非犯罪情况。

支持行政程序的用例集群涵盖了FRT的使用，例如"身份验证"[NIG - PSP2]和"更高效的行政流程"[GER - PSP2]（PSP: GER & NIG；CS: NIG）。

相关联的是效率提升的目标（德国、荷兰、玻利维亚），包括高效的执法程序（德国：公共空间与警务；玻利维亚：公共空间与警务）以及执法以外的高效行政程序（德国：公共空间与警务；荷兰：客户服务）。最后一个聚类围绕社交互动场景，在该场景中，面部识别技术（FCT）进行面部推断以支持各种程序，来自所有国家的群体都对此进行了讨论。一些群体笼统地提及了FCT（德国），另一些则建议利用FCT支持与客户（日本、荷兰、玻利维亚）或同事之间的互动，或选拔合适人员（玻利维亚）。日本和印度的参与者还提到了利用FCT监测健康状况（日本、印度）。该用例聚类与体验改善的目标相关（日本、印度、荷兰、玻利维亚；主要是社交互动场景）。它描述了通过使用FCT，用户或工作人员体验可能得到改善的情景，包括通过定制化、更好的客户体验以及更多的工作互动来实现。

一些参与群体并未具体说明某个用例，而是讨论集中在他们假设FCT可能有助于实现的泛化目标上（例如"安全得到加强"［荷兰?公共空间与警务1］；这是最常被提及的目标）。

**4.4 实现目标需要哪些要求？**

参与者描述了实现上述目标和效益所需的系统功能或设计原则以及治理要求，即系统功能。关于系统功能与设计原则，必须确保系统具备稳健性（日本、印度、荷兰、玻利维亚），即"准确、高效、透明"［印度?客户服务］。此外，隐私保护系统也被认为是必要的，特别是包括"数据保护保障措施"［印度?社交互动1］（日本、印度、德国）。关于治理要求，必须建立监管框架（印度、德国、玻利维亚），包括知情同意机制、辅助工具的目的定义以及无障碍要求（主要是社交互动场景）。此外，三个群体提出了利益相关方协作和技术认知（印度、玻利维亚）的目标，即通过公民实现"社会控制"［玻利维亚?公共空间与警务5］，公民和工作人员具有认知并得到适当培训。

**4.5 会出现哪些风险？**

参与者认为最相关的风险可归纳为五个聚类。第一类"滥用与缺乏治理"风险包含最常被提及的风险，即系统或数据的滥用（来自所有国家的15个群体），涉及政府或私营部门的滥用行为。缺乏适当治理描述了在没有政府政策的情况下使用FCT、对公民缺乏透明度以及在FCT目标上难以达成社会共识等问题（印度、德国、玻利维亚）。第二类"分类或识别结果不准确"指识别结果不准确的风险（印度、荷兰、玻利维亚），以及训练数据集的局限性（德国、荷兰），也可能导致偏见和歧视（印度、德国、荷兰、玻利维亚）。七个参与群体提出了对有效性和科学性的担忧（印度、德国、玻利维亚），认为从面部进行推断性分析是"伪科学"［印度?社交互动2］，或"安全是否真的提高值得怀疑"［印度?社交互动2］。第三类"权利丧失与行为改变"风险关注通过"侵犯"［日本?公共空间与警务1］表达自由权导致权利丧失的风险，进而可能引发"民权丧失"［德国?公共空间与警务3］（日本、德国、荷兰、玻利维亚；主要是公共空间与警务场景），以及因"破坏隐私权"［玻利维亚?公共空间与警务5］而导致的隐私和匿名性丧失（日本、印度、德国、玻利维亚；9个群体，主要是公共空间与警务场景）。该聚类还涉及因"强加规范"［日本?社交互动2］或"难以退出"［日本?公共空间与警务1］而导致的多样性和自主权丧失风险（日本、印度、德国；公共空间与警务和社交互动场景），以及个体"为维持利益并避免不利"而改变行为的危险［德国?社交互动1］（日本、德国、玻利维亚）。此外，对拒绝使用FCT带来的不便感知或人们拒绝被拍摄照片可能产生的潜在负面长期影响也被重点关注。第四类"经济风险"（印度、玻利维亚、荷兰）描述了系统部署方对FCT技术和/或训练人员高昂成本的担忧、部署方和用户或受影响个人对失业和人技能退化的担忧，以及用户因访问费用受限而面临的风险。第五类"环境风险"（日本、玻利维亚）描述了对FCT使用造成环境影响的担忧，如"能源消耗增加"［玻利维亚?公共空间与警务1］。

**4.6 应实施哪些措施？**

图4展示了来自所有国家参与群体识别出的六类措施。

图4. 来自所有国家参与群体识别出的措施聚类

该图概述了面部处理技术（FPT）成功实施和治理所需的各项措施。措施被分为六个类别：（1）监管措施：侧重于法律和监管方面，包括建立健全的法律体系、保护人权、确保人类决策权、提供同意和退出政策、将使用限制在合理场景内以及实施违规处罚。还强调了透明度和标准化。（2）监控与评估机制：包括机会和风险分析、试运行、持续监控、维护、技术改进以及建立问责和透明结构。还突出了社会监控和评估机制。（3）技术要求措施：强调需要具有伦理性和防滥用能力的系统、隐私设计、准确性和稳健性、公平性、能源效率以及用户友好性。（4）教育与意识措施：强调对公众和所有利益相关方进行素养和教育培训以及创造认知度的重要性。（5）对话措施：鼓励多利益相关方对话，并与公民直接互动以解决担忧并促进协作。（6）实施措施：包括培养专业专长、开发旗舰项目、创造创新激励、确保基础设施可及性、提供安全资源以及采用实验性"沙盒"环境。——这些类别相互关联，展示了应对FPT实施挑战与机遇的整体性方法。

监管措施是所有讨论群体和所有国家中最常被强调应实施的措施。在各群体的回溯情景中（见第3.5节），监管措施要么位于时间线中间作为中间目标，要么作为最终目标，且之前有其他措施作为铺垫。各群体提到了不同类型的监管措施。监管应保护人权和个人自由（印度、德国、玻利维亚），包括同意和退出政策（日本、印度、德国、荷兰），并定义人类应始终作为最终决策者（德国）。监管应界定有限且合理的用途（日本、印度、德国、玻利维亚），例如"仅作为支持人类行动的工具"［德国?公共空间与警务2］，应配以标准以确保质量（印度、德国），并建立违规处罚机制（印度、荷兰）。最后，应为政治行动建立透明机制，以"让公众了解正在实施的措施"［玻利维亚?公共空间与警务1］。

监控与评估措施包括进行机会和风险分析（印度、德国、荷兰、玻利维亚）、进行试运行（德国、玻利维亚）以及实施监控和评估程序（印度、德国、玻利维亚）。应根据监控和评估结果进行维护和技术改进（德国、荷兰、玻利维亚）。必须建立问责和透明结构（日本、印度、德国），以"追究企业责任"［印度?客户服务］或也将警察纳入问责范围，并创造"对公民的透明度"［德国?公共空间与警务1］。

教育和意识措施被认为是必要的，包括面向广大公众的培训和教育项目，也面向警察等部署方（所有国家）。除教育项目外，各群体还强调了"个人和司法机构"［印度?客户服务］以及其他当局需要了解"问题和后果"的必要性［德国?社交互动1］（印度、德国、荷兰、玻利维亚）。

对话措施包括多利益相关方对话，需有"来自公民社会但最终用户的持续输入"［印度?公共空间与警务］，以及与非政府组织和政府组织的合作，以及与公民的对话（所有国家）。后者指"通过市民委员会……或公投等方式代表性地让公民参与"［德国?公共空间与警务3］，同时也确保"在过程的各个阶段始终提供参与机会"［德国?社交互动2］。

关于技术要求的措施包括对具有伦理性和防滥用能力系统的研究（日本、印度、荷兰、玻利维亚）以及隐私设计（日本、印度）。参与者强调，系统必须准确稳健（日本、印度、德国、荷兰）、公平无偏见（日本、印度、德国）、节能（日本）且用户友好（德国）。

开发和实施措施涉及通过适当培训和专家人员培养部署方的专业专长（日本、德国、荷兰、玻利维亚）、建立沙盒（日本、印度）、实现旗舰项目（德国）和定义愿景（日本）。此外，应提供企业驱动创新的激励措施（印度），建设FPT部署的基础设施（印度、德国、荷兰、玻利维亚），并确保财务资源（日本、印度、德国、玻利维亚）。

**4.7 谁是责任主体？**

在讨论谁应确保FPT以理想方式使用时，参与者识别出五个主体聚类。政府机构和立法机构，包括国家和地方政府（日本、印度、德国）、行政和司法部门（日本、印度、德国、玻利维亚）以及超国家组织（德国），负责FPT的监管和政府的适当使用。特别是德国参与群体强调了地方政府以及行政机构和欧盟在监管FPT和执行监管方面的作用。私营部门，包括开发行业（日本、印度、德国）、使用行业（日本、印度、荷兰、玻利维亚）以及保险公司等支持行业（日本），负责FPT的开发、适当使用以及出现故障时的保险。教育主体（日本、印度、德国、玻利维亚），包括学校和大学、公民社会组织及新闻工作者，被赋予在社会中创造认知度和构建知识的角色。公众（印度、德国、荷兰）被强调为责任方，例如公众应自我教育。最后，特定个人如服务使用者（日本、荷兰）、技术专业人士和领域专家（日本、印度、玻利维亚）或监护人（玻利维亚）也被认为对FPT的负责任开发和负有责任。

**4.8 受益者、非受益者以及反对者/障碍是什么？**

图5. 受益者、非受益者及反对者/障碍的聚类

最后，图5总结了识别出的受益者、非受益者和反对者。政府被描绘为从工作流程简化中获益的群体，但由于程序复杂性不断增加而面临超负荷的风险。包括弱势群体在内的一般公众被认为能从通过视频监控增强的安全性中获益。一些人还特别说明，由于监管的存在将不会有监控行为，这再次将适当监管的必要性定位为FCT部署的基础要求。弱势群体被确定为最大的非受益群体，强调了该技术对差异化影响的风险。隐私丧失被强调为通过FRT实施而受到损害的社会方面。参与者将公众和公民社会视为反对FPT的关键力量，并将法律挑战和资源不足识别为其部署的障碍。关于这些结果的更多细节见附录E.1。

**4.9 参与者在对话后对FPT的个人反思**

图6. 可视化图表展示：（1）五个研究国家（玻利维亚、日本、荷兰、印度、德国）在三个不同场景中FPT使用评价的差异；以及（2）五个研究国家（玻利维亚、日本、荷兰、印度、德国）对"对社会有益""对我个人有益""对我个人有影响"三个陈述评价的差异——中间行展示最常选择的两个场景（公共空间与警务），最后一行展示社交互动场景。

该图呈现了由两部分组成的拼贴图。第一部分包含三个箱形图，可视化了五个研究国家（玻利维亚、日本、荷兰、印度、德国）在三个不同场景中FPT使用评价的差异。第二部分包含六个箱形图，可视化了五个研究国家（玻利维亚、日本、荷兰、印度、德国）在公共空间与警务场景（中间行，三个箱形图）和社交互动场景（最后一行，三个箱形图）中对"对社会有益""对我个人有益""对我个人有影响"三个陈述评价的差异。

在群体对话结束后，参与者完成了问卷的最后部分。当被问及FPT是否可以成为理想未来的一部分时，来自所有国家的多数参与者选择了"是"，德国参与者的抵触情绪最明显（日本：87.5%，印度：86.4%，德国：71.4%，荷兰：100%，玻利维亚：94.4%）。当被问及是否需要监管措施以确保实现FPT的理想未来时，没有参与者认为FPT应无限制地实施。

尽管23.6%的参与者认为需要具有法律约束力的监管措施，60.5%的参与者认为需要同时具备法律约束力的监管措施和自愿性措施（4.4%表示只有自愿性监管措施才有益，11.4%——尤其是德国参与者——未作回答）。当被问及他们最信任哪些机构来制定使FPT安全使用的措施时，所有国家的受访者（玻利维亚除外）都最信任政府或政府间组织、独立监管机构或AI安全研究所（见图11附录）。82.8%的尼日利亚参与者表示企业应承担责任。对德国、印度和尼日利亚的参与者而言，民间社会组织的作用居次要地位，但对玻利维亚或日本的参与者则不然。

图6(1)展示了不同应用场景下对FPT的个体评估。总体而言，我们发现来自印度（M=2.6，SD=1.0）和德国（M=2.5，SD=1.1）的参与者评价更为负面，而来自玻利维亚（M=3.5，SD=0.7）、日本（M=3.7，SD=0.9）和尼日利亚（M=3.7，SD=0.8）的参与者评价则相对积极，这一趋势贯穿了所有三种情境（PSP、CS、SI）。在CS情境下，印度和德国的参与者对FPT的反对态度显著强于其他国家（p<0.01）。在SI方面，印度参与者对FPT的反对态度显著强于尼日利亚和日本参与者，而德国参与者则显著强于日本参与者（p<0.01）。这些评价倾向（见图6(2)）在评估FPT对PSP的益处时依然存在，并且对于FPT对社会和个人在SI方面的益处具有显著性。

**4.10 各国结果的具体反思**

最后，我们从各国的角度对研究结果进行反思，并在括号中提供参与者语录（翻译为英文）。

**印度。** 大部分讨论基于参与者们在印度对普遍存在的FPT技术的个人经历和互动，特别是Digiyatra [32, 166]。他们批评了其隐私政策，并对缺乏透明度——尤其是如何收集和存储个人数据方面——提出担忧（"个人成了企业的吸盘，因为从中可以赚到大钱"）。总体而言，印度参与者对技术持较为批评的态度（"这些技术仍处于非常初级的开发阶段，容易出错"）。尽管如此，大多数参与者相信其有益影响（"这项技术将提高效率"，或"可以威慑犯罪，减少犯罪活动，增加安全性"）。参与者特别强调了多样化训练数据集的必要性（"更多多样化和无偏见的数据集"，或"政府与私营机构协作以填补数据缺口"），其中应纳入有色人种以增强系统的可靠性。

**日本。** 日本参与者总体而言对FPT持较为积极的态度，即使是警察使用或社交互动场景（"我们可以考虑基于面部表情分析制定满意度措施"）。这通常源于一种想法，即对于"无可隐瞒"的人来说，FPT并不构成特别问题。对于FPT中的偏见等歧视问题，关注较少。关于在灾害情况中使用FPT的讨论似乎为日本情境所独有（"灾害情况下的人员配对、搜寻失踪人员等"）。关于福祉的讨论不像其他各国那样侧重于社会公平，而更侧重于个人安全或幸福。

**玻利维亚。** 总体而言，玻利维亚参与者比较支持FPT的使用。实现公共安全（"通过持续监控提高公共安全"，或"会有一个数据库可以告诉你某个区域是否有危险人物"）的目标以及企业和员工效率提升（"优化销售和营销"）最为突出。虽然与其他国家类似，群体承认歧视和滥用的风险，但系统部署的高成本风险似乎为玻利维亚情境所独有，似乎源于当前的经济危机（"现任政府有巨额债务，导致需要外债，这些系统并不便宜，实施更是昂贵的"）。此外，与尼日利亚类似，农村地区的人群被认为可能受害或无法受益，因为他们被视为既没有技术接入途径也没有相关信息获取途径。

**尼日利亚。** 总体而言，大多数尼日利亚参与者似乎支持FPT。在公共场所、警务以及企业场景中，通过FPT增强安全的理念普遍存在。在此，FPT被视为减少犯罪和防止欺诈的措施——在私营和政府情境中均有涉及（"它有助于减少盗窃、一般犯罪并加快调查"，或"验证政府工作人员"）。尽管提到了滥用风险（"如果数据处理不当，可能导致勒索"）、隐私威胁和潜在故障，但获取更好的数据集以及引入经迭代评估的监管措施（"设立委员会重新审视并发现建议/法律"）被视为应用FPT系统的充分解决方案。

**德国。** 参与者对FRT的部署呈现混合观点。所有聚焦公共场所和警务的群体均提出担忧，即FRT是否真的能提升安全性，还是仅能增强安全感而非真正的安全（"通过监控获得的'安全感'"）。个人权利的丧失（"对无罪推定权的威胁"，或"因永久监控而完全丧失隐私"）在日本同样显著。虽然其他国家的群体也讨论了谁对充分的监管和执行措施负责的问题，但特别聚焦于地方和国家级政府——也涉及公民（"公民的代表性参与，例如地方一级的公民委员会（'共同决定'）或公投（在可能的情况下）"）——以及行政和司法分支，还有欧盟。

**5 讨论**

以下我们讨论研究结果，即归纳形成的簇和编码。我们将它们与已有文献相关联，并通过基于制度信任概念的批判性视角加以审视。

**5.1 RQ1：（如何）FPT被构想为理想未来的一部分？**

**实证发现总结。** 在所有国家和情境中，参与者都将FPT视为未来场景中的角色（见表1，Q1.1），尽管框架中明确声明且引导者也提到该技术不必成为其未来场景的一部分。小组讨论主要由参与者对FPT技术可取性的个人评分所验证。然而，在日本和印度，12.5%和13.6%的参与者反对这些技术的可取性；在德国则有23.8%。主导假设的影响和归因于FPT的能力（见表1，Q1.2）是减少犯罪、提升安全、改善效率和增强便利性；而作为基本要求（见表1，Q2.1），系统必须稳健、尊重隐私、按照监管框架建设部署，并建立协作和意识。

**积极的政府叙事影响正面观点。** 在小组讨论中参与者的论述中，我们看到对媒体正面叙事的反映。这尤其适用于玻利维亚、尼日利亚和日本。如果政府部长传达了诸如"BOL-110将使玻利维亚成为该大陆最安全的国家"[132]这样的愿景，那么社会将FRT赋予了实现"更好安全感生活质量"[BOL - PSP5]目标的能力就不令人意外了。先前研究发现政府叙事对日本研究对象的科技愿景有强烈影响，而在德国并不存在如此强烈的叙事[75]。

**尽管存在有效性或准确性问题，仍将能力归因于FPT。** 印度、德国和玻利维亚的群体明确质疑FCT的有效性或实际安全性的提升，或对FRT结果的准确性表示关切。此外，印度、尼日利亚和玻利维亚的群体讨论了准确性问题。尽管如此，在所有场景中，参与者均承认FPT具备分类或识别人脸的能力，同时认识到假阳性及其后果。他们都认为FPT对特定应用场景有用。这些论证模式反映了先前已识别的面部分析AI合理化聚类：人们引用推论概念（此处部分群体质疑有效性）、AI执行任务的能力（此处为分类、识别或验证能力），或任务对实现目标的（不）相关性（此处为FPT对实现既定目标的巨大相关性）[47, 176]。

**安全提升的感知。** 通过FPT提升安全的目标在所有国家中最为主导。德国的两个群体承认可能只会增加安全感。Lu等人[109]报告了类似发现，底特律居民——尤其是更为弱势的个人——报告了对社区警务FRT感知到的安全水平更高。作者认为受影响的社区共享一种"总比没有好"的想象，这应被理解为一种务实的妥协，平衡了他们对FRT固有缺陷的认识与对改善的希望[109]。一项针对英国公民的研究显示，虽然他们担心监控的常态化并要求保障措施，但如果FRT伴随着明确的公共利益，他们就会接受FRT[1]。

**话语动态与个体感知。** 我们认为，那些将FPT评为非理想技术的个体的担忧可能通过建议监管措施（如限制用例或要求严格监管）或质量指标（如系统必须准确且公平）而得到缓解。在他们的个人反思中，81.6%的参与者表示他们了解了其他人的看法，75.4%表示他们了解了AI如何影响社会。我们将此作为对话作为交流媒介有效性的证明。为准备对话并防止引导偏差，我们进行了引导员培训并提供了全面的引导指南（详见附录A.3）。

**5.2 RQ2：为在当代社会中部署FPT，必须满足哪些条件，即应实施哪些措施？**

**实证发现总结。** 所有国家和情境的参与者都强调了在FPT开发和部署前、中或后需要实施的措施（见表1，Q2.2）。这些措施包括制度和程序性监管措施，以确保问责并保障主体的自主权。参与者还描述了技术和社会的监控与评估机制，以及针对技术要求确保系统质量的措施。他们建议增强开发和实施的措施，如通过进一步研究和专业知识。最后，他们要求确保公众知情并参与进来：针对公民以及部署者的教育和意识措施，以及加强包括公民在内的相关利益相关者对话的措施。

**结构性保障作为含FPT未来愿景中的合法性因素。** 特别是第4.6节中描述的两个最大的措施集群（监管措施和监控与评估机制），可被视为制度信任语境下的结构性保障（如第2.1节所述）。参与者明确表示，他们认为主要由（互）政府和企业行为体负责确保FPT以理想方式使用（见第4.7节和第4.9节）。这些结构性保障作为适当的风险缓解因素发挥作用。因此，它们培养了参与者对FPT的信任和信心——尽管承认可能存在技术局限、风险或伦理冲突（见第4.5节），FPT仍是参与者未来愿景的一部分。参与者强调这些措施和责任的，其价值在于提醒我们什么构成了良好技术和适当应用，使我们能够推导出基于公众认知的政策建议。同时，这也展示了当前技术在未满足基本要求（如对社会各群体具有同等准确性[e.g., 26]）的情况下被部署的不负责任。总体而言，我们的实证结果强调了在广义上理解制度的重要性，它在培养和复杂技术（如FPT）的信任和信心方面发挥着关键作用。

然而，尽管诸如监管等治理措施确实能够限制使用场景或通过文档要求提高透明度（例如欧盟《人工智能法案》[52]），但我们注意到，将治理结构和流程视为万能灵丹妙药的看法，阻碍了人们对技术有效性及其在具体应用场景中根本适宜性的质疑。对治理和监管措施重要性的认知与以往专家分析和公民调查结果相符，包括对增强透明度[119]、健全法律框架[1, 101, 119]、选择退出权[1, 101, 119]以及提高面部识别技术（FRT）准确性需求[119]的呼吁。以往研究也表明，FRT的稳健性会影响信任水平[1, 15, 101]。我们的结果也与表达的需求一致，即强调最终人类权威是算法决策系统的关键价值，以保持社区参与[158]。在此背景下（并超越结构性保障），我们的参与者强调，增加教育和意识以及促进对话格式的措施对于促进与社会的知情对话至关重要。

5.3 对政策制定者、研究人员、开发者和公民的建议

社会应努力实现关于面部识别技术（FRT）是否是增强安全性、效率或便利性的正确手段的社会共识。我们强调需要主动挑战通过部署FRT来提高安全性的叙事。相信FRT能够实现安全性提升的观点对FRT的接受度有很大影响。目标应是超越"总比没有好"[109]的论调。相反，研究人员和政府应主动邀请所有利益相关者，包括公民，分析影响[178, 180, 181]，并讨论哪些措施（包括非技术措施）在实现实际（而不仅仅是感知上的）安全性提升方面最有效。在企业背景下，我们也主张需要就可能提高效率或便利性的面部处理技术（FPT）工具进行社会讨论。社会必须完全了解这些系统带来的权衡。在对话格式中讨论如何促进安全性、效率和便利性等社会公益时，防止技术解决方案主义的一种方式就是询问：是否存在低技术或无技术解决方案来解决该问题、技术解决方案是否会弊大于利，以及计算驱动的解决方案是否真正能够解决该问题本身[14]。应用这些原则的另一种方式可以在Gerber[60]进行的格式中找到，其目标是要思考如何通过社区（而不是通过机构，或者在我们这种情况下通过作为机构工具的技术）来促进/实现安全性等重要的社会方面。

如果社会决定FRT在提高安全性的机制中发挥作用，或者其他FPT工具适合增强效率或便利性，则需要另外两项建议：

FPT开发者和部署者应定义并公布部署成功的指标，并建立失败情况下的应对机制。鉴于公众对稳健系统的需求，政府和部署FPT的企业应定义测量错误的程序，包括系统部署应暂停或停止的阈值。这包括定义需要收集的适当数据（这与之前关于FPT和计算机视觉数据集影响的CSCW研究一致并相关[150, 153]）。此外，必须建立当未达到定义阈值时的应对机制。我们建议，模型性能结果应以透明和易懂的方式报告。这也与公众对隐私保护系统的需求相呼应。

CSCW研究人员应开发社会技术审计并审查部署者，以揭示FPT系统所暗示行为必要性的（不期望的）后果，政府应支持这一点。社会在（外部）审计FPT部署者方面可以发挥巨大作用，无论是政府还是企业。研究人员过去在揭示偏见和开发审计框架方面发挥了 exceptional 作用。例如，Buolamwini和Gebru[26]以及Scheuerman等人[152]发现了商业FRT中的种族和性别准确性差异。在考虑FRT审计的伦理问题[138]时，必须通过进一步研究和案例研究在技术和社会技术层面改进审计，以便在缺乏透明度的情况下进行审计，可能涉及受影响主体或公众[35, 103, 137]。政府应鼓励和支持审查其自身和其他FPT系统。这样，审计可以作为我们的参与者所建议的监控和监督机制，揭示技术是否以及如何未能达到公民期望或部署者声称。许多FPT系统的部署开辟了权力位置，公民通常没有权力选择退出被检测、识别或分析，凸显了审查的必要性。以往研究表明，这导致了FPT主体的行为变化[64, 188]。通过内部或外部审计或调查，CSCW研究人员可以有助于展示这类FPT系统作为社会、合作和协作实践的一部分对其主体施加的行为必要性所导致的（不想要的）后果。这些分析发现也有助于我们的第一项建议，即挑战FPT相关叙事，如果揭示了FPT系统功能不正确或由于接触FPT系统而导致的社會行为变化。

5.4 未来研究与局限性

未来工作应在全球其他地区复制这项研究。我们鼓励利用该框架来主持关于不同人工智能技术的对话。一项局限性是参与报酬、食物、饮料和场地的成本高昂。其他局限性涉及我们的方法学方法。尽管所有研究团队都应用了相同的分层抽样标准，并试图通过定向抽样确保样本在人口统计学上的异质性，但鉴于不同的年龄结构、大学配额以及对话熟悉度和开放性等因素，五个国家的样本必然各不相同。我们的优先事项是应用相同的抽样标准，但获得一个类似于该国的样本。我们承认样本显得相当受教育。我们认识到，通过使用成员身份（国籍或居住地）作为分组变量，我们并未解决国家之间和国家内部可能存在的文化差异[3]。因此，在这项探索性研究中，我们并未断言我们的发现代表了普通民众的普遍观点或特定城市或国家的主导态度。我们的研究采用描述性方法，关注国家之间和国家内部判断的潜在差异和相似性。凭借其研究团队的跨国构成，我们减少了分析中的偏见可能性。虽然我们响应了关于来自不同地理背景参与者研究的呼吁[105, 108, 155]，但未来研究可以关注脆弱群体，我们的参与者和以往研究已识别出这些群体特别容易受到FPT部署的伤害，并表现出与非脆弱群体不同的观点/认知[26, 68, 109, 133, 151]。未来研究可以系统地比较本研究中识别的要求和记录在代码书中的要求与现有监管框架和国际标准，以识别和表征监管差距。在此基础上，后续工作可以通过开发情境敏感、国家特定的监管和非监管方法来扩展现有的建议，以帮助弥补这些差距。

最后，我们反思我们方法学方法的局限性，遵循参与式研讨会最佳实践[71]，通过讨论对话研讨会和材料选择如何影响参与者的愿景。鉴于参与者在他们的未来愿景中承认了技术的局限性，我们认为研讨会过程的目标——达到适当的知情水平——是成功的。然而，由于监管主题出现为核心解决方案来指导FPT成为理想未来的一部分，我们也看到了我们方法的局限性。在本工作中，我们通过基于机构的信任视角揭示了这些局限性。尽管我们在讨论部分反思了结构性保障因素，但我们想要承认我们方法学设置的某些部分与情境正常性之间的潜在联系：作为我们研讨会过程一部分的数据卡有助于我们参与者的知情，展示了FPT当前如何推出，包括与参与者本地环境相关的连接。除此之外，数据卡也可能有助于建立一种情境正常感，这可能会影响参与者的未来愿景，因为他们将FPT描绘为在某些情境中（部分）已经建立的技术。虽然我们考虑到这是一个必要的权衡，并相应地在过程中实施了缓解机制（例如，数据卡中对FPT提议的好处提出反驳意见；风险冲动卡），但我们希望提高对未来研究这一问题的认识。此外，我们提出两种策略来超越对技术治理的简单理解：首先，我们建议利用Leslie等人[107]提出的缓解层级，让参与者详细说明已识别的措施如何避免或减少某些风险或发展，恢复某种情况或补偿个人或群体。这可能会支持参与者更细致地思考措施。其次，我们建议在未来工作中调整我们的过程，整合询问"如果出现监管漏洞或监管未按预期发挥作用"的元素。

6 最终评论

通过跨国公民对话，本研究对FPT支持的社会合作和协作实践进行了批判性分析。通过记录我们的方法学过程并展示我们的结果，我们旨在协助其他研究人员通过参与式和话语研究格式记录CSCW和社交计算环境中对人工智能的认知。通过我们的对话研讨会方法，我们旨在通过提供支持和批评者的论点、提供试用会话以及突出当前用例及其后果，使公民能够形成关于FPT使用的知情意见。我们的参与者能够在评估适当FPT应用的同时反思技术的局限性和风险，这表明FPT批判性论点在他们的考虑中占据了一席之地。然而，令研究人员惊讶的是，尽管承认了FPT的风险和局限性，大多数参与者仍然倾向于支持FPT的应用，前提是伴随着某些要求，如监管。如果，正如我们的结果所示，强大的叙事和基于机构的信任信念驱使不同国家的人接受不成熟的FPT，那么这应该在国际上引起重大关注。在我们应用的社会建构技术（SCOT）解读下，这似乎尤其相关：当普通民众被说服盲目接受技术推出时，作为社会纠正力量的批判性公众就会消失，使专家意见不受质疑。

在这方面，我们的结果突出了技术叙事及相关期望的复杂性，同时考虑了本地因素。参与者希望获得更高的安全性，并将实现这一目标的能力归因于FRT。人们期望FRT和FCT能够提供舒适感并提高效率。公民能够评估众多风险并确定必要条件，如需要准确和稳健或公平和无偏见的技术——这些挑战不能仅通过技术手段解决。

正如我们在第5.3节中也强调的，这不仅展示了研究和格式的需要，以让利益相关者参与探索FPT应用的适当监管措施，也展示了需要进行旨在从根本上质疑应用的投资。鉴于FPT的广泛使用，尽管存在固有限制，且对于某些用例缺乏科学依据，FPT系统的应用需要研究人员、政策制定者和公众的特别关注。鉴于其可能的负面影响，我们的参与者也强调了这一点，FPT可以归入一个类别，正如Baumer和Silberman[14]所说，其含义可能是根本不设计技术。关于如何避免技术解决方案主义的建议可在第5.3节找到。

这些方法中非常突出的参与性元素也与我们的发现一致，因为在各种措施和集群中，涉及和告知公民的主题反复出现。

我们的研究旨在鼓励所有参与 FPT 讨论的利益相关者，关注影响该技术叙事的地域性因素。这些讨论对于确定适当的机制至关重要，以便解决那些导致人们相信 FPT 能够解决特定问题的问题。正如我们的对话结果所强调的那样，这必须是一个涉及政府、开发人员、研究人员和公众的持续努力。

致谢

本研究得到了 IEEE 计算机学会的支持，其通过 2023 年新兴技术资助计划提供的慷慨财务援助使得本研究成为可能。我们感谢 Emilia Gómez (欧盟委员会联合研究中心)、Orestis Papakyriakopoulos (慕尼黑工业大学)、Benedikt Z?nnchen (MUCDAI/HM) 和 Téo Sanchez (慕尼黑路德维希 - 马克西米利安大学) 对提供给参与者的信息材料给予反馈。我们还要感谢 Eileen Mandir (HM) 对对话过程方法提供的反馈，以及 Sameer Patil (犹他大学) 对我们前期研究过程的协助。我们感谢 Emmanuel Syrmoudis (慕尼黑工业大学) 对可扩展调查基础设施的支持，以及 Tamara Kastenmeier (慕尼黑工业大学) 对全球人工智能对话管理工作的持续支持。我们感谢欧盟委员会参与性和审议性民主能力中心的成员、慕尼黑工业大学数字治理讲席和 Emmy Noether 研究组 2023 年研究研讨会的参与者，以及联合国城市创新技术加速器 (UNITAC) 的 Livia Schaeffer Nonose，感谢他们对我们早期项目展示提出的建设性意见和反馈。我们感谢所有研讨会小组协调员为本项目付出的时间和精力，以及我们在三个国家的所有参与者。我们感谢慕尼黑数字科学与人工智能中心 (MUCDAI/HM) 的 Gudrun Socher 和 Sarah Ottinger 的持续支持，感谢位于东京的德国日本研究所 (DIJ) 使我们的一位研究人员得以在日本进行驻留研究，以及感谢慕尼黑工业大学智库 (TUM Think Tank) 在建立跨国研究网络、支持所有沟通工作以及在慕尼黑举办对话活动方面提供的便利设施支持。在德里国家法律大学沟通治理中心，我们感谢执行主任 Jhalak Kakkar 在本工作期间提供的宝贵指导和建议，感谢副主任 Shashank Mohan 在建立合作关系方面进行的协调。我们还要感谢玻利维亚天主教大学圣克鲁兹分校校长 Oscar Ortiz Antelo 以及玻利维亚天主教大学教授 José Jesús Cabrera Pantojam 的支持。我们还要感谢东京大学以下机构与我们共同组织了在日本举行的研讨会：东京国际先进研究院学院、未来倡议研究所和下一代人工智能研究中心。最后，我们感谢所有审稿人提出的富有洞察力的评论，这些评论完善了本文。