让社会保持知情：玻利维亚、印度、尼日利亚、日本和德国关于面部处理技术的公民对话

《Proceedings of the ACM on Human-Computer Interaction》：Keeping Societies in the Loop: Citizen Dialogues on Facial Processing Technologies in Bolivia, India, Nigeria, Japan, and Germany

　　

面部处理技术（FPT）在全球范围内获得日益广泛的应用。这一趋势背后往往是关于增强安全性和提升效率的叙事推动，却掩盖了这些技术所带来的取舍问题，最终阻碍了批判性的社会讨论。为创造关于FPT的社会讨论空间，我们于2024年在玻利维亚、印度、尼日利亚、日本和德国开展了公民对话工作坊，共有114名参与者分布在23个讨论小组中。参与者围绕三种情境探讨了在FPT部署（或不部署）背景下，一个理想未来可能呈现的样子：公共空间与警务执法、企业监控以及社会互动。参与者探讨了可能的后果、风险、利益相关方和应对措施。混合方法使我们能够从工作坊记录和个体问卷中获得洞察。我们发现，尽管参与者承认FPT的局限性和风险，但关于面部识别技术能提升公共安全和为FPT主体及部署方带来便利性的叙事仍占主导地位。来自印度和德国的参与者对面部识别技术和面部分类技术持更为批判的态度。让社会公众参与进来以及加强监管被视为确保负责任使用的核心机制。我们通过跨国视角对结果进行反思，并将其与制度信任的概念联系起来进行讨论。我们得出结论：将治理结构和流程（包括监管）视为万能药这一认知，阻碍了对技术本质的质疑。

AI生成摘要（实验性）：本摘要由自动化工具生成，未由本文作者撰写或审核。其目的在于支持发现、帮助读者评估相关性，并协助相邻研究领域的读者理解该工作。本摘要旨在补充作者提供的摘要，后者仍为论文的主要摘要。全文为权威版本。点击此处了解更多信息。点击此处对摘要的准确性、清晰度和实用性进行评论，这将有助于改进未来版本。

图1：在玻利维亚、印度、尼日利亚、日本和德国与公民开展的FPT对话。版权：作者，已获照片使用同意。照片记录了在玻利维亚、印度、尼日利亚、日本和德国与按性别、年龄和AI知识水平分层的大众开展的FPT对话。

1 引言

"[尚未]达成社会共识。"——日本JR东日本铁路公司发言人宣布暂时停用一套新的面部识别技术系统，该系统此前被部署于其车站，旨在为即将于2020年举办的东京奥运会提升安保。此前关于该系统的新闻报道引发了关于其歧视性质的辩论，因为该系统会扫描旅客面部以查找前科人员。这一案例说明了围绕嵌入式面部处理技术（FPT）系统推广时关于提升安全性的叙事。它也突显了持续公共辩论的重要性，因为在日本和国际上已实施的其它面部识别技术系统，并未检验公众就该技术如何创造社会价值达成共识。

面部处理技术（FPT）、面部识别技术（FRT）和面部分类技术（FCT）的定义。尽管引发了诸多担忧，雇主、政府、广告商、教育机构或娱乐产业在全球范围内就广泛用例部署了FPT系统。可根据所用特定FPT对用例进行区分。面部识别技术代表一类侧重于在面部数据中验证或识别人物的用例，例如在社交媒体照片中为已识别个人打标签、查找在逃或失踪人员，或监控城市广场等公共空间和娱乐场所等半公共空间。相比之下，面部分类技术涵盖另一类用例，侧重于通过分类属性来赋予面部外观或面部（微）表情以意义。该领域有时也被称为面部分析AI，或侧重于情绪时称为情感化AI。例如，面部分类技术用于确定申请人在求职视频或在线面试中表露的情绪、利用滤镜美化图片中的面部、培训员工展示特定面部表情，或在车站提供个性化广告。在本文中，我们使用FRT这一缩写在指代侧重于验证或识别人物的用例时使用，在指代基于面部属性分类的用例时使用FCT。这一区分很重要，因为这两种技术声称具备不同的技术能力，意味着不同的（拟议）用例。当我们同时指代两类技术时，使用FPT作为统称。

批评。FPT的开发和应用场景在根本上受到了批评。研究人员称面部识别技术是"AI的核武器"，并指出面部识别技术中的偏见问题。关于面部分类技术，研究人员发现了不精确的推理推断，或推断过程中感知到的主观性问题。他们还质疑了面部分类技术背后的科学有效性，以及对性别等目标变量定义相关实践提出了质疑。此外，面部识别技术和面部分类技术还面临数据保护问题和隐私权方面的担忧。在人与机器人互动领域也发生了类似的讨论，有观点认为由于本体论、感知和部署方面的顾虑，机器人根本不应该识别种族等身份特征。尽管存在这些批评，但主要讨论提升安全性或效率的正面技术叙事仍占主导地位，影响着公众认知。

本研究的目的与程序。我们观察到，CSCW领域缺乏关于个体在FPT推广和互动中带入的感知与期望所起作用的研
究。这些与地点特异性及社区驱动的参数（需求、愿望、目标）一起，可能对行为和社会层面产生相当大的影响。在CSCW之外，我们还观察到缺乏研究公民知情意见（而非对问卷的自发反应）的跨国研究，探讨FPT是否以及如何能创造社会价值。因此，在研究中我们转向五个国家的公民，调查知情公民在理想未来中赋予FPT的角色（如有）。在研究中，我们让玻利维亚、印度、尼日利亚、日本和德国的114名非专业人士参与深度对话工作坊。在获取对FPT的基本理解后，参与者以小组形式共同制定了该技术应用或不应用的未来愿景。

全球AI对话。本工作是更大规模的公民参与项目——全球AI对话的一部分，该项目邀请全球公民参与、讨论并分享他们关于AI的观点。迄今为止，来自六个国家（玻利维亚、墨西哥、印度、尼日利亚、日本、德国）的284人参与了关于FPT和生成式AI的对话。每次对话均由当地合作伙伴共同组织和举办。在与该项目相关的其他出版物中，我们提供了对尼日利亚、日本和德国关于生成式AI对话的首次深入分析，以及整个项目的总结。在全球AI对话的筹备阶段，我们调查了十二个国家的民众对生成式AI和FPT的看法，以及政策制定者想了解民众哪些方面。更多信息可在 https://linktr.ee/aidialogues 获取。所有开展对话所需的材料可在 https://osf.io/e7dx3/ 获取。

本研究的贡献及其对CSCW的相关性。在本文中，我们从经验角度研究围绕FPT的社会、合作和协作实践，重点关注人们如何想象应用——或有意不应用——此类系统的理想未来。采取批判性的CSCW视角，我们分析参与者如何设想FPT作为中介公民与政府、员工与雇主、企业与顾客以及公众之间关系的 socio-technical系统，以及这些系统应如何被治理。本研究通过跨国家比较大众对公共空间与警务执法、企业监控以及社会互动中FPT的感知，为CSCW和社会计算做出贡献。具体而言，我们：(1)识别了激发大众对FPT部署未来愿景的目标，以及他们与之关联的风险；(2)描述了参与者认为在潜在部署前、中和后必要的治理措施；(3)将这些发现综合为启示和建议。这些贡献为CSCW研究人员提供了关于FPT的知情公民视角的洞察，支持协作系统和参与式过程的设计，以批判性地回应公众关切。此外，我们的工作推进了对公民对话作为CSCW和社会计算研究探索方法的理解。

主要发现总结。我们发现，尽管参与者承认FPT的局限性和风险，但FPT能提升公共安全和为FPT主体及部署方带来便利性的叙事总体仍占主导地位。公民渴望更大的安全保障，并将实现这一目标的能力归于面部识别技术。人们期望FPT能提供舒适感并提升效率。公民能够评估多种风险并识别必要条件，例如需要准确稳健或公平无偏的技术——而这些挑战无法仅通过技术手段解决。来自印度和德国的参与者对FPT持更为批判的态度。让社会公众参与进来以及加强监管被视为确保负责任使用的核心机制。将治理结构和流程（包括监管）视为万能药这一认知，阻碍了对技术本质的质疑。

2 背景与相关工作

在本节中，我们呈现理论框架并讨论本工作所涵盖国家中FPT的使用情况。我们总结前人研究以提出研究空白和研究问题，并在方法论上为本方法提供背景。

2.1 理论框架：技术的社会建构与制度信任

技术的社会建构。本研究采用社会技术立场，将技术视为人类行动者、机构和基础设施之间互动的共同建构产物，而非单一线性演进的结果。这基于技术的社会建构（SCOT）框架。SCOT强调技术轨迹产生于多元社会群体（如政治行动者、研究人员与专家、用户或公民）之间的交换。这些群体可对同一技术赋予不同的意义和用途。这种解释灵活性使单一技术工件能以多种方式被理解和应用。随着时间推移，特定解释逐渐固化，直到该技术显得自然或不言而喻。虽然专家经常通过在设计中嵌入预期、影响机构、资助和监管来塑造技术发展，但这些专家驱动的过程不断受到质疑。非专家用户/日常用户、社区群体和其它非专家公众在采用过程中发挥着关键作用，他们在实践中解释、抵抗、重新利用或重新定义技术。这种公众参与可以推翻专家假设、引导开发方向、揭示未预料到的影响或确立替代性优先事项。鉴于技术体现政治属性——它们塑造可选方案、限制行动路径并分配权力——我们认为，审视非专业人士的感知与期望对于评估FPT等技术的社会后果至关重要。此外，我们强调在新兴技术方面关注非专业人士意见形成过程中因素的社会重要性。这些因素决定了质疑专家驱动发展和推广的可能性，并可能作为对不良发展的纠正机制。这对于FPT这类技术尤为关键，正如我们在第2.2节和第2.3节中所展示的，尽管存在技术局限，但FPT伴随着强烈的推广和驱动其使用的宣传活动与叙事。此外，人类行动者、社会结构与技术之间的互动中，对技术的信任是一个重要因素。鉴于FPT等AI系统的复杂性，学者们认为信任问题必须在制度背景下加以考虑。

制度信任。制度信任认为，人们因为情境中支持性的结构和环境而对一项技术产生信任。

基于制度的信任由两个要素组成：首先，情境常态性描述的是在特定情境中使用某种技术在感知上属于正常且舒适的判断[115]。例如，人们可能将机场使用面部识别技术视为一种正常的监控手段，因此对机场使用面部识别感到舒适。其次，结构保障描述的是感知到诸如法律、合同或物理支持等支撑性基础设施已经到位，以确保成功使用[115]并减轻感知到的风险[136]。例如，关于现有法规的了解可能使人对面部识别技术的部署产生信任感或假定其值得信赖。在高风险人工智能系统的语境下，Pande等人[130, 第6页]建议将结构保障概念化为"人们对政府和企业在管理高风险人工智能系统运行所产生的风险方面的信任程度"。他们[130]主张关注对政府或企业的信任，因为考虑到企业影响的无处不在，人们通常是被动接受此类技术的使用，而非主动控制它们[94]。此外，随着人工智能技术的快速演变，人们可能对新的法律和政策结构知之甚少[149]。先前的研究为这一理论提供了支持，并表明基于制度的信任显著决定了人们对高风险人工智能系统（如面部识别技术[130]、自动驾驶汽车、自动化医疗[10]或人工智能金融系统[10, 136]）的信任。Raddatz和Green[136]强调，制度结构不仅发挥保护作用，也是合法性来源，塑造用户对高风险人工智能场景的信心。这为我们让普通民众评估和讨论面部识别技术作为一种复杂的人工智能驱动技术的（不）可取性带来了重要启示：受访者对机构的感知和态度（这些机构预计将参与面部识别技术的开发和监管网络）可能在解读他们对面部识别技术的态度中发挥重要作用。

**2.2 玻利维亚、印度、尼日利亚、日本和德国的面部识别技术应用**

我们首先概述面部识别技术围绕的最新发展，重点突出引发媒体广泛关注的事件。部分案例体现了情境常态性，即面部识别技术的使用已成为常态或令人感到舒适。其他案例则体现了结构保障，例如法律体系缓解风险。总体而言，我们发现媒体对面部识别技术的报道多于面部情感计算。对于后者，我们仅在发现日本和德国的媒体关注。

**印度。** 过去五年中，印度面部识别技术的使用呈指数级增长，在公共和私营部门广泛部署。该技术已应用于多种场景，从执法[7, 157]到福利项目[87, 157]。关键部署包括用于无接触航空旅行验证的DigiYatra项目[32, 166]、国家犯罪记录局的自动面部识别系统用于执法[8, 139]，以及钦奈、德里等城市[139, 165]和旁遮普邦等邦[139]的州级监控系统。此外，面部识别技术还用于教育机构出勤监测[16, 157]和疫情期间公共卫生监测[53, 157]。在私营部门，Uber于2022年推出的实时身份核验功能引发关注。该系统使用面部识别技术验证驾驶员身份，但许多驾驶员因光线条件和外貌变化遇到问题，导致账户锁定和生计中断[13]。面部识别技术的快速采用发生在相对监管真空的环境中——尽管印度2023年《数字个人数据保护法》提供了一些监督，但包含对政府行为者的广泛豁免条款[156, 157]。该技术的部署引发了关于隐私、监控和公民自由的重大担忧，特别是在缺乏专门规范面部识别技术使用的立法以及缺少关于数据收集、存储和处理严格指南的情况下[156, 157]。

**玻利维亚。** 在玻利维亚，名为BOL-110的公共空间监控和警务系统（使用中国的面部识别技术）于2019年8月在拉巴斯和埃尔阿尔托推出[39, 132]，并于2020年 Carneval期间在奥鲁罗部署[141]。其实施引发了对政府控制上升的批评[39]、缺乏透明度[141]以及中国行为者可能获取数据和施加影响的问题[132]。尽管受到批评，该系统此后已部署在玻利维亚其他城市，例如2023年的圣克鲁斯[127]。玻利维亚的唯一生物特征身份登记系统被实施用于记录生物特征以签发身份证件[154]。面部识别系统自2022年起在埃尔阿尔托国际机场和玻利维亚其他城市引入以简化移民管控[5, 6]，并于2023年在圣克鲁斯的教育中心用于识别学生身份和确定未经授权的人员[128]。呼吁规范甚至禁止面部识别技术的讨论主要在超国家层面进行，涉及几个拉丁美洲国家[29, 142, 185]。

**尼日利亚。** 尼日利亚对面部识别技术的看法集中在安全增强上[如124, 125, 182, 173, 193]，这一关注部分源于叛乱和暴力事件的历史[125, 182]，例如自2008年末以来的博科圣地恐怖组织，或其他犯罪如绑架[182]。2024年初，尼日利亚政府宣布计划在主要机场安装面部识别技术[126]，并获得日本政府支持[173]，此举预计不仅加强国家安全架构，还将促进投资机会[110, 126, 173]。在商业领域，面部识别技术被宣传为可减少盗窃和欺诈、提高运营效率和客户满意度，同时承认准确性和客户体验方面的挑战[31]。鉴于过去曾面临暴力和欺诈性选举[45]，在2023年联邦选举中，非洲最大民主国家的政府推出了双模选民认证系统，通过指纹和面部识别对9340万注册选民进行认证，旨在提高选举的公正性[12, 45]。然而，关于暴力的报道和对选举可信度的质疑仍然存在[45]。

**日本。** 过去几年中，日本在多个部门陆续推出了面部识别技术，尽管存在批评和呼吁监管的声音[88]。关于在公共空间和警务中使用面部识别技术的讨论在2021年年中已全面展开，起因是JR东日本铁路公司在其车站部署了面部识别系统[85, 129]。该系统用于检测已获释或在假释的刑满释放人员、在逃嫌疑人以及实施"可疑行为"的个人。由于有报告质疑该系统存在歧视性[85, 129]，以及受到法律批评[168]，其使用部分暂停。在私营部门，2019年一项在东京涩谷三家书店使用面部识别技术防止扒窃的联合项目引发关注，原因在于扒窃统计数据的下降以及潜在的法律问题[121]。这些案例促使日本国内呼吁规范面部识别技术的使用[88]。这些呼吁大多针对特定案例，缺乏更根本性的讨论。面部识别技术持续推出，例如大阪于2023年引入了一种实验性的面部识别技术检票闸机，用于进入铁路服务，并在2025年世博会期间运行，将其定位为展示的未来技术[79, 98]。此外，日本最大的超市连锁之一永旺（AEON）于2024年7月推出面部识别技术，通过分析并对员工面部表情进行评分来培训员工[90, 92]。

**德国。** 德国联邦刑事警察局运营着一个面部识别系统，通过将未知犯罪嫌疑人的图像与警察信息系统记录的罪犯照片进行比对来识别嫌疑人[25]。2023年底/2024年初，据报道记者借助商业软件PimEyes识别了一名在逃30年的恐怖分子，协助逮捕了她[140]。这引发了关于警方是否应获准使用此类商业人脸搜索工具的实质性辩论[19]，例如在美国也存在类似情况[34]。PimEyes和Clearview未经个人同意抓取面部图像，从而侵犯隐私权[9, 19]，已受到德国和法国等当局的法律审查[41, 170]。面部情感计算目前由多家公司提供和部署，例如用于分析求职者视频或培训员工[70]。自2024年8月起生效的欧盟人工智能法案对面部识别技术进行了监管，除搜寻特定受害者、迫在眉睫的重大威胁以及定位或识别罪犯外，禁止在公共开放空间中出于执法目的使用生物特征识别系统[52]。在人工智能法案谈判期间，学术界和公民社会倡导对面部识别技术实施更严格的监管[51, 72, 159]，其中一些人对结果仍不满意[如50]。

总结而言，安全叙事是各国部署面部识别技术的主要理由。总体而言，面部识别技术的监管普遍缺乏。在德国和印度，涉及数据保护的法律为面部识别技术提供了一些限制。对于玻利维亚和尼日利亚，我们观察到其他国家（例如中国[132]和日本[173]）的经济利益影响推动其面部识别技术部署并出口其技术。

**2.3 面部识别技术的公共叙事与感知研究**

**叙事。** 面部识别技术的引入常伴随关于提高便利性[172, 173]或公共安全[99, 127, 132]的公共叙事。其实施通常是大型活动组织的一部分[85, 122]，其中面部识别技术也被贴上未来技术的标签，展示相关城市或国家的先进性[98, 172]。

**感知研究。** 大多数关于面部识别和面部情感计算的感知研究（也探讨其可质疑性或可接受性）属于定量研究[如47, 101, 164]。这些研究发现，公众对面部识别技术的感知在不同国家间存在差异[101, 164]，受隐私或歧视担忧及社会人口学因素影响[96, 100, 164]，还取决于面部识别技术的使用/部署如何被传播[81]。面部情感计算的感知受感知有用性[84]、推理的主观性及其与决策的相关性影响[176]。关于情绪分类，感知到的情绪数据所有权、关于准确性和偏差的信念以及身份认同对支持禁止该技术发挥了重要作用[82]。参与者对推断情绪的AI系统表现出更负面的态度，相较于不推断情绪的AI系统，并表达了对所有情绪数据接收方的担忧，其中对权力不对称程度较高的接收方担忧更大[83]。然而，对这些因素的研究仅限于少数国家，特别是美国[81, 82, 83, 109, 143, 176]或中国[101, 105, 143, 164]，在英国或德国也有少量研究[1, 96, 101, 143, 164, 176]，而对来自玻利维亚、印度或尼日利亚的对象几乎没有或研究有限。采用不同的方法路径，在本文之前于2020年和2023年举行了两次关于面部识别技术的公民对话：在英国，公民制定了建议，包括制定全面的法律法规、建立监督机构以及确保标准[2]。同样，在美国，多数参与者认为政府应对造成个人或群体伤害时哪些行为者应承担责任负责[11]。

**2.4 玻利维亚、印度、尼日利亚、日本和德国对面识别技术的感知研究**

**面部识别技术。** 关于面部识别技术感知，Kieslich和Lünich[96]发现，德国参与者中担忧歧视的人要求加强面部识别技术监管。对于对人工智能或执法部门高度信任的公民则相反[96]。Kostka等人[101]调查了德国、中国、美国和英国的参与者，也发现政府信任以及对技术的亲近感会提高面部识别技术的接受度。（个人）隐私担忧和国家的监控历史会降低面部识别技术的接受度[101]。德国公民呼吁严格监管以应对风险，而中国公民则强调面部识别技术的益处[101]。在这些国家中，大多数受访者认为面部识别技术能提高安全，但对其歧视性影响的认知度较低[164]。来自德国和美国的受访者比中国和英国的受访者表现出较低的接受度[164]。印度的一项研究显示，50%和46%的受访者完全支持政府和警方使用面部识别技术；仅11%支持私营行为者使用[118]。

**面部情感计算。** 一项关于日本公民对情感化人工智能（即旨在监控、评估、模拟和响应人类情感）在医疗领域看法的研究显示，公众对该技术的了解和理解程度很低，但仍然信任其适当使用[111]。

这一发现与国际留学生的研究结果一致，该研究发现东亚被试与西方被试相比，更倾向于信任由情感化人工智能驱动的自动化管理系统[112]。其他研究发现，日本被试对面部分析人工智能表现出更批判的态度，而阿根廷、美国或肯尼亚的被试则持更肯定的立场；其中肯尼亚参与者最为积极[176]。Vijayakumar等人[186]发现印度消费者对基于面部识别技术（FPT）的广告所带来的隐私侵犯毫无察觉。Irhebhude等人[84]发现尼日利亚政府工作人员认为面部生物识别技术能够改善种族检测并提升其工作效率。

**2.5 CSCW领域中FPT的先前研究**

FPT也曾成为CSCW研究的对象。关于使用FPT获取酒店入住权限，Greiffenhagen等人[64]发现用户和旁观者都会进行"自我规训工作"，即控制自己的面部（和身体）行为，要么为了被系统识别，要么为了避免被系统识别。在探索网约车行业中使用FPT进行账户验证时，Watkins[188]报告称司机需要采取缓解策略（如反复上传所需图像、对肢体进行物理改变），以应对潜在的系统故障并满足雇主的交互协议。Ullstein等人[181]开展了一项关于FPT影响的多利益相关者研讨会，发现不同利益相关者之间的立场存在显著差异。在检查图像数据库中的性别和种族标注时，Scheuerman等人[153]发现关于这些身份如何定义以及标注过程的信息缺乏。在另一项研究分析十种商业面部分析和图像标注服务时，Scheuerman等人[152]发现面部分析服务无法对非二元性别进行分类。相关地，Keyes[93]表明自动性别识别以排斥跨性别者的方式使用了性别概念，由此对受该技术影响的跨性别者意味着不平等风险。在系统批判程度较低的层面上，Islam和Bae[86]看到了改善心理健康监测和预测的潜力，开发了一种开源移动感知系统来分析面部行为地标以检测抑郁发作。

正如这些先前关于FPT的CSCW和社会计算维度的工作所展示的，这些技术及其与人类的互动对（社会）行为有巨大影响，并可能带来重要的社会-组织后果。

**2.6 研究空白与研究问题**

综合来看，在CSCW社区的先前研究中，我们观察到缺乏关于个体在技术推广和与之互动时所携带的感知与期望作用的研究。在CSCW之外，大多数FPT感知研究采用定量方法[例如：47, 101, 82, 83]。在这方面，Tahei等人[169]强调问卷调查在让人们充分参与人工智能研究、开发和治理方面存在局限性。研究人员也越来越多地呼吁公众参与人工智能[例如：54, 18, 40, 21]。此外，我们观察到缺乏跨国研究——这些研究并非关注对调查的自发性反应，而是研究公民关于FPT是否以及如何创造社会价值的知情意见。已有呼吁对FRT开展跨国感知研究[105]，并表达了"向公众宣传和普及面部识别技术的广泛用途、其益处、风险和局限性"的需求[80]。

为弥补这些空白和回应研究呼吁，我们在工作中面向五个不同国家的公民提出问题：

**RQ1:**（人们）如何构想面部处理技术作为理想未来的一部分？如果是的话：

**RQ2:** 未来社会面部处理技术的理想化实施需要满足什么条件，即应采取什么措施？

为回答这些研究问题，我们在五个国家开展了为期6小时和3.5小时（日本）的深度对话研讨会，与114名外行公众参与者展开对话：玻利维亚（N=18）、印度（N=22）、尼日利亚（N=29）、日本（N=24）和德国（N=21）。在研讨会之前和期间，参与者能够获得对FPT的基本了解，并以小组形式基于各地点特定的话语背景，就技术的适用或不适用共同发展出共享的未来愿景。他们还考虑了实现共享愿景的措施以及不同行为者在这些愿景中的角色。这使我们能够捕捉对上文所述机构重要性的感知，并在基于机构的信任框架下解读这些感知。

**2.7 方法论语境化**

我们将研讨会方法置于CSCW和HCI中已建立的参与式研讨会方法论传统中[71, 77, 147, 171, 192]，并据此设计了研讨会方案。参与式研讨会通常以一个启动刺激物开始——通常以探针[20]或挑衅[192]的形式——以让参与者介入相关情境。这种初步介入为集体探索奠定了基础，参与者基于自身的生活经验和视角来想象和评估预期影响。此类过程通常会产生旨在塑造未来议程和政策的有形成果。这一程序结构在先前研究中也有类似运用[例如：48, 192, 77, 75, 76]。

我们采用的具体研讨会流程以促进群体对话为目的，结合了设计未来学[44, 48, 89]的方法——这一术语由[56]引入，用作如[102]所提出的推测设计和设计虚构等方法的上位概念——以及未来研究[48, 61, 144, 145, 167]、叙事和数字伦理[65, 77]和技术评估[66]的方法。尽管这些方法源自不同领域，但都纳入了参与性维度。研讨会流程还建立在作者的先前工作之上[74, 75, 77, 78]。

**3 方法**

**表1.**

**GQM类别**

**目标1：** 从外行公众视角表征FPT在理想未来中的角色（如有）

**目标2：** 表征外行公众理想情境中FPT预期角色所需的要求、措施和负责行为者

**测量目标：**

– 分析外行公众在特定应用情境（公共空间与警务、企业监控、社会互动）中预期FPT在理想未来中的角色——用于表征1——包括FPT的归因能力和想象影响以及FPT的适用与不适用——从研究者视角——在玻利维亚、印度、尼日利亚、日本和德国的对话研讨会情境中。

– 分析外行公众为FPT实现其想象影响所需的预期要求和措施，以及实施这些措施的负责行为者——用于表征1——包括使FPT预期适用与不适用成为可能的想象条件——从研究者视角——在玻利维亚、印度、尼日利亚、日本和德国的对话研讨会情境中。

**研究问题：**

Q1.1：玻利维亚、印度、尼日利亚、日本和德国的外行公众是否将FPT构想为公共空间与警务、企业监控、社会互动情境中理想未来的一部分？

Q1.2：（如适用）玻利维亚、印度、尼日利亚、日本和德国的外行公众如何构想FPT对相关应用场景的影响？

Q2.1：玻利维亚、印度、尼日利亚、日本和德国的外行公众为FPT的理想化（不）适用预期了哪些要求？

Q2.2：玻利维亚、印度、尼日利亚、日本和德国的外行公众预期采取哪些措施以确保FPT的理想化（不）适用，他们认为谁对措施实施负有责任？

**指标：**

对于Q1.1：通过对工作表中关于目标和未来情境部分的定性分析（参见C(1)）以及通过对理想未来调查问题的定量分析，评估FPT是否为想象的理想未来的一部分。

对于Q1.2：通过对现场记录以及工作表中关于目标、未来情境和益处部分的定性分析（参见C(1)），推断FPT的预期影响和归因能力。

对于Q2.1：通过对现场记录以及工作表中关于益处和风险部分的定性分析（参见C(1)），推断FPT理想化（不）适用的预期要求。

对于Q2.2：通过对现场记录和利益相关者映射及回溯工作表（参见C(2)&(3)）的定性分析以及通过对监管和机构调查问题的定量分析，推断FPT理想化（不）适用的措施和负责行为者。

1 运用GQM[1]表征研究目标、目的和视角时，"表征"一词指的是Briand等人[23, 第256页]所定义的"对研究对象当前状态形成快照"。在我们情况下，这指的是参与者对FPT在理想未来情境中角色的构想（目标1），或他们认为FPT成为想象的理想未来一部分所需的预期要求和措施（目标2）。

本节概述了我们与研究目标、目的和研究视角相关的研究程序。我们利用目标-问题-指标（GQM）框架[191]对此进行说明。本研究的初级目标——即突出外行公众的感知——可利用GQM目标模板[23]划分为两个测量目标，如表1所示。首先，每个目标通过其研究对象、目的、焦点或视角、采用的视角以及研究情境来定义。其次，每个目标通过一系列问题加以表征。最后，我们概述了回答每个问题所用数据类型及相应分析程序。

**3.1 数据收集、多国研究团队与经济补偿**

为探索不同文化群体[67]中外行公众对FPT的感知和未来愿景，我们在2024年7月至12月间于玻利维亚、印度、尼日利亚、日本和德国开展了五场深度对话研讨会，通过从多个国家收集数据进行数据源三角验证[131]。定性数据从小组讨论记录和协调员笔记中收集，定量数据则通过整合在研讨会中的多部分问卷调查获取。调查（定量数据）的作用是捕捉个体视角，讨论（定性数据）的作用是人们交流视角并基于互动形成观点。我们如表1中的指标规格所述，同时使用这两种数据源来回答研究问题。我们从定性数据中提取基于所有小组讨论的总体主题，这些主题也反映了各国具体差异。在公民对话之前，我们进行了两项预研究，共有48名参与者参与了对话过程的不同部分（详见附录A.1）。

第一作者所在机构提供了开展研究的资源。我们获得了一所合作大学的伦理审批。在执行和数据研究过程中，我们遵循了既定的伦理研究规范。参与者可随时退出研究。隐私是重中之重；所有收集的数据均经过匿名化处理，研究过程中始终保护参与者的保密性。我们的分析聚焦于国家层面[4, 146, 183]，承认这种方法并不声称对这些国家更广泛人口具有代表性[3]。我们遵循了开展跨国研究的最佳实践[135]。为确保全面的数据收集和分析能力，我们组建了一个多国、多性别和多学科的研究团队，涵盖数学、计算机科学、政治学、科学技术研究、人机交互和隐私经济学领域。每个国家至少包含两名在该国出生和/或长大的研究者，通过组建五个国家团队进行分析师三角验证[131]。参与者获得经济补偿，其金额和形式由国家团队在与发起研究者协商后决定，以确保国家间的公平性（详见附录A.2）。

**3.2 公民对话研讨会流程**

**信息材料。** 研讨会对话前二至一周，每位参与者获得信息材料，以便有充足时间浏览材料、进行额外研究并事先形成自己的初步意见。材料包含两页关于人工智能的概述和三页关于FPT的内容，包括功能、风险、益处和应用情境。材料主要由团队中两名研究者撰写，经其他团队成员反馈，并由四名外部专家审核以确保内容中立。在所有国家，均使用相同的材料（部分根据当地案例调整）并翻译成当地语言。

**研讨会设计与结构概述。** 对话研讨会被设计为6小时和3.5小时（日本采用）的会话。图2提供了结构概览。参与者首先被欢迎并介绍研究项目，随后完成初始调查。在接受研究团队简短讲座提供的基础知识后，参与者完成第二次调查。然后他们进行小组讨论，利用预先设计的工作表作为指导。

这些材料是在当地合作伙伴和外部评审者的协助下共同开发的，通过翻译成当地语言确保了在地文化相关性和表述的清晰性。工作坊工作表可在 https://osf.io/e7dx3/ 获取。小组引导者讲解工作表并主持讨论，通过现场笔记记录整个过程。整个过程最终以一份反映面部识别技术（FPT）和当天活动的问卷作为收尾。

图2. 工作坊流程步骤。工作表可在 https://osf.io/e7dx3/ 获取。

以下，我们详细说明工作坊流程的各个环节：

**介绍环节**：每个小组由4至7名参与者组成，首先进行自我介绍和破冰活动，分享各自对FPT的体验。一项实际操作任务包括测试两款免费可用的FPT工具1，以促进对技术的亲身参与。各组还制定了行为准则，以确保平等参与和尊重性对话。

**主题探索与后果映射**：通过数据卡上的摘要，各组被介绍三种预选主题领域，并辅以现有公开媒体中普遍的使用案例（如可能，来自相应当地情境）：FPT与公共空间及警务（PSP）；FPT与企业监控（CS）；FPT与社会互动（SI）。各组选择一个主题及相应的"假设性"问题（例如，如果FPT被确立为警务工具会怎样？）来引导讨论。使用后果映射方法，各组头脑风暴所选情境下可能产生的结果，采用可视化方法探讨直接与间接后果。还引入了风险冲动卡，以纳入基于FPT相关学术文献的重要视角。

**优先级排序与利益相关者映射**：在完成后果映射后，各组就最重要的结果进行投票，并评估其可能性与影响。这进而引导至利益相关者映射环节，各组识别相关行动者，并就FPT在相应应用情境中的预期理想结果制定策略，使用经过改编的叙事分析模型[65]。

**面向未来情境的倒推法（Backcasting）**：在最后阶段，各组参与倒推法。他们阐述未来的理想现状，并确定实现该目标所需的措施，在此过程中受倒推法冲动卡引导，促使思考可能的步骤。工作坊以全体大会环节结束，各组分享其倒推结果。

### 3.3 问卷流程

问卷由三个部分组成，由每位参与者分别在对话过程的三个不同时间点单独填写，以记录参与者的个人认知。第一部分（10分钟）在介绍AI和FPT之前填写，内容涉及对AI的认知（对AI的感受[174]、AI态度[63]）以及媒体中的AI（对AI的兴趣[95]、AI相关新闻的媒体消费[42]、媒体对AI的描绘、议题报道、对AI和FPT的了解）。第二部分（5分钟）在小组流程开始前填写，内容涉及与FPT的接触点以及人口统计学信息。第三部分（10至15分钟）在对话环节结束后填写，作为反思练习。参与者对对话过程、FPT在PSP、CS和SI中的使用及其可取性、监管需求以及负责任的行为者[101, 164, 174]进行反思。问卷题目类型包括单选和多选题、5级李克特量表[91]，以及三道开放式文本题（感受、职业、反馈）。

### 3.4 招募与参与者样本

参与者外联流程采用针对性招募，通过各种传播渠道和社区[163]（受[77, 113]启发）进行信息分享，包括研究知情同意书。该方法旨在提升性别、年龄和AI知识方面的多样性[58]，最终形成有意愿的普通人群中自我选择的预先注册子样本。基于普遍性原则，我们选择自我选择，这体现了公民参与的参与式理想[113]。我们对所有预先注册者实施带有随机成分的立意抽样[163]。我们确保每个对话工作坊小组在性别上具有多样性，并在年龄群组（20岁区间："低"、"中"、"高"）和AI知识水平（"低"、"中"、"高"）上也具有多样性。这种方法可被视为"小型公众"，即居民聚集讨论公共事务[57]。

我们从玻利维亚、印度、尼日利亚、日本和德国招募参与者。选择这些国家基于探索性方法，旨在捕获来自不同国家的多元认知，涵盖全球南方与北方，并根据Gupta等人[67]的分类代表高度差异化的文化聚类："拉丁美洲"、"撒哈拉以南非洲"、"儒家亚洲"、"南亚"和"日耳曼欧洲"。我们的分析单位聚焦于国家层面而非文化层面，这使得我们能够将研究归类为跨国研究[4, 146, 183]，该研究偶尔被视为跨文化研究的子类[183]。

共有114名参与者来自5个国家、23个讨论小组，参与了对话工作坊（详细人口统计信息见附录表4）。该数据集包括来自玻利维亚的18名参与者（女：44.4%，男：55.5%；年龄中位组：25-34岁）、来自德国的21名（女：38.1%，男：61.9%；年龄中位组：35-44岁）、来自印度的22名（女：36.4%，男：63.6%；年龄中位组：25-34岁）、来自日本的24名（女：45.8%，男：54.2%；年龄中位组：35-54岁）以及来自尼日利亚的29名（女：51.7%，男：44.8%；年龄中位组：25-34岁）。样本反映了各国内部的年龄结构。我们每国样本量（20人以上）符合定性CSCW和HCI研究的规范[e.g. 97, 77, 71, 181]。我们的总样本量超过这些规范。

### 3.5 定性数据分析与编码流程

各国团队各自分析了其在本国所收集的定性数据。该流程涉及对所有工作表的编码2，从影响与风险评估开始。为确保定性结果的质量、可靠性以及横跨五国和四个时区的顺畅合作，我们遵循了迭代式[104]数据分析和透明文档化的最佳实践。在开始编码流程之前，我们开展了一次培训会议讨论分析指南（见附录C）。各团队执行相同的编码流程，包括开放编码、评价编码和聚焦编码[148]，具体描述见分析指南。我们使用一份"活编码手册"电子表格，供所有研究人员异步记录已识别的编码。该表格结构反映工作表的各部分。若编码手册中尚无相似编码，则以归纳方式[104]创建新编码。我们选择非确定性归纳编码而非演绎编码，例如基于制度信任概念的分量，以避免预设框架，并将重点放在识别与形成源自所收集数据的编码上。在首次跨所有国家团队的编码讨论会议后，383个初始编码基于相似性缩减为305个编码。在第二次讨论会议后，这些编码被归入105个类别，并进一步汇总为43个聚类。我们在附录D中报告了编码手册。在简化编码结构时，我们注意不丢失国家特定概念。由于所有编码均在国内团队内部及团队之间进行审查和讨论，我们未报告编码者间信度分数。我们引用McDonald等人[114]的观点，即在讨论会议中达成的非正式共识足以传达可靠性，尤其是在处理非结构化数据时。

### 3.6 定量分析流程

我们对所有单选和多选题目应用频率分析[104]，并报告均值与标准差。对于包含多个题项的量表测量（AI态度和AI兴趣），我们计算了均值指数[42, 63, 95]。我们使用ANOVA或Kruskal-Wallis检验以及成对比较来评估五个独立样本（日本、印度、德国、尼日利亚、玻利维亚）之间是否存在统计显著差异，并在附录E.2中报告假设检验和检验统计量。混合方法[104]使我们能够更深入地理解人们对FPT的认知。

## 4 结果：关于PSP、CS和SI的对话

### 4.1 结果概览

在各国23个小组中，11个小组讨论了公共空间与警务（PSP）情境，2个讨论了企业监控（CS）情境，10个讨论了社会互动（SI）情境。表2展示了各国之间的分布情况。我们观察到，德国、尼日利亚和玻利维亚中部分SI小组的讨论往往收敛为PSP论点。如果某讨论情境对理解论点有重要影响，我们将其在下方标出。

**表2. 各国讨论情境分布（小组数）与参与人数**

| 情境 | JP | IN | GER | NIG | BOL | 合计 |
|---|---|---|---|---|---|---|
| 公共空间与警务 | 2 | 1 | 3 | 2 | 3 | 11 |
| 企业监控 | 1 | | 1 | | | 2 |
| 社会互动 | 2 | 2 | 2 | 2 | 2 | 10 |
| 小组总数 | 4 | 4 | 5 | 5 | 5 | 23 |
| 参与人数 | 24 | 22 | 21 | 29 | 18 | 114 |

以下，我们按国家报告定性结果，并用括号中的缩写标注各国涉及的聚类/编码（日本：JP；印度：IN；德国：GER；尼日利亚：NIG；玻利维亚：BOL）。我们使用粗斜体表示高级聚类，斜体表示低层级编码。

### 4.2 参与者对AI的态度、接触点与媒体认知

大多数参与者表示对AI持较为积极的态度，其中尼日利亚参与者最为积极（NIG: M=4.44, SD=0.5），且与印度（M=3.51, SD=0.85；p<0.001）和德国（M=3.83, SD=0.73；p<0.01）的感知存在统计显著差异（χ2=22.46, p<0.001, df=4）。在所有国家中，对FPT在执法机构和私营部门使用情况的认知度最高。相比之下，参与者对FCT使用案例或企业数据抓取（用于构建面部数据集）的熟悉度较低。各国绝大多数参与者不知道自己接触过这些使用案例（详情见附录图10）。

在所有国家中，78.1%的参与者表示AI主要在技术议题背景下被报道（例如信息安全）。这一点在日本和尼日利亚参与者中尤为明显。玻利维亚参与者从新闻中了解到FPT的程度显著低于德国和印度参与者（分别为p=0.021；χ2=15.16, p<0.01, df=4）。在所有国家中，媒体对FPT的描绘总体上比AI更为平衡，即包含更多负面报道。德国参与者报告的FPT媒体报道显著（χ2=19.37, p<0.001, df=4）比玻利维亚、印度、日本参与者（各p=0.01）和尼日利亚参与者（p<0.001）更为负面。

**图3. 目标、风险、责任行为者与动机的聚类**

该图可视化了与面部识别技术（FPT）使用相关联的互联聚类。该图包含四个主要组成部分：
（1）**目标与效益（绿色）**：涵盖提高安全性、提升流程效率、增强用户体验以及确保系统稳健性等目标。长期愿景包括保护人权、建立监管框架、促进合作、推动公平包容的社会，以及福祉、信任与健康。
（2）**被视为最相关的风险（橙色）**：突出显示关键风险，包括滥用与缺乏治理（例如数据滥用与监管不足）、系统结果不准确（例如数据集局限与偏见）、权利丧失与行为改变（例如对隐私、多样性与自主权的威胁），以及更广泛的经济和环境风险。
（3）**负责实现目标的行为者（蓝色）**：识别政府机构（如地方政府、司法分支）、私营部门（如开发与部署行业）、教育与公民社会行为者（如大学与记者）以及公众等关键行为者。
（4）**动机（蓝色）**：将动机分类为经济（如财务激励）、社会（如安全与安保）和政治（如创新与技术进步）。
虚线表示聚类之间的互联关系，展示FPT实施与治理的复杂性及多面性。

### 4.3 系统如何使用，目标是什么？

我们识别出四个系统使用聚类和三个通过FPT使用应实现的目标聚类（见图3）。在公共空间与警务情境中，7个小组讨论了将FRT用作刑事犯罪调查和寻找失踪人员的一部分（GER, NIG, BOL），包括失踪人员或罪犯（GER, BOL）。此使用案例与最常表达的目标——提高安全性和减少犯罪（各国共16个小组，主要为PSP）相符。虽然大多数小组认为安全性会提高，但两个德国小组区分认为"安全感"（"sense of security"[GER ? PSP3]）将增加。其他小组（主要为PSP）描述FRT的使用起到预防作用，从而减少犯罪，例如通过威慑罪犯（JP, GER, NIG, BOL）。相比之下，日本参与者讨论FRT被用于灾难情境中查找失踪人员，而非犯罪情境。

行政程序支持使用案例聚类涵盖FRT的用途，例如"身份认证"[NIG ? PSP2]和"更高效的行政流程"[GER ? PSP2]（PSP: GER & NIG；CS: NIG）。

相关的是效率提升的目标（德国、尼日利亚、玻利维亚），包括高效的执法活动（德国：PSP；玻利维亚：PSP）和除执法外的高效行政程序（德国：PSP；尼日利亚：CS）。最后一个集群围绕社会互动情境展开，在这些情境中FCT进行面部推断以支持各种程序，并得到了各国小组的讨论。一些小组对FCT进行了较为笼统的提及（德国），另一些小组则建议利用FPT来支持与客户（日本、尼日利亚、玻利维亚）或同事之间的互动，或用于筛选合适的人员（玻利维亚）。来自日本和印度的参与者还提到了使用FCT来监测健康状况（日本、印度）。这一用例集群与改善体验的目标相关（日本、印度、尼日利亚、玻利维亚；主要为SI）。它描述了这样一种情况：通过FPT的使用，用户或工作人员体验可能得到改善，包括通过定制化、更好的客户体验和更丰富的工作互动实现改善。

一些参与者小组没有具体说明用例。相反，讨论更多基于他们假设FRT可以贡献的普遍目标（例如，"安全得到加强"[尼日利亚 ? PSP1]；最常提及的目标）。

**4.4 实现目标所需的必要要求有哪些？**

参与者描述了系统功能或设计原则以及为实现上述目标和效益所需的治理要求，即系统功能。关于系统特征和设计原则，必须确保一个健壮的系统（日本、印度、尼日利亚、玻利维亚），该系统必须"准确、高效、透明"[印度 ? CS]。此外，隐私保护系统，特别是包括"数据保护保障"[印度 ? SI1]（日本、印度、德国）也被视为是必要的。关于治理要求，必须建立监管框架（印度、德国、玻利维亚），包括知情同意机制、辅助工具用途定义以及无障碍性要求（主要为SI）。此外，三个小组提出了一个目标，即建立利益相关者协作以及对该技术的认识（印度、玻利维亚），并通过公民实现"社会监督"[玻利维亚 ? PSP5]，公民和工作人员都具备意识并得到适当培训。

**4.5 会出现/产生哪些风险？**

参与者认为最相关的风险可分为五个集群。误用与治理缺失风险集群包括最常强调的系统或数据被误用风险（涉及所有国家的15个小组）。这既指政府或私营部门的误用。缺乏适当的治理描述了在政府政策尚未到位的情况下使用FPT、对公民缺乏透明度，以及就FPT目标难以达成社会共识的问题（印度、德国、玻利维亚）。分类或识别结果不准确是指结果不准确的风险（印度、尼日利亚、玻利维亚）以及训练数据集的局限性（德国、尼日利亚），这也会导致偏见和歧视（印度、德国、尼日利亚、玻利维亚）。七个参与者小组提出了关于有效性和准确性的担忧（印度、德国、玻利维亚），认为从面部进行的推论是"伪科学"[印度 ? SI2]，或"实际安全性的提升值得怀疑"[印度 ? SI2]。

权利丧失与行为变化风险集群涉及因"侵犯"[日本 ? PSP1]表达自由权而导致丧失表达自由的风险，可能进一步导致"失去人民主权"[德国 ? PSP3]（日本、德国、尼日利亚、玻利维亚；主要为PSP），以及因"削弱隐私权"[玻利维亚 ? PSP5]而导致隐私和匿名性丧失的风险（日本、印度、德国、玻利维亚；9个小组，主要为PSP）。该集群还涉及丧失多样性和自决权的风险，例如由于"规范强加"[日本 ? SI2]或"难以退出"[日本 ? PSP1]（日本、印度、德国；PSP和SI），以及个人行为为"维持收益并避免不利因素"[德国 ? SI1]而发生改变（日本、德国、玻利维亚）。此外，还强调了拒绝使用FRT所带来的不便感，以及人们拒绝成为照片拍摄对象所带来的潜在长期负面后果。经济风险（印度、玻利维亚、尼日利亚）描述了系统部署者对FRT技术和/或受训人员高昂成本的担忧、部署者和用户或受影响个人对失业和人类技能下降的担忧，以及用户对因访问费用而访问受限的担忧。环境风险（日本、玻利维亚）描述了人们对FRT使用因"能源消耗增加"[玻利维亚 ? PSP1]而产生的环境影响的担忧。

**4.6 应采取哪些措施？**

图4呈现了各国参与者小组所识别出的六个措施集群。

*图4. 各国参与者小组所识别的措施集群*

该图概述了被认为对于成功实施和治理面部处理技术（FPT）的各种必要措施。这些措施被归入六个类别：（1）监管措施：聚焦法律与监管方面，包括建立健全的法律体系、保护人权、确保人类决策权、提供知情同意与退出机制、将使用限定在合理情境，并实施对违规行为的处罚。透明度与标准化也得到强调。（2）监测与评估机制：包括机会与风险分析、试运行、持续监测、维护、技术改进以及建立问责与透明度结构。社会层面的监测与评估机制也被着重提及。（3）技术要求措施：强调伦理与非滥用的系统、隐私设计、准确性与稳健性、公平性、能源效率和用户友好性。（4）教育与意识措施：强调素养与教育项目的重要性，以及在所有利益相关方中提高意识。（5）对话措施：鼓励多方利益相关者对话以及与公民的直接参与，以应对关切并促进合作。（6）实施措施：包括培养专业能力、开发旗舰项目、创建创新激励、确保基础设施无障碍性、提供安全资源，以及运用实验性"沙盒"环境。这些类别相互关联，展示了应对FPT实施挑战与机遇的整体性方法。

监管措施是各国所有讨论小组中最常被强调的应实施措施。在各小组的回溯性情境中（见第3.5节），监管措施被定位在时间轴的中部作为中间目标，或作为最终目标，其之前需先实施其他措施。小组提到了不同类型的监管措施。法规应保护人权和个体自由（印度、德国、玻利维亚），包括知情同意退出政策（日本、印度、德国、尼日利亚），并规定人类应始终作为最终决策权主体（德国）。法规应界定有限且合理的用途（日本、印度、德国、玻利维亚），例如"仅作为支持人类行动的工具"[德国 ? PSP2]，并伴随标准以确保质量（印度、德国），同时建立对不合规行为的处罚（印度、尼日利亚）。最后，应建立政治行动的透明度机制，以"让公众了解正在实施的行为"[玻利维亚 ? PSP1]。

监测与评估措施包括开展机会与风险分析（印度、德国、尼日利亚、玻利维亚）、进行试运行（德国、玻利维亚）以及实施监测与评估程序（印度、德国、玻利维亚）。维护和技术改进应根据监测与评估结果进行（德国、尼日利亚、玻利维亚）。必须实施问责与透明度结构（日本、印度、德国），以"对相关企业进行问责"[印度 ? CS]，同时对警方也进行问责，并为"公民创造透明度"[德国 ? PSP1]。

教育与意识措施被认为必不可少，包括面向广大公众的素养与教育项目，也包括面向警察等部署者的教育项目（各国）。除教育项目外，小组强调需要对"个人和司法机构"[印度 ? CS]及其他主管部门就"问题与后果"[德国 ? SI1]进行意识提升（印度、德国、尼日利亚、玻利维亚）。

对话措施既包括有"来自公民社会和终端用户的稳定输入"[印度 ? PSP]的多方利益相关者对话，也包括与政府和非政府组织的合作以及与公民的对话（各国）。后者指的是"通过公民委员会或公民投票"等方式实现"公民的有代表性参与"[德国 ? PSP3]，同时确保"在整个过程中全程的参与可能性"[德国 ? SI2]。

与技术要求相关的措施包括针对伦理与非滥用系统的研究（日本、印度、尼日利亚、玻利维亚）以及隐私设计（日本、印度）。参与者强调，系统必须准确且稳健（日本、印度、德国、尼日利亚）、公平且无偏见（日本、印度、德国）、节能（日本）以及用户友好（德国）。

开发与实施措施涉及通过适当培训和专业人员培养部署者的专业能力（日本、德国、尼日利亚、玻利维亚），建立沙盒（日本、印度），以及实施旗舰项目（德国）和制定愿景（日本）。此外，应为企业提供创新激励（印度），建设FPT部署所需的基础设施（印度、德国、尼日利亚、玻利维亚），并确保资金资源（日本、印度、德国、玻利维亚）。

**4.7 责任主体是谁？**

在讨论谁对确保FPT以期望方式使用负责时，参与者识别出五个演员集群。政府和立法机构，包括国家与地方政府（日本、印度、德国）、行政和司法分支（日本、印度、德国、玻利维亚）以及超国家机构（德国），对FPT的监管和FPT的政府合理应用负责。特别是德国的参与者小组强调了地方政府的作用，也强调了行政部门和欧盟在监管FPT并执行监管方面的作用。私营部门，包括开发产业（日本、印度、德国）、使用产业（日本、印度、尼日利亚、玻利维亚）以及支持产业，如保险公司（日本），对FPT的开发、合理使用以及FPT发生故障时的保险负责。教育演员（日本、印度、德国、玻利维亚），包括学校和大学、公民社会组织以及新闻工作者，被赋予在社会各界中提高意识并建设知识的角色。公众（印度、德国、尼日利亚）被强调为责任主体，例如通过自我教育。最后，特定的个人，如服务使用者（日本、尼日利亚）、技术专业人员和现场专家（日本、印度、玻利维亚）或监护人（玻利维亚），被认为对FPT的责任性开发和利用负责。

**4.8 谁或什么是受益者、非受益者以及反对者/障碍？**

*图5. 受益者、非受益者及反对者/障碍的集群*

最后，图5总结了识别出的受益者、非受益者和反对者。政府被描述为从工作减轻中受益，或因程序日益复杂而变得不堪重负。普通公众，包括弱势群体，被认为可从加强摄像头监控带来的安全感中受益。一些人还特别指出将不会有监控，因为已有法规约束，再次将适当监管的必要性定位为FRT部署的基础性要求。弱势群体被识别为最大的非受益群体，凸显了该技术的差异影响风险。隐私丧失被强调为通过FRT实施而受到伤害的社会层面问题。参与者将普通公众和公民社会视为反对FPT的关键参与者，并识别出法律挑战和资源不足为其部署的障碍。关于这些结果的更多细节见附录E.1。

**4.9 对话结束后参与者对FPT的个人反思**

*图6. 可视化（1）五个研究国家（玻利维亚、日本、尼日利亚、印度、德国）在三种不同情境下对FPT使用的评估差异；（2）五个研究国家（玻利维亚、日本、尼日利亚、印度、德国）在三句话"对社会有益"、"对我个人有益"、"影响到我个人"上的评估差异。中间行为选择最频繁的两种情境——公共空间与警务执法（PSP）的图表，最底行为社会互动（SI）情境的图表*

该图呈现了一个由两部分组成的图表组合。第一部分展示了一个由三个箱线图组成的图表，可视化了五个研究国家（玻利维亚、日本、尼日利亚、印度、德国）在三种不同情境下对FPT使用的评估差异。第二部分展示了一个由六个箱线图组成的图表，可视化了五个研究国家（玻利维亚、日本、尼日利亚、印度、德国）在三句话"对社会有益"、"对我个人有益"、"影响到我个人"上的评估差异。中间行为公共空间与警务执法情境的三个箱线图，最底行为社会互动情境的另外三个箱线图。

在小组对话结束后，参与者完成了调查的最后一部分。当被问及FPT是否可以是理想未来的一部分时，各国大多数参与者给出了肯定的回答，其中德国参与者表现出最大程度的抵触（日本：87.5%，印度：86.4%，德国：71.4%，尼日利亚：100%，玻利维亚：94.4%）。当被问及是否需要监管措施以确保实现FPT理想未来时，没有任何参与者表示FPT应在不受限制的情况下实施。

各国参与者中有23.6%表示需要具有法律约束力的监管措施，60.5%的参与者认为既需要具有法律约束力的监管措施，也需要自愿性措施（4.4%认为仅有自愿性监管措施会有益，11.4%——尤其是德国参与者——未提供答案）。当被问及他们最信任哪些机构来制定使FPT使用安全的措施时，各国受访者（但玻利维亚最少）认为政府或政府间组织、独立监管机构或人工智能安全研究所应为责任主体（见附录图11）。82.8%的尼日利亚参与者明确提出了企业的责任。对德国、印度和尼日利亚的参与者而言，公民社会组织发挥了次要作用，但对来自玻利维亚或日本的参与者则不然。

图6(1)展示了参与者对不同使用场景下FPT应用的个体评价。总体而言，在所有三个情境（PSP、CS、SI）中，我们发现来自印度（M=2.6, SD=1.0）和德国（M=2.5, SD=1.1）的参与者评价比来自玻利维亚（M=3.5, SD=0.7）、日本（M=3.7, SD=0.9）和尼日利亚（M=3.7, SD=0.8）的参与者更为负面。在CS情境中，来自印度和德国的参与者对FPT的反对态度显著高于其他地区（p<0.01）。就SI而言，印度参与者对FPT的反对程度显著高于尼日利亚和日本参与者，而德国参与者的反对程度显著高于日本参与者（p<0.01）。当评估FPT在PSP中的应用效益时，这些评价倾向（见图6(2)）依然存在，并且对于FPT对社会的SI效益以及个人层面的SI效益，这种差异达到了显著水平。

**4.10 分国别结果反思**

最后，我们从分国别的角度对结果进行反思，并以括号标注的英语翻译形式提供参与者代表性引语。

**印度。** 大多数讨论基于参与者对印度主流FPT技术——特别是DigiYatra [32, 166]——的个人经历和互动。他们批评了其隐私政策，并对收集和存储个人数据方面缺乏透明度的问题提出担忧（"个人成为了公司为提取数据的管道，因为从中可以赚取大量资金"）。总体而言，印度参与者对这项技术持相对批判的态度（"这些技术仍处于非常初级的开发阶段，容易出错"）。尽管如此，大多数参与者仍相信其有益的影响（"这项技术将提高效率"，或"犯罪威慑，减少犯罪活动，提升安全感"）。参与者特别强调了需要多样化的训练数据集（"更加多样化和无偏见的数据集"，或"政府与私营部门之间的合作以填补数据空白"），包括有色人种，以增强系统的可靠性。

**日本。** 日本参与者总体上对FPT持相对积极的态度，即使涉及警方使用或社交互动场景也是如此（"我们可以根据面部表情分析来考虑满意度评估措施"）。这通常源于这样的理念：对于那些"没有什么可隐瞒的"人来说，FPT并不构成特别的问题。对FPT中歧视问题如偏见问题的关注相对较少。对FPT在灾难情况下的潜在使用所给予的关注似乎为日本语境所独有（"灾难情况下的[人员]身份匹配、搜寻失踪人员等"）。关于福祉的讨论不如在其他国家那样聚焦于社会公平，而更倾向于个人安全或幸福感。

**玻利维亚。** 总体而言，玻利维亚参与者倾向于支持FPT的使用。实现公共安全的目标（"通过持续监控实现更高的公共安全"，或"将会有一个数据库可以告知某个区域是否存在危险人物"）以及为企业和工人带来效率提升（"销售和营销优化"）最为突出。尽管与其他国家类似，群体也承认了歧视和滥用的风险，但系统部署成本高昂的风险似乎是玻利维亚语境所独有的，这似乎源于当前的经济危机（"现任政府背负大量债务，导致需要外国贷款，这些系统不便宜，而且实施成本更高"）。此外，与尼日利亚类似，农村地区的人可能被认为受到伤害或无法受益，因为他们既没有接触这项技术的机会，也没有获取相关信息的渠道。

**尼日利亚。** 总体而言，大多数尼日利亚参与者似乎倾向于支持FPT。通过FPT增强安全的理念在公共空间和警务以及企业语境中均有所体现。在此，FPT被视为减少犯罪和防范欺诈的措施——无论是在私营还是政府语境中（"它有助于减少盗窃、一般犯罪并加快调查进度"，或"核实政府工作人员身份"）。虽然提到了滥用风险（"如果数据落入[错误]的人手中，可能会导致勒索"）、隐私威胁以及可能发生故障的问题，但获取更好的数据集以及引入经迭代评估的监管（"成立委员会重新审视并发现建议/法律"）被认为足以作为适用FPT系统的适当解决方案。

**德国。** 参与者对FRT的实施持混合观点。所有关注FPT在公共空间和警务中应用的群体都提出了关于FRT是否真能增加安全的担忧，或者FRT只会增加一种安全感（"通过监控带来的安全感"），而非真正的安全。个人权利的丧失（"对无罪推定的威胁"，或"由于永久监控而完全丧失隐私"）与日本一样突出。虽然其他国家的群体也讨论了谁应为适当措施负责的问题，但在监管和执行方面，特别关注了政府和地方及国家层面的政府——也涉及公民（"公民的代表性参与，例如公民理事会（地方层面的'共决权'）或在可能的情况下举行全民公投"）——以及行政和司法部门以及欧盟。

**5 讨论**

以下，我们将讨论我们的结果，即归纳形成的聚类和编码。我们将其与先前文献联系起来，并通过机构信任概念这一批判性视角来解读它们。

**5.1 RQ1：（如何）FPT被构想为理想未来的一部分？**

**实证发现摘要。** 在所有国家和语境中，参与者都将FPT归因于未来场景中的角色（见表1，Q1.1），尽管框架中明确声明且引导员指出该技术不必成为其未来场景的一部分。群体讨论主要被参与者对FPT技术可期望性感知的个体评分所印证。然而，日本和印度有12.5%和13.6%的参与者，德国23.8%的参与者反对这些技术的可期望性。FPT主要被假定能带来的影响和归属能力（见表1，Q1.2）包括减少犯罪和增加安全、提高效率以及增强便利性，而作为基本要求（见表1，Q2.1），系统应具有稳健性、尊重隐私、按照监管框架建设和部署，并建立协作与意识。

**积极的政府叙事影响积极的态度。** 在群体讨论中参与者的论证中，我们看到媒体中积极叙事的反映。这尤其适用于玻利维亚、尼日利亚和日本。如果政府部长传播诸如"BOL-110将使玻利维亚成为大陆上最安全的国家"[132]之类的愿景，那么社会将实现"在安全方面提高生活质量"["BOL ? PSP5"]的能力归因于FRT也就不足为奇了。先前的研究发现，政府叙事对日本研究对象的技术愿景具有强烈影响，而德国不存在此类强烈叙事[75]。

**尽管存在有效性或准确性疑虑，仍将能力归因于FPT。** 印度、德国和玻利维亚的群体明确质疑了FCT的有效性或实际安全的提升，或对其结果的有效性表示担忧。此外，印度、尼日利亚和玻利维亚的群体提出了准确性问题。然而，在所有场景中，参与者在承认误报及相关后果的同时，仍赋予FPT分类或识别人脸的能力。他们都认识到FPT对特定应用情境的有用性。这些论证模式反映了先前识别出的为面部分析AI辩护的聚类：人们通过引用推断概念（此处，一些群体质疑了其有效性）、AI执行任务的(不)能力（此处，分类、识别或验证的能力），或任务对实现目标的(不)相关性（此处，FPT对实现既定目标的重要性）来进行论证[47, 176]。

**安全提升的感知。** FPT增加安全的目标在所有国家中都最为突出。德国的两个群体承认可能只是增加了一种安全感。Lu等人[109]报告了类似发现，底特律居民——尤其是更易受伤害的个体——在警务FRT出现在他们社区的情况下报告了更高的感知安全水平。作者认为受影响的社区共享一种"聊胜于无"的想象，这应被理解为一种务实的折中，平衡着他们对FRT固有缺陷的认知与对改善的期望[109]。一项对英国公民的研究表明，虽然对监控常态化和要求保障措施表示担忧，但如果FRT伴随着明确的公共利益，他们会接受FRT[1]。

**话语动态与个体感知。** 我们假设那些对FPT评为非期望性技术的个体，其担忧可能通过建议监管措施（如限制使用场景或要求严格监管）或质量指标（如系统必须准确且公平）得到缓解。在他们的个人反思中，81.6%的参与者表示他们了解了他人的观点，75.4%表示他们了解了AI如何影响社会。我们将此视为我们的对话作为交流媒介有效性的证明。为了准备对话并防止引导偏差，我们进行了引导员培训并提供了全面的引导指南（更多反思见附录A.3）。

**5.2 RQ2：在FPT部署于未来社会之前，必须满足哪些条件，即应实施哪些措施？**

**实证发现摘要。** 各国和语境中的参与者都强调了在FPT开发和部署之前、期间或之后实施措施的必要性（见表1，Q2.2）。这些措施包括确保问责制和保护主体自主权的制度和程序性监管措施。此外，参与者描述了技术和社会的监测与评估机制，以及确保系统质量的技术要求措施。他们建议了促进开发和实施的措施，例如通过进一步研究和专业知识。最后，他们要求确保知情的公众保持参与：针对公民以及部署者的教育和意识措施，以及促进与包括公民在内的相关利益相关者对话的措施。

**结构性保障作为含FPT的未来愿景中的合法化因素。** 特别是第4.6节中描述的两个最大措施聚类（监管措施和监测评估机制）可以被视为基于机构信任（如第2.1节所述）语境下的结构性保障。参与者明确表达，他们认为主要（国际）政府和企业主体的责任在于确保FPT以期望的方式被使用（见第4.7节和第4.9节）。这些结构性保障作为适当的风险缓解因素发挥作用。因此，尽管承认潜在的技术局限、风险或伦理冲突，它们仍然促进了参与者未来愿景中对FPT的信任和信心（见第4.5节）。参与者强调这些措施和责任的價值在于提醒我们什么构成了良好技术和适当应用，并使我们能够推导出基于民众认知的政策建议。同时，这突显了当前技术在不满足甚至基本要求（如对社会的各个部分都具有同等准确性[e.g., 26]）的情况下就被推出的不负责任行为。总而言之，我们的实证结果强调了广义上的机构在促进对FPT等复杂技术的舒适感和信任感方面的重要性。

然而，尽管治理措施如监管确实能够限制使用场景或通过文档要求更高的透明度（如欧盟人工智能法案[52]），但我们注意到，将治理结构和流程视为"万能灵药"的认知阻碍了对技术在特定应用场景中有效性和根本适当性的质疑。对治理和监管措施重要性的感知与以往的专家分析和公民调查结果一致，包括对增强透明度[119]、健全法律框架[1, 101, 119]、退出权[1, 101, 119]以及提高人脸识别技术（FRT）准确性[119]的需求。先前的研究也表明，FRT的鲁棒性会影响信任水平[1, 15, 101]。我们的结果也与关于算法决策系统应保持人类最终权威的呼吁一致，即让社区持续参与[158]。在此基础上（以及结构性保障之外），我们的参与者强调，提高教育和意识、促进对话形式的措施对于促进社会各界的知情对话至关重要。

5.3 对政策制定者、研究人员、开发者和公民的建议

社会应努力实现关于人脸识别技术（FPT）是否是增强安全性、效率或便利性的正确手段的社会共识。我们强调需要主动挑战通过部署FRT来增加安全性的叙事。认为FRT能够实现安全性提升的信念对FRT的接受度影响巨大。目标应是超越"总比没有好"[109]的论证。相反，研究人员和政府应主动邀请所有利益相关者（包括公民）分析影响[178, 180, 181]，并讨论哪些措施（包括非技术措施）在实现实际的（而不仅仅是感知上的）安全性提升方面最有效。在企业环境中，我们也主张需要进行关于FPT工具的社会对话，这些工具据称能够提高效率或便利性。社会必须充分意识到这类系统所伴随的权衡取舍。在讨论如何通过对话形式促进安全、效率和便利等社会福祉时，防止技术解决方案主义的一种方法是：询问是否存在低技术或无技术解决方案，技术方案是否弊大于利，以及计算驱动的方案是否真正能解决该问题[14]。应用这些原则的另一种方式可见于Gerber[60]开展的形式，其目标是更多地思考如何通过社区手段（而非通过机构手段，或在我们的情况下是作为机构工具的技术）来促进/实现安全等重要的社会层面问题。

如果社会决定FRT在促进安全性提升的机制中发挥作用，或其他FPT工具在增强效率或便利性方面是适当的，这就需要进一步的建议：

FPT的开发者和部署者应定义并发布部署成功的指标，并建立失败情况下的应对机制。鉴于普通公众对鲁棒系统的需求，部署FPT的政府和公司应定义衡量错误的程序，包括何时应暂停或停止系统部署的阈值。这包括需要收集的相关数据的定义（这与先前的CSCW研究关于FPT和计算机视觉数据集的影响相一致[150, 153]）。此外，必须建立定义阈值未达标时的应对机制。我们建议模型性能的结果应透明且易于理解地报告。这也呼应了普通公众对隐私保护系统的需求。

CSCW研究人员应开发社会技术审计，并审查部署者，以揭示FPT系统所隐含的行为必要性（不期望的）后果，政府应支持这一点。社会在（外部）审计FPT部署者（无论是政府还是公司）方面有着重要作用。研究人员过去在揭示偏见和开发审计框架方面发挥了卓越的作用。例如，Buolamwini和Gebru[26]以及Scheuerman等人[152]发现了商业FRT中的种族和性别准确性差异。考虑到FRT审计的伦理问题[138]，必须通过进一步的研究和案例研究在技术和社会技术层面持续改进审计工作，以在缺乏透明度的情况下实现审计，可能涉及受影响的主体或公众[35, 103, 137]。政府应鼓励和支持对其自身及其他FPT系统的审查。这样，审计可以作为监控和监管机制（正如我们的参与者所建议的），揭示技术是否在哪些方面不符合公民期望或部署者的声称。许多FPT系统的部署打开了权力位置，公民往往没有选择退出被检测、识别或分析的权利，凸显了审查的必要性。过去的研究表明，这导致了FPT对象行为的变化[64, 188]。通过内部或外部审计或调查，CSCW研究人员可以有助于揭示此类FPT系统作为社会、协作和合作实践的一部分对其对象施加的行为必要性（不期望的）后果。这些分析的成果也有助于我们的第一项建议——挑战关于FPT的叙事，如果揭示了FPT系统的错误运行或由于暴露于FPT系统而导致的社会行为变化。

5.4 未来研究与局限性

未来工作应在全球其他地方复制这项研究。我们鼓励利用该框架主持关于不同AI技术的对话。一个局限是参与者补偿、餐饮和场地的高成本。其他局限性涉及我们的方法论方法。虽然所有研究团队都应用了相同的分层抽样标准，并试图通过有针对性的抽样确保样本在人口统计上的异质性，但考虑到不同的年龄结构、大学配额以及熟悉度和参与对话的开放性等不同的因素，五个国家的样本必然存在差异。我们的优先事项是应用相同的抽样标准，同时获得一个能代表该国的样本。我们承认样本的受教育程度较高。我们认识到，通过利用公民身份（国籍或居住地）作为分组变量，我们未能解决各国之间及各国内部可能存在的文化差异[3]。因此，在这项探索性研究中，我们不断言我们的研究结果代表了普通公众的一般观点或特定城市或国家内的主导态度。我们的研究采用了描述性方法，侧重于各国之间及各国内部判断的潜在差异和相似性。凭借研究团队的跨国构成，我们降低了分析中偏差的可能性。虽然我们回应了开展来自不同地理背景参与者研究的呼吁[105, 108, 155]，但未来的研究可以关注弱势群体，我们的参与者和先前的研究都指出这些群体特别容易受到FPT部署的损害，并且表达了与非弱势群体不同的观点/感知[26, 68, 109, 133, 151]。未来的研究可以系统地比较本研究中确定的要求（记录在代码手册中）与现有的监管框架和国际标准，以识别和界定监管差距。在此基础上，后续工作可以通过开发情境敏感的、特定国家的监管和非监管方法来扩展本研究的建议，以帮助弥补这些差距。

最后，我们反思方法论方法的局限性，遵循参与式研讨会最佳实践[71]，讨论对话研讨会和材料选择对参与者愿景的影响。由于参与者在他们的未来愿景中承认了技术的局限性，我们认为研讨会过程的目标——实现适当水平的知情——是成功的。然而，由于监管主题作为引导FPT成为理想未来的核心解决方案而出现，我们也看到了我们方法的局限。在本研究中，我们通过基于机构的信任视角揭示了这些局限性。虽然我们在讨论部分反思了结构性保障的因素，但我们想承认方法论设置部分与情境正常性之间的潜在联系：作为我们研讨会过程一部分的数据卡有助于参与者的知情，展示了FPT目前如何部署，也联系到参与者的本地情境。除此之外，数据卡也可能有助于建立一种情境正常感，这可能影响了参与者的未来愿景，因为数据卡将FPT描绘为在某些情境中（部分）已建立的技术。虽然我们认为这是一个必要的权衡并相应地在过程中实施了缓解机制（例如数据卡中对FPT提议效益的反驳论据；风险冲击卡），但我们希望提高未来研究对此的认识。此外，我们提出两种策略以超越对技术治理的简单理解：首先，我们建议利用Leslie等人[107]提出的缓解层级，让参与者详细说明所识别措施如何避免或减少某些风险或发展、恢复某种情况或补偿个人或群体。这可能有助于参与者更细致地思考措施。其次，我们建议在未来的工作中调整我们的流程，整合询问"如果监管漏洞出现或监管未按预期运作怎么办"的元素。

6 最终结语

通过这项跨国公民对话研究，我们为批判性分析FPT赋能的社会协作和合作实践做出了贡献。通过记录我们的方法论过程并展示我们的结果，我们旨在帮助其他研究人员在CSCW和社会计算语境下通过参与式和话语式研究格式记录对AI的感知。通过我们的对话研讨会方法，我们旨在通过提供来自支持者和批评者的论据、提供试用环节以及突出当前用例及其后果，使公民能够对FPT的使用形成知情意见。我们的参与者在评估适当的FPT应用时能够反思技术的局限性和风险，这表明FPT批判性论据在他们的考量中有所体现。然而，令研究人员惊讶的是，尽管承认了FPT的风险和局限性，大多数参与者仍倾向于支持FPT的应用，前提是伴随某些要求，如监管。如果我们的结果表明，强大的叙事和基于机构的信任驱动的信念使不同国家的人们接受了不成熟的FPT，那么这应在国际上引起严重关切。在我们应用的SCOT解读下，这似乎尤为相关：当普通公众被说服不加批判地接受技术推广时，作为社会矫正力量的批判性公众消失了，使专家意见不受质疑。

在这方面，我们的结果凸显了技术叙事和相关期望的复杂性，同时考虑了本地因素。参与者期望更高的安全性，并将实现这一目标的能力归于FRT。FRT和FCT被期望提供安全感并提高效率。公民能够评估众多风险并识别必要条件，如准确和鲁棒或公平和无偏见技术的需求——这些挑战无法仅通过技术手段解决。

正如我们在5.3节中所强调的，这不仅展示了研究参与利益相关者探索FPT应用适当监管措施的格式需求，也展示了对更根本地质疑其应用的调查需求。鉴于FPT的广泛使用——尽管存在固有的局限性，且在某些使用场景中缺乏科学依据——FPT系统的应用需要研究人员、政策制定者和公众特别关注。鉴于其可能的负面影响（我们的参与者也强调了这一点），FPT可能属于一个范畴，正如Baumer和Silberman[14]所言，其含义可能是根本不设计技术。关于如何避免技术解决方案主义的建议可在5.3节中找到。

这些方法中非常突出的参与性元素也符合我们的研究结果，因为跨越各种措施和群体，涉及和告知公民的主题反复出现。

通过本研究，我们希望鼓励参与前沿技术（FPT）讨论的所有利益相关方关注影响技术叙事的地点特定因素。这些讨论对于识别适当的机制以解决人们的担忧至关重要——正是这些担忧使人们相信前沿技术能够解决具体问题。正如我们的对话结果所强调的，这必须是一项持续进行的努力，需要政府、开发者、研究人员和公众共同参与。

致谢

本研究得到了IEEE计算机学会的支持，其通过2023年新兴技术奖励基金提供的慷慨财务资助使本研究得以开展。我们感谢Emilia Gómez（欧盟委员会联合研究中心）、Orestis Papakyriakopoulos（慕尼黑工业大学）、Benedikt Z?nnchen（慕尼黑数字科学与人工智能中心/慕尼黑工业大学）和Téo Sanchez（慕尼黑路德维希-马克西米利安大学）对提供给参与者的信息材料给予的反馈。我们感谢Eileen Mandir（慕尼黑工业大学）对对话过程方法提供的反馈，以及Sameer Patil（犹他大学）对我们前期研究过程的协助。我们感谢Emmanuel Syrmoudis（慕尼黑工业大学）对可扩展的调查基础设施的支持，以及Tamara Kastenmeier（慕尼黑工业大学）对全球人工智能对话管理的持续支持。我们感谢欧盟委员会参与式与审议式民主能力中心的成员、慕尼黑工业大学数字治理讲席和Emmy Noether研究小组2023年研究研讨会的参与者，以及来自联合国城市创新技术加速器（UNITAC）的Livia Schaeffer Nonose对我们早期项目展示的富有建设性的意见和反馈。我们感谢所有工作坊小组引导员为项目投入的时间和精力，以及我们在三个国家的所有参与者。我们感谢慕尼黑数字科学与人工智能中心（MUCDAI/HM）的Gudrun Socher和Sarah Ottinger的持续支持，感谢驻东京德国日本研究所（DIJ）使我们的一位研究人员得以赴日开展研究，感谢慕尼黑工业大学智库在建立跨国研究网络、支持所有沟通工作以及提供慕尼黑对话举办场所方面的支持。在德里国家法律大学传播治理中心，我们感谢执行董事Jhalak Kakkar在本研究过程中提供的宝贵指导和意见，以及副主任Shashank Mohan为建立合作所做的协调工作。我们还感谢玻利维亚天主教大学圣克鲁斯校区校长Oscar Ortiz Antelo以及玻利维亚天主教大学教授José Jesús Cabrera Pantojam的支持。我们还要感谢以下东京大学机构与我们共同组织在日本举行的工作坊：东京国际先进研究院学院、未来企划研究所和下一代人工智能研究中心。最后，我们感谢所有审稿人富有洞察力的评论，这些评论改进了本文。