Ctrl-F-Resist：公民社会组织在线监测极右翼的实践、挑战与技术需求

《Proceedings of the ACM on Human-Computer Interaction》：Ctrl-F-Resist. Practices, Challenges, and Technical Needs of Civil Society Organizations Monitoring the Far-Right Online

　　

摘要

随着极右翼行为者日益利用在线平台传播意识形态并动员支持者，公民社会组织（CSOs）在监测线上反民主动态方面发挥着关键却长期被忽视的作用。与事实核查机构或内容审核人员不同，公民社会组织进行的是长期的、具有上下文情境的分析工作，往往在资源匮乏的环境中、在 precarious 的工作条件下开展。尽管其承担着重要的社会角色，公民社会组织在采用或共同开发技术方案时面临重大障碍，包括法律不确定性、有限的平台访问权限以及长期资金不足。现有的研究和技术工具开发工作大多忽视了这些行动者，而更倾向于关注那些制度内嵌的利害关系人。

本文通过一项针对15名来自12个德国公民社会组织的从业者的定性研究，弥合了这一空白，这些组织从事在线监测工作，并将他们定位为数字空间治理中关键却常被忽视的利害关系人。我们探讨了他们当前的实践、面临的挑战以及对技术支持的期望。研究发现，由于缺乏定制化工具，监测工作仍主要依赖人工，其中增强搜索能力被视为最为紧迫的技术需求。尽管参与者对AI支持的功能（如媒体处理和内容发现）持开放态度，但许多人仍对自动化分类持怀疑态度，援引了对信任、法律可用性和专业可信度的担忧。

基于这些发现，我们提出了一种概念性的监测工作流程，并描述其在开源Telegram监测原型中的实现，旨在灵活支持多样化的监测目标。考虑到公民社会组织监测工作的社会技术属性，我们概述了具体的设计建议，以及针对政策制定者和学术研究者的建议。此外，我们引入了"人工劳动陷阱"这一经验性概念，解释了为何监测类公民社会组织往往被锁定在劳动密集型、低能力的安排中，并提出发展基于CSCW的协作社会技术规模化理论，以更好地理解协作作为超越碎片化、劳动密集型监测工作的路径所带来的潜力与挑战。

AI生成摘要（实验性）

本摘要由自动化工具生成，非由本文作者撰写或审核。其旨在辅助发现、帮助读者评估相关性，并协助相邻研究领域的读者理解该工作。本摘要旨在补充作者提供的摘要，后者仍是本文的正式摘要。全文仍为权威版本。点击此处了解更多信息。点击此处对本摘要的准确性、清晰度和实用性进行评论。这样做将有助于完善未来重新生成的版本。

1 引言

过去数十年间，在线空间中的反民主行为日益显现、常态化并被策略性地组织起来[2, 54]。极右翼行为者已发展出相当程度的媒体素养[27]，策略性地利用讨论论坛[4]、TikTok[25, 106]和Instagram[11, 70]等主流平台，以及Telegram等缺乏审核的"替代性"空间[45, 89, 96]来动员支持者和传播意识形态。这些发展在危机和重大政策变动期间加剧，例如COVID-19疫情期间或选举背景下[55]。在这些事件背景下，右翼和阴谋论团体通过网络平台放大了其叙事和动员行动[10, 20, 28]，这些平台不仅是协调和动员的场所，也是表演性自我宣传的舞台，包括示威活动的现场视频流[32]、犯罪行为的视觉记录[61]或对个别政治反对者的暴力攻击[42]。对相应动态的监测对于理解和减轻对个人与社会的潜在危害至关重要。

计算研究正日益关注实际需求方的需要，尤其是通过开发算法方法和工具来检测、分析或减轻网络伤害[37, 47, 108]。然而，这些研究大多集中在事实核查（FC）和内容审核（CM）上，无论是在应用场景还是用户研究设计上，而公民社会组织（CSOs）的具体需求、约束和工作流程仍探索不足[9]。特别是，针对公民社会组织监测需求定制的技术工具设计仍是一个未解决的挑战。

为弥合这一空白，本文基于对12个德国公民社会组织中15名从业者的定性研究，探讨了公民社会组织如何监测和分析社交媒体上的反民主动态。我们的贡献有三点：第一，我们在复杂的组织和政治条件下，为公民社会组织的监测实践提供了深入的实证描述；第二，我们从中推导设计启示，并将其整合到一个持续进行的共创过程中，以开发持久的开源工具；第三，我们引入了"人工劳动陷阱"这一经验性概念，并提出发展基于CSCW的协作社会技术规模化理论，以帮助理解协作基础设施如何能实现替代性的规模化路径。

我们的研究由以下三个研究问题引导：

- RQ1：公民社会组织在监测社交媒体上的反民主内容和行为者时，当前采用哪些实践和工作流程？
- RQ2：这些组织在监测工作中面临哪些技术、伦理和法律挑战？
- RQ3：他们对技术支持的需求和期望是什么？

研究发现，公民社会组织的在线监测工作仍主要依赖人工，这主要归因于缺乏定制化的技术工具。持续的伦理和监管挑战阻碍了跨组织合作——无论是在数据共享还是内容相关行动协调方面——从而限制了资源高效的协作技术创新的潜力。

最常被提及的技术需求是对跨多种内容类型和模态（包括音频、图像和视频）的增强搜索能力。基于AI的自动化被视为在媒体处理任务（如转录或光学字符识别OCR）中具有潜在用途。然而，参与者对自动化内容分类表达了显著的怀疑，凸显了当前研究趋势与公民社会组织所面临的实际现实之间的差距。信任发挥着核心作用：AI不仅常被视为不可靠，还被看作对法律有效性、专业可信度和人类专业知识价值构成的潜在威胁。

我们引入了一种基于实证发现的概念性监测工作流程，并通过八项新组件在监测软件原型中展示了其实现，这些组件旨在灵活支持监测类公民社会组织多样的主题兴趣，并通过轻量级默认设置进行配置，以适应其各异且往往有限的技术能力。

本研究通过突出公民社会行动者在数字空间治理中作为关键却常被忽视的利害关系人的地位，为CSCW社区做出了贡献，并展示了草根监测如何在 precariouous、对抗性和政治敏感的条件下运作，反映了CSCW关于不可见工作和表达工作的研究[94, 102]。此外，本工作在公民社会组织在线监测的语境下，为HCI领域的人本AI研究[5, 17]做出了贡献。我们的实证和设计导向的见解确定了实现可持续公民技术所需条件，使其与处于在线捍卫民主第一线人员的工作条件和价值观相一致。我们提供了六个未来CSCW研究方向，以深化对公民社会需求的参与、推进负责任的技术整合并促进更具包容性的数字治理形式。我们进一步为政策制定者提供了三项建议，以及为监测工具的设计与开发提供了十项建议。最后，我们通过引入经验性的"人工劳动陷阱"概念，扩展了CSCW关于社会技术基础设施化[60, 75, 101]和异质性、协作知识生产[1, 103]的学术探讨，并建议发展协作社会技术规模化理论，该理论将协作定位为超越碎片化、劳动密集型工作流程的路径，同时也凸显了公民社会组织间跨组织合作固有的挑战。

2 相关工作

本节将我们的工作定位于公民社会研究与在线监测研究的交叉领域，将公民社会组织定位为独特的监测行动者，审视塑造其工作的结构性条件，并总结目前关于监测实践和工作流程的已知与未知。

2.1 公民社会组织作为在线监测中的独特行动者

公民社会组织（CSOs）是非国家、非营利的行动者，追求规范性政治、社会或人权目标，往往在政治敏感的条件下运作[22, 80]。在观察在线话语时，它们与学术界、新闻界、事实核查（FC）和内容审核（CM）领域的行动者共同运作，但其角色、实践和约束存在显著差异。

公民社会组织从事长期监测、证据收集、上下文分析、报告工作，以及咨询和教育工作。此外，它们的工作可以涵盖地方或乡村语境，这些地区极右翼动态往往更强[38]，但经常未被国家媒体报道或被学术界忽视。公民社会组织侧重于对社会政治动态的持续、情境化观察；它们对地方动态、趋势和行为者的深入了解使其能够发挥早期预警机制的作用，提供及时、针对性的回应，同时也连接到区域和国际公民社会组织网络[53, 80]。随着平台和公共机构以言论自由之名缩减监管[15, 62]，这一角色变得尤为突出。在此背景下，公民社会组织日益发挥着对制度性回应的补充和纠正作用[100]，挑战那些可能淡化右翼活动、忽视暴力行为政治动机或否认社会中更广泛的威权或种族主义潜流的官方叙事[16, 53]。

2.2 塑造公民社会组织工作条件的挑战

现有文献表明，公民社会组织的监测实践受结构、政治和技术挑战的组合影响。然而，这些知识大多来源于灰色文献，包括NGO自报报告[51, 104]、政策文件[34, 35]和从业者导向出版物[53]，而非系统的学术研究。

跨越不同国家背景，公民社会组织面临长期资金不确定性，主要源于对短期项目资金的依赖[51, 52, 88]。这限制了它们投资数字基础设施、监测专用工具和专职技术人员的 ability[51, 52, 104]。然而，这些资金结构的后果在不同公民社会组织间并非均匀分布。规模更大、资金更充裕或数字原生型的组织更有条件开发内部监测工具[23, 56]，这些工具通常针对组织需求和资源定制，且不对外开放共享。这反映了"公民社会组织市场"上 precarious 的局面，其中组织为极为有限的资金竞争[52, 84, 88]，产生强调差异化而非持续合作的激励，即使存在重叠的目标和价值观也是如此。同时，公民社会组织通常在政治 precarious 的环境中运作，面临骚扰、恐吓、法律不确定性和来自极端分子、激进化个体或国家行为者的定向攻击[34, 35, 100]。

基于调查的研究强调了安全和隐私方面的脆弱性[91]，但也说明了通过标准化工具捕捉公民社会组织实践的困难。政治焦点、组织结构、术语和区域背景的差异表明这些挑战具有高度的情境性，最好通过定性、互动式、深入的途径来解决，正如我们在本研究中应用的那样。CSCW关于不可见工作的研究将那些隐藏且非正式的必要劳动概念化[102]。这一视角有助于将公民社会监测定位为一种在制度化场域之外、且因法律和安全顾虑而常常刻意保持不可见的协作工作形式。

2.3 公民社会组织及相关领域中的监测实践与工作流程

尽管公民社会组织在在线监测中发挥着重要且独特的作用，但直接研究其工作方式的实证研究仍然稀少，B?umler等人的研究[9]提供了与我们最相关的工作，为关注处理用户提交事件报告的公民社会组织面临的挑战提供了重要见解。为定位公民社会组织的监测实践，我们借鉴了相邻领域的额外研究，为研究其监测工作提供了概念理解。这些文献将监测努力概念化为一个包含主动搜索、筛选、解读、文档化和内容优先化的"实践流水线"[71][36, 109]。对事实核查者和记者的研究表明，这些流水线通常具有碎片化的工作流程、依赖临时工具和大量手工及重复劳动的特征[12, 58, 71, 77, 78]。此外，工具获取往往受限，而可用性被描述为较低[9]。缺乏专用监测工具迫使从业者依赖临时解决方案，如电子表格、通用平台[12]或开源情报（OSINT）工具——后者最初为军事和情报目的开发，因此不一定符合公民社会组织的伦理价值观[78]。

这种主动性和调查性的工作在OSINT研究[30, 36, 43]和FC研究[58, 71]中被强调为特别劳动密集。与此同时，这一阶段在研究中仍相对缺乏考察[50]，与工作流程中后续阶段（如主张验证[50, 74]或见解传播[50, 99]）相比尤为突出。

这一差距至关重要，因为它表明现有的工具和系统设计往往建立在这一活动的片面理解之上。此外，现有研究对民社会组织（CSOs）日常实践中监控工作流如何展开提供了有限的洞察，尤其是在工具碎片化和持续人工操作条件下，以及这些条件如何塑造他们对技术支持的预期。在计算机支持协同工作（CSCW）领域，此类工具生态系统被视为通过持续维护而非稳定系统维持的关系性社会技术基础设施[101]。相关地，CSCW关于"即兴拼凑"（bricolage）的研究指出，行动者如何在资源受限的环境中利用异质性资源来维持工作[21, 59]。

**2.4 监控实践中的技术支持**

监控工作的一个早期且根本性的步骤是数据收集，而这一过程日益受到数据和平台访问受限且脆弱的制约——原因包括低价访问主要平台的终止、社交媒体分析工具的停售[81]，以及对通讯平台访问的受限与不透明——尽管这些平台在有害内容传播方面的相关性日益增长[7, 50, 77]。这些发展凸显了平台依赖型数据访问的结构性脆弱性[77]。尽管法律豁免使得学术数据基础设施的专业化成为可能[41]，但民社会组织很少从中受益，因为它们缺乏可比的研究特权。由德国知名民社会组织开发的监控系统[23, 56]对其他组织也不（本身）开放。与此同时，开放获取的数据收集和分析工具[83, 85, 90, 98]往往在技术上不可及、维护不善[92]，且很少基于与从业者的系统性互动。CSCW关于基础设施化的研究强调，系统通过"已安装基础"及其对抗演进[75]，且持续维护而非最终完成[60]。

研究已证实了在调查和监控工作中支持所谓"低技术需求"的重要性[48]，包括审阅搜索结果、识别相关材料以及提取关键信息等步骤[69]。与此同时，近期研究日益集中于开发基于机器学习的前沿系统，例如在内容审核（CM）中用于检测、分类和组织有害在线内容的工具[93, 97]，以及在网络犯罪（FC）领域的相关工具[29, 46, 50, 67]。原则上，此类系统似乎可能对民社会组织监控具有潜在相关性，因为它们承诺支持识别大量潜在相关材料。在调查和网络开源情报（OSINT）场景中，结合自然语言处理技术（如命名实体识别、搜索、过滤和AI辅助报告）的工具已被证明能支持早期分析和内容分类[99]。监控工作流可能还需要处理和分析多模态数据（如图片或音频）的工具，正如相邻领域的研究所示[24, 107]。

然而，当前基于学习的系统对民社会组织监控的实际效用仍不确定。许多审核工具和训练数据集是专有且不可及的，且通常不清楚现有工具是否与民社会组织的概念、分类和情境敏感性相一致。本地嵌入且不断演变的现象——如德国农村地区的右翼青年话语——不太可能被围绕平台政策或法律门槛构建的通用仇恨言论分类器所捕捉。从CSCW视角看，这凸显了将本地嵌入的监控实践转化为标准化计算类别的困难，呼应了CSCW关于（异质性）知识生产和边界对象的工作[1, 101, 103]。

技术局限仍然存在，包括在高资源语言和标准设置之外性能下降的问题[63, 77]。即使是广泛使用的工具也漏检隐晦的仇恨言论、过度审核反言论[49]，且无法捕捉语言和文化特定的模式[64, 79]。此外，即使有效的系统也需要大量人工校正和谨慎的工作流集成，包括适当的界面[99]。

尽管存在这些局限，网络犯罪和内容审核领域的从业者通常对AI工具持开放态度，主要将其用于狭窄且明确定义的任务，而非复杂的解释性或评估性工作[50, 67, 77]。在这些干预性场景中，工具被设计用于通过检测和标记来支持执法、移除或反馈[18, 93, 97]，人机协作常被视为解决自动检测局限性的方式，例如通过有条件委托[65]。相比之下，监控可以被视为一种认识论工作，优先考虑观察和意义建构而非干预，这意味着对自动化的预期不同，更强调辅助性而非决策性工具。

现有研究强调了对"人在回路中"系统的偏好，即在算法规模与人工控制之间取得平衡，尤其是在高风险或解释性场景中[31, 67, 74]。从业者通常表现出"算法厌恶"[67]，其驱动力来自对信任、透明度和可靠性的担忧[50, 76]。因此，近期工作强调参与式设计[48]和灵活、模块化工具，以支持透明度、可调整性和用户控制[9, 29, 74, 78, 95, 107]，将AI框架化为协作支持而非自动化[72]。

现有CSCW研究表明应将民社会组织监控定位为一种协作性、基础设施性和认识论工作。尽管如此，对监控实践的现有描述主要来自新闻业、网络犯罪或情报领域，对这种工作在长期、本地嵌入且由规范驱动的文社会环境中如何展开提供了有限的洞察。尽管碎片化工具和高人工投入已有充分记录，但对于民社会组织如何导航技术、伦理和法律约束，以及这些约束如何塑造技术支持预期，所知甚少。本研究通过考察民社会组织的监控实践（RQ1）、挑战（RQ2）和技术支持需求（RQ3）来弥补这些差距。

**3 方法论**

本研究作为一项研究与实践结合的项目，与合作民社会组织共同开展。在实证工作的同时，开发了一个开源原型，并在项目过程中进行迭代适配。该项目致力于将民社会组织的需求整合到设计开发过程中，本研究为定义和优先排序关键软件功能奠定了基础。

尽管软件的技术重点是Telegram——一个德国及更广泛地区右翼行动者的关键平台[8, 105]——但本研究的范围更广：旨在获得对从事在线监控的民社会组织工作流、挑战和需求的现实理解。这包括收集可迁移到其他社交媒体平台、服务和通讯模式的洞察。因此，在访谈中，我们要求参与者反思其他平台和服务。

**3.1 参与者**

为获得深入且具情境性的洞察，我们进行了无经济激励的定性访谈（见3.3节）。通过文社会中的既有联系人获取参与者，包括通过项目合作民社会组织建立的联系。参与者通过非概率抽样选取，结合目的性（专家）抽样[82]和滚雪球方法[33, 40]。我们与来自12个民社会组织的个人和代表进行了访谈，这些组织从事监控、教育、归档、洞察分析和发布，以及通讯和安全相关咨询（包括对个人和其他文社会组织的威胁评估）。他们的活动大致可分为三个主要关注领域：**归档**——系统地收集材料以保存对右翼活动的洞察，为研究人员和记者创建资源；**监控**——记录事件、追踪叙事、符号和新兴事件，并提供趋势和威胁的定性与定量分析；**咨询/建议**——为受到右翼行动者针对的个人或群体提供威胁评估和指导，帮助社区应对潜在风险。三名参与者具有技术教育背景，这在某些情况下影响了他们表达潜在工具功能想法的方式，表现出对技术可能性的更大认知。表1提供了参与者组织重点、主要活动和技术背景的概览。参与者层面的信息见附录（表5）。

**表1.** 受访民社会组织及参与者角色的概览（n=15）。

| 维度 | 分布 |
|------|------|
| 组织重点 | 反右翼（8）、反犹太主义（2）、阴谋论（3）、种族主义（1）、人权侵犯（1）、多种现象（3） |
| 主要活动 | 监控（7）、咨询（5）、归档（2）、分析（2）、教育（1）、软件开发（1） |
| 技术教育背景 | 是（3）、否（12） |

**3.2 访谈**

2024年10月至2025年1月间，我们与共15名参与者进行了13次访谈。访谈通过视频会议工具远程进行，便于灵活安排和不同地区参与。大多数访谈为单人进行；两次访谈中，同一组织的两名参与者共同参与。访谈时长在30分钟至1小时之间，由作者之一使用半结构化指南主持。访谈指南的翻译版本收录于附录（A.2）。

每次访谈以介绍性问题开始，邀请参与者描述自己及其组织的工作。对话随后覆盖主题领域，如当前监控工作的实践与挑战、相关平台和内容类型、监控所用工具、对当前技术（包括AI）的认知及其增强监控工作的潜力。追问问题根据每次对话进行调整。由于参与者的技术知识水平各异，访谈者有时引入具体示例——如主题建模、聚类、网络分析或视频摘要——以帮助说明可能的技术支持并引发讨论。

在可能的情况下，访谈进行了音频录制。在两次参与者不希望被录制的情况下，第二位研究人员在场并制作了详细的书面记录，偶尔提出澄清性的追问。

**3.3 研究伦理与匿名化**

研究对反民主内容和行动者进行监控的文社会组织带来了独特的伦理挑战，存在增加这些组织受其监控对象曝光的风险，必须仔细考虑以避免泄露其身份、方法和脆弱性的可识别细节。因此，我们参考了互联网研究伦理指南[39]以及关于在线恐怖主义、极端主义和右翼行动者的研究[26, 68]。在访谈前，参与者收到关于研究目标、数据收集程序和数据处理实践的详细信息。所有参与者均签署了知情同意书。音频录制需单独获得同意，非参与研究的必要条件。参与者获保证严格保密，所有共享信息均经匿名化处理以保护个人和组织身份。此外，由于从事此类工作的组织数量有限，即使是间接标识符（如组织运营的所在地区、监控的具体群体或成立年份）也可能无意中泄露其身份。因此，我们避免详细描述参与者或其组织。

访谈使用本地运行的WhisperAI[3]自动转写。在人工校对转录文本后，所有音频和视频文件按照向参与者提供的同意信息被安全删除。可识别细节（如参与者和组织的姓名）从转录文本中移除。匿名化转录文本经加密并以密码保护存储，以确保数据安全管理。

参与者未获得经济报酬。大多数人在工作时间以常规工作职责的一部分参与。此外，参与者表示有兴趣通过研究项目塑造正在开发的软件工具，其参与与其职业目标相一致。访谈的在线形式也消除了任何潜在的自费支出，如差旅费用。

**3.4 研究者立场性**

通过合作民社会组织间接接触访谈对象建立了信任，并促进了开放的访谈氛围，尤其考虑到主题的敏感性和许多民社会组织的 precarious 处境。同时，参与者知晓研究者参与AI工具开发用于自动检测仇恨内容。这种知晓可能影响了访谈中某些议题的表述、强调或问题化方式。然而，重要的是，参与者频繁表达对自动检测系统的批判性和怀疑性观点，表明回答主要不是为了迎合访谈者预设的研究议程，而是真实反映了参与者所处实践和关切。

**3.5 数据分析**

我们采用了主题分析[19]，这是CSCW中一种成熟的方法（如[73, 93, 97]），允许从定性数据中识别关键模式和主题，提供对参与者视角和体验的丰富理解。尽管研究问题结构化了访谈指南从而也结构化了数据收集，但数据分析本身是归纳的、数据驱动的。

主题分析的第一步——数据熟悉——由第一作者进行。在将生成的转录文本与音频录音对照审阅时，未录制的访谈笔记被整合，并添加了初步分析笔记。转录文本以表格格式组织，以支持逐句注释。

在初始编码阶段，我们采用了开放编码方法。有意义的数据片段——从单句到短段落——被赋予贴近参与者措辞的编码，主要聚焦内容。

为建立对数据和编码方法的共同理解，第一和第二作者独立编码了两场访谈。所产生的编码显示出高度的一致性，并经过讨论以统一解释。随后，第一作者编码了其余所有访谈，并开发了一个初步的代码树。在类似于主轴编码的过程中，第一作者将低层级编码归类为更高级别的类别和主题，朝着更具解释性的抽象方向发展。例如，描述手动监控实践耗时且不可扩展的陈述最初被描述性地编码（例如，作为劳动密集型监控），随后被归入更广泛的主题，以捕捉监控工作的初始状况。这一过程产生了一个包含 714 个编码、组织在 25 个主题中的初步主题地图。搜索和审查主题的过程是迭代和协作的。两位作者都审查并讨论了这些主题和子主题，重新考虑它们的命名，并在必要时重新分配某些编码。这些讨论促成了对第一份主题地图的修订，最终得出 21 个主题和 497 个编码。在整个过程中，使用了一个共享的数字平台来协作组织和可视化编码与主题，支持识别重叠和概念关系。该过程一直持续进行，直到最终的主题被“视为内部连贯、一致且独特” [19]，反映了主题地图的分析深度和清晰度。最后，稳定的主题被映射到研究问题上，以支持结果的结构化报告。一些主题跨越多个聚类，并且与多个研究问题相关。例如，监控实践中所涉及的人工努力既与当前工作流相关，也与对增强技术支持的需求有关，因此有助于多个研究问题。为了报告目的，此类主题根据作者们的判断被分配给它们最突出的章节中。重要的是，这种映射是在主题结构建立之后进行的，应被理解为对结果的分析性组织，而不是预定义的编码方案。数据分析最终归结为四个元主题、21 个主题、80 个子主题和 329 个编码，这些编码最终被翻译成英语。四个元主题构成了研究结果部分的结构骨架：当前实践与工作流 (4.1)、技术、伦理和法律挑战 (4.2)、对技术支持的需求与期望 (4.3)，以及对 AI 角色及人机协作的看法 (4.4)。为了呈现研究结果，我们从访谈记录中挑选了生动且具有代表性的例子来说明所识别出的主题和子主题。3.6 研讨会除了访谈外，我们还与访谈参与者举办了两次为期一天的参与式研讨会，作为形成性协同设计和探索性评估步骤。目标是使概念监控工作流立足于实践者的日常监控实践中，并就 Telegram 监控工具的早期原型收集情境化反馈。在每次研讨会之前，邀请参与者提交与其当前工作相关的 Telegram 频道。这些频道被预先集成到系统中，以支持逼真的动手探索。每次研讨会结合了从访谈和新兴监控工作流中得出的关键发现展示、围绕参与者自身主题兴趣的动手工具使用，以及有主持人的小组讨论。在动手环节期间，参与者注册用户账户，测试了词汇和语义搜索，检查了自动生成的音频转录，并探索了由自动分类器在消息级别提供的“阴谋分数”。我们通过笔记记录了会议过程，这为工作流和原型的迭代完善提供了信息。4 研究结果参与者报告称他们在财务、人员和技术条件受限的情况下工作，这与关于公民社会组织的先前研究一致 [9, 91]。有限的技术专业知识限制了他们使用数字工具的能力。与此同时，他们强调在线空间对其工作至关重要，因为反民主行动者越来越多地利用数字平台，并且在线危害转化为现实世界的后果，这强化了现有的研究 [2, 27, 54]。在访谈中，这凸显了有效在线监控、改进工作流和更易获取工具的重要性。接下来，我们将详细回答我们的研究问题，并将我们的研究结果置于现有研究的背景中。我们包含了图表以显示每节中相关的主题和子主题。虽然代码很大程度上为了易读性而被折叠，但节点标签指示了代码的数量。完整的代码列表可通过 Zenodo 获取。24.1 当前实践与工作流 (RQ 1)图 1 说明了特征化公民社会组织当前监控实践和工作流的主题和子主题。图 1。公民社会组织监控实践和工作流的专题地图部分。显示了主题（蓝色节点）、子主题（浅蓝色节点）和代码数量（因空间原因折叠）。白色标签表示未分配给子主题的单个代码。公民社会组织监控实践和工作流的专题地图部分。显示了主题（蓝色节点）、子主题（浅蓝色节点）和代码数量（因空间原因折叠）。白色标签表示未分配给子主题的单个代码。该地图基于对 15 名为德语区组织工作的公民社会组织从业者进行的定性编码创建。4.1.1 作为人工努力的监控。与 B?umler 等人 [9] 的研究一致，参与者将在线监控描述为基本上是手工的，例行进行或是对离线事件的回应。他们依赖例如 Telegram 桌面客户端或移动应用来关注频道并搜索内容，并且不得不“每次手动触发全文搜索” (P4)。通过 Telegram API 进行自动化很少使用，而且文档通常也是手工完成的——通常通过截图和笔记——使得该过程“非常耗时且效率低下” (P11)。这与关于调查新闻和外部合约工作流的研究结果相符 [12, 29, 58]。4.1.2 监控洞察的文档化。参与者依赖主要是低技术含量的方法来记录洞察，最常见的是截图、手动下载媒体和书面笔记。正如 P6 所解释的，文档工作通常“从截图开始——然后，如有必要，我们会单独写下来”。对于较长的讨论串，会使用滚动截图，尽管参与者指出缺少方便的桌面工具，特别是对于 Telegram 评论串，在那里“你最终会得到一百张照片” (P6)。一些参与者也使用 Telegram 桌面客户端的导出功能来归档整个频道，这被认为“非常有帮助”，特别是在按日期或媒体类型过滤时 (P6)。截图被描述为涉及犯罪内容案件中的必要证据，在那里“煽动暴力的内容和账户必须可以被识别” (P9)。这与先前确定截图为标准开源情报文档实践的工作一致 [9, 69]。值得注意的是，只有一位参与者提出了对证据操纵的担忧。为了确保真实性，他们采用了密码哈希和独立网络归档，例如通过 Internet Archive [57]，以建立“证据链”并“证明事情之后没有被篡改” (P13)，这反映了在先前研究中很少注意到的技术严谨水平。4.1.3 技术基础设施。参与者报告了各种数据存储实践，最常见的是依赖本地文件存储来保存截图、链接和文本文件。这些实践通常是临时的和非系统的，特别是对于较新的内容格式。很少有组织维护数据库，这些数据库通常是手工的且仅包含文本，并且只有两位参与者报告使用内部抓取脚本。总体而言，这表明缺乏用于系统数据管理的技术基础设施，这呼应了新闻研究的发现 [12]，并反映了 CSCW 所描述的通过持续的本地维护而非稳定系统来维持的关系型基础设施 [101]，以及通过已安装的基础进行演进 [75, 101]。4.1.4 相关平台和服务。参与者确定主流平台（Instagram、TikTok、Facebook、YouTube、X）和 Telegram 最为相关，有些还在监控 VKontakte、右翼论坛、图板和媒体机构的评论版。平台相关性随时间变化：正如 P7 所注意的，“Facebook [过去是]相关的”，而 Telegram “在一定程度上仍然相关，但公开的活动不再那么多了”。新平台可能会破坏建立好的工作流——例如 TikTok，它缺乏可以轻易归档的频道结构 (P8)。参与者还描述了各平台在各类现象突出程度上的差异：Instagram 和 TikTok 对于年轻受众中的右翼极端主义特别重要 (P11)，而“跟踪发生在 Instagram 上，仇恨运动发生在 X 上” (P4)。与先前研究一致 [87]，参与者强调了跨平台分析以获得“真正复杂的画面” (P4) 的重要性。4.1.5 监控内容的格式和模式。参与者强调，有效监控必须解决有害内容日益增长的多模态性质，这与外部合约和新闻研究一致 [24, 78]。文本仍然是主要焦点，因为它能提供大量洞察，同时分析和比较可靠高效 (P14)。视觉内容被认为在存储和处理方面更具资源密集型，但也同样重要：参与者提到了分享图片、来自示威活动的视频以及用作暗号的表情符号。音频格式的相关性各不相同：虽然语音信息的重要性有所下降，但播客和长篇直播——通常是视频录制的——仍然很有价值，特别是用于识别行动者和记录在事件上发表的言论 (P9)。4.1.6 监控中使用的工具。虽然监控基本上是手工的，但一些参与者使用工具来支持特定任务，通常从商业社交媒体监听或开源情报中挪用服务。对于搜索和发现，常提到网络搜索和 Google Alerts。网络搜索和开源情报工具反映了在外部合约中观察到的实践 [78]。使用社交媒体平台 API 的情况很少，因为访问受限或不再可用 [81]。为了分析音频内容，参与者依赖现有的播客或 YouTube 转录，或尝试使用开源自动语音识别模型 Whisper [3]。对于图像内容，使用了免费且易于使用的工具，例如用于搜索基于截图的 PDF 的 PDF 阅读器。对于文档化，一些公民社会组织依赖网络归档，这在外部合约中也注意到了这一实践 [69, 77]。Telegram 特有的（付费）功能包括内置翻译、频道推荐、分析服务（例如 telemetr.io），以及用于关键词警报的自定义机器人。少数参与者使用或计划使用付费的 Telegram 监控服务或自动化仇恨言论检测工具。监控主要用德语进行，翻译需求通过内置工具处理，这被认为是有帮助但非必需的，这与以报道为重点的公民社会组织不同 [9]。这可能反映了以监控为重点的公民社会组织主动选择内容，而以报道为重点的公民社会组织处理用户提交。综合起来，这些实践反映了一种 bricolage [21, 59] 形式，即监控工作是通过异质工具的机机会重组来组装，而不是通过集成系统，这产生了 CSCW 所描述的通过本地配置和持续维护来维持的关系型基础设施 [101]。4.1.7 使用中工具的局限性。参与者报告了多个与工具相关的局限性，包括订阅服务的费用以及 API 限制和错误等技术问题。工作流通常很笨拙，例如需要手动下载音频，然后自行编写脚本进行自动语音识别处理。专有工具因透明度和可配置性有限而受到批评，降低了其对研究和调查工作的价值。参与者还表示担心基于 AI 的分类的错误率——特别是在威胁评估方面，高召回率是关键。最后，一些人强调了与商业商业模式相关的偏见，这些模式优先考虑易于起诉的案件和特定平台，尤其是 Facebook。P4 批评称，这些服务“把赌注押在获胜的马上，因此变得相当单一维度”。在外部合约工作流中也观察到了平台偏见，这些工作流受到平台提供的基础设施和资金的塑造 [12, 14, 77]。4.2 技术、伦理和法律挑战 (RQ 2)图 2。公民社会组织在监控工作中面临的技术、伦理和法律挑战的专题地图部分。显示了主题（红色节点）、子主题（浅红色节点）和代码数量（因空间原因折叠）。白色标签表示未分配给子主题的单个代码。公民社会组织在监控工作中面临的技术、伦理和法律挑战的专题地图部分。显示了主题（红色节点）、子主题（浅红色节点）和代码数量（因空间原因折叠）。白色标签表示未分配给子主题的单个代码。该地图基于对 15 名为德语区组织工作的公民社会组织从业者进行的定性编码创建。图 2 总结了从业者们在监控中面临的关键挑战，以及相关的主题和子主题。4.2.1 数据访问和处理。参与者报告了由于平台政策导致数据访问受限的主要挑战。虽然 Telegram 数据被描述为相对容易访问，但对 Instagram 或 Facebook 的访问要“困难得多” (P6)。参与者还强调了 Meta 和 X 在 API 访问方面的变化，指出以前可访问的数据现在要么变得不可用，要么对研究来说价格过高 (P13, P14)。关键工具和 API 的停用或商业化在跨行业中已被广泛记录，出现了类似的依赖和中断 [9, 12, 48, 50, 58, 78]。

除访问限制外，参与者还面临数据量方面的困难。社交媒体被形容为"无底洞"（P8），缺乏适当的分析工具时，大规模数据收集变得难以管理。部分参与者报告了计算资源限制问题，大数据集会使本地资源不堪重负并导致系统崩溃。因此，以监测为重点的公民社会组织开展工作面临比新闻工作者或报告导向的公民社会组织更大的限制，后者受益于更成熟的架构或经过筛选的输入内容 [9, 14, 50, 58]。

4.2.2 内容的多模态性

另一大挑战源于监测内容的多模态特性。音频和视频被描述为特别耗时的内容类型，因为它们无法通过关键词搜索，需要进行完整的人工审查："你必须完整查看一遍才能找到相关部分"（P2）。尽管这类格式能够提供重要见解，但参与者缺乏时间和工具来分析长达数小时的录音。因此，几乎所有参与者都强调了音视频转录工具的价值，这与之前的研究结论一致 [24, 58, 67]。除此之外，参与者指出直播和快拍等临时格式构成了特殊挑战，因为它们的可用性有限。一些人认为，恶意行为者故意使用这些格式，因为它们"难以捕捉"，因此不太可能得到有效监测或存档（P14）。

4.2.3 法律挑战

许多参与者描述他们的监测工作深受重大法律不确定性的影响，特别是因为他们"像记者，但并非记者"（P15）。这造成了困境：他们必须保留证据以支持公开声明并应对潜在的法律挑战，而数据保护和GDPR则限制了他们可以存储的内容。对于缺乏正式监测授权、以报道为主的公民社会组织也提出了类似挑战 [9]。从计算机支持协同工作的角度来看，这使监测工作成为一种隐形的劳动 [102]，其中必要的取证和保护性劳动在制度上得不到支持，并且在很大程度上隐藏于公众视野之外。遵守数据保护法往往困难重重，在某些情况下，导致组织缩小规模或完全停止监测工作。其他组织则将自己限制在公开内容上。然而，这限制了洞察能力，因为威胁和暴力计划往往出现在非公开空间中，这种矛盾也在之前的研究中得到讨论 [26]。最后，版权限制进一步制约了协作，因为收集的材料通常无法在组织间共享，且只能间接展示。

4.2.4 安全问题

除法律挑战外，参与者在个人和组织两个层面都报告了显著的安全风险。监测极右翼行动者会使从业者和其组织成为骚扰或攻击的目标。在个人层面，参与者描述由于个人安全考虑，在监测时使用一次性或虚假账号，允许在身份暴露时弃用配置文件，这种做法在开源情报研究中也得到证实 [69]。在面试准备期间也能看到个人安全顾虑，一些参与者拒绝录音或强调保持身份不明的必要性。研究极右翼行动者的学术研究人员也记录了类似的风险 [26, 68]，但很少有研究关注公民社会组织面临这些问题，而这些组织往往因资源有限和频繁受到针对而特别脆弱 [91]。参与者进一步强调，监测可能危及整个组织。正如P1所指出的，他们"也遭到攻击"（P9），通常通过协调一致的攻势。一些人报告了法律工具的策略性滥用，例如呼吁"用GDPR请求淹没像我们这样的项目"（P15），而另一些人则指出"极右翼行动者非常热衷于起诉"（P3）。这些策略与以报道为主的公民社会组织的报告相符，后者描述了蓄意使其能力超负荷的企图 [9]。最后，参与者表达了担忧，认为不断变化的政治环境可能会提高法律迫害的风险。在此背景下，安全的数据存储被视为至关重要的，因为监测工作可能会被当局重新定义为非法数据收集或创建"敌人名单"（P9）。

4.2.5 协作与数据共享

法律限制也阻碍了组织间的协作。正如P2解释的，由于"数据保护原因"，组织不能共享直接数据库访问权限，必须依赖匿名化材料——这需要受过训练的工作人员手动完成"大量工作"。缺乏标准化和资源有限进一步阻碍了协作；由于所需工作量过大，国家层面的统一文档尝试"定期失败"（P15）。从计算机支持协同工作的角度来看，这些建议指出了基础设施挑战——建立可在组织间维护和治理的共享安排和边界对象 [60, 103]。尽管存在这些障碍，参与者仍强烈强调协作的价值。成功的伙伴关系——例如与以报道为主的公民社会组织的合作——因明确的劳动分工而被描述为有效。其他人指出，协作可以减少重复工作，但实施仍然具有挑战性。建议的解决方案包括共享基础设施，如协作数据库，或者建立伙伴关系，其中一个组织"捕捉在线背景信息"（P2），而其他组织提供互补的专业知识。这暗示了协作作为超越技术工具的关键资产 [58]，同时呼应了先前研究对其挑战的记载 [9]。

4.3 关于技术支持的需求与期望（RQ 3）

图3. 关于公民社会组织对技术监测支持的需求和期望的主题地图部分。显示了主题（绿色节点）、子主题（浅绿色节点）和编码计数（为节省空间而折叠）。白色标签指示未分配给子主题的单个编码。该图基于对15名服务于德语区组织的公民社会组织从业者的定性编码创建。

图3呈现了参与者对监测的技术需求，分为四个领域：搜索、界面和仪表板、分析见解和文档记录。第五类涉及采用因素，如可用性、数据保护和本地部署。

4.3.1 增强搜索与发现

大多数参与者将高级搜索功能确定为有效监测的核心需求。一个关键要求是能够搜索超出已知或订阅频道之外的内容。正如P4解释的，他们需要"全局搜索 [...] 不仅仅是查看我们已知的群组"，理想情况下包括"整个Telegram的全文本搜索"。参与者设想类似Google Alerts的基于警报的系统，能够使用高级搜索技术或"Dorks"（P4）进行高度针对性的查询。对搜索和发现的强调与先前关于开源情报分析师、调查记者和事实核查者的研究一致，对于他们而言，搜索构成核心活动 [12, 58, 69, 73]。参与者进一步强调使多模态内容可搜索的必要性，特别是音频和视频。访问转录文本被视为关键，因为"那里发生了很多事情，我们还没有真正纳入我们的雷达"（P14）。从技术角度来看，这凸显了将自动语音识别（ASR）和光学字符识别（OCR）作为预处理步骤的重要性。除了扩展可搜索内容外，参与者强调自动化，包括保存查询和持续监测。P4描述了对"运行 [...] 24/7的自动化搜索"的需求，而警报被视为实时呈现相关发现的关键，这与新闻业中的类似需求相呼应 [24]。搜索还用于跟踪已知个人或组织的提及，这些人或组织可能成为攻击目标，例如通过在频道间进行自动关键词搜索。最后，参与者将搜索的概念扩展到探索性发现，指出"有时你甚至不知道自己在寻找什么"（P14）。建议的功能包括基于相似性的搜索，以及识别随着生态系统变化而新出现且具有本地相关性的频道的工具。虽然Telegram现有的"相似频道"功能被认为有限且重复，但参与者对更透明且情境敏感的频道推荐机制表示兴趣。这些想法提供了新的见解，通过超越关键词驱动的方法并强调频道发现与内容发现同样重要，扩展了关于在线监测搜索策略的现有知识。

4.3.2 用户仪表板

参与者提议以仪表板为中心的界面来查看和交互监测内容。核心要求包括基于信息流的结果呈现方式，具有排序和筛选选项，以及简单易懂的统计信息，例如基本帖子级指标，以识别频道内浏览量最高的帖子。建议在频道层面提出的指标包括频道增长和转发模式，正如P14所指出的，这些可以指示新出现的频道并支持探索性监测。这些动态还与线下活动相关联，因为示威活动往往与粉丝数量激增同时发生，有助于"关注粉丝的动态变化"（P14）。参与者进一步设想将仪表板作为文档记录和协作的工作空间。P4描述快速保存相关帖子的方法，"点击帖子后它立即被存储"，以供后续审查或报告。专用用户账户可以支持标准化工作流和协作工作，使用户能够滚动浏览、标记条目并生成报告。

4.3.3 生成见解

除了搜索和基于仪表板的工作外，生成见解占据了主题地图的很大一部分。一个核心主题是自动内容分类，参与者认为这有助于预筛选和优先处理大量数据。例如，P12建议区分"不明确"和"明确具有威胁性或刑事相关性"的帖子，从而实现分级风险排名，结合人工审查可以减少工作量。其他人提出使用多个分类器检测不同形式的歧视性内容，反映了组织间分类方案差异 [9]。

参与者还强调了信息提取的价值，如识别姓名、日期和地点，特别是用于跟踪动员努力。自动检测行动呼吁，甚至在图像中的行动呼吁，被认为特别有帮助，因为在众多群组中相关内容容易遗漏——"一个告诉你'这里有一张分享图'的工具会很有帮助"（P8）。然而，局限仍然存在，例如识别音频转录文本中的姓名，这是当前ASR系统已知挑战 [6]。其他技术如人脸识别由于数据保护法规而被认为有问题。除内容层面分析外，参与者对用户和网络层面见解感兴趣，包括跟踪关键行为者、内容来源和转发模式以揭示协调性。虽然这些分析被认为对理解传播动态有价值，但它们也引发了与隐私和监视相关的伦理和法律担忧 [26, 68]。少数参与者提到高级分析方法，如视频摘要、主题建模和突发检测，以支持分诊和早期预警。在这些讨论中，参与者反复强调基于AI分析的潜力和局限，强调谨慎的人机协作必要性——这一主题我们将在第4.4节中再次讨论。

4.3.4 输出与文档记录

参与者强调需要自动保存内容并生成合法合规的文档。一个核心关注点是在内容被删除前捕获它的能力，因为相关帖子，如煽动暴力或非法活动邀请，往往在一段时间后被移除。因此参与者强调收集间隔应可配置，从几分钟到更长的定期快照。P14进一步建议在工具中直接集成报告创建功能，允许用户标记内容并在特定主题"结束时输出报告"。适当的数字证据处理是另一个关键要求。现有工具被描述为不足——"你根本不能用它保存视频"（P5）——促成了需要可靠存档多媒体内容并带有时间戳以供潜在法庭使用的解决方案的呼声。正如P5所指出的，这很关键，"因为证据是在首次发现时捕获的"。最后，参与者强调简化刑事投诉处理流程的潜力，目前这涉及将信息从电子表格手动转移到报告表中，该过程被描述为高度低效。

4.3.5 新工具接受度

工具接受度取决于可用性、明确的工作量减少以及与数据保护要求的合规性，最好通过认证来支持。这些标准与先前呼吁满足数据安全和取证标准的用户友好报告技术的努力一致 [9]。参与者进一步强调技术需求，如开源、本地部署和可靠的数据存储，动机来自安全和成本考虑。然而，这些需求往往与最先进的AI方法相冲突，特别是由于它们的计算需求和限制性许可。总体而言，参与者强调非技术因素——组织实践、法律要求和信任——强烈塑造工具采用。

4.4 关于AI角色与人类-AI协作的视角（RQ 3）

图4. 关于公民社会组织对监测中AI角色与人类-AI协作的视角的主题地图部分。显示了主题（紫色节点）、子主题（浅紫色节点）和编码计数（为节省空间而折叠）。

# AI在公民社会组织（CSO）监测中的应用研究综述

## 4.4 主题分析：CSO从业者对AI与人类-AI协作在监测中角色的看法

### 4.4.1 AI的潜力
尽管存在组织对AI的不信任，参与者强调AI在通过预筛选和优先级排序来处理大量数据方面具有支持监测工作的潜力。正如P4指出的，"自动化对我们帮助会非常大"。这种应用与先前的声明检测和案例优先级研究相符。参与者还看到生成式AI在协助分析和报告方面的希望，例如识别文本中的极右翼意识形态特征，或汇总多个来源的见解。

### 4.4.2 AI的局限性
然而，参与者也质疑AI的使用，例如引用错误分类风险可能产生"被稀释的画面"，并对AI能否充分理解有害内容的细微、依赖语境的特性表示怀疑。现有模型并不适合该领域的语言和环境需求。参与者指出德语内容以及反犹太主义等现象的不足，这些现象往往"在字里行间运作"。

### 4.4.3 极右翼组织对生成式AI的使用
参与者对极右翼行动者使用生成式AI的相关性持混合观点。大多数人认为主要用于宣传材料，而传统的虚假信息策略仍然占主导地位。另一些人强调明显由AI生成的战争图像的传播，这被认为特别令人担忧。

### 4.4.4 人类专业知识的重要性
在采访中，参与者强调人类专业知识的中心作用。AI被定位为人在环中的支持工具，而不是替代品。一些人质疑是否真的需要AI，强调人类专业知识受到客户信任，被认为比基于AI的分类更具可信度。

## 4.5 概念性监测工作流程

基于我们的研究发现，我们为CSO监测开发了一个概念性监测工作流程，该工作流程综合了从业者描述的做法、约束和需求，形成了一个结构化的管道。

**工作流程阶段与设计原则：**
- 数据收集和存储：整合隐私设计和法律可用性
- 预处理和索引：实现多模态数据预处理和稳健的信息提取
- 搜索和检索：反映高级和灵活搜索功能的重要性
- 仪表板和报告：实现可用性和工作流程集成
- 部署和可扩展性：对应低资源部署和可配置性

## 5 讨论与建议

### 5.1 设计建议

研究发现强调了监测工具需要在自动化与人类监督之间取得平衡，支持多模态内容，确保法律和伦理合规，并在资源有限的环境中保持可实际部署。

**关键设计考量：**
1. **隐私与证据需求的紧张关系**：监测工具必须遵守数据保护法规，同时保存取证质量、法律上可采纳的证据
2. **工作流程整合**：需要集成的、用户友好的仪表板，支持从数据收集到报告生成的端到端流程
3. **多模态支持**：将语音识别和OCR管道集成到搜索和分析组件中
4. **人机协作**：强化人在环中的设计，因对自动分类可靠性和透明度的担忧
5. **本地部署**：强调安全、成本效益的本地部署模型的重要性

**结论**：这些发现凸显了当前技术范式与公民社会监测的实际情况之间的差距，需要通过迭代过程将监测实践转化为设计概念和软件原型。该研究为开发协作社会技术扩展理论提供了基于经验的基础。

---

*注：本文由商汤科技开发的日日新融合模态大模型（SenseNova）翻译整理。*

实证发现 相关研究 核心技术需求 设计建议

1 数据采集和处理的法律与伦理限制 法律风险与约束 [9, 48, 66] 隐私保护数据处理 采用隐私设计架构以实现数据最小化和删除

2 对合法可用证据的需求 OSINT工具与数字证据 [9, 24, 69, 99] 采集内容的证据稳健性 以取证质量进行采集并记录元数据（时间戳、URL、ID）；以标准化格式导出（如PDF/A、WARC）以供法律审查

3 碎片化、手工化的工作流程 监控作为手工劳动 [12, 29, 58] 集成化、工作流感知的界面 支持内容标记和报告的直观仪表盘

4 组织内部的协作式监控实践 CSO作为不同行为者，工具碎片化 [9, 58, 71] 用户账户管理及与现有CSO工作流程的无缝集成 用户账户用于控制私有和共享的监控洞察、共享标签和标记、数据导出功能至通用格式（如csv、PDF）

5 多模态内容搜索和分析困难 缺乏多模态工具 [6, 24, 58, 67] 丰富媒体内容的可搜索表示 集成的ASR和OCR流水线以预处理多模态数据

6 对自动化的怀疑态度 算法厌恶与人机协作 [9, 50, 58, 73, 99] 具有透明性和可控性的人机协作 向用户透明传达模型局限性和错误（如置信度提示、推理界面、错误报告、反馈机制）

7 搜索在监控工作中的核心地位 主动性和调查性工作 [12, 58, 73] 跨多语言和多模态数据的高级灵活搜索 使用语言适配的嵌入模型实现跨模态的稳健词法和语义搜索

8 大量非结构化、有噪声的平台数据 FC和CM中的过滤与排序，OSINT中的信息提取 [9, 50, 73] 自动化提取可操作信息 针对非正式、现实内容（如Telegram）优化的命名实体识别和信息提取模型

9 有限的计算资源和技术基础设施 资源约束 [9, 48, 51, 52, 88] 轻量级、可适配、可维护的系统 具有明确默认配置的架构；可部署在无需GPU硬件上的轻量级或蒸馏模型

10 对外部服务的隐私、安全和成本顾虑 法律约束与CSO自主性；信任和采用顾虑 [24, 48, 50, 107] 安全且具成本效益的本地部署 最小化对第三方API的依赖；优先部署更小的、可本地部署的模型，在性能、成本和合规性之间取得平衡

设计综合：将实证发现映射到核心技术需求和设计建议。

5.2 政策与研究建议

我们的研究发现表明，CSO监控本质上是社会技术性的且深深嵌入政治环境，无法仅通过工具设计来解决。因此，我们在表4中概述了基于经验的政策和研究建议，以补充我们的设计建议。

表4 主题与建议

政策方面

合法性与角色：正式认可并强制推行CSO在线监控，以增强合法性、信任和跨组织协作。

法律明确性：由国家或联邦数据保护机构协调，为CSO监控及相关活动（如归档、咨询）制定目的特定的法律指导，以减少法律不确定性和协作障碍。

基础设施与资金：从短期项目资助转向对CSO基础设施、协作和开源工具开发的持续性公共支持，将成功的试点项目延伸为长期运营资金。

研究方面

核心流水线：优先发展稳健的预处理流水线（如ASR、NER），尤其是针对非英语和有噪声的现实数据，而非（多模态）分类器，以支持可扩展的多模态分析和洞察生成。

发现与探索：通过研究CSO搜索实践并开发面向CSO的工具（如频道推荐器），支持探索性搜索和信息发现。

领域模型：开发面向CSO的、特定领域的模型（如针对威胁、反犹太主义、种族主义动员），而非通用的毒性或冒犯性分类器。

界面：研究基于提示的LLM界面和灵活配置，以支持可适配的、面向CSO的工作流程和非专家查询。

人机协作：设计轻量级的、任务内的人机反馈机制，将从业者专业知识整合到系统的迭代改进中。

跨组织协作：加强跨学科和跨领域研究（如法律、政治学、传播学），并考察CSO间的协作与网络。

支持CSO在线监控的政策与研究建议。

在政策层面，一个核心挑战是结构性错位：现有的法律框架、资金模式和制度安排未能反映CSO监控在平台基础设施或公认专业流程之外的长期性质。我们建议三个方向来解决这一问题。第一，正式认可CSO的社会角色和明确的制度授权，有助于增强合法性、信任和跨组织协作，同时实现标准化、质量保证和能力建设。第二，必须通过针对CSO监控的目的特定法律指导来减少法律不确定性。鉴于来自反民主行为者的诉讼或策略性信息请求的风险，以及小型组织获取法律专业知识的有限性，这一点尤为重要。数据保护机构可以发挥协调作用，制定可及的、全行业性的指导方针。第三，资金模式应超越一次性项目资助，这种模式与监控和协调工作的长期性质存在结构性错位。政府和公共机构应转而投资于持久性基础设施——包括与CSO共同开发的开源工具——并配合持续的运营资金以支持逐步的能力建设。

学术研究应更好地将CSO作为数字治理中研究不足的利益相关者来认识，并解决当前研究重点（如仇恨言论分类）与从业者需求之间的不匹配。为此，应更加重视基础能力而非新的任务定义，增加对稳健预处理流水线（如NER、ASR）的投资，尤其是针对有噪声的、现实中的、非英语数据。还需要进一步研究来了解CSO如何搜索和探索陌生领域以及发现新兴叙事。

鉴于对通用的、以英语为中心的AI模型的怀疑态度，研究应支持针对CSO需求的特定上下文模型，例如检测威胁、反犹太主义或有组织的动员。这还包括通过非专家用户研究来探索基于提示的LLM工作流程。在此背景下，我们建议具有轻量级人工反馈环路的交互式系统可以实现持续改进和建立信任，前提是它们能无缝融入日常工作流程，且不会显著增加CSO的工作负担。最后，由于CSO面临的挑战跨越法律、政治和技术领域，研究应促进跨学科合作，包括组织研究、法律、传播学和政治学等，以更好地理解跨组织合作的障碍，以及CSO如何应对对抗性环境。

5.3 手工劳动陷阱与跨组织协作

我们的研究发现表明，从事监控的CSO在充满不确定性的基础设施条件下运作，面临资金有限、平台访问受限和法律不确定性等挑战。参与者一致描述了一种社会技术差距：他们试图实现的目标——长期的、协作的和主题多样的监控——与他们有限的IT能力、不稳定的资源和缺乏持续基础设施所能实际支撑的之间存在落差。监控实践依赖于简单工具和临时工作流程，这些工具和工作流程难以扩展或维护。从CSCW的角度来看，CSOs依赖一个碎片化的安装基础[75, 101]，通过持续的协调工作[94]将其维系在一起。扩展这一基础的努力往往以拼凑[21, 59]的形式出现，即创造性地重新组合可用工具以克服本地约束。然而，在所述的对抗性和资源匮乏条件下，拼凑固化为我们所概念化的手工劳动陷阱：劳动密集且脆弱的安排消耗了构建更持久基础设施所需的资源。随着时间推移，这种自我强化的循环稳定了与极右翼在线活动的规模和动态性日益错位的能力低下的社会技术体制。深陷这一陷阱也延长了从事监控的个人接触有害内容的暴露时间，可能对个人产生长期的心理影响，例如增加恐惧、不信任或无奈感。因此，扩展基础设施不仅是效率问题，也是保护问题。

重要的是，导致手工劳动陷阱的限制主要是财务和法律约束，而非技术性限制。在这些条件下，纯粹个人化的技术发展方法难以实现有意义的扩展。长期的资金不足、法律不确定性、平台访问受限和持续的维护需求使得单个CSO不太可能独立构建和维持其工作日益需要的基础设施。从这一意义上说，手工劳动陷阱并非一个暂时的阶段，而是孤立运作的结构性再生产结果。从这一视角来看，跨组织协作成为社会技术扩展的一个可行前景。

为了综合这些动态，我们提出发展CSO监控中的协作式社会技术扩展理论——该理论将CSO基础设施置于其结构性和技术性约束之中，对比手工劳动陷阱与可能支持共享基础设施开发和维护的协作安排。

相关理论化也有助于解决以下张力：对灵活且可配置的、能应对多样化且不断演变的监控兴趣的基础设施的需求，与非技术用户的可用性要求之间的紧张关系。在协作式社会技术扩展下，技术专长有限的CSO可以从共享知识、汇集的开发能力和长期创建用户友好的配置界面中获益。

手工劳动陷阱的概念为理论化公民社会监控中的社会技术扩展提供了一个切入点。然而，协作并非中立解决方案：资源汇集引发了治理、所有权和权力问题，并有可能再现资源充足者与资源匮乏者之间的不对称性。对协作式社会技术扩展的更完整论述需要将对协作视为一种受经济、法律和政治条件以及不平等能动性塑造的争议性变革。发展这样的论述需要超越工具聚焦的设计研究方法。对现有或过去协作环境的民族志、组织学或历史学考察——审视它们何时以及为何成功或失败——将有助于揭示共享基础设施变得可持续的条件。信任、资源竞争，以及为协作作出贡献和从中受益的不平等能力，很可能是核心动态。跨多个CSO作为中介枢纽运作的科技集体，例如CSO Tactical Tech，是此类研究的有希望的对象，因为它们集中了协作过程并使其中的张力可见。类似公民社会背景下社会技术扩展的历史记录可以进一步阐明促成或阻碍此类转型的结构性和政治条件。在整个过程中，对不可见劳动和协调工作[94, 102]的关注将至关重要：协作基础设施不会自我维护，维持它们的工作容易被忽视、分配不均，且很少获得资金支持。我们将其视为未来CSCW工作的重要方向。

6 局限性

我们的研究聚焦于德语区组织。尽管多样，它们仅代表了在欧洲从事监控的CSOs的有限样本。因此，我们的发现的迁移性需要谨慎对待。有限的数据访问和稀缺资源等约束很可能在各政治和社会经济环境中普遍存在——在低收入环境中可能更为严重，因为有限的连通性和技术基础设施限制了计算和AI工具的获取。另一方面，法律、政治和社会经济条件差异巨大，决定了不同水平的脆弱性。我们的参与CSOs在西方、欧洲民主国家运作；其他地区的组织可能面临额外风险，包括国家压制[44]。在威权环境下，威胁模型根本性转变：匿名性和操作安全成为核心需求，在国内程序不可获得或不安全的情况下，具有法律效力的证据价值可能较低，国际问责机制则更为重要。在此背景下，跨国协作——由外部CSOs承担公开暴露，而受威胁组织专注于证据收集——本身可能构成一种社会技术扩展形式，将风险和产能分布到组织（和国家）边界上。在线平台的作用也因政治和监管环境、时间推移以及CSOs的主题关注点而异。即使在样本内部，实践和需求也存在差异，这凸显了开发既具普适性又具灵活性的设计启示的难度。多模态数据处理、稳健搜索和法律证据处理等核心需求具有广泛的相关性，但必须根据组织特定条件进行调整。未来研究应纳入更广泛的欧洲和国际CSOs以检验和完善我们的发现。

采访对象是监控专业人员而非AI或软件专家。部分参与者难以表述超越现有实践的技术需求，可能限制了视角。在某些情况下，采访者建议了潜在功能，促使参与者考虑他们可能不会主动提出的方面，如我们的方法中所阐明的。

虽然定性采访作为我们的主要方法提供了坚实基础，但更深入的需求分析将受益于额外方法，如用户故事和使用案例、人物画像、情境调查、设计探测和需求优先级排序技术。为开始解决这一局限，我们已纳入工作坊，并与两个组织正在进行纵向测试。

7 结论

我们的研究推进了对CSOs作为监控技术开发和应用中至关重要却研究不足的行为者的理解。CSOs的不稳定处境、多样化活动及其面临的众多障碍凸显了该领域的异质性。这种异质性需要灵活且可适配的技术解决方案，能够适应多样化的组织实践和主题关注。

我们的研究结果进一步表明，尽管公民社会组织认可人工智能的潜力——尤其是在扩大对嵌入于音频、图像和视频内容中的其他无法获取的信息的访问——但人们对自动化分类系统普遍持怀疑态度。此类系统被认为与公民社会组织的工作流程不一致，在法律和证据方面尤为 problematic，因为这些领域需要透明度、问责制和人类的信誉保障。

我们工作的贡献有三点：首先，我们提供了一份深入且基于实证的关于公民社会监测的论述，将其视为一种在脆弱、对抗性和法律不确定条件下开展的协作性、基础设施性和认识性工作。通过这一工作，我们扩展了计算机支持的协作工作（CSCW）领域现有的理解，特别是关于社会技术系统如何在资源丰富的机构环境之外被维护和运作。其次，我们将这些洞察转化为可操作的设计和研究意义。我们阐述了灵活监测基础设施的设计考量，重点关注搜索、（多模态）数据预处理、证据收集和记录，使其能够在不同主题领域中保持适应性。第三，我们引入了"体力劳动陷阱"这一基于实证的概念，用以解释为什么监测类公民社会组织往往陷入劳动密集型、低容量的安排中，并提出发展基于计算机支持的协作工作的协作社会技术扩展理论，以更好地理解替代性的协作组织模式如何重塑这些动态。