Ctrl-F 抵抗：民间社会组织在线监控极右翼的实践、挑战与技术需求

《Proceedings of the ACM on Human-Computer Interaction》：Ctrl-F-Resist. Practices, Challenges, and Technical Needs of Civil Society Organizations Monitoring the Far-Right Online

　　

摘要 AI 摘要 要查看此 AI 生成的摘要，您必须拥有高级访问权限。了解更多 登录 摘要 摘要 随着极右翼行为者日益利用在线平台传播意识形态并动员支持者，公民社会组织（CSOs）在监测在线反民主动态方面发挥着至关重要的作用，但其作用往往被忽视。与事实核查员或内容审核员不同，CSOs 进行长期的、情境化的分析，通常是在资源受限的环境中以及不稳定的工作条件下。尽管在社会中起着关键作用，但 CSOs 在采用或共同开发技术方案方面面临重大障碍，包括法律不确定性、平台访问受限以及长期资金不足。现有的研究和工具开发工作大多忽视了这些行为者，转而关注更嵌入机构的利益相关者。

本文通过对来自 12 家德国公民社会组织的 15 名从业者进行的定性研究来弥补这一差距，他们在网上进行监测，将他们定位为数字空间治理中关键却常被忽视的利益相关者。我们探讨了他们当前的实践、挑战和关于技术支持的期望。我们的发现表明，由于缺乏定制工具，监测在很大程度上仍然是手工进行的，增强搜索能力成为最迫切的技术需求。虽然参与者对媒体处理和内容发现等 AI 支持功能持开放态度，但许多人仍对自动分类持怀疑态度，指出信任、法律可用性和职业信誉方面的担忧。

基于这些发现，我们介绍了一个概念监控工作流程，并描述了其在开源 Telegram 监控原型中的实现，旨在灵活支持不同的监测目标。为了考虑 CSO 监测的社会技术特性，我们概述了具体的设计建议，以及针对政策制定者和学术研究的建议。此外，我们引入了“手工劳动陷阱”这一基于实证的概念，解释了为什么监测 CSBs 往往被困在劳动密集、能力低的安排中，并提出开发基于 CSCW 的协作社会技术规模化理论，以更好地理解协作作为超越碎片化、劳动密集型监测工作的途径所蕴含的机遇和挑战。

AI 摘要 AI 生成的摘要（实验性） 本摘要由自动化工具生成，未经本文作者撰写或审阅。它旨在支持发现，帮助读者评估相关性，并协助来自邻近研究领域的读者理解该工作。它旨在补充作者提供的摘要，后者仍是论文的主要摘要。全文仍是权威版本记录。点击此处了解更多。点击此处对摘要的准确性、清晰度和实用性进行评论。这样做将有助于信息完善和未来的重新生成版本。要查看此 AI 生成的通俗语言摘要，您必须拥有高级访问权限。

1 引言
在过去的几十年中，在线空间中的反民主行为变得越来越可见、正常化且经过战略组织 [2, 54]。极右翼行为者发展出了相当高的媒体素养 [27]，策略性地利用讨论论坛 [4]、像 TikTok [25, 106] 和 Instagram [11, 70] 这样的主流平台，以及像 Telegram [45, 89, 96] 这样 largely 未审核的‘替代’空间来动员支持者并传播意识形态。这些发展在危机和重大政策变化期间加剧，例如在 COVID-19 大流行期间或选举背景下 [55]。在这些事件的背景下，右翼和阴谋论团体通过在线平台放大了他们的叙事和动员努力 [10, 20, 28]，这些平台不仅作为协调和动员的空间，也作为表演性自我推广的竞技场，包括示威的现场视频流 [32]、犯罪行为的视觉记录 [61] 或对个别政治对手的暴力攻击 [42]。监测相应的动态对于理解和减轻对个人和潜在危害至关重要。

计算研究日益关注实际需求方的需求，特别是通过开发算法方法和工具来检测、分析或减轻在线危害 [37, 47, 108]。然而，许多此类研究集中在事实核查（FC）和内容审核（CM）上，无论是在应用场景还是在用户研究的设计中，而公民社会组织（CSOs）的具体需求、约束和工作流程仍然未被充分探索 [9]。特别是，针对 CSOs 监测需求设计的技术工具仍然是一个未解决的挑战。

为了弥补这一差距，本文基于对来自 12 家德国组织的 15 名从业者进行的定性研究，考察了 CSOs 如何监测和分析社交媒体上的反民主动态。我们的贡献有三点：首先，我们提供了关于在复杂的组织和政治条件下 CSO 监测实践的深入实证记录；其次，我们推导设计含义并将其整合到一个正在进行的共创过程中，以开发一个持久的开源工具；第三，我们引入了“手工劳动陷阱”这一基于实证的概念，并提出开发基于 CSCW 的协作社会技术规模化理论，以帮助理解协作基础设施如何能够促成替代性的规模化轨迹。

我们的调查受以下三个研究问题指导：
•RQ1：公民社会组织目前采用哪些实践和工作流程来监测社交媒体上的反民主内容和行为者？
•RQ2：这些组织在监测工作中面临哪些技术、伦理和法律挑战？
•RQ3：他们关于技术支持的需求和期望是什么？

我们的发现表明，CSBs 的在线监测在很大程度上仍然是手工进行的，主要是由于缺乏定制的技术工具。持续的伦理和监管挑战阻碍了跨组织合作——无论是在数据共享方面还是在内容相关工作的协调方面——这反过来又限制了资源高效的协作技术创新的潜力。

最常阐述的技术需求是改进对各种内容类型和模态的搜索能力，包括音频、图像和视频。基于 AI 的自动化被认为对媒体处理任务（如转录或光学字符识别（OCR））可能有用。然而，参与者对自动内容分类表达了相当的怀疑，凸显了当前研究趋势与 CSBs 面临的实际现实之间的差距。信任起着核心作用：AI 不仅被视为不可靠，还被视为对法律有效性、职业信誉和人类专业知识价值的潜在威胁。

我们引入了基于实证发现的概念监控工作流程，并通过八个新组件展示了其在监控软件原型中的实现，这些组件旨在灵活支持监测 CSBs 多样化的主题兴趣，并通过轻量级的默认设置进行配置，以适应他们各异且往往有限的技术能力。

本研究通过突出公民社会行为者作为数字空间治理中关键却常被忽视的利益相关者，并展示基层监测如何在不稳定、敌对和政治化的条件下运作，从而为 CSCW 社区做出贡献，这反映了 CSCW 关于无形工作和协调工作的研究 [94, 102]。此外，本工作在公民社会在线监测的背景下为以人为本的人工智能（HCI）研究做出了贡献 [5, 17]。我们的实证和面向设计的见解确定了实现可持续公民技术所需的条件，这些技术符合那些在网上捍卫民主的第一线人员的工作价值观和工作条件。我们提供了六个未来 CSCW 研究方向，这些方向可以加深对公民社会需求的参与，推进负责任的技术整合，并促进更具包容性的数字治理形式。我们进一步为政策制定者提供了三项建议，并为监测工具的设计开发提供了十项建议。最后，我们通过引入基于实证的概念“手工劳动陷阱”，扩展了 CSCW 关于社会技术基础架构化 [60, 75, 101] 和异质性协作知识生产的学术研究 [1, 103]，并建议发展协作社会技术规模化理论，该理论将协作定位为超越碎片化、劳动密集型工作流程的途径，同时也突出了 CSOs 之间跨组织合作固有的挑战。

2 相关工作
本节将我们的工作要求定位于公民社会研究与在线监测研究的交叉点，通过将 CSBs 定位为独特的监测行为者，回顾塑造其工作的结构性条件，并总结目前已知和未知的监测实践和工作流程。

2.1 在线监控中作为独特行为者的公民社会组织
公民社会组织（CSBs）是非国家、非营利行为者，追求规范性的政治、社会或人权目标，通常是在政治敏感的环境中 [22, 80]。在观察在线话语时，他们与学术界、新闻界、事实核查（FC）和内容审核（CM）的行为者一起工作，但他们的角色、实践和约束存在实质性差异。

CSBs 进行长期监测、证据收集、情境分析、报告以及咨询和教育工作。此外，他们的工作可以针对当地或农村地区，那里的极右翼动态往往更强 [38]，但经常被全国媒体低估报道或被学术界忽视。CSBs 关注对社会政治动态的持续、情境观察；他们对当地动态、趋势和行为者的深刻知识使他们能够作为预警机制发挥作用，并提供及时、特定情境的响应，同时也与地区和 国际 CSBs 网络相连 [53, 80]。随着平台和公共机构以言论自由为名缩减监管，这一角色变得尤为突出 [15, 62]。在这种情况下，CSBs 越来越成为机构响应的补充和纠正 [100]，挑战可能轻描淡写右翼活动、忽视暴力行为的政治动机或否认社会中更广泛的威权主义或种族主义潜流的官方叙事 [16, 53]。

2.2 影响公民社会组织工作环境的挑战
现有文献表明，CSO 监测实践受到结构性、政治和技术挑战组合的影响。然而，大部分此类知识源于灰色文献，包括非政府组织自我报告 [51, 104]、政策文件 [34, 35] 和从业者导向出版物 [53]，而不是系统的学术研究。

在不同国家背景下，CSBs 面临长期的财务不确定性，这主要源于对短期项目资助的依赖 [51, 52, 88]。这限制了他们在数字基础设施、专用监测工具和专职技术人员方面的投资能力 [51, 52, 104]。然而，这些资金结构的影响在 CSBs 之间分布不均。更大、资金更充足或数字原生型组织更有能力开发内部监测工具 [23, 56]，这些工具通常针对组织需求和资源定制，并不公开与他人共享。这反映了"CSO 市场”上的不稳定状况，其中组织争夺极为有限的资金 [52, 84, 88]，这产生了强调差异化而非持续合作的激励，即使存在重叠的目标和价值观也是如此。同时，CSBs 通常在政治不稳定的环境中运作，使他们暴露于骚扰、恐吓、法律不确定性以及来自极端主义团体、激进个人或国家行为者的有针对性的攻击 [34, 35, 100]。

基于调查的工作突出了与安全相关的脆弱性 [91]，但也说明了通过标准化工具捕捉 CSO 实践的难度。政治焦点、组织结构、术语和地区背景的差异表明，这些挑战具有高度的情境性，最好通过定性、互动、深入的方法来解决，正如我们在工作中应用的那样。CSCW 关于无形工作的研究将那些仍然隐藏和非正式的重要劳动概念化 [102]。这一视角有助于将公民社会监测定位为一种机构设置之外的协作工作形式，并且经常由于法律和安全原因而故意保持不可见。

2.3 公民社会组织及相关领域的监测实践和工作流程
尽管 CSBs 在在线监测中起着重要且独特的作用，但关于他们如何工作的直接实证研究仍然稀缺，B?umler 等人的研究 [9] 提供了与我们的工作最相关的工作，提供了关于专注于处理用户提交事件报告的 CSBs 面临挑战的重要见解。为了定位 CSO 监测实践，我们借鉴了相邻领域的额外研究，这些研究为研究他们的监测工作提供了概念理解。这些文献将监测努力概念化为一个“实践管道” [71]，涉及主动搜索、过滤、解释、记录和优先排序内容 [36, 109]。对事实核查员和记者的研究表明，这些管道通常以碎片化的工作流程、对临时工具的依赖以及大量手工和重复努力为特征 [12, 58, 71, 77, 78]。此外，工具的获取往往受到限制，而可用性被描述为相当低 [9]。缺乏专用、监测特定的工具经常迫使从业者依赖临时解决方案，如电子表格、通用平台 [12] 或开源情报（OSINT）工具，这些工具最初是为军事和情报目的开发的，因此不一定与 CSBs 的伦理价值观相符 [78]。

这种主动和调查类型的工作特别劳动密集，正如在 OSINT [30, 36, 43] 和 FC 研究 [58, 71] 中所强调的那样。同时，与工作流程中的后续阶段（如声明验证 [50, 74] 或见解传播 [50, 99]）相比，这一阶段在研究中仍相对未被充分检查 [50]。

这一差距具有重要的现实意义，因为它表明现有的工具与系统设计往往建立在对这一活动的不完整理解之上。此外，现有研究对公民社会组织（CSOs）在日常实践中如何执行监测工作流——在工具碎片化和大量人工投入的条件下——提供了有限的洞察，也未充分揭示这些条件如何塑造他们对技术支持的期望。在计算社会科学（CSCW）领域，此类工具生态被理解为一种通过持续维护而非稳定系统来维持的、具有关系性的社会技术基础设施[101]。与此相关的是，CSCW领域关于"拼凑"（bricolage）的研究凸显了行动者如何在受限环境中利用异质资源来维持工作[21, 59]。

**2.4 监测实践中的技术支持**

监测工作的早期且基础性步骤是数据收集，而这一环节正日益受到数据和访问渠道有限且脆弱的限制——原因包括低成本获取主要平台数据的渠道终止、社交媒体分析工具的停用[81]，以及对通讯平台访问的受限和不透明——尽管这些平台在有害内容传播中的重要性日益增加[7, 50, 77]。这些发展趋势凸显了平台依赖性数据访问的结构性脆弱性[77]。尽管法律豁免使学术研究数据基础设施的专业化成为可能[41]，但公民社会组织很少从中受益，因为它们缺乏可比的研究特权。由德国既有公民社会组织开发的监测系统[23, 56]本身也不必然对其他组织开放。与此同时，开放获取的数据收集和分析工具[83, 85, 90, 98]往往在技术上难以访问，维护不足[92]，且很少受到从业者的系统性参与和反馈的启发。CSCW领域关于基础设施构建的研究强调，系统是通过并针对"既有基础"[75]演化的，并处于持续维护之中，而非一劳永逸地完成[60]。

研究已证实，在调查和监测工作中支持所谓"低技术需求"的重要性[48]，这包括审阅搜索结果、识别相关材料、提取关键信息等步骤[69]。与此同时，近期研究越来越集中于开发"前沿"机器学习系统，例如用于在仇恨言论内容管理[93, 97]和反恐语境下检测、分类和整理有害在线材料的工具[29, 46, 50, 67]。原则上，此类系统对于公民社会组织主导的监测工作似乎具有潜在的相关性，因为它们承诺支持从大量材料中识别出潜在相关内容。在调查和网络开源情报（OSINT）场景中，结合自然语言处理（NLP）技术——如命名实体识别、搜索、过滤和AI辅助报告生成——的工具已被证明能够支持早期分析和内容筛选[99]。监测工作流可能还需要工具来处理和分析多模态数据，如图像或音频，正如邻近领域的研究所建议的[24, 107]。

然而，当前基于学习的系统对于公民社会组织监测工作的实用价值仍不确定。许多审核工具和训练数据集是专有且不可访问的，而且往往不清楚现有工具是否符合公民社会组织所关注的概念、类别和情境敏感性。像德国乡村新法西斯主义青年话语这类本地嵌入且不断演化的现象，不太可能被围绕平台政策或法律标准构建的通用仇恨言论分类器所捕捉。从CSCW的视角来看，这凸显了将本地嵌入的监测实践转化为标准化计算类别的困难，呼应了CSCW关于（异质性）知识生产和边界对象的研究[1, 101, 103]。

技术局限性依然存在，包括在非高资源语言和标准设置之外的性能下降[63, 77]。即使广泛使用的工具也会低估隐含仇恨言论、过度审核反制性言论[49]，并无法捕捉语言和上下文特定的模式[64, 79]。此外，即使是有效的系统也需要大量的人工修正和谨慎的工作流整合，包括适当的界面[99]。

尽管存在这些局限性，反恐（FC）和仇恨言论内容管理（CM）领域的从业者总体上对基于AI的工具持开放态度，主要是将其用于狭窄、明确定义的任务，而非复杂的解释性或评估性工作[50, 67, 77]。在这些干预型语境中，工具被设计用于支持执法、移除或通过检测和标记提供反馈[18, 93, 97]，人机协作常被定位为应对自动检测局限性的方式，例如通过条件性委托[65]。相比之下，监测可被视为一种认识论工作，更强调观察和意义建构而非干预，这意味着对自动化的期望有所不同，并更强调辅助性工具而非决策性工具。

既有研究指出了一种偏好"人在回路中"（human-in-the-loop）系统的倾向，即在算法规模化与人类控制之间取得平衡，尤其在高风险或解释性语境中[31, 67, 74]。从业者常常表现出"算法厌恶"[67]，其驱动因素是对信任、透明度和可靠性的担忧[50, 76]。因此，近期工作强调参与式设计[48]以及灵活的模块化工具，以支持透明度、可调整性和用户控制权[9, 29, 74, 78, 95, 107]，将AI定位为协作支持而非自动化[72]。

现有CSCW研究建议将公民社会组织的监测定位为一种协作性、基础设施性和认识论性的工作。尽管如此，现有对监测实践的记述大多来源于新闻业、反恐或情报领域，对于此类工作在长期的、本地嵌入的、规范驱动的公民社会语境中如何展开提供了有限的洞察。虽然工具碎片化和高度依赖人工已被充分记录，但对公民社会组织如何应对技术、伦理和法律约束，以及这些约束如何塑造它们对技术支持的期望，了解仍十分有限。本研究通过考察公民社会组织的监测实践（RQ1）、挑战（RQ2）以及技术支持需求（RQ3）来弥补这些空白。

**3 方法论**

本研究作为一项"研究通向实践"（research-to-practice）项目的一部分，与一家合作公民社会组织共同开展。1 与实证工作并行的是，在项目过程中开发了一个开源原型，并进行了迭代式改进。该项目旨在将公民社会组织的需求纳入设计与开发过程中，而本研究则为定义和优先确定关键软件功能奠定了基础。

尽管软件的技术重点是Telegram——这是德国乃至更广泛地区极端右翼行动者的关键平台[8, 105]——但本研究的目标更为广泛：即获得对从事在线监测的公民社会组织的工作流、挑战和需求的现实理解。这包括收集可迁移至其他社交媒体平台、服务和通讯方式的洞察。因此，在访谈中，我们要求参与者同时反思其他平台和服务。

**3.1 参与者**

为获得深入的、有情境的洞察，我们开展了定性访谈，未提供经济激励（见第3.3节）。通过既有的公民社会联系人——包括通过项目合作公民社会组织建立的联系——获得参与者。参与者通过非概率抽样选取，结合了目的性（专家式）抽样[82]和滚雪球法[33, 40]。我们访谈了来自12家公民社会组织的个人和代表，这些组织从事监测、教育、存档、分析及成果发布，以及包括为个人和其他公民社会组织提供威胁评估在内的沟通和安全咨询工作。他们的活动可大致分为三个主要关注领域：**存档**——系统性地收集材料以保存对极端右翼活动的洞察，为研究人员和记者创建资源；**监测**——记录事件，追踪叙事、符号和新兴事件，并提供趋势和威胁的定性与定量分析；**咨询/建议**——为受到极端右翼行动者针对的个人或群体提供威胁评估和指导，帮助社区应对潜在风险。三名参与者具有技术教育背景，这在某些情况下影响了他们阐述潜在工具功能想法的方式，展现出对技术可能性更高的认识。表1概述了参与者的组织关注领域、主要活动和技术背景。参与者层面的信息可在附录（表5）中找到。

| 维度 | 分布 |
|------|------|
| 组织关注领域 | 极端右翼（8）、反犹太主义（2）、阴谋论（3）、种族主义（1）、人权侵犯（1）、多种现象（3） |
| 主要活动 | 监测（7）、咨询（5）、存档（2）、分析（2）、教育（1）、软件开发（1） |
| 技术教育背景 | 有（3）、无（12） |

表1：受访公民社会组织及参与者角色概览（n=15）。

**3.2 访谈**

2024年10月至2025年1月期间，我们共进行了13次访谈，涉及15名参与者。访谈通过视频会议工具远程进行，以允许更灵活的时间安排并促进不同地区参与者的参与。大多数访谈为单人进行；在两种情况下，来自同一组织的两名参与者共同参加。访谈时长在30分钟至一小时之间，由其中一位作者使用半结构化指南引导。访谈指南的翻译版本包含在附录（A.2）中。

每次访谈以介绍性问题开始，邀请参与者描述自己及其组织的工作。对话随后涉及各主题领域，如当前监测工作中的实践与挑战、相关平台和内容类型、使用的监测工具、对当前技术（包括AI）的看法及其增强监测工作的潜力。追问问题会根据每次对话进行调整。由于参与者的技术知识水平各异，访谈者有时会引入具体示例——如主题建模、聚类、网络分析或视频摘要——以帮助说明可能的技术支持并引发讨论。

在可能的情况下，访谈进行了音频录音。在两名参与者不愿被录音的情况下，第二位研究员在场并制作了详细的书面记录，偶尔提出澄清性的追问。

**3.3 研究伦理与匿名化**

研究那些对反民主内容和行动者进行监测的公民社会组织构成了一个独特的伦理挑战，存在增加这些组织自身暴露在它们所监测的行动者面前的风险，因此必须仔细考虑以避免透露可识别其身份、方法和脆弱性的细节。因此，我们参考了互联网研究伦理指南[39]以及关于在线恐怖主义、极端主义和极端右翼行动者的研究[26, 68]。在访谈之前，参与者收到了关于研究目标、数据收集程序和数据使用实践的详细信息。所有参与者均签署了知情同意书。音频录音的同意单独获取，并非参与研究的必要条件。参与者被告知将严格遵守保密规定，所有共享信息均经过匿名化处理，以保护个人和组织身份。此外，由于从事此类工作的组织数量相对较少，即使是间接标识符——如组织所在区域、所监测的具体群体或成立日期——也可能无意之间接揭示其身份。因此，我们避免详细描述参与者或其公民社会组织。

访谈在可能的情况下使用本地运行的WhisperAI[3]自动转录。在人工校对转录本后，所有音频和视频文件均按照向参与者提供的同意信息被安全删除。可识别细节——如参与者和组织名称——已从转录本中移除。匿名化后的转录本经加密并以密码保护方式存储，以确保数据安全管理。

参与者未因参与而获得经济报酬。大多数人是在工作时间作为日常工作职责的一部分参与的。此外，参与者表示有兴趣通过研究项目来塑造正在开发的软件工具，这与其职业目标一致。在线访谈形式也消除了任何潜在的额外开支，如差旅费用。

**3.4 研究者位置性**

通过合作公民社会组织的中介来接触访谈伙伴，促进了信任并营造了开放的访谈氛围，尤其是在话题敏感且许多公民社会组织处境艰难的背景下。与此同时，参与者知道研究者参与了用于自动检测仇恨内容的AI工具开发工作。这一认知可能影响了某些问题在访谈中如何被框定、强调或问题化。然而重要的是，参与者频繁表达了对自动检测系统的批判和怀疑态度，这表明他们的回应并非主要围绕确认访谈者的预设研究议程，而是真实地反映了参与者所处的情境化实践和关切。

**3.5 数据分析**

我们采用了主题分析[19]，这是CSCW中一种成熟的方法（例如[73, 93, 97]），它能够识别定性数据中的关键模式和主题，从而丰富地理解参与者的视角和经历。虽然研究问题构建了访谈指南，从而也影响了数据收集，但数据分析本身是归纳的、数据驱动的。

数据熟悉阶段——主题分析的第一步——由第一作者完成。在对照音频录音审阅转录本的同时，将未录音访谈的笔记整合进来，并添加了初步的分析笔记。转录本以表格格式组织，以支持逐句级别的注释。

在初始编码阶段，我们采用了开放编码方法。有意义的数据片段——从单句到短段落——被赋予尽可能贴近参与者原话的编码，并主要关注内容。

为建立对数据和编码方法的共同理解，第一和第二作者独立对两份访谈进行了编码。所得编码显示高度一致，并通过讨论对齐了解释。随后，第一作者对所有剩余访谈进行编码，并制定了初步编码树。在一个类似于轴向编码的过程中，第一作者将低层级编码归类为更高层级的类别和主题，向更具解释性的抽象方向推进。例如，描述人工监测实践耗时且不可扩展的陈述最初被描述性编码（例如编码为"劳动密集型监测"），随后被归类为更广泛的主题，以捕捉监测工作的初始状况。该过程产生了一份初步主题图，包含714个编码，组织为25个主题。搜索和审阅主题的过程是迭代和协作的。两位作者共同审阅和讨论主题及子主题，重新考虑其命名，并在必要时重新分配某些编码。这些讨论促使修订了第一份主题图，最终得到21个主题和497个编码。

在此过程中，使用了一个共享数字平台来协作组织和可视化编码与主题，支持识别重叠和概念关系。该过程持续进行，直到最终主题"被认为内部连贯、一致且鲜明"[19]，反映了主题图的分析深度和清晰度。

最终，稳定的主题被映射到研究问题上，以支持研究结果的结构性报告。一些主题跨越多个集群，与不止一个研究问题相关。例如，监测实践中涉及的人工工作量既与当前工作流程相关，也与对增强技术支持的需求相关，因此为多个研究问题提供了信息。为了报告目的，此类主题被分配至它们最显著的章节，基于作者判断。重要的是，该映射发生在主题结构确立之后，应被理解为对结果的解析组织，而非预定义的编码方案。

数据分析最终整合为四个元主题、21个主题、80个子主题和329个编码，这些内容最终被翻译成英文。四个元主题构成了发现部分的结构骨架：当前实践与工作流（4.1）、技术、伦理和法律挑战（4.2）、对技术支持的需求和期望（4.3），以及关于AI角色和人机协作的观点（4.4）。为了呈现发现，我们从访谈记录中选取了生动且具有代表性的示例来说明所识别的主题和子主题。

### 3.6 工作坊

除访谈外，我们还会同访谈参与者开展了两个一日期的参与式工作坊，作为一种形成性协同设计和探索性评估步骤。其目标是将概念性监测工作流落实于从业者日常监测实践中，并收集针对Telegram监测工具早期原型的场景化反馈。在每次工作坊之前，参与者被邀请提交与其工作相关的Telegram频道。这些频道预先整合到系统中，以支持逼真的动手探索。每次工作坊结合访谈关键发现和新兴监测工作流的展示、围绕参与者自身主题兴趣的动手工具使用，以及引导式小组讨论。在动手环节中，参与者注册了用户账户，测试了词法和语义搜索，检查了自动生成的音频转录文本，并探索了由自动化分类器提供的消息级别"阴谋分数"。我们通过笔记记录会话内容，这些信息为工作流和原型的迭代优化提供了参考。

### 4 发现

参与者报告称，他们在有限的财务、人员和技术条件下开展工作，这与先前关于公民社会组织的研究一致[9, 91]。有限的技术专长制约了他们使用数字工具的能力。与此同时，他们强调网络空间是其工作的核心，因为反民主行为者日益利用数字平台，且网络危害转化为现实世界后果，这强化了现有研究结论[2, 27, 54]。在访谈中，这凸显了有效在线监测、改进工作流和更具可访问性的工具的紧迫性。下文我们将详细回答研究问题，并将发现置于现有研究框架中。我们包含图表以显示各部分相关的主题和子主题。尽管为便于阅读，编码在很大程度上被折叠显示，但节点标签显示了编码数量。完整编码列表可通过Zenodo获取。

#### 4.1 当前实践与工作流（RQ 1）

图1展示了表征公民社会组织监测实践和工作流的主题和子主题。

图1. 公民社会组织监测实践和工作流的主题图部分。显示了主题（蓝色节点）、子主题（浅蓝色节点）和编码数量（因空间折叠显示）。白色标签表示未分配至子主题的单个编码。

*公民社会组织监测实践和工作流的主题图部分。显示了主题（蓝色节点）、子主题（浅蓝色节点）和编码数量（因空间折叠显示）。白色标签表示未分配至子主题的单个编码。该图基于对15名服务于德语国家组织的公民社会组织从业者的定性访谈编码创建。*

##### 4.1.1 监测作为人工工作

与B?umler等人[9]的研究一致，参与者描述在线监测在很大程度上是人工完成的，常规进行或对线下事件作出回应。他们依赖例如Telegram桌面客户端或移动应用来关注频道和搜索内容，并且必须"每次都手动触发全文搜索"（P4）。通过Telegram API实现自动化很少使用，文档记录同样依靠手工——通常通过截图和笔记——使整个过程"非常耗时且效率低下"（P11）。这与关于调查新闻业和快速响应组织工作流的研究发现相呼应[12, 29, 58]。

##### 4.1.2 监测洞察的记录

参与者主要依赖低技术方法来记录洞察，最常见的是截图、手动媒体下载和书面笔记。正如P6所解释的，记录工作"通常从截图开始——然后，如有必要，我们单独写下来。"对于较长的讨论串，使用滚动截图，尽管参与者指出缺乏便捷的桌面工具，尤其是对于Telegram评论串，在那里"你会得到一百张照片"（P6）。一些参与者还使用Telegram桌面客户端的导出功能来存档整个频道，这被视为"非常有用"，特别是在按日期或媒体类型过滤时（P6）。截图被描述为涉及犯罪内容案件时的关键证据，其中"必须能够识别煽动暴力和相关账户"（P9）。这与先前将截图识别为标准开源情报记录实践的工作一致[9, 69]。值得注意的是，只有一位参与者对证据篡改表示担忧。为确保真实性，他们采用加密哈希和独立网页存档（例如通过Internet Archive[57]）来建立"证据链"并"证明事后没有被篡改"（P13），这反映了先前研究中很少注意到的技术严谨性水平。

##### 4.1.3 技术基础设施

参与者报告了多样化的数据存储实践，最常依赖本地文件存储来保存截图、链接和文本文件。这些实践通常是临时性的和非系统的，特别是对于较新的内容格式。很少有组织维护数据库，这些数据库通常是手动的且仅限文本，只有两位参与者报告使用内部抓取脚本。总体而言，这表明缺乏用于系统数据管理的基础设施，这与新闻业研究发现相呼应[12]，并反映了协作计算研究描述的关系性基础设施——这些基础设施通过持续的地方性维护而非稳定系统来维持[101]，并通过已安装基础进行演进[75, 101]。

##### 4.1.4 相关平台和服务

参与者指出主流平台（Instagram、TikTok、Facebook、YouTube、X）和Telegram最为相关，有些还监测VKontakte、右翼论坛、图片板和媒体机构的评论区。平台相关性随时间变化：正如P7所指出的，"Facebook在过去是相关的"，而Telegram"在某种程度上仍然相关，但公开领域不再那么活跃了"。新平台可能扰乱既定工作流——例如，TikTok缺乏可以方便存档的频道结构（P8）。参与者还描述了各平台在不同现象突出程度上的差异：Instagram和TikTok对年轻受众中的右翼极端主义尤为重要（P11），而"跟踪行为发生在Instagram上，仇恨行动则发生在X上"（P4）。与先前研究一致[87]，参与者强调跨平台分析对于获得"非常复杂的图景"（P4）的重要性。

##### 4.1.5 监测内容的格式和模态

参与者强调，有效的监测必须应对有害内容日益多模态的特性，这与快速响应组织和新闻业研究一致[24, 78]。文本仍然是主要焦点，因为它能提供大量洞察，同时分析起来相对高效且可靠（P14）。视觉内容的存储和处理被认为更加耗费资源，但也很重要：参与者提到了分享图片、示威活动视频，以及作为编码信号使用的表情符号。音频格式的相关性有所差异：虽然语音消息的重要性有所下降，但播客和长视频直播——通常在视频上录制——仍然有价值，特别是用于识别行为者和记录活动中发表的声明（P9）。

##### 4.1.6 监测中使用的工具

尽管监测在很大程度上是人工完成的，但一些参与者使用工具来支持特定任务，通常是将商业社交媒体监听或开源情报服务改作他用。在搜索和发现方面，网页搜索和Google提醒是最常提及的。网页搜索和开源情报工具反映了在快速响应组织中观察到的实践[78]。社交媒体平台API的使用很少，因为访问受限或不再可用[81]。为了分析音频内容，参与者依赖现有的播客或YouTube转录文本，或实验使用开源ASR模型Whisper[3]。对于图像内容，使用免费且易用的工具（如PDF阅读器）来搜索基于截图的PDF。为了记录，一些公民社会组织依赖网页存档，这在快速响应组织中也有记录[69, 77]。Telegram特有的（付费）功能包括内置翻译、频道推荐、分析服务（例如telemetr.io）以及用于关键词提醒的自定义机器人。少数参与者使用或计划使用付费的Telegram监测服务或自动仇恨言论检测工具。监测主要在德语下进行，翻译需求通过内置工具处理，被视为有用但非必需，这与专注于报道的公民社会组织不同[9]。这可能反映出，专注于监测的公民社会组织主动选择内容，而专注于报道的公民社会组织则处理用户提交。总体而言，这些实践反映了一种"拼凑"[21, 59]的形式，即监测工作不是通过集成系统，而是通过异质工具的即兴重组来组装，产生了协作计算研究所述的关系性基础设施——这些基础设施通过本地配置和持续维护来维持[101]。

##### 4.1.7 现有工具的限制

参与者报告了多项与工具相关的限制，包括订阅服务的成本以及API限制和错误等技术问题。工作流通常繁琐，例如需要手动下载音频，然后自行编写脚本进行ASR处理。专有工具因透明度和可配置性有限而受到批评，降低了其对于研究和调查工作的价值。参与者还对基于AI的分类的错误率表示担忧——特别是在威胁评估方面，高召回率至关重要。最后，一些人强调了与商业模式相关的偏见，这些模式优先考虑易于起诉的案件和特定平台，尤其是Facebook。P4批评称，此类服务"把赌注押在获胜者身上，结果变得相当单一维度"。在快速响应组织工作流中也观察到了平台偏见，这些工作流受平台提供的基础设施和资金塑造[12, 14, 77]。

#### 4.2 技术、伦理和法律挑战（RQ 2）

图2. 公民社会组织监测工作中技术、伦理和法律挑战的主题图部分。显示了主题（红色节点）、子主题（浅红色节点）和编码数量（因空间折叠显示）。白色标签表示未分配至子主题的单个编码。

*公民社会组织监测工作中技术、伦理和法律挑战的主题图部分。显示了主题（红色节点）、子主题（浅红色节点）和编码数量（因空间折叠显示）。白色标签表示未分配至子主题的单个编码。该图基于对15名服务于德语国家组织的公民社会组织从业者的定性访谈编码创建。*

图2总结了从业者监测中面临的主要挑战及其相关主题和子主题。

##### 4.2.1 数据访问和处理

参与者报告了与因平台政策导致数据访问受限相关的主要挑战。虽然Telegram数据被描述为相对可访问，但对Instagram或Facebook的访问"困难得多"（P6）。参与者还强调了Meta和X在API访问方面的变化，指出先前可访问的数据现已变得不可用或研究成本过高（P13, P14）。此类依赖性和中断已在多个领域得到广泛记录，因为关键工具和API被停止服务或货币化[9, 12, 48, 50, 58, 78]。

除了访问限制之外，参与者还面临数据量的挑战。社交媒体被描述为一个"无底洞"（P8），如果没有充足的分析工具，大规模的数据收集将变得难以管理。一些参与者报告存在计算资源限制，大数据集会压垮本地资源并导致系统崩溃。因此，以监控为主的公民社会组织面临比FC或CM工作人员、或以报道为主的公民社会组织更大的限制，后者受益于更成熟的基础设施或经过筛选的输入数据[9, 14, 50, 58]。

**4.2.2 内容的多模态性。**

另一个主要挑战源于被监控内容的多模态特征。音频和视频被描述为特别耗时，因为它们无法通过关键词搜索，需要完全依靠人工审阅："你必须完整地浏览一遍才能找到相关部分"（P2）。虽然这类格式可以提供重要洞察，但参与者缺乏时间和工具来分析长达数小时的录音录像。相应地，几乎所有参与者都强调了音频和视频转录工具的价值，这与先前的研究结果一致[24, 58, 67]。此外，参与者还指出直播和快拍等转瞬即逝的内容格式构成了独特的挑战，因为其可用性极为有限。有些人认为，恶意行为者故意使用这些格式，因为它们"难以捕捉"，因此不太可能被有效监控或存档（P14）。

**4.2.3 法律挑战。**

许多参与者描述称，他们的监控工作受到重大法律不确定性的影响，特别是因为他们"就像记者，但并不是记者"（P15）。这造成了一个困境：他们必须保留证据以支持其公开声明并抵御潜在的法律挑战，同时数据保护和通用数据保护条例又限制了他们允许存储的内容范围。先前研究也指出了缺乏正式监控授权的报道型公民社会组织面临的类似挑战[9]。从CSCW（计算机支持的协作工作）角度来看，这将监控定位为一项无形的工作[102]，其中关键的证据收集和保护性工作始终得不到机构支持，并且很大程度上隐藏在公众视野之外。遵守数据保护法律通常很困难，在某些情况下甚至导致组织缩减或完全停止监控活动。其他组织则限制自己只关注公开内容。然而，这限制了洞察力，因为威胁和暴力计划往往出现在非公开空间中，这种紧张关系也在先前的研究中有所讨论[26]。最后，版权限制进一步制约了协作，因为收集的材料往往无法在组织间共享，只能间接展示。

**4.2.4 安全问题。**

除法律挑战外，参与者在个人和组织层面都报告了严重的安全风险。监控极端右翼行为者可能使从业者和其所在组织成为骚扰或攻击的目标。在个人层面，参与者描述道，由于个人安全顾虑，他们在监控时使用一次性或模拟账号，这样在暴露后可以放弃该配置文件，这种做法在开源情报研究中也有记录[69]。在面试准备期间也能看出对个人安全的担忧，一些参与者拒绝录音或强调需要保持匿名身份。先前的研究也记录了研究极端右翼网络行为的学术研究人员面临的类似风险[26, 68]，但很少有研究关注公民社会组织面临的这些问题，而后者往往由于资源有限且频繁受到针对而特别脆弱[91]。参与者进一步强调，监控可能危及整个组织。正如P1所指出的，他们"也在受到攻击"（P9），通常通过协调一致的宣传活动进行。一些人报告称，有蓄意滥用法律工具的情况，例如有人呼吁"用通用数据保护条例请求淹没像我们这样的项目"（P15），而另一些人则指出"极端右翼行为者非常热衷起诉"（P3）。这些手段与报道型公民社会组织的报告一致，后者描述了蓄意试图使其应对能力超负荷的尝试[9]。最后，参与者表达了对不断变化的政治环境可能加剧法律迫害风险的担忧。在此背景下，安全的数据存储被视为关键，因为监控工作可能被当局重新定义为非法数据收集或创建"敌人名单"（P9）。

**4.2.5 协作与数据共享。**

法律限制也阻碍了组织间的协作。正如P2所解释的，组织不能"由于数据保护原因"共享直接的数据库访问权限，而必须依赖匿名化的材料——这是一项"巨大的工作量"，必须由经过培训的人员手动完成。缺乏标准化和资源有限进一步阻碍了协作；国家层面统一文档化的尝试"经常失败"（P15），因为所需工作量过大。从CSCW角度来看，这些提议指出了基础设施建设的挑战——即构建跨组织可维护和治理的共享安排和边界对象[60, 103]。尽管存在这些障碍，参与者仍强烈强调了协作的价值。成功的伙伴关系——例如与报道型公民社会组织的合作——被描述为有效的，因为其有着清晰的分工。其他参与者指出，协作可以减少重复工作，但实施仍然具有挑战性。建议的解决方案包括共享基础设施，如协作数据库，或者一种伙伴关系模式，其中一家组织负责"捕捉在线背景信息"（P2），而其他组织则贡献互补的专业知识。这暗示了协作作为一种关键技术工具之外的重要资产[58]，同时也呼应了先前记录其挑战的研究[9]。

**4.3 关于技术支持的需求和期望（RQ 3）**

图3. 公民社会组织关于技术监控支持的需求和期望的主题图部分。显示了主题（绿色节点）、子主题（浅绿色节点）和编码计数（因篇幅有限已折叠）。白色标签表示未归入子主题的个人编码。

公民社会组织关于技术监控支持的需求和期望的主题图部分。显示了主题（绿色节点）、子主题（浅绿色节点）和编码计数（因篇幅有限已折叠）。白色标签表示未归入子主题的个人编码。该图基于对15位德语区组织公民社会组织从业者的定性编码创建。

图3展示了参与者在监控方面的技术需求，聚类为四个领域：搜索、界面与仪表盘、分析洞察和文档记录。第五个类别涉及采用因素，如可用性、数据保护和本地部署。

**4.3.1 增强的搜索与发现。**

大多数参与者将高级搜索能力确定为有效监控的核心需求。一个关键需求是能够搜索已知或已订阅频道以外的内容。正如P4所解释的，他们需要"全球搜索[...]不仅仅是查看我们已经知道的群组"，理想情况下包括"Telegram全文搜索"。参与者设想了类似Google Alerts的基于警报的系统，使其能够通过高级搜索技术或"搜索技巧"（Dorks）（P4）进行高度针对性的查询。这种对搜索和发现的重视与先前关于开源情报分析师、调查记者和事实核查者的研究一致，对这些群体而言，搜索构成了核心活动[12, 58, 69, 73]。参与者进一步强调需要使多模态内容可被搜索，特别是音频和视频。对转录内容的访问被视为关键，因为"那里发生了很多事情，但我们还没有真正纳入关注范围"（P14）。从技术角度来看，这突出了将自动语音识别（ASR）和光学字符识别（OCR）作为预处理步骤的相关性。除了扩展可搜索内容外，参与者强调自动化，包括保存的查询和持续监控。P4描述了需要"一个能够[...]全天候自动运行的搜索"，而警报被视为在实时呈现相关发现方面不可或缺的工具，这与新闻报道中的类似需求相呼应[24]。搜索还用于追踪已知名人或组织，这些人或组织可能成为攻击目标，例如通过在频道中进行自动化关键词搜索来实现。最后，参与者将搜索的概念扩展到探索性发现，指出"有时候你甚至不知道自己在找什么"（P14）。建议的功能包括基于相似性的搜索以及用于识别新出现的和与本地相关的频道的工具，因为生态系统会随时间推移而变化。虽然Telegram现有的"相似频道"功能被认为有限且重复，但参与者对更透明、更具情境敏感性的频道推荐机制表示了兴趣。这些想法提供了新颖的洞察，并通过超越基于关键词的方法，强调频道发现与内容发现同等重要，从而拓展了关于在线监控中搜索策略的现有知识。

**4.3.2 用户仪表盘。**

参与者提出了以仪表盘为中心的界面，用于查看和交互被监控的内容。核心需求包括基于信息流的结果展示，并带有排序和筛选选项，同时配合简单、易于访问的统计数据，例如基本的帖子级别指标，用于识别频道中浏览量最高的帖子。在频道层面，建议的指标包括频道增长和转发模式，正如P14所指出的，这些可以指示新出现的频道并支持探索性监控。这些动态也与线下事件相关联，因为示威活动通常与关注者数量的激增同时发生，有助于"密切关注关注者数量的变化动态"（P14）。参与者进一步设想仪表盘作为文档记录和协作的工作空间。P4描述了快速保存相关帖子的方式——"点击一个帖子，然后它就会被立即存储"——以便稍后审阅或用于报道。专用用户账号可以支持标准化工作流和协作工作，使用户可以滚动浏览、标记项目和生成报告。

**4.3.3 生成洞察。**

除搜索和基于仪表盘的工作外，洞察生成占据了主题图的很大一部分。一个核心主题是自动内容分类，参与者认为这有助于对大量数据进行预筛选和优先级排序。例如，P12建议区分"不明确的"帖子和"明显具有威胁性或刑事相关性的"帖子，结合人工审阅可以实现分级风险排序，从而减少工作负荷。其他人提议使用多个分类器来检测不同形式的歧视性内容，这反映了组织在分类方案方面的差异[9]。

参与者还强调了信息提取的价值，例如识别姓名、日期和地点，特别是用于追踪动员行动。自动检测行动号召，包括图像中的内容，被认为特别有帮助，因为相关内容很容易在大量群组中被遗漏——"一个能告诉你'这里有一张分享图片'的工具会很有帮助"（P8）。然而，局限性仍然存在，例如在音频转录中识别姓名，这是当前自动语音识别系统的一个已知难题[6]。其他技术如面部识别由于数据保护法规的限制而被认为存在问题。除内容层面的分析外，参与者对用户和网络层面的洞察也表达了兴趣，包括追踪关键行为者、内容来源和转发模式以揭示协调行动。虽然此类分析被认为对于理解传播动态具有重要价值，但同时也引发了与隐私和监控相关的伦理和法律担忧[26, 68]。少数参与者提到了高级分析方法，如视频摘要、主题建模和突发检测，以支持分诊和早期预警。在这些讨论中，参与者反复强调了基于AI的分析的潜力和局限性，突出了谨慎的人机协作的必要性——这一主题我们将在4.4节中再次讨论。

**4.3.4 输出与文档记录。**

参与者强调了自动保存内容和生成合规文档记录的需求。一个核心关注点是在内容被删除之前对其进行捕获，因为相关的帖子，如煽动暴力或邀请参加非法活动的帖子，往往在一段时间后被删除。因此，参与者强调收集间隔应可配置，从几分钟到更长的周期性快照不等。P14进一步建议在工具中直接集成报告创建功能，使用户能够标记内容并在特定主题结束时"输出一份报告"。正确的数字证据处理是另一个关键需求。现有工具被描述为不够用——"你根本无法用它保存视频"（P5）——这促使人们呼吁寻求能够可靠地归档带有时间戳的多媒体内容以供法庭使用的解决方案。正如P5所指出的，这之所以至关重要，"因为证据是在最初被发现时捕获的"。最后，参与者强调了简化刑事投诉处理流程的潜力，目前这一流程涉及从电子表格中手动将信息转移到举报表单中，被描述为效率极低。

**4.3.5 对新工具的接受度。**

工具接受度取决于可用性、明确的工作量减少以及符合数据保护要求，最好通过认证来支持。这些标准与先前呼吁提供符合数据安全和证据标准、用户友好的报道技术的工作一致[9]。参与者进一步强调了技术需求，如开源、本地部署和可靠的数据存储，这既出于安全考量也出于成本考量。然而，这些要求往往与最先进的AI方法产生冲突，特别是由于其计算需求大和限制性许可。总体而言，参与者强调非技术因素——组织实践、法律要求和信任——在很大程度上影响着工具的采用。

**4.4 关于AI角色和人机协作的视角（RQ 3）**

图4. 公民社会组织关于AI在监控中作用和人机协作的视角的主题图部分。显示了主题（紫色节点）、子主题（浅紫色节点）和编码计数（因篇幅有限已折叠）。

白色标签表示未分配到子主题的独立编码。CSO对AI角色及人机协作在监控工作中作用的观点主题图。图中展示了主题（紫色节点）、子主题（浅紫色节点）及编码计数（为节省空间已折叠）。白色标签表示未分配到子主题的独立编码。该主题图基于对15位来自德语组织CSO从业者的定性编码创建。在访谈中，参与者讨论了AI支持和人机协作的作用与局限。相应的主题和子主题如图4所示。

**4.4.1 AI的潜力。** 尽管部分人提到组织对AI存在不信任，但参与者强调AI在监控工作中的潜力，例如对大量数据进行预筛选和优先级排序。正如P4所言："自动化将为我们带来巨大的帮助。" 这些用例与先前关于主张检测和案件优先级排序的研究一致[9, 50]。参与者还看到生成式AI在辅助分析和报告方面的前景，例如识别文本中的极右翼意识形态特征，或跨多个来源总结洞察，这与新闻和FC研究的发现相呼应[24, 67, 86, 107]。

**4.4.2 AI的局限性。** 然而，参与者也质疑AI的使用，例如引用误分类风险可能导致"稀释后的画面"（P4），并对AI能否充分理解有害内容在不同表现形式中微妙且依赖语境的本性表示严重怀疑。这些担忧与来自OSINT、FC和报道CSO的发现相呼应[9, 50, 58, 73, 99]。此外，现有模型并不适合该领域的语言和语境需求。参与者指出德语内容及如反犹太主义等现象方面的不足，后者通常"存在于字里行间"（P14）。用CSCW的术语来说，这些担忧反映了异质知识生产中将本地化概念转化为标准化模型方面的挑战[1, 103]。P14进一步强调了训练自定义AI分类器的巨大投入，以及CSO之间缺乏模型共享，因为"那些自己训练模型的人往往因为投入的精力而将模型留给自己"。

**4.4.3 极右翼对生成式AI的使用。** 参与者对极右翼行为者使用生成式AI的相关性持混合观点。大多数人认为它主要用于宣传材料，如图片或分享图，而传统的虚假信息策略，如断章取义，仍然占主导地位。另一些人强调似乎由AI生成的战争图像传播，因其可能扭曲公众认知而令人尤为担忧。

**4.4.4 人类专业知识的重要性。** 在访谈中，参与者强调人类专业知识的核心作用。AI被定位为人在回路中的支持工具，而非替代品，这与已建立的人机协作方法一致[31]。有些人质疑AI是否真的必要：P15强调人类专业知识被客户信任，且被认为比基于AI的分类更具可信度："我们做得很好，我觉得人们更容易相信我们。" 另一些人指出在法律情境中依赖AI可能会使程序复杂化，因为模型需要在法庭上进行解释。正如P13所解释的，"人类专业知识仍然被认为比依赖AI更有价值"，因为如果涉及AI，"你就得在法庭上解释模型，这增加了复杂性"。这些洞察强调了信任在组织和社会层面采用新技术中的作用。

**4.5 概念性监控工作流**

基于我们的访谈发现，我们开发了CSO监控的概念性工作流，如图5所示。该工作流将从业者描述的做法、限制和需求综合为一个结构化的流水线，并实现了先前工作中讨论的"实践流水线"[71]。所形成的框架既作为原型实施的指南，也作为技术开发与真实世界监控实践之间的桥梁。工作流的每个阶段都与特定的设计原则对齐：

- **数据收集与存储**：整合隐私设计和法律可用性（4.2.3），确保抓取模块以法律稳健的方式捕获元数据，同时尊重数据保护要求[9, 48, 66]。
- **预处理与索引**：实施多模态数据预处理（4.2.2）和鲁棒的信息提取（4.3.3），使多样化内容可搜索，并将嘈杂、非结构化的数据转化为结构化格式[6, 24, 58, 67]。
- **搜索与检索**：反映高级灵活搜索功能的核心性（4.3.1），通过词汇和语义方法实现多语言和多模态内容发现[12, 58, 73]。
- **仪表板与报告**：实施可用性和工作流集成（4.3.2），提供直观的界面以支持标记、保存搜索、协作和生成报告[9, 24, 67]。
- **部署与可扩展性**：对应低资源部署和可配置性（4.2.1），确保所有模块轻量、开放，并能适应多样化的CSO基础设施[9, 48, 51, 52]。

图5：CSO监控工作流的概念性概览，与技术、法律和社会技术要求对齐。一个图表，展示了衍生流水线的不同步骤，以及人机协作、法律和技术限制等上下文方面。

基于这些洞察，监控原型在与合作CSO的协作中进行了扩展，以包含表2所示的功能。

| 组件 | 描述 |
|---|---|
| 数据收集 | 稳健收集历史和实时Telegram消息，支持可配置的时间范围和可选的附件类型。 |
| 音频转录 | 使用开源Whisper模型自动转录音频消息（默认使用medium版本，可配置其他模型大小）。 |
| 词汇和语义搜索 | 支持基于关键词和基于嵌入的文本及图像搜索，使用Elasticsearch结合多语言Sentence Transformer和CLIP模型。 |
| 频道推荐 | 基于Telegram内置的"相似频道"功能推荐相关频道，作为初始实用默认方案，尽管参与者报告了局限性。 |
| 自动分类 | 针对阴谋论检测的微调BERT分类器，可在CPU基础设施上部署，集成用户反馈和数据标注支持。 |
| 交互式仪表板 | Web界面支持保存搜索、帖子级统计、手动内容标记，且无需高级技术专业知识即可协作使用。 |
| 可配置系统设置 | 环境文件配置，用于数据收集和保留策略、模型选择（转录、嵌入、分类）、硬件利用和存储端点。 |
| 模块化容器化部署 | 基于Docker的模块化架构，支持灵活部署和完全系统定制，具有相关技术设置要求。 |

扩展原型功能概览。

**4.6 研讨会发现**

研讨会提供了一个观察概念性工作流和原型功能如何与从业者监控实践对齐的机会。参与者围绕自己的主题兴趣广泛探索了搜索功能，并强调搜索对早期调查的核心作用。支持保存和组织结果的功能——如标记和保存搜索——尤其受到重视。几位参与者还额外请求导出功能以支持下stream分析和报告。

会议还揭示了组织和基础设施方面的考量。当多位参与者同时使用系统时，服务器达到性能极限，揭示了具体的瓶颈和优化需求。除技术问题外，参与者反复提出数据保护担忧，并交流了合法监控的组织策略，突显了将法律和伦理考虑嵌入工具设计的重要性。

除工具测试外，研讨会还作为CSO之间交流的场所发挥了作用。参与者利用会议讨论调查实践、限制和合作机会。我们将这些研讨会定位为初始协同设计和形成性参与，而非总结性评估。它们是相互学习的场所，在此可以共同探索监控实践、限制和工具可供性。此外，与两个公民社会项目的长期测试目前正在进行中，以探索该工具如何整合到真实世界的监控工作中。

**5 讨论与建议**

我们的发现突显了CSO的 precarious 运营条件——有限资源、受限的平台访问和法律不确定性——如何系统性地塑造和制约其对技术的参与。他们缺乏直接的平台访问、定制工具和持续的技术支持，而是依赖劳动密集型的、主要手动的方式来从外部识别和收集相关内容。

尽管自动化被认为可能有用，特别是在扩展音频、图像和视频数据的访问方面，但参与者对自动分类表示保留，通常认为其与CSO工作流不对齐。相反，CSO优先考虑支持跨异质内容格式发现、分析和记录的工具。这些发现突显了主流技术范式与公民社会监控的现实处境之间的差距。

通过访谈、工作流概念化和参与式研讨会，我们通过迭代过程弥合了这一差距，将监控实践转化为设计概念和软件原型。

以下讨论综合了我们的实证发现，并为面向CSO的监控工具推导出设计建议。设计建议旨在解决塑造CSO监控实践中哪些技术实际可用的结构和基础设施障碍。此外，我们为学术研究和政策制定者概述了利益相关者特定的建议。最后，我们引入了手工劳动陷阱的概念，作为为协作社会技术扩展理论发展提供实证基础的切入点。

**5.1 设计建议**

我们的发现突显了监控工具需要平衡自动化与人类监督、支持多模态内容、确保法律和伦理合规，并在低资源环境中保持可部署性。表3通过链接CSO实践与挑战、相关工作、核心技术需求和相应的设计建议综合了这些洞察。

一个重要的挑战在于隐私要求与证据需求之间的张力。监控工具必须遵守数据保护法规，如数据最小化和安全删除，同时保留取证质量的、法律可采纳的证据。这需要在数据保留和导出方面进行仔细权衡，并因信任和合规方面的担忧而限制了外部服务的使用（表3第1、2、10行）。碎片化且主要手动的工作流进一步塑造了监控实践，限制了组织内和跨组织的协作。这突显了需要集成、用户友好的仪表板来支持从数据收集、分析到报告生成的端到端流程（第3行）。实现有效协作还需要用户管理和与现有工作流的集成（第4行）。多模态和多语言数据日益增长的重要性与有限可用工具形成对比，突显了需要将ASR和OCR管线整合到搜索和分析组件中（第5行）。同时，在线监控中遇到的大量数据产生了对自动筛选、排序和信息提取的需求（第8行），并建议集成自动内容分类。然而，后者因对可靠性和透明度的担忧而遭遇明显怀疑，强化人在回路设计的重要性（第6行）。搜索浮现为核心功能，需要多模态和多语言能力，由词汇和语义方法共同支持（第7行）。最后，资源和法律约束强烈影响设计决策。与隐私、安全、成本和对外部服务信任相关的担忧强调了安全、低成本本地部署模型的重要性（第9、10行）。

表3。

## 经验性发现、相关工作、核心技术需求与设计建议

| 序号 | 经验性发现 | 相关工作 | 核心技术需求 | 设计建议 |
|------|-----------|---------|------------|---------|
| 1 | 数据收集与处理的法律与伦理限制 | 法律风险与约束 [9, 48, 66] | 隐私保护的数据处理 | 采用隐私优先的设计架构，实现数据最小化与删除 |
| 2 | 对具有法律可用性的证据的需求 | OSINT工具与数字证据 [9, 24, 69, 99] | 所收集内容的证据效力稳健性 | 以取证级质量进行采集，记录元数据（时间戳、URL、ID）；以标准化格式（如PDF/A、WARC）导出，便于法律审查 |
| 3 | 碎片化的手动工作流 | 监控作为人工劳动 [12, 29, 58] | 集成的、符合工作流的接口 | 直观的仪表盘，支持内容标记和报告功能 |
| 4 | 组织内部的协作监控实践 | CSO作为独立行为主体，工具碎片化 [9, 58, 71] | 用户账户管理及与现有CSO工作流的无缝集成 | 用户账户管理以控制私密与共享的监控洞察，共享标签和标记，支持数据以通用格式（如CSV、PDF）导出 |
| 5 | 多模态内容搜索与分析的困难 | 多模态工具的匮乏 [6, 24, 58, 67] | 丰富媒体内容的可搜索表示 | 集成ASR和OCR流水线，预处理多模态数据 |
| 6 | 对自动化的怀疑态度 | 算法排斥与人机协同 [9, 50, 58, 73, 99] | 具备透明度和可控性的人机协作 | 向用户透明沟通模型局限和错误（如置信度提示、推理展示、错误报告、反馈机制） |
| 7 | 搜索在监控工作中的核心地位 | 主动性和调查性工作 [12, 58, 73] | 跨多语言和模态的高级灵活搜索 | 使用适配语言的嵌入模型，实现跨模态的健壮词法与语义搜索 |
| 8 | 大量非结构化的、有噪声的平台数据 | FC和CM中的过滤与排序，OSINT中的信息提取 [9, 50, 73] | 可操作信息的自动提取 | 命名实体识别（NER）和信息提取模型，针对非正式、现实世界内容（如Telegram）进行优化 |
| 9 | 计算资源和技术基础设施有限 | 资源约束 [9, 48, 51, 52, 88] | 轻量级、可适配且可维护的系统 | 具有默认配置建议的架构；轻量级或蒸馏模型，无需GPU硬件即可部署 |
| 10 | 对外部服务的隐私、安全和成本顾虑 | 法律约束与CSO自主性；信任与采用顾虑 [24, 48, 50, 107] | 安全且成本高效的本地部署 | 最小化对第三方API的依赖；优先选择性能、成本与合规性平衡的、可本地部署的小型模型 |

*图注：将经验性发现映射到核心技术需求与设计建议的设计综合。*

### 5.2 政策与研究建议

我们的研究发现，CSO监控本质上是社会技术性的，且深度嵌入政治语境，仅通过工具设计无法解决问题。因此，我们在表4中提出了基于实证的政策和研究建议，以补充我们的设计建议。

**表4. 政策与研究建议**

| 主题 | 建议 |
|------|------|
| **政策** | |
| 合法性与角色 | 正式承认并强制要求CSO进行在线监控，以增强合法性、信任和组织间协作。 |
| 法律明晰 | 为CSO监控及相关活动（如存档、咨询）制定针对特定目的的法律指南，由国家或联邦数据保护机构协调，以减少法律不确定性并消除协作障碍。 |
| 基础设施与资金 | 从短期项目资助转向对CSO基础设施、协作和开源工具开发的持续公共支持，将成功的试点项目扩展为长期运营资金。 |
| **研究** | |
| 核心流水线 | 优先发展健壮的预处理流水线（如ASR、NER），特别是针对非英语和噪声现实世界数据，而非（多模态）分类器，以实现可扩展的多模态分析和洞察生成。 |
| 发现 | 通过研究CSO搜索实践和开发面向CSO的工具（如频道推荐器），支持探索性搜索和信息发现。 |
| 领域模型 | 开发面向CSO的、领域特定的模型（如针对威胁、反犹主义、种族主义动员），而非通用的毒性或冒犯性分类器。 |
| 接口 | 研究基于提示的LLM接口和灵活配置，以支持可适配的、面向CSO的工作流和非专家查询。 |
| 人机协作 | 设计轻量级的任务内人机反馈机制，将从业者专业知识纳入迭代系统改进。 |
| 跨组织协作 | 加强跨学科和跨部门研究（如法律、政治学、传播学），并考察CSO间的协作与网络。 |

*表注：支持CSO在线监控的政策与研究建议。*

在政策层面，一个核心挑战是结构性错位：现有的法律框架、资金模式和制度安排未能反映CSO监控在平台基础设施之外或已获认可的专业工作流之外的长期特性。我们建议从三个方向应对这一挑战。第一，正式承认CSO的社会角色并赋予清晰的制度授权，有助于增强合法性、信任和组织间协作，同时推动标准化、质量保障和能力建设。第二，必须通过针对CSO监控目的的专门法律指南来减少法律不确定性。考虑到来自威权行为者的诉讼风险或战略性信息请求，以及小型组织有限的法律专业知识，这一点尤为重要。数据保护机构可在制定可及的、行业范围指南方面发挥协调作用。第三，资金模式应超越一次性项目资助——这种模式在结构上与监控和协调工作的长期特性不匹配。政府和公共机构应转而投资于持久基础设施——包括与CSO共同开发的开源工具——同时提供持续的运营资金，以支持逐步的能力建设。

学术研究应更好地将CSO视为数字治理中研究不足的利益相关方，并解决当前研究重点（如仇恨言论分类）与从业者需求之间的不匹配。为此，应更加重视基础能力而非新的任务定义，加大对健壮的预处理流水线（如NER、ASR）的投资，尤其是针对噪声大、现实世界及非英语数据。此外，还需要进一步研究CSO如何搜索和探索陌生空间以及发现新兴叙事。

鉴于对通用的、以英语为中心的AI模型的怀疑态度，研究应支持针对CSO需求的、具有情境特异性的模型，例如检测威胁、反犹主义或有组织的动员等。这还包括通过非专家用户研究来探索基于提示的LLM工作流。在此背景下，我们建议具备轻量级人工反馈回路的交互式系统能够实现持续改进和信任，前提是与日常工作流无缝集成，且不显著增加CSO的工作负担。最后，鉴于CSO面临的挑战跨越法律、政治和技术领域，研究应促进跨学科合作，包括组织研究、法律、传播学和政治学等，以更好地理解组织间合作的障碍，以及CSO如何应对对抗性环境。

### 5.3 手工劳动陷阱与跨组织协作

我们的研究发现，监控CSO在脆弱的基础设施条件下运作，面临资金有限、平台访问受限和法律不确定性等问题。参与者一致描述了一种社会技术鸿沟：他们旨在实现的目标——长期的、协作的、主题多样的监控——与他们凭借有限的IT能力、不稳定的资源和缺乏持续基础设施所能实际支撑之间的差距。监控实践依赖于简单工具和临时工作流，难以扩展或维护。从CSCW（计算机支持的协同工作）的角度来看，CSO依赖于一个碎片化的现有系统基础[75, 101]，通过持续的协调工作[94]将其维系在一起。扩展这一基础的尝试往往表现为拼凑（bricolage）[21, 59]，即创造性地重组现有工具以克服当地约束。然而，在所述的对抗性和资源稀缺条件下，拼凑固化为一个我们概念化为**手工劳动陷阱**的东西：劳动密集型且脆弱的安排消耗了本应用于构建更持久基础设施的资源。随着时间的推移，这一自我强化循环稳固了低能力社会技术体制，使其与极右翼在线活动的规模和动态性越来越不匹配。陷入这一陷阱还延长了进行监控的个体接触有害内容的时间，可能对心理健康产生长期影响，例如增加个体的恐惧、不信任或消极情绪。因此，基础设施的扩展不仅是效率问题，更是保护问题。

重要的是，导致手工劳动陷阱的限制并非主要是技术性的；财务和法律约束从根本上决定了哪些基础设施选择是可及的。在这些条件下，纯粹依靠个体的技术发展路径几乎没有实现有意义扩展的空间。长期资金不足、法律不确定性、平台访问受限和持续维护需求，使得单个CSO不太可能独立构建和维持其工作日益所需的基础设施。在此意义上，手工劳动陷阱并非一个暂时性阶段，而是孤立运作在结构上不断再生产的结果。从这个角度看，跨组织协作成为社会技术扩展的一个可能方向。

为综合这些动态，我们提出发展一套CSO监控中的协作社会技术扩展理论——该理论将CSO基础设施置于其结构和技术约束中来考察，将手工劳动陷阱与能够支持共享基础设施开发和维护的协作安排进行对比。

相关理论构建也有助于应对一个矛盾：一方面要求灵活且可配置的基础设施以适应多样化和不断演变的监控兴趣，另一方面是非技术用户的使用性需求。在协作社会技术扩展下，技术能力有限的CSO可受益于共享知识、汇聚开发能力以及长期创建用户友好的配置界面。

手工劳动陷阱这一概念为理论化公民社会监控中的社会技术扩展提供了一个切入点。然而，协作并非中立的解决方案：资源汇集引发了治理、所有权和权力问题，并可能再生产资源充足与不足的行为者之间的不对称性。对协作社会技术扩展的完整阐释需要将协作视为一种受经济、法律和政治条件及不平等能动性塑造的有争议的变革。发展这样的阐释需要超越以工具为中心的设计研究方法。对现有或过去的协作场景进行民族志、组织学甚至历史学研究——考察其成功或失败的条件与原因——将有助于揭示共享基础设施得以持续的种种条件。信任、资源竞争以及向协作贡献并从协作中受益的不平等能力，很可能是其中的核心动态。跨多个CSO运作的技术集体，作为中介枢纽，例如CSO Tactical Tech?，代表了此类研究的有前景的场所，因为它们集中了协作过程并使其中的张力得以显现。对类似公民社会语境中社会技术扩展的历史考察，可进一步阐明使能或阻碍此类转变的结构性和政治性条件。贯穿始终，关注不可见劳动和协调工作[94, 102]将至关重要：协作基础设施不会自我维护，维持它们的工作很容易被掩盖、分配不公，且很少获得资金。我们将此视为未来CSCW工作的重要方向。

### 6 局限性

本研究聚焦于德语区组织。尽管具有多样性，但它们仅代表欧洲从事监控工作的CSO的一个有限样本。因此，研究结果的可迁移性需要谨慎对待。诸如有限数据访问和资源稀缺等约束可能存在于各种政治和社会经济环境之中——在低和中收入环境中可能更为严重，因为有限的连接性和技术基础设施限制了获取计算和AI工具的能力。另一方面，法律、政治和社会经济条件差异巨大，造就了不同程度的脆弱性。我们参与研究的CSO运作于西方欧洲民主国家；其他地区的组织可能面临额外风险，包括国家镇压[44]。在威权环境中，威胁模型发生了根本性转变：匿名性和操作安全成为核心要求，而在国内程序不可及或不安全的环境中，法律上稳健的证据价值可能较低，国际问责机制则更为重要。在此语境下，跨国协作——由外部CSO承担公开曝光风险，受威胁组织专注于证据收集——本身可能构成一种社会技术扩展，在组织（和国家）边界间分配风险和力量。在线平台的作用也因政治和监管环境、时间推移以及CSO的主题焦点而异。即使在我们的样本中，实践和需求也存在差异，这突显了开发既具普适性又具灵活性的设计启示的难度。如多模态数据处理、健壮搜索和法律证据处理等核心需求似乎具有广泛的适用性，但必须根据组织特定情况进行调整。未来研究应纳入更多欧洲和国际CSO，以检验和细化我们的发现。

访谈对象是监控专业人员，而非AI或软件专家。一些参与者难以阐述超越现有实践的技术需求，这可能窄化了研究视角。在某些情况下，采访者主动提出了潜在功能，促使参与者考虑他们可能不会自发提及的方面，这一点已在我们的方法论中加以说明。

尽管定性访谈作为我们主要方法提供了坚实基础，但更深入的需求分析可受益于额外方法，如用户故事和使用案例、用户画像、情境调研、设计探针和需求优先级排序技术。为开始应对这一局限，我们已纳入工作坊活动，并正在与两个组织进行纵向测试。

### 7 结论

本研究推进了对CSO作为监控技术开发与应用中关键但研究不足的行为者的理解。CSO的脆弱处境、多样的活动以及所面临的多重障碍突显了这一领域的异质性。这种异质性要求灵活且可适配的技术解决方案，能够容纳多样的组织实践和主题焦点。

我们的研究结果进一步表明，尽管公民社会组织（CSOs）认可人工智能的潜力——特别是在拓展对嵌入音频、图像和视频内容中的原本无法获取的信息的访问方面——但人们普遍对自动分类系统持怀疑态度。这些系统被认为与公民社会组织的工作流程不相符，在法律和证据场景中尤为成问题，因为在该类情境中，透明度、问责制和人类可信度不可或缺。我们的研究贡献体现在三个方面：第一，我们提供了深入的、基于实证的对公民社会监控活动的论述，将其视为一种在条件动荡、对抗性强且法律不确定的环境下开展的协作性、基础设施性和认知性工作。在此过程中，我们拓展了计算机支持的协同工作（CSCW）领域中关于社会技术系统如何在资源丰富程度较低的组织环境之外得到维护并实现有效运作的现有理解。第二，我们将这些洞见转化为可操作的设计和研究建议。我们阐述了灵活监控基础设施的设计考量，重点关注搜索、（多模态）数据预处理以及证据的收集与记录，使这些基础设施能够跨主题领域保持适应性。第三，我们提出了"手工劳动陷阱"这一基于实证的概念，用以解释为何监控类公民社会组织往往被困于劳动密集型、低效能的安排之中，并提出发展以CSCW为基础的合作性社会技术规模化理论，以更好地理解替代性的、协作式的组织模式如何能够重构这一动态格局。