捕捉"坏苹果"以维持良好工作：荷兰市政府视角下数据驱动技术在失业治理中的（去）政治化机制分析

《Data & Policy》：Catching the bad apples to keep up the good work: Dutch municipal government perspectives on data-driven technologies in unemployment

本研究聚焦荷兰鹿特丹市政府在失业与收入领域应用数据驱动技术（DDT）时，为何及如何进行政治讨论。研究人员通过分析2016-2023年市政会议文档与录像，发现相关讨论极为罕见且多为被动反应。研究揭示了“内容切分”（content chopping）等（去）政治化机制，指出技术、伦理、政治等议题的碎片化处理会模糊决策过程、削弱问责，并可能导致公民的非人化与刻板印象。该研究为理解数字福利国家中公共价值的维护提供了重要洞见。

　　

在全球范围内，数字福利系统正迅速扩展到地方政府层面，然而，理解其政治影响对于保障透明度、合法性、问责制和隐私等公共价值至关重要。在荷兰，尽管有证据表明数据驱动技术对一线专业人员和公民都产生了负面影响，但地方政府内部关于数字福利的政治讨论却出人意料地有限。这种缺乏政治辩论的情况，可能会模糊决策过程、阻碍问责机制，从而侵蚀民主合法性。荷兰地方政府双重化结构通常将数据驱动技术的负责任使用视为应由市政官员和公务员处理的具体实施问题，而非政治事务，这为相关讨论设置了障碍。现有文献对地方政治家在官僚组织内部数字化和数据化进程讨论中的参与度提供了有限的见解，但暗示地方政治家与公务员在数据驱动技术方面的互动很少。公务员通常负责开发数据项目，但只在项目已形成实际政策的较晚阶段才通知或咨询地方政治家，这限制了政治监督。地方政治家对数据驱动技术的了解有限，加上这些项目本身的复杂性和抽象性，进一步阻碍了有意义的参与。此外，公务员也表现出不愿完全告知政治家的倾向，担心他们可能会阻碍数据项目的发展。正是在这样的背景下，一项针对荷兰鹿特根市政府在失业与收入领域应用数据驱动技术的政治讨论机制的研究显得尤为重要。

为了探究数据驱动技术在失业与收入领域是否以及如何被政治讨论，研究人员采用了顺序混合方法设计，结合自动化文本分析软件ConText（1.2.0）和文本分析软件Atlas.ti（9），分析了2016年至2023年期间的市政议会和委员会会议的文件及视频录像。研究采取了归纳性、探索性的方法，分析所有文件以获得市政议会对数据驱动福利供给讨论的整体概览，包括丑闻发生前后的情况。数据收集涉及从市政府信息系统网站手动下载所有相关文件，包括市政议会（2014-2018年、2018-2022年和2022-2026年任期）的所有议程和会议记录，以及负责失业与收入领域的三个市政议会委员会的所有议程、动议、书面问题、政治承诺和建议。由于数据量庞大，首先使用ConText进行主题建模和语料库统计分析，以了解讨论的频率和内容；然后基于初步案头研究和关键事件，使用Atlas.ti对选定的材料进行更深入的定性文本分析，重点关注（去）政治化类型作为敏感化概念，通过开放式编码和轴向编码来识别和分类机制及风险。

对丑闻和批评的反应“...并继续按议程进行”

研究结果显示，尽管数据驱动技术被用于失业与收入领域，但市政议会中关于这些技术如何使用的讨论却非常罕见。在八年的150份市政会议议程中，仅在少数年份出现了与数据驱动技术相关的词汇。这些罕见的讨论要么是对丑闻的反应，要么是对批评的回应。市政议员偶尔会提出关键问题，但关于数据驱动技术的正式伦理反思主要出现在外部审计组织的报告中。随着时间的推移，大多数关于丑闻和批评报告的讨论转向了市政议会委员会，采用了诸如“ABC政治”（将决策权移交至机构、委员会等）之类的政府性（去）政治化机制。涉及外部开发技术（如SyRI、育儿津贴丑闻算法）的丑闻倾向于在议会会议中讨论，而涉及内部开发技术（如福利欺诈分析项目）的则主要在委员会会议中处理。主题建模分析支持了语料库统计结果，显示在八年间的193份议程和会议记录中，仅出现了2个相关主题，且主题编号相对较低（13和14），表明这些话题相比其他议题受到的关注显著较少。

讨论的障碍：缺乏时间与知识以及责任推诿

分析揭示了两个为有限的政治讨论辩护的话语因素：一是市政议员和市政官员声称缺乏足够的时间和知识来履行职责。尽管市政官员是全职带薪职位，而市政议员不是，但两者都承受着高工作压力，缺乏足够的知识和技能。在讨论中，双方都表示大多数人缺乏足够的知识来批判性质询数据驱动技术，常常诉诸各种（去）政治化机制来处理这种知识缺口。例如，在回应审计机构关于提高福利欺诈风险评分模型透明度的建议时，市政官员将其描述为“复杂的数学问题”，将议题从伦理领域（缺乏透明度）转移到数学领域，并通过强调依赖“科学验证的程序”和“专家员工”，将责任扩散给程序员、软件制造商和专家员工，从而将议题从政治领域转移到官僚领域。二是责任推诿和问责扩散。数据驱动技术的内容和流程责任在形式上被分离：“组织”市政官员负责ICT系统，而“部门特定”市政官员负责系统的使用。这种分工导致责任分散。一位市政议员尖锐地指出，“当责任由多人分担时，实际上就等于无人负责”，这恰当地总结了“多手问题”。

内容切分及其风险

缺乏时间、知识以及责任不清，导致了一种被称为“内容切分”的（去）政治化机制。本研究将其定义为将一个议题切割成小的内容片段，例如技术、伦理、政治或执行方面，并将它们分散到不同的文件和讨论场所中，从而模糊议题的整体连贯性，分散关键关切。以福利欺诈分析项目为例，市政官员在回应审计建议时，将模型运作的技术方面、政策执行方面和伦理方面（如“增加复查中的人性维度”）分别放在不同的文件或信件中说明，而这些文件并未全部公开。这种内容切分尤其有害，因为它可能导致非人化和刻板印象。在福利欺诈分析项目的一个技术会议中，数据分析师试图用“苹果”和“苹果酱”的比喻来解释算法如何根据特征分类福利领取者，将潜在欺诈者比作“不适合销售而需加工成苹果酱的苹果”。这种将技术方面孤立在技术会议中的做法，几乎没有留下空间来反思算法对福利领取者生活的社会影响、确保公平待遇等伦理方面。这个比喻，暗指“一个坏苹果会糟蹋一整筐”的谚语，体现了对福利领取者的非人化。另一个风险是强化刻板印象。例如，在“外国资产风险档案”案例中，关于土耳其裔荷兰福利领取者更可能隐瞒外国资产的刻板印象，一度主导了政治讨论，并试图嵌入到风险档案的设计中（如使用“出生国非荷兰”作为特征）。这种刻板印象使得将福利领取者视为个体的、更中立的角度变得难以触及。幸运的是，通过重新引入科学和伦理方面的讨论（如质疑所用研究的可靠性，强调平等对待和非歧视），最终导致基于出生国的区分被停止使用。这表明，当不同的方面没有被连贯地讨论时，像正义、隐私、透明度和问责制这样的关键价值可能被边缘化。

算法治理：防止“苹果酱”的努力

2022年，针对审计办公室关于算法使用中透明度和责任问题的报告，鹿特丹引入了一种新的传感器、数据应用和人工智能治理方法。该方法包括一系列工具，旨在确保算法的透明和负责任使用。例如，建立算法注册表，以促进与公民关于算法使用的透明沟通；任命算法专家，从技术、伦理、法律和信息角度提供建议；成立算法咨询委员会，向执行委员会报告；引入人权和算法影响评估（IAMA）工具，在算法应用开发阶段促进相关参与者之间的平衡讨论；以及开展针对员工的认识提升活动。这些努力代表了在负责任的数据驱动治理方面取得的进展，但它们很大程度上依赖于专家意见和程序性保障。目前尚不清楚这些措施如何促进民主监督和激发有意义的政治参与。

结论与讨论

本研究旨在探究鹿特丹市政府内部关于在失业与收入领域使用数据驱动技术的政治讨论机制及其后果。研究结果证实了先前关于数字化政治关注有限的发现，表明市政议会中的讨论稀少且多为被动反应。分析揭示了（去）政治化机制，如责任推诿和内容切分，解释了为何围绕数据驱动技术的政治辩论有限。政治讨论不应仅限于对丑闻和批评的反应，因为在技术存在的各个阶段都可能嵌入人类偏见。当议题的不同方面没有被连贯讨论时，关键公共价值面临被边缘化的风险。地方政治领导人在引导数字转型和维护数据驱动技术讨论中的价值方面扮演着关键角色，但本研究显示，他们普遍缺乏足够的知识和洞察力来进行有意义的政治讨论。时间和知识的限制是可以理解的，但承认这些限制的同时并未阐明解决计划，这可能成为将数据驱动技术议题（去）政治化的便利理由。最终，反复出现的问题促使了新的治理方法的引入。未来的评估和研究需要确定这些工具在预防未来问题方面的有效性。本研究的结果具有特定背景，其可转移性有限。鹿特丹务实、创新驱动的文化及其工人阶级历史可能影响数据驱动技术的开发和接受方式。未来的研究应考察媒体在数据相关丑闻中的双重角色（监督与催化公众辩论），并探讨（不）可靠知识如何影响地方政治辩论，因为依赖不可靠的研究可能导致对公民的不公正和不平等对待。