《Ethics and Social Welfare》：The (Un)Fair Algorithm: Socio-Technical Ethics Work for Artificial Intelligence in Social Work
编辑推荐：
在本文中，研究人员展示了在社会工作与人工智能（AI）技术交汇的领域中出现的一种新形式的伦理工作。本文报告了一项对斯堪的纳维亚非政府组织（NGO）的组织民族志研究，具体包括社会工作者和数据工程师为建立公平的AI咨询助手（AICA）以支持志愿者工作人员与寻求帮助和
在本文中，研究人员展示了在社会工作与人工智能（AI）技术交汇的领域中出现的一种新形式的伦理工作。本文报告了一项对斯堪的纳维亚非政府组织（NGO）的组织民族志研究，具体包括社会工作者和数据工程师为建立公平的AI咨询助手（AICA）以支持志愿者工作人员与寻求帮助和支持的儿童进行在线沟通所做的努力。AICA的目的是为志愿者社会工作者与儿童的实时文字对话检索相关信息和建议。借鉴科学技术研究，研究人员将AICA相关的伦理工作视为一种超越人类的事业。研究人员强调了四个伦理维度，涉及（1）距离（distance）、（2）能动性（agency）、（3）时间（time）和（4）错误（errors），这些特征构成了我们称之为社会技术工作（socio-technical work）的内容，它不断质疑和处理AICA的伦理性。研究人员得出结论，社会工作与AI交汇领域的伦理工作要求社会工作者具备技术意识，使其能够同时参与数据伦理（data ethics）和社会工作的情境伦理（situated ethics）。
论文解读文章：
**研究背景与问题**
随着人工智能（AI）在社会工作领域的广泛应用，社会工作者面临新的伦理挑战。现有研究指出，AI技术可能带来歧视、隐私侵犯等风险，但关于这些技术如何影响社会工作者的日常伦理实践的研究不足。社会工作者传统上依赖情境伦理（situated ethics）来处理复杂的人际关系，而数据科学家则强调数据伦理（data ethics）原则，如公平性和透明度。然而，这两者之间存在脱节，导致AI系统在实际应用中可能产生不公平结果。因此，本研究旨在探索社会工作者、数据工程师和AI助手（AICA）交汇处如何产生新型伦理工作，并填补这一研究空白。研究意义在于，通过理解这种伦理工作，可以为设计更公平的AI系统提供实践指导，同时增强社会工作者的技术意识。
**研究内容与方法**
研究人员对斯堪的纳维亚非政府组织“Stop Neglect”进行了组织民族志研究，该组织开发了一个AI咨询助手（AICA）以支持志愿者社会工作者与儿童进行在线咨询。研究期间为2023年春季，收集了10次半结构化访谈（涉及2名管理者、2名社会工作专家、2名数据工程师、2名数据专家和2名志愿者顾问）、19小时对AICA使用情况的观察、4次AICA工作会议观察、2次伦理研讨会参与观察，以及22份相关文档。样本来源为“Stop Neglect”组织的志愿者和员工，所有参与者均自愿同意。研究采用科学技术研究（STS）视角，将AICA视为社会技术系统，分析其开发和使用过程中的伦理问题。主要技术方法包括：组织民族志（organisational ethnography）、半结构化访谈、参与观察和文档分析，但不涉及具体试剂或实验操作。
**研究结果**
**距离（Distance）**：数据工程师通过数学方法（如反事实测试）评估AICA的问题分类是否公正，确保性别、宗教等属性不影响预测结果。社会工作者则负责验证分类的准确性，并调整模型以适应新问题（如“乌克兰”）。研究发现，实现公平算法需要数据工程师和社会工作者的协作，将数学距离与情境距离结合。
**能动性（Agency）**：AICA的数学去偏可能导致其无法识别某些关键信息（如宗教背景），从而产生偏差。案例中，志愿者顾问马格达莱纳（Magdalena）通过自身经验识别出年轻女性的宗教背景，而AICA未能提供相关建议。这表明社会工作者需要与AI共享能动性，批判性反思AI的输入和输出，形成“社会技术能动性”（socio-technical agency）。
**时间（Time）**：AICA的即时信息检索与社会工作咨询的慢节奏产生冲突。观察显示，志愿者顾问在咨询中重视等待和反思，以尊重儿童的节奏。他们不依赖AICA的快速建议，而是自主掌控对话节奏，这体现了社会技术工作中的时间管理，即避免技术干扰咨询的自然流程。
**错误（Errors）**：AICA产生的错误（如关键词与问题分类不一致）被视为学习机会，而非缺陷。社会工作者（如Julie）会记录错误并反馈给数据工程师以改进模型。这种对错误的积极处理促进持续协作，使错误成为调整和优化AI的“摩擦点”（friction），推动伦理实践的动态发展。
**讨论与结论**
研究提出“社会技术工作”（socio-technical work）作为第八种伦理工作类型，扩展了Banks的伦理工作分类。这种工作强调社会工作者需具备技术意识，同时处理数据伦理和情境伦理。研究结论指出，伦理工作不是对AI的对抗，而是与AI共同演进的过程。社会工作者应成为AI的主动开发者，而非被动使用者。通过参与AI的设计和测试，社会工作者能够确保算法尽可能公平，并保护弱势群体的权益。研究表明，伦理问题在AI实施前就已嵌入技术中，因此跨学科协作至关重要。该研究为社会工作伦理提供新视角，强调技术伦理与专业伦理的融合，对实践和政策具有指导意义。
