边界对象在共同设计AI系统中的研究：支持跨职能协作的案例研究

《Proceedings of the Design Society》：Boundary objects in co-designing AI systems: a case study of supporting cross-functional collaboration

　　

在AI系统的早期设计阶段，设计人员面临着将跨学科需求与技术可行性相结合的挑战。本案例研究展示了让跨职能团队参与早期设计AI视觉系统以支持电气设备组装过程中操作员的研究经验。该方法旨在将人机(Human-AI, HAI)指南嵌入边界对象(boundary objects)中。研究结果表明，边界对象帮助参与者达成了共同理解，识别了需求，并制定了缓解AI系统开发过程中未来问题的计划。

本文解读的论文《Boundary objects in co-designing AI systems: a case study of supporting cross-functional collaboration》发表于《Proceedings of the Design Society》。该研究针对AI系统集成到组织工作流时面临的高失败率问题，特别是制造业在早期设计阶段缺乏促进跨职能协作的有效资源。目前，数据科学家常创建无法满足用户需求的解决方案，而设计人员未能充分参与问题定义；同时，AI作为设计材料具有不确定性，跨职能团队因缺乏共享语言、沟通和工作流而难以合作。尽管已有研究强调边界对象在医疗等领域的价值，但在制造业中如何具体运用边界对象将人机(HAI)指南适配到特定情境仍缺乏实证记录。因此，研究人员开展了一项案例研究，探索在瑞典一家电气设备制造厂中，通过边界对象支持跨职能团队在早期设计和开发用于实时图像识别的AI质量控制系统的协作过程。研究结论是，边界对象有助于跨职能团队达成共同理解、识别需求并规划缓解未来问题的方案，这对推动以人为中心的AI集成具有重要意义。

作者为开展研究采用了几个关键技术方法。首先，研究人员进行了为期三小时的工厂参观，了解手动组装过程和质量控制挑战。其次，组织了三个系列研讨会，参与人员包括组装操作员、生产主管、质量技术人员、数据科学家和研发经理等跨职能角色。第三，基于之前的人机(HAI)指南（如Google PAIR指南）和制造背景，研究人员将指南转化为多种边界对象，具体包括泳道图模板、需求识别模板、Teachable Machine演示器、AI系统原型、折纸工具包(origami toolkit)、带注释的照片、组装指令截图、高保真UI模型(mock-ups)以及四个预设场景。第四，采用定性分析方法，对工厂参观笔记、研讨会录音录像、照片、反馈及共创材料等实证资料进行反思性分析，以评估边界对象的作用。

研究结果部分按以下小标题呈现：

1. 1.
   Introduction
   引言部分指出AI项目在实施阶段失败率高达约90%，原因在于部署未充分考虑员工需求，且数据科学家与设计师之间存在脱节。AI作为设计材料的复杂性加剧了跨职能协作的困难，而边界对象能促进不同实践社区间的协作。尽管已有文献表明边界对象可支持团队评估机器学习(ML)模型和讨论终端用户需求，但在制造业中如何桥接不同专家的关注点仍缺乏记录。本研究通过案例解决这些空白，提出两个研究问题：RQ1探讨如何将人机(HAI)指南嵌入边界对象以支持跨职能团队；RQ2探讨边界对象如何支持不同利益相关者。
2. 2.
   Background of the case study
   案例背景来自一个为期三年的研究项目，旨在使制造业AI采用民主化。研究人员与一家大型电力基础设施制造商合作，该厂此前曾合作开发检测炉温异常的AI模型。工厂参观发现电气组装完全手动，依赖操作员经验，错误常见且后期检测成本高昂。数据科学家已提出AI系统概念并通过原型展示可行性，该系统旨在通过增强现实辅助操作员及早发现组装错误，减少返工。
3. 3.
   Method and data collection
   方法部分描述了实证材料包括田野笔记、AI系统文档、三次研讨会的录音录像、照片、反馈及共创材料。研究小组由人机交互(HCI)博士、精益生产高级讲师、生产顾问和计算机科学教授组成。研讨会参与者包括研发项目经理、组装主管、四名操作员、生产技术人员、两名质量技术人员、数据科学家和研发经理。研究人员对这些材料进行定性分析，以检验边界对象在研讨会中的作用。
4. 4.
   Materialising human-AI guidelines into boundary objects
   该部分详述了将人机(HAI)指南具体化为边界对象的过程。基于先前应用PAIR指南的挑战，研究人员筛选出适用于制造环境的指南，并将其塑造成可在研讨会中使用的边界对象。具体包括三次研讨会：第一次研讨会(WK1)旨在组建跨职能团队，使用了泳道图模板和需求识别模板，帮助识别关键角色和初步需求；第二次研讨会(WK2)持续约两半小时，通过Teachable Machine演示、AI原型、折纸工具包、带注释的照片和现有指令截图，促进了参与者对AI视觉技术局限性的理解和机会探索；第三次研讨会(WK3)历时三小时，应用选定的人机(HAI)指南，通过高保真UI模型和四个角色扮演场景，深入讨论了集成方面的问题，如置信阈值、误报率和反馈机制。
5. 5.
   Results and learnings
   结果部分总结了边界对象如何支持利益相关者讨论和设计决策。在WK1中，模板帮助理解机会空间和识别利益相关者；WK2中，具体制品降低了参与门槛，建立了对实际工作情境的共同理解；WK3中，操作员能与数据科学家讨论可接受的AI预测水平和置信阈值，产生了诸如颜色编码置信指标的具体设计决策。边界对象使团队从抽象探索走向具体设计决策，实现了共同理解的协商。此外，不同角色获益各异：操作员理解了自身角色并表达了情境需求；数据科学家深入了解了情境需求和操作员需要；项目经理获得了有形材料以记录需求和可行性；组装主管明确了新工作流的影响；研发和技术人员理清了自身职责。
6. 6.
   Discussion
   讨论部分指出，本研究记录了如何将人机(HAI)指南嵌入边界对象以支持制造业早期AI系统设计中的跨职能协作。研究贡献在于表明制造业可借鉴其他领域的边界对象见解，并将具体边界对象应用于实际。作者从人机交互(HCI)视角提出需要更系统地理解边界对象在不同设计阶段的作用，并映射到如双钻(double diamond)等设计框架。此外，目前缺乏系统解决AI早期构思阶段的方法论，尽管新文献开始关注，但仍稀缺。制造业AI开发框架与医疗保健领域存在差距，后者已有整体框架和脚手架构思范例。最后，研究强调了设计师在策划和促进跨职能团队中的机会，设计师可设计边界对象并主持协作，弥合技术中心与用户中心之间的鸿沟。
7. 7.
   Conclusion
   结论部分重申，本案例研究表明边界对象对跨职能团队有益，促进了潜在AI系统的共同理解，帮助探索和定义终端用户需求，讨论挑战并制定克服计划，建立了关键角色间的协作。这凸显了在早期设计阶段密切跨职能协作的必要性，设计师可通过创建边界对象和策划共享探索来支持这一过程。