伦理与倦怠：外卖平台中道德AI设计与职业倦怠

《Information & Management》：Ethics vs. Exhaustion: Ethical AI Design and Job Burnout in Takeout Platforms

　　摘要
人工智能（AI）已日益嵌入数据驱动的在线外卖平台，显著提升了运营效率，同时重塑了平台工作的组织与治理方式。然而，随着基于AI的智能配送系统更深入地融入平台运营，日益精细的调度控制和严格的配送要求可能引发伦理问题，包括行为操纵和感知压迫，这些都与外卖骑手的职业倦怠相关。本文考察了AI伦理水平与外卖骑手职业倦怠之间的关系，以及算法信任的中介作用和组织信任的调节作用。利用300名外卖骑手的调查数据和PLS-SEM方法，我们表明AI伦理水平与外卖骑手的职业倦怠呈负相关。此外，我们确定算法信任起中介作用，而组织信任起调节作用。总体而言，这些发现增进了我们对AI伦理与职业倦怠之间关系的理解，并为数据驱动外卖平台中伦理AI设计和平台算法的可信治理提供了见解。它们还为外卖平台管理者寻求优化基于AI的智能配送系统的伦理设计和治理以及解决外卖骑手职业倦怠问题提供了实践指导。

引言
人工智能（AI）正突飞猛进地发展。各种AI技术已渗透并融入多个工作场景中员工的工作，如图像和语音识别、智能客服和自动驾驶。对员工而言，AI极大地提高了工作效率。对企业而言，AI带来了巨大的业务创新浪潮[1,2]。通过应用AI算法，企业可以优化业务工作的开展，提高效率和收入。

然而，AI技术的应用意味着企业不断监控和操纵员工的行为，员工被动接受系统订单，这可能对员工的工作负荷产生负面影响。例如，Facebook和Google等大型平台公司通过无处不在的移动设备对人们进行了大规模的行为控制，导致了“监控资本主义”[3]。这是因为AI输出是优化平台所有者指定目标的结果，通常忽略对个人心理和生理的影响，甚至限制了个人的思考、行动和归属自由[4]。此外，用户往往不知道AI技术影响和控制其行为的程度。即使他们知道，个人的力量也无法对抗股东经济目标的追求，因此很难改变。这种权利不平等导致了支配或边缘化状态，个人受到AI的压迫，从而产生了AI的伦理问题。

具体而言，在外卖行业，嵌入平台的AI技术已逐渐成为控制外卖骑手行为的工具。从人工模式到深度学习模式，平台不断升级智能订单调度系统。如图1所示，AI技术在订单分配和管理中的作用日益重要。美团的“超脑智能配送系统”和饿了么的“方舟即时配送智能调度系统”都基于AI技术管理着738万名外卖骑手。他们的平台处理复杂多样的地理数据和数千亿条外卖骑手驾驶数据，利用机器学习实现运营优化，并实现对每个配送骑手、每个订单和每条配送路线的精确控制。然而，这种订单调度系统使外卖骑手无法控制自己的时间和工作方式，许多人面临工作时间延长和休闲时间缩短的风险。他们的休闲时间与工作时间之间的界限非常模糊，这加剧了对外卖骑手的整体压迫，导致工作压力增加并暴露于更大的职业风险。

现有研究文献强调AI伦理问题如何侵犯个人的思想、行动和归属自由[4]，从而破坏人们独立和理性的选择。这些伦理问题反映在非人性化约束中，如信息过滤（新闻推荐和产品推送）、应用自我操作（调度系统）、社会包容（性别偏见）[5]，尤其是AI算法的不透明性[6]。不清晰的设置和复杂的计算使系统难以理解，并给用户带来困惑。先前研究对算法管理下零工劳动者的压力提供了重要解释，通常通过算法控制和算法压力等构念，以及最近通过算法透明度等孤立系统特征[7]。然而，这些视角主要捕捉平台引导行为的强度（控制/压力）或单一设计线索的存在（例如透明度），因此不能直接解释工人对算法管理是否在伦理上可接受和合理的规范性判断。此外，算法透明度可能产生混合甚至矛盾的工人结果，强调需要考察工人对算法管理的整体伦理评价[8,9]。

同时，负责任和可信赖的AI研究日益强调透明度、可解释性、公平性和问责制作为评估AI系统的核心原则[10]。然而，算法管理研究很少考察这些原则如何在日常平台工作中转化为工人的整体伦理评价，或者这种评价如何与职业倦怠相关联。这在广泛的AI伦理原则和算法管理劳动中工人的福祉之间造成了重要的理论空白。

为弥合这一空白，我们聚焦于AI伦理水平，它捕捉了骑手对平台算法治理的整体伦理评价。基于伦理气候理论，我们进一步认为，骑手与调度和评价系统的反复互动提供了反复出现的嵌入技术的伦理信号，这些信号塑造了对算法的信任以及随后的职业倦怠。然而，AI伦理的影响，特别是从算法和组织信任的角度来看，很少受到关注。算法信任是指用户对AI系统提供的结果的信任程度。在决策日益由算法做出的工作环境中，员工对这些系统的信任对于他们接受AI做出的决策至关重要。同样，组织信任反映了员工对其雇主的价值观、决策以及对其福祉的总体承诺的信心。这两种信任都对员工如何看待AI系统及其与它们的互动产生重大影响。对算法和组织的信任可以减轻AI驱动工作环境的负面影响，可能减少压力和职业倦怠。因此，我们在此解决以下研究问题：

RQ1：AI伦理水平如何与外卖骑手的职业倦怠相关联？
RQ2：算法信任和组织信任在AI伦理水平与外卖骑手职业倦怠之间的关系中起什么作用？

为回答这些问题，我们建立了一个研究模型，以说明AI伦理水平、职业倦怠、算法信任和组织信任之间的关系。我们使用真实外卖骑手（N=300）的调查数据检验了我们的假设。结果表明，AI伦理水平与外卖骑手的职业倦怠呈负相关，而算法信任部分中介了这一关系。此外，随着组织信任的增加，AI伦理水平与职业倦怠之间的负相关变弱，组织信任也削弱了通过算法信任产生的间接关联。

我们的发现丰富了现有关于AI伦理的研究，加深了我们对AI伦理水平对外卖骑手职业倦怠影响的理解，并区分了算法信任和组织信任的作用。此外，我们的发现为配送平台管理者如何优化AI智能配送算法和缓解外卖骑手的职业倦怠提供了实践意义，以回应对其劳动安全权益的政策要求。

章节片段
AI伦理
AI伦理领域关注以道德和社会负责任的方式开发和实施AI系统。它涉及确保AI系统透明、公平地运行，并以保护用户隐私和促进信任的方式运行[12]。随着AI在各行各业的广泛采用，对其伦理影响的担忧日益增加，特别是由于其算法的“黑箱”性质[13]。AI系统的不透明性，尤其是在其

假设
基于构念定义和ECT框架，我们考察骑手感知的AI伦理水平如何与算法信任和职业倦怠相关联。我们进一步将算法信任理论化为将算法治理的伦理评价与职业倦怠联系起来的心理机制，并将组织信任理论化为塑造这些关系的背景条件。图2展示了概念模型。

测量
本研究中使用的测量项目改编自现有文献。AI伦理水平使用AI伦理量表[79]进行测量，该量表采用公平性、可解释性、问责制和透明度四个维度来描述AI伦理，并为每个维度提出三个问题。示例包括“智能配送系统向骑手解释预计配送时间的计算方法”、“我能理解智能配送系统的计算逻辑

数据分析与结果
考虑到本研究样本量相对较小，我们采用偏最小二乘结构方程模型（PLS-SEM），使用SmartPLS 4。PLS-SEM是一种基于方差的SEM技术，特别适用于小样本研究以及同时估计涉及高阶构念、直接效应、中介效应和调节效应的复杂模型[81,82]。与基于协方差的替代方法（CB-SEM）相比，PLS-SEM也是一种适当的

结果讨论
在本研究中，我们旨在探讨AI伦理水平对外卖骑手职业倦怠的影响，结合算法信任的中介作用和组织信任的调节作用。我们表明该模型具有强大的心理测量特性，并解释了算法信任和组织信任之间的差异。我们的研究得出几个关键发现。首先，感知的AI伦理水平和算法信任都与外卖骑手的职业倦怠显著负相关

资助
本工作由国家自然科学基金项目（72231004和72271182）和国家社会科学基金项目（22VRC153）联合资助。

CRediT作者贡献声明
Nan Feng：写作——审阅与编辑、验证、监督、概念化。Xueqing Wang：写作——审阅与编辑、写作——原稿、方法学、调查。Aihui Chen：写作——审阅与编辑、写作——原稿、验证、监督、方法学、调查。Yu Zhang：写作——原稿、方法学、调查、概念化。

NAN FENG（[e-mail]）是天津大学管理与经济学部信息管理与信息管理科学系讲席教授。他于2007年在天津大学获得管理科学博士学位。当前研究兴趣包括信息系统经济学、信息安全和商业分析。其研究已发表于《MIS Quarterly》、《Information Systems Research》、《Journal of the Association for Information Systems》等期刊。

Nan Feng | Xueqing Wang | Aihui Chen | Yu Zhang