何时寻求帮助：在人类监督的自主系统中运用基于信任的辅助决策机制

《ACM Transactions on Human-Robot Interaction》：When To Seek Help: Trust-Aware Assistance-Seeking in Human-Supervised Autonomy

信任演化建模与实验验证：采用IOHMM-POMDP框架分析人机协作中的信任动态，实验表明信任感知策略提升团队性能，模型估计与自报告信任高度一致。

　　

摘要

我们的目标是通过对信任演变的建模和实验评估，来预测人机团队在动态环境中的未来信念和行为。研究表明，在人机团队中保持适当的信任水平对团队成功至关重要。实际上，信任是一个多维度且潜在的实体，它以复杂的方式与过去的经历和未来的行动相关联。通过使用人机协作任务，我们利用输入输出隐马尔可夫模型（IOHMM）对人类行为进行建模，并利用部分可观测马尔可夫决策过程（POMDP）框架为机器人设计最优的辅助请求策略。在这个任务中，人类伙伴监督一个自主移动操纵器在环境中收集物体。监督者的职责是确保机器人安全地完成任务。机器人可以选择尝试自主收集物体，或者寻求人类的帮助。人类监督者会积极监控机器人的活动，在需要时提供帮助，并在认为机器人可能失败时进行干预。在这种情况下，人类的信任是一个隐藏状态，而主要目标是优化团队绩效。我们进行了两组人机交互实验。第一组实验的数据用于估计POMDP参数，这些参数用于计算第二组实验中评估的最优辅助请求策略。估计的POMDP参数显示，对于大多数参与者来说，当信任度较低时，尤其是在高复杂性任务中，人类干预的可能性更大。值得注意的是，我们的估计表明，机器人在高复杂性任务中请求人类帮助的行为可以积极影响人类的信任。实验结果表明，与最优的信任无关策略相比，所提出的基于信任的策略能够带来更好的性能。通过将仅使用行为数据获得的人类信任模型估计值与收集到的自我报告的信任值进行比较，我们发现模型估计值与自我报告的回应是一致的。