《Advanced Intelligent Systems》:Multi-Stage Social Value Orientation-Based Lane-Changing Driving for Autonomous Vehicles
编辑推荐:
尽管智能驾驶系统(intelligent driving systems)正逐步部署于公共道路,其仍面临诸多实际挑战。其中,由自动驾驶车辆(autonomous vehicles)与人类驾驶员(human drivers)共同构成的混合交通环境(hybrid
尽管智能驾驶系统(intelligent driving systems)正逐步部署于公共道路,其仍面临诸多实际挑战。其中,由自动驾驶车辆(autonomous vehicles)与人类驾驶员(human drivers)共同构成的混合交通环境(hybrid traffic environment)给决策与规划算法(decision-making and planning algorithms)的开发和完善带来显著障碍。人类驾驶员表现出多样且常难以预测的行为,使其意图难以预判;而自动驾驶车辆通常呈现一致且保守的行为。这些不同的决策范式会显著影响整体交通动力学。为应对当前自动驾驶算法缺乏类人社会驾驶能力(human-like social driving capabilities)以及实时准确预测其他车辆意图的挑战,该研究提出一种多阶段社会价值导向框架(multi-stage social value-oriented framework),用于实时评估人类驾驶员的社会驾驶行为(social driving behaviors)。首先,从人类驾驶数据集中提取环境特征。在实时估计阶段,应用逆强化学习(inverse reinforcement learning)推断周围车辆的多阶段社会价值取向(multi-stage social value orientation, SVO)。其次,基于估计的价值取向构建有限状态机(finite-state machine, FSM),从而为换道操作(lane-change maneuvers)的每个阶段实现交互式和情境感知规划。最后,通过多个交通场景中的评估,所提出的决策算法表明其能够在混合交通环境中生成安全、高效且社会合规(socially compliant)的行为。
该研究面向自动驾驶车辆与人类驾驶车辆长期共存的混合交通环境。人类驾驶员能够依托交互经验在安全与效率之间动态权衡,而自动驾驶系统多依赖预定义规则或有限训练数据,常表现出统一且过度保守的行为,可能被人类驾驶员误读并增加碰撞风险。已有优化方法、概率方法、学习方法和博弈论方法在意图估计与交互决策方面取得进展,但仍存在若干问题:优化方法难以处理不确定性和行为复杂性;概率与学习方法计算复杂度高、可解释性不足;博弈论方法虽具实时性与可解释性,但现有社会价值取向(social value orientation, SVO,反映个体在自身与他人收益间分配偏好的量)量化多为静态或固定权重,缺乏实时适应机制,难以应对交互意图的时变特征,可能导致决策与实际交互动态失配。基于此,该研究提出多阶段SVO框架,采用离线训练与在线部署范式,以最大熵逆强化学习(maximum-entropy inverse reinforcement learning)从真实驾驶数据学习人类驾驶行为,并对换道交互过程分阶段量化周围车辆SVO,进而构建高层FSM决策与低层规划相结合的分层架构。该研究在多种交通场景中验证了算法生成安全、高效且社会合规行为的能力,其意义在于提升自动驾驶交互决策的类人社会性与可解释性,并为混合交通中的实时意图估计与阶段化决策规划提供框架。
关键技术方法方面,研究人员采用highD数据集(highD dataset,德国高速公路自然驾驶轨迹数据集)进行离线学习,该数据集包含16.5 h记录、六个高速路段、约110 000辆车、45 000 km轨迹和5600次完整换道;提取目标车周围50 m内轨迹,并以五次多项式生成目标车规划轨迹,周围车辆未受影响时沿原轨迹、受影响时用智能驾驶员模型(intelligent driver model, IDM)响应。在线阶段以最大熵逆强化学习重建奖励函数,采用K近邻(K-nearest-neighbor, KNN)检索K=5个近邻专家样本,N=200条候选轨迹近似配分函数,并通过时间加权和波动抑制获得多阶段SVO;高层采用FSM划分四个阶段,低层以Stackelberg博弈(Stackelberg game,主从序贯博弈)和Karush–Kuhn–Tucker条件(KKT conditions,约束优化最优性条件)进行纵向速度规划,在Frenet坐标下用四次/五次多项式进行横向轨迹规划;仿真在CARLA(CARLA simulator,开源城市自动驾驶仿真平台)0.9.15中进行,状态更新频率10 Hz,硬件为Intel Core i7-14700 CPU与32 GB RAM,场景A–D各运行30次随机初值仿真。
研究结果部分保留原文小标题并概括如下。5.1 场景A的仿真结果与分析:场景A中周围车辆保持预设恒速,自车尝试换道后,后车经反应时间后以自利加速阻碍换道。通过30次仿真比较SVO决策与无SVO规则方法,SVO方法平均速度为24.0 m/s,高于无SVO方法的23.6 m/s;最小时间碰撞(time to collision, TTC)均值为3.13 s,高于无SVO方法的2.04 s;最小间距均值6.11 m略低于6.43 m,但中位数7.13 m高于7.02 m;SVO平均换道时间为8.4 s。结果表明SVO策略在面对激进车辆时保持较高效率和安全时间余量,并依据交互车辆激进程度动态调整行为。5.2 场景B的仿真结果与分析:场景B中后车经反应后采取利他减速让行。仿真显示SVO平均换道时间5.8 s,低于无SVO方法的7.4 s;平均速度23.8 m/s与无SVO的23.5 m/s相近;最小TTC均值2.11 s与无SVO的2.14 s几乎相同;最小间距均值6.96 m与无SVO的6.97 m几乎无差异。结果表明SVO能快速稳定识别并利用让行机会,在不降低安全水平的情况下提高换道效率。5.3 场景C的仿真结果与分析:场景C中后车先短暂减速再突然加速,实施“假让行”危险行为。SVO方法平均速度25.7 m/s,最小TTC均值2.15 s,换道时间均值6.1 s,最小间距均值6.85 m。结果表明SVO未因对方虚假动作而快速贸然切入,而是通过较长观察确认意图,维持更大且更稳定的安全缓冲,避免误判风险。5.4 场景D的仿真结果与分析:场景D中后车先适度加速再减速,模拟分心驾驶。SVO平均速度23.8 m/s,高于无SVO的22.1 m/s;换道时间均值5.6 s,短于无SVO的6.5 s;最小TTC均值2.32 s,高于无SVO的2.12 s;最小间距均值6.77 m,高于无SVO的6.26 m。结果表明在交互行为不可预测时,SVO能更高效规划轨迹、缩短风险暴露时间并保持较安全跟车距离。5.5 社会驾驶能力分析:通过四个场景中SVO随时间的量化演化及行为转变延迟分析,场景A中SVO均值由0.61逐渐降至0.50–0.53并趋向0.40–0.30,可识别自利激进行为;场景B中SVO均值由0.24升至0.44,对利他让行识别更稳定;场景C中SVO先由0.29升至0.49以识别初始让行意图,随后快速加速使量化值降至0.30,及时识别假让行;场景D中SVO由0.52降至0.30后随后车减速让行回升至0.40–0.45,可识别意图转换。延迟分析显示多数量化结果转变发生在交互对象行为变化后0.5 s内,场景B最大延迟不超过1 s,场景C和D第二次转变多在1.1 s内,表明多阶段SVO具有较及时且稳定的行为响应。
讨论与结论部分,该研究总结认为:所提出的基于多阶段SVO的自动驾驶决策算法利用最大熵逆强化学习离线学习人类驾驶行为并实现在线交互推理;FSM作为高层决策器,多阶段SVO被集成到Stackelberg博弈框架用于纵向速度决策,轨迹规划由多项式函数完成;CARLA仿真评估表明自动驾驶车辆能够识别交互对象意图并及时响应,且多阶段SVO量化系统具有可解释性,可有效集成到面向换道任务的分段决策规划模块。研究结论翻译如下:该研究提出一种基于多阶段SVO的自动驾驶决策算法,采用最大熵逆强化学习离线学习人类驾驶行为,从而实现高效的在线交互推理;在决策规划模块中,FSM充任高层决策器,多阶段SVO被集成到Stackelberg博弈框架中用于纵向速度决策,轨迹规划由多项式函数完成;在CARLA仿真器中对该算法的安全性和社会属性进行了仿真与评估;结果表明自动驾驶车辆能够在交互过程中识别交互对象的意图并及时作出相应响应,同时证实所提出的多阶段SVO量化系统具有可解释性,并能够有效集成到面向所提出换道任务的分段决策规划模块中;未来工作将聚焦于将所开发算法部署于真实车辆,并将多阶段SVO与多样交通场景中的社会感知决策模块相结合,包括在无信号交叉口以及异质道路使用者之间量化社会偏好,从而提升系统的泛化性和适用性。