交通仿真机器学习信号优化

单交叉口信号强化学习控制

2025年3月

研究背景

定时控制无法适应需求波动,而传统自适应控制(如 SCATS)依赖大量阈值调参。强化学习通过与仿真环境交互自动学习策略,但奖励设计与训练稳定性是难点。

研究目标

探索强化学习在单交叉口信号控制中的可行性,验证其对需求波动的自适应能力。

实现方法

状态取各进口排队长度与当前相位已持续时间;动作为 4 相位选择;奖励为负的加权延误与切换惩罚。用 DQN 在 SUMO+TraCI 中训练 2000 episode,经验回放 + 目标网络稳定训练。

输入数据
需求路网
方法
建模求解
输出
指标图表
SUMOTraCIPyTorchPython

结果与分析

训练回合
2000ep
平均延误
18.7s/veh
相较定时
-12.4%
吞吐量
2840veh/h

训练奖励曲线

各进口排队分布

相位-时段占用

交互演示

反思与展望

RL 在仿真里表现出色,但 sim-to-real 的鸿沟很大。我下一步想用域随机化与真实 FCD 校准需求分布,缩小迁移差距。