研究团队提出两步策略，修正机器学习感知在自动驾驶中的安全缺陷

一句话结论

基于预计算感知合约反像的运行时修正策略，将Yolo与LaneNet感知系统的安全违规率显著降低，但仍有27%场景无法恢复。

关键要点

• 该策略采用两步法：离线计算感知合约反像以表征机器学习状态估计的不确定性，运行时使用风险启发式算法从不确定估计中选择特定状态驱动控制决策。
• 在45个导致安全违规的自适应巡航控制（ACC）场景中，运行时感知修正策略在73%（约33个）的场景中成功保持了安全性。
• 在未能恢复的27%场景中，原因是感知合约反像的构造不完全符合要求，导致方法无法生成有效的修正状态。
• 修正策略并未过度保守，在修正成功的场景中，平均完成时间仅增加2.8%，且干预程度轻微。
• 评估基于视觉自适应巡航控制模块（ACC），在不同天气条件和道路场景下进行了广泛的仿真测试，底层感知模型主要使用Yolo和LaneNet。

背景与事实

随着学习启用的感知系统在自主系统中变得至关重要，机器学习（ML）感知与传统传感器存在显著差异。传统传感器的故障边界通常定义清晰，而ML感知的有效边界特性差，难以精确刻画。这种不确定性可能导致下游控制动作不安全或过度保守。针对这一问题，研究人员提出了一种针对基于ML状态估计的两步修正策略。该策略的第一阶段是离线计算，利用感知合约（perception contracts）的反像（preimages）来表征ML模块状态估计产生的不确定性。第二阶段发生在运行时，通过风险启发式（risk heuristic）方法，从这些不确定的估计中选择特定的状态，以指导控制决策。

为了验证该策略的有效性，研究团队进行了广泛的基于仿真的评估。测试对象为不同的基于视觉的自适应巡航控制器（ACC）模块，涵盖了多种天气条件和道路场景。在具体的测试案例中，研究团队识别出45个场景，在这些场景中，原本基于感知（使用Yolo和LaneNet模型）的控制系统导致了安全违规。应用所提出的运行时感知修正策略后，在73%的场景中，系统成功维持了安全性。然而，在其余27%的场景中，方法未能恢复安全性，根本原因在于这些场景中感知合约反像的构造并不完全符合要求，导致离线阶段无法生成有效的不确定性表征。

除了安全性指标，研究还关注了策略的保守性问题。通常修正类算法为了确保安全，可能会以牺牲效率为代价，导致系统反应迟缓。但数据表明，该策略并非过度保守。在成功修正的场景中，平均完成时间仅增加了2.8%，且修正过程表现为轻微的干预。这意味着该策略在提升安全性的同时，对系统动态性能的影响较小，具有较高的工程落地潜力。该研究发表于2026年8月16日，归档于计算机科学（Computer Science）下的机器学习（Machine Learning）子领域。

影响分析

这一研究成果对从事自动驾驶、机器人控制及AI安全研发的从业者具有直接的指导意义。首先，它提供了一种处理ML感知不确定性的具体方法论，即通过“感知合约”这一形式化工具将模糊的AI输出转化为可控的状态空间问题。对于中文开发者而言，这意味着在构建高安全等级的L4级自动驾驶系统时，可以引入类似的离线预计算模块，专门用于标定感知模块在特定工况下的误差边界，而非仅仅依赖端到端的神经网络输出。

其次，该研究证实了风险启发式算法在运行时控制中的有效性。在实际工程中，完全避免感知错误是不现实的，但通过运行时修正可以拦截大部分即将发生的安全违规。2.8%的效率损耗对于大多数交通场景来说是可接受的，这表明安全与效率之间的权衡（Trade-off）存在较大的优化空间。然而，开发者需要注意，该结论主要基于仿真环境和特定的ACC模块，其在复杂真实世界场景中的泛化能力仍需通过实车测试进一步验证。此外，对于无法通过反像构造修正的27%失败案例，提示团队在系统设计初期必须确保感知合约的数学构造严谨性，否则这一层安全网将失效。

适用边界

本结论主要适用于具备明确感知合约定义、且感知模块不确定性可离线表征的自适应巡航控制（ACC）或特定车道保持场景。若感知模块的输出高度非线性或环境动态变化超出离线预计算的覆盖范围，该修正策略可能失效。例如，在极端天气（如暴雪、暴雨）或发生罕见事故（如多车连环追尾、道路施工复杂变道）的场景中，由于感知合约反像的构造可能不符合要求，该方法预计无法恢复安全性。此外，该策略依赖于视觉感知模块（如Yolo, LaneNet）的误差特性，若系统主要依赖激光雷达（LiDAR）且其误差模型完全不同，本研究的特定修正参数和方法论需重新校准，不能直接套用。对于非视觉或非结构化环境的感知修正，本文结论不适用。

孤本观察

本研究发现，感知修正的成功与否高度依赖于离线阶段“感知合约反像”的构造质量，这揭示了形式化验证与深度学习工程实践结合的一个关键瓶颈：数学定义的严谨性直接决定了运行时安全屏障的有效覆盖率。

来源：arXiv cs.LG