导语：目前，Mitra的团队已成功地证明了汽车车道跟踪能力和自动驾驶飞机着陆系统的安全性。
无人驾驶汽车和无人驾驶飞机不再是未来概念。截至2023年8月，旧金山两家出租车公司的自动驾驶出租车行驶里程就达到了800万英里，在美国注册的自动驾驶飞行器（无人机）超过了85万架。但公众对无人驾驶的安全性却表示担忧，截至2022年，美国国家公路交通安全管理局（NHTSA）就报告了近400起涉及使用自动控制技术的车祸。
解决这个问题的通常方法（有时名为“耗尽测试”）是指不断测试这些系统，直到它们很安全为止，但是我们永远无法确信这个过程一定会发现所有潜在的缺陷。
目前，Mitra的团队已成功地证明了汽车车道跟踪能力和自动驾驶飞机着陆系统的安全性。他们的策略现在被用于帮助无人机降落在航空母舰上，波音公司计划今年在一架试验飞机上进行测试。
大体上来讲，许多自动驾驶汽车有两个组成部分：感知系统和控制系统。比如说，感知系统可以告诉你，你的车离车道中央有多远，或者飞机朝哪个方向飞去、它相对地平线的角度是多少。该系统可以将来自摄像头及其他感测工具的原始数据，提供给基于神经网络的机器学习算法，算法重新构建车辆外面的环境。
然后，这些评估结果被发送到一个单独的系统：控制模块——它决定执行什么操作。比如说，如果即将碰到障碍物，它会决定是踩刹车还是绕过障碍物。据麻省理工学院的副教授Luca Carlone表示，虽然控制模块依赖成熟的技术，但“它根据感知结果做出决策，无法保证这些结果是正确的。”
为了提供安全保证，Mitra的团队致力于确保车辆感知系统的可靠性。他们先假设，若可以完美地渲染外界环境，就可以保证安全。然后，他们确定了感知系统在重新构建车辆周围环境时带来的误差。
这种策略的关键是量化所涉及的不确定因素，名为误差范围，或者“已知的未知因素”。这番计算来自感知契约（perception contract）。
在软件工程领域，契约是一种承诺，针对计算机程序的给定输入，输出会在指定的范围内。而弄清楚这个范围并非易事。汽车传感器的精度如何？无人机可以承受多大的雾、雨或太阳眩光？但是如果能将车辆保持在指定的不确定范围内，并且这个范围足够准确，就可以确保其安全性。
图1. 计算机科学家Sayan Mitra已开发了一种保证某些自动驾驶系统安全性的系统方法
感知契约为依赖机器学习的不完美系统的安全性提供了一种保证。Carlone表示，该团队最大的贡献在于引入了感知契约这个概念，并提供了构建感知契约的方法。为此，研究团队利用计算机科学分支技术做到这一点，形式验证提供了一种数学方法来确认系统的行为满足一系列要求。
Mitra表示，尽管他们不知道神经网络到底是如何执行其操作的，但研究表明仍有可能从数值上，证明神经网络输出的不确定性在一定范围内。而且，如果真是这样，那么系统将是安全的。他们可以提供一个统计保证，表明某个特定的神经网络是否（以及在多大程度上）在这些范围内。
航空航天公司目前正在测试将无人机降落在航空母舰上时的安全性概率。由于飞行涉及另外的维度，这个问题在某些方面比驾驶汽车来得更复杂。波音公司人工智能首席技术专家Dragos Margineantu表示，无人机在降落时，有两个主要任务：将飞机与跑道对准，并确保跑道上没有障碍物。波音与Sayan的合作就是为这两项任务提供安全保证。Margineantu特别指出，使用Sayan算法的模拟表明，飞机在降落前在对准上确实有所改善。
文章翻译自：https://www.quantamagazine.org/how-to-guarantee-the-safety-of-autonomous-vehicles-20240116/如若转载，请注明原文地址
