自动驾驶系统爆出高危漏洞,百度 Apollo、英伟达均已中枪

阅读数:1270 2019 年 11 月 1 日 16:45

自动驾驶系统爆出高危漏洞,百度Apollo、英伟达均已中枪

在无人驾驶汽车的研发竞赛当中,安全性已经成为各家厂商证明自身实力的重要因素。近日,伊利诺伊大学香槟分校的研究人员正在利用人工智能(AI)与机器学习技术,通过软件与硬件的全方位改进提高无人驾驶技术的安全水平。

对百度 Apollo 和英伟达 DriveAV 等自动驾驶系统进行测试后,研究人员在 4 小时内发现了约 561 个关键安全故障,并表示:部分故障可能令系统在某些情况下,因为无法解决问题而导致驾驶事故

其中一位研发人员 Ravi Iyer 表示:“汽车本身的电气与机械组件极为复杂,再加上天气、路况、地形、交通模式以及照明条件等外部因素的影响,使得利用 AI 技术改进无人驾驶汽车变得非常困难。”

“虽然确有一定进展,但安全仍是困扰无人驾驶汽车的一大核心难题。”他补充道。

该小组开发出一套平台,能够帮助企业在复杂且不断变化的自主技术环境中更快、更经济地解决安全问题。为了进一步推动开发速度,他们也与三星、英伟达以及硅谷湾区的多家初创企业建立起合作伙伴关系。

这项研究工作之所以如此困难,一大原因在于无人驾驶汽车利用 AI 与机器学习技术将机械、电气与计算技术结合起来,从而构建起能够制定出实时驾驶决策的复杂系统。典型的无人驾机汽车实际上更像是一部带轮子的微型超级计算机,其中包含 50 多块处理器与加速器,运行超过 1 亿行代码,用以支持计算机视觉、规划以及其他机器学习任务。

其中车辆的传感器与自动驾驶堆栈(计算软件与硬件)格外受到关注。当汽车以每小时 70 英里的速度在高速公路上行驶时,任何故障都有可能给乘坐者带来重大安全风险。

Jha 解释道:“如果人类汽车驾驶员感受到车辆出现滑胎或者推头等问题,可以迅速调整操作方式以将车辆重新引导回安全的行驶状态。但是,如果没有针对这些情况进行明确的训练,无人驾驶汽车往往很难做出可预测的应对操作。遗憾的是,现实世界中存在着无数类似的意外情况。”

从传统角度来看,当人类在计算机或者智能手机上遇到软件故障时,最常见的处理方法就是关闭设备然后重新启动。但是,这类修复方法明显不适用于无人驾驶汽车,这是因为每一毫秒中出现的新状况都会直接影响结果,而响应过慢甚至有可能危害生命财产安全。过去几年中已经出现多起由无人驾驶汽车导致的事故,这也让整个社会开始高度关注 AI 系统的安全表现。

CSL 与计算机科学硕士研究生 Subho Banerjee 指出:“现行法规要求 Uber 及 Waymo 这样的企业在公共道路上对无人驾驶汽车进行测试,并每年向加利福尼亚州车管所上报车辆安全性情况。我们当然希望了解关于常见安全问题、汽车性能表现以及符合设计水平的理想安全指标的更多具体细节。”

该小组分析了 2014 年至 2017 年提交的所有安全报告,其中涵盖 144 辆无人驾驶汽车,累计行驶里程达 111.6605 万英里。他们发现在行驶里程相同的情况下,人类驾驶汽车发生事故的机率只相当于无人驾驶汽车的四千分之一。这意味着无人驾驶技术无法以理想的速度处理紧急状况,人类驾驶员往往需要快速接手才能阻止事故的发生。

而在提高安全水平的努力中,研究人员与相关企业发现,他们很难在无人驾驶系统遭遇特定问题之前,通过预先训练的方式让软件学会如何解决这些问题。

此外,软件与硬件堆栈中的某些错误只会在特定驾驶场景下引发安全问题。换句话说,单纯在高速公路或者空旷 / 拥护的街区进行无人驾驶测试可能还不够,因为这些软件 / 硬件故障仍有可能在其他条件下引发问题。

而且即使发生了错误,汽车可能也已经行驶了数十万英里。这么长的里程积累代表着研究人员投入的大量时间、金钱与精力,也使得整个评估过程效率极低。因此,该团队正尝试利用计算机仿真与人工智能来加快这一过程。

Jha 指出:“我们通过计算机仿真向无人驾驶汽车的软件及硬件堆栈当中注入错误,然后收集无人驾驶系统对于这些问题的响应数据。与人类不同,目前的人工智能技术还无法准确推理出不同驾驶场景下可能发生的错误。因此,我们需要大量数据来指导软件在遭遇软件或硬件问题时采取正确的应对措施。”

该研究小组目前正着手构建相关技术与工具,旨在最大程度模拟可能影响安全性的驾驶条件与问题。利用这套技术平台,他们得以发现大量紧急安全状况,以及可能由此导致的安全事故。这就避免了在真实道路上那种“撞大运”式的漫长测试,从而节约下可观的时间与金钱资源。

在对一种已经公开的视音频技术(来自百度 Apollo 项目)进行测试时,该团队发现了超过 500 种实例,证明该软件在这些情况下可能无法解决问题并导致事故。此类结果使得该小组的工作成果在行业内备受瞩目。他们目前正在为自己的测试技术申请专利,并计划尽快部署落地。如果一切顺利,研究人员们希望能有更多企业采用这项新技术模拟问题发现,进而提前解决这些潜在问题。

英伟达公司架构研究副总裁 Steve Keckler 表示:“无人驾驶汽车的安全性,决定着其能否在市场乃至整个社会当中取得成功。我们希望伊利诺伊州研究团队开发出的这项技术,能够帮助工程师们以较低的成本轻松开发出更安全的无人驾驶系统。”

评论

发布