AI实践哪家强?来 AICon, 解锁技术前沿,探寻产业新机! 了解详情
写点什么

自动驾驶系统爆出高危漏洞,百度 Apollo、英伟达均已中枪

  • 2019-11-01
  • 本文字数:2009 字

    阅读完需:约 7 分钟

自动驾驶系统爆出高危漏洞,百度Apollo、英伟达均已中枪

在无人驾驶汽车的研发竞赛当中,安全性已经成为各家厂商证明自身实力的重要因素。近日,伊利诺伊大学香槟分校的研究人员正在利用人工智能(AI)与机器学习技术,通过软件与硬件的全方位改进提高无人驾驶技术的安全水平。

对百度 Apollo 和英伟达 DriveAV 等自动驾驶系统进行测试后,研究人员在 4 小时内发现了约 561 个关键安全故障,并表示:部分故障可能令系统在某些情况下,因为无法解决问题而导致驾驶事故


其中一位研发人员 Ravi Iyer 表示:“汽车本身的电气与机械组件极为复杂,再加上天气、路况、地形、交通模式以及照明条件等外部因素的影响,使得利用 AI 技术改进无人驾驶汽车变得非常困难。”


“虽然确有一定进展,但安全仍是困扰无人驾驶汽车的一大核心难题。”他补充道。


该小组开发出一套平台,能够帮助企业在复杂且不断变化的自主技术环境中更快、更经济地解决安全问题。为了进一步推动开发速度,他们也与三星、英伟达以及硅谷湾区的多家初创企业建立起合作伙伴关系。


这项研究工作之所以如此困难,一大原因在于无人驾驶汽车利用 AI 与机器学习技术将机械、电气与计算技术结合起来,从而构建起能够制定出实时驾驶决策的复杂系统。典型的无人驾机汽车实际上更像是一部带轮子的微型超级计算机,其中包含 50 多块处理器与加速器,运行超过 1 亿行代码,用以支持计算机视觉、规划以及其他机器学习任务。


其中车辆的传感器与自动驾驶堆栈(计算软件与硬件)格外受到关注。当汽车以每小时 70 英里的速度在高速公路上行驶时,任何故障都有可能给乘坐者带来重大安全风险。


Jha 解释道:“如果人类汽车驾驶员感受到车辆出现滑胎或者推头等问题,可以迅速调整操作方式以将车辆重新引导回安全的行驶状态。但是,如果没有针对这些情况进行明确的训练,无人驾驶汽车往往很难做出可预测的应对操作。遗憾的是,现实世界中存在着无数类似的意外情况。”


从传统角度来看,当人类在计算机或者智能手机上遇到软件故障时,最常见的处理方法就是关闭设备然后重新启动。但是,这类修复方法明显不适用于无人驾驶汽车,这是因为每一毫秒中出现的新状况都会直接影响结果,而响应过慢甚至有可能危害生命财产安全。过去几年中已经出现多起由无人驾驶汽车导致的事故,这也让整个社会开始高度关注 AI 系统的安全表现。


CSL 与计算机科学硕士研究生 Subho Banerjee 指出:“现行法规要求 Uber 及 Waymo 这样的企业在公共道路上对无人驾驶汽车进行测试,并每年向加利福尼亚州车管所上报车辆安全性情况。我们当然希望了解关于常见安全问题、汽车性能表现以及符合设计水平的理想安全指标的更多具体细节。”


该小组分析了 2014 年至 2017 年提交的所有安全报告,其中涵盖 144 辆无人驾驶汽车,累计行驶里程达 111.6605 万英里。他们发现在行驶里程相同的情况下,人类驾驶汽车发生事故的机率只相当于无人驾驶汽车的四千分之一。这意味着无人驾驶技术无法以理想的速度处理紧急状况,人类驾驶员往往需要快速接手才能阻止事故的发生。


而在提高安全水平的努力中,研究人员与相关企业发现,他们很难在无人驾驶系统遭遇特定问题之前,通过预先训练的方式让软件学会如何解决这些问题。


此外,软件与硬件堆栈中的某些错误只会在特定驾驶场景下引发安全问题。换句话说,单纯在高速公路或者空旷/拥护的街区进行无人驾驶测试可能还不够,因为这些软件/硬件故障仍有可能在其他条件下引发问题。


而且即使发生了错误,汽车可能也已经行驶了数十万英里。这么长的里程积累代表着研究人员投入的大量时间、金钱与精力,也使得整个评估过程效率极低。因此,该团队正尝试利用计算机仿真与人工智能来加快这一过程。


Jha 指出:“我们通过计算机仿真向无人驾驶汽车的软件及硬件堆栈当中注入错误,然后收集无人驾驶系统对于这些问题的响应数据。与人类不同,目前的人工智能技术还无法准确推理出不同驾驶场景下可能发生的错误。因此,我们需要大量数据来指导软件在遭遇软件或硬件问题时采取正确的应对措施。”


该研究小组目前正着手构建相关技术与工具,旨在最大程度模拟可能影响安全性的驾驶条件与问题。利用这套技术平台,他们得以发现大量紧急安全状况,以及可能由此导致的安全事故。这就避免了在真实道路上那种“撞大运”式的漫长测试,从而节约下可观的时间与金钱资源。


在对一种已经公开的视音频技术(来自百度Apollo项目)进行测试时,该团队发现了超过 500 种实例,证明该软件在这些情况下可能无法解决问题并导致事故。此类结果使得该小组的工作成果在行业内备受瞩目。他们目前正在为自己的测试技术申请专利,并计划尽快部署落地。如果一切顺利,研究人员们希望能有更多企业采用这项新技术模拟问题发现,进而提前解决这些潜在问题。


英伟达公司架构研究副总裁 Steve Keckler 表示:“无人驾驶汽车的安全性,决定着其能否在市场乃至整个社会当中取得成功。我们希望伊利诺伊州研究团队开发出的这项技术,能够帮助工程师们以较低的成本轻松开发出更安全的无人驾驶系统。”


2019-11-01 16:453553
用户头像
陈思 InfoQ编辑

发布了 576 篇内容, 共 294.7 次阅读, 收获喜欢 1305 次。

关注

评论

发布
暂无评论
发现更多内容

【LeetCode】最长公共前缀Java题解

Albert

LeetCode 10月月更

笔记本电脑内卷之争:华硕4+4无忧保脱颖而出

极客天地

干货 | 接口自动化测试分层设计与实践总结

霍格沃兹测试开发学社

VUE 初学者基础知识

默默的成长

Vue 前端 10月月更

三方库移植之NAPI开发[1]—Hello OpenHarmony NAPI

离北况归

OpenHarmony

技术分享 | app自动化测试(Android)-- 属性获取与断言

霍格沃兹测试开发学社

还在为如何编写Web自动化测试用例而烦恼嘛?资深测试工程师手把手教你Selenium 测试用例编写

霍格沃兹测试开发学社

干货 | 测试专家(前阿里P8)聊测试职业发展常见瓶颈

霍格沃兹测试开发学社

搜索中常见数据结构与算法探究(二)

京东科技开发者

数据结构 算法 时间复杂度 KMP 算法与数据结构

Wave-2 802.11ac SoC for Routers, Gateways and Access Points//IPQ4019,IPQ4029,Wallys

wallys-wifi6

IPQ4019 ipq4029

Java基础(三)| switch、循环及Random详解

timerring

Java random Switch 循环 10月月更

测试人生 | 疫情之下工资翻了2倍多,这4个月学习比工作8年学到的还多

霍格沃兹测试开发学社

如何在 SAP BTP Java 应用里使用 SQLite 数据库

汪子熙

云原生 云平台 SAP 10月月更 btp

EasyCV DataHub 提供多领域视觉数据集下载,助力模型生产

阿里云大数据AI技术

深度学习 开源 模型 计算机上视觉

Vue基础-插值表达式-数据驱动视图-指令系统

默默的成长

前端 Vue 3 10月月更

使用 Zpan 搭建低成本个人私有网盘,还不限速

华为云开发者联盟

云计算 华为云 网盘 企业号十月 PK 榜

StampedLock:一个并发编程中非常重要的票据锁

华为云开发者联盟

高并发 开发 华为云 企业号十月PK榜

十大 CI/CD 安全风险(三)

SEAL安全

DevOps CI/CD DevSecOps 软件供应链安全

Qt | 便捷类中使用拖放功能 Drag

YOLO.

qt 10月月更 C++

记录第二天-Vue起步

默默的成长

前端 Vue 3 10月月更

一个值得深思的话题:Wi-Fi 7的诞生会不会取代 5G 网络?

wljslmz

5G 无线技术 10月月更 WiFi7

十问分布式数据库:技术趋势、选型及标准思考

OceanBase 数据库

2022Q3消费级AR眼镜市场季度分析:国产品牌纷纷发力,市场全面启航

易观分析

科技 AR眼镜 季度报告

技术分享 | app自动化测试(Android)-- 特殊控件 Toast 识别

霍格沃兹测试开发学社

Java中流程控制语句

共饮一杯无

Java 流程控制 10月月更

6步搭建一个飞机大战游戏

华为云开发者联盟

云计算 软件开发 华为云 企业号十月PK榜

技术分享 | app自动化测试(Android)--显式等待机制

霍格沃兹测试开发学社

技术分享 | app自动化测试(Android)-- 参数化用例

霍格沃兹测试开发学社

技术分享 | app自动化测试(Android)-- Capability 使用进阶

霍格沃兹测试开发学社

启科量子开源量子编程框架 QuTrunk

启科量子开发者官方号

人工智能 开发工具 量子计算 量子技术 启科量子

猜数字游戏

掘金安东尼

算法 10月月更

自动驾驶系统爆出高危漏洞,百度Apollo、英伟达均已中枪_AI&大模型_伊利诺伊大学工程学院_InfoQ精选文章