写点什么

Uber 无人车曝出致命漏洞:系统根本无法识别行人过马路

2019 年 11 月 07 日

Uber无人车曝出致命漏洞:系统根本无法识别行人过马路

2018 年,Uber 自动驾驶汽车发生了全球首例致死车祸,一名女子在过马路的途中被撞身亡。此事随即引发了全球对无人车的关注,尤其是安全问题,Uber 也因此不得不停滞其全球无人车测试工作。

一年多以后,随着更多细节的公开,Uber 无人车致死案的起因也变得更加复杂。


先来简单回顾一下案情。


2018 年 3 月 18 日晚上 10 点,美国亚利桑那州 坦佩市一名女子被 Uber 自动驾驶汽车撞伤,之后不幸身亡。


当地警察部门报告称,事发时,尽管有一名司机(安全员)坐在方向盘后面,但是,这辆车当时正处于自动驾驶模式,行驶车速为每小时 38 英里,而该地区限速为每小时 35 英里,而且没有尝试刹车。该车当时正朝北行驶,一名女子正在从距人行横道 100 码(约 91 米)的地方从西往东走。


亚利桑那州坦佩警察局局长 Sylvia Moir 表示:初步调查显示,在致一名行人死亡的交通事故中,Uber 可能不存在过错。他表示,Uber 自动驾驶汽车配备的摄像头拍摄的视频显示这次交通 事故过错在受害者本人——今年 49 岁的 Elaine Herzberg,而非 Uber。“根据受害人横穿马路的方式,无论是有人还是自动驾驶模式,要避免这起交通事故是极其困难的。”


然而,根据美国国家安全运输委员会(NTSB)周二发布的官方档案,事情似乎并非如当时的调查所发现的那样。


Uber 无人车曝出“大漏洞”:无法正确识别过马路的行人

美国国家安全运输委员会周二发布了有关对 Uber 无人车事故进行了 20 个月调查的文件。小组将在两周内发布有关该事件的最终报告。


这份长达 40 页的文件深入探讨了案件的各种细节。


文件表明:最明显的错误与软件有关。Uber 根本没有训练无人车在人行横道之外识别行人


此外,Uber 选择关闭测试车辆内置的紧急制动系统,而测试车辆制造商沃尔沃后来得出结论:制动系统原本能大幅降低无人车撞上受害者的速度。


注:对此有专家表示,从技术上来说,在 Uber 的软件工作时关闭沃尔沃内置系统的决定是有意义的,因为对于汽车来说,拥有两个软件“主人”是不安全的。


这很大程度上解释了为什么尽管汽车检测到受害者,且有足够的时间来停车,却还是以每小时 38 英里的速度撞了上去。


另外调查显示:当汽车在撞击前 5.6 秒首次检测到受害者的存在时,竟然将其识别为车辆,随后又归类为“其他”,最后,无人车将她识别成了“自行车”。



NTSB 的报告显示:车辆每次尝试进行新的物体识别时,都会重新开始预测该物体的前进方向。所以直到撞击发生 1.2 秒钟后,系统才意识到车辆即将撞到行人,并且需要紧急刹车。这触发了 Uber 的紧急控制机制:系统在确认“已检测到危险”的同时会制动一秒钟,在此期间,安全操作员(Uber 最重要的也是最后一道防线)可以控制汽车并进行刹车。


但遗憾的是,事故发生时安全员并没有在看路。因此,在撞击发生前 0.2 秒,汽车发出了声音警报,安全员才抓住方向盘,接管了自动驾驶系统。可是为时已晚,致命的撞击还是发生了。


Uber 发言人在一份声明中表示:“对 2018 年事故感到遗憾”,并强调公司已对其安全计划进行了更改。根据 Uber 作为调查一部分提交给 NTSB 的文件,20 个月以来。Uber 已经改变了其安全驾驶员培训,现在每辆车安排两名安全操作员。该公司还改变了其安全团队的结构,并创建了一个系统,工作人员可以匿名报告安全问题。


NTSB 将于 11 月 19 日在华盛顿特区举行一次有关此事件的会议,届时调查人员将发布有关事故的全面报告,详细说明发生了什么以及哪一方需要承担什么责任。研究人员还将向联邦监管机构和 Uber 等公司提供建议,以便更好的构建防止此类事故的技术。


多家企业自动驾驶系统存在高危漏洞

近日伊利诺伊大学工程学院的一份报告也揭露了一些无人车系统存在的安全隐患,涉及百度、英伟达等多家企业的自动驾驶系统。


该小组分析了 2014 年至 2017 年提交的所有安全报告,其中涵盖 144 辆无人驾驶汽车,累计行驶里程达 111.6605 万英里。他们发现在行驶里程相同的情况下,人类驾驶汽车发生事故的机率只相当于无人驾驶汽车的四千分之一。这意味着无人驾驶技术无法以理想的速度处理紧急状况,人类驾驶员往往需要快速接手才能阻止事故的发生。


而在提高安全水平的努力中,研究人员与相关企业发现,他们很难在无人驾驶系统遭遇特定问题之前,通过预先训练的方式让软件学会如何解决这些问题。


此外,软件与硬件堆栈中的某些错误只会在特定驾驶场景下引发安全问题。换句话说,单纯在高速公路或者空旷 / 拥护的街区进行无人驾驶测试可能还不够,因为这些软件 / 硬件故障仍有可能在其他条件下引发问题。


在对一种已经公开的视音频技术(来自百度 Apollo 项目)进行测试时,该团队发现了超过 500 种实例,证明该软件在这些情况下可能无法解决问题进而导致事故发生


全自动驾驶何时能实现?

英伟达公司架构研究副总裁 Steve Keckler 曾表示:“无人驾驶汽车的安全性,决定着其能否在市场乃至整个社会当中取得成功。”


正是因为这些短时间内难以逾越的安全漏洞,才让全自动驾驶的实现时间一拖再拖。就连苹果公司联合创始人Steve Wozniak都发出感叹:不得不暂时放弃 L5 级自动驾驶。


但是仍然有一些消息令行业振奋。不少科技公司都加入到“造车大军”中来,国内外不少测试地区已经开始上线 Robotaxi 自动驾驶出租车服务;老牌汽车制造商也纷纷投入精力去做自动驾驶,大众汽车就在前不久宣布成立自动驾驶子公司,目前尚不知道这样的转变能给自动驾驶行业带来什么新动力,但是各方积极的态度还是能让人看到一些好的发展势头。


不过,热情当头也请不要忘了一年前的这一场教训。无人车不是玩具小车,乘客也好、行人也好,都是鲜活的生命,容不得半点马虎,只有解决了安全问题,才能让更多人相信无人车、选择无人车,在路况尤为复杂的中国,自动驾驶行业的“老司机”们还是要多下一些功夫才是。


2019 年 11 月 07 日 16:181241
用户头像
陈思 InfoQ编辑

发布了 576 篇内容, 共 206.7 次阅读, 收获喜欢 1192 次。

关注

评论

发布
暂无评论
发现更多内容

聊聊“坚持”这件事

小天同学

个人成长 写作 坚持 自控力

嵌套文件夹复制实现

Howe

Java 文件复制

Flutter Andorid真机或打包APK杂症记录

北风烈

flutter 打包APK

告别手写,一键生成 Helm Chart README

郭旭东

Kubernetes Helm

从全国首起暗网案件告破说起——暗网,超乎你想象

石君

网络安全 暗网 洋葱网络

Kafka系列第5篇:一文读懂消费者背后的那点"猫腻"

z小赵

大数据 kafak 实时计算

最新Idea 2020.1 二种方法激活教程

公众号:V5codings

intellij-idea

NumPy 运算规则总结

张利东

Python

打造个人商业模式第一步

一尘观世界

副业赚钱 提升认知 思维方式 商业模式 认识自己

我在极客时间学习的三个月

石乐

使用JUnit、AssertJ和Mockito编写单元测试和实践TDD (二)为什么要写单元测试

编程道与术

编程 编程语言 TDD 代码审查 单元测试

freecplus框架,Linux平台下C/C++程序员提高开发效率的利器

C语言技术网-码农有道

2020年程序猿必读10本好书推荐

ABC实验室

学习 2020 程序员 好书推荐

docker安装mysql5.7并挂载目录到本地

桥哥技术之路

Docker

我的工作原则与思考

梁帅

互联网 工作效率 原则

当我们说文本编辑器时,到底在说什么

潘浩腾 Peter H. Pan

写作平台 InfoQ markdown

快来体验 JetBrains Space EAP 版本

刘培培

DevOps JetBrains Space

5G来临,我们该如何打造自己的家庭数据中心基础篇

ABC实验室

5G 数字资产 家庭数据中心

Grafana+Prometheus(InfluxDB)+Jmeter使用Nginx代理搭建可视化性能测试监控平台

软测小生

Grafana Prometheus Influxdb Jmeter 性能测试

高仿瑞幸小程序 03 创建轮播图

曾伟@喵先森

小程序 微信小程序 前端 移动

VSCode最强助攻

页面仔小杨

编程 vscode

面对压力的战略和战术

这小胖猫

管理 精神力 逻辑思维 压力 工作思路

ELK 日志收集简易教程

meng

elasticsearch Logstash Kibana ELK Filebeat

给程序员的错误找个台阶

曲水流觞TechRill

有没有什么上古的程序代码至今依然没被更替?

极客时间

编程 程序员 开发

C语言数据类型

C语言技术网-码农有道

自助设备系列——上下游

孙苏勇

产品 行业资讯 智能设备

C语言程序的基本结构

C语言技术网-码农有道

C/C++

我的编程之路-2(首秀)

顿晓

方法 沟通 新项目

听保洁老大爷讲Java的垃圾回收

侯树成

JVM

分析Kubernetes技术体系的层级,慎用比较前沿的技术

韩超

Uber无人车曝出致命漏洞:系统根本无法识别行人过马路-InfoQ