10 月 23 - 25 日,QCon 上海站即将召开,现在大会已开始正式报名,可以享受 8 折优惠 了解详情
写点什么

Uber 无人车曝出致命漏洞:系统根本无法识别行人过马路

  • 2019-11-07
  • 本文字数:2318 字

    阅读完需:约 8 分钟

Uber无人车曝出致命漏洞:系统根本无法识别行人过马路

2018 年,Uber 自动驾驶汽车发生了全球首例致死车祸,一名女子在过马路的途中被撞身亡。此事随即引发了全球对无人车的关注,尤其是安全问题,Uber 也因此不得不停滞其全球无人车测试工作。

一年多以后,随着更多细节的公开,Uber 无人车致死案的起因也变得更加复杂。


先来简单回顾一下案情。


2018 年 3 月 18 日晚上 10 点,美国亚利桑那州 坦佩市一名女子被 Uber 自动驾驶汽车撞伤,之后不幸身亡。


当地警察部门报告称,事发时,尽管有一名司机(安全员)坐在方向盘后面,但是,这辆车当时正处于自动驾驶模式,行驶车速为每小时 38 英里,而该地区限速为每小时 35 英里,而且没有尝试刹车。该车当时正朝北行驶,一名女子正在从距人行横道 100 码(约 91 米)的地方从西往东走。


亚利桑那州坦佩警察局局长 Sylvia Moir 表示:初步调查显示,在致一名行人死亡的交通事故中,Uber 可能不存在过错。他表示,Uber 自动驾驶汽车配备的摄像头拍摄的视频显示这次交通 事故过错在受害者本人——今年 49 岁的 Elaine Herzberg,而非 Uber。“根据受害人横穿马路的方式,无论是有人还是自动驾驶模式,要避免这起交通事故是极其困难的。”


然而,根据美国国家安全运输委员会(NTSB)周二发布的官方档案,事情似乎并非如当时的调查所发现的那样。

Uber 无人车曝出“大漏洞”:无法正确识别过马路的行人

美国国家安全运输委员会周二发布了有关对 Uber 无人车事故进行了 20 个月调查的文件。小组将在两周内发布有关该事件的最终报告。


这份长达 40 页的文件深入探讨了案件的各种细节。


文件表明:最明显的错误与软件有关。Uber 根本没有训练无人车在人行横道之外识别行人


此外,Uber 选择关闭测试车辆内置的紧急制动系统,而测试车辆制造商沃尔沃后来得出结论:制动系统原本能大幅降低无人车撞上受害者的速度。


注:对此有专家表示,从技术上来说,在 Uber 的软件工作时关闭沃尔沃内置系统的决定是有意义的,因为对于汽车来说,拥有两个软件“主人”是不安全的。


这很大程度上解释了为什么尽管汽车检测到受害者,且有足够的时间来停车,却还是以每小时 38 英里的速度撞了上去。


另外调查显示:当汽车在撞击前 5.6 秒首次检测到受害者的存在时,竟然将其识别为车辆,随后又归类为“其他”,最后,无人车将她识别成了“自行车”。



NTSB 的报告显示:车辆每次尝试进行新的物体识别时,都会重新开始预测该物体的前进方向。所以直到撞击发生 1.2 秒钟后,系统才意识到车辆即将撞到行人,并且需要紧急刹车。这触发了 Uber 的紧急控制机制:系统在确认“已检测到危险”的同时会制动一秒钟,在此期间,安全操作员(Uber 最重要的也是最后一道防线)可以控制汽车并进行刹车。


但遗憾的是,事故发生时安全员并没有在看路。因此,在撞击发生前 0.2 秒,汽车发出了声音警报,安全员才抓住方向盘,接管了自动驾驶系统。可是为时已晚,致命的撞击还是发生了。


Uber 发言人在一份声明中表示:“对 2018 年事故感到遗憾”,并强调公司已对其安全计划进行了更改。根据 Uber 作为调查一部分提交给 NTSB 的文件,20 个月以来。Uber 已经改变了其安全驾驶员培训,现在每辆车安排两名安全操作员。该公司还改变了其安全团队的结构,并创建了一个系统,工作人员可以匿名报告安全问题。


NTSB 将于 11 月 19 日在华盛顿特区举行一次有关此事件的会议,届时调查人员将发布有关事故的全面报告,详细说明发生了什么以及哪一方需要承担什么责任。研究人员还将向联邦监管机构和 Uber 等公司提供建议,以便更好的构建防止此类事故的技术。

多家企业自动驾驶系统存在高危漏洞

近日伊利诺伊大学工程学院的一份报告也揭露了一些无人车系统存在的安全隐患,涉及百度、英伟达等多家企业的自动驾驶系统。


该小组分析了 2014 年至 2017 年提交的所有安全报告,其中涵盖 144 辆无人驾驶汽车,累计行驶里程达 111.6605 万英里。他们发现在行驶里程相同的情况下,人类驾驶汽车发生事故的机率只相当于无人驾驶汽车的四千分之一。这意味着无人驾驶技术无法以理想的速度处理紧急状况,人类驾驶员往往需要快速接手才能阻止事故的发生。


而在提高安全水平的努力中,研究人员与相关企业发现,他们很难在无人驾驶系统遭遇特定问题之前,通过预先训练的方式让软件学会如何解决这些问题。


此外,软件与硬件堆栈中的某些错误只会在特定驾驶场景下引发安全问题。换句话说,单纯在高速公路或者空旷 / 拥护的街区进行无人驾驶测试可能还不够,因为这些软件 / 硬件故障仍有可能在其他条件下引发问题。


在对一种已经公开的视音频技术(来自百度 Apollo 项目)进行测试时,该团队发现了超过 500 种实例,证明该软件在这些情况下可能无法解决问题进而导致事故发生

全自动驾驶何时能实现?

英伟达公司架构研究副总裁 Steve Keckler 曾表示:“无人驾驶汽车的安全性,决定着其能否在市场乃至整个社会当中取得成功。”


正是因为这些短时间内难以逾越的安全漏洞,才让全自动驾驶的实现时间一拖再拖。就连苹果公司联合创始人Steve Wozniak都发出感叹:不得不暂时放弃 L5 级自动驾驶。


但是仍然有一些消息令行业振奋。不少科技公司都加入到“造车大军”中来,国内外不少测试地区已经开始上线 Robotaxi 自动驾驶出租车服务;老牌汽车制造商也纷纷投入精力去做自动驾驶,大众汽车就在前不久宣布成立自动驾驶子公司,目前尚不知道这样的转变能给自动驾驶行业带来什么新动力,但是各方积极的态度还是能让人看到一些好的发展势头。


不过,热情当头也请不要忘了一年前的这一场教训。无人车不是玩具小车,乘客也好、行人也好,都是鲜活的生命,容不得半点马虎,只有解决了安全问题,才能让更多人相信无人车、选择无人车,在路况尤为复杂的中国,自动驾驶行业的“老司机”们还是要多下一些功夫才是。


2019-11-07 16:182205
用户头像
陈思 InfoQ编辑

发布了 576 篇内容, 共 298.3 次阅读, 收获喜欢 1306 次。

关注

评论

发布
暂无评论
发现更多内容

我的Java转Go之路

roseduan

Java 转行 Go web Go 语言

数据采集之Flume采集及点击流模型详解

五分钟学大数据

大数据 28天写作 3月日更 flume 点击流模型

简述软件不可用性及解决办法

跳蚤

安全架构学习总结

跳蚤

英文IT数码类播客学习笔记

SilentMacUser

红帽 互联网 播客 计算机历史

「架构师训练营 4 期」 第十一周 - 001&2

凯迪

架构师训练营 4 期

第十一周作业

Geek_mewu4t

大作业(二)

Binary

区块链+版权:NFT出圈,善用技术能否“破心中贼”?

CECBC

数字技术

雄岸科技区块链布局价值待考

CECBC

区块链 科技

Elasticsearch 写入流程 Making Changes Persistent

escray

elastic 28天写作 死磕Elasticsearch 60天通过Elastic认证考试 3月日更

架构师是什么?

ES_her0

28天写作 3月日更

又一款Nginx 管理可视化神器!通过界面完成配置监控,一条龙!

Java小咖秀

nginx 运维 后端

MySQL调优

Sakura

28天写作 3月日更

我的学习笔记

SilentMacUser

Python JavaScript 学习 大前端 开发

员工遇到问题 - 是给答案还是给引导?

石云升

项目管理 28天写作 职场经验 管理经验 3月日更

人社部拟发10几个新职业,区块链行业占两个

CECBC

区块链人才

基于 SparkMLlib 智能课堂教学评价系统-系统设计(三)

大数据技术指南

大数据 spark 智能时代 28天写作 3月日更

【笔记】第七周 第 2 课

Geek_娴子

张开怀抱迎接Golang

Kylin

读书笔记 语法 3月日更 Java转go Go 语言

「架构师训练营 4 期」 第十周 - 001&2

凯迪

架构师训练营 4 期

Flink SQL 如何实现列转行?

JasonLee实时计算

flink

大作业(一)

Binary

多应用集中落地,四川区块链产业爆发增长

CECBC

区块链

区块链+金融落地应用详解

CECBC

金融

Vue3源码 | 深入理解响应式系统下篇-effect

梁龙先森

源码分析 大前端 Vue3

场景化面试:Kafka 为何有如此高的吞吐量和性能

面试官问

kafka 零拷贝 PageCache

ARTS - week 2

steve_lee

【得物技术】前端微服务

得物技术

微服务 大前端 得物技术

React 中 useContext 和 useMemo 一般性使用

sadhu

React useContext useMemo React Hooks

还原五百丁APP需求文档

林亚超

Uber无人车曝出致命漏洞:系统根本无法识别行人过马路_AI&大模型_陈思_InfoQ精选文章