【QCon】精华内容上线85%,全面覆盖“人工智能+”的典型案例!>>> 了解详情
写点什么

YouTube 算法标记圣母院火灾为 911 事件,AI 又翻车

  • 2019-04-18
  • 本文字数:3088 字

    阅读完需:约 10 分钟

YouTube算法标记圣母院火灾为911事件,AI又翻车

YouTube 算法标记巴黎圣母院失火是 911 阴谋,亚马逊人脸识别标记美国国会议员为罪犯,谷歌 AI 武器项目遭致广泛批评。AI 发展了,后果呢?

巴黎圣母院失火,YouTube 算法浇油

当地时间 4 月 15 日,法国巴黎圣母院发生火灾,整座建筑损毁严重。着火位置位于圣母院顶部塔楼,大火迅速将圣母院塔楼的尖顶吞噬,很快,尖顶如被拦腰折断一般倒下。事故发生后,西方媒体很快在 YouTube 上直播起火的视频。


然而在其中几段视频下面出现了一个奇怪的文本框:一段来自《大英百科全书》的关于 911 恐怖袭击的片段。



YouTube 去年推出了这个文本功能,为的是打击阴谋论的传播,这其中就包括那些质疑 911 恐怖袭击的言论。据了解,出现这个问题的原因是 YouTube 的算法错误地把巴黎圣母院火灾的烟雾标记为 2011 年的镜头,触发了 911 恐袭标记的面板。


YouTube 发言人首先对巴黎圣母院失火表达了悲痛之情,随后称他们的算法有时候会错误的调用,他们在相关视频下关闭了该功能。YouTube 此前一直因极端和误导视频而饱受批评,尤以突发新闻话题的视频为甚。尽管其已成为全球最大的视频网站,但它一直难以使用软件和人工审核来监督每天上传的数百万小时的视频。


去年,YouTube 发布了这一文本功能,文本框内容均是从包括维基百科在内的可信网站上摘取的,为的是用确凿的事实来抵消错误性视频。YouTube 表示,每周会在网站的视频下方显示“数千万”个文本面板。


但在这次全球性的新闻下,YouTube 的算法彻底翻车,遭致了更多外界批评。当为了辟谣而发明的算法出错时,是否是另一种事实上的造谣呢?

三个例子,谈谈人工智能

第一例:亚马逊人工智能识别将 28 名美国会议员判定为罪犯

2018 年 7 月,北加州美国公民自由联盟(American Civil Liberties Union of Northern California)宣布,它对亚马逊面部识别系统 Rekognition 进行测试,但发现该系统不精准。当该联盟用国会议员照片做面部识别测试时,Rekognition 将其中 28 名国会议员识别成曾经被捕的罪犯。联盟从“公开来源”下载 2.5 万张警方拍摄的罪犯脸部照片(mugshot),然后将 535 位国会议员的官方照片交给 Rekognition 处理,问它在 2.5 万张照片中是否有照片与国会议员匹配,Rekognition 给出了“有 28 张匹配”的结果。



Rekognition 是亚马逊最具争议的产品之一。这是一款在亚马逊服务器上运行的图像识别 AI 软件,用户需要为使用该软件处理的每张图片向亚马逊付费。它可以识别图像或视频上的文字、对象、场景、活动和人员。


而在此事件发生前,该产品就遭到包括亚马逊用户、民间组织、股东甚至亚马逊员工在内超过 15 万人的联名抗议。虽然人脸识别只是一种辅助手段,误报不可避免,但这仍旧让普通民众对于其的安全性、隐私性问题产生了巨大的怀疑。甚至有阴谋论称:万一亚马逊这个人脸识别没有出错呢?

第二例:谷歌的 AI 武器争端

谷歌曾与美国国防部合作开发军用无人机项目 Maven,此举遭致谷歌员工、高管、技术专家在内的强烈抵制,认为该项目有可能被五角大楼用来杀人,强烈抗议并呼吁谷歌退出该项目。


该项目在谷歌内部的反抗史将近一年,包括前谷歌云首席科学家李飞飞在内的多位技术专家、高管发声抵制,李飞飞称:“我相信以人为中心的 AI 能以积极和慈善的方式让人类受益,任何 AI 武器项目都违背我的原则。”


除李飞飞外,DeepMind 高管、Jeff Dean 等业界知名大牛同样立场鲜明地投了反对票。最终,经过漫长的拉锯战后,谷歌发布了使用 AI 的七条原则与四条底线,其中包括不会将 AI 技术应用于开发武器,不会违反人权准则将 AI 用于监视和收集信息,避免 AI 造成或加剧社会不公等。


不过,谷歌也表示,将会继续与政府和军方展开 AI 合作,例如网络安全、培训以及征兵等领域。AI 武器的担忧暂时松口气了,但对谷歌与军方 AI 合作的担忧却并没有消散。而更进一步的担忧,在电影里早就体现过了:



美国队长 2 洞察计划

第三例:自动驾驶面临车祸时的两难抉择


如果一辆自动驾驶汽车必须在撞上障碍物、导致三名女性乘客死亡或在街上碾过一名儿童之间做出选择,它应该选哪个?


即便是对于人类来说,这样的伦理决定也异常艰难。通常在发生车祸前的一瞬间,人类一般只会通过直觉做出选择。随着自动驾驶技术的发展,在不久的将来肯定会出现类似的场景,这样的两难选择,AI 会怎么做?


在此前的一项调查中发现,人们普遍认为自动驾驶汽车应该保护更多的人,即使这意味着牺牲车上的乘客。但他们同样表示,他们不会购买一辆按照这种程序设计的自动驾驶汽车。这告诉我们什么?


近期高居头版头条的梅赛德斯·奔驰公司此前曾表示,如果他们只能救一个人,他们会救司机而不是行人。公众的愤怒让他们收回了这一声明。


一位参与谷歌自动驾驶汽车项目的工程师表示,这样的调查结果并不重要,因为在这些情况下,真正的答案几乎总是“猛踩刹车”。但他同时表示,随着自动驾驶技术的发展,路况越来越复杂,这样两难的选择题始终会出现在人类面前,这样的场景下,AI 做出的选择总是基于人类的设计,但如果程序出错,面临的可能就不是牺牲一方拯救另一方的悲剧,而是两败俱伤的人间惨剧。

人工智能,想说爱你不容易

历史上,每次的技术革命都会带来一定程度的恐慌。从 18 世纪的工业革命到后来电的出现引起的一系列社会变革,再到电器的不断涌现,人们总会有失业、人身安全等方面的担心。


而人工智能从一开始就出现就被大家过度猜疑。在 1958 年,第一个神经网络系统 Perceptron 出现后,有报纸就认为机器在不久就会有自己的意识。而“人工智能之父”John McCarthy 曾在上世纪 60 年代提出,人工智能系统会在 10 年内实现。然而,十年之后,人工智能领域进入了所谓的“冰封期”。


直到最近,人工智能才又再度变得火热。一方面,计算机性能的飞速提升为人工智能算法提供了基础的支撑。另一方面,就是大数据的出现。大数据提供的海量数据让机器学习的效率成倍提升。DeepMind 团队 AlphaGo 在围棋方面的成功就得益于其前期大量的训练。


随着人工智能技术的第三次爆发,人工智能威胁论的观点又再次喧嚣。吴恩达认为机器智能赶超人类在短时间内并不现实,而 MIT 物理学家 Tegmark 则认为机器不需要本身就是邪恶的才会对人类构成威胁,40 年的时间足够达到这种程度。


Facebook 人工智能专家 Yann Lecun 表示这(AI 威胁论)还是一个非常遥远的事情。他认为,能够威胁到人类存在的机器智能基本还存在于科幻小说中。而且,机器的行为是受人类所设计的算法控制的。无论未来如何,这都是我们人类自己创造出来的。


现阶段值得担忧的不是 AI 威胁论,反而是其对社会职业的影响。以波音公司为例,相比于上世纪 90 年代,该公司的雇员数量减少了三分之一,生产效率却提高了 20%。从 2000 年到 2015 年,仅美国就有大约 500 万个职位消失,这其中大部分已经被机器所取代。人工智能所带来的影响将堪比蒸汽机,而机器智能所带的影响还不仅仅如此。


谷歌去年发布的 Cloud AutoML 产出了一系列机器学习代码,其效率甚至比研究人员自身还要高。该系统设计的目的就是为了让 AI 自己设计 AI。现在的 AI 除了会自己写代码,还会自己修复 Bug。也许值得我们担忧的,该是程序员会不会被 AI 取代了。

小彩蛋

因巴黎圣母院失火,育碧旗下《刺客信条大革命》限时免费。该游戏发布于 2014 年 11 月,以精确刻画法国首都巴黎著称。在巴黎圣母院失火之后,这款精确还原巴黎圣母院的游戏出人意料在 Steam 等游戏商店进入到销售榜前列。现在,开发商育碧通过其 Twitter 账号宣布游戏限时免费,宣布会捐款帮助巴黎圣母院的修缮工作。玩家可以通过育碧官网或客户端领取游戏,领取时间是从 4 月 17 日到 4 月 25 日。


没有去过巴黎圣母院的同学,现在可以入手了。(育碧看到请打钱。)


公众号推荐:

2024 年 1 月,InfoQ 研究中心重磅发布《大语言模型综合能力测评报告 2024》,揭示了 10 个大模型在语义理解、文学创作、知识问答等领域的卓越表现。ChatGPT-4、文心一言等领先模型在编程、逻辑推理等方面展现出惊人的进步,预示着大模型将在 2024 年迎来更广泛的应用和创新。关注公众号「AI 前线」,回复「大模型报告」免费获取电子版研究报告。

AI 前线公众号
2019-04-18 17:005269
用户头像
小智 让所有人认同的文字称不上表达

发布了 408 篇内容, 共 375.6 次阅读, 收获喜欢 1972 次。

关注

评论 3 条评论

发布
用户头像
机器学习机器,人类还是要管住机器
2019-04-22 10:39
回复
用户头像
谷歌去年发布的 Cloud AutoML 产出了一系列机器学习代码,其效率甚至比研究人员自身还要高。该系统设计的目的就是为了让 AI 自己设计 AI。现在的 AI 除了会自己写代码,还会自己修复 Bug。也许值得我们担忧的,该是程序员会不会被 AI 取代了。

如何输入需求那?
2019-04-19 08:53
回复
用户头像
AI 是客观的。错误的是人类
2019-04-18 17:55
回复
没有更多了
发现更多内容

史上最全的Java并发系列之Java并发机制的底层实现原理

自然

多线程 并发 8月月更

SAP ABAP 关键字语法图和 ABAP 代码自动生成工具 Code Composer

Jerry Wang

Java SAP abap commerce 8月月更

华贵保险连续五年获得“A级纳税信用企业”

江湖老铁

预约直播 | 深度学习编译器技术趋势与阿里云BladeDISC的编译器实践

阿里云大数据AI技术

深度学习 阿里云 编译器

开源公开课丨ChunJun数据传输模块介绍

袋鼠云数栈

virtio 1.2 来了!龙蜥社区携手业界打造新版虚拟化 IO 标准

OpenAnolis小助手

开源 虚拟化 龙蜥技术 virtio

2分钟一图看懂AntDB数据库产品

亚信AntDB数据库

AntDB 国产数据库 aisware antdb

前端培训学完课程后如何找工作?

小谷哥

大数据培训学习软件工程师机构靠谱吗

小谷哥

史上最全的Java并发系列之Java并发容器和框架

自然

多线程 并发 8月月更

开源一夏 | 如何使用Java操作华为对象存储OBS删除一个目录?

wljslmz

Java 开源 对象存储 华为云 8月月更

SAP ABAP Netweaver 服务器的标准登录方式讲解

Jerry Wang

web开发 web服务器 abap Netweaver 8月月更

合合信息加入元脑生态 携手浪潮信息推动金融AI应用创新

合合技术团队

AI 智能时代 合合信息 人工智能’ 浪潮

CSO视角:Sigstore如何保障软件供应链安全?

SEAL安全

软件供应链安全 OpenSSF

易周金融分析 :支付科技着力服务产业数字化升级

易观分析

金融 产业数字化 分析 支付科技

RT-Thread记录(八、理解 RT-Thread 内存管理)

矜辰所致

内存管理 RT-Thread 8月月更

干货复盘 | 银行数智化转型十大趋势

易观分析

金融 银行 数智化转型

java就业培训班如何选择?

小谷哥

零门槛掌握基于大模型技术的AIGC场景应用

文心大模型

IPv5是什么意思?到底有没有IPv5?

郑州埃文科技

ipv6 互联网协议 ipv5

计算机专业和培训出来的前端程序员的区别

小谷哥

终于!极狐GitLab 支持 ARM 啦!

极狐GitLab

DevOps 敏捷开发 arm 极狐GitLab 嵌入式硬件

Java 异步调用原理与实战

PPPHUANG

性能优化 线程池 Async Java core java nio

2篇论文入选KDD 2022!腾讯广告持续探索效果提升新思路

Geek_2d6073

二分查找:一种效率较高的查找方法

华为云开发者联盟

开发 二分查找 查找 区间

大数据程序员参加培训好还是自学好

小谷哥

科技赋能会展!3DCAT助力广东旅博会元宇宙场景的首次搭建

3DCAT实时渲染

云计算 元宇宙

如何利用CANN DVPP进行图片的等比例缩放?

华为云开发者联盟

人工智能 图像 昇腾AI

首批成员!博云入选信通院“可信边缘计算推进计划”

BoCloud博云

云计算 开源 云原生

2022 CCF国际AIOps挑战赛决赛暨AIOps研讨会成功举办

BizSeer必示科技

人工智能 AIOPS

Alluxio on Amazon EMR 集成实践

亚马逊云科技 (Amazon Web Services)

实践 集成 Tech 专栏

YouTube算法标记圣母院火灾为911事件,AI又翻车_文化 & 方法_小智_InfoQ精选文章