机器人 Sophia 才不是“人形电脑天使心”,它只是一个可笑的骗局

阅读数:557 2018 年 12 月 7 日

发生了什么

image

机器人 Sophia(图片来自 Flickr

2018 年 10 月,来自香港Hanson公司的人形机器人 Sophia(见上图)获得了阿塞拜疆政府的电子签证。签证的电子性质不是偶然的;这次公关活动由阿塞拜疆政府新成立的电子服务部门举办,目的是展示其一站式电子服务交付机构。

对 Sophia 来说,这种引人注目的事件并不是什么新鲜事。最值得注意的是,2017 年,沙特阿拉伯让 Sophia 成为了第一个获得公民身份的机器人。Sophia 曾按指示说出了“我要毁灭所有的人类”。

正如发表在 Wired 上的文章“Sophia 的痛苦”所指出的那样,世界上第一个机器人公民注定要在市场营销领域从事毫无生气的工作。她还被用于各种东西的营销,如“阿布扎比旅游、智能手机、第四频道节目和信用卡”。这种密集的公关和大量的采访,有时会给人留下这样的印象:Sophia 代表了机器人和人工智能领域的最高水平,或者 Sophia 得到了人性化对待,因为她几乎就是人;在 Jimmy Fallon 的“今夜秀”节目中,Hanson甚至说Sophia“基本上是活的”。

各方反应

尽管所有这些事件都吸引了大量的报道,但对于 Sophia,大多数的反应是批评,其中不乏“怪异”和“令人毛骨悚然”这样的字眼。

一些回应 Sophia 获得公民身份的文章探讨了赋予机器人人权的后果。他们大多持否定态度。他们指出,人工智能还远远不够先进,不足以获得许多人都没有获得的权利,而且,公众的信任会因为营销活动过分夸大技术的现状而降低。

  • 在她获得沙特公民身份后,许多媒体立即指出,这个性别化的机器人比沙特女性拥有更好的人权,因为 Sophia 没有被要求戴头巾,而对于沙特女性来说,这是法律规定。Quartz甚至表示,Sophia 最近的声名鹊起是对人权的削弱,因为这是机器人拟人化和赋能“廉价公关噱头”趋势的一部分。一些人工智能专家也表达了这一观点,比如,Nvidia 的机器学习研究总监 Anima Anandkumar 就表示:

这让我非常愤怒,因为他们还在宣扬这个玩偶是公民,与此同时却剥夺了妇女的人权和自由。相比之下,令人震惊。

— Anima Anandkumar (@AnimaAnandkumar) 2018 年 11 月 21 日

  • Business Insider​对赋予机器人公民身份的意义进行了剖析。他们列出了许多问题,试图明确赋予 Sophia 的权利应如何行使,特别是在涉及真实人类的情况下。

关于 Sophia 的报道也引起了领域专家们的激烈反应,他们对于媒体夸大机器人的能力表示了担忧。公众(将 Sophia 视为工程和智能软件的奇迹)和科学家(称 Sophia 为玩偶)之间的认知差异尤其引人注目:

  • 一篇最温和的文章中,Forbes 将阿塞拜疆总统 Ilham Aliyev 和 Sophia 的互动描述为“AI 人形机器人与总统的对话”。机器人专家 Rodney Brooks 指出,这个标题具有误导性,他将 Sophia 比作歌舞伎:

这完全是瞎扯,完全是胡说。为 Forbes 把这个歌舞伎说得跟真的一样感到羞耻。https://t.co/y88wlPL2Pa

——Rodney Brooks (@rodneyabrooks) 
2018 年 10 月 27 日

  • Benedict Evans(专注于科技领域的风险投资公司 Andreessen Horowitz 的合伙人)对 Forbes 文章的作者是否真的搞错了,他将 Sophia 比作“顶着橡胶脑袋的录音机”:

这是一台磁带录音机,脖子上有个橡皮脑袋。称这个东西为“她”或者使用谈话这样的说法是不恰当的。

— Benedict Evans (@benedictevans) 2018年 10 月 27 日

  • 人工智能研究员 Stephen Merity 对此表示支持:

我非常赞同@benedictevans的说法。问一下这个领域的任何一位从业者,他们都会愤怒地咆哮,关于 Sophia 和媒体的描述,一切都是错的,因为他们夸大了不存在的人工智能,忽视了现实世界中人工智能的巨大好处和潜在灾难。

— Smerity (@Smerity) 2018 年 10 月 29 日

  • Facebook 人工智能研究部门首席人工智能科学家 Yann LeCun 称,Sophia“完全是狗屁”,并对公众对于这个类人机器人的态度表示担忧:

这对于 AI 来说就像魔术对于魔法一样。也许我们应该把这称为“货物崇拜 AI”或“波将金 AI”或“绿野仙踪 AI”。换句话说,这完全是胡说八道。技术内幕:你是这场骗局的同谋。https://t.co/zhUE4V2PSR

— Yann LeCun (@ylecun) 2018 年 1 月 4 日

  • 当 Sophia 发表一条推特,表示被 Yann LeCun 的负面评价“伤到了”之后,Lecun 更激烈地回怼:

有些评论很可笑,它们没有揭露真相,即很多人被误导,认为这个电子傀儡(物理上很复杂)是真正的智能。这不是真的,它没有感情,没有想法,不知道自己在说什么,也不会受伤。它只是一个傀儡。

— Yann LeCun

这样的评论反而使得报道的关注点变成了,Hanson 虚假宣传 Sophia 是先进的人工智能是否真的道德,如Verge 的报道“Facebook 的人工智能负责人真的讨厌 Sophia(理由充分)”和最近Forbes 的报道“妈妈咪呀 Sophia:表演机器人还是危险的误导平台”。作为对后一篇文章的回应,Yann LeCun 更加严厉,认为对 Sophia 的误导性描述“完全是胡说八道”:

Noel Sharkey 在 Forbes 上发表的有关“表演机器人”的文章非常不错。他认为,来自 Hanson 的机器人 Sophia 是一个表演机器人,把它描述成真正的智能机器人是错误的。Hanson 已经跨过了危险线,他们使用一些小把戏错误地描述了人工智能的现状。我在文章中说过:这完全是胡说八道。

— Yann LeCun

一方面,Hanson 似乎巧妙地利用了公众对“几乎是人类”的机器人的迷恋;另一方面,他们的每一项声明都会招致那些有能力评估其声明的人的愤怒。

我们的观点

让人形机器人看起来“有生命”主要有三种方法。你可以让它们看起来像人类,你可以让它们的动态看起来栩栩如生,或者你可以利用观众的社会偏见。在最后一种方法中,我们赋予机器人人类的名字(如 Sophia、Alexa)、人类的性别属性 (化妆、女性服装)、使用人称代词谈论他们(正如我在本文中所做的那样),或者授予他们公民权(如公民权和签证)。这显然是 Hanson 所采用的方法。从 Sophia 的衣服到预编程关于“她的父亲”或“她的感觉”的演讲,再到类似人类的面部表情和橡胶皮肤,Sophia 的每个属性和精心筹划的亮相就是一场戏剧表演,玩偶大师和观众所做的大部分工作是让机器人“活起来”。

虽然 Hanson 声称,Sophia 能够处理视频和音频数据,但还不清楚这个机器人是否真的在公共场合处理过什么:Hanson 承认,Sophia 的演讲通常都是预先编程的。Quartz 一篇专门的报道,认为该软件充其量只是一个普通的聊天机器人平台,具有基本的对象识别功能和搜索引擎。至于 Sophia 最令人印象深刻的公关特技,它其实只是像你手机里的无线电接收器那样“说话”,它的行为受控于隐藏在后台的人类。当然,Sophia 的推特账户也完全是由人管理的。

享受表演本身并没有什么问题。但是,当评论员忘记这是虚构的,写出了“Sophia 与总统对话”之类的东西时,当人们的提问就好像是说 Sophia 有人类一样的行为时,当 Sophia 以先进科技的姿态出现而损害了真正的技术进步时,问题就出现了。事实上,Tony Belpaeme(比利时根特大学和英国普利茅斯大学的机器人教授)最近分享了一个关于 Sophia 带来不合理预望的故事:

我有一个欧盟项目,审查员对我们缓慢的研究进展表示失望,因为 Sophia 机器人清楚地表明,我们仍在努力应对的技术挑战已经得到解决。

— Tony Belpaeme (@TonyBelpaeme) 2018年 11 月 18 日

这反过来又使得 Rodney Brooks 再次嘲笑 Sophia 是一个“虚假的演示”:

这就是我为什么称之为虚假的演示,称他们为恐惧贩子,说什么人类水平,甚至超越人类水平的人工智能即将到来。https://t.co/FunhR25BYN

— Rodney Brooks (@rodneyabrooks) 2018年 11 月 18 日

Hanson 机器人公司有责任说清楚,Sophia 的亮相有多少是经过精心策划的,为此,他们必须找到其他的动机,而不是从不透明的公关噱头中获利。声称 Sophia“基本上是活的”,就像 Hanson 在 Jimmy Fallon 的节目中所做的那样,有一种不负责任的企图,目的是为了抓住公众的想象力。评论员的责任是向公众进行诚实的报道,着重说明 Sophia 是什么,不是什么,即使他们的动机偏向于广告收入和点击诱饵。最后,作为新闻故事的消费者,我们的责任是不对头条新闻给予不加批判的关注,对我们不知道的东西持怀疑态度,抵制媒体的大肆渲染。

小结

在技术上,大多数现代化机器人都比人形机器人 Sophia 先进,而 Sophia 大多数时候都被当作一个玩偶来使用,但它的创造者却谎称“它几乎是人类”,并从中获益。他们通过精心策划的公关噱头抓住了公众的想象力,这种方式令人质疑。

查看英文原文:https://www.skynettoday.com/briefs/sophia

image

收藏

评论

微博

发表评论

注册/登录 InfoQ 发表评论