越过 Tay 的耻辱之后,微软对话机器人势头依然凶猛

本文转载自aitrends

阅读数:612 2018 年 12 月 4 日 15:53

越过Tay的耻辱之后,微软对话机器人势头依然凶猛

导读:让人工智能拥有 “对话” 能力甚至情感认知,是很多科幻电影里都描述过的场景。很多科技巨头都在朝着这一方向进行深入研究。Microsoft 也不例外。那么,在对话式人工智能这条大道上,Microsoft 表现怎么样呢?

当地时间 11 月 14 日,Microsoft 在人工智能会议期间中推出了一组新服务和产品更新,其中包括用于 Power BI 的人工智能模型构造器(一种无代码业务分析解决方案)、AirSim 的 Unity 插件(一种航空信息和机器人平台的开源工具包),以及 PlayFab 公共预览版(一种多人游戏服务器平台)。但其中有两条公告让人耳目一新,它们向公众展示了西雅图微软总部在对话式人工智能(conversational AI)领域上令人印象深刻的进展。

第一条公告是,Microsoft 收购了聊天机器人初创公司 XOXO。Botkit 框架是 XOXO 的知名产品。Botkit 框架能够让企业为 Cisco Spark、Slack 和 Microsoft Teams 等聊天应用创建会话机器人。第二条公告是关于 Microsoft 机器人框架,这是一个综合全面的聊天机器人框架,开发者可以用 Bot Framework 开发和部署一个高品质的对话机器人供用户使用,也就是说 Bot Framework 是快速搭建智能服务的后端,快速在各种终端和服务上提供服务。

现在,Microsoft 生态系统中的开发者可以使用丰富的机器人构造工具,这得益于今年早些时候 Microsoft 收购的对话式人工智能初创公司 Semantic Machines、人工智能开发工具包创建者 Bonsai 以及无代码深度学习服务 Lobe,毫无疑问,这些收购带动了 Microsoft 云计算平台 Azure 的发展。在 2018 年第一季度,Azure 以 60 亿美元的收入超过 Amazon Web Services,到目前为止,已有 120 万开发者注册并使用 Azure Cognitive Services(认知服务),这是一组预制的人工智能模型,集合了多种智能 API 以及知识 API,开发者可以开发出更为智能、更有能吸引力的产品。

这一势头,在两年前还是不可想象的。

你或许还记得,2016 年 3 月,Microsoft 推出了 Tay,这是一款人工智能聊天机器人,Microsoft 研究人员在 Twitter 上将 Tay 作为 “会话理解” 实验的一部分。用户与 Tay 交谈的越多,它就会变得越智能,主意也越多,交互也越加自然。

但是,推出仅仅过了 16 个小时,Tay 就开始发布歧视女性和种族主义的不当言论。其中有很多言论是 “repeat after me”(跟我读)机制学到的,这一功能让 Twitter 用户能够把他们的话强加于 Tay。但至少有一些仇恨的反应是异常的:Tay 就有关 Ricky Gervais 的问题援引了 Adolf Hitler 的回答;称 Caitlyn Jenner“不是真正的女人”;并将女权主义与“癌症”、“邪教” 等同起来。

Tay 在 Twitter 发布大量充满攻击性的推文,被 Microsoft 删除了,其 Twitter 账户也被紧急关停,Microsoft 承诺,将对 Tay 进行 “调教”,新的 Tay 即将登场。然而,在 2016 年 Microsoft 开发者大会之前的第二次测试中,聊天机器人的表现并没有好转:它使用无意义的消息向大约 213000 名粉丝发送了垃圾信息,并发布了关于吸毒的推文。

越过Tay的耻辱之后,微软对话机器人势头依然凶猛

这起事件被麻省理工科技评论(MIT Technology Review)列入 2016 年度最大技术失败列表名单中,对 Microsoft 人工智能研究部门而言,是一大耻辱。但也标志着 Microsoft 转向对话式人工智能的转折点。在未来,Microsoft 将会谨慎行事,或许更重要的是,提高人工智能技术的透明度。

Microsoft Healthcare 副总裁 Peter Lee 在 2016 年的博文中写道:“展望未来,在人工智能设计中,虽然我们面临一些困难,但我们也有令人兴奋的研究挑战。我们将尽其所能限制技术漏洞的利用,但我们也清楚这一点:在不从过错中汲取教训的前提下,我们并不能完全预测到人机交互滥用的所有可能情况。为了做好人工智能,我们需要许多人提供反馈进行迭代,而且还要经常去公共论坛听取人们的反馈并加以改进。”

Tay 之后的新的聊天机器人被命名为 Zo,这一命名是为了避免公众联想到前任聊天机器人 Tay 最差劲的言论倾向,Zo 具备理解许多想法中的整体情绪的能力(例如,它会热烈回应 “mother” 这个词,并回复诸如 “I love pizza.” 这样的短语)。Microsoft 将更多资源投入到小冰上,小冰是 Microsoft(亚洲)互联网工程院基于 2014 年提出建立的情感计算框架,通过算法、云计算和大数据的综合运用采用代际升级的方式,逐步形成向 EQ 方向发展的完整人工智能体系,产品形态设计会话式人工智能机器人、智能语音助手、人工智能创造内容提供者和一系列垂直领域解决方案。目前拥有超过 5 亿的社交媒体粉丝。

与 Microsoft 内部聊天机器人的努力相呼应的是向强调人类语言的平台推进——首席执行官 Satya Nadella 将其称为 “对话即平台”(Conversation as a Platform,CaaP)。他在 2016 年度开发者大会上说:“机器人就像新的应用程序,而数字助理是元应用(meta app),或者像新的浏览器。人工智能将融入到你所有的互动中。这就是我们拥有的丰富平台。”

2016 年 Microsoft 推出了 Azure Bot 服务,这一服务能够让开发者为 Facebook Messenger、Skype、Slack、Microsoft Team 以及其他聊天应用程序构建、测试并部署聊天机器人。2017 年结束测试阶段,共部署了 33000 个活跃的聊天机器人,广泛用于金融、服务、医疗保健和零售行业。

自从 Tay 发生灾难性的事故以来,构建机器人的伦理问题一直是 Microsoft 的首要考虑因素。日前,Microsof 发布了对话式人工智能指南,建议开发者评估机器人的预期目的是否能够可靠地执行,并设立与其使用相关的限制,将机器人设计为尊重人类的各种能力。

在对话式人工智能的大道上,Microsoft 可谓是 “路漫漫其修远兮,吾将上下而求索。”

原文链接:
https://aitrends.com/bots/a-long-way-from-tay-microsoft-advancing-in-conversational-ai/

评论

发布