阿里达摩院正式开源人机对话模型ESIM

2018年5月，阿里云栖大会武汉峰会上一段机器人点单的视频火了，阿里巴巴的收银机器人仅用了49秒就搞定了30多杯咖啡的订单：

演示环节中，包含了修改、删除、加单等多轮对话，在整个交流过程中，顾客不需要说”hi，点单机“之类呆板的唤醒词，可直接下单，更符合人与人的自然对话。

这项技术的背后支撑，就是来自阿里巴巴达摩院的新一代人机对话模型ESIM。

该模型最初由达摩院语音实验室内的90后科学家陈谦研发，曾在国际顶级对话系统评测大赛（DSTC7）上获得双料冠军，将人机对话准确率的世界纪录提升至94.1%。

注：DSTC是学术界权威对话系统评测大赛，由微软研究院、卡耐基梅隆大学的科学家在2013年发起，今年举办到了第八届。NOESIS赛道考察AI的人机对话能力，要求AI根据给定的多轮人机对话历史，从成百到上万个句子中选出正确的回复。

今天，阿里达摩院宣布，即日起向全世界企业与个人开源ESIM模型。

GitHub地址：https://github.com/alibaba/esim-response-selection

技术原理解析

人机对话系统及其背后的认知智能，是人机交互中最复杂也最重要的技术，曾被比尔盖茨形容为“人工智能皇冠上的明珠”。为让机器快速准确理解人类的表达，ESIM给AI装上一套“雷达”系统，赋予它实时检索对话历史、自动去除干扰信息的能力，使它能够给出人类期待的回复。

ESIM模型全称是：Enhanced LSTM for Natural Language Inference，是一种转为自然语言推断而生的加强版LSTM，其架构图如下图所示（ESIM 是左边一部分）：

ESIM模型主要由input encoding，local inference modeling 和 inference composition三个部分组成，会直接对从用户的流式口语输入到对用户多个意图的最终理解进行建模，不再依赖子任务的模型和它们的级联，这样极大地减少了各个子任务之间的错误积累和传递。

大致流程是这样：

输入两句话分别接入embeding + BiLSTM，使用BiLSTM可以学习如何表示一句话中的word和它上下文的关系，可以理解成这是在word embedding之后，在当前的语境下重新编码，得到新的embeding向量。

之后计算两个句子word之间的相似度，得到二维的相似度矩阵，再进行两句话的local inference。用之前得到的相似度矩阵，结合a，b两句话，互相生成彼此相似性加权后的句子，维度保持不变，公式表示为：

在local inference之后，进行Enhancement of local inference information，分别计算差与乘积，之后再进行聚合操作：

最后，再一次用BiLSTM提炼上下文信息，同时使用MaxPooling和AvgPooling进行池化操作, 再接入全连接层。

在架构上，该方案将算法和业务分离，使用业务知识图谱有效地表达业务相关的知识，利用序列到序列的深度学习模型自动学习出用户口语输入到意图结构化表达的映射关系，利用业务知识图谱表达业务逻辑，对于这个自动的映射学习模型进行强化学习以达到弱监督的目的。这样一方面整个系统只需要少量端到端的数据标注进行训练，大大减少了标注压力；另一方面由于知识图谱的松耦合度，使得扩展到新的业务变得更为便捷。

论文地址：https://arxiv.org/pdf/1901.02609.pdf

据阿里巴巴方面介绍，ESIM人机对话回复模型，比起业界使用最为广泛的LSTM模型，回复准确率更高。采用全新ESIM模型的人机对话回复模型，比LSTM模型回复准确率提升25%。

InfoQ还了解到，该模型在对话领域的成功可以预计会给很多应用场景带来显著地变化，比如智能客服、任务型对话系统等等，这一技术突破能大幅地提升实际应用中对话系统回复的准确性和用户体验。

基于ESIM模型的多轮对话回复选择技术是语音交互的基础能力之一。在这些基础能力之上，阿里巴巴构建了一系列语音交互应用。

在传统语音交互产品方面，阿里云智能语音交互研究的技术平台能够精准转换用户的语音为对互联网内容和服务的意图，触达手机、IoT设备、互联网汽车、电视、智能音箱等各类终端。

在下一代人机交互产品方面，阿里已经落地语音售票机，部署在上海地铁供市民使用；肯德基也与阿里云联合推出了一款全球领先的AI多场景智能点餐机，并已经率先在杭州云栖上岗服务。

创作场景

阿里开源新一代人机对话模型 ESIM，曾创下人机对话准确率新纪录