微软执行副总裁沈向洋:规范人工智能道德仅靠指定准则远远不够

阅读数:6376 2019 年 8 月 29 日 15:48

微软执行副总裁沈向洋:规范人工智能道德仅靠指定准则远远不够

8 月 29 日,在上海举办的 2019 世界人工智能大会上,微软全球执行副总裁沈向洋发表演讲。沈向洋表示,微软亚洲研究院推出了麻将 AI,不同于象棋 AI 和围棋 AI,麻将 AI 的难度更高,可以处理麻将中的高度不确定性,在对战中表现出类似人类的直觉,就是努力与大局意识。

此外,沈向洋表示,微软在开发和应用人工智能的过程中,会遵守六大人工智能准则:公平;可靠和安全;隐私和保障;包容;透明和责任。

本次大会上,微软公布了其在人工智能研究领域的最新进展:由微软亚洲研究院开发的麻将 AI 系统 Suphx(超级凤凰)成为首个在国际知名的专业麻将平台“天凤”上荣升十段的 AI 系统。

据了解,“天凤”平台吸引了全球近 33 万名麻将玩家,其中汇集了大量专业选手。Suphx 在天凤的公开房间“特上房”与人类选手进行了超过 5000 场对战,获得“特上房”最高段位十段。而微软的 Suphx 领先另外两个知名麻将 AI 系统 2 个段位以上,并且超越顶尖人类选手在该房间的平均水平 1 个段位以上。

此外,微软宣布在中国启动全球首个线下互动教学与线上课程双向资源相结合的“微软人工智能商学院”(Microsoft AI Business School)项目。微软将与清华大学经济管理学院、中欧国际工商学院、长江商学院三所中国顶级商学院达成战略合作伙伴关系,分别面向未来商业领袖、创新企业、企业高管等各类商业组织和精英群体推进人工智能商学院的建设。

以下是沈向洋的演讲全文,InfoQ 在不改变原意基础上进行了适当删减

很高兴再次齐聚上海,与大家一起探讨,人工智能带来的机遇和挑战。

在去年的世界人工智能大会上,我们宣布了微软亚洲研究院(上海)和微软 - 仪电人工智能创新院成立的消息。我很高兴向大家汇报,这一年来,我们取得了很多进展。特别是微软 - 仪电人工智能创新院于今年早些时候正式投入运营。与众多公司聚集在一起,为上海人工智能的技术创新、人才培养,以及人工智能平台和技术的发展,贡献力量!

今天,我也很高兴地宣布,全球首个线下互动教学与线上课程双向资源相结合的,“微软人工智能商学院”(Microsoft AI Business School)项目,正式在中国市场启动。​微软与清华大学经济管理学院、中欧国际工商学院、长江商学院,三所顶尖商学院达成战略合作,为未来的商业领袖、创新企业、企业高管,打造最完善的人工智能商业课程。​

在过去的几年中,人工智能技术的发展速度,远远超出了我们从前的想象。

从视觉到语音到自然语言,包括机器阅读和机器翻译,甚至对话式人工智能,都逐步接近人类水平。

今天,我要向大家宣布,微软亚洲研究院,创造出了史上最强的麻将 AI——这个叫做 Suphx 的 AI,是第一个在日本专业麻将平台“天凤”的公开房间竞赛中,荣升十段的 AI 系统。这是目前 AI 系统在麻将领域取得的最好成绩,它的实力已经超过了公开房间级别中,顶级人类选手的平均水平。

与象棋、围棋、德州扑克等棋牌类游戏相比,麻将具有更高的复杂度和更丰富的隐藏信息,因此麻将 AI 的难度更高。Suphx 可以有效处理麻将中的高度不确定性,在对战中表现出了类似人类的直觉、预测、推理、模糊决策能力,以及大局意识。

当然,人工智能技术的研发需要长期的投入。微软 HoloLens 增强现实全息眼镜就是一个很好的例子。

早在 20 多年前,我们就开展 HoloLens 背后的基础研究特别是机器视觉。通过开发 Kinect 我们有了 3D 传感器。Kinect Fusion,能够使用 Kinect 3D 传感器,完整地重新构建出三维结构。然后是 HoloDesk,让我们可以将虚拟的 3D 模型,融合到真实的 3D 环境。在过去三四年中,HoloLens 实现了令人惊叹的创新。

今天,人工智能让很多不可思议的事情成为现实。但我们同时需要认真思考技术进步,带来的社会影响,以及我们因此要面对的种种挑战,比如说隐私和造假的问题。

在微软,我们致力于打造负责任的人工智能,让人工智能帮助人类。2016 年,微软 CEO 纳德拉,第一次公开提出了微软的人工智能准则。2017 年我们出版了《计算未来》这本书,对人工智能发展过程中,可能引发的道德、法律、法规思考和社会影响,进行了全面详实的探讨。我们计划,未来推出的每一个产品,都要经过人工智能道德伦理审查。与此同时,我们也建议政府积极推动相关法律法规的建立和完善。

微软人工智能准则有六项:公平、可靠和安全、隐私和保障、包容、透明、责任。在我们开发和应用人工智能的过程中,始终坚持遵循这六项准则。目前,这些准则获得了广泛的共识,它能够指引企业和管理机构,对人工智能的复杂性加以引导和把握。

但仅仅是制定出准则,还远远不够,要真正解决现实世界中的诸多挑战,我们还要以身作则,积极实践。

因此,在微软内部,成立了 AETHER 人工智能伦理道德委员会,这是“工程与科研中的人工智能道德”的缩写。这个内部委员会由公司领导、工程师、科研人员、律师等组成,负责对微软内部与人工智能伦理道德相关的事宜,进行探讨和评估。

人工智能的发展,不仅是一家公司,一个国家的问题。需要更广泛地调动产学研各界,以及各地政府相关部门的共同努力。所以,我们参与创建了人工智能伙伴组织(PAI),目前已经有包括中国公司在内的近 100 家全球企业加盟,共同研究,分享和推广人工智能的最佳实践。我们也很高兴地看到,最近欧盟和中国政府也相继出台了人工智能伦理道德的准则。

为什么这个问题如此重要?汽车的发展是个很好的启示。

汽车出现在 19 世纪末,并在 20 世纪初逐渐流行起来。随着汽车在美国的普及,在随后的几十年间,高速公路交通事故造成的伤亡数字一直在不断攀升。直到 1968 年,美国才通过立法,要求所有机动车,必须安装安全带。但第一部真正要求驾驶者扣好安全带的法规,却是 1984 年,才在纽约出台的!

今天,我们是人工智能的发明者——但我们绝对不可能等到 80 年以后,才为人工智能,补上一条安全带。让我们一起努力,引领 AI 创新,推动 AI 普及,肩负 AI 责任,共同创造美好的明天!

收藏

评论

微博

用户头像
发表评论

注册/登录 InfoQ 发表评论