美国国家科学院院士 Alex Pentland：下一代 AI

6 月 21 日，由北京智源人工智能研究院主办的 2020 北京智源大会正式开幕（直播入口： https://2020.baai.ac.cn ），大会为期四天，各主题论坛和分论坛将围绕如何构建多学科开放协同的创新体系、如何推进人工智能与经济社会发展深度融合、如何建立人工智能安全可控的治理体系、如何与各国携手开展重大共性挑战的研究与合作等一系列当下最受关注的问题进行交流和探讨。会议第二天，美国国家科学院院士、MIT 连接科学研究所与人类动力学实验室主任、可穿戴设备之父——Alex Pentland 教授进行了主题为：“下一代 AI”的演讲。以下内容根据 Alex 教授的演讲整理而来，未经本人确认。

在主题演讲中，Alex 教授分享了他与世界多位学者们对人工智能发展的观点，其中认可度比较高的一个观点是，下一代 AI 将由机遇和规则来定义。在此次新冠疫情爆发期间，可以看到 AI 渗透进了我们的生活中，改变了贸易方式，过去人们并未留意到的变化随着这次疫情的爆发也逐渐显现。

安全和隐私

人们关心的隐私问题不仅仅是密钥和加密问题，因为大多数的数据泄露都是人为造成的，而非加密技术本身的问题，隐私也如是，归根结底，是人类做了不应该做的事。Alex 教授表示他已经说服了欧盟的很多大公司采用一种通用的规范，能够广泛地共享数据，而不移动数据，这也是 GDPR 的核心理念。安全地共享数据是不存在数据湖，不需要把数据移动到中央存储器，而是将代码移动到数据上。拥有数据的人必须知道算法是否安全、是否用到了正确的地方，这是非常关键的一步。不同的国家、公司和人之间不再共享数据，只是分享解决问题的方法。

AI 面临的机遇

新冠疫情为 AI 带来了前所未有的发展机遇，随着贸易线路和物流线路的重组，我们迎来了一场数字冲击波。在过去的几十年中，我们一直在讨论数字经济，此次疫情的爆发，迫使人们不得不做出改变，接受这种新的经济形式，许多科技公司和技术学者也纷纷投入到数字化经济的构建中，这给 AI 的发展带来了机遇。但同时，我们也看到，随着人与人之间交流越来越少，人们受攻击的范围也在扩大，因为网络欺诈和犯罪也随之增加。据业内权威专家估计，未来这种网络犯罪和攻击会更多。

面对这一问题，我们应该如何应对？Alex 教授提到，规范数字货币的使用，提高健康、教育和商业化水平可以有效应对这些隐患。Facbook 推出虚拟加密数字货币称为“Libra”，中国推出的一种新的国家数字货币正在多个城市测试中，在不久的将来会广泛应用，此外还有一些其他机构的数字货币或贸易货币，例如比特币、Fidelity 等，富达投资和世界上很多大的银行都在使用 Libra 进行资金转移等，这些分布式数据概念在增加安全性和隐私性的同时，也为 AI 的发展带来了机遇。

合作共容

如今比以往任何时候都需要国家与国家、地区与地区之间加强合作，Alex 教授表示他们现在做的就是基于这种贸易货币的想法创建开源的分布系统、安全系统，使用区块链技术和联邦学习人工智能技术，向发展中国家传输带有先进数据科学的更安全、更低廉的政府系统。

在演讲中，Alex 教授提到了全球首个关于计算的法律——《计算机法律》正式出版。书中很大一部分内容叙述了利用 AI 技术所做的工作，其中最重要的法律问题是 AI 的合法性，因为基于论文和人类讨论得出的结论往往有一定的滞后性，例如数据是否合法、公平、是否超出了管辖范围，这些问题都没有表达明确，所以这也是《计算机法律》一书存在的意义，我们也在不断思考在人工智能和分布式数据的作用下，法律将会如何改变。

《计算机法律》电子版地址：http://law.mit.edu

四大技术热门话题

随后，Alex 教授谈到了他所在的技术团队所关心的四个技术话题，包括：基于神经网络的动态模型；长尾分布式系统；增强人工智能 vs 人工智能；加密数据。

基于神经网络的动态模型

基于神经网络的动态模型几乎推动了一切需求，而几乎所有的人工智能都被认为是稳定的，紧凑分布的，但是对于大数据、金融数据来说并不是这样。另外一个有趣的现象是人们越来越认为人工智能是错误的，人工智能应该是增强型的人工智能，因为人在这里面起到了关键作用，我们真正要做的不是让机器更智能，而是让人类更聪明。至于加密安全问题，Alex 教授表示，未来一切问题都离不开加密安全。

Alex 教授向我们展示了一个基于神经网络的动态模型例子，下图中的小黑点是人们在旧金山市的流动情况，几乎所有模型都是假设的，人们要么重复行动轨迹，要么就围绕某种旋转半径运动，但如果你真的把所有人聚集在一起，你会发现它的实际结构要比这张图上显示出来的复杂得多。人们的行动轨迹与他们的购买、就医、财务等轨迹相适应，不只是你的时间花在哪里，行动轨迹就在哪里，你的行为倾向也会显现出“本地化集群”的特征，通过这些数据可以分析出这些人都是谁，他们是做什么工作的。

长尾分布式系统

Alex 教授表示，目前的长尾分布式系统并不是很好用，这也就解释了为什么这类 AI 技术并没有在现实中发挥很大的作用。正如之前提到的，假设分布式系统式紧凑的、正态分布的，每个样本都是正态分布的，但是在不同的情况下代表着不同的含义，如果你只是短时间内取样，就会看到这些样本是非常紧凑、稳定的，但是长期来看，会发现方差随着样本的增加而发生巨大变化。

事实上，需要多项式更多的样本才能捕捉到这些长尾分布，要做长尾分布就不得不进行更多的训练，所以我们要做的是同时评估两个分布特征。

增强人工智能和人工智能

如今，我们真正需要的其实是人类可以控制的智能，随着时间、情况等因素的变化，我们对智能的认知也在变化，人类监管下的人工智能越来越受到重视。但人类终究要遵循法律，以法律允许的方式使用人工智能，所以这就要人工智能有一个能匹配人类思维的类。AI 在做出财务决定是会依照从前的数据做参考，而人类在做这种工作时还会参考其他人的决定，人类的决定一般会跟随主流趋势，但是在这其中，人类也有一个主要问题，就是一遍遍做重复的事情，却看不到新的东西，如果人类将事物某一特征出现的可能性与先验知识结合起来再做决定，效果会更好。

加密数据

最后，Alex 教授谈到了加密数据。随着数字货币的广泛传播，我们得到了更多的数据流，所以我们要比以往任何时候更加留意数据安全问题。