物联网“新篇章”：如何将机器学习引入边缘计算？

自 2006 年云计算正式在科技世界中展露头角，近 13 年的迅猛发展，2019 年云计算市场早已不同以往。回顾昨日，2018 年风口浪尖上的云计算，“人人说云，事事上云”，各大中型企业到初创企业纷纷把不同类型的应用服务迁移到云上，寻找上云最佳途径。再看今朝，AI、物联网、5G 等新兴技术的发展落地，不断拓宽着云计算的实践边界与应用空间。

与云计算互补：AI 推动边缘计算应运而生

从云计算对传统 IT 架构的颠覆性变革，到 AI 构建模型与算法的智能世界，再到万物互联的 IoT 悄然崛起，云计算以排山倒海之势拉动着 IT 产业链的发展，而人工智能和物联网也一直都是社会普遍关注的焦点话题。

值得注意的是，近两年，与我们生活息息相关的智能服务随处可见，但其底层的 AI 技术或者说机器学习技术却已拥有着超过 50 年的悠久历史。要说“人工智能”为何在近几年才逐步走近人们的生活，这与云计算有着密切联系。2006 年云计算的诞生，预示着人工智能拐点的到来，数据量越来越大，计算能力越来越强，过去不实用的 AI 技术到了 2006 年也都逐步进入实用阶段，可以说，是云计算让 AI 技术更加接近企业与消费者，并不断利用 AI 技术驱动着产业变革。

技术发展总是相互贯通的，随着数十亿的智能设备在住房、工厂、医院、汽车等地普及开来，物联网技术的兴起必然是这个时代的又一场革命。随着物联网在各行各业的推广应用，我们急需一个解决方案来收集、处理、存储这些物联网设备所产生的庞杂数据，而云计算平台正是分析加工这些海量数据与连接的技术基石。同时，IoT 通常会在边缘端对设备进行管理和控制，很多的数据需在边缘进行实时决策，这就对边缘设备的智能化提出了更高的要求。

将机器学习智能引入边缘计算

边缘计算意味着把云计算的资源、计算、存储等能力带到更接近用户的本地边缘设备中，大量计算可以在本地直接处理，而无需把所有数据都发送到云端，实现本地事件的更快响应。

事实上，要想确保 IoT 应用程序能够快速响应本地事件，则必须以非常低的延迟获得推理结果，但这时如果把数据发送至云端，再等待云端的推理决策，这个过程就很难满足一些业务场景的需求。

例如，在很多智慧城市的智慧摄像头场景中，智能摄像头需要在边缘侧快速识别汽车牌照或者人脸等场景，如若把海量的视频数据实时上传到云端去做推理，这势必会带来大量不必要的带宽占用，并无法满足其对于实时决策的需求，这时就需要一个更加智能的解决方案来做推理。

但是，仅使用云计算来部署人工智能的方式，与将云计算与边缘计算有效结合起来应用人工智能的方式截然不同。数据科学家依靠云计算来摄取和存储大量数据集，并识别数据中的模式和关系，在建立模型的整个过程中，训练和优化机器学习模型需要大量计算资源，因此与云计算是天然良配。

而实际上，最终的、经过优化的机器学习模型在推理的过程中并不需要太多的资源。所以为了确保 IoT 应用程序以非常低的延迟获得推理结果，我们就可以把训练放在云端，推理放在边缘侧，以达到利用云端去训练机器学习模型，利用边缘设备实时进行推理，甚至在没有互联网的环境中产生数据时，也能实现高速响应业务变化并作出决策。

例如，在智慧农业的场景中，装在农田里的传感器会对收集的环境数据进行实时决策。但在这些场景中，设备通常无法保证连接到互联网，这时就更加需要边缘端实时作出决策，待设备具备互联网连接时，再同步数据到云端。

广阔的市场前景，潜在的应用范围，毋庸置疑，人工智能让边缘计算更有价值。据美国市场调研公司 CB Insights 估算，到 2023 年全球边缘计算行业，整体市场容量有望达到 340 亿美元。其中包括亚马逊、微软、谷歌在内的几大公有云巨头的争相布局也说明了边缘计算未来发展的无限潜力，尤其在智能家居领域，边缘计算如何发挥更大价值已成为行业的主要研究方向。

智能家居中的边缘智能

目前，智能家居中的大部分智能设备主要还是通过云计算来实现设备交互，但设备对云计算的强依赖同样会产生响应速度慢、延迟感强、网络故障等诸多问题。这时，填补目前云计算特性不足并提升计算效率的边缘计算，在智能家居领域中强势崛起。

据麦肯锡预测，到 2025 年，全球联网设备总量将达 750 亿。从智能的家庭监控摄像头，到智能门锁，智能空调等，对于每天要处理大量 IoT 数据的智能家居行业来说，边缘计算将成为必然选择。

以格兰仕的智慧家居数字化转型为例，自 1978 年 9 月 28 日创立以来，格兰仕历经多次转型，从轻纺明星企业，到微波炉“黄金品牌”，再到综合性白色家电集团，成为中国家电产业的龙头企业之一。然而随着科技的发展和消费需求的变化，为了应对智能化制造、精益化管理等一系列挑战，格兰仕决定开启第四次转型 —— 数字化转型。

但格兰仕过去传统架构设计的信息系统已不再适用，在数字化转型过程中，格兰仕在对比了众多解决方案后，最终选择利用 AWS IoT 、AWS ECS 等 AWS 解决方案完成了电商平台与物联网平台的开发部署。

格兰仕基于 AWS 的架构示意图

在 AWS 智慧家庭设备的解决方案中，用户可在 Amazon SageMaker 中构建预测模型以用于场景检测分析，并对其进行优化以便在任何摄像机上的稳定运行，然后部署该模型以便预测可疑活动并发送警报，实现在云中构建、训练和优化机器学习模型，并在本地设备进行推理的高效响应。

AWS Greengrass ML Inference

用户首先可将训练数据上传至存储桶中，并选择 SageMaker 提供的现有算法生成训练模型，该模型以压缩 zip 文件的形式被复制到另一 Amazon S3 存储桶内。接下来，该 zip 文件会被复制到设备中，该设备则在运行时由 AWS Lambda 函数进行调用。其中，在 IoT Greengrass 上运行推理过程所收集到的数据可发送回 SageMaker，进行就地标记，并用于不断提高机器学习模型的质量。

AWS 智慧家庭设备架构图

在上图具体的智慧家庭场景中，机器学习模型需要在家中的智能摄像头和网关的边缘设备上直接运行，并检测是否发生了一些需要实时处理的数据。在边缘端，这些机器学习模型作为一个 Serverless 函数部署，该函数则由应用程序直接调用（图中 2 和 6）。在每个边缘位置，由于 FaaS 中的部署单元为一个函数，因此它比推送到虚拟机或容器要更高效得多，而且一旦有新的机器学习模型在云端产生时，都会为其分配一个新版本，并将其同步到边缘端去运行（图中 2，3 之间的交互）。总之，机器学习的繁重工作在云中完成，边缘计算简化了推理与部署体验，Serverless 也将简化开发人员的工作负担。

小结

边缘计算作为算力架构优化最重要的技术，不仅是物联网发展的重要方向，同时也是未来 AI 技术的重要延伸。万物互联，将机器学习智能引入边缘计算，使智能计算更接近于应用程序，人工智能与边缘计算的融合与突破，势必将重新定义未来科技的发展新方向。