如果融合了物联网、机器学习和边缘计算，会发生什么？在揭晓答案之前，我们先复习一下每个名词的概念并讨论下 AWS 可以提供些什么。

物联网 (IoT) – 联接现实世界和数字世界的设备。这类设备通常装备有一类或多类传感器，常见于工厂、车辆、矿井、农田、房屋等处。一些重要的 AWS 服务包括 AWS IoT Core、AWS IoT Analytics、AWS IoT Device Management 以及 Amazon FreeRTOS，在 AWS IoT 页面中还有其他一些服务可以帮到您。

机器学习 (ML) – 可以使用大规模数据集和统计学算法进行训练的系统，并用于通过全新数据进行推断。在 Amazon，我们使用机器学习来驱动您在购物时可以看到的推荐功能、优化物流中心的路线、控制无人机以及许多其他应用。我们支持领先的机器学习框架，例如 TensorFlow 和 MXNet，并利用 Amazon SageMaker 使机器学习变得简单易用。我们还提供用于图像和视频的 Amazon Rekognition，用于聊天机器人的 Amazon Lex 以及一系列用于文本分析、翻译、语音识别和文本转语音的语言服务。

边缘计算 – 在不同位置计算资源并制定决策的能力，通常针对与云端仅有间歇性的连接或者无连接的场景。AWS Greengrass 建立于 AWS IoT，使您能够运行 Lambda 功能，并且在未连接网络的情况下也能保持设备状态同步。

边缘上的机器学习推断
现在我们要将所有这三种重要的新技术融合在一起！您现在可以使用 AWS Greengrass 在边缘执行机器学习推断。这使您可以借助 AWS 云（包括配备 GPU 的快速、强大示例）的力量构建、训练并测试您的机器学习模型，之后再将其部署至我提到的运行于工厂、车辆、矿井、农田和房屋的小型、低功率、间歇性连接的物联网设备中。

以下是 Greengrass ML Inference 众多应用中的一部分：

精细农作 – 世界人口的不断增长，粮食产量也受不可预测的天气影响，利用技术提高产量的面临巨大的机遇。智能设备在农田中并非徒有其名，它可以处理土壤、植物、害虫和农作物的图像，执行本地校正措施并向云端发送状态报告。

人身安全 – 智慧设备（包括AWS DeepLens）可以在本地处理图像和场景、查找物体、监视变更甚至检测人脸。一有风吹草动，设备就会将图像或视频传送至云端并使用 Amazon Rekognition 进行检测。

工业维护 – 智能、本地监控可以提升操作效率并减少意外停机。监控器可以针对对功耗、噪声级别以及震动运行推断操作，并标记异常现象、预测故障、检测故障设备。

Greengrass ML Inference 概览
这项 AWS 新功能有几个不同的方面：让我们了解一下每个方面：

机器学习模型 – 预编译的 TensorFlow 和 MXNet 库，针对 NVIDIA Jetson TX2 和 Intel Atom 设备上的产品使用，及 32 位 Raspberry Pi 设备上的开发进行了优化。优化的库可利用边缘上的 GPU 和 FPGA 加速器，提供快速、本地推断。

模型构建和训练 – 使用 Amazon SageMaker 和其他基于云的机器学习工具构建、训练并测试您的模型，然后再将其部署至物联网设备。要了解更多有关 SageMaker 的信息，请参阅 Amazon SageMaker – 加速机器学习。

模型部署 – SageMaker 模型可以（如果提供了适当的 IAM 许可）从您的 Greengrass 组中直接引用。你还可以利用 S3 存储桶中存储的模型。只需要点击几下你就可以向组中添加一个新的机器学习资源：

这些新功能现已提供，您可以立即开始使用！要了解更多，请参阅执行机器学习推断。

本文转载自AWS技术博客。

原文链接：
https://amazonaws-china.com/cn/blogs/china/new-machine-learning-inference-at-the-edge-using-aws-greengrass/

创作场景

使用 AWS Greengrass 在边缘执行机器学习推断