使用 AWS Greengrass 在边缘执行机器学习推断

阅读数:39 2019 年 10 月 25 日 08:00

使用 AWS Greengrass 在边缘执行机器学习推断

如果融合了物联网、机器学习和边缘计算,会发生什么?在揭晓答案之前,我们先复习一下每个名词的概念并讨论下 AWS 可以提供些什么。

物联网 (IoT) – 联接现实世界和数字世界的设备。这类设备通常装备有一类或多类传感器,常见于工厂、车辆、矿井、农田、房屋等处。一些重要的 AWS 服务包括 AWS IoT Core AWS IoT Analytics AWS IoT Device Management 以及 Amazon FreeRTOS ,在 AWS IoT 页面中还有其他一些服务可以帮到您。

机器学习 (ML) – 可以使用大规模数据集和统计学算法进行训练的系统,并用于通过全新数据进行推断。在 Amazon, 我们使用机器学习来驱动您在购物时可以看到的推荐功能、优化物流中心的路线、控制无人机以及许多其他应用。我们支持领先的机器学习框架,例如 TensorFlow MXNet ,并利用 Amazon SageMaker 使机器学习变得简单易用。我们还提供用于图像和视频的 Amazon Rekognition ,用于聊天机器人的 Amazon Lex 以及一系列用于文本分析翻译语音识别文本转语音的语言服务。

边缘计算 – 在不同位置计算资源并制定决策的能力,通常针对与云端仅有间歇性的连接或者无连接的场景。 AWS Greengrass 建立于 AWS IoT,使您能够运行 Lambda 功能,并且在未连接网络的情况下也能保持设备状态同步。

边缘上的机器学习推断
现在我们要将所有这三种重要的新技术融合在一起!您现在可以使用 AWS Greengrass 在边缘执行机器学习推断。这使您可以借助 AWS 云(包括配备 GPU 的快速、强大示例)的力量构建、训练并测试您的机器学习模型,之后再将其部署至我提到的运行于工厂、车辆、矿井、农田和房屋的小型、低功率、间歇性连接的物联网设备中。

以下是 Greengrass ML Inference 众多应用中的一部分:

精细农作 – 世界人口的不断增长,粮食产量也受不可预测的天气影响,利用技术提高产量的面临巨大的机遇。智能设备在农田中并非徒有其名,它可以处理土壤、植物、害虫和农作物的图像,执行本地校正措施并向云端发送状态报告。

人身安全 – 智慧设备(包括 AWS DeepLens )可以在本地处理图像和场景、查找物体、监视变更甚至检测人脸。一有风吹草动,设备就会将图像或视频传送至云端并使用 Amazon Rekognition 进行检测。

工业维护 – 智能、本地监控可以提升操作效率并减少意外停机。监控器可以针对对功耗、噪声级别以及震动运行推断操作,并标记异常现象、预测故障、检测故障设备。

Greengrass ML Inference 概览
这项 AWS 新功能有几个不同的方面:让我们了解一下每个方面:

机器学习模型预编译的 TensorFlow 和 MXNet 库,针对 NVIDIA Jetson TX2 和 Intel Atom 设备上的产品使用,及 32 位 Raspberry Pi 设备上的开发进行了优化。优化的库可利用边缘上的 GPU 和 FPGA 加速器,提供快速、本地推断。

使用 AWS Greengrass 在边缘执行机器学习推断

模型构建和训练 – 使用 Amazon SageMaker 和其他基于云的机器学习工具构建、训练并测试您的模型,然后再将其部署至物联网设备。要了解更多有关 SageMaker 的信息,请参阅 Amazon SageMaker – 加速机器学习

模型部署 – SageMaker 模型可以(如果提供了适当的 IAM 许可)从您的 Greengrass 组中直接引用。你还可以利用 S3 存储桶中存储的模型。只需要点击几下你就可以向组中添加一个新的机器学习资源:

使用 AWS Greengrass 在边缘执行机器学习推断

这些新功能现已提供,您可以立即开始使用!要了解更多,请参阅执行机器学习推断

本文转载自 AWS 技术博客。

原文链接:
https://amazonaws-china.com/cn/blogs/china/new-machine-learning-inference-at-the-edge-using-aws-greengrass/

欲了解 AWS 的更多信息,请访问【AWS 技术专区】

评论

发布