AWS Greengrass 是一款软件，可让您以安全的方式在互联设备上运行本地计算、消息收发、数据缓存和同步功能。借助 AWS Greengrass，互联设备可以运行 AWS Lambda 函数、使设备数据保持同步以及与其他设备安全通信，甚至在未连接互联网的情况下也可如此。现在，借助 Greengrass Machine Learning (ML) Inference 功能，您还可以在互联设备上轻松执行本地 ML 推理。

机器学习使用可从现有数据中学习（该过程称为训练）的统计算法，以便对新数据做出决策（该过程称为推理）。在训练期间，将识别数据中的模式和关系，以建立决策制定模型。该模型允许系统基于之前从未遇到过的数据做出明智的决策。训练 ML 模型需要大量计算资源，因此和云是天然良配。但是，推理通常需要计算能力要少得多，并且往往在新数据可用时实时完成。因此，要确保您的 IoT 应用程序能够快速响应本地事件，则必须能够以非常低的延迟获得推理结果。

AWS Greengrass ML Inference 为您提供了两全其美的解决方案。您可以使用在云中构建和训练的 ML 模型，并在互联设备上本地部署和运行 ML 推理。例如，您可以在 Amazon SageMaker 中为场景检测分析构建预测模型，然后在启用 Greengrass 的监控摄像机设备上本地运行该模型，该设备中没有可在检测到访客时预测并发送提醒的云连接。

优势

轻松地在互联设备上运行 ML 推断

在联网设备上执行推断可以降低延迟，并减少将设备数据发送至云端进行预测所需的成本。Greengrass 的 ML 推理功能使您能够直接在设备上运行推理，而不是将所有数据发送到云来执行 ML 推理。仅当需要额外处理数据时，才会将其发送到云。

灵活

Greengrass ML Inference 包括预构建的 TensorFlow、Apache MXNet 和 Chainer 软件包，适用于所有由 Intel Atom、NVIDIA Jetson TX2 和 Raspberry Pi 提供支持的设备。因此，您无需从头开始为设备构建和配置 ML 框架。除了支持 TensorFlow、Apache MXNet 和 Chainer 之外，Greengrass ML 还可以与其他热门框架（包括 Caffe2 和 Microsoft Cognitive Toolkit）配合使用。借助 Greengrass ML Inference，您还可以灵活地在 Amazon SageMaker 中构建和训练 ML 模型，或者使用您自己预先训练好的存储在 Amazon S3 中的模型。

单击几下即可将模型部署到您的互联设备

AWS Greengrass ML Inference 可让您轻松地将机器学习模型从云部署到设备。只需在 Greengrass 控制台中单击几下，即可在 GG 控制台中找到经过训练的模型，选择所需的 ML 模型，然后将其部署到目标设备。您的模型将在您选择的互联设备上部署并运行。

使用 GPU 加速推断性能

AWS Greengrass ML Inference 将加速器设备作为 Greengrass 本地资源包含在 Greengrass 控制台中，从而让您能够访问设备上的硬件加速器 (比如 GPU)。

工作原理

使用案例

视频处理

AWS Greengrass ML Inference 可以部署在监控摄像头、电子警察、随身摄像头和医疗成像设备等互联设备上，以帮助它们在本地进行预测。借助 AWS Greengrass ML Inference，您可以直接在设备上部署和运行面部识别、对象检测和影像密度等 ML 模型。例如，电子警察可以统计通过路口的自行车、车辆和行人，并检测何时需要调整交通信号，以优化交通流量并确保人员安全。

零售和酒店

零售商、邮轮公司和游乐园正在投资物联网应用程序，以提供更好的客户服务。例如，您可以在游乐场运行物体检测模型以跟踪游客数量。摄像机可以定位游客，并以本地方式维持流动人数统计，而无需向云发送大量视频源。鉴于游乐场中的互联网带宽有限，向云发送视频源往往是充满挑战的。该解决方案可以预测热门主题乐园游乐设施的等待时间，帮助改善客户体验。

安全性

监控摄像机制造商正在寻找新的方法来使设备更加智能化并自动化威胁检测功能。AWS Greengrass ML Inference 可帮助改进监控摄像机的功能。启用 Greengrass 的摄像机可持续扫描建筑物以查找场景中的变化（例如访客）并发送提醒。摄像机能够快速在本地执行场景检测分析，并仅在需要时将数据发送到云，例如，执行进一步分析以确定访客是否为家庭成员。

精准农业

农业正在面临两项主要干扰。第一，世界人口不断增长，导致粮食需求量超过产量。第二，气候变化导致不可预测的天气条件，影响农作物产量。AWS Greengrass ML Inference 可帮助转变农业实践，为客户带来新价值。安装在温室和农场的由 Greengrass 提供支持的摄像机可以处理植物、农作物的图像以及来自土壤中传感器的数据，不仅能够检测环境异常（如温度、湿度和营养水平的变化），还能够触发提醒。

预测性工业维护

随着定价压力的增加，制造商正在寻找更新的方法来帮助提高工厂车间的运营效率。制造流水线上的问题检测延迟会导致时间和资源的浪费。AWS Greengrass ML Inference 可帮助您及早发现设备故障和工厂车间问题。由 Greengrass 提供支持的工业网关可以持续监控传感器数据（例如振动、噪声级）、预测异常情况并采取相关措施（例如发送提醒或关闭电源），从而最大限度地减少损失。

精选客户案例

Yanmar 利用 AWS Greengrass ML Inference 作为他们 IoT 精准农业解决方案的一部分，通过自动检测和识别蔬菜的主要生长阶段来提高温室操作智能水平。

启用 AWS Greengrass ML Inference 的 IoT 设备使 DFDS 能够预测和优化船舶推进，最终减少整个船队的燃料消耗。

AWS Greengrass ML Inference

在 AWS Greengrass 设备上行运行机器学习模型

优势