AWS IoT Greengrass ML Inference

AWS IoT Greengrass 支持使用在云中创建、训练和优化的模型，轻松在设备本地执行机器学习推理。借助 IoT Greengrass，您可以灵活地使用在 Amazon SageMaker 中训练的机器学习模型，或使用您在 Amazon S3 中存储的已经预先训练好的模型。

机器学习使用根据现有数据所学习（该过程称为训练）的统计算法，以便对新数据做出决策（该过程称为推理）。在训练期间，将识别数据中的模式和关系，以建立模型。该模型让系统能够对之前从未遇到过的数据做出明智的决策。优化模型过程中会压缩模型大小，以便快速运行。训练和优化机器学习模型需要大量计算资源，因此与云是天然良配。但是，推理需要的计算能力要少得多，并且往往在有新数据可用时实时完成。要想确保您的 IoT 应用程序能够快速响应本地事件，则必须能够以非常低的延迟获得推理结果。

IoT Greengrass 为您提供了两全其美的解决方案。您可使用在云中构建、训练和优化的机器学习模型，并在设备上本地运行推理。例如，您可在 SageMaker 中构建预测模型以用于场景检测分析，对其进行优化以便在任何摄像机上运行，然后部署该模型以便预测可疑活动并发送警报。在 IoT Greengrass 上运行推理过程所收集到的数据可发送回 SageMaker，然后就地标记，并用于不断提高机器学习模型的质量。