Amazon SageMaker Edge

轻松操作在边缘设备上运行的机器学习(ML)模型

优化在 TensorFlow、MXNet、PyTorch、XGBoost 和 TensorFlow Lite 中训练的模型,以便能将它们部署在任何边缘设备上

在独立于固件和应用程序更新的设备群中部署模型

通过智能数据捕获持续改进模型,以进行模型再训练

从边缘服务器到智能相机和物联网传感器,为任何设备群创建自动化 MLOps 管道

建立和完善模型,以随着时间的推移提高准确性

借助 SageMaker Edge Agent,您可以根据您设置的触发器捕获数据和元数据,以便能使用真实数据重新训练现有模型或构建新模型。此外,此数据可用于进行您自己的分析,如模型漂移分析。

SageMaker Edge – 捕获边缘设备中的数据 – Amazon Web Services(6:24)

您选择的部署方法

我们提供三种部署方案。GGv2(~大小 100MB)是一种完全集成的 AWS IoT 部署机制。对于设备容量有限的客户,我们在 SageMaker Edge 中提供了较小的内置部署机制。对于拥有首选部署机制的客户,我们支持可以插入到我们用户流程中的第三方机制。

SageMaker Edge – 快速设备设置演示 – Amazon Web Services(8:21)

可视化控制面板,用于监控您的设备机群

Amazon SageMaker Edge Manager 提供了控制面板,以便于您了解整个机群中每台设备上运行的模型的性能。控制面板可帮助您直观地了解整个队列的运行状况,并通过控制台中的控制面板发现有问题的模型。发现问题之后,您可以收集模型数据、重新标记数据、重新训练模型以及重新部署模型。

针对各种设备优化机器学习模型

Amazon SageMaker Edge Compiler 自动优化机器学习模型,以便在各种边缘设备上进行部署。SageMaker Edge Compiler 可以将您训练之后的模型编译为可执行格式,用于应用性能优化选项,使模型在目标硬件上的运行速度提高多达 25 倍。

SageMaker Edge – 编译演示 – Amazon Web Services(5:49)

支持安全性与合规性

Amazon SageMaker Edge 使用客户提供的密钥或 AWS 密钥对机器学习模型进行签名,以此打包该模型。在将模型加载到运行时之前,Edge Agent 会验证签名并验证模型是否未被篡改。
 
SageMaker Edge – 打包模型演示 – Amazon Web Services(4:24)

客户

Levnovo 客户徽标

全球第一大 PC 制造商 Lenovo™ 最近将 Amazon SageMaker 纳入其最新的预测性维护产品中。 

“新的 SageMaker Edge Manager 将帮助消除部署后优化、监控和持续改进模型所需的手动工作。在它的帮助下,我们预计我们的模型将比其他类似机器学习平台运行得更快、消耗的内存更少。SageMaker Edge Manager 允许我们在边缘自动对数据进行采样,将其安全地发送到云中,并在部署后持续监控每个设备上每个模型的质量。这使我们能够远程在全球的边缘设备上监控、改进和更新模型,同时节省我们与客户的时间与成本。”

Lenovo PC 和智能设备云与软件副总裁 Igor Bergman

Basler 客户徽标

Basler AG 是为工业、医药、运输和其他各种市场提供高质量数码相机和配件的领先制造商。

“Basler AG 在众多行业中提供智能计算机视觉解决方案,包括制造、医疗和零售应用。我们很高兴通过 Amazon SageMaker Edge Manager 带来的新功能来扩展我们的软件产品。为了确保我们的机器学习解决方案具有可靠的性能,我们需要一个可扩展的边缘到云机器学习运营工具来帮助我们持续监控、维护和改进边缘设备上的机器学习模型。SageMaker Edge Manager 允许我们在边缘自动对数据进行采样,将其安全地发送到云中,并在部署后持续监控每个设备上每个模型的质量。这使我们能够远程在全球的边缘设备上监控、改进和更新模型,同时节省我们与客户的时间与成本。”

Basler 软件解决方案主管 Mark Hebbel

资源

博客

在边缘处构建 ML 模型

博客

在边缘处操作 ML 模型

研讨会

SageMaker Edge Manager

视频

具有 Amazon SageMaker Edge Manager 的边缘设备的 MLOps

新增内容

日期(最新到最老)
  • 日期(最新到最老)
1
未找到任何结果