亚马逊AWS官方博客

Tag: Inf1

在基于 AWS Inferentia 的 Inf1 实例上部署 TensorFlow OpenPose,借此显著提高资源性价比

在本文中,我们分步完成了对OpenPose TensorFlow版开源模型的编译,更新自定义端到端图像处理管道,并体验了能够在EC2 Infi1实例之上对ML推理时间做出分析及深度优化的工具。在调优之后,Neuron编译的TensorFlow模型较现有费率最低的GPU实例实现72%的成本节约,且性能仍旧保持一致。本文中阐述的各项操作步骤,也适用于其他ML模型类型与框架。关于更多详细信息,请参阅AWS Neuron SDK GitHub repo。