发布于: Aug 14, 2020
Amazon Elastic Container Service (ECS) 今天启动新的 Amazon ECS 优化推理 Amazon 系统映像 (AMI)，这是一个基于 Amazon Linux 2 的新 AMI，适用于 ECS 上的 Amazon EC2 Inf1 实例。本次发布让客户能够使用 ECS 优化推理 AMI 在 ECS 上轻松地运行基于推理的容器，该 AMI 预加载了所有必要的 AWS Neuron 程序包。
Amazon EC2 Inf1 实例可在云端提供高性能和最低成本的机器学习推理。Inf1 实例具有多达 16 个 AWS Inferentia 芯片，这是由 AWS 专门设计和打造的高性能机器学习推理芯片。借助 Inf1 实例，客户可以运行大规模机器学习推理应用程序，例如图像识别、语音识别、自然语言处理、个性化和欺诈检测。根据您的要求训练好机器学习模型之后，您可以使用 AWS Neuron 部署该模型。AWS Neuron 是一种专门的软件开发工具包 (SDK)，其中包括可优化 Inferentia 芯片机器学习推理性能的编译器、运行时和性能分析工具，并支持热门机器学习框架，例如 TensorFlow、PyTorch 或 MXNet。
客户可以使用 AWS CLI 和 ECS 控制台，通过新的 ECS 优化推理 AMI 启动 Inf1 实例，并将其添加到 ECS 集群。ECS 优化推理 AMI 版本 20200623 包括 ECS 容器代理版本 1.41.0 和 Docker 版本 1903.6-ce。