張貼日期: May 11, 2020
現已提供可使用 Elastic Inference 的 AWS Deep Learning Containers,框架版本為 PyTorch 1.3.1、TensorFlow 1.15.0 及 TensorFlow 2.0.0。PyTorch 1.3.1 升級包括新增的 SageMaker Inference 與 SageMaker PyTorch Inference。TensorFlow 1.15.0 與 TensorFlow 2.0.0 升級包括最新版 TensorFlow Model Server,可搭配 Elastic Inference 使用。您可以在 Amazon SageMaker、Amazon EC2 和 Amazon Elastic Container Service (Amazon ECS) 上啟動新版的 Deep Learning Containers。如需這些 Deep Learning Containers 支援的套件和版本的完整清單,請參閱版本備註。
搭配 Amazon Elastic Inference (EI) 的 AWS Deep Learning Containers 支援 PyTorch 與 TensorFlow,可讓您在 Elastic Inference 加速器上執行 PyTorch 1.3.1、TensorFlow 1.15.0 及 TensorFlow 2.0.0 推論呼叫。Amazon EI 可讓您將低成本的 GPU 支援加速功能附加到 Amazon EC2 和 Amazon SageMaker 執行個體和 Amazon ECS 任務,最多可節省 75% 執行深度學習推論的成本。這些 Docker 映像檔已針對 Amazon SageMaker、EC2 和 ECS 進行測試。掃描這些映像中的所有軟體元件是否存在安全漏洞,並根據 AWS 安全最佳實務進行更新或修補。
用於培訓和推論的 AWS Deep Learning Containers 現已提供 TensorFlow 1.15.2 和 2.1.0 適用的最新版框架。TensorFlow 升級包括最新版的 SMDebug、Sagemaker-tensorflow-training 及 Sagemaker-container。您可以在 Amazon SageMaker、Amazon Elastic Kubernetes Service (Amazon EKS)、自我管理 Kubernetes on Amazon EC2 和 Amazon Elastic Container Service (Amazon ECS) 上啟動新版的 Deep Learning Containers。如需 AWS Deep Learning Containers 支援的框架和版本的完整清單,請參閱版本備註。
適用於 TensorFlow 的 AWS Deep Learning Containers 包括用於在 CPU 和 GPU 上進行培訓的容器,並針對 AWS 的效能與規模進行最佳化。這些 Docker 映像已透過 Amazon SageMaker、EC2、ECS 與 EKS 進行測試,並提供 NVIDIA CUDA、cuDNN、Intel MKL 與其他必要軟體元件的穩定版本,為深度學習工作負載提供無縫的使用者體驗。掃描這些映像中的所有軟體元件是否存在安全漏洞,並根據 AWS 安全最佳實務進行更新或修補。
如需更多詳細資訊,請參閱 Marketplace,如需提供可用的容器清單,請參閱文件。開發人員指南提供入門指南和初階到進階教學課程,可供您快速開始使用 AWS Deep Learning Containers。您也可以訂閱我們的開發論壇,以掌握最新消息及發文提問。