張貼日期: Apr 1, 2019

我們很高興地宣布推出新的 Python 指令碼,可讓您輕鬆開始使用 Amazon Elastic Inference

Amazon Elastic Inference (EI) 可讓您將低成本的 GPU 支援加速功能附加到 Amazon EC2 和 Amazon SageMaker 執行個體,最多可節省 75% 執行深度學習推論的成本。Amazon EI 支援 TensorFlow、Apache MXNet 和 ONNX 模型,未來將會支援更多架構。目前,美國東部、美國西部、歐洲和亞太區域這四個區域提供 Amazon EI。

如果您是第一次使用 Amazon EI,設定您的環境將執行個體啟動到 Amazon EI 可能需要一些時間。您需要設定一些相依性,包括 AWS PrivateLink VPC 端點、AWS IAM 政策以及安全群組規則,才能使用 Amazon EI 加速器。Amazon EI Python 指令碼透過建立可協助您快速啟動 Amazon EI 加速器的必要資源,讓您能夠輕鬆開始使用。您可以從 GitHub 將 amazonei_setup.py 指令碼下載到本機,再使用以下命令從終端機執行該指令碼:

$ python amazonei_setup.py

此指令碼可確保正確設定所有設定值,且執行個體以使用 Amazon EI 的必要許可啟動。

如需如何使用 Amazon EI Python 指令碼的詳細資訊,請參閱 Launch EI accelerators in minutes with the Amazon Elastic Inference setup tool for EC2