張貼日期: Nov 28, 2018
Amazon SageMaker Neo 讓客戶只要訓練模型一次,就能隨處執行它們,並有高達兩倍的效能改善。在邊緣連線裝置上執行的應用程式對於機器學習模型的效能特別敏感。它們需要低延遲的決策,而且通常是跨各式各樣的廣泛硬體平台部署。Amazon SageMaker Neo 針對各種特定的硬體平台編譯了各種模型,並自動優化它們的效能,讓它們在上線時能以高達兩倍的效能來執行,而不會損失任何準確性。因此,開發人員不再需要花時間針對每種硬體平台逐一手動調整他們訓練過的模型 (節省了時間和費用)。SageMaker Neo 支援的硬體平台包含 NVIDIA、Intel、Xilinx、Cadence 和 Arm,也支援常見架構,如 Tensorflow、Apache MXNet 和 PyTorch。
Amazon SageMaker Neo 於今天在維吉尼亞北部、奧勒岡、俄亥俄及愛爾蘭 AWS 區域正式上市。如需詳細資訊,請參閱產品網頁。