張貼日期: Oct 25, 2019
Amazon SageMaker Neo 現已於中東 (巴林) 區域推出。Amazon SageMaker Neo 讓開發人員只需訓練機器學習模型一次，即可在雲端和邊緣的任何地方執行。Amazon SageMaker Neo 能優化模型，讓執行速度快達兩倍，記憶體使用量不到十分之一，而且不會降低準確性。
開發人員花費大量時間和精力提供準確的機器學習模型，以便以快速、低延遲的方式進行即時預測。這對邊緣裝置尤其重要，因為其記憶體和處理能力往往受到高度限制，但延遲非常重要。Amazon SageMaker Neo 可自動優化機器學習模型。首先使用 MXNet、TensorFlow、PyTorch 或 XGBoost 建立的機器學習模型，然後透過 Amazon SageMaker 進行訓練。接著從 Intel、NVIDIA 或 ARM 中選擇目標硬體平台。只需按一下滑鼠，SageMaker Neo 就會將訓練好的模型編譯成可執行檔。編譯器使用神經網路找出所有特定效能優化並加以套用，讓模型以最有效率的方式在目標硬體平台上執行。接著，您就能部署該模型，開始在雲端或邊緣進行預測。