張貼日期: Feb 5, 2018

Model Server for Apache MXNet (MMS) 0.2 版是一種 Apache MXNet 開放原始碼程式庫,現在可用於大規模封裝和提供深層學習模型以進行推斷。您可以使用 MMS 來提供使用任何支援深層學習架構的 ONNX 建立的 ONNX 模型,例如 PyTorch、Caffe2、Microsoft Cognitive Toolkit 或 Chainer。ONNX (Open Neural Network Exchange 格式) 是一種由 AWS、Facebook 及 Microsoft 推動的社群計劃,同時受到了越來越多的其他深層學習架構和平台的支援。若要開始使用服務 ONNX 模型,請參閱 MMS ONNX 服務說明文件

這一全新 MMS 版本還包含與 Amazon CloudWatch API 的整合,可讓從 MMS 將操作指標發佈到 CloudWatch 的作業變得簡單便利。藉由此整合,工程師可從 CloudWatch 的 Web 儀表板、即時轉譯的指標以及設定觸發器和警示的功能中受益。若要開始使用針對 MMS 的 CloudWatch 整合,請參閱 MMS CloudWatch 指標說明文件