发布于: Feb 5, 2018

面向 Apache MXNet 的开放源库 Model Server for Apache MXNet (MMS) 现推出 0.2 版,可以封包和服务深度学习模型,实现大规模推断功能。MMS 可以服务使用任何支持 ONNX 的深度学习框架创建的 ONNX 模型,例如 PyTorch、Caffe2、Microsoft Cognitive Toolkit 或 Chainer。ONNX 是开放神经网络交换 (Open Neural Network Exchange) 格式的缩写,是 AWS、Facebook 与 Microsoft 联合推动的一个社区倡议,获得越来越多的深度学习框架和平台支持。有关如何开始服务 ONNX 模型的说明,请参阅 MMS ONNX 服务文档

新发布的 MMS 版本还包括与 Amazon CloudWatch API 集成功能,从而可以轻松方便地将来自 MMS 的运行指标发布到 CloudWatch。借助这一集成功能,工程师可以受益于 CloudWatch 的网页式控制面板、实时指标渲染以及触发和提醒配置等功能。有关如何将 CloudWatch 与 MMS 集成的说明,请参阅 MMS CloudWatch Metrics 文档