发布于: Feb 5, 2018
面向 Apache MXNet 的开放源库 Model Server for Apache MXNet (MMS) 现推出 0.2 版，可以封包和服务深度学习模型，实现大规模推断功能。MMS 可以服务使用任何支持 ONNX 的深度学习框架创建的 ONNX 模型，例如 PyTorch、Caffe2、Microsoft Cognitive Toolkit 或 Chainer。ONNX 是开放神经网络交换 (Open Neural Network Exchange) 格式的缩写，是 AWS、Facebook 与 Microsoft 联合推动的一个社区倡议，获得越来越多的深度学习框架和平台支持。有关如何开始服务 ONNX 模型的说明，请参阅 MMS ONNX 服务文档。
新发布的 MMS 版本还包括与 Amazon CloudWatch API 集成功能，从而可以轻松方便地将来自 MMS 的运行指标发布到 CloudWatch。借助这一集成功能，工程师可以受益于 CloudWatch 的网页式控制面板、实时指标渲染以及触发和提醒配置等功能。有关如何将 CloudWatch 与 MMS 集成的说明，请参阅 MMS CloudWatch Metrics 文档。
2021 年 9 月 27 日修改 – 为了确保良好的体验，此帖子中过期的链接已被更新或从原始帖子中删除。