Apache MXNet Model Server 针对可扩展的模型服务添加容器支持

Apache MXNet Model Server (MMS) 是开源模型服务工具，用于简化大规模部署深度学习模型的程序。MMS 0.3 版可让开发人员使用预构建的针对 Amazon EC2 实例上深度学习工作负载预预配置及优化的容器镜像，建立可扩展的服务基础设施用于生产。

容器镜像会发布至 Docker Hub，并针对 CPU 主机 (EC2 C5.2xlarge 实例) 和多 GPU 主机 (EC2 P3.8xlarge 实例) 预配置及优化。MMS 还提供工具将 MXNet 和 ONNX 神经网络模型封装至单个 “模型存档”，其中包含服务模型需要的所有制品。

如需进一步了解 MMS，请访问 Model Zoo 和说明文档。