Publicado en: Feb 5, 2018

La versión 0.2 de Model Server for Apache MXNet (MMS), una librería de código abierto para Apache MXNet, ya está disponible para empaquetar y servir de modelos de aprendizaje profundo para operaciones de inferencia a escala. Puede utilizar MMS para servir modelos ONNX creados con cualquier marco de aprendizaje profundo compatible con ONNX, como por ejemplo PyTorch, Caffe2, Microsoft Cognitive Toolkit o Chainer. ONNX, el formato libre de intercambio de redes neurales (Open Neural Network Exchange) es una iniciativa popular impulsada por AWS, Facebook, y Microsoft que cuenta con un creciente apoyo en otras plataformas y marcos de aprendizaje profundo. Para empezar a servir modelos ONNX, consulte la documentación de servicio a ONNX de MMS

Esta nueva versión de MMS también incluye la integración con la API de Amazon CloudWatch, que facilita la publicación de métricas operacionales de MMS en CloudWatch. Gracias a esta integración, los ingenieros pueden aprovechar el panel web de CloudWatch, la representación de métricas en tiempo real y la posibilidad de configurar alertas y disparadores. Para comenzar a trabajar con la integración de CloudWatch para MMS, consulte la documentación de métricas de MMS en CloudWatch