Publicado: Apr 4, 2018
O Apache MXNet Model Server (MMS) é uma ferramenta de criação de modelos de código aberto, criada para simplificar a implantação de modelos de aprendizado profundo em grande escala. O MMS versão 0.3 permite que os desenvolvedores configurem uma infraestrutura de criação escalável para produção, usando imagens de contêiner pré-criadas, pré-configuradas e otimizadas para cargas de trabalho de aprendizado profundo em instâncias do Amazon EC2.
As imagens de contêiner são publicadas no Docker Hub e são pré-configuradas e otimizadas tanto para hosts de CPU (instância C5.2xlarge do EC2) como para hosts de várias GPUs (instância P3.8xlarge do EC2). O MMS também oferece ferramentas para empacotar modelos de redes neurais MXNet e ONNX em um único “arquivo de modelo” que inclui todos os artefatos necessários para servir o modelo.
Para saber mais sobre o MMS, visite o model zoo e a documentação.