Apache MXNet Model Server, 확장 가능 모델 서빙을 위한 컨테이너 지원 추가

Apache MXNet Model Server(MMS)는 규모에 따른 딥러닝 모델의 배포를 간소화하도록 설계된 오픈 소스 모델 서빙 도구입니다. MMS 버전 0.3을 사용하는 개발자는 사전 제작되어 Amazon EC2 인스턴스의 딥러닝 워크로드에 맞게 사전 구성 및 최적화된 컨테이너 이미지를 사용하여 확장 가능한 프로덕션용 서빙 인프라를 설정할 수 있습니다.

컨테이너 이미지는 Docker Hub에 게시되며 CPU 호스트(EC2 C5.2xlarge 인스턴스)와 다중 GPU 호스트(EC2 P3.8xlarge 인스턴스) 모두에 맞게 사전 구성 및 최적화됩니다 또한 MMS는 MXNet 및 ONNX 신경망 모델을 모델 서빙에 필요한 모든 요소를 포함하는 하나의 "모델 아카이브"로 패키지하는 도구를 제공합니다.

MMS에 대한 자세한 내용은 model zoo 및 설명서를 참조하십시오.