Veröffentlicht am: Feb 5, 2018

Version 0.2 von Model Server for Apache MXNet (MMS), eine Open-Source-Bibliothek für Apache MXNet, ist jetzt verfügbar, um Deep-Learning-Modelle für die Inferenz im Maßstab zu verpacken und zu bedienen. Sie können MMS verwenden, um ONNX-Modelle bereitzustellen, die mit einem beliebigen ONNX-unterstützenden Deep-Learning-Framework erstellt wurden, z. B. PyTorch, Caffe2, Microsoft Cognitive Toolkit oder Chainer. ONNX, das Open Neural Network Exchange-Format ist eine Community-Initiative, die von AWS, Facebook und Microsoft vorangetrieben wird und zunehmend Unterstützung für zusätzliche Deep-Learning-Frameworks und -Plattformen bietet. Um damit zu beginnen, ONNX-Modelle zu bedienen, siehe MMS ONNX Serving-Dokumentation

Diese neue MMS-Version beinhaltet auch die Integration mit der Amazon CloudWatch-API, die die einfache und bequeme Veröffentlichung betrieblicher Kennzahlen von MMS nach CloudWatch ermöglicht. Mit dieser Integration profitieren Ingenieure von dem webbasierten Dashboard von CloudWatch, dem Echtzeit-Rendering von Messwerten und der Möglichkeit, Trigger und Warnungen zu konfigurieren. Um mit der CloudWatch-Integration für MMS zu beginnen, lesen Sie den Abschnitt MMS CloudWatch Metrics Dokumentation