投稿日: Feb 5, 2018

Apache MXNet のためのオープンソースライブラリである Model Server for Apache MXNet (MMS) のバージョン 0.2 が、スケールに応じた推論のためのディープラーニングモデルのパッケージングと供給向けに使用できるようになりました。MMS は、PyTorch、Caffe2、Microsoft Cognitive Toolkit、または Chainer といった ONNX をサポートするディープラーニングフレームワークを使って作成された ONNX モデルを供給するために使用することができます。ONNX (Open Neural Network Exchange) フォーマットは AWS、Facebook、および Microsoft によって推進されるコミュニティイニシアチブで、そのサポートはさらに多くのディープラーニングフレームワークとプラットフォームで増え続けています。ONNX モデルの供給を開始するには、MMS ONNX 供給ドキュメントを参照してください。 

この新しい MMS リリースには Amazon CloudWatch API との統合も含まれており、これによって MMS から CloudWatch への運用メトリクスのパブリッシュが容易で便利になります。この統合により、エンジニアは CloudWatch のウェブベースのダッシュボード、リアルタイムでレンダリングされるメトリクス、およびトリガーとアラートを設定する機能を活かすことができます。MMS のための CloudWatch 統合の使用を開始するには、MMS CloudWatch メトリクスドキュメントを参照してください。