AWS Deep Learning AMI に TensorFlow 1.5 と新しい Model Serving 機能が追加されました

AWS Deep Learning AMI は、機械学習を迅速かつ簡単に開始する支援となります。AMI には、機械学習の実践者の多様なニーズに応えるさまざまなプレビルドのオプションが含まれています。ディープラーニングのフレームワークの最新バージョンをご希望の方には、Deep Learning AMI は、別々の Conda ベースの仮想環境にインストールされたプレビルドのピップバイナリを提供します。高度なフレームワーク機能をテストしたり、フレームワークのソースコードを調整したりするのをお求めの方のために、ソースコード付きの Deep Learning AMI では、ソースからフレームワークのカスタムインストールを提供します。これらはしばしば、ストックバイナリでは利用できない高度な最適化でビルドされます。

Volta GPU での TensorFlow によるより速いトレーニング

ソースコード付き AMI には、TensorFlow 1.5.0-rc1 が付属します。このプレリリースバージョンの TensorFlow は、EC2 P3 インスタンスに電力を供給する V100 Volta GPU を利用する NVidia CUDA 9 および cuDNN 7 ドライバをサポートします。当社のテストでは、ResNet-50 ベンチマークを合成 ImageNet データで fp-16 モードで p3.8xlarge インスタンスでトレーニングすると、TensorFlow 1.4.1 でのトレーニングよりも 1.8 倍高速になりました。これはプレリリースバージョンであるため、本番環境で使用する前にテストしてください。

Ubuntu と Amazon Linux 用の Deep Learning AMI で、CUDA 8 と cuDNN 6 が動作する TensorFlow 1.4.1 のストックバージョン向けにプレビルドされた Conda ベースの仮想環境を手に入れましょう。Conda ベースの AMI には、TensorFlow モデルトレーニングの監視とデバッグのための可視化ツールである TensorBoard も付属しています。TensorBoard を使い始めるには、ステップバイステップガイドをご覧ください。

最新のディープラーニングのフレームワーク

Conda ベースの Deep Learning AMI には、一般的なディープラーニングフレームワークの最新バージョンが付属しています。これは Caffe のディープラーニングフレームワークをサポートしており、Keras 2.1.3、Microsoft Cognitive Toolkit 2.3.1、Theano 1.0 が含まれています。

ディープラーニングモデルをすばやくデプロイしてテストします

新しい AMI には、トレーニングされたモデルの推論エンドポイントをすばやく作成するためのアップデートが含まれています。これでより迅速にビジネスアプリケーションでモデルをテスト、検証、統合することができ、実際のプロトタイプを開発するのにかかる時間を短縮できます。

TensorFlow の Conda ベースの仮想環境には、TensorFlow Serving がプリインストールされています。TensorFlow Serving は、エクスポートされた TensorFlow モデルを使用し、それをホストする gRPC サービスを実行するサーバーを作成します。さらに、Apache MXNet ユーザーは、モデルに HTTP ベースの推論 API を迅速にデプロイするために、MXNet Model Server の利点を利用することができます。モデルをすばやくエクスポートし、サーバーをホストし、推論 API をテストするには、TensorFlow Serving と MXNet Model Server を開始するためのチュートリアルを使用してください。

最新のディープラーニングのプラットフォーム

Ubuntu と Amazon Linux オペレーティングシステムの両方の AMI はすべて、最新の NVidia GPU ドライバとオペレーティングシステムのバージョンで更新されています。スペクターとメルトダウンの脆弱性に対処するセキュリティパッチが追加されました。

AWS Deep Learning AMI の使用開始

AWS Deep Learning AMI の使用開始は簡単です。当社で選ぶ AMI トピックは、お客様のディープラーニングプロジェクトに適した AMI を選ぶための支援となります。また、AWS で初めてのディープラーニングモデルを迅速にデプロイするためのチュートリアルや開発者向けのリソースも多数用意されています。

AMI の最新リリースは、AWS Marketplace で入手できます。

プレビルドのピップバイナリを別の仮想環境にインストールした Deep Learning AMI：

• Deep Learning AMI (Ubuntu)
• Deep Learning AMI (Amazon Linux)

ソースコードから構築されたフレームワークを持つ AMI：

• Deep Learning AMI とソースコード (CUDA 9、Ubuntu)
• Deep Learning AMI とソースコード (CUDA 9、Amazon Linux)

今回のブログの投稿者について

Sumit Thakur は AWS Deep Learning のシニアプロダクトマネージャーです。特に Deep Learning AMI のエンジンを使いやすくすることに焦点を当て、ユーザーがクラウドでディープラーニングを開始しやすくする製品を担当しています。自然に触れたり、SF の TV シリーズ鑑賞が趣味です。