Amazon Web Services ブログ

[AWS Black Belt Online Seminar] Amazon SageMaker 資料及びQA公開

こんにちは、ソリューションアーキテクトの石井です。

先日(2018/3/08)開催致しました AWS Black Belt Online Seminar 「Amazon SageMaker」の資料を公開いたしました。当日参加者の皆様から頂いたQAの回答と併せてご紹介致します。

Q1. 学習モデルを作るには大量の計算リソースが必要ですが、推論の処理はそこまでリソースを要しない認識です。推論で大量のGPUを有するケースは、例えばどのようなユースケースが想定されますか?

A1. 例えば,Deep Learning の推論で,レイテンシを短くしたい場合などが考えられます.もちろん学習に比べれば計算量は少ないとはいえ,推論でもネットワーク構造が複雑な場合には,一定の処理時間がかかってしまします.推論を利用するユースケースによっては,その処理時間を許容できない場合もあるかと思います.そこで CPU ではなく GPU を使用することで,例えば CPU で100ms かかっていた推論時間を 10ms に削減する,といったことが可能になり,サービス要件を満たすようになる,といったケースが考えられます.

Q2. 複数のプロジェクトを管理している場合、毎回依存ライブラリを個別ターミナルからインストールする必要がありますか?

A2. 現状の SageMaker のノートブックインスタンスでは,個別ライブラリのプリインストールを行う機能をサポートしていませんので,毎回インストールを行っていただく必要があります.ただ,必要なライブラリ群のインストール手順をまとめたスクリプトやノートブックファイルを作成しておき,インスタンスが立ち上がったらそれを S3 やコード共有リポジトリから持ってきて,実行するといったワークアラウンドが考えられます.

3/23 追記: 3/15 に追加された,ノートブックインスタンスのライフサイクル設定の機能により,インスタンスの作成時や再起動時に実行するスクリプトを記述ことができるようになりました.これをお使いいただくことで,依存ライブラリのインストールを自動化いただけます.

Q3. TensorFlowで学習する際に、学習コードに動作上の誤りがあった場合、訓練インスタンスが起動してからエラーが発覚するまで時間がかかるケースがあります。TensorFlowの学習コードに書いたmodel_fnやtrain_input_fnが正しく書けている事を確かめるために、.fit()する前に小さくテスト実行する方法はありますか?

A3. 現状では,AWS 側で pre-build したコンテナイメージは,お客さま側で pull して利用していただくことはできません.そのため,model_fn や train_input_fn については,fit() にて実行していただくしか確認方法がございません.

Q4. ハイパーパラメータチューニングはどうやって行われますか?

A4. ハイパーパラメータ最適化については,現在プレビュー公開を行なっております.下記 URL で必要事項を記入して,プレビューへの参加申し込みを行なっていただければと思います.

https://pages.awscloud.com/amazon-sagemaker-hpo-preview.html

2018/6/26 追記: ハイパーパラメータチューニングは 2018/6/15 に正式にリリースされ、誰でもご利用いただくことが可能になりました。詳しい使い方については、以下のページをご覧ください。

https://aws.amazon.com/jp/blogs/news/sagemaker-automatic-model-tuning/
https://docs.aws.amazon.com/ja_jp/sagemaker/latest/dg/automatic-model-tuning.html

 

Q5. 推論のエンドポイントはどのようなアクセス制御が出来るのでしょうか?

A5. SageMaker の推論用エンドポイントは,パブリックエンドポイントとして公開されますため,VPC 内のアプリケーションからアクセスを行う際には,アウトバウンドのインターネットアクセスを可能な形にしていただきますようお願いします.またエンドポイントの認証方式として、署名バージョン 4 を使用しておりますので,適切な権限を付与された AWS SDK 等からアクセスを行なってください.

https://docs.aws.amazon.com/AmazonS3/latest/API/sig-v4-authenticating-requests.html

以上です。

今後のAWS Black Belt Online Seminarのスケジュールは こちら です。皆様のご参加をお待ちしております。