機械学習のワークフローってどうなっているの ? AWS の機械学習サービスをグラレコで解説

Amazon SageMaker では機械学習のワークロードを簡単にする機能を提供します。ここで言うワークロードというのは一体どのようなものなのでしょうか、簡単に整理してみましょう。

よく機械学習のワークロードとして登場するのは、「データの前処理」、「学習」、「推論」の 3 つです。現実ではこれら 3 つだけでは成立せず、他のワークロードと組み合わせることで実現されます。どのようなものがあるかはユーザーによって様々だとは思いますが、ここでは右の図にあるように 7 つのワークロードを考えます。

7 つのワークロードがつながってループ構造のワークフローを形成しています。お客様の実際のワークフローも一致とまではいかないまでも近いものになっているのではないでしょうか。

図にはありませんが、追加の大事なワークロードとして「モデルの構築」もあります。これは、4 番と 5 番を巡回するように処理されます。

「モデルの構築」を加えた合計 8 つのワークロードを処理するときの Amazon SageMaker の便利な機能を紹介していきます。

モデルの構築の最初のステップは学習させるモデルの種類を選択することです。線形回帰なのか、決定木なのか、それともニューラルネットワークなのか、適用する問題によって適切なモデルの種類を選択します。

モデルの種類を選択したら開発に取り掛かります。Python や R の開発環境をローカルまたはリモートに立ち上げ、モデルを構築していきます。

環境構築の負荷を下げたいのならば Amazon SageMaker Notebook Instances を利用すると良いでしょう。Amazon SageMaker Notebook Instance では Jupyter Notebook/JupyterLab を実行するためのインスタンスをフルマネージドで提供します。マネジメントコンソールや API を通して起動することができます。MXNet / TensorFlow / PyTorch / scikit-learn などのライブラリは予めインストールされているため、自身でインストールする必要はありません。また GPU を搭載したインスタンスも選択ができ、開発速度を上げることができます。先ほど説明したの「データの前処理」のワークロードでもこちらの Amazon SageMaker Notebook Instances を利用することができます。

普段使い慣れた別の IDE や開発環境がすでにある場合はもちろんそちらを利用することもできます。

ほとんどの場合、モデルはフルスクラッチで作成するのではなく、既存のモデルの改良という形で作成します。GitHub などのリポジトリにある OSS のコードなどを利用することになります。AWS でもモデルのサンプルを用意してます。こちらのサンプルには時系列予測や顧客離反分析などといったモデルのテンプレートが含まれているので、活用すると良いでしょう。

Amazon SageMaker には事前に AWS が用意したモデルのテンプレートをそのまま利用することもできます。Amazon SageMaker ではこれらのモデルを「組み込みアルゴリズム」と呼んでいます。例えば K-means や XGBoost なども組み込みアルゴリズムに含まれています。これらのアルゴリズムを使用する場合、機械学習のためのコーディングは一切せず、学習時に Amazon SageMaker SDK を通してオブジェクトを作成するだけで済みます。組み込みアルゴリズムが利用できる場合は、さらに開発コストを抑えることができます。

大量のデータで学習する場合や、条件を変えながら並行して学習する場合、多くの計算リソースが必要になります。「データの前処理」でも述べたように、このように計算リソースが大量に必要な場合はクラウドのメリットが活きてきます。必要な時に、必要な分だけリソースを用意しましょう。

Amazon SageMaker SDK を利用すると、自動で起動・停止する計算リソースを構築することができます。SDK でユーザが指定するのは、学習データ、学習コード、そしてコンテナイメージなどです。これらを指定して学習を開始する Python の関数 fit() を呼び出すことで、自動で学習がインスタンス上で開始されます。ユーザはインフラを意識する必要はありません。学習はコンテナ上で実行されます。好きなコンテナイメージを使用することもできますが、AWS が用意したイメージを利用することもできます。

こちらの Amazon SageMaker SDK は pip を利用してローカルのマシンにもインストールできるので、AWS を利用した学習をローカルのマシンから呼び出すこともできます。

自動ハイパーパラメータチューニングをしたい場合も、SDK で利用して実行することができます。

学習し終えたモデルのデータは Amazon S3 バケットに格納されます。

モデルを本番環境にデプロイする前に、そのモデルを評価する必要があります。ここで言う評価は、モデルが想定した通りの振る舞いをしてくれるかどうか、ということです。定量的に評価できる場合もありますが、定性的な評価しかできない場合もあります。どちらの場合でも、入力データは必要となります。入力データは、オフラインで取得したものか、オンラインで取得したものかによって分類することができます。

オフラインで取得したデータとは、すでに収集済みで、学習に利用可能なデータのことです。学習データは学習用・評価用の 2 種類ないし学習用・評価用・テスト用の 3 種類のデータに分割するのが一般的です。この場合のモデル評価というのは、評価用のデータに対するモデルの評価になります。

オンラインで取得したデータとは、本番環境の入力されるデータそのものとなります。ミラーリング等で別途取得してもよいかもしれません。本番用エンドポイントから一部のトラフィックだけを評価対象のモデルに流すことで評価しても良いです。この場合、致命的なモデルの欠損はあってはならないので、オフラインでの評価が問題ないモデルを利用すべきでしょう。

先ほど述べたように Amazon SageMaker では学習済みモデルを Amazon S3 バケットに保存します。評価する際に保存してあるバケットからダウンロードして、推論させることも可能です。この方法以外に Amazon SageMaker では推論 HTTP エンドポイントを作成することができます。S3 バケットに保存してあるモデルから自動的にエンドポイントを作成してくれるため、より簡単に推論計算を呼び出すことができます。

モデルの評価が問題なければ、本番環境にデプロイします。

モデルの評価と同じように推論処理でもオフラインのものとオンラインのものがあります。オフラインはいわゆるバッチ処理で推論する場合です。バッチ処理ではスループットを上げることが重要となります。一方でオンラインは (ニア) リアルタイムのレスポンスが要求されるので、いかにレイテンシを下げるかが重要となります。オフラインの場合は Amazon SageMaker Batch Transform という機能、オンラインの場合には Amazon SageMaker ホスティングサービス という機能を利用することで、インフラをほとんど意識せずに処理ができます。ここでは後者のホスティングサービスに絞って説明をしていきます。

「デプロイ」と一言で表していますが、本番環境で利用する場合は多くのことを考慮する必要があります。Web サーバーとしての作り込みや、スケーリング、負荷分散、耐障害性など、機械学習とは直接関係の部分を考える必要があります。機械学習の研究・開発を主なタスクとするユーザでは、負荷の高いタスクとなります。

Amazon SageMaker ホスティングサービスでは Amazon SageMaker SDK や API を通して HTTP エンドポイントを作成することができます。ユーザはこのエンドポイントに対してデータを含めた POST リクエストを送信すると、推論が自動的に実行されます。エンドポイントはスケーリングや負荷分散は自動で行ってくれます。また複数のモデルを 1 つのエンドポイント上にデプロイし、トラフィックをその複数にモデルに対して分散させることで、A/B テストなどを実施できます。

Amazon SageMaker で構築・学習・推論ができますが、セキュリティに関してはどうなのでしょうか ? 機密性の高いデータを扱う場合などは特にセキュリティに気をつける必要があります。

Amazon SageMaker では、インターネットアクセスが発生しないようにすることも、暗号化も可能になっています。IAM Policy によってアクセス制御や、IP addresss を絞ることも可能です。

Amazon SageMaker は東京リージョンでも利用可能です。課金対象は 3 つあります。1 つ目が計算リソースであるインスタンスに対して。2 つ目が構築・学習・推論で使用するストレージに対して。そして 3 つ目が Amazon SageMaker Notebook Instaces と Amazon SageMaker ホスティングサービスで処理されるデータの入出力に対してです。

インスタンスの料金は「単位時間あたり、いくら」で設定されており、秒単位で課金されます。値段はインスタンスタイプで変化します。例えばコンピュート最適化のインスタンスタイプである ml.c5.xlarge を Amazon SageMaker Notebook Instance として一時間使用した場合、0.3 USD の料金が発生します (2020 年 2 月 21 日の東京リージョンの値段)。

SSD ストレージの料金は「単位 GB あたり、単位月あたり、いくら」で設定されています。こちらも秒単位の課金です。ストレージの料金は 0.168 USD/GB/月 です (2020 年 2 月 21 日の東京リージョンの値段)。SSD ストレージのは最大 6TB まで増やすことができます。

データの入出力の料金は「単位 GB あたり、いくら」で設定されています。例えば入出力合計で 100 MB のデータを処理したとすると、0.008 USD の料金が発生します (2020 年 2 月 21 日の東京リージョンの値段)。