投稿日: Apr 4, 2019
機械学習モデルを構築、トレーニング、デプロイするためのフルマネージド型サービスである Amazon SageMaker では、自動モデルチューニングを使用する際のチューニング戦略としてのランダム検索および複数のハイパーパラメータスケーリングオプションのサポートを開始しました。
自動モデルチューニングによるランダム検索を使用すると、デフォルトで使用される反復的なアプローチではなく、検索スペースでハイパーパラメータの組み合わせをランダムに選択し、すべてのチューニングの試行を同時に実行することで、より迅速に結果を得ることができます。どちらの方法でも非常に正確なモデルを作成できますが、ランダム検索ではデフォルトと同程度の精度が得られない場合があります。したがって、可能な限り最高レベルの精度を得ることよりもスピードが重要である場合は、ランダム検索を実装するべきです。
Amazon SageMaker では、自動モデルチューニング中にログスケーリングとリバースログスケーリングのハイパーパラメータスケーリング方法を使用するオプションも導入されました。デフォルトでは、SageMaker はハイパーパラメータ値が均一に分散されること前提としており、線形スケーリングを使用して検索範囲内の値を選択します。ただし、標準値が数桁に及び均一に分布されていない学習レートなど、一部のタイプのハイパーパラメータによっては最も効率的な方法ではない可能性があります。チューニングされるハイパーパラメータごとにスケーリング方法を自動的に決定するか、手動で選択するかを SageMaker に任せることができます。
自動モデルチューニングでのランダム検索とハイパーパラメータの自動スケーリングは、現在 Amazon SageMaker を利用できるすべての AWS リージョンでご利用いただけます。詳細については、こちらから関連ブログを参照してください。