投稿日: Sep 16, 2022
Amazon SageMaker 自動モデルチューニングを使用すると、ハイパーパラメータ構成の最適なセットを検索することで、機械学習モデルの最も正確なバージョンを見つけられます。SageMaker 自動モデルチューニングでは、Hyperband のサポートを開始しました。コンピュータビジョンの問題に対処するディープニューラルネットワークなどの大規模モデルにおいて、Hyperband はベイズ検索より最大 3 倍速くハイパーパラメータ構成の最適なセットを見つけます。
今回のリリース以前は、ランダム検索またはベイズ検索によってモデルをチューニングするオプションがありました。これらの検索では、チューニングの一環として起動された各トレーニングジョブが完了するまで実行されていました。Hyperband は新しいマルチフィデリティのチューニング戦略で、トレーニングジョブの中間と最終の両方の結果を使って有望なハイパーパラメータ構成にリソースを動的に再配置して、パフォーマンスが低いトレーニングジョブを停止します。複数のエポックでトレーニングされたニューラルネットワークや複数のラウンドでトレーニングされた勾配ブースト決定木など、異なるリソースレベルで結果を出力する反復アルゴリズムをチューニングする際、Hyperband は最適なハイパーパラメータ構成をランダムまたはベイズ検索より最大 3 倍速く見つけられます。