投稿日: Nov 19, 2021
本日、ラージスケール向け配信ハイパーパラメータ向けオープンソース Python ライブラリとニューラルアーキテクチャの最適化、Syne Tone の一般提供を発表します。これは、ベイズ最適化、Hyperband および集団ベースのトレーニングなど、複数の最先端のグローバルオプティマイザーの実装を提供するものです。加えて、制約のある多目的な最適化をサポートしており、これによりユーザーは独自のグローバルな最適化アルゴリズムを使用することができます。
Syne Tune を使用すると、ユーザーはコードの 1 行だけを変更して Amazon SageMaker のマシン上またはリモートでハイパーパラメータとニューラルアーキテクチャチューニングジョブをローカルで実行できます。前者は、ローカル CPU または GPU 上のより小さいワークロードと高速の使用に最適のバックエンドです。後者は、より大きなワークロードに最適で、かなりの量の実装オーバーヘッドを伴います。Syne Tune は、SageMaker をバックエンドとして使用し、並行 Amazon Elastic Compute Cloud (Amazon EC2) インスタンス上で大量の構成を評価し、経過時間を短縮すると同時に、豊富な機能というメリットを備えています (事前構築 Docker 深層学習フレームワークイメージ、EC2 Spot インスタンス、実験追跡、仮想プライベートネットワークなど)。