張貼日期: Apr 4, 2019

Amazon SageMaker 是一種用於建構、訓練和部署機器學習模型的全受管服務,現在支援隨機搜尋作為一種調整策略,並在使用自動模型調整時,支援多個超參數擴展選項。

透過 Automatic Model Tuning 的隨機搜尋,客戶可以在搜尋空間中隨機選擇超參數組合,而不是使用預設的迭代方法,同時執行所有的調整試驗,從而實現更快的結果。雖然兩種方法都可以產生高度精確的模型,但隨機搜尋可能無法產生與預設值相同的精度水平。因此,當速度比獲得盡可能高的準確度更重要時,客戶應實作隨機搜尋。

Amazon SageMaker 還引入了在 Automatic Model Tuning 期間,使用日誌擴展和反向日誌擴展超參數擴展方法的選項。預設情況下,SageMaker 假定超參數值是均勻分佈,並使用線性擴展來選擇搜尋範圍中的值。然而,對於某些類型的超參數,這可能不是最有效的方法,例如有一種學習速率,它的典型值跨越多個數量級而且分佈不均勻。至於每一個需要調整的超參數,客戶可以依靠 SageMaker 自動確定擴展方法,也可以手動選擇擴展方法。

目前只要有 Amazon SageMaker 旳所有 AWS 區域,均提供 Automatic Model Tuning 的超參數隨機搜尋和自動擴展功能。如需詳細資訊,請參考這裡的相關部落格。