发布于: Apr 4, 2019

Amazon SageMaker 是一种用于构建、训练和部署机器学习模型的完全托管服务,现在支持随机搜索作为优化策略,并在使用自动优化调整时支持多个超参数缩放选项。

通过自动模型优化使用随机搜索,客户可以通过在搜索空间中随机选择超参数组合,而不是默认使用的迭代方法,同时运行所有调优试验,从而实现更快的结果。虽然这两种方法都可以产生高度精确的模型,但随机搜索可能无法产生与默认值相同的精确度。因此,当速度的重要性高于获得尽可能高的准确度时,客户应实施随机搜索。

在自动模型优化期间,Amazon SageMaker 还引入了使用日志缩放和反向日志缩放超参数缩放方法的选项。默认情况下,SageMaker 假定超参数值的均匀分布,并使用线性缩放来选择搜索范围中的值。然而,对于某些类型的超参数,这可能不是最有效的方法,例如其典型值跨越多个数量级且不均匀分布的学习速率。对于每个要优化的超参数,客户可以依靠 SageMaker 自动确定缩放方法,也可以手动选择缩放方法。

在 Amazon SageMaker 目前上市的所有 AWS 区域中,均推出自动模型优化中的随机搜索和超参数自动缩放。有关更多信息,请访问此处的相关博客。