发布于: Nov 19, 2021
今天,我们宣布适用于大型分布式超参数和神经架构优化的开源 Python 库 Syne Tune 正式发布。该库可提供多个先进的全局优化器实施,例如贝叶斯优化、Hyperband 和基于群体的训练。此外,它还支持约束优化和多目标优化,并且其允许用户使用自己的全局优化算法。
利用 Syne Tune,用户可以在其设备上本地运行超参数和神经架构优化任务,或仅通过更改一行代码,在 Amazon SageMaker 上远程运行这些任务。前者是十分适合本地 CPU 和 GPU 上小型工作负载和快速试验的后端。后者十分适合大型工作负载,此类工作负载通常会带来庞大的实施开销。Syne Tune 有助于用户更轻松地将 SageMaker 作为后端使用,以在并行的 Amazon Elastic Compute Cloud (Amazon EC2) 实例上评估大量配置,从而减少时钟时间,同时利用其丰富的功能(例如,预构建的 Docker 深度学习框架镜像、EC2 竞价型实例、试验跟踪、虚拟专有网络等)。