Amazon SageMaker Studio 现在支持 SOCI 索引,可缩短容器启动时间
今天,AWS 宣布为 Amazon SageMaker Studio 提供 SOCI(Seekable Open Container Initiative)索引支持,在使用自定义映像时,将容器启动时间缩短 30-50%。Amazon SageMaker Studio 是一个基于浏览器的完全集成式环境,用于端到端机器学习开发。SageMaker Studio 为 TensorFlow、PyTorch 和 Scikit-learn 等常见机器学习框架提供预构建的容器映像,可以快速设置环境。但是,当数据科学家需要使用额外的库、依赖项或配置为特定使用案例定制环境时,他们可以使用预配置的组件构建和注册自定义容器映像,以确保项目之间的一致性。随着机器学习工作负载变得越来越复杂,这些自定义容器映像也越来越大,导致启动时间长达几分钟,这给迭代机器学习开发带来了瓶颈,在迭代机器学习开发中,快速试验和快速原型设计至关重要。
SOCI 索引通过启用容器映像的延迟加载,仅下载必要的组件来启动应用程序,并根据需要按需加载其他文件,来应对这一挑战。环境在后台完成初始化的同时,用户即可在几秒钟内开始高效工作,而无需等待几分钟来完成自定义映像下载。要使用 SOCI 索引,请使用 Finch CLI、nerdctl 或 Docker 等工具通过 SOCI CLI 为自定义容器映像创建 SOCI 索引,将已编制索引的映像推送到 Amazon Elastic Container Registry(ECR),并在创建 SageMaker 映像资源时引用映像索引 URI。
SOCI 索引已在提供 Amazon SageMaker Studio 的所有 AWS 区域推出。要了解有关如何为 SageMaker Studio 自定义映像实施 SOCI 索引的更多信息,请参阅《Amazon SageMaker 开发人员指南》中的自带 SageMaker 映像。