发布于: Dec 1, 2019
借助 Amazon SageMaker Operators for Kubernetes，使用 Kubernetes 的开发人员和数据科学家可以更轻松地在 Amazon SageMaker 中训练、优化和部署机器学习 (ML) 模型。
客户使用 Kubernetes（一种通用的容器编排系统）来设置可重复的管道，对其工作负载保持更好的控制并使之保持更好的可移植性。但是，在 Kubernetes 中运行 ML 工作负载时，客户还必须管理和优化底层 ML 基础设施、确保高可用性和可靠性、提供 ML 工具以提高数据科学家的工作效率并遵守适用的安全性和法规要求。借助 Amazon SageMaker Operators for Kubernetes，客户可以使用 Kubernetes API 或 Kubernetes 工具（如 kubectl）调用 SageMaker，以在 SageMaker 中创建其 ML 作业并与之交互。这样一来，Kubernetes 客户既能获得 Kubernetes 和 EKS 的可移植性和标准化优势，又能通过 Amazon SageMaker 提供的完全托管的 ML 服务获益。
客户可以使用 Amazon SageMaker Operators 进行模型训练、模型超参数优化、实时推理和批量推理。对于模型训练，Kubernetes 客户现在可以利用 SageMaker 中完全托管的 ML 模型训练带来的所有优势，包括托管的 Spot 训练（可节省高达 90％ 的成本）以及分布式训练（通过扩展到多个 GPU 节点来缩短训练时间）。仅在需要时才预置计算资源、按需扩展，并在作业完成时自动关闭，以确保达到近 100％ 的利用率。对于超参数优化，客户可以使用 SageMaker 的自动模型优化功能，帮助数据科学家节省数天甚至数周的时间，提高模型的准确性。客户还可以使用 Spot 实例进行自动模型优化。对于推理，客户可以使用 SageMaker Operators 将 SageMaker 中经过训练的模型部署到完全托管的 Auto-Scaling 集群中，并分布在多个可用区，从而为实时或批量预测提供高性能和高可用性。
截至本文撰写之时，Amazon SageMaker Operators for Kubernetes 已在美国东部（俄亥俄）、美国东部（弗吉尼亚北部）、美国西部（俄勒冈）和欧洲（爱尔兰）推出。您可以从我们的用户指南和 GitHub 存储库中获取分步教程，开启学习之旅。