发布于: Nov 30, 2022
Amazon SageMaker 支持影子测试,通过将新的机器学习 (ML) 模型与生产模型进行比较,帮助您验证这些新模型的性能。使用影子测试,您可以在潜在的配置错误和性能问题对最终用户造成影响前将它们找出来。使用 SageMaker,无需再耗费数周为影子测试构建基础设施,因此您可以更快地将模型发布到生产环境中。
测试模型更新包括将生产模型收到的推理请求副本发送到新模型并跟踪其性能。然而,构建自己的测试基础设施、镜像推理请求并比较模型的性能可能需要您花上几周的时间。借助 Amazon SageMaker,您可以通过测试当前部署的生产模型的性能来评估新的 ML 模型。只需选择想要测试的生产模型,SageMaker 就会自动部署新模型进行推理。然后,SageMaker 将生产模型收到的推理请求副本路由到新模型,再创建一个实时控制面板,用于实时显示不同关键指标(包括延迟和错误率)之间的性能差异。查看性能指标并验证模型性能后,可以在生产环境中快速部署模型。
要了解更多信息,请参阅 Amazon SageMaker 影子测试网页。有关定价信息,请参阅 Amazon SageMaker 定价。除了中国(北京,由光环新网运营)、中国(宁夏,由西云数据运营)和 AWS GovCloud(美国)区域,SageMaker 对影子测试的支持现已在提供 SageMaker 推理的所有 AWS 区域正式推出。
开始使用之前,请参阅以下资源列表: