게시된 날짜: Aug 23, 2023
이제 고객이 롤링 배포 전략을 사용하여 Amazon SageMaker 엔드포인트를 업데이트할 수 있게 되었습니다. 롤링 배포 기능을 통해 수백 개의 인기 있는 가속화된 컴퓨팅 인스턴스에 배포되어 있는 완전히 확장된 엔드포인트를 더 쉽게 업데이트할 수 있습니다.
Amazon SageMaker를 사용하면 모든 사용 사례에서 최상의 가격 대비 성능으로 ML 모델을 엔드포인트에 손쉽게 배포하고 이를 호출하여 예측(추론이라고도 함)을 수행할 수 있습니다. 이전에 SageMaker는 엔드포인트를 새 모델로 업데이트해야 하는 경우에만 블루-그린 배포를 지원했습니다. 블루-그린 배포에서는 트래픽을 기존 플릿에서 새 플릿으로 이동하기 전에 먼저 업데이트된 모델로 새 인스턴스 플릿을 프로비저닝했습니다. 따라서 새 모델로 엔드포인트를 업데이트하는 경우 엔드포인트에서 사용하는 인스턴스 수의 두 배가 필요했습니다. 롤링 배포 기능을 사용하면 트래픽이 새 엔드포인트로 이동할 때마다 기존 엔드포인트의 인스턴스가 정리되므로 엔드포인트를 업데이트하는 데 필요한 추가 인스턴스의 양이 줄어듭니다. 이 새로운 업데이트 전략은 배포 가드레일의 일부로, 이를 통해 트래픽 이동 단계의 크기를 제어할 수 있을 뿐만 아니라 기존 엔드포인트에서 인스턴스를 종료하기 전에 새 인스턴스에 문제가 있는지 모니터링하는 평가 기간을 지정할 수 있습니다.
이 기능은 Amazon SageMaker가 제공되는 모든 상업 리전의 API, SDK 및 CloudFormation을 통해 사용할 수 있습니다.
설정 방법을 비롯한 롤링 배포에 대해 자세히 알아보려면 설명서를 참조하세요. 다양한 엔드포인트 업데이트 전략에 대해 알아보려면 프로덕션 설명서의 모델 업데이트를 참조하세요.