기계 학습에 Amazon SageMaker의 완전 관리형 기능을 사용하는 동시에, 파이프라인 관리 및 오케스트레이션을 위해 Kubernetes를 계속 사용할 수 있습니다. SageMaker를 통해 사용자는 SageMaker용 Kubernetes Operators를 사용하여 모델을 훈련하고 배포할 수 있습니다. Amazon SageMaker Components for Kubeflow Pipelines를 사용하면 기계 학습 작업을 실행하기 위해 Kubernetes 클러스터를 특별히 구성 및 관리할 필요 없이 데이터 레이블 지정, 완전 관리형의 대규모 하이퍼파라미터 튜닝 및 분산 훈련 작업, 안전하고 확장 가능한 원클릭 모델 배포 같은 강력한 SageMaker 피처를 활용할 수 있습니다. 

Amazon Elastic Inference를 사용하면 코드 변경 없이 Amazon SageMaker 인스턴스 유형에 GPU 지원 추론 가속을 적절한 양만 연결할 수 있습니다. 또한 애플리케이션의 전체 CPU 및 메모리 요구 사항에 가장 적합한 인스턴스 유형을 선택한 후 리소스를 효율적으로 사용하고 추론 실행 비용을 절감하는 데 필요한 양의 추론 가속을 별도로 구성할 수 있습니다. 

Amazon SageMaker를 사용하면 한 번의 클릭으로 프로덕션 환경에 학습된 모델을 배포하여, 실시간 또는 배치(batch) 데이터에 대한 예측 생성을 시작할 수 있습니다. 높은 중복성을 위해 모델을 여러 가용 영역에 걸쳐 Auto Scaling Amazon ML 인스턴스에 클릭 한 번으로 배포할 수 있습니다. SageMaker가 인스턴스를 시작하고 모델을 배포하며 애플리케이션에 대한 안전한 HTTPS 엔드포인트를 설정합니다.

Amazon SageMaker는 많은 수의 사용자 지정 기계 학습 모델을 배포하는 확장 가능하고 비용 효과적인 방법을 제공합니다. SageMaker 다중 모델 엔드포인트를 사용하면 단일 엔드포인트에서 한 번의 클릭으로 여러 모델을 배포하고 단일 지원 컨테이너를 사용하여 제공할 수 있습니다.