Amazon SageMaker AI, 이제 훈련 및 처리 작업을 위한 인스턴스 선호 목록을 지원
Amazon SageMaker AI는 오늘 훈련 및 처리 작업을 위한 인스턴스 선호 목록을 발표했습니다. 이로써 워크로드에 필요한 컴퓨팅 파워를 더 쉽고 빠르게 찾을 수 있게 되었습니다. 많은 AI 훈련, 미세 조정 및 데이터 처리 워크로드는 여러 인스턴스 유형 또는 규모에서 비교적 잘 실행됩니다. 하지만 지금까지는 작업 제출 시 하나의 인스턴스 유형만 지정하고 SageMaker가 작업을 위한 특정 인스턴스를 찾을 때까지 기다려야 했습니다. 대기 시간을 예측할 수 없는 피크 기간 동안에는 수요가 많은 GPU의 경우 고객은 첫 번째 사용 가능한 옵션을 찾기 위해 복잡한 재시도 로직을 빌드하거나 서로 다른 인스턴스 유형으로 여러 작업을 동시에 제출해야 하는 경우가 있었습니다. 이제 워크로드가 허용하는 인스턴스 유형의 우선순위 목록을 제공하기만 하면 SageMaker는 해당 목록에서 사용 가능한 첫 번째 구성에서 작업을 자동으로 실행합니다. 이 솔루션을 사용하면 훈련 또는 처리 작업을 더 빨리 시작할 수 있습니다.
이 기능을 사용하려면 훈련 또는 처리 작업을 제출할 때 우선순위에 따라 인스턴스 유형 및 수 선호 사항을 지정합니다. 예를 들어 목록에 ml.g6.48xlarge 인스턴스 2개 또는 ml.g5.48xlarge 인스턴스 4개라는 선호 사항이 포함될 수 있습니다. SageMaker는 목록을 살펴보고 용량을 사용할 수 있는 첫 번째 구성에서 작업을 시작합니다. 또한 동일한 작업 제출 내에서 온디맨드 소스 또는 예약된 SageMaker 유연한 훈련 플랜에서 용량 소싱을 구성할 수 있습니다. 이 기능을 사용하면 이미 사용 중인 SageMaker 훈련 및 처리 작업 API 내에서 수요가 높은 기간 동안 작업을 위한 컴퓨팅을 확보하는 프로세스를 간소화하고, 이 기능이 없었다면 수동으로 반복해야 했을 단순한 재시도 작업을 줄일 수 있습니다.
SageMaker 훈련 및 처리 작업을 위한 인스턴스 선호 목록은 현재 SageMaker CLI, API, SDK 및 Console UI를 통해 SageMaker를 사용할 수 있는 모든 AWS 리전에서 사용할 수 있습니다. 자세한 내용은 설명서 또는 출시 블로그를 참조하세요.