Amazon SageMaker HyperPod 레시피 발표
Amazon SageMaker HyperPod 레시피를 사용하면 최첨단 성능으로 몇 분 만에 일반에 공개된 파운데이션 모델(FM)의 훈련과 미세 조정을 시작할 수 있습니다. SageMaker HyperPod를 사용하는 고객은 기본 제공 복원력 및 성능 최적화 기능을 활용하여 수백, 수천 가지 AI 엑셀러레이터가 포함되도록 생성형 AI 모델 개발 규모를 조정함으로써 모델 훈련 시간을 40%까지 단축할 수 있습니다. 그러나 FM 크기가 계속 커져 파라미터 수가 수천억 개가 되면 이러한 모델을 사용자 지정하는 프로세스를 몇 주에 걸쳐 진행하여 광범위한 실험과 디버깅을 수행해야 할 수 있습니다. 또한 현실적으로 훈련 최적화를 수행해 가성비를 높이기가 어려운 고객도 많습니다. 이러한 최적화를 수행하려면 기계 학습 분야의 심층 전문 지식이 필요한 경우가 많은데, 이러한 전문 지식을 습득하려면 제품 출시 시간이 더욱 지연될 수도 있기 때문입니다.
SageMaker HyperPod 레시피를 사용하는 경우 기술 분야에 관계없이 모든 고객이 Llama 3.1 405B, Mixtral 8x22B, Mistral 7B를 비롯하여 일반에 공개된 인기 FM 훈련과 미세 조정을 빠르게 시작할 수 있으며 최고 성능의 모델을 개발할 수 있습니다. SageMaker HyperPod 레시피에는 AWS에서 테스트를 완료한 훈련 스택이 포함되어 있으므로 몇 주에 걸쳐 여러 모델 구성을 적용해 보는 번거로운 작업을 수행할 필요가 없습니다. 또한 레시피 한 줄만 변경하면 GPU 기반 인스턴스와 AWS Trainium 기반 인스턴스를 빠르게 전환할 수 있으며, 자동화된 모델 체크포인트 지정을 활성화하여 훈련 복원력도 높일 수 있습니다. 마지막으로, 선택한 SageMaker AI 훈련 서비스를 통해 프로덕션 환경에서 워크로드를 실행할 수 있습니다.
SageMaker HyperPod 및 SageMaker 훈련 작업이 지원되는 모든 AWS 리전에서 SageMaker HyperPod 레시피를 사용할 수 있습니다. 자세히 알아보고 레시피 사용을 시작하려면 SageMaker HyperPod 페이지 및 블로그를 참조하세요.