Category: Amazon SageMaker HyperPod

모든 기술을 갖춘 데이터 과학자와 개발자가 최첨단 성능으로 몇 분 만에 파운데이션 모델(FM) 훈련을 시작하고 미세 조정할 수 있도록 지원하는 Amazon SageMaker HyperPod 레시피의 정식 출시를 발표합니다. 이제 Llama 3.1 405B, Llama 3.2 90B, Mixtral 8x22B와 같이 널리 사용되는 FM을 훈련하고 미세 조정하는 데 최적화된 레시피에 액세스할 수 있습니다. AWS re:Invent 2023에서는 SageMaker HyperPod를 소개하여 […]

오늘은 학습, 미세 조정, 추론과 같은 생성형 AI 모델 개발 작업 전반에서 GPU 및 Tranium 사용률을 쉽게 중앙 집중식으로 관리하고 극대화할 수 있는 새로운 혁신, Amazon SageMaker HyperPod 작업 거버넌스의 정식 출시를 발표합니다. 고객들은 생성형 AI 프로젝트에 대한 투자를 빠르게 늘리고 있지만 제한된 컴퓨팅 리소스를 효율적으로 할당하는 데 어려움을 겪고 있다고 말합니다. 리소스 할당을 위한 […]

데이터 과학자가 일정과 예산 내에서 대규모 파운데이션 모델(FM)을 훈련하고 컴퓨팅 가용성을 기반으로 훈련 프로세스를 관리하는 데 드는 몇 주 간의 노력을 절감할 수 있도록 Amazon SageMaker HyperPod 유연한 훈련 플랜의 정식 출시를 오늘 발표합니다. AWS re:Invent 2023에서는 FM을 훈련하는 데 걸리는 시간을 최대 40% 줄이고 사전 구성된 분산 훈련 라이브러리 및 내장된 복원력을 통해 수천 […]

오늘부터 파운데이션 모델(FM) 개발을 위해 복원력을 핵심으로 설계된 목적별 인프라인 Amazon SageMaker HyperPod에서 Amazon Elastic Kubernetes Service(EKS)를 지원하게 되었습니다. 이 새로운 기능을 통해 고객은 EKS를 사용하여 HyperPod 클러스터를 오케스트레이션하고, 대규모 모델 훈련을 위해 설계된 Amazon SageMaker HyperPod의 탄력적인 환경과 Kubernetes의 강력한 성능을 결합할 수 있습니다. Amazon SageMaker HyperPod는 1천여 개의 인공 지능(AI) 액셀러레이터에서 효율적으로 규모를 […]