게시된 날짜: Dec 9, 2022
Amazon SageMaker 모델 훈련은 이제 NVIDIA A100 GPU와 고성능 HBM2e GPU 메모리로 구동되는 ml.p4de.24xlarge(p4de) 인스턴스의 미리 보기를 지원합니다. 이러한 인스턴스는 대규모 언어 모델(LLM), 컴퓨터 비전(객체 탐지, 의미 체계 세분화) 및 생성형 인공 지능에 대한 교육이 필요한 사용 사례에 현재 사용 가능한 최고 성능의 컴퓨팅 인프라를 제공합니다.
P4de 인스턴스는 p4d 인스턴스의 GPU보다 2배 더 높은 80GB 고성능 HBM2e GPU 메모리가 있는 최대 8개의 NVIDIA A100 GPU를 갖추고 있습니다. 더 높은 GPU 메모리는 주로 고해상도 데이터 및 복잡한 모델의 대규모 데이터 세트와 관련된 워크플로의 훈련 시간과 비용을 줄이는 데 도움이 됩니다.
p4d와 마찬가지로
최대 96개의 vCPU, EFA 및 GPUDirect RDMA를 통한 최대 400Gbps의 네트워크 대역폭, 최대 8TB의 로컬 NVMe 기반 SSD 스토리지도 지원합니다.
SageMaker 모델 훈련은 미국 동부(버지니아 북부) 및 미국 서부(오레곤) AWS 리전의 p4de 인스턴스 미리 보기를 지원합니다.
p4de 인스턴스에 대해 자세히 알아보려면 AWS 뉴스 블로그 또는 Amazon EC2 P4 인스턴스 페이지를 방문하세요. p4de 인스턴스 사용을 시작하려면 Amazon SageMaker 설명서 및 SageMaker 모델 훈련 페이지를 읽어보세요. p4de 요금에 대한 자세한 내용은 Amazon SageMaker 요금 웹 페이지를 참조하세요.