게시된 날짜: Nov 1, 2023
오늘 Amazon Elastic Compute Cloud(Amazon EC2)의 ML용 용량 블록 기능을 정식 출시했습니다. EC2 용량 블록을 사용하여 기계 학습(ML) 워크로드를 실행하는 데 필요한 시간만큼 Amazon EC2 UltraCluster의 GPU 인스턴스를 향후 날짜에 예약할 수 있습니다. 이는 용량을 예약할 수 있는 혁신적인 방법으로, 필요한 시간만큼만 GPU 인스턴스를 향후 날짜에 사용할 수 있도록 예약할 수 있습니다.
EC2 용량 블록 기능은 ML 워크로드의 GPU 인스턴스에 대한 확실하고 예측 가능한 액세스를 제공합니다. 또한 ML용 EC2 용량 블록 기능을 사용하면 분산 훈련을 위한 Amazon EC2 UltraClusters의 콜로케이션을 통해 지연 시간이 짧고 처리량이 많은 연결을 확보할 수 있습니다. 1~64개 인스턴스(512개의 GPU)의 클러스터 크기로 1~14일 동안 GPU 용량을 예약할 수 있어 광범위한 ML 워크로드를 유연하게 실행할 수 있습니다. 여기에는 ML 모델 훈련 및 미세 조정, 신속한 프로토타입 제작, 향후 수요 급증 처리가 포함됩니다. EC2 용량 블록 기능은 최대 8주 전에 예약할 수 있습니다.
이제 EC2 용량 블록 기능을 통해 미국 동부(오하이오) AWS 리전에서 최신 NVIDIA H100 Tensor Core GPU로 구동되는 Amazon EC2 P5 인스턴스를 예약할 수 있습니다.
시작하려면 AWS Management Console, AWS Command Line Interface(AWS CLI) 및 AWS SDK로 이동하세요. 자세히 알아보려면 ML용 Amazon EC2 용량 블록 및 설명서를 참조하세요.