게시된 날짜: Aug 24, 2023
이제 Amazon Elastic Compute Cloud(Amazon EC2) Trn1 인스턴스가 미국 동부(오하이오) 리전에서 정식 출시되었습니다. Trn1 인스턴스는 AWS에서 인기 있는 생성형 AI 모델의 고성능 훈련을 제공하는 동시에 동급 Amazon EC2 인스턴스에 비해 훈련 비용이 최대 50% 저렴합니다.
EC2 Trn1 인스턴스를 사용하여 GPT 및 LLaMA와 같은 인기 있는 대규모 언어 모델, Stable Diffusion과 같은 비전 모델, 추천, 사기 탐지, 예측 등을 위한 다양한 기타 딥 러닝 모델을 훈련할 수 있습니다. Trn1 인스턴스는 PyTorch 및 TensorFlow 같은 유명 ML 프레임워크 및 Megatron-LM, NeMo, Neuron Distributed 및 Hugging Face 같은 라이브러리와 통합되는 AWS Neuron SDK를 통해 활성화되므로 기존 프레임워크를 계속 사용할 수 있으며 최소한의 코드만 변경하여 애플리케이션을 실행할 수 있습니다. 개발자는 AWS Deep Learning AMI, AWS Deep Learning Containers 또는 관리형 서비스(예: AWS ParallelCluster, Amazon Elastic Kubernetes Service(Amazon EKS), Amazon SageMaker, AWS Batch)를 사용하여 Trn1 인스턴스에서 딥 러닝 훈련 워크로드를 실행할 수 있습니다.
Amazon EC2 Trn1 인스턴스는 두 가지 크기로 제공됩니다. 그 중 하나는 액셀러레이터 하나로 실험을 진행하고 소형 모델을 비용 효율적으로 훈련시킬 수 있는 trn1.2xlarge이고, 다른 하나는 대규모 모델을 훈련시킬 수 있는 trn1.32xlarge입니다. 이러한 인스턴스는 미국 동부(버지니아 북부), 미국 서부(오레곤) 및 미국 동부(오하이오) 등의 AWS 리전에서 온디맨드 인스턴스, 예약 인스턴스 및 스팟 인스턴스로 사용하거나 절감형 플랜의 일환으로 사용 가능합니다.
Trn1 인스턴스에 대해 자세히 알아보려면 Amazon EC2 Trn1 인스턴스 웹 페이지 및 AWS Neuron 설명서를 참조하세요.