Amazon SageMaker 노트북 인스턴스, 이제 Trainium1 및 Inferentia 2 기반 인스턴스 지원
AWS가 SageMaker 노트북 인스턴스에서 Trainium1 및 Inferentia2 기반 EC2 인스턴스의 정식 출시를 발표했습니다.
AWS Trainium 칩으로 구동되는 Amazon EC2 Trn1 인스턴스 및 AWS Inferentia 칩으로 구동되는 Inf2 인스턴스는 각각 고성능 딥 러닝 훈련 및 추론을 위해 특별히 구축되었습니다. Trn1 인스턴스는 대규모 언어 모델(LLM) 및 잠재 확산 같은 1,000억 개 이상의 파라미터 생성형 AI 모델을 훈련하는 데 있어 기타 동급 Amazon EC2 인스턴스에 비해 비용을 절감합니다. Inf2 인스턴스는 LLM 및 비전 트랜스포머를 비롯한 생성형 AI를 위한 저비용 고성능 추론을 제공합니다. 텍스트 요약, 코드 생성, 질문 답하기, 이미지 및 비디오 생성, 추천, 사기 탐지 등 다양한 애플리케이션 세트에서 Trn1 및 Inf2 인스턴스를 사용할 수 있습니다.
Amazon EC2 Trn1 인스턴스는 AWS 미국 동부(버지니아 북부 및 오하이오) 및 미국 서부(오리건) 리전의 SageMaker 노트북 인스턴스에서 사용할 수 있습니다. Amazon EC2 Trn1n 인스턴스는 AWS 미국 동부(버지니아 북부 및 오하이오)의 SageMaker NBI에서 사용할 수 있습니다. Amazon EC2 Inf2 인스턴스는 AWS 미국 서부(오리건), AWS 미국 동부(버지니아 북부 및 오하이오), AWS 유럽(아일랜드), AWS 유럽(프랑크푸르트), AWS 아시아 태평양(도쿄), AWS 아시아 태평양(시드니), AWS 아시아 태평양(뭄바이), AWS 유럽(런던), AWS 아시아 태평양(싱가포르), AWS 유럽(파리) 및 AWS 남아메리카(상파울루)의 SageMaker NBI에서 사용할 수 있습니다.
SageMaker 노트북 인스턴스의 사용 및 설정에 대한 지침은 개발자 안내서를 참조하세요.