AWS Trainium

AWS가 사용자 맞춤 설계한, 고성능 기계 학습 훈련 칩

AWS Trainium은 AWS의 두 번째 사용자 지정 설계 기계 학습(ML) 칩으로, 클라우드 기반 딥 러닝 모델 훈련을 위한 최고의 가격 대비 성능을 제공하도록 설계되었습니다.  Trainium은 가장 높은 테라플롭(TFLOP)의 컴퓨팅 파워를 바탕으로 Amazon EC2의 가장 빠른 기계 학습 훈련을 위한 최고 수준의 성능을 제공하고 방대한 기계 학습 애플리케이션 세트를 지원합니다. Trainium 칩은 특히 이미지 분류, 의미론적 검색, 번역, 음성 인식, 자연어 처리 및 추천 엔진 등의 애플리케이션을 위한 딥 러닝 훈련 워크로드에 최적화되어 있습니다.

기계 학습이 가속화됨에 따라, 성능을 증진하고 추론 및 훈련으로 발생하는 인프라 비용을 절감해야 하는 절박한 필요성이 대두되고 있습니다. AWS는 사용자 지정 칩인 AWS Inferentia을 출시하여 고객이 클라우드 기반 고성능 기계 학습 추론을 최저 비용으로 실행하도록 지원합니다. Inferentia가 기계 학습 인프라 비용의 최대 90%를 차지하는 추론 비용을 해결한 반면, 많은 개발 팀 또한 정해진 기계 학습 예산만을 사용하게 되었습니다. 따라서 모델 및 애플리케이션을 개선하기 위해 필요한 훈련의 범위 및 빈도는 제한됩니다. AWS Trainium은 클라우드 기반 모델 훈련을 위한 가장 비용 효율적인 훈련을 제공하여 이러한 당면 과제를 해결합니다. Trainium과 Inferentia를 사용하여 고객은 훈련 워크로드의 크기 조정부터 가속화된 추론 구현까지 기계 학습 컴퓨팅의 전체적인 흐름을 파악할 수 있습니다.

AWS Trainium는 AWS Neuron SDKAWS Inferentia와 동일한 항목을 공유하여 개발자가 Trainium을 Inferentia를 사용하여 쉽게 시작하도록 합니다. Neuron SDK가 TensorFlow 및 PyTorch를 포함하는 유명 기계 학습 프레임워크와 통합되었으므로 개발자는 최소한으로 코드를 변경하여 GPU 기반 인스턴스에서 AWS Trainium으로 쉽게 마이그레이션할 수 있습니다. AWS Trainium의 프리뷰를 Amazon EC2 Trn1 인스턴스에서 사용할 수 있습니다.

빠른 액세스를 위한 가입

AWS Trainium 기반 Amazon EC2 Trn1 인스턴스를 이제 미리 보기에서 사용할 수 있습니다.

AWS Inferentia

AWS Inferentia는 클라우드 기반 최저 비용으로 높은 성능을 제공하도록 AWS가 맞춤 제작한 기계 학습 추론 칩입니다. AWS Inferentia는 기존에 사용 가능했던 클라우드 기반의 최저 비용 기계 학습 추론용 인스턴스인 Amazon EC2 G4 인스턴스보다 최대 30% 높은 처리량과 최대 45% 낮은 비용으로 추론 기능을 사용할 수 있습니다.

자세히 알아보기 »

Sign up for a free account
무료 계정 가입

AWS 프리 티어에 즉시 액세스할 수 있습니다. 

가입 
Standard Product Icons (Start Building) Squid Ink
콘솔에서 구축 시작

AWS 콘솔에서 시작하십시오.

로그인