게시된 날짜: Aug 14, 2020
오늘, Amazon Elastic Container Service(ECS)에서 새로운 Amazon ECS Optimized Inferentia Amazon Machine Image(AMI)를 출시했습니다. 이 AMI는 ECS의 Amazon EC2 Inf1 인스턴스를 위한 새로운 Amazon Linux 2 기반 AMI입니다. 고객은 ECS에서 필요한 모든 AWS Neuron 패키지가 미리 설치되어 있는 ECS Optimized Inferentia AMI를 사용하여 Inferentia 기반 컨테이너를 손쉽게 실행할 수 있습니다.
Amazon EC2 Inf1 인스턴스는 클라우드에서 최저 비용의 고성능 기계 학습 추론 기능을 제공합니다. Inf1 인스턴스에는 AWS가 설계하고 제작한 고성능 기계 학습 추론 칩인 AWS Inferentia 칩이 최대 16개 탑재됩니다. 고객은 Inf1 인스턴스를 사용하여 이미지 인식, 음성 인식, 자연어 처리, 개인화 및 사기 탐지와 같은 대규모 기계 학습 추론 애플리케이션을 실행할 수 있습니다. 기계 학습 모델이 고객의 요구 사항을 충족하도록 훈련된 후에는 Inferentia 칩의 기계 학습 추론 성능을 최적화하는 컴파일러, 런타임 및 프로파일링 도구로 구성된 특수한 SDK(소프트웨어 개발 키트)인 AWS Neuron을 사용하여 모델을 배포하고, TensorFlow, PyTorch 또는 MXNet과 같은 널리 사용되는 기계 학습 프레임워크를 지원할 수 있습니다.
AWS CLI 및 ECS 콘솔에서 새로운 ECS Optimized Inferentia AMI를 사용하여 기존 ECS 클러스터에 Inf1 인스턴스를 추가하고 시작할 수 있습니다. ECS Optimized Inferentia AMI 버전 20200623은 ECS 컨테이너 에이전트 버전 1.41.0 및 Docker 버전 1903.6-ce로 구성됩니다.