AWS Deep Learning Containers

최적화되고 사전에 패키징된 컨테이너 이미지로 딥 러닝 환경을 신속하게 설정

AWS Deep Learning Containers(AWS DL Containers)는 딥 러닝 프레임워크가 사전에 설치된 Docker 이미지로서, 처음부터 환경을 구축하고 최적화하는 복잡한 프로세스를 건너뜀으로써 사용자 지정 기계 학습(ML) 환경을 신속하게 배포할 수 있도록 지원합니다. AWS DL Containers는 TensorFlow 및 Apache MXNet을 지원하며 PyTorch 및 기타 딥 러닝 프레임워크도 곧 지원할 예정입니다. AWS DL Containers는 Amazon Elastic Container Service for Kubernetes(EKS), 자가 관리형 Kubernetes, Amazon Elastic Container Service(ECS) 및 Amazon EC2에 배포할 수 있습니다. 이 컨테이너는 Amazon Elastic Container Registry(ECR) 및 AWS Marketplace를 통해 무료로 제공되며, 사용한 리소스에 대해서만 요금을 지불하면 됩니다. 이 자습서로 시작하십시오. »

Docker 컨테이너는 여러 환경에서 일관되게 실행되는 사용자 지정 ML 환경을 배포하는 데 널리 사용되는 방법입니다. 그러나 딥 러닝을 위한 컨테이너 이미지를 구축 및 테스트하는 작업은 어렵고 오류가 발생하기 쉬우며 소프트웨어 종속성과 버전 호환성 문제로 인해 며칠이 걸릴 수 있습니다. 또한, 인스턴스 클러스터 전체에 걸쳐 ML 워크로드를 효율적으로 분산하고 확장하려면 이러한 이미지를 최적화해야 하며 이는 전문 지식이 필요한 작업입니다. 프레임워크 업데이트가 릴리스될 때마다 이 프로세스를 반복해야 합니다. 이 모든 작업은 개발자의 귀중한 시간을 뺏고 혁신 속도를 늦추는 부담스럽고 획일적인 작업입니다.

AWS DL Containers는 인기 있는 딥 러닝 프레임워크의 최신 버전과 필요한 라이브러리가 사전에 설치되고 테스트된 Docker 이미지를 제공합니다. AWS DL Containers는 AWS에서 인스턴스 클러스터 전체에 ML 워크로드를 효율적으로 분산하도록 최적화되어 있으므로 즉시 뛰어난 성능과 확장성을 얻을 수 있습니다.

Introducing AWS Deep Learning Containers

이점

즉시 구축 시작

사전에 패키징된 Docker 이미지를 사용하여 몇 분 만에 딥 러닝 환경을 배포할 수 있습니다. 이 이미지에는 필요한 딥 러닝 프레임워크 라이브러리(현재 TensorFlow 및 Apache MXNet)와 도구가 포함되어 있으며 모든 테스트를 거쳤습니다. 모니터링, 규정 준수 및 데이터 처리에 대한 높은 수준의 제어를 위해 이러한 이미지에 손쉽게 자체 라이브러리와 도구를 추가할 수 있습니다. 자세한 내용은 AWS Deep Learning Containers 이미지 섹션을 참조하십시오.

자동으로 최고의 성능 확보

AWS DL Containers에는 클라우드에서 훈련 및 추론을 위한 최고의 성능을 제공할 수 있도록 TensorFlow 및 Apache MXNet과 같은 인기 있는 프레임워크의 최신 버전과 라이브러리에 대한 AWS 최적화 및 개선 사항이 포함되어 있습니다. 예를 들어 AWS TensorFlow 최적화를 사용하면 대폭 향상된 GPU 규모 조정을 통해 최대 2배 빠르게 모델을 훈련할 수 있습니다.

기계 학습을 Kubernetes 애플리케이션에 신속하게 추가

AWS DL containers는 Amazon EC2에서 Kubernetes와 연동되도록 구축되었습니다. Amazon EC2를 사용해 Kubernetes에 애플리케이션을 배포한 경우, AWS DL Containers를 사용하여 신속하게 해당 애플리케이션에 기계 학습을 마이크로서비스로 추가할 수 있습니다.

기계 학습 워크플로를 손쉽게 관리

AWS DL Containers는 Amazon EKS 및 Amazon ECS와 긴밀하게 통합되므로, 훈련, 검증 및 배포를 위한 사용자 지정 기계 학습 워크플로를 구축할 수 있는 옵션과 유연성이 제공됩니다. 이러한 통합을 통해 Amazon EKS 및 Amazon ECS는 가상 머신의 클러스터에서 AWS DL Containers를 배포하고 확장하는 데 필요한 모든 컨테이너 오케스트레이션을 처리합니다.

AWS DL Containers는 TensorFlow 및 Apache MXNet을 지원하며 PyTorch 및 기타 프레임워크도 곧 지원할 예정입니다.

TensorFlow
TensorFlow 지원
Apache MXNet
Apache MXNet 지원

고객

Wix

“Deep Learning Containers는 속도를 20% 향상합니다. 이전에는 데이터 과학자가 개발한 모델을 프로덕션에 배포하는 데 필요한 작업으로 인해 제품 출시 시간이 지연되었습니다. 데이터 과학자는 일반적으로 AWS Deep Learning AMI로 작업했고 배포 팀은 프로덕션에 Docker 컨테이너를 사용했습니다. 연구 환경과 프로덕션 환경 간에 패리티를 보장하는 작업은 시간 소모적이고 오류가 발생하기 쉬웠습니다. 이제 AWS Deep Learning Containers를 통해 연구 및 훈련부터 프로덕션까지 전체 파이프라인에 걸쳐 동일한 최적화되고 안정적인 TensorFlow 환경을 사용할 수 있습니다.”


Accenture

“Accenture의 데이터 과학자는 통신 및 자원 산업과 같은 다양한 영역에서 컴퓨터 비전과 자연어 처리에 딥 러닝 애플리케이션을 구축함으로써 고객을 대신하여 혁신합니다. 우리 팀은 빠르게 움직이며 Docker 컨테이너를 사용하여 모델을 신속하게 훈련하고 배포합니다. 딥 러닝 프레임워크와 라이브러리로 컨테이너 이미지를 반복적으로 생성 및 유지 관리해야 하므로 속도가 느려지고 호환성 또는 종속성 문제에 부딪히면 귀중한 시간을 며칠씩 허비하게 됩니다. 이제 Deep Learning Containers를 통해 즉시 사용할 수 있고 AWS에서 최적의 성능을 제공하는 컨테이너 이미지에 액세스할 수 있습니다.” 


Patch'd

“Patch’d에서는 딥 러닝을 사용하여 패혈증을 조기에 발견합니다. Docker 컨테이너를 기존 딥 러닝 파이프라인을 10배 확장하여 수백 개의 모델을 쉽게 테스트할 수 있는 빠르고 유연한 방법이라고 봅니다. 그러나 딥 러닝을 위한 Docker 환경을 설정하고 최적화하는 데 귀중한 데이터 과학자와 엔지니어링 시간을 낭비하고 싶지 않습니다. Deep Learning Containers를 사용하면 최적화된 TensorFlow 환경을 몇 분 만에 무료로 설정할 수 있습니다.”

블로그 게시물 및 기사

New – AWS Deep Learning Containers
2019년 3월 27일
 
 
Amazon EKS에서 분산 딥 러닝 성능을 최적화하기 위한 모범 사례
2019년 5월 1일
 
AWS Batch의 GPU 워크로드
2019년 4월 4일
 
 
Product-Page_Standard-Icons_01_Product-Features_SqInk
제품 리소스 확인하기

AWS DL Containers에 대해 자세히 알아볼 수 있습니다.

자세히 알아보기 
무료 AWS 계정에 가입
무료 계정에 가입

AWS 프리 티어에 즉시 액세스할 수 있습니다. 

가입하기 
Deep Learning Containers로 구축 시작
콘솔에서 구축 시작

Amazon EC2에서 AWS DL Containers를 시작하십시오.

지금 사용해 보기