게시된 날짜: Jul 23, 2018
이제 Ubuntu 및 Amazon Linux용 AWS Deep Learning AMI에는 고성능 교육용으로 최적화된 TensorFlow 1.9의 사용자 지정 빌드, 몇 가지 성능 및 사용성 개선 사항이 추가된 최신 Apache MXNet 1.2, 고성능 멀티 GPU 교육 지원이 포함된 새로운 Keras 2-MXNet 백엔드, MXNet 도구 모델의 향상된 디버깅 및 시각화를 위한 새로운 MXBoard 도구가 포함됩니다.
최적화된 TensorFlow 1.9를 사용해 더 빠르게 교육
Deep Learning AMI에는 소스 코드에서 직접 사용자 지정된 TensorFlow 1.9의 컴퓨팅 최적화 빌드가 포함되어 있으므로 인텔 제온 플래티넘 프로세서가 탑재된 Amazon EC2 C5 인스턴스에서 교육 성능을 가속화할 수 있습니다. 또한, 이 AMI는 NVIDIA CUDA 9 및 cuDNN 7로 구성된 TensorFlow 1.9의 GPU 최적화 빌드를 제공하므로 Volta V100 GPU가 탑재된 Amazon EC2 P3 인스턴스에서 혼합 정밀도 교육을 활용할 수 있습니다. Deep Learning AMI는 TensorFlow 가상 환경을 처음 활성화할 때 선택한 EC2 인스턴스에 최적화된 TensorFlow의 고성능 빌드를 자동으로 배포합니다. 자세한 내용은 TensorFlow 자습서를 참조하십시오.
또한, 단일 GPU에서 다중 GPU로 TensorFlow 교육을 확장하려는 개발자의 경우, AMI에는 인기 있는 오픈 소스 분산 교육 프레임워크인 Horovod가 완전히 구성되어 제공됩니다. AWS에서는 Amazon EC2 P3 인스턴스 클러스터에서 분산 교육을 더 빠르게 실행할 수 있도록 Horovod의 사전 빌드된 버전에서 몇 가지 성능 개선 사항 및 구성을 릴리스했습니다. 자세한 내용은 블로그 게시물을 참조하십시오.
Apache MXNet 1.2 개선 사항
Deep Learning AMI는 더 나은 사용 편의성과 더 빠른 성능을 제공하는 Apache MXNet 1.2의 최신 릴리스를 지원합니다. MXNet 1.2에는 Scala를 기반으로 하고 스레드로부터 안전한 새로운 상위 수준 추론 API가 포함되어 있으므로 MXNet으로 교육한 딥 러닝 모델을 사용하여 좀 더 쉽게 예측을 수행할 수 있습니다. 또한, MXNet 1.2에서는 컴퓨팅 최적화 C5 인스턴스에서 컨벌루션, 디컨벌루션 및 풀링과 같은 신경망 연산자를 가속화하는 새로운 인텔 MKL-DNN 통합을 제공하고, NVIDIA Volta V100 GPU의 Tensor Core가 탑재된 Amazon EC2 P3 인스턴스에서 혼합 정밀도 교육을 가속화하는 향상된 FP16에 대한 지원을 제공합니다. 마지막으로 MXNet 1.2에는 ONNX 모델을 MXNet 인터페이스로 가져오기 위한 ONNX(Open Neural Network Exchange) 형식 모듈이 함께 제공됩니다. ONNX는 딥 러닝 프레임워크 간 상호운용성을 허용하는 데 사용될 수 있는 딥 러닝 모델을 나타내기 위한 개방형 형식입니다.
Keras 2용 MXNet 백엔드를 사용한 고성능 다중 GPU 교육
Deep Learning AMI에는 새로운 Keras-MXNet 딥 러닝 백엔드가 사전에 설치되어 제공됩니다. Keras는 상위 수준의 Python 신경망 API로서, CNN(Convolutional Neural Network) 및 RNN(Recurrent Neural Network)의 프로토타입을 쉽고 빠르게 생성하는 데 널리 사용됩니다. 이제 Keras 개발자는 MXNet을 CNN 및 RNN의 분산 교육을 위한 백엔드 딥 엔진으로 사용하고 더 뛰어난 성능을 얻을 수 있습니다. 개발자는 Keras에서 설계하고, Keras-MXNet으로 교육하고, 대규모 프로덕션 환경에서 MxNet으로 추론을 실행할 수 있습니다. 자세한 내용은 이 블로그 게시물을 참조하십시오.
MXBoard를 통해 향상된 디버깅 지원
TensorBoard에서 시각화를 위해 MXNet 데이터 로깅을 위한 API를 제공하는 Python 패키지인 MXBoard를 사용하면 개발자가 MXNet 모델 교육을 손쉽게 디버깅하고 시각화할 수 있습니다. MXBoard는 히스토그램, 컨볼루션 필터, 비주얼 임베딩 등을 비롯하여 다양한 시각화를 지원합니다.