Veröffentlicht am: Jul 23, 2018
Die AWS Deep Learning AMIs für Ubuntu und Amazon Linux enthalten jetzt eine benutzerdefinierte Version von TensorFlow 1.9, die für Hochleistungs-Training optimiert ist, das neueste Apache MXNet 1.2, das mehrere Performance- und Usability-Verbesserungen enthält, das neue Keras 2-MXNet-Backend mit leistungsstarker Multi-GPU-Trainingsunterstützung und das neue MXBoard-Tool zur verbesserten Fehlersuche und Visualisierung von MXNet-Trainingsmodellen.
Schnelleres Training mit optimiertem TensorFlow 1.9
Deep Learning AMIs beinhalten eine rechenoptimierten Version von TensorFlow 1.9, die direkt aus dem Quellcode erstellt wurde, um die Trainingsleistung auf den Intel Xeon Platinum-Prozessoren zu beschleunigen, die Amazon EC2 C5-Instances betreiben. Die AMIs bieten auch eine GPU-optimierte Version von TensorFlow 1.9, konfiguriert mit NVIDIA CUDA 9 und cuDNN 7, um die Vorteile eines gemischten Präzisionstrainings auf den Volta V100-Grafikprozessoren zu nutzen, die Amazon EC2 P3-Instances betreiben. Deep Learning AMIs setzen automatisch die für die EC2-Instance Ihrer Wahl optimierte Hochleistungsversion von TensorFlow ein, wenn Sie die virtuelle Umgebung von TensorFlow zum ersten Mal aktivieren. Weitere Informationen finden Sie in unserem TensorFlow-Tutorial.
Für Entwickler, die ihr TensorFlow-Training von einer einzelnen GPU auf mehrere GPUs skalieren möchten, sind die AMIs mit Horovod, einem beliebten Open-Source-Framework für verteilte Schulungen, vollständig konfiguriert. Wir haben mehrere Leistungsverbesserungen und Konfigurationen in dieser vorgefertigten Version von Horovod veröffentlicht, dank derer verteiltes Training über Cluster von Amazon EC2 P3-Instances schneller durchgeführt werden können. Details finden Sie in unserem Blogbeitrag.
Apache MXNet 1.2-Verbesserungen
Deep Learning AMIs unterstützen die neueste Version von Apache MXNet 1.2 und bieten eine bessere Benutzerfreundlichkeit und schnellere Performance. MXNet 1.2 enthält eine neue Scala-basierte, Thread-sichere High-Level-Inferenz-API, die es einfacher macht, Vorhersagen mit Hilfe von mit MXNet trainierten Deep-Learning-Modellen durchzuführen. MXNet 1.2 bietet außerdem die neue Intel MKL-DNN-Integration, die neuronale Netzbetreiber wie Konvolution, Dekonvolution und Pooling auf rechenoptimierten C5-Instances beschleunigt, sowie Unterstützung für erweitertes FP16, das gemischtes Präzisionstraining auf Tensor-Cores von NVIDIA Volta V100-Grafikprozessoren, die Amazon EC2 P3-Instances betreiben, beschleunigt. Schließlich kommt MXNet 1.2 mit einem neuen Open Neural Network Exchange Format(ONNX)-Modul für den Import von ONNX-Modellen in die symbolische MXNet-Schnittstelle. ONNX ist ein offenes Format zur Darstellung von Deep Learning-Modellen, das zur Förderung der Interoperabilität zwischen Deep Learning-Frameworks verwendet werden kann.
Hochleistungs-Multi-GPU-Training mit MXNet-Backend für Keras 2
Deep Learning AMIs werden mit dem neuen Keras-MXNet Deep Learning Backend vorinstalliert. Keras ist eine hochstufige neuronale Netzwerk-API, die für ihr schnelles und einfaches Prototyping von konvolutionellen neuralen Netzwerken (Concolutional neural networks, CNNs) und wiederkehrenden neuronalen Netzwerken (Recurrent neural networks, RNNs) bekannt ist. Keras-Entwickler können jetzt MXNet als Backend-Deep-Learning-Engine für das verteilte Training von CNNs und RNNs verwenden und so eine höhere Performance erzielen. Entwickler können in Keras eigene Designs entwickeln, mit Keras MXNet trainieren und Inferenzen mit MxNet in großen Produktionsumgebungen durchführen. Weitere Informationen hierzu finden Sie in unserem Blogbeitrag.
Verbesserte Fehlerbehebungsunterstützung mit MXBoard
Mit MXBoard, einem Python-Paket, das APIs zur Protokollierung von MXNet-Daten für die Visualisierung in TensorBoard bereitstellt, können Entwickler ihr MXNet-Modelltraining einfach debuggen und visualisieren. MXBoard unterstützt eine Reihe von Visualisierungen wie Histogramme, Konvolutionsfilter, visuelle Einbettung und mehr.
Der Einstieg in AWS Deep Learning AMIs wird Ihnen dank unseres Schritt-für-Schritt-Tutorials und unseres Entwicklerhandbuchs leicht fallen. Die neuesten AMIs sind im AWS Marketplace verfügbar. Registrieren Sie sich in unserem Diskussionsforum, um Ankündigungen zu erhalten und Ihre Fragen zu veröffentlichen.