Publicado: Jul 23, 2018
As AMIs do AWS Deep Learning para Ubuntu e Amazon Linux incluem agora uma compilação personalizada do TensorFlow 1.9, otimizada para treinamento com alta performance; o Apache MXNet 1.2 mais recente, que inclui vários aprimoramentos de performance e usabilidade; o novo back-end do Keras 2-MXNet, com suporte a treinamento em várias GPUs de alta performance; e a nova ferramenta MXBoard, que aprimora a depuração e a visualização dos modelos de treinamento do MXNet.
Treinamento mais rápido com o TensorFlow 1.9 otimizado
As AMIs do Deep Learning incluem uma compilação do TensorFlow 1.9 otimizada para computação, personalizada diretamente do código-fonte, para acelerar a performance do treinamento nos processadores Intel Xeon Platinum que equipam as instâncias C5 do Amazon EC2. Além disso, as AMIs também oferecem uma compilação do TensorFlow 1.9 otimizada para GPUs, configurada com NVIDIA CUDA 9 e cuDNN 7, para aproveitar o treinamento de precisão mista das GPUs Volta V100 que equipam as instâncias P3 do Amazon EC2. As AMIs do Deep Learning implantam automaticamente uma compilação de alta performance do TensorFlow, otimizada para a instância do EC2 escolhida quando você ativa o ambiente virtual do TensorFlow pela primeira vez. Para saber mais, veja o nosso tutorial do TensorFlow.
Além disso, para desenvolvedores que querem escalar o treinamento do TensorFlow de uma única GPU para várias GPUs, as AMIs são fornecidas totalmente configuradas com o Horovod, uma estrutura popular de treinamento distribuído de código aberto. Nesta versão pré-compilada do Horovod, lançamos vários aprimoramentos e configurações de performance que agilizam a execução de treinamento distribuído em clusters de instâncias P3 do Amazon EC2. Para obter detalhes, consulte a nossa publicação de blog.
Aprimoramentos do Apache MXNet 1.2
As AMIs do Deep Learning oferecem suporte à versão mais recente do Apache MXNet 1.2, que proporciona maior facilidade de uso e melhor performance. O MXNet 1.2 inclui uma nova API de inferência de alto nível, baseada em Scala e segura para uso em threads, que facilita a execução de previsões usando modelos de aprendizado profundo treinados com o MXNet. O MXNet 1.2 também oferece integração ao novo Intel MKL-DNN, que acelera operadores de redes neurais como convolução, desconvolução e agrupamento em instâncias C5 otimizadas para computação, bem como suporte ao FP16 aprimorado, que acelera o treinamento de precisão mista em Tensor Cores das GPUs NVIDIA Volta V100 que equipam as instâncias P3 do Amazon EC2. Por fim, o MXNet 1.2 inclui um novo módulo do Open Neural Network Exchange Format (ONNX) para importar modelos ONNX para a interface simbólica do MXNet. O ONNX é um formato aberto para representar modelos de aprendizado profundo que pode ser usado para promover a interoperabilidade entre estruturas de aprendizado profundo.
Treinamento de várias GPUS de alta performance com o back-end do MXNet para Keras 2
As AMIs do Deep Learning AMIs são pré-instaladas no novo back-end de aprendizado profundo Keras-MXNet. O Keras é uma API de rede neural de alto nível codificada em Python que é popular por facilitar e agilizar a criação de protótipos de Convolutional Neural Networks (CNNs – Redes neurais convolucionais) e Recurrent Neural Networks (RNNs – Redes neurais recorrentes). Agora, os desenvolvedores de Keras podem usar o MXNet como mecanismo de aprendizado profundo de back-end para treinamento distribuído de CNNs e RNNs para obter maior performance. Os desenvolvedores podem projetar no Keras, treinar com o Keras-MXNet e executar a inferência com o MXNet em ambientes de produção de grande escala. Para saber mais, consulte esta publicação de blog.
Melhor suporte à depuração com o MXBoard
Com o MXBoard, um pacote Python que oferece APIs de registro de dados do MXNet em logs para visualização no TensorBoard, os desenvolvedores podem depurar e visualizar facilmente o treinamento de modelos no MXNet. O MXBoard oferece suporte a diversas visualizações, incluindo histogramas, filtros convolucionais, incorporação de filtros e outros recursos.
Você pode começar a usar rapidamente as AMIs do AWS Deep Learning AMIs com nosso tutorial detalhado e o guia do desenvolvedor. As mais recentes AMIs já estão disponíveis no AWS Marketplace. Assine o nosso fórum de discussão para obter anúncios de lançamentos e publicar suas perguntas.