Nova – inferência de Machine Learning no Edge usando AWS Greengrass

Por Jeff Barr – AWS Chief Evangelist

O que acontece quando você combina a Internet das Coisas, Machine Learning e Edge Computing? Antes da explicação, vamos analisar cada um deles e discutir o que a AWS tem a oferecer.

Internet das Coisas (IoT) — Dispositivos que conectam o mundo físico e o digital. Os dispositivos, geralmente equipados com um ou mais tipos de sensores, podem ser encontrados em fábricas, veículos, minas, campos, casas e assim por diante. Os serviços importantes da AWS incluem o AWS IoT Core, o AWS IoT Analytics, o AWS IoT Device Management e o Amazon FreeRTOS, além de outros que você encontra na página do AWS IoT.

Machine Learning (ML) — Sistemas que podem ser treinados usando um conjunto de dados em escala e algoritmos estatísticos e usados ​​para fazer inferências a partir de dados novos. Na Amazon, usamos o Machine Learning para orientar as recomendações que você vê quando faz compras, para otimizar os caminhos em nossos centros de atendimento, pilotar drones e muito mais. Oferecemos suporte líder a estruturas de Machine Learning de código-aberto, como o TensorFlow e o MXNet, e tornamos o ML acessível e fácil de usar por meio do Amazon SageMaker. Também fornecemos o Amazon Rekognition para imagens e vídeos, o Amazon Lex para chatbots e uma ampla variedade de serviços de idiomas para análise de texto, tradução, reconhecimento de fala e texto para fala.

Edge Computing — O poder de ter recursos de computação e capacidade de tomada de decisão em locais diferentes, geralmente com conectividade intermitente ou sem conectividade com a nuvem. O AWS Greengrass baseia-se no AWS IoT, oferecendo a capacidade de executar funções do Lambda e manter o estado do dispositivo em sincronia mesmo quando não está conectado à Internet.

Inferência de ML no Edge
Hoje eu gostaria de jogar todas essas três importantes novas tecnologias em um liquidificador! Agora você pode realizar a inferência de Machine Learning no Edge usando o AWS Greengrass. Isso permite que você use o poder da nuvem AWS (incluindo instâncias rápidas e poderosas equipadas com GPUs) para construir, treinar e testar seus modelos de ML antes de implantá-los em dispositivos de IoT pequenos, de baixa potência e com conexão intermitente executados nessas fábricas, veículos, minas, campos e casas que mencionei.

Aqui estão algumas das muitas maneiras de uso da inferência de ML do Greengrass:

Agricultura de precisão — Com uma população mundial em constante crescimento e clima imprevisível que pode afetar o rendimento das plantações, a oportunidade de usar a tecnologia para aumentar o rendimento é imensa. Dispositivos inteligentes que estão literalmente no campo podem processar imagens de solo, plantas, pragas e plantações, tomando ações corretivas locais e enviando relatórios de status para a nuvem.

Segurança física — Dispositivos inteligentes (incluindo o AWS DeepLens) podem processar imagens e cenas localmente, procurando objetos, observando alterações e até mesmo detectando rostos. Quando algo de interesse ou uma preocupação surge, o dispositivo pode passar a imagem ou o vídeo para a nuvem e usar o Amazon Rekognition para observar mais de perto.

Manutenção Industrial — O monitoramento local inteligente pode aumentar a eficiência operacional e reduzir o tempo de inatividade não planejado. Os monitores podem executar operações de inferência sobre consumo de energia, níveis de ruído e vibração para sinalizar anomalias, prever falhas e detectar equipamentos defeituosos.

Visão geral da inferência de ML do Greengrass
Há vários aspectos diferentes para esse novo recurso da AWS. Vamos dar uma olhada em cada um deles:

Modelos de Machine Learning — Bibliotecas TensorFlow e MXNet pré-compiladas, otimizadas para uso em produção nos dispositivos NVIDIA Jetson TX2 e Intel Atom e uso de desenvolvimento em dispositivos Raspberry Pi de 32 bits. As bibliotecas otimizadas podem aproveitar os aceleradores de hardware GPU e FPGA no ponto para fornecer inferências locais rápidas.

Criação de modelos e treinamento — A capacidade de usar o Amazon SageMaker e outras ferramentas de ML baseadas em nuvem para criar, treinar e testar seus modelos antes de implantá-los em seus dispositivos IoT. Para saber mais sobre o SageMaker, leia Amazon SageMaker – Accelerated Machine Learning.

Implantação de modelos — Os modelos do SageMaker podem (se você der a eles as permissões adequadas do IAM) ser referenciados diretamente de seus grupos do Greengrass. Você também pode usar modelos armazenados em buckets do S3. Você pode adicionar um novo recurso de Machine Learning a um grupo com alguns cliques:

Esses novos recursos estão disponíveis agora e você pode começar a usá-los hoje! Para saber mais, leia Perform Machine Learning Inference.

— Jeff;