AWS IoT Greengrass ML Inference

Implante modelos de Machine Learning otimizados para execução em dispositivos do AWS IoT Greengrass

O AWS IoT Greengrass facilita a inferência de Machine Learning localmente nos dispositivos usando modelos criados, treinados e otimizados na nuvem. O IoT Greengrass dá a você a flexibilidade de usar modelos de Machine Learning no Amazon SageMaker ou de usar seu próprio modelo previamente treinado armazenado no Amazon S3.

O Machine Learning usa algoritmos estatísticos que aprendem com base em dados existentes (um processo denominado treinamento) para tomar decisões sobre novos dados (um processo denominado inferência). Durante o treinamento, os padrões e relacionamentos nos dados são identificados para criar um modelo. O modelo permite que um sistema tome decisões inteligentes sobre dados que não encontrou antes. A otimização de modelos compacta o tamanho do modelo para que ele seja executado com rapidez. O treinamento e a otimização de modelos de Machine Learning requerem muita capacidade de processamento. Portanto, é natural que sejam feitos na nuvem. No entanto, a inferência exige uma quantidade consideravelmente menor de processamento e, muitas vezes, é executada em tempo real quando novos dados são disponibilizados. A obtenção de resultados de inferência com latência muito baixa é importante para garantir que aplicativos IoT possam responder com rapidez a eventos locais.

O IoT Greengrass oferece o melhor dos dois mundos. Use modelos de Machine Learning criados, treinados e otimizados na nuvem e execute a interface localmente nos dispositivos. Por exemplo, você pode criar um modelo preditivo no SageMaker para a análise de detecção de cenas, otimizá-lo para a execução em qualquer câmera e implantá-lo para prever atividades suspeitas e emitir um alerta. Os dados obtidos da interface em execução no IoT Greengrass podem ser enviados de volta para o SageMaker onde podem ser direcionados e usados para melhorar de forma contínua a qualidade dos modelos de Machine Learning.

Benefícios

Flexível

O AWS IoT Greengrass inclui um pacote pré-definido de TensorFlow, Apache MXNet e Chainer para dispositivos com base no Intel Atom, NVIDIA Jetson TX2 e Raspberry Pi, portanto, não é preciso criar e configurar a estrutura de Machine Learning de seus dispositivos do zero. Além disso, ele funciona com outras estruturas populares, como o Caffe2 e o Microsoft Cognitive Toolkit. Se você usar o Amazon SageMaker com o IoT Greengrass, os modelos criados nessas estruturas serão convertidos em um código portátil que será executado em qualquer dispositivo para que você não tenha que fazer ajustes adicionais na borda.

Implante modelos em dispositivos conectados com alguns cliques

O AWS IoT Greengrass facilita a implantação de um modelo de Machine Learning da nuvem para os dispositivos. Com apenas alguns cliques no console do IoT Greengrass, você pode localizar os modelos treinados no Amazon SageMaker ou no S3, selecionar o modelo desejado e implantá-lo nos dispositivos de destino. Os modelos serão implantados no dispositivo conectado escolhido.

Acelere o desempenho da inferência

Com a integração com o Amazon SageMaker e o Deep Learning Compiler, você pode implantar modelos de Machine Learning com um tempo de execução otimizado que podem ser executados até duas vezes mais rápido do que ajustando ou usando estruturas de Machine Learning. O AWS IoT Greengrass também dá a você acesso a aceleradores de hardware, como GPUs em seus dispositivos, fornecendo tempos de execução pré-definidos para as estruturas de ML comuns e dispositivos de destino, como a placa Nvidia Jetson TX2.

Execute a interferência em mais dispositivos

Usando a integração com o Amzon SageMaker, os modelos são otimizados com menos de um décimo da quantidade de memória, portanto, eles podem ser executados em dispositivos com limitação de recursos, como câmeras de segurança residenciais e atuadores.

Execute facilmente a inferência em dispositivos conectados

A execução local da inferência em dispositivos conectados executando o AWS IoT Greengrass reduz a latência e o custo de envio de dados do dispositivo para a nuvem para fazer uma previsão. Em vez de enviar todos os dados à nuvem para execução da inferência de Machine Learning, execute a inferência diretamente no dispositivo.

Crie modelos mais precisos

Usando o AWS, você pode executar a inferência e capturar os resultados, detectar valores atípicos e enviar dados de volta à nuvem e ao Amazon SageMaker onde eles poderão ser reclassificados e direcionados para aprimorar o modelo de Machine Learning.

Como funciona

AWS Greengrass ML Inference – Como funciona

Casos de uso

Processamento de vídeo

O AWS IoT Greengrass pode ser implantado em dispositivos conectados, como câmeras de segurança, câmeras de tráfego, câmeras no corpo e equipamento médico de imagens, para fazer previsões localmente. Com o AWS IoT Greengrass, você pode implantar e executar modelos de Machine Learning, como reconhecimento facial, detecção de objeto e densidade de imagem, diretamente no dispositivo. Por exemplo, uma câmera de tráfego poderia contar bicicletas, veículos e pedestres que passam por um cruzamento e detectar quando as luzes do semáforo precisam ser ajustadas para otimizar o fluxo do tráfego e manter as pessoas mais seguras.

Varejo e hospitalidade

Varejistas, cruzeiros e parques de diversão estão investindo em aplicativos de IoT para prestar um serviço melhor ao cliente. Por exemplo, você pode executar modelos de detecção de objetos em parques de diversões para controlar o número de visitantes. As câmeras localizam os visitantes e mantêm uma contagem localmente, sem necessidade de enviar quantidades massivas de feed de vídeo para a nuvem, o que seria muitas vezes um desafio devido à limitada largura de banda de Internet disponível. Essa solução pode prever os tempos de espera em atrações populares de parques temáticos e ajudar a melhorar a experiência do cliente.

Segurança

Os fabricantes de câmeras de segurança procuram novas formas de aumentar a inteligência dos dispositivos e aumentar seus recursos de detecção de ameaças. O AWS IoT Greengrass pode ajudar a aprimorar os recursos das câmeras de segurança. As câmeras habilitadas para IoT Greengrass podem verificar continuamente o local para procurar uma mudança na cena, como a chegada de um visitante, e enviar um alerta. As câmeras podem executar rapidamente análises de detecção de cena no local e somente enviar os dados para a nuvem quando necessário (por exemplo, para executar análises adicionais para identificar se um visitante é um familiar).

Agricultura de precisão

O setor agrícola enfrenta duas rupturas importantes. A população global continua a crescer, aumentando a demanda por alimentos além das quantidades produzidas. E a mudança climática causa condições meteorológicas imprevisíveis, o que afeta a produção das colheitas. O AWS IoT Greengrass pode ajudar a transformar as práticas agrícolas e a oferecer novos valores aos clientes. Câmeras equipadas com o IoT Greengrass instaladas em estufas e fazendas podem processar imagens de plantas, colheitas e dados de sensores no solo para não só detectar anomalias ambientais como mudanças de temperatura, umidade e nível de nutrição, mas também acionar alertas.

Manutenção industrial preditiva

Com o aumento da pressão da definição de preço sobre os fabricantes, eles procuram novas formas para ajudar a aumentar a eficiência operacional nos chãos de fábrica. As demoras na detecção de problemas na linha de montagem da fábrica podem resultar em desperdício de tempo e recursos. O AWS IoT Greengrass pode ajudar a detectar antecipadamente equipamentos como falha e problemas no chão de fábrica. Os gateways industriais baseados no IoT Greengrass podem monitorar continuamente os dados dos sensores (por exemplo, vibrações, nível de ruído), prever anomalias e tomar medidas relevantes como enviar alertas ou desligar a energia para reduzir as perdas.

Clientes em destaque

YANMAR

A Yanmar usa o AWS IoT Greengrass ML Inference como parte da sua solução de agricultura de precisão baseada em IoT que aumenta a inteligência das operações de estufa, detectando e reconhecendo automaticamente as principais etapas de crescimento dos vegetais.

DFDS

Os dispositivos de IoT habilitados com o AWS IoT Greengrass ML Inference oferecem à DFDS previsão e otimização da propulsão de navios para, em última análise, reduzir o consumo de combustível de toda a frota.


Parceiros em destaque

Leopard

“A disseminação da inteligência artificial e o ritmo da transformação digital continuam crescendo a uma velocidade surpreendente. Inovações como os últimos aprimoramentos do AWS IoT Greengrass ML Inference, que reduziram significativamente a latência sem reduzir a precisão da inferência de ML, aceleram novas soluções para casos de uso de automação industrial para a identificação e a classificação de objetos. A nova solução de Machine Learning do AWS integrada ao AICam da Leopard Imaging baseada em NVIDIA® GPU servirá de base para qualquer solução Industrial e de Smart City do ponto para a nuvem.”

– Bill Pu, Presidente e Cofundador da Leopard Imaging


Lenovo

"O potencial dos casos de uso da visão computadorizada possibilitados pela IoT e pela IA é amplo e pode ser explorado por empresas que queiram melhorar a produtividade e eficiência. Neste momento de transformação inteligente, nossas câmeras industriais premium Think IoT desenvolvidos pelo AWS IoT Greengrass com as mais recentes atualizações de Machine Learning foram desenvolvidas para garantir uma diferença notável para os clientes corporativos.”

– Jon Pershke, Vice-presidente de estratégia e negócios emergentes da Intelligent Devices


Panasonic

"O Vieureka da Panasonic tem o prazer de usar as funções em evolução de Machine Learning do AWS como permitido pelo AWS IoT Greengrass. Para oferecer as Vieureka-Cameras e as funções de gerenciamento de serviços para todos os parceiros da comunidade AWS, eu gostaria de desenvolver um versão compatível com o AWS IoT Greengrass o quanto antes. Criaremos o ambiente para os desenvolvedores no primeiro semestre de 2019, e disponibilizaremos versões comerciais no segundo semestre do mesmo ano."

– Miyazaki, CEO da Vieureka Service da Panasonic


ADLINK

"A adição do AWS IoT Greengrass com a atualização mais recente da Inferência de Machine Learning em execução no sistema de visão industrial do ADLINK permite a criação de uma solução de IoT verdadeiramente plug-and-play. Agora, quando ativamos uma câmera smart ADLINK NEON pronta para uso executando o AWS IoT Greengrass com a atualização mais recente da Inferência de Machine Learning, podemos obter resultados de alta qualidade com muito mais rapidez. Isso nos permite acelerar ainda mais o desenvolvimento de nossos experimentos digitais de IoT para nossos clientes de logística, inspeção de qualidade, robótica industrial e outros clientes do setor de manufatura."

– Elizabeth Campbell, Gerente Geral das Américas da ADLINK Technology

Saiba mais sobre os recursos do AWS IoT Greengrass

Acesse a página de recursos
Pronto para começar?
Acesse o console
Mais dúvidas?
Entre em contato conosco