AWS IoT Greengrass ML Inference

Implante modelos de Machine Learning otimizados para execução em dispositivos do AWS IoT Greengrass

O AWS IoT Greengrass facilita a inferência de machine learning localmente nos dispositivos usando modelos criados, treinados e otimizados na nuvem. O IoT Greengrass dá a você a flexibilidade de usar modelos de machine learning treinados no Amazon SageMaker ou de usar seu próprio modelo previamente treinado armazenado no Amazon S3.

Machine learning usa algoritmos estatísticos que aprendem com os dados existentes (um processo denominado treinamento) para tomar decisões sobre novos dados (um processo denominado inferência). Durante o treinamento, os padrões e relacionamentos nos dados são identificados para criar um modelo. O modelo permite que um sistema tome decisões inteligentes sobre dados que não encontrou antes. A otimização de modelos compacta o tamanho do modelo para que ele seja executado com rapidez. O treinamento e a otimização de modelos de Machine Learning requerem muita capacidade de processamento. Portanto, é natural que sejam feitos na nuvem. No entanto, a inferência exige uma quantidade consideravelmente menor de processamento e, muitas vezes, é executada em tempo real quando novos dados são disponibilizados. Obter resultados de inferência com latência muito baixa é importante para garantir que aplicativos de IoT possam responder com rapidez a eventos locais.

O IoT Greengrass oferece o melhor de dois mundos. Use modelos de Machine Learning criados, treinados e otimizados na nuvem e execute a interface localmente nos dispositivos. Por exemplo, você pode criar um modelo preditivo no SageMaker para a análise de detecção de cenas, otimizá-lo para a execução em qualquer câmera e implantá-lo para prever atividades suspeitas e emitir um alerta. Os dados obtidos da interface em execução no IoT Greengrass podem ser enviados de volta para o SageMaker onde podem ser direcionados e usados para melhorar de forma contínua a qualidade dos modelos de Machine Learning.

Benefícios

Flexível

O AWS IoT Greengrass inclui pacotes predefinidos do Amazon SageMaker Neo Deep Learning Runtime (DLR), Apache MXNet, TensorFlow e Chainer para dispositivos ativados por Intel Atom, NVIDIA Jetson TX2 e Raspberry Pi. Não é preciso criar e configurar a estrutura de machine learning de seus dispositivos do zero. Além disso, ele funciona com outras estruturas conhecidas, incluindo PyTorch e Caffe2. Se você usar o Amazon SageMaker Neo com o AWS IoT Greengrass, os modelos criados nessas estruturas serão convertidos em um código portátil que será executado em qualquer dispositivo com AWS IoT Greengrass para evitar ajustes adicionais na borda.

Implante modelos em dispositivos conectados com alguns cliques

O AWS IoT Greengrass facilita a implantação de modelos de machine learning da nuvem para os dispositivos. Com apenas alguns cliques no console do IoT Greengrass, você pode localizar os modelos treinados no Amazon SageMaker ou no S3, selecionar o modelo desejado e implantá-lo nos dispositivos de destino. Os modelos serão implantados no dispositivo conectado escolhido.

Acelere a performance da inferência

Com a integração com o Amazon SageMaker e o Deep Learning Compiler, você pode implantar modelos de machine learning com um tempo de execução otimizado, que podem ser executados até duas vezes mais rápido do que estruturas de machine learning usadas ou ajustadas manualmente. O AWS IoT Greengrass também oferece acesso a aceleradores de hardware, como GPUs nos dispositivos, pois disponibiliza tempos de execução predefinidos para as estruturas de ML e dispositivos de destino comuns, como a placa Nvidia Jetson TX2.

Execute a inferência em mais dispositivos

Usando a integração com o Amazon SageMaker e o Neo Compiler, os modelos são otimizados com menos de um décimo da quantidade de memória, o que permite sua execução em dispositivos com limitação de recursos, como câmeras de segurança e atuadores residenciais.

Execute facilmente a inferência em dispositivos conectados

A execução local da inferência em dispositivos conectados que executam o AWS IoT Greengrass reduz a latência e o custo de envio de dados do dispositivo para a nuvem para fazer uma previsão. Em vez de enviar todos os dados à nuvem para inferência de machine learning, execute a inferência diretamente no dispositivo.

Crie modelos mais precisos

Usando o AWS IoT Greengrass, você pode executar a inferência e capturar os resultados, detectar valores discrepantes e enviar dados de volta à nuvem e ao Amazon SageMaker, onde eles poderão ser reclassificados e direcionados para aprimorar o modelo de machine learning.

Como funciona

AWS Greengrass ML Inference – Como funciona

Casos de uso

Manutenção industrial preditiva

Com o aumento da pressão da definição de preço sobre os fabricantes, eles procuram novas formas para ajudar a aumentar a eficiência operacional nos chãos de fábrica. As demoras na detecção de problemas na linha de montagem da fábrica podem resultar em desperdício de tempo e recursos. O AWS IoT Greengrass pode ajudar a detectar antecipadamente equipamentos com falha e problemas no chão de fábrica. Os gateways industriais baseados no IoT Greengrass podem monitorar continuamente os dados dos sensores (por exemplo, vibrações, nível de ruído), prever anomalias e tomar medidas relevantes, como enviar alertas ou desligar a energia para reduzir perdas.

Agricultura de precisão

O setor agrícola enfrenta duas rupturas importantes. A população global continua a crescer, aumentando a demanda por alimentos além das quantidades produzidas. E a mudança climática causa condições meteorológicas imprevisíveis, o que afeta a produção das colheitas. O AWS IoT Greengrass pode ajudar a transformar as práticas agrícolas e a oferecer novos valores aos clientes. Câmeras equipadas com o IoT Greengrass instaladas em estufas e fazendas podem processar imagens de plantas, colheitas e dados de sensores no solo para não só detectar anomalias ambientais como mudanças de temperatura, umidade e nível de nutrição, mas também acionar alertas.

Segurança

Os fabricantes de câmeras de segurança procuram novas formas de aumentar a inteligência dos dispositivos e aumentar seus recursos de detecção de ameaças. O AWS IoT Greengrass pode ajudar a aprimorar os recursos das câmeras de segurança. As câmeras habilitadas por IoT Greengrass podem verificar continuamente o local para procurar uma mudança de cena, como a chegada de um visitante, e enviar um alerta. As câmeras conseguem rapidamente realizar uma análise para detecção de cena no local e enviar os dados para a nuvem quando necessário.

Varejo e hotelaria

Varejistas, cruzeiros e parques de diversão estão investindo em aplicativos de IoT para prestar um serviço melhor ao cliente. Por exemplo, você pode executar modelos de detecção de objetos em parques de diversões para controlar o número de visitantes. As câmeras localizam os visitantes e mantêm uma contagem localmente, sem necessidade de enviar quantidades massivas de feed de vídeo para a nuvem, o que seria muitas vezes um desafio devido à limitada largura de banda de Internet disponível. Esta solução pode prever os tempos de espera em atrações populares de parques temáticos e ajudar a melhorar a experiência do cliente.

Processamento de vídeo

O AWS IoT Greengrass pode ser implantado em dispositivos conectados, como câmeras de segurança, câmeras de tráfego, câmeras corporais e equipamento médico de imagens para ajudar a fazer previsões localmente. Com o AWS IoT Greengrass, você pode implantar e executar modelos de Machine Learning, como reconhecimento facial, detecção de objeto e densidade de imagem, diretamente no dispositivo. Por exemplo, uma câmera de tráfego pode contar bicicletas, veículos e pedestres que passam por um cruzamento e detectar quando as luzes do semáforo precisam ser ajustadas para otimizar o fluxo do tráfego e manter as pessoas seguras.
Yanmar

O AWS IoT Greengrass ajuda a Yanmar a aumentar a inteligência de operações de estufa, detectando e reconhecendo automaticamente as principais etapas de crescimento de vegetais para aumentar o número de colheitas.

600x400_Electronic-Caregiver_Logo

The Electronic Caregiver garante o fornecimento de cuidados de alta qualidade com a inferência de ML do AWS IoT Greengrass ML, permitindo o envio de modelos de machine learning diretamente a dispositivos na borda e aumentando a segurança dos pacientes.

600x400_Vantage-Power_Logo

Com o AWS IoT Greengrass, a Vantage Power envia modelos de machine learning a veículos individuais e detecta falhas de bateria com um mês de antecedência.


Leopard
acer

Saiba mais sobre os recursos do AWS IoT Greengrass

Acesse a página de recursos
Pronto para começar?
Acesse o console
Mais dúvidas?
Entre em contato conosco