AWS IoT Greengrass ML Inference

Implante modelos de Machine Learning otimizados para execução em dispositivos do AWS IoT Greengrass

O AWS IoT Greengrass facilita a inferência de Machine Learning localmente nos dispositivos usando modelos criados, treinados e otimizados na nuvem. O IoT Greengrass dá a você a flexibilidade de usar modelos de Machine Learning no Amazon SageMaker ou de usar seu próprio modelo previamente treinado armazenado no Amazon S3.

O Machine Learning usa algoritmos estatísticos que aprendem com base em dados existentes (um processo denominado treinamento) para tomar decisões sobre novos dados (um processo denominado inferência). Durante o treinamento, os padrões e relacionamentos nos dados são identificados para criar um modelo. O modelo permite que um sistema tome decisões inteligentes sobre dados que não encontrou antes. A otimização de modelos compacta o tamanho do modelo para que ele seja executado com rapidez. O treinamento e a otimização de modelos de Machine Learning requerem muita capacidade de processamento. Portanto, é natural que sejam feitos na nuvem. No entanto, a inferência exige uma quantidade consideravelmente menor de processamento e, muitas vezes, é executada em tempo real quando novos dados são disponibilizados. A obtenção de resultados de inferência com latência muito baixa é importante para garantir que aplicativos IoT possam responder com rapidez a eventos locais.

O IoT Greengrass oferece o melhor dos dois mundos. Use modelos de Machine Learning criados, treinados e otimizados na nuvem e execute a interface localmente nos dispositivos. Por exemplo, você pode criar um modelo preditivo no SageMaker para a análise de detecção de cenas, otimizá-lo para a execução em qualquer câmera e implantá-lo para prever atividades suspeitas e emitir um alerta. Os dados obtidos da interface em execução no IoT Greengrass podem ser enviados de volta para o SageMaker onde podem ser direcionados e usados para melhorar de forma contínua a qualidade dos modelos de Machine Learning.

Benefícios

Flexível

O AWS IoT Greengrass inclui um pacote pré-definido de TensorFlow, Apache MXNet e Chainer para dispositivos com base no Intel Atom, NVIDIA Jetson TX2 e Raspberry Pi, portanto, não é preciso criar e configurar a estrutura de Machine Learning de seus dispositivos do zero. Além disso, ele funciona com outras estruturas populares, como o Caffe2 e o Microsoft Cognitive Toolkit. Se você usar o Amazon SageMaker com o IoT Greengrass, os modelos criados nessas estruturas serão convertidos em um código portátil que será executado em qualquer dispositivo para que você não tenha que fazer ajustes adicionais na borda.

Implante modelos em dispositivos conectados com alguns cliques

O AWS IoT Greengrass facilita a implantação de modelos de machine learning da nuvem para os dispositivos. Com apenas alguns cliques no console do IoT Greengrass, você pode localizar os modelos treinados no Amazon SageMaker ou no S3, selecionar o modelo desejado e implantá-lo nos dispositivos de destino. Os modelos serão implantados no dispositivo conectado escolhido.

Acelere a performance da inferência

Com a integração com o Amazon SageMaker e o Deep Learning Compiler, você pode implantar modelos de machine learning com um tempo de execução otimizado que podem ser executados até duas vezes mais rápido do que ajustando ou usando manualmente estruturas de machine learning. O AWS IoT Greengrass também oferece acesso a aceleradores de hardware, como GPUs nos dispositivos, disponibilizando tempos de execução predefinidos para as estruturas de ML e dispositivos de destino comuns, como a placa Nvidia Jetson TX2.

Execute a inferência em mais dispositivos

Usando a integração com o Amazon SageMaker, os modelos são otimizados usando menos de um décimo da quantidade de memória, o que permite sua execução em dispositivos com limitação de recursos, como câmeras de segurança e atuadores residenciais.

Execute facilmente a inferência em dispositivos conectados

A execução local da inferência em dispositivos conectados executando o AWS IoT Greengrass reduz a latência e o custo de envio de dados do dispositivo para a nuvem para fazer uma previsão. Em vez de enviar todos os dados à nuvem para execução da inferência de machine learning, execute a inferência diretamente no dispositivo.

Crie modelos mais precisos

Usando a AWS, você pode executar a inferência e capturar os resultados, detectar valores discrepantes e enviar dados de volta à nuvem e ao Amazon SageMaker, onde eles poderão ser reclassificados e direcionados para aprimorar o modelo de machine learning.

Como funciona

AWS Greengrass ML Inference – Como funciona

Casos de uso

Processamento de vídeo

O AWS IoT Greengrass pode ser implantado em dispositivos conectados, como câmeras de segurança, câmeras de tráfego, câmeras corporais e equipamento médico de imagens para ajudar a fazer previsões localmente. Com o AWS IoT Greengrass, você pode implantar e executar modelos de Machine Learning, como reconhecimento facial, detecção de objeto e densidade de imagem, diretamente no dispositivo. Por exemplo, uma câmera de tráfego pode contar bicicletas, veículos e pedestres que passam por um cruzamento e detectar quando as luzes do semáforo precisam ser ajustadas para otimizar o fluxo do tráfego e manter as pessoas seguras.

Varejo e hotelaria

Varejistas, cruzeiros e parques de diversão estão investindo em aplicativos de IoT para prestar um serviço melhor ao cliente. Por exemplo, você pode executar modelos de detecção de objetos em parques de diversões para controlar o número de visitantes. As câmeras localizam os visitantes e mantêm uma contagem localmente, sem necessidade de enviar quantidades massivas de feed de vídeo para a nuvem, o que seria muitas vezes um desafio devido à limitada largura de banda de Internet disponível. Essa solução pode prever os tempos de espera em atrações populares de parques temáticos e ajudar a melhorar a experiência do cliente.

Segurança

Os fabricantes de câmeras de segurança procuram novas formas de aumentar a inteligência dos dispositivos e aumentar seus recursos de detecção de ameaças. O AWS IoT Greengrass pode ajudar a aprimorar os recursos das câmeras de segurança. As câmeras habilitadas para IoT Greengrass podem verificar continuamente o local para procurar uma mudança na cena, como a chegada de um visitante, e enviar um alerta. As câmeras podem executar rapidamente análises de detecção de cena no local e somente enviar os dados para a nuvem quando necessário (por exemplo, para executar análises adicionais para identificar se um visitante é um familiar).

Agricultura de precisão

O setor agrícola enfrenta duas rupturas importantes. A população global continua a crescer, aumentando a demanda por alimentos além das quantidades produzidas. E a mudança climática causa condições meteorológicas imprevisíveis, o que afeta a produção das colheitas. O AWS IoT Greengrass pode ajudar a transformar as práticas agrícolas e a oferecer novos valores aos clientes. Câmeras equipadas com o IoT Greengrass instaladas em estufas e fazendas podem processar imagens de plantas, colheitas e dados de sensores no solo para não só detectar anomalias ambientais como mudanças de temperatura, umidade e nível de nutrição, mas também acionar alertas.

Manutenção industrial preditiva

Com o aumento da pressão da definição de preço sobre os fabricantes, eles procuram novas formas para ajudar a aumentar a eficiência operacional nos chãos de fábrica. As demoras na detecção de problemas na linha de montagem da fábrica podem resultar em desperdício de tempo e recursos. O AWS IoT Greengrass pode ajudar a detectar antecipadamente equipamentos como falha e problemas no chão de fábrica. Os gateways industriais baseados no IoT Greengrass podem monitorar continuamente os dados dos sensores (por exemplo, vibrações, nível de ruído), prever anomalias e tomar medidas relevantes como enviar alertas ou desligar a energia para reduzir as perdas.
Yanmar

O AWS IoT Greengrass ajuda a Yanmar a aumentar a inteligência de operações de estufa, detectando e reconhecendo automaticamente as principais etapas de crescimento de vegetais para aumentar o número de colheitas.

600x400_Electronic-Caregiver_Logo

The Electronic Caregiver garante o fornecimento de cuidados de alta qualidade com a inferência de ML do AWS IoT Greengrass ML, permitindo o envio de modelos de machine learning diretamente a dispositivos na borda e aumentando a segurança dos pacientes.

600x400_Vantage-Power_Logo

Com o AWS IoT Greengrass, a Vantage Power envia modelos de machine learning a veículos individuais e detecta falhas de bateria com um mês de antecedência.


Leopard
acer

Saiba mais sobre os recursos do AWS IoT Greengrass

Acesse a página de recursos
Pronto para começar?
Acesse o console
Mais dúvidas?
Entre em contato conosco