AWS IoT Greengrass ML Inference

O AWS IoT Greengrass facilita realizar a inferência de machine learning localmente em dispositivos usando modelos criados, treinados e otimizados na nuvem. O AWS IoT Greengrass dá a você a flexibilidade de usar modelos de machine learning treinados no Amazon SageMaker ou de usar seu próprio modelo previamente treinado armazenado no Simple Storage Service (Amazon S3).

Machine learning usa algoritmos estatísticos que aprendem com os dados existentes, um processo denominado treinamento, para tomar decisões sobre novos dados, um processo denominado inferência. Durante o treinamento, os padrões e relacionamentos nos dados são identificados para criar um modelo. O modelo permite que um sistema tome decisões inteligentes sobre dados que não encontrou antes. A otimização de modelos compacta o tamanho do modelo para que ele seja executado com rapidez. O treinamento e a otimização de modelos de Machine Learning requerem muita capacidade de processamento. Portanto, é natural que sejam feitos na nuvem. No entanto, a inferência exige uma quantidade consideravelmente menor de processamento e, muitas vezes, é executada em tempo real quando novos dados são disponibilizados. Obter resultados de inferência com latência muito baixa é importante para garantir que aplicativos de IoT possam responder com rapidez a eventos locais.

O AWS IoT Greengrass oferece o melhor de dois mundos. Use modelos de machine learning criados, treinados e otimizados na nuvem e execute a inferência localmente em dispositivos. Por exemplo, você pode criar um modelo preditivo no SageMaker para a análise de detecção de cenas, otimizá-lo para a execução em qualquer câmera e implantá-lo para prever atividades suspeitas e emitir um alerta. Os dados obtidos da inferência em execução no AWS IoT Greengrass podem ser enviados de volta para o SageMaker onde podem ser marcados e usados para melhorar de forma contínua a qualidade dos modelos de machine learning.