AWS IoT Greengrass ML 추론

AWS IoT Greengrass 디바이스에서 실행하도록 최적화된 기계 학습 모델 배포

AWS IoT Greengrass를 사용하면 클라우드에서 생성 및 트레이닝을 거쳐 최적화된 모델을 통해 디바이스의 로컬에서 기계 학습 추론을 쉽게 실행할 수 있습니다. IoT Greengrass는 Amazon SageMaker의 기계 학습 모델을 사용하거나, 혹은 Amazon S3에 저장된 사전 트레이닝 모델을 가져오는 등 유연성이 뛰어납니다.

기계 학습에서는 기존 데이터로부터 학습할 수 있는 통계 알고리즘을 사용하여(트레이닝이라고 부르는 프로세스) 새로운 데이터에 대한 의사 결정을 내립니다(추론이라고 부르는 프로세스). 트레이닝 과정에서 모델 개발을 위한 데이터 패턴 및 관계가 발견됩니다. 이 모델을 사용하면 시스템에서 지금까지 다룬 적 없는 데이터에 대해 지능형 의사 결정을 내릴 수 있습니다. 모델을 최적화하면 모델 크기가 압축되어 실행 속도가 빨라집니다. 기계 학습 모델의 트레이닝 및 최적화는 대량의 컴퓨팅 리소스가 필요하므로 당연히 클라우드에 적합합니다. 하지만 일반적으로 추론에서는 컴퓨팅 파워를 훨씬 적게 사용하고 새로운 데이터가 제공될 때 실시간으로 수행될 때가 많습니다. 따라서 IoT 애플리케이션이 로컬 이벤트에 신속하게 대응할 수 있으려면 매우 짧은 지연 시간으로 추론 결과를 확보하는 것이 중요합니다.

IoT Greengrass를 통해 두 가지 측면의 장점을 모두 누릴 수 있습니다. 클라우드에서 개발과 트레이닝을 거쳐 최적화된 기계 학습 모델을 사용하여 디바이스의 로컬에서 추론을 실행합니다. 예를 들어 장면 탐지 분석을 위한 SageMaker에서 예측 모델을 개발하여 카메라에서 실행하도록 최적화한 후 의심스러운 활동을 예측해 알림 메시지를 전송할 목적으로 배포할 수 있습니다. IoT Greengrass에서 추론을 실행하여 수집된 데이터는 다시 SageMaker로 전송되고, 여기에서 태깅을 통해 기계 학습 모델의 품질을 계속해서 높이는 데 사용됩니다.

장점

유연성

AWS IoT Greengrass는 TensorFlow, Apache MXNet, Intel Atom 기반 디바이스에 사용되는 Chainer 패키지, NVIDIA Jetson TX2, 그리고 Raspberry Pi가 기본적으로 제공되기 때문에 처음부터 기계 학습 프레임워크를 개발하여 디바이스에 구성할 필요 없습니다. 또한 Caffe2, Microsoft Cognitive Toolkit 등 인기 있는 기타 프레임워크와 호환됩니다. Amazon SageMaker를 IoT Greengrass와 함께 사용할 경우 이러한 프레임워크로 개발된 모델들이 이식 가능한 코드로 변환되어 어떤 디바이스에서든 실행할 수 있기 때문에 엣지 영역에서 추가로 튜닝할 필요가 없습니다.

클릭 몇 번으로 커넥티드 디바이스에 모델 배포

AWS IoT Greengrass를 사용하면 기계 학습 모델을 클라우드에서 디바이스로 손쉽게 배포할 수 있습니다. IoT Greengrass 콘솔에서 클릭 몇 번으로 Amazon SageMaker 또는 S3에서 트레이닝된 모델을 찾아 원하는 모델을 선택한 후 대상 디바이스에 배포할 수 있습니다. 선택한 모델은 원하는 커넥티드 디바이스에 배포됩니다.

추론 성능 가속화

Amazon SageMaker와 Deep Learning Compiler를 함께 통합하면 기계 학습 프레임워크를 수동으로 튜닝하거나 사용할 때와 비교해 최대 2배까지 빠른 속도로 실행되어 최적의 런타임으로 기계 학습 모델을 배포할 수 있습니다. 또한 AWS IoT Greengrass에서는 공통 ML 프레임워크를 비롯해 Nvidia Jetson TX2 보드 같은 대상 디바이스에 사전 개발된 런타임을 제공하여 디바이스에 설치된 GPU 같은 하드웨어 가속기도 이용할 수 있습니다.

추가 디바이스에서 추론 실행

Amzon SageMaker 통합으로 모델이 1/10보다 작은 메모리 공간으로 최적화되기 때문에 홈 보안 카메라나 액추에이터 같이 리소스 제약이 큰 디바이스에서도 실행 가능합니다.

커넥티드 디바이스에서 쉽게 추론 실행

AWS IoT Greengrass가 실행되는 커넥티드 디바이스의 로컬에서 추론을 수행하면 클라우드로 디바이스 데이터를 보내 예측하는 지연 시간과 비용이 줄어듭니다. 기계 학습 추론을 실행하기 위해 모든 데이터를 클라우드로 전송하지 않고서도 디바이스에서 직접 추론을 실행할 수 있습니다.

더욱 정확한 모델 개발

AWS를 사용하면 추론을 실행하여 결과를 수집하고 특이값을 검출한 후 데이터를 다시 클라우드와 Amazon SageMaker로 전송할 수 있습니다. 전송된 데이터는 다시 분류 및 태깅을 거쳐 기계 학습 모델을 개선하는 데 사용됩니다.

작동 방식

AWS Greengrass ML 추론 – 작동 방식

사용 사례

동영상 처리

AWS IoT Greengrass는 보안 카메라, 교통 카메라, 전신 카메라 및 의료용 이미지 장비와 같은 커넥티드 디바이스에 배포하여 로컬에서 예측을 수행하는 데 도움을 줄 수 있습니다. AWS IoT Greengrass를 사용하면 얼굴 인식, 객체 감지 및 이미지 밀도와 같은 기계 학습 모델을 디바이스에 직접 배포하고 실행할 수 있습니다. 예를 들어 교통 카메라는 교차로를 통과하는 자전거, 차량 및 보행자 수를 셀 수 있으며, 교통 흐름을 최적화하고 사람들을 안전하게 보호하기 위해 교통 신호를 언제 조정해야 하는지 감지할 수 있습니다.

소매 및 숙박

소매업체, 크루즈 라인 및 놀이 공원은 더 나은 고객 서비스를 제공하기 위해 IoT 애플리케이션에 투자합니다. 예를 들어 놀이공원에서 개체 탐지 모델을 실행하여 입장객 수를 추적할 수 있습니다. 대용량 비디오 피드를 클라우드로 전송할 필요 없이 카메라가 입장객을 찾고 로컬에서 인원수 확인 작업을 유지 관리할 수 있습니다. 대용량 비디오 피드 전송은 제한적인 인터넷 대역폭으로 인해 어려울 때가 많습니다. 이 솔루션은 인기 있는 테마파크 놀이 기구의 대기 시간을 예측할 수 있고 고객 경험을 개선하는 데 도움이 됩니다.

보안

보안 카메라 제조업체는 디바이스를 좀 더 지능적으로 만들고 위협 탐지 기능을 자동화할 새로운 방법을 찾고 있습니다. AWS IoT Greengrass는 보안 카메라의 성능을 향상하는 데 도움이 될 수 있습니다. IoT Greengrass 지원 카메라는 지역을 계속해서 스캔하여 들어오는 방문자와 같은 장면의 변화를 찾아 알림을 전송할 수 있습니다. 이 카메라는 로컬에서 장면 탐지 분석을 신속하게 수행하고, 방문자가 가족인지를 파악하기 위한 추가 분석 등 필요할 때만 데이터를 클라우드로 전송합니다.

정밀 농업

농업은 두 가지 큰 변화를 겪고 있습니다. 첫째, 전 세계 인구가 계속 증가하면서 식량 수요가 공급을 초과하고 있으며, 둘째, 기후 변화로 예측할 수 없는 기상 조건이 발생하여 작물 수확량에 영향을 미치고 있습니다. AWS IoT Greengrass는 농업 사례를 혁신하고 고객에게 새로운 가치를 제공하는 데 도움이 될 수 있습니다. 온실과 농장에 설치된 IoT Greegrass 지원 카메라는 식물과 작물 이미지와 토양 센서의 데이터를 처리하여 온도, 습도 및 영양 수준의 변화와 같은 환경 이상 현상을 탐지할 뿐만 아니라 알림을 트리거할 수 있습니다.

예측 가능한 산업용 유지 관리

제조업체들은 가격 압박이 심해짐에 따라 작업 현장에서 운영 효율성을 높일 수 있는 좀 더 새로운 방법을 모색하고 있습니다. 생산 라인의 문제가 늦게 탐지되면 시간과 리소스 낭비로 이어질 수 있습니다. AWS IoT Greengrass는 장비 결함과 작업 현장의 문제를 조기에 탐지하도록 지원할 수 있습니다. IoT Greengrass 지원 산업용 게이트웨이는 센서 데이터(예: 진동, 소음 수준)를 지속적으로 모니터링하고, 이상 현상을 예측하고, 알림 전송이나 전원 차단과 같이 손실을 최소화할 수 있는 관련 조치를 취합니다.
Yanmar

Yanmar는 AWS IoT Greengrass를 통해 채소의 주요 성장 상태를 자동으로 탐지 및 인식하여 더 많은 작물을 재배함으로써 비닐하우스 작업의 인텔리전스 수준을 늘리는 데 도움을 받고 있습니다.

600x400_Electronic-Caregiver_Logo

Electronic Caregiver는 AWS IoT Greengrass ML 추론을 통해 고품격 간병 서비스를 제공하는 것은 물론, 기계 학습 모델을 에지 디바이스에 직접 푸시하고 환자를 더 안전하게 관리할 수 있습니다.

600x400_Vantage-Power_Logo

Vantage Power는 AWS IoT Greengrass를 통해 기계 학습 모델을 개별 차량으로 푸시하고 배터리 결함을 1개월 먼저 탐지합니다.


Leopard
acer

AWS IoT Greengrass 기능에 대해 자세히 알아보기

기능 페이지로 이동하기
시작할 준비가 되셨습니까?
콘솔 액세스
추가 질문이 있으십니까?
AWS에 문의