AWS IoT Greengrass ML 추론

AWS IoT Greengrass 디바이스에서 실행하도록 최적화된 기계 학습 모델 배포

AWS IoT Greengrass를 사용하면 클라우드에서 생성 및 트레이닝을 거쳐 최적화된 모델을 통해 디바이스의 로컬에서 기계 학습 추론을 쉽게 실행할 수 있습니다. IoT Greengrass는 Amazon SageMaker의 기계 학습 모델을 사용하거나, 혹은 Amazon S3에 저장된 사전 트레이닝 모델을 가져오는 등 유연성이 뛰어납니다.

기계 학습에서는 기존 데이터로부터 학습할 수 있는 통계 알고리즘을 사용하여(트레이닝이라고 부르는 프로세스) 새로운 데이터에 대한 의사 결정을 내립니다(추론이라고 부르는 프로세스). 트레이닝 과정에서 모델 개발을 위한 데이터 패턴 및 관계가 발견됩니다. 이 모델을 사용하면 시스템에서 지금까지 다룬 적 없는 데이터에 대해 지능형 의사 결정을 내릴 수 있습니다. 모델을 최적화하면 모델 크기가 압축되어 실행 속도가 빨라집니다. 기계 학습 모델의 트레이닝 및 최적화는 대량의 컴퓨팅 리소스가 필요하므로 당연히 클라우드에 적합합니다. 하지만 일반적으로 추론에서는 컴퓨팅 파워를 훨씬 적게 사용하고 새로운 데이터가 제공될 때 실시간으로 수행될 때가 많습니다. 따라서 IoT 애플리케이션이 로컬 이벤트에 신속하게 대응할 수 있으려면 매우 짧은 지연 시간으로 추론 결과를 확보하는 것이 중요합니다.

IoT Greengrass를 통해 두 가지 측면의 장점을 모두 누릴 수 있습니다. 클라우드에서 개발과 트레이닝을 거쳐 최적화된 기계 학습 모델을 사용하여 디바이스의 로컬에서 추론을 실행합니다. 예를 들어 장면 탐지 분석을 위한 SageMaker에서 예측 모델을 개발하여 카메라에서 실행하도록 최적화한 후 의심스러운 활동을 예측해 알림 메시지를 전송할 목적으로 배포할 수 있습니다. IoT Greengrass에서 추론을 실행하여 수집된 데이터는 다시 SageMaker로 전송되고, 여기에서 태깅을 통해 기계 학습 모델의 품질을 계속해서 높이는 데 사용됩니다.

장점

유연성

AWS IoT Greengrass는 TensorFlow, Apache MXNet, Intel Atom 기반 디바이스에 사용되는 Chainer 패키지, NVIDIA Jetson TX2, 그리고 Raspberry Pi가 기본적으로 제공되기 때문에 처음부터 기계 학습 프레임워크를 개발하여 디바이스에 구성할 필요 없습니다. 또한 Caffe2, Microsoft Cognitive Toolkit 등 인기 있는 기타 프레임워크와 호환됩니다. Amazon SageMaker를 IoT Greengrass와 함께 사용할 경우 이러한 프레임워크로 개발된 모델들이 이식 가능한 코드로 변환되어 어떤 디바이스에서든 실행할 수 있기 때문에 엣지 영역에서 추가로 튜닝할 필요가 없습니다.

클릭 몇 번으로 커넥티드 디바이스에 모델 배포

AWS IoT Greengrass를 사용하면 기계 학습 모델을 클라우드에서 디바이스로 손쉽게 배포할 수 있습니다. IoT Greengrass 콘솔에서 클릭 몇 번으로 Amazon SageMaker 또는 S3에서 트레이닝된 모델을 찾아 원하는 모델을 선택한 후 대상 디바이스에 배포할 수 있습니다. 선택한 모델은 원하는 커넥티드 디바이스에 배포됩니다.

추론 성능 가속화

Amazon SageMaker와 Deep Learning Compiler를 함께 통합하면 기계 학습 프레임워크를 수동으로 튜닝하거나 사용할 때와 비교해 최대 2배까지 빠른 속도로 실행되어 최적의 런타임으로 기계 학습 모델을 배포할 수 있습니다. 또한 AWS IoT Greengrass에서는 공통 ML 프레임워크를 비롯해 Nvidia Jetson TX2 보드 같은 대상 디바이스에 사전 개발된 런타임을 제공하여 디바이스에 설치된 GPU 같은 하드웨어 가속기도 이용할 수 있습니다.

추가 디바이스에서 추론 실행

Amzon SageMaker 통합으로 모델이 1/10보다 작은 메모리 공간으로 최적화되기 때문에 홈 보안 카메라나 액추에이터 같이 리소스 제약이 큰 디바이스에서도 실행 가능합니다.

커넥티드 디바이스에서 쉽게 추론 실행

AWS IoT Greengrass가 실행되는 커넥티드 디바이스의 로컬에서 추론을 수행하면 클라우드로 디바이스 데이터를 보내 예측하는 지연 시간과 비용이 줄어듭니다. 기계 학습 추론을 실행하기 위해 모든 데이터를 클라우드로 전송하지 않고서도 디바이스에서 직접 추론을 실행할 수 있습니다.

더욱 정확한 모델 개발

AWS를 사용하면 추론을 실행하여 결과를 수집하고 특이값을 검출한 후 데이터를 다시 클라우드와 Amazon SageMaker로 전송할 수 있습니다. 전송된 데이터는 다시 분류 및 태깅을 거쳐 기계 학습 모델을 개선하는 데 사용됩니다.

작동 방식

AWS Greengrass ML 추론 – 작동 방식

사용 사례

비디오 처리

AWS IoT Greengrass는 보안 카메라, 교통 카메라, 전신 카메라 및 의료용 이미지 장비와 같은 커넥티드 디바이스에 배포하여 로컬에서 예측을 수행하는 데 도움을 줄 수 있습니다. AWS IoT Greengrass를 사용하면 얼굴 인식, 객체 감지 및 이미지 밀도와 같은 기계 학습 모델을 디바이스에 직접 배포하고 실행할 수 있습니다. 예를 들어 교통 카메라는 교차로를 통과하는 자전거, 차량 및 보행자 수를 셀 수 있으며, 교통 흐름을 최적화하고 사람들을 안전하게 보호하기 위해 교통 신호를 언제 조정해야 하는지 감지할 수 있습니다.

소매 및 숙박

소매업체, 크루즈 라인 및 놀이 공원은 더 나은 고객 서비스를 제공하기 위해 IoT 애플리케이션에 투자합니다. 예를 들어 놀이공원에서 개체 탐지 모델을 실행하여 입장객 수를 추적할 수 있습니다. 대용량 비디오 피드를 클라우드로 전송할 필요 없이 카메라가 입장객을 찾고 로컬에서 인원수 확인 작업을 유지 관리할 수 있습니다. 대용량 비디오 피드 전송은 제한적인 인터넷 대역폭으로 인해 어려울 때가 많습니다. 이 솔루션은 인기 있는 테마파크 놀이 기구의 대기 시간을 예측할 수 있고 고객 경험을 개선하는 데 도움이 됩니다.

보안

보안 카메라 제조업체는 디바이스를 좀 더 지능적으로 만들고 위협 탐지 기능을 자동화할 새로운 방법을 찾고 있습니다. AWS IoT Greengrass는 보안 카메라의 성능을 향상하는 데 도움이 될 수 있습니다. IoT Greengrass 지원 카메라는 지역을 계속해서 스캔하여 들어오는 방문자와 같은 장면의 변화를 찾아 알림을 전송할 수 있습니다. 이 카메라는 로컬에서 장면 탐지 분석을 신속하게 수행하고, 방문자가 가족인지를 파악하기 위한 추가 분석 등 필요할 때만 데이터를 클라우드로 전송합니다.

정밀 농업

농업은 두 가지 큰 변화를 겪고 있습니다. 첫째, 전 세계 인구가 계속 증가하면서 식량 수요가 공급을 초과하고 있으며, 둘째, 기후 변화로 예측할 수 없는 기상 조건이 발생하여 작물 수확량에 영향을 미치고 있습니다. AWS IoT Greengrass는 농업 사례를 혁신하고 고객에게 새로운 가치를 제공하는 데 도움이 될 수 있습니다. 온실과 농장에 설치된 IoT Greegrass 지원 카메라는 식물과 작물 이미지와 토양 센서의 데이터를 처리하여 온도, 습도 및 영양 수준의 변화와 같은 환경 이상 현상을 탐지할 뿐만 아니라 알림을 트리거할 수 있습니다.

예측 가능한 산업용 유지 관리

제조업체들은 가격 압박이 심해짐에 따라 작업 현장에서 운영 효율성을 높일 수 있는 좀 더 새로운 방법을 모색하고 있습니다. 생산 라인의 문제가 늦게 탐지되면 시간과 리소스 낭비로 이어질 수 있습니다. AWS IoT Greengrass는 장비 결함과 작업 현장의 문제를 조기에 탐지하도록 지원할 수 있습니다. IoT Greengrass 지원 산업용 게이트웨이는 센서 데이터(예: 진동, 소음 수준)를 지속적으로 모니터링하고, 이상 현상을 예측하고, 알림 전송이나 전원 차단과 같이 손실을 최소화할 수 있는 관련 조치를 취합니다.

주요 고객

Yanmar

Yanmar에서는 식물 성장 단계를 자동으로 탐지 및 인식함으로써 온실 운영 인텔리전스를 개선하는 자사의 IoT 정밀 농업 솔루션의 일부로 AWS IoT Greengrass ML 추론을 활용합니다.

DFDS

AWS IoT Greengrass ML 추론 지원 IoT 디바이스를 사용하면 DFDS가 선박 추진을 예측 및 최적화하여 궁극적으로 전체 선박의 연료 소비를 줄일 수 있습니다.


주요 파트너

Leopard

“인공 지능의 확산과 디지털 변혁의 속도가 무섭게 빨라지고 있습니다. 가장 최근에 개선된 AWS IoT Greengrass ML 추론 같이 ML 추론의 정확성은 유지한 채 지연 시간만 크게 떨어뜨리는 혁신 기능들은 새롭게 등장하고 있는 산업 자동화 사용 사례에서 객체 식별 및 분류를 위한 새로운 솔루션 개발을 앞당기고 있습니다. AWS의 새로운 기계 학습 솔루션이 Leopard Imaging의 NVIDIA® GPU 기반 AICam과 통합되면서 앞으로 모든 엣지 영역에서 클라우드 산업 및 스마트 시티 솔루션을 떠받치는 초석이 될 것입니다.”

-Bill Pu, Leopard Imaging 사장 겸 공동 설립자


Lenovo

“IoT와 AI를 기반으로 한 컴퓨터 비전 사용 사례의 잠재력은 무궁무진하여 앞으로 기업의 생산성과 효율성을 크게 개선할 것입니다. 오늘날 지능적 변혁의 시대를 맞아 우리의 프리미엄 산업용 Think IoT 카메라는 최근 기계 학습 업그레이드를 마친 AWS IoT Greengrass가 탑재되면서 기업 고객들의 이목을 사로잡을 수 있는 차별화를 창출하고 있습니다.”

- Jon Pershke, Intelligent Devices의 Strategy and Emerging Business 부사장


Panasonic

“Panasonic의 Vieureka 팀은 AWS IoT Greengrass를 기반으로 점차 진화하는 AWS의 기계 학습 기능을 이용할 수 있게 되어 매우 기뻐하고 있습니다. 저는 AWS 커뮤니티의 모든 파트너에게 Vieureka-Cameras 및 서비스 관리 기능을 제공할 목적으로 AWS IoT Greengrass 호환 버전을 최대한 빠르게 개발할 생각입니다. 또한 2019년 봄에는 개발자 환경을 개발한 후 동년 가을까지 상용 버전을 출시할 계획입니다.”

- Miyazaki, Panasonic의 Vieureka Service CEO


ADLINK

“최근 ML 추론 기능의 업데이트를 마친 AWS IoT Greengrass를 ADLINK의 산업용 비전 시스템에 추가하면서 진정한 플러그-앤-플레이 IoT에 더욱 가까워졌습니다. 이제 ML 추론 기능이 업데이트된 AWS IoT Greengrass를 기반으로 ADLINK NEON 스마트 카메라를 한층 강화하여 훨씬 더 빠른 속도로 높은 성과에 도달할 수 있습니다. 이로써 우리는 물류, 품질 검사, 산업용 로보틱스, 기타 제조 부문 고객들을 위해 IoT 디지털 실험을 더욱 빠르게 개발할 수 있게 되었습니다.”

- Elizabeth Campbell, ADLINK Technology의 The Americas 총괄 책임자

AWS IoT Greengrass 기능에 대해 자세히 알아보기

기능 페이지로 이동하기
시작할 준비가 되셨습니까?
콘솔 액세스
추가 질문이 있으십니까?
AWS에 문의하기